The trick creates AI to remember accurately like there is a Knowledge Graph in the head! 🤖

Want AI to say hello like a close friend?

Try the technique of extracting "characters" or "things" into a specific database.

But be careful! Complex memory systems always come with the challenges of Latency and Cost.

The head will be a pain but definitely worth it if you do! Anyone who has ever met the Error of Context Window? Please share!

# AIEngineer # DataStructure # TechKnowledge # IT content # BeyondThePrompt

1/29 Edited to

จากประสบการณ์ส่วนตัวที่เคยลองใช้งานระบบ AI ที่ออกแบบให้จำข้อมูลเฉพาะผ่าน Entity Memory เหมือนกับมี Knowledge Graph อยู่ในหัว พบว่าเทคนิคนี้ช่วยให้ AI สามารถตอบสนองได้อย่างเป็นธรรมชาติมากขึ้น เช่น AI จำได้ว่าผู้ใช้ชอบหรือสนใจอะไร ช่วยให้คำแนะนำหรือการทักทายมีความเฉพาะบุคคลมากขึ้นอย่างเห็นได้ชัด อย่างไรก็ตาม การสร้างระบบ Memory ที่ซับซ้อนเช่นนี้ไม่ใช่เรื่องง่าย โดยเฉพาะเรื่อง Latency หรือความล่าช้าในการประมวลผลที่อาจเกิดเมื่อข้อมูลมีปริมาณมาก จึงต้องพยายามออกแบบโครงสร้างข้อมูลให้มีประสิทธิภาพ และลดการค้นหาที่ไม่จำเป็นเพื่อลดเวลาในการตอบกลับ นอกจากนี้ ยังต้องคำนึงถึงต้นทุนที่เพิ่มขึ้น เนื่องจากการเก็บข้อมูลและเรียกใช้ API หลายครั้ง สามารถทำให้ค่าใช้จ่ายบานปลายหากไม่มีการบริหารจัดการอย่างรัดกุม อีกประเด็นสำคัญคือ Context Window Limit ซึ่งเป็นขนาดข้อมูลที่ AI สามารถรับและประมวลผลได้ในครั้งเดียว หากข้อมูลเกินขนาดนี้ อาจทำให้เกิด Error หรือ AI จำข้อมูลไม่ครบถ้วน การวางแผนและจัดการกับ Context Window จึงเป็นสิ่งจำเป็น เช่น การสรุปข้อมูลสำคัญในแต่ละช่วงเพื่อลดขนาด จากเรื่องราวเหล่านี้ จะเห็นได้ว่าเทคนิค Entity Memory หรือการสกัดตัวละครและสิ่งของในฐานข้อมูลเฉพาะ ไม่เพียงช่วยทำให้ AI เป็นเหมือนเพื่อนที่จำเราได้จริง ๆ เท่านั้น แต่ยังเป็นการเพิ่มมูลค่าและประสบการณ์ผู้ใช้ได้อย่างมาก ใครสนใจลองเริ่มต้นกับการออกแบบ Knowledge Graph หรือ Entity Memory ด้วยวิธีง่าย ๆ ก่อน แล้วค่อย ๆ ขยายระบบไปตามความต้องการ จะช่วยให้ระบบมีความยืดหยุ่นและประหยัดต้นทุนได้ดีขึ้นจริงๆ