MRAgent: โครงสร้างความจำใหม่ที่ช่วยลดการใช้โทเคนใน AI
Photo: Google DeepMind / Pexels

ในโลกของปัญญาประดิษฐ์ (AI) การจัดการความจำเป็นสิ่งสำคัญที่ช่วยให้ระบบสามารถทำงานได้อย่างมีประสิทธิภาพ โดยเฉพาะในการประมวลผลข้อมูลที่มีความซับซ้อนและยาวนาน นักวิจัยจากมหาวิทยาลัยแห่งชาติสิงคโปร์ได้พัฒนา MRAgent ซึ่งเป็นโครงสร้างความจำใหม่ที่มุ่งหวังที่จะปรับปรุงการทำงานของ AI โดยเฉพาะในการจัดการกับข้อมูลที่มีความยาวและซับซ้อน ซึ่งพบว่าระบบ AI ในปัจจุบันมักเผชิญกับปัญหาในการจัดการกับบริบทที่มีความยาว ทำให้ไม่สามารถประมวลผลข้อมูลได้อย่างมีประสิทธิภาพ

MRAgent มีการเปลี่ยนแปลงจากวิธีการเดิมที่เรียกว่า “retrieve-then-reason” ซึ่งเป็นการดึงข้อมูลจากฐานข้อมูลก่อนแล้วจึงทำการวิเคราะห์ โดย MRAgent จะใช้กลไกที่ช่วยให้ AI สามารถพัฒนาความจำได้อย่างมีพลศาสตร์ตามข้อมูลที่ได้รับมา การก่อสร้างความจำในลักษณะนี้จะถูกผนวกเข้ากับกระบวนการวิเคราะห์ของโมเดลภาษาใหญ่ (LLM) ทำให้สามารถลดการใช้โทเคนและค่าใช้จ่ายในการทำงานได้อย่างมีนัยสำคัญ

ปัญหาที่เกิดขึ้นกับระบบการดึงข้อมูลแบบดั้งเดิมคือการไม่สามารถปรับกลยุทธ์การดึงข้อมูลในระหว่างการวิเคราะห์ได้ หาก AI ดึงข้อมูลมาแล้วพบว่าข้อมูลที่ดึงมานั้นไม่ครบถ้วนหรือขาดข้อมูลสำคัญ เช่น วันที่หรือชื่อบุคคล จะไม่มีวิธีการในการส่งคำขอใหม่เพื่อดึงข้อมูลเพิ่มเติม นอกจากนี้ การใช้คะแนนความคล้ายคลึงที่กำหนดไว้ล่วงหน้าและการขยายกราฟที่ตายตัวทำให้เกิดการจับคู่ที่ไม่เกี่ยวข้อง ซึ่งจะทำให้บริบทของ LLM เต็มไปด้วยข้อมูลที่ไม่เกี่ยวข้อง ส่งผลกระทบต่อการวิเคราะห์

ด้วยเหตุนี้ นักวิจัยจึงเสนอให้มีการเปลี่ยนแปลงไปสู่กระบวนการ “active and associative reconstruction” ซึ่งได้รับแรงบันดาลใจจากประสาทวิทยาศาสตร์ การพัฒนานี้จะช่วยให้ AI สามารถสร้างความจำที่มีพลศาสตร์และสามารถปรับตัวตามข้อมูลที่ได้รับมาได้ในขณะนั้น ทำให้สามารถจัดการกับความท้าทายในการทำงานที่มีความซับซ้อนได้ดียิ่งขึ้น

MRAgent ไม่ใช่เพียงโครงสร้างเดียวที่มีอยู่ในตลาด แต่การพัฒนานี้แสดงให้เห็นถึงความก้าวหน้าในด้านการจัดการความจำของ AI ที่สามารถนำไปสู่การลดการใช้โทเคนที่สูงและค่าใช้จ่ายในการดำเนินงานที่ลดลง ในขณะที่ยังคงความสามารถในการวิเคราะห์ข้อมูลที่มีความซับซ้อนและยาวนานอย่างมีประสิทธิภาพ การพัฒนาเช่นนี้จะเป็นก้าวสำคัญในอนาคตของการพัฒนา AI ที่สามารถทำงานได้อย่างมีประสิทธิภาพมากขึ้นในหลากหลายสถานการณ์.


แหล่งข้อมูลอ้างอิง

บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก bendee983@gmail.com (Ben Dickson) ตามลิงก์ต้นฉบับด้านล่าง

อ่านต้นฉบับ: New agentic memory framework uses 118K tokens per query. LangMem burns through 3.26M.

#MRAgent #AI #ความจำ #การประมวลผลภาษา #เทคโนโลยี