MRAgent: กรอบการทำงานใหม่สำหรับหน่วยความจำเชิงปฏิบัติการที่ลดการใช้โทเคน

นักวิจัยจากมหาวิทยาลัยแห่งชาติสิงคโปร์ได้พัฒนา MRAgent ซึ่งเป็นกรอบการทำงานใหม่ที่มุ่งเน้นการจัดการหน่วยความจำเชิงปฏิบัติการ โดยมีจุดมุ่งหมายเพื่อแก้ไขปัญหาที่เกิดจากการใช้โทเคนมากเกินไปในระบบ AI ที่ต้องการการวิเคราะห์ระยะยาว โดยเฉพาะอย่างยิ่งในงานที่ต้องใช้การประมวลผลข้อมูลจำนวนมากและซับซ้อน ซึ่งในกรอบนี้ MRAgent จะไม่ใช้วิธีการแบบดั้งเดิมที่เรียกว่า ‘retrieve-then-reason’ ที่มีข้อจำกัดในการจัดการกับข้อมูลที่มีความหลากหลายและไม่แน่นอน

ในกรอบการทำงาน MRAgent จะใช้กลไกที่ช่วยให้เอเจนต์สามารถพัฒนาหน่วยความจำได้อย่างต่อเนื่องตามหลักฐานที่สะสมมาแทนการใช้วิธีการดึงข้อมูลแบบคงที่ ซึ่งจะช่วยลดการใช้โทเคนจาก 3.26 ล้านโทเคนในระบบ LangMem เหลือเพียง 118,000 โทเคนต่อการค้นหา โดยการรวมการสร้างหน่วยความจำหลายขั้นตอนเข้ากับกระบวนการวิเคราะห์ของโมเดลภาษาใหญ่ (LLM) ทำให้สามารถปรับปรุงประสิทธิภาพการทำงานได้อย่างมาก

การใช้วิธีการดึงข้อมูลแบบดั้งเดิมมักจะมีข้อจำกัดหลายประการ เช่น การไม่สามารถปรับกลยุทธ์การดึงข้อมูลในระหว่างการวิเคราะห์ได้ ซึ่งหมายความว่าเมื่อเอเจนต์ดึงเอกสารและพบว่ามีข้อมูลสำคัญที่ขาดหายไป เช่น วันที่หรือชื่อบุคคล มันจะไม่สามารถส่งคำค้นหาใหม่ได้ นอกจากนี้ การใช้คะแนนความคล้ายคลึงที่คงที่และฟังก์ชันความเกี่ยวข้องที่กำหนดไว้ล่วงหน้าจะทำให้ข้อมูลที่ไม่เกี่ยวข้องเข้ามาในหน้าต่างบริบทของ LLM ทำให้การวิเคราะห์ลดลง

นักวิจัยยังชี้ให้เห็นว่า ระบบปัจจุบันมักจะพึ่งพาโครงสร้างที่สร้างขึ้นล่วงหน้า เช่น ผลลัพธ์ top-k และฟังก์ชันความเกี่ยวข้องที่ไม่ยืดหยุ่น ซึ่งจำกัดความสามารถในการปรับขนาดให้เข้ากับการโต้ตอบของผู้ใช้ที่ไม่แน่นอนและมีระยะยาว ดังนั้นจึงมีการเสนอให้พัฒนาไปสู่กระบวนการสร้างใหม่ที่มีความกระตือรือร้นและเชื่อมโยง ซึ่งได้รับแรงบันดาลใจจากประสาทวิทยาศาสตร์เชิงจิต

การเปลี่ยนแปลงนี้ไม่เพียงแต่จะช่วยลดการใช้โทเคน แต่ยังช่วยให้ AI สามารถเรียนรู้และปรับตัวได้ดีขึ้นในการทำงานที่มีความซับซ้อน โดยเฉพาะอย่างยิ่งในบริบทที่มีข้อมูลจำนวนมากและต้องการการวิเคราะห์ที่ลึกซึ้ง ซึ่ง MRAgent อาจจะเป็นก้าวสำคัญในการพัฒนาเทคโนโลยี AI ในอนาคต.