Amazon เตรียมเสนอกรอบการพัฒนา AI เอเจนต์ที่เชื่อถือได้ในงาน VB Transform 2026

ในยุคที่ AI เอเจนต์มีความสามารถในการทำงานอัตโนมัติในธุรกิจมากขึ้น แต่ผู้บริหารด้าน IT ยังมีความกังวลเกี่ยวกับการอนุญาตให้เข้าถึงระบบขององค์กร ความท้าทายที่สำคัญอยู่ที่วิธีการวัดความเชื่อถือได้ของ AI ซึ่งมาตรฐานในอุตสาหกรรมมักใช้คะแนน EVAL ที่ให้ภาพรวมการทำงานในช่วงเวลาหนึ่งเท่านั้น โดยไม่สามารถสะท้อนความเชื่อถือได้ในหลายๆ สถานการณ์และประเภทข้อมูลได้อย่างครบถ้วน ดังที่ Bryan Silverthorn ผู้อำนวยการห้องปฏิบัติการวิจัย AGI Autonomy ของ Amazon กล่าวในการสัมภาษณ์กับ VentureBeat ก่อนงาน VB Transform 2026

Amazon กำลังมุ่งเน้นไปที่การพัฒนากรอบการทำงานที่มีโครงสร้างซึ่งมุ่งเน้นที่ความสอดคล้อง ความแข็งแกร่ง ความสามารถในการคาดการณ์ และความปลอดภัย แทนที่จะพึ่งพาเพียงแค่การวัดผลการทำงานที่เป็นตัวเลข โดยวิธีการของ Amazon จะเน้นที่ระบบที่แยกจากกัน เช่น สภาพแวดล้อมที่ถูกจำกัด ซึ่งเอเจนต์จะเสนอการเปลี่ยนแปลงที่ต้องได้รับการตรวจสอบจากมนุษย์ก่อนที่จะมีการดำเนินการจริง วิธีการนี้มีเป้าหมายเพื่อสร้างสะพานเชื่อมความไว้วางใจ โดยให้ความสำคัญกับการมีปฏิสัมพันธ์ที่สามารถตรวจสอบได้ แม้ในด้านที่มีความละเอียดอ่อนสูง เช่น การเงิน ซึ่งความเสียหายที่อาจเกิดขึ้นจากเอเจนต์นั้นมีความสำคัญมาก

จากการสำรวจ Q2 Pulse Research ของ VentureBeat ที่มีผู้บริหารด้านเทคโนโลยีและผู้ซื้อมากกว่า 100 คน มีเพียง 4% เท่านั้นที่รู้สึกสบายใจที่จะพึ่งพาเพียงแค่การควบคุมของโมเดล เมื่อถูกถามเกี่ยวกับความกังวลที่มากที่สุดเกี่ยวกับการควบคุมของโมเดล 40% กล่าวว่ากังวลเกี่ยวกับการเข้าถึงเครื่องมือหรือข้อมูลโดยไม่ได้รับอนุญาต และ 27% กล่าวถึงการจัดการหรือการฉีดคำสั่งที่ไม่เหมาะสม

ในงาน VB Transform 2026 Silverthorn จะนำเสนอรายละเอียดเกี่ยวกับวิธีการของ Amazon ในการพัฒนา AI เอเจนต์ที่เชื่อถือได้ และวิธีที่บริษัทต่างๆ สามารถเปลี่ยนจากการใช้โมเดลเอเจนต์เดี่ยวไปสู่สถาปัตยกรรมที่มีเครื่องมือหลายตัวที่สามารถปรับปรุงตัวเองในระหว่างการดำเนินการได้ ซึ่งจะช่วยให้การทำงานของ AI มีความปลอดภัยและเชื่อถือได้มากขึ้นในอนาคต