ความเสี่ยงของ AI Agents ที่ผ่านการตรวจสอบความถูกต้อง

การใช้งาน AI agents ในองค์กรกำลังเป็นที่นิยมมากขึ้น แต่ความเสี่ยงที่เกี่ยวข้องกับการใช้งานเหล่านี้กลับเป็นสิ่งที่หลายองค์กรมักมองข้าม โดยเฉพาะอย่างยิ่งเมื่อพูดถึงการใช้ gateway เป็นจุดควบคุมแรกในการรักษาความปลอดภัยของ AI agents ตามรายงานล่าสุดจาก VentureBeat พบว่ามีแนวโน้มที่ชัดเจนว่าองค์กรต่างๆ มักจะเลือกใช้ gateway เป็นการควบคุมแรก แต่กลับไม่พร้อมที่จะจัดการกับมันอย่างเหมาะสม เนื่องจาก gateway นั้นตั้งอยู่บนชั้นของการระบุตัวตนและการอ้างอิงที่ยังไม่พร้อมใช้งานอย่างเต็มที่

ในเดือนมิถุนายนที่ผ่านมา CISA ได้เพิ่มช่องโหว่ที่ชื่อว่า LiteLLM ลงในรายการ Known Exploited Vulnerabilities หลังจากที่มีการโจมตีที่ใช้ช่องโหว่นี้ในโลกจริง โดยช่องโหว่นี้ทำให้ผู้โจมตีสามารถรันคำสั่งบนโฮสต์ผ่าน gateway ได้โดยไม่ต้องใช้ข้อมูลรับรอง และยังมีช่องโหว่อีกหลายรายการที่ถูกเปิดเผยใน AI gateway เดียวกันในเดือนนั้น ซึ่งแสดงให้เห็นถึงความเสี่ยงที่ชัดเจนในการใช้ gateway เป็นจุดควบคุมแรกในการรักษาความปลอดภัยของ AI agents

การออกแบบโครงสร้างความปลอดภัยสำหรับ AI agents ควรพิจารณาให้ gateway เป็นการควบคุมที่ห้าหรือหลังจากนั้น เนื่องจากการควบคุมที่มีอยู่ในปัจจุบันนั้นมักจะมุ่งเน้นไปที่การรักษาความปลอดภัยในอนาคต แต่กลับไม่สามารถอธิบายถึงปัญหาที่เกิดขึ้นในสถานการณ์ที่มีระบบการจัดการตัวตนและการเข้าถึงอยู่แล้วได้ การที่ control plane ไม่สามารถรับรู้ว่า agent ใดกำลังทำงานอยู่ ใครเป็นผู้มอบหมายงาน และข้อมูลรับรองที่ใช้คืออะไร จะทำให้บริบทไม่ครบถ้วน ซึ่งอาจส่งผลให้ gateway ไม่สามารถแยกแยะการกระทำที่เหมาะสมจากการกระทำที่สามารถทำได้แต่ไม่เหมาะสมในการดำเนินงานจริง

การล้มเหลวในการจัดลำดับการควบคุมสำหรับการผลิต AI agents เป็นสิ่งที่ชัดเจน โดยมักจะมีการบังคับใช้การควบคุมในช่วงต้น ขณะที่บริบทด้านตัวตนและการอ้างอิงที่จำเป็นสำหรับการบังคับใช้การควบคุมเหล่านั้นยังไม่ได้ถูกพัฒนาขึ้นอย่างเพียงพอ ดังนั้นจึงเป็นสิ่งสำคัญที่องค์กรจะต้องพิจารณาและวางแผนการจัดการความเสี่ยงอย่างรอบคอบ เพื่อให้การใช้งาน AI agents เป็นไปอย่างปลอดภัยและมีประสิทธิภาพสูงสุด.