การวิจัยที่จัดทำโดย VentureBeat Pulse ได้เปิดเผยข้อมูลที่น่าสนใจเกี่ยวกับความสามารถในการควบคุม AI Agent ในองค์กร โดยพบว่าองค์กรถึง 53% ได้ประสบกับเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ AI Agent หรือเกือบจะเกิดเหตุการณ์ดังกล่าวขึ้น ข้อมูลนี้ชี้ให้เห็นถึงความท้าทายที่องค์กรต่างๆ ต้องเผชิญในการจัดการกับ AI Agent ที่อาจทำงานผิดพลาดหรือมีพฤติกรรมที่ไม่เหมาะสม
Rajat Taneja ประธานฝ่ายเทคโนโลยีของ Visa ได้พูดคุยเกี่ยวกับการใช้โมเดล Mythos ของ Anthropic ในระบบการชำระเงินของ Visa โดยเขาได้เปิดเผยว่ามีการค้นพบจุดอ่อนเล็กๆ ที่สามารถนำไปสู่การโจมตีได้ และ Visa ได้ทำการเปิดซอร์สเครื่องมือที่ใช้ในการค้นหาจุดอ่อนเหล่านี้ ซึ่งแสดงให้เห็นถึงความลึกซึ้งด้านวิศวกรรมที่องค์กรสามารถใช้ในการจัดการกับปัญหานี้ได้ อย่างไรก็ตาม องค์กรส่วนใหญ่ยังไม่สามารถทำเช่นนั้นได้
จากการวิจัยพบว่า 65% ขององค์กรมีการบังคับใช้สิทธิ์ของ AI Agent ในระหว่างการทำงาน แต่มีเพียง 18% เท่านั้นที่สามารถแยก AI Agent ที่มีความเสี่ยงสูงออกจากกัน และมีเพียง 8% ที่สามารถบังคับใช้การควบคุมพร้อมกับการแยกออกได้ การพึ่งพาการควบคุมที่มาจากผู้ให้บริการเพื่อจัดการด้านความปลอดภัยของ AI Agent เพียงอย่างเดียวอาจทำให้ช่องว่างในด้านความปลอดภัยนี้กว้างขึ้น โดยเฉพาะอย่างยิ่งเมื่อ 92% ขององค์กรที่ระบุชั้นความปลอดภัยหลักมักจะพึ่งพาผู้ให้บริการคลาวด์ขนาดใหญ่และแพลตฟอร์ม AI
ข้อมูลจากการสำรวจล่าสุดระบุว่าองค์กรที่ประสบปัญหามักจะให้คะแนนความพึงพอใจกับเครื่องมือด้านความปลอดภัยสูงกว่ากว่าองค์กรที่ไม่ประสบปัญหา ซึ่งแสดงให้เห็นว่ามีความไม่สอดคล้องกันระหว่างข้อมูลความพึงพอใจและข้อมูลเหตุการณ์ความปลอดภัยที่เกิดขึ้น โดยองค์กรที่ได้รับผลกระทบจากเหตุการณ์ด้านความปลอดภัยมีแนวโน้มที่จะให้คะแนนเครื่องมือของตนสูงกว่าค่าเฉลี่ยขององค์กรที่ไม่ได้ประสบปัญหา
การวิจัยนี้ได้สำรวจผู้ตอบแบบสอบถามที่มีคุณสมบัติจำนวน 440 คนตั้งแต่เดือนมกราคมที่ผ่านมา และพบว่ามีการเติบโตของช่องว่างในการควบคุม AI Agent ที่องค์กรต้องการ แต่กลับไม่สามารถทำได้อย่างมีประสิทธิภาพ ซึ่งเป็นสัญญาณเตือนให้กับองค์กรที่ลงทุนใน AI Agent ว่าต้องมีการปรับปรุงและพัฒนากระบวนการด้านความปลอดภัยให้ดีขึ้น เพื่อป้องกันไม่ให้เกิดเหตุการณ์ที่ไม่พึงประสงค์ในอนาคต
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก louiswcolumbus@gmail.com (Louis Columbus) ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: Four of five enterprises that secured AI agent identities still can’t contain one that goes rogue
#AI #Security #Enterprise #Technology
