ความเสี่ยงที่แท้จริงของ AI ในองค์กรไม่ได้อยู่ที่ตัวแทนอิสระ แต่คือความซับซ้อนระหว่างพวกเขา

ในปัจจุบัน ความซับซ้อนของ AI ในองค์กรได้กลายเป็นปัญหาที่สำคัญที่ต้องให้ความสนใจ โดยเฉพาะเมื่อองค์กรต่างๆ ใช้ตัวแทน AI หลายตัวในระบบของตน ซึ่งการใช้งานตัวแทนเหล่านี้ไม่ได้เป็นแค่การติดตั้งตัวแทนเดียวแล้วปล่อยให้ทำงานไป แต่เป็นการสร้างเครือข่ายที่ซับซ้อนของตัวแทนที่ต้องติดต่อสื่อสารกันผ่าน API และเรียกใช้งานแอปพลิเคชันที่ไม่ได้ถูกออกแบบมาเพื่อให้มีการตัดสินใจโดยเครื่องจักร การทำงานร่วมกันของตัวแทนหลายตัวนี้สามารถนำไปสู่ความยุ่งเหยิงที่ยากต่อการมองเห็นและควบคุม

เมื่อมีการเพิ่มตัวแทนเข้ามาในระบบ ความเชื่อมโยงระหว่างตัวแทนเหล่านั้นจะเพิ่มมากขึ้นอย่างรวดเร็ว ซึ่งไม่ใช่แค่การเพิ่มจำนวนการเชื่อมต่อเท่านั้น แต่ยังมีการสร้างเส้นทางการติดต่อที่ซับซ้อนมากขึ้น โดยเฉพาะเมื่อมีการเรียกใช้งานตัวแทนหนึ่งไปยังอีกตัวแทนหนึ่ง และแต่ละการเรียกใช้งานนั้นอาจนำไปสู่การเรียกใช้งานที่อื่นอีกด้วย สิ่งนี้ทำให้เกิดความซับซ้อนที่ไม่สามารถมองเห็นได้ชัดเจน และทำให้การควบคุมระบบ AI ในองค์กรกลายเป็นเรื่องที่ท้าทายมากขึ้น

การจัดการกับความซับซ้อนนี้เป็นสิ่งที่สำคัญ เนื่องจากเมื่อมีการส่งตั๋วสนับสนุน (support ticket) ที่มีการติดต่อผ่านตัวแทนหลายตัว ก่อนที่มนุษย์จะได้เห็นตั๋วนั้น อาจมีการตัดสินใจเกิดขึ้นมากมายที่ไม่มีการอนุมัติจากผู้ที่รับผิดชอบ ซึ่งนี่คือจุดที่ความซับซ้อนเริ่มต้นขึ้น โดยเฉพาะเมื่อถามทีมรักษาความปลอดภัยเกี่ยวกับตัวแทนที่สามารถเข้าถึงระบบใดบ้าง มักจะได้รับคำตอบที่เงียบงัน หรือเมื่อถามว่าตัวแทนใดได้กระตุ้นการกระทำที่เกิดขึ้นในระดับถัดไปเมื่อสามขั้นตอนที่แล้ว ก็จะพบว่าไม่มีข้อมูลที่ชัดเจน

การจัดการความซับซ้อนนี้ไม่ควรใช้วิธีการตรวจสอบแบบเช็คลิสต์เพียงอย่างเดียว เพราะการตรวจสอบแบบนี้จะเป็นเพียงการตรวจสอบในช่วงเวลาหนึ่งเท่านั้น ขณะที่ความซับซ้อนนั้นเกิดขึ้นในเครือข่ายที่ต้องการการควบคุมอย่างต่อเนื่อง การอนุมัติตัวแทนเพียงครั้งเดียวไม่สามารถทำให้การจัดการความซับซ้อนนี้มีประสิทธิภาพได้ การเข้าใจและจัดการกับการอนุญาต (permissions) ที่ซับซ้อนเป็นสิ่งสำคัญที่ต้องให้ความสำคัญ โดยเฉพาะในบริบทขององค์กรที่มีการใช้ AI ที่ซับซ้อนมากขึ้นเรื่อยๆ ซึ่งจะต้องมีการวางแผนและบริหารจัดการที่ชัดเจนเพื่อไม่ให้เกิดปัญหาที่ซับซ้อนในอนาคต