ช่องว่างการควบคุม: องค์กร AI ในระดับองค์กรมีปัญหาด้านความเป็นเจ้าของ ไม่ใช่ปัญหาด้านเทคโนโลยี

การวิจัยล่าสุดจาก VentureBeat Pulse ได้ชี้ให้เห็นถึงปัญหาที่สำคัญในองค์กรที่ใช้ AI ในระดับสูง โดยเฉพาะอย่างยิ่งเมื่อพูดถึงการควบคุมและการบริหารจัดการ AI ที่กำลังขยายตัวอย่างรวดเร็วในปัจจุบัน องค์กรหลายแห่งพบว่าตนมีแพลตฟอร์ม AI หลายตัวที่ต่างอ้างว่าเป็น ‘เลเยอร์หลัก’ ของ AI ซึ่งทำให้เกิดความสับสนและความไม่แน่นอนในเรื่องความรับผิดชอบในการบริหารจัดการ AI โดยรวม การวิจัยนี้เปิดเผยว่า 85% ขององค์กรมีการใช้สองแพลตฟอร์มหรือมากกว่านั้นในขณะที่เพียงแค่ 8% เท่านั้นที่สามารถรวมแพลตฟอร์มเหล่านั้นให้เป็นหนึ่งเดียวได้

ผลกระทบที่ตามมาคือช่องว่างการควบคุมที่กว้างขึ้น ซึ่งหมายถึงความทะเยอทะยานและการใช้จ่ายในการพัฒนา AI ที่เพิ่มขึ้นอย่างรวดเร็ว แต่กลับขาดความสามารถในการมองเห็นและควบคุมการดำเนินงานอย่างแท้จริง จากการสำรวจพบว่าเพียง 38% ขององค์กรมีทีมกลางที่รับผิดชอบในการบริหารจัดการ AI ขณะที่ส่วนที่เหลือมักพึ่งพาการตรวจสอบด้วยมือ ซึ่งทำให้มีความเสี่ยงที่สูงขึ้นในการไม่สามารถตรวจจับปัญหาที่เกิดขึ้นในโมเดล AI ได้อย่างทันท่วงที

ความเชื่อมั่นในความสามารถในการตรวจจับโมเดลที่มีปัญหานั้นมีอยู่ แต่มีเพียง 10% ขององค์กรที่สนับสนุนความเชื่อนั้นด้วยการตรวจสอบและแจ้งเตือนที่มีการดำเนินการอย่างต่อเนื่อง ในขณะที่ 40% ของผู้ตอบแบบสอบถามกล่าวว่าพวกเขามีความมั่นใจมากในการตรวจจับโมเดลที่มีการเบี่ยงเบนหรือมีพฤติกรรมที่ไม่ปลอดภัย การพึ่งพาการตรวจสอบด้วยมือทำให้เกิดความล่าช้าในการตอบสนองต่อปัญหาที่อาจเกิดขึ้น ซึ่งอาจนำไปสู่ความล้มเหลวทางการเงินและการดำเนินงานในอนาคต

การวิจัยนี้ชี้ให้เห็นถึงความจำเป็นในการจัดตั้งโครงสร้างการบริหารจัดการที่ชัดเจนและมีประสิทธิภาพมากขึ้นสำหรับ AI ในองค์กร เพื่อให้สามารถควบคุมและมองเห็นการดำเนินงานได้อย่างมีประสิทธิภาพ นอกจากนี้ยังต้องมีการพัฒนากระบวนการที่สามารถตรวจสอบและแจ้งเตือนปัญหาที่เกิดขึ้นได้อย่างรวดเร็ว โดยเฉพาะเมื่อพิจารณาถึงความเสี่ยงที่เกิดจากการใช้เอเจนต์อัตโนมัติที่อาจก่อให้เกิดความล้มเหลวทางการเงินและการดำเนินงานในองค์กรได้อย่างมีนัยสำคัญ

โดยรวมแล้ว ช่องว่างการควบคุมนี้ไม่ใช่แค่ปัญหาทางเทคโนโลยี แต่เป็นปัญหาที่เกี่ยวข้องกับความเป็นเจ้าของและการบริหารจัดการที่ชัดเจนในองค์กร ซึ่งจำเป็นต้องมีการแก้ไขเพื่อให้การใช้ AI ในระดับองค์กรสามารถดำเนินไปได้อย่างมีประสิทธิภาพและปลอดภัย