Brex พัฒนาแนวทางการจัดการ AI Agent โดยการสังเกตพฤติกรรมจริง แทนที่จะเขียนกฎก่อน

Brex บริษัทด้านการเงินที่มุ่งเน้นการให้บริการแก่ธุรกิจขนาดเล็กและขนาดกลาง ได้พัฒนาแนวทางการจัดการ AI Agent ที่น่าสนใจ โดยการสังเกตพฤติกรรมของ AI Agent ในการทำงานจริง แทนที่จะเขียนกฎเกณฑ์ขึ้นมาก่อน ซึ่งแนวทางนี้แสดงให้เห็นถึงความสำคัญของการเข้าใจพฤติกรรมของ AI ในการสร้างนโยบายการจัดการที่มีประสิทธิภาพและปลอดภัยยิ่งขึ้น

แพลตฟอร์มที่ Brex สร้างขึ้นเรียกว่า CrabTrap ซึ่งเป็น HTTP/HTTPS proxy แบบโอเพนซอร์สที่สามารถดักจับการสื่อสารทั้งหมดในเครือข่าย วิเคราะห์กฎเกณฑ์นโยบาย และใช้ LLM (Large Language Model) ในการตัดสินใจว่า คำขอจาก AI Agent ควรได้รับการอนุมัติหรือไม่ โดย Pedro Franceschi ผู้ร่วมก่อตั้งและ CEO ของ Brex กล่าวว่า “สิ่งที่เราสังเกตเห็นคือเลเยอร์เครือข่ายเป็นจุดที่ไม่ได้ถูกใช้ในการบังคับนโยบายอย่างเต็มที่” การที่ทุกคำขอจาก AI Agent เป็นโอกาสที่จะดักจับ วิเคราะห์ และตัดสินใจเกี่ยวกับนโยบาย เป็นการมองเห็นที่สำคัญในการพัฒนาแนวทางการจัดการ AI Agent

การจัดการ AI Agent ในองค์กรมักจะต้องเผชิญกับความท้าทายที่เกิดจากการพัฒนาและการขยายตัวของความสามารถของ AI Agent ซึ่งการเพิ่มความสามารถใหม่ ๆ มักจะหมายถึงการต้องมี API ใหม่ ๆ ที่ต้องปรับแต่งหรือทำการตรวจสอบ Franceschi กล่าวถึงความตึงเครียดที่เกิดขึ้นระหว่างการทำให้ AI Agent มีความสามารถมากขึ้นและการรักษาความปลอดภัยให้กับพวกเขาว่า “ยิ่งคุณทำให้ Agent มีความสามารถมากขึ้น ก็ยิ่งทำให้มันอันตรายมากขึ้น และยิ่งคุณทำให้มันปลอดภัยมากขึ้น ก็ยิ่งทำให้มันไม่เป็นประโยชน์มากขึ้น”

ในอดีต แนวทางการจัดการความปลอดภัยของ AI Agent มักจะใช้การตั้งค่าการอนุญาตแบบจำกัด (guardrails) ซึ่งรวมถึงเครื่องมือที่มีขอบเขต การอนุญาตต่อการกระทำ และการอนุมัติจากมนุษย์ แต่ด้วยการพัฒนาอย่างรวดเร็วของ AI Agent แนวทางเหล่านี้เริ่มแสดงให้เห็นถึงข้อจำกัด โดยเฉพาะเมื่อมีหลายเครื่องมือและการเข้าถึงอินเทอร์เน็ตที่เปิดกว้าง ซึ่งทำให้เกิดความท้าทายที่ต้องการการจัดการที่มีประสิทธิภาพมากขึ้น

Brex จึงมุ่งเน้นไปที่การสร้างแพลตฟอร์มที่สามารถเรียนรู้จากพฤติกรรมจริงของ AI Agent และบังคับใช้กฎเกณฑ์ที่เหมาะสมตามการใช้งานจริง โดยการใช้ CrabTrap เป็นเครื่องมือในการดักจับและวิเคราะห์ข้อมูลที่เกี่ยวข้อง การเปลี่ยนแปลงแนวทางการจัดการนี้ไม่เพียงแต่ช่วยให้ Brex สามารถควบคุมความปลอดภัยได้ดีขึ้น แต่ยังเปิดโอกาสให้ IT Leaders ได้พิจารณาแนวทางใหม่ ๆ ในการจัดการ AI Agent ที่อาจจะมีความซับซ้อนมากขึ้นในอนาคต