บริษัท Anthropic ได้ออกมาขอโทษสำหรับการใช้งานการควบคุมที่มองไม่เห็นในโมเดล AI ใหม่ของพวกเขา Claude Fable 5 ซึ่งมีการจำกัดการทำงานที่ไม่เปิดเผยต่อสาธารณะ ส่งผลกระทบต่อทั้งนักวิจัยและคู่แข่งที่พยายามพัฒนาระบบที่มีความสามารถคล้ายคลึงกัน โดยทางบริษัทได้ยืนยันว่าจะมีการปรับเปลี่ยนแนวทางการเปิดเผยข้อมูลเกี่ยวกับการควบคุมนี้ในอนาคต แม้ว่าจะหมายถึงการที่ Fable อาจปฏิเสธคำถามมากขึ้นก็ตาม
Claude Fable ถือเป็นโมเดลแรกในกลุ่ม Mythos ของ Anthropic ซึ่งบริษัทได้ใช้เวลาหลายเดือนในการเตือนว่าระบบ AI ในกลุ่มนี้มีความเสี่ยงสูงเกินกว่าจะปล่อยให้ใช้งานได้อย่างเปิดเผย โดยบริษัทได้ระบุว่าพวกเขาได้ดำเนินการแก้ไขความเสี่ยงบางประการโดยการเปิดตัว Fable พร้อมกับมาตรการป้องกันที่ช่วยป้องกันไม่ให้มันตอบสนองต่อคำถามที่มีความเสี่ยงสูง ซึ่งการดำเนินการนี้ได้รับการวิพากษ์วิจารณ์จากหลายฝ่ายที่มองว่าการควบคุมเหล่านี้ทำให้การวิจัยและพัฒนาระบบ AI มีข้อจำกัดมากเกินไป
การตัดสินใจของ Anthropic ในการเปิดเผยข้อมูลเกี่ยวกับการควบคุมที่มองไม่เห็นนี้ถือเป็นการตอบสนองต่อเสียงเรียกร้องจากชุมชนวิจัยและผู้พัฒนา AI ที่ต้องการความโปร่งใสในการใช้งานโมเดล AI ที่มีความซับซ้อนและอาจมีผลกระทบต่อสังคมอย่างกว้างขวาง การเปลี่ยนแปลงนี้อาจมีผลต่อการพัฒนา AI ในอนาคต โดยเฉพาะในด้านของการสร้างความเชื่อมั่นและความรับผิดชอบในการใช้งานเทคโนโลยีที่มีความสามารถสูงเช่นนี้
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก Robert Hart ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: Anthropic apologizes for invisible Claude Fable guardrails
#Anthropic #Claude Fable #AI Ethics #Transparency
