บริษัท Anthropic ได้ออกมาขอโทษสำหรับการใช้การควบคุมที่มองไม่เห็นในโมเดล AI ใหม่ของตนที่ชื่อว่า Claude Fable 5 ซึ่งเป็นการกระทำที่ส่งผลกระทบต่อทั้งนักวิจัยและคู่แข่งที่พยายามพัฒนาระบบที่สามารถแข่งขันได้ในตลาด AI. การควบคุมเหล่านี้ถูกออกแบบมาเพื่อป้องกันไม่ให้โมเดลตอบสนองต่อคำถามที่มีความเสี่ยงสูง แต่การดำเนินการนี้กลับทำให้เกิดความไม่โปร่งใสและสร้างความไม่พอใจในหมู่นักพัฒนาที่ใช้เทคโนโลยีนี้ในการสร้างสรรค์นวัตกรรมใหม่ๆ.
ในแถลงการณ์ของบริษัท Anthropic ได้ยืนยันว่าจะมีการเปลี่ยนแปลงในแนวทางการดำเนินงาน โดยจะมีการเปิดเผยข้อมูลเกี่ยวกับการควบคุมที่เกิดขึ้นมากขึ้น แม้ว่าจะหมายถึงการที่ Claude Fable อาจปฏิเสธคำถามมากขึ้นก็ตาม. Fable ถือเป็นโมเดลแรกในกลุ่ม Mythos ของบริษัท ซึ่งเป็นกลุ่มที่ Anthropic ได้เตือนว่ามีความเสี่ยงสูงเกินกว่าที่จะปล่อยให้สาธารณชนเข้าถึง. บริษัทได้กล่าวว่าการเปิดตัว Fable มาพร้อมกับมาตรการป้องกันเพื่อจัดการกับความเสี่ยงเหล่านี้, โดยเฉพาะอย่างยิ่งในเรื่องการตอบสนองต่อคำถามที่มีความอ่อนไหว.
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก Robert Hart ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: Anthropic apologizes for invisible Claude Fable guardrails
#Anthropic #Claude Fable #AI #Technology
