Thinking Machines เปิดตัว Inkling Small โมเดล AI โอเพนซอร์สที่มีขนาดเล็กลงแต่ประสิทธิภาพใกล้เคียงกับรุ่นก่อนหน้า

Thinking Machines ซึ่งเป็นสตาร์ทอัพที่มีการสนับสนุนทางการเงินอย่างดี โดยมี Mira Murati อดีต CTO ของ OpenAI เป็นผู้นำ ได้เปิดตัวโมเดล AI โอเพนซอร์สใหม่ล่าสุดชื่อว่า Inkling-Small เพียงสองสัปดาห์หลังจากที่เปิดตัว Inkling โมเดลแรกของบริษัท โมเดลใหม่นี้มีขนาดเล็กกว่า Inkling รุ่นก่อนหน้าถึง 1/4 แต่กลับมีประสิทธิภาพที่ใกล้เคียงกันหรือแม้กระทั่งดีกว่าในบางเกณฑ์การทดสอบ โดย Inkling-Small มีพารามิเตอร์ถึง 276 พันล้านพารามิเตอร์ ซึ่งเป็นโมเดลที่สามารถจัดการกับข้อมูลหลายรูปแบบ (multimodal) และมีใบอนุญาต Apache 2.0 ที่ให้การใช้งานอย่างเสรี

แม้ว่า Inkling รุ่นก่อนจะมีพารามิเตอร์ถึง 975 พันล้าน แต่ Inkling-Small ก็สามารถทำคะแนนได้ใกล้เคียงกันในดัชนี Artificial Analysis Intelligence Index ของบุคคลที่สาม โดยมีความสามารถในการรับข้อมูลจากข้อความ รูปภาพ และเสียง และสามารถสร้างข้อความได้ โดยรองรับหน้าต่างบริบทสูงสุดถึงหนึ่งล้านโทเคน โมเดลนี้ใช้พารามิเตอร์ที่ใช้งานอยู่ 12 พันล้านพารามิเตอร์ต่อโทเคน ขณะที่ Inkling รุ่นก่อนมีพารามิเตอร์ที่ใช้งานอยู่ 41 พันล้านพารามิเตอร์ ซึ่งทำให้ Inkling-Small สามารถรักษาประสิทธิภาพในด้านการเขียนโค้ด การวิเคราะห์ และการจัดการข้อมูลหลายรูปแบบได้อย่างดี

สำหรับธุรกิจแล้ว ความน่าสนใจของ Inkling-Small ไม่ได้อยู่ที่ขนาดที่เล็กลงเพียงอย่างเดียว แต่ยังอยู่ที่ความสามารถที่ยังคงมีอยู่ในขณะที่ลดความต้องการในการประมวลผล ค่าความต้องการในการคำนวณ และขนาดในการติดตั้ง โมเดลนี้ยังคงมีขนาดใหญ่เกินกว่าที่จะทำงานบนแล็ปท็อปหรือเวิร์กสเตชันทั่วไป แต่ก็ยังง่ายต่อการใช้งานมากกว่ารุ่นก่อนที่มีขนาดใหญ่กว่าถึง 3.5 เท่า ทำให้เป็นทางเลือกที่ดีสำหรับองค์กรที่มีการ์ดกราฟิก (GPU) บางส่วน

Thinking Machines ยังได้เผยแพร่ข้อมูลน้ำหนักของโมเดลทั้งหมดบน Hugging Face และได้เพิ่มการสนับสนุนสำหรับการปรับแต่งผ่าน API ของแอพพลิเคชันการฝึกสอน Tinker โดยในช่วงเปิดตัว บริษัทได้มีการโฆษณาส่วนลด 50% เป็นเวลาจำกัด ทำให้ราคาของ API สำหรับโมเดล Inkling-Small ที่มีบริบท 64K ลดลงเหลือเพียง $0.58 ต่อหนึ่งล้านโทเคนที่ป้อนเข้า (input tokens) ซึ่งเป็นข้อเสนอที่น่าสนใจสำหรับนักพัฒนาและธุรกิจที่ต้องการใช้เทคโนโลยี AI ในการดำเนินงานของตน.