Liquid AI เปิดตัวโมเดล LFM2.5-2.6B ใช้งานได้บนอุปกรณ์ขนาดเล็กโดยไม่ต้องพึ่งคลาวด์

ในสัปดาห์นี้ Liquid AI สตาร์ทอัพที่ก่อตั้งขึ้นในปี 2023 โดยนักวิทยาศาสตร์คอมพิวเตอร์จาก MIT ได้เปิดตัวโมเดลภาษาใหม่ที่มีชื่อว่า LFM2.5-2.6B ซึ่งถูกออกแบบมาเฉพาะสำหรับการทำงานที่เกี่ยวข้องกับเอเจนท์ (agentic workloads) โดยโมเดลนี้สามารถทำงานได้โดยไม่ต้องพึ่งพาคลาวด์หรือ GPU ซึ่งช่วยเปิดโอกาสให้กับการใช้งาน AI ที่อยู่ในขอบเขต (edge AI) และให้ทางเลือกมากมายแก่ธุรกิจที่ทำงานในอุตสาหกรรมที่มีการควบคุมหรือข้อมูลที่ละเอียดอ่อนที่ไม่ต้องการส่งไปยังคลาวด์

LFM2.5-2.6B มีความเหมาะสมสำหรับงานที่ต้องการความสามารถในการประมวลผลสูง เช่น การจัดการเอกสาร การจัดการปฏิทิน การทำงานอัตโนมัติ และการทำงานพื้นหลังที่ต้องการการตอบสนองอย่างต่อเนื่อง โดยเฉพาะในสภาพแวดล้อมที่มีการเชื่อมต่อจำกัด เช่น ยานพาหนะและหุ่นยนต์ อย่างไรก็ตาม งานที่มีการเขียนโค้ดที่ซับซ้อนอาจจะเหมาะสมกว่าที่จะใช้โมเดลขนาดใหญ่กว่า

โมเดลนี้มีจำนวนพารามิเตอร์ถึง 2.6 พันล้าน และรองรับหน้าต่างบริบทขนาด 128,000 โทเคน นอกจากนี้ยังมีฟีเจอร์การเรียกใช้เครื่องมือในตัว ซึ่งช่วยให้การทำงานสามารถดำเนินไปได้อย่างมีประสิทธิภาพ โดยชื่อของโมเดลนี้มีที่มาจากรุ่นของโมเดล (2.5) ร่วมกับจำนวนพารามิเตอร์ (2.6B) ทั้งโมเดลที่ผ่านการฝึกอบรมแล้วและจุดตรวจสอบพื้นฐาน (LFM2.5-2.6B-Base) สำหรับนักพัฒนาที่ต้องการปรับแต่งสามารถดาวน์โหลดได้จาก Hugging Face โดยมีการสนับสนุนตั้งแต่วันแรกสำหรับสแต็กการทำงานที่สำคัญ เช่น llama.cpp, MLX, vLLM, SGLang และ ONNX

การพัฒนาโมเดล LFM2.5-2.6B นี้ถือเป็นก้าวสำคัญในวงการ AI โดยเฉพาะสำหรับธุรกิจที่ต้องการลดการพึ่งพาโครงสร้างพื้นฐานคลาวด์และต้องการประสิทธิภาพในการทำงานที่สูงขึ้นในระดับท้องถิ่น การมีโมเดลที่สามารถทำงานได้บนอุปกรณ์ขนาดเล็ก เช่น Raspberry Pi จะช่วยให้ธุรกิจสามารถลดค่าใช้จ่ายในการดำเนินงานได้อย่างมาก ในขณะที่ยังคงสามารถเข้าถึงเทคโนโลยี AI ที่มีประสิทธิภาพได้

อย่างไรก็ตาม การใช้โมเดลนี้ยังมีข้อควรพิจารณาในด้านกฎหมาย โดยเฉพาะในเรื่องของใบอนุญาตการใช้งานที่กำหนดให้มีการปรับแต่งแบบเปิด ซึ่งอาจจะต้องมีการตรวจสอบจากทีมกฎหมายขององค์กรเพื่อให้แน่ใจว่าการใช้งานเป็นไปตามกฎระเบียบที่กำหนด