ในช่วงเวลาที่การสนทนาเกี่ยวกับ AI ในระดับภูมิศาสตร์การเมืองเริ่มมีความตึงเครียดมากขึ้น หลังจากที่รัฐบาลสหรัฐอเมริกาได้ดำเนินการจำกัดโมเดลใหม่จาก Anthropic และ OpenAI, DeepSeek บริษัทที่มีชื่อเสียงในวงการโอเพนซอร์สจากจีน ได้กลับมาพร้อมกับการเปิดตัว DSpark ซึ่งเป็นเฟรมเวิร์กใหม่ที่ออกแบบมาเพื่อเร่งการอนุมานของโมเดลภาษาใหญ่ (LLM) ได้ถึง 85% โดยไม่เปลี่ยนแปลงสิ่งที่โมเดลพื้นฐานพยายามจะสื่อสาร.
DSpark ทำงานโดยการให้ระบบมี “สเกาท์” ที่วิ่งไปข้างหน้าเพื่อคาดเดาเส้นทางที่น่าจะเป็นไปได้ ซึ่งช่วยให้โมเดลขนาดใหญ่สามารถตรวจสอบได้อย่างรวดเร็วว่าแต่ละขั้นตอนนั้นปลอดภัยหรือไม่. แนวทางนี้ช่วยลดเวลาในการตอบสนองของ AI โดยเฉพาะในกรณีที่การคาดเดานั้นแม่นยำ. ข้อมูลที่เผยแพร่รวมถึงเอกสารทางเทคนิค, จุดตรวจสอบโมเดล, และ DeepSpec ซึ่งเป็นโค้ดเบสสำหรับการฝึกฝนและประเมินผลระบบการถอดรหัสที่คาดเดาได้.
การเปิดตัวนี้มีให้บริการผ่าน GitHub สาธารณะของ DeepSeek และ Hugging Face โดยทั้งหมดอยู่ภายใต้ใบอนุญาต MIT ที่เป็นมิตรและเข้าถึงได้ง่าย ทำให้เทคนิคใหม่สามารถใช้งานได้อย่างกว้างขวางสำหรับนักพัฒนา, นักวิจัย และองค์กรเชิงพาณิชย์ที่ต้องการศึกษาและปรับใช้แนวทางนี้. ระบบนี้มุ่งเน้นไปที่หนึ่งในปัญหาที่มีค่าใช้จ่ายสูงที่สุดในการใช้งาน AI: การให้บริการโมเดลขนาดใหญ่ได้อย่างรวดเร็วพอสำหรับผู้ใช้จริง ในขณะที่ใช้ฮาร์ดแวร์อย่างมีประสิทธิภาพพอที่จะทำให้เศรษฐศาสตร์ของมันทำงานได้.
การพัฒนานี้มีความสำคัญต่อแชทบอทสำหรับผู้บริโภค, ผู้ช่วยในการเขียนโค้ด, การทำงานแบบเอเจนต์ และระบบ AI ในองค์กรที่ผู้ใช้คาดหวังว่าจะได้รับคำตอบที่ยาวนานอย่างรวดเร็ว แทนที่จะต้องรอคำตอบทีละคำ. การเปิดตัว DSpark นี้อาจเป็นการเปลี่ยนแปลงที่สำคัญในวิธีที่ AI ถูกพัฒนาและนำไปใช้งานในอนาคต.
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก carl.franzen@venturebeat.com (Carl Franzen) ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%
#DeepSeek #DSpark #LLM #AI #Open Source
