ในช่วงเวลาที่การสนทนาเกี่ยวกับ AI ในระดับโลกกำลังเข้มข้นขึ้น โดยเฉพาะหลังจากการดำเนินการของรัฐบาลสหรัฐที่มีการจำกัดโมเดลใหม่จาก Anthropic และ OpenAI, DeepSeek บริษัทที่ได้รับความนิยมในวงการโอเพนซอร์สจากจีนได้เปิดตัว DSpark ระบบใหม่ที่มีใบอนุญาต MIT ซึ่งออกแบบมาเพื่อทำให้โมเดลภาษาขนาดใหญ่สามารถตอบสนองได้เร็วขึ้น โดยไม่เปลี่ยนแปลงสิ่งที่โมเดลพื้นฐานต้องการจะสื่อสาร.
DSpark ทำงานโดยการให้ระบบมี “ผู้สำรวจ” ที่วิ่งไปข้างหน้าและคาดการณ์เส้นทางที่น่าจะเป็นไปได้ จากนั้นให้โมเดลขนาดใหญ่ตรวจสอบว่าเส้นทางไหนปลอดภัย โดยเมื่อการคาดการณ์ถูกต้อง โมเดลจะสามารถเคลื่อนที่ได้เร็วขึ้น แต่หากการคาดการณ์ไม่แม่นยำ DSpark จะพยายามไม่ใช้เวลาไปกับการตรวจสอบเส้นทางเหล่านั้น. การเปิดตัวครั้งนี้มาพร้อมกับเอกสารทางเทคนิค, จุดตรวจสอบโมเดล และ DeepSpec ซึ่งเป็นฐานข้อมูลสำหรับการฝึกอบรมและประเมินผลระบบการถอดรหัสเชิงคาดการณ์.
การเปิดตัว DSpark นี้มีให้ใช้งานผ่าน GitHub สาธารณะของ DeepSeek และหน้า Hugging Face โดยทั้งหมดอยู่ภายใต้ใบอนุญาต MIT ที่เป็นมิตร ทำให้เทคนิคใหม่นี้สามารถใช้งานได้อย่างกว้างขวางโดยนักพัฒนา, นักวิจัย และองค์กรเชิงพาณิชย์ที่ต้องการศึกษา หรือปรับใช้วิธีการนี้. ระบบนี้มุ่งเป้าไปที่หนึ่งในปัญหาที่มีค่าใช้จ่ายสูงที่สุดในการใช้งาน AI นั่นคือการให้บริการโมเดลขนาดใหญ่ได้อย่างรวดเร็วพอสำหรับผู้ใช้จริง ในขณะเดียวกันก็ใช้ฮาร์ดแวร์อย่างมีประสิทธิภาพเพียงพอเพื่อให้เศรษฐศาสตร์ทำงานได้.
สิ่งนี้มีความสำคัญสำหรับแชทบอทสำหรับผู้บริโภค, ผู้ช่วยในการเขียนโค้ด, การทำงานที่เป็นตัวแทน, และระบบ AI ขององค์กร ซึ่งผู้ใช้คาดหวังว่าคำตอบที่ยาวจะถูกส่งมอบอย่างรวดเร็วแทนที่จะค่อยๆ ปรากฏออกมาเป็นคำๆ. การพัฒนา DSpark โดย DeepSeek แสดงให้เห็นถึงความพยายามในการแก้ไขปัญหาที่ท้าทายนี้ในวงการ AI และสามารถเปลี่ยนแปลงวิธีการที่เรามองเห็นและใช้โมเดลภาษาขนาดใหญ่ในอนาคต.
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก carl.franzen@venturebeat.com (Carl Franzen) ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%
#DeepSeek #DSpark #LLM #AI #Open Source
