การวิจัยล่าสุดจาก VentureBeat Pulse ได้เปิดเผยถึงสถานการณ์ที่น่าสนใจในด้านการลงทุนโครงสร้างพื้นฐาน AI ขององค์กรต่างๆ โดยพบว่าการใช้จ่ายในด้านนี้กำลังเพิ่มขึ้นอย่างรวดเร็ว แต่กลับมีความยากลำบากในการติดตามและควบคุมค่าใช้จ่ายที่เกิดขึ้นจริง ในการสำรวจที่ดำเนินการกับองค์กร 107 แห่ง พบว่าองค์กรส่วนใหญ่ใช้ AI บนแพลตฟอร์มที่คุ้นเคย เช่น hyperscalers และ APIs ของผู้ให้บริการโมเดล แต่ในขณะเดียวกัน การลงทุนในโครงสร้างพื้นฐานเฉพาะทางกลับเป็นสิ่งที่องค์กรส่วนใหญ่ยังไม่ได้นำมาใช้จริง ซึ่งหลายองค์กรมีแผนที่จะเปลี่ยนหรือเพิ่มผู้ให้บริการภายในปีนี้ โดยเฉพาะในไตรมาสถัดไป
การตัดสินใจในการซื้อโครงสร้างพื้นฐาน AI ขององค์กรนั้นมักจะขึ้นอยู่กับการบูรณาการและต้นทุนรวมในการเป็นเจ้าของ (Total Cost of Ownership) มากกว่าราคาต่อหน่วยที่ปรากฏ ซึ่งเป็นข่าวดี เนื่องจากองค์กรส่วนใหญ่ยังไม่สามารถมองเห็นเศรษฐศาสตร์ของการคอมพิวเตอร์ได้อย่างชัดเจน โดยเฉพาะอย่างยิ่งการใช้ GPU ที่มีอัตราการใช้งานเพียง 50% หรือน้อยกว่า และมีเพียง 44% ขององค์กรที่สามารถติดตามค่าใช้จ่ายในการคอมพิวเตอร์ AI ได้อย่างเข้มงวด
ผลลัพธ์ที่ได้ชี้ให้เห็นถึงช่องว่างด้านการคอมพิวเตอร์ (Compute Gap) ซึ่งเป็นความไม่สมดุลระหว่างการลงทุนที่เพิ่มขึ้นในโครงสร้างพื้นฐาน AI และความสามารถในการมองเห็นเศรษฐศาสตร์ที่เกี่ยวข้อง โดยมีเพียงประมาณ 21% ขององค์กรที่สามารถนำ AI ไปใช้ในระดับการผลิตอย่างเต็มที่ ในขณะที่ความตั้งใจในการใช้จ่ายกลับมีแนวโน้มที่จะสูงขึ้น โดยเฉพาะในส่วนของคลาวด์ที่เฉพาะทางสำหรับ AI ซึ่งองค์กรส่วนใหญ่ยังไม่ได้นำมาใช้ในปัจจุบัน
จากการสำรวจพบว่า 45% ขององค์กรมีแผนที่จะประเมินการลงทุนในคลาวด์เฉพาะทางสำหรับ AI ในปีหน้า ขณะที่การใช้คอมพิวเตอร์ที่มีอยู่ในปัจจุบันกลับมีอัตราการใช้งานที่ต่ำ โดย 83% รายงานว่าการใช้ GPU อยู่ที่ 50% หรือน้อยกว่า ซึ่งแสดงให้เห็นถึงการลงทุนที่มากเกินไปในขณะที่ยังขาดความสามารถในการควบคุมค่าใช้จ่ายที่เกี่ยวข้องกับการคอมพิวเตอร์ AI
ในที่สุด การวิจัยนี้ได้เปิดเผยถึงความจำเป็นที่องค์กรจะต้องพัฒนาความสามารถในการวัดและควบคุมเศรษฐศาสตร์ของการคอมพิวเตอร์ AI เพื่อให้สามารถใช้ประโยชน์จากการลงทุนในโครงสร้างพื้นฐาน AI ได้อย่างเต็มที่ และลดช่องว่างที่เกิดขึ้นในปัจจุบัน
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก unknown-source ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs
#AI Infrastructure #Compute Gap #Enterprise Spending #GPU Utilization
