การศึกษาล่าสุดจาก VentureBeat Pulse Research แสดงให้เห็นว่าการใช้จ่ายด้านโครงสร้างพื้นฐาน AI ในองค์กรต่างๆ กำลังเติบโตอย่างรวดเร็ว แต่ความสามารถในการวัดและควบคุมต้นทุนกลับตามไม่ทัน โดยจากข้อมูลที่รวบรวมจาก 107 องค์กร พบว่ามากกว่าครึ่งหนึ่งขององค์กรเหล่านี้ยังคงใช้โครงสร้างพื้นฐานที่คุ้นเคย เช่น hyperscalers และ APIs ของผู้ให้บริการโมเดล ในขณะที่การลงทุนในโครงสร้างพื้นฐานที่เฉพาะเจาะจงสำหรับ AI กำลังจะเพิ่มขึ้นในอนาคตอันใกล้ โดยมีแผนที่จะเปลี่ยนหรือเพิ่มผู้ให้บริการภายในปีนี้ ซึ่งหลายแห่งมีแผนที่จะดำเนินการภายในไตรมาสหน้า
การตัดสินใจในการซื้อโครงสร้างพื้นฐาน AI ขององค์กรไม่ได้ขึ้นอยู่กับราคาเพียงอย่างเดียว แต่ยังคำนึงถึงการบูรณาการและต้นทุนรวมในการเป็นเจ้าของ (Total Cost of Ownership) ซึ่งเป็นข่าวดี เนื่องจากองค์กรส่วนใหญ่ยังไม่สามารถมองเห็นเศรษฐศาสตร์ของการคอมพิวเตอร์ AI ได้อย่างชัดเจน โดยเฉพาะอย่างยิ่ง GPU ที่มีการใช้งานเพียง 50% หรือน้อยกว่า และน้อยกว่าครึ่งหนึ่ง (44%) ขององค์กรสามารถติดตามต้นทุนการคอมพิวเตอร์ AI ได้อย่างเข้มงวด
ผลลัพธ์ที่ได้คือช่องว่างด้านการคอมพิวเตอร์ ซึ่งหมายถึงการลงทุนที่หนักหน่วงและเคลื่อนไหวอย่างรวดเร็วที่เกิดขึ้นโดยไม่มีการมองเห็นที่จำเป็นในการควบคุมการใช้จ่ายนี้ โดยมีการลงทุนในโครงสร้างพื้นฐาน AI ที่มากขึ้น แต่มีองค์กรเพียง 21% เท่านั้นที่สามารถนำ AI ไปใช้งานในระดับที่กว้างขวางได้ ซึ่งแสดงให้เห็นถึงความไม่สมดุลระหว่างการลงทุนและความสามารถในการใช้งานจริง
ในปีถัดไป องค์กรต่างๆ วางแผนที่จะประเมินการลงทุนในคลาวด์ที่เฉพาะเจาะจงสำหรับ AI ถึง 45% ซึ่งเป็นชั้นที่แทบไม่มีองค์กรไหนใช้ในปัจจุบัน ขณะที่การคอมพิวเตอร์ที่มีอยู่ในปัจจุบันกลับมีการใช้งานที่ต่ำ โดย 83% ของผู้ตอบแบบสอบถามรายงานว่า GPU ของพวกเขามีการใช้งานที่ 50% หรือน้อยกว่า ซึ่งแสดงให้เห็นถึงความไม่เหมาะสมในการใช้ทรัพยากรที่มีอยู่
การศึกษานี้จึงชี้ให้เห็นถึงความจำเป็นในการพัฒนาเครื่องมือและวิธีการที่ช่วยให้องค์กรสามารถติดตามและวัดผลการใช้จ่ายด้าน AI ได้อย่างมีประสิทธิภาพมากขึ้น เพื่อที่จะสามารถควบคุมต้นทุนและเพิ่มประสิทธิภาพในการใช้ทรัพยากรที่มีอยู่ได้อย่างเหมาะสมในอนาคต.
แหล่งข้อมูลอ้างอิง
บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก unknown-source ตามลิงก์ต้นฉบับด้านล่าง
อ่านต้นฉบับ: The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs
#AI #Infrastructure #Enterprise #Compute Gap
