การโจมตีด้วย Prompt Injection กำลังใช้ประโยชน์จากจุดอ่อนในการออกแบบ AI ขององค์กร
Photo: Ron Lach / Pexels

ในช่วงไม่กี่ปีที่ผ่านมา ธุรกิจต่างๆ ได้เพิ่มการใช้แบบจำลองภาษาขนาดใหญ่ (LLMs) เพื่อปรับปรุงการสนับสนุน การวิเคราะห์ การพัฒนา และการทำงานอัตโนมัติภายในองค์กรอย่างมาก อย่างไรก็ตาม การเพิ่มขึ้นของการนำเทคโนโลยี AI มาใช้ได้เปิดโอกาสให้กับอาชญากรไซเบอร์ในการใช้ประโยชน์จากช่องว่างระหว่างความเข้าใจใน LLMs และลักษณะจริงของมัน โดยในปี 2025 และ 2026 มีแหล่งข้อมูลหลายแห่งที่ชี้ให้เห็นถึงแนวโน้มเดียวกัน นั่นคือ การโจมตีด้วย Prompt Injection ยังคงเป็นหนึ่งในวิธีการโจมตีที่มีผลกระทบมากที่สุดและมีการแสดงให้เห็นอย่างกว้างขวางต่อระบบ LLMs

ตามรายงาน OWASP LLM Top 10 ประจำปี 2025 การโจมตีด้วย Prompt Injection ได้รับการจัดอันดับเป็น LLM01 ซึ่งถือเป็นหมวดหมู่ที่สำคัญที่สุดของช่องโหว้เฉพาะสำหรับ LLMs เป็นครั้งที่สองติดต่อกัน การจัดอันดับของ OWASP สะท้อนให้เห็นว่า LLMs ยังคงประสบปัญหาในการแยกแยะคำสั่งจากข้อมูลอย่างเชื่อถือได้ ทำให้พวกมันมีความเสี่ยงต่อการถูกควบคุมโดยการป้อนข้อมูลที่ถูกสร้างขึ้นมาอย่างเฉพาะเจาะจง ข้อมูลจากรายงาน Global Threat Report ของ CrowdStrike ประจำปี 2026 ซึ่งสร้างขึ้นจากข้อมูลเชิงลึกจากการติดตามอาชญากรไซเบอร์มากกว่า 280 รายงานว่า อาชญากรได้ฉีดคำสั่งที่เป็นอันตรายเข้าสู่เครื่องมือ AI ที่ถูกสร้างขึ้นอย่างถูกต้องในองค์กรมากกว่า 90 แห่งในปี 2025 โดยใช้การฉีดเหล่านี้ในการสร้างคำสั่งที่ขโมยข้อมูลประจำตัวและสกุลเงินดิจิทัล

รายงานระบุชัดเจนว่า “คำสั่งเป็นมัลแวร์ใหม่” โดยอาชญากรที่ใช้ AI เพิ่มปริมาณการโจมตีโดยรวมขึ้น 89% เมื่อเปรียบเทียบกับปีที่ผ่านมา โดยการโจมตีด้วย Prompt Injection ทำหน้าที่เป็นทั้งจุดเริ่มต้นและตัวเพิ่มพลังในการโจมตี ตัวอย่างเหตุการณ์ในโลกจริงแสดงให้เห็นถึงผลกระทบในการดำเนินงาน ในเดือนสิงหาคม 2024 นักวิจัยจาก PromptArmor ได้เปิดเผยช่องโหว่การโจมตีด้วย Prompt Injection ใน Slack AI ที่อนุญาตให้ผู้โจมตีสามารถขโมยข้อมูลจากช่อง Slack ส่วนตัวที่พวกเขาไม่มีสิทธิ์เข้าถึง รวมถึง API keys ที่ถูกแชร์ในช่องนักพัฒนาส่วนตัว โดยการวางคำสั่งที่เป็นอันตรายเข้าไปในระบบ

ด้วยความก้าวหน้าของ AI และการพัฒนา LLMs ความเสี่ยงจากการโจมตีด้วย Prompt Injection จึงเป็นปัญหาที่สำคัญที่องค์กรต่างๆ ต้องเฝ้าระวังและเตรียมการรับมืออย่างจริงจัง การสร้างมาตรการป้องกันที่มีประสิทธิภาพและการฝึกอบรมพนักงานเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับการใช้ AI จะเป็นสิ่งสำคัญในการปกป้องข้อมูลและทรัพย์สินขององค์กรในยุคดิจิทัลนี้.

แหล่งข้อมูลอ้างอิง

บทความนี้สรุปและเขียนใหม่โดยทีมบรรณาธิการ อ้างอิงจาก unknown-source ตามลิงก์ต้นฉบับด้านล่าง

อ่านต้นฉบับ: Prompt injection is exploiting enterprise AI’s biggest design flaws by targeting agents, RAG pipelines and model routers

#AI #Cybersecurity #Prompt Injection #LLMs