OWASP Top 10 สำหรับแอปพลิเคชัน Large Language Model มีเป้าหมายเพื่อให้ความรู้แก่นักพัฒนา นักออกแบบ สถาปนิก ผู้จัดการ และองค์กรต่างๆ เกี่ยวกับความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นเมื่อใช้งานและจัดการ Large Language Models (LLMs) โครงการนี้จัดทำรายการ 10 ช่องโหว่ที่สำคัญที่สุดซึ่งมักพบในแอปพลิเคชัน LLM โดยเน้นที่ผลกระทบที่อาจเกิดขึ้น ความง่ายในการใช้ประโยชน์จากช่องโหว่ และความแพร่หลายในแอปพลิเคชันจริง ตัวอย่างของช่องโหว่ ได้แก่ การใส่ prompt ที่เป็นอันตราย (prompt injection), การรั่วไหลของข้อมูล, การแยกการทำงานที่ไม่เพียงพอ (inadequate sandboxing), และการเรียกใช้โค้ดที่ไม่ได้รับอนุญาต เป็นต้น เป้าหมายคือการเพิ่มความตระหนักรู้เกี่ยวกับช่องโหว่เหล่านี้ เสนอแนะกลยุทธ์การแก้ไขปัญหา และในท้ายที่สุด ยกระดับความปลอดภัยของแอปพลิเคชัน LLM โดยสามารถสามารถ Download ฉบับเต็มได้ที่ https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf
OWASP 10 อันดับความเสี่ยงของแอปพลิเคชัน Large Language Model (LLM) เวอร์ชัน 1.1
LLM01: Prompt Injection
การปรับแต่ง LLM ผ่านการป้อนข้อมูลที่สร้างขึ้นเป็นพิเศษ อาจนำไปสู่ปัญหาการเข้าถึงโดยไม่ได้รับอนุญาต การละเมิดข้อมูล และการตัดสินใจที่ไม่ปลอดภัย
LLM02: Insecure Output Handling
การละเลยที่จะตรวจสอบผลลัพธ์ (outputs) ของ LLM อาจนำไปสู่การโจมตีระบบอื่นๆ รวมถึงการเรียกใช้โค้ดที่เป็นอันตราย ซึ่งจะทำให้ระบบเสียหายและข้อมูลรั่วไหล
LLM03: Training Data Poisoning
การใช้ข้อมูลสำหรับฝึกอบรม (training data) ที่ถูกดัดแปลง อาจส่งผลเสียต่อตัวแบบ (models) ของ LLM ทำให้การตอบสนองลดความปลอดภัย ความถูกต้อง หรือไม่เป็นไปตามหลักจริยธรรม
LLM04: Model Denial of Service
การใช้งาน LLM หนักเกินไป ทำให้เกิดการใช้ทรัพยากรมากเกิน อาจนำไปสู่การหยุดชะงักของบริการและค่าใช้จ่ายที่เพิ่มขึ้น
LLM05: Supply Chain Vulnerabilities
การพึ่งพาส่วนประกอบ บริการ หรือชุดข้อมูลที่ไม่ปลอดภัย ทำให้ความสมบูรณ์ของระบบลดลง อาจทำให้เกิดการละเมิดข้อมูลและระบบล้มเหลวได้
LLM06: Sensitive Information Disclosure
ความล้มเหลวในการปกป้องการเปิดเผยข้อมูลที่ละเอียดอ่อนในผลลัพธ์ (outputs) ของ LLM อาจทำให้เกิดปัญหาทางกฎหมายหรือสูญเสียความได้เปรียบในการแข่งขัน
LLM07: Insecure Plugin Design
ปลั๊กอินของ LLM ที่ประมวลผลอินพุตที่เชื่อถือไม่ได้ และการควบคุมการเข้าถึงไม่เพียงพอ อาจมีความเสี่ยงสูงต่อการถูกโจมตีที่รุนแรง เช่น การเรียกใช้โค้ดจากระยะไกล
LLM08: Excessive Agency
การมอบอำนาจหน้าที่ให้กับ LLM โดยไม่มีการตรวจสอบอาจนำไปสู่ผลที่ไม่คาดคิด ซึ่งคุกคามความน่าเชื่อถือ ความเป็นส่วนตัว และความไว้วางใจ
LLM09: Overreliance
การประเมินผลลัพธ์ (outputs) ของ LLM แบบไม่รอบคอบอาจนำไปสู่การตัดสินใจที่ไม่ดี ช่องโหว่ด้านความปลอดภัย และความรับผิดทางกฎหมาย
LLM10: Model Theft
การเข้าถึงโมเดลภาษาขนาดใหญ่ (LLM) ที่เป็นลิขสิทธิ์โดยไม่ได้รับอนุญาต อาจมีความเสี่ยงต่อการโจรกรรม การเสียเปรียบในการแข่งขัน และการเผยแพร่ข้อมูลที่ละเอียดอ่อน