top of page

Confabulation ในระบบ AI: ความเสี่ยงและผลกระทบ

อัปเดตเมื่อ 15 พ.ค.



NIST AI 600-1 Initial (Public Draft) Artificial Intelligence Risk  Management Framework: Generative Artificial Intelligence Profile ของสถาบัน NIST National Institute of Standards and Technology หรือ สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ เป็นหน่วยงานของรัฐบาลกลางสหรัฐอเมริกา ให้ข้อมูลความเสี่ยงเกี่ยวกับ Generative AI 12 ข้อโดยข้อที่สอง คือความเสี่ยงที่เกิดขึ้นจาก Confabulation


โดย "Confabulation" หมายถึงปรากฏการณ์ที่ระบบ GAI (General Artificial Intelligence) สร้างและนำเสนอเนื้อหาที่ผิดพลาดหรือเท็จอย่างมั่นใจ เพื่อตอบสนองต่อคำสั่งของผู้ใช้


Confabulation ไม่ใช่ข้อบกพร่องโดยพื้นฐานของแบบจำลองทางภาษา (Language Model) แต่เป็นผลมาจากการฝึกอบรม GAI ที่เกี่ยวข้องกับการคาดการณ์คำถัดไป ตัวอย่างเช่น LLM (Large Language Model) อาจสร้างเนื้อหาที่เบี่ยงเบนไปจากความจริง เช่น ข้อมูลที่ผิดพลาดเกี่ยวกับบุคคล สถานที่ หรือรายละเอียดอื่นๆ ของเหตุการณ์สำคัญในประวัติศาสตร์


มีหลักฐานแสดงให้เห็นว่า Confabulation นั้นเกิดขึ้นบ่อยใน LLM ชั้นนำ Confabulation อาจรวมถึงผลลัพธ์ที่สร้างขึ้น (จาก AI) ซึ่งแตกต่างจากข้อมูลต้นฉบับ หรือขัดแย้งกับข้อความที่สร้างขึ้นก่อนหน้านี้ในบริบทเดียวกัน


ปรากฏการณ์นี้ยังถูกเรียกว่า "hallucination" (ภาพหลอน) หรือ "fabrication" (การสร้างเรื่อง) แต่บางคนตั้งข้อสังเกตว่าการใช้คำเหล่านี้บ่งบอกถึงเจตนาในการหลอกลวง ซึ่งเป็นการมองระบบ AI ให้มีความคิดเหมือนมนุษย์เกินไป


ความเสี่ยงจาก Confabulation อาจเกิดขึ้นเมื่อผู้ใช้เชื่อเนื้อหาที่เป็นเท็จเนื่องจากลักษณะการตอบสนองที่มั่นใจของระบบ หรือตรรกะและการอ้างอิงที่มาพร้อมกับการตอบสนอง ทำให้ผู้ใช้ดำเนินการหรือเผยแพร่ข้อมูลเท็จ เช่น LLM บางครั้งอาจแสดงขั้นตอนตรรกะของวิธีการที่ใช้ในการหาคำตอบ แม้ว่าคำตอบนั้นจะไม่ถูกต้อง


สิ่งนี้ก่อให้เกิดความเสี่ยงสำหรับการใช้งานในโลกแห่งความเป็นจริงหลายอย่าง เช่น ในด้านการดูแลสุขภาพ รายงานสรุปข้อมูลผู้ป่วยที่สร้างขึ้นโดย AI อาจทำให้แพทย์วินิจฉัยผิดพลาด และ/หรือแนะนำการรักษาที่ไม่ถูกต้อง แม้ว่างานวิจัยข้างต้นจะบ่งชี้ว่าเนื้อหาที่ถูกสร้างขึ้นมีอยู่มากมาย แต่ก็เป็นเรื่องยากที่จะประเมินผลกระทบของเนื้อหานั้นในวงกว้าง


📱 โทร: 093-789-4544

💬 Inbox: m.me/AlphaSecTH

📧 อีเมล: contact@alphasec.co.th

🔗 เว็บไซต์: https://www.alphasec.co.th

ดู 34 ครั้ง

Comments


bottom of page