การประดิษฐ์ข้อมูลเท็จ (Hallucination)

## เหตุใดจึงเรียกว่า "Hallucination" เช่นเดียวกับที่ภาพหลอนของมนุษย์คือการรับรู้สิ่งที่ไม่มีอยู่จริง AI Hallucination ก็คือการสร้าง "ข้อเท็จจริงที่ไม่มีอยู่จริง" เช่นกัน อย่างไรก็ตาม แตกต่างจากภาพหลอนของมนุษย์อย่างสิ้นเชิง เนื่องจาก LLM ไม่มีกลไกในการตัดสินว่า "สิ่งใดเป็นความจริงหรือไม่" มันเพียงแค่สร้าง Token ที่มีความน่าจะเป็นสูงที่จะตามมาอย่างต่อเนื่อง ซึ่งผลลัพธ์ที่ได้อาจบังเอิญตรงกับความเป็นจริง หรืออาจเป็นเรื่องแต่งขึ้นมาทั้งหมดก็ได้ ## รูปแบบที่พบได้ทั่วไป Hallucination มีหลายประเภท ตัวอย่างที่พบบ่อย ได้แก่ การอ้างอิงบทความที่ไม่มีอยู่จริง (การสร้างชื่อผู้แต่งและ DOI ที่เป็นเท็จ) การสร้างประวัติเท็จให้กับบุคคลที่มีตัวตนจริง และการปลอมแปลงข้อมูลตัวเลขที่ดูน่าเชื่อถือ สิ่งที่ทำให้ยากต่อการรับมือคือ ผลลัพธ์ของ Hallucination นั้นถูกต้องทางไวยากรณ์และกลมกลืนเข้ากับบริบทได้อย่างเป็นธรรมชาติ หากเป็นข้อผิดพลาดที่ชัดเจนก็สังเกตได้ง่าย แต่รูปแบบที่ "ถูกต้อง 9 ส่วน เท็จเพียง 1 ส่วน" นั้นทำให้การตรวจจับเป็นเรื่องยาก ## แนวทางการรับมือ แนวทางที่มีประสิทธิภาพในปัจจุบันคือการนำ RAG (Retrieval-Augmented Generation) มาใช้ โดยก่อนที่โมเดลจะสร้างคำตอบ ระบบจะค้นหาข้อมูลที่เกี่ยวข้องจาก Knowledge Base ภายนอก แล้วให้โมเดลตอบโดยอิงจากข้อมูลดังกล่าว ซึ่งช่วยเพิ่มความน่าจะเป็นที่ผลลัพธ์จะสอดคล้องกับข้อเท็จจริง อีกแนวทางหนึ่งคือการผนวก HITL (Human-in-the-Loop) เข้าไปในกระบวนการ โดยออกแบบ Flow ให้มนุษย์ตรวจสอบผลลัพธ์ของ AI เพื่อลดความเสี่ยงที่ Hallucination จะปะปนอยู่ในผลงานขั้นสุดท้าย ในสาขาที่ค่าใช้จ่ายจากข้อมูลผิดพลาดสูง เช่น การแพทย์และกฎหมาย การผสมผสานแนวทางทั้งสองนี้กำลังกลายเป็นมาตรฐานโดยพฤตินัย