ການຫຼອກລວງຂອງ AI (Hallucination)

## ເປັນຫຍັງຈຶ່ງເອີ້ນວ່າ "ການຫຼອນ" ຄືກັນກັບທີ່ການຫຼອນຂອງມະນຸດເປັນປະກົດການທີ່ຮັບຮູ້ສິ່ງທີ່ບໍ່ມີຕົວຕົນຈິງ, hallucination ຂອງ AI ກໍ່ສ້າງ "ຂໍ້ເທັດຈິງທີ່ບໍ່ມີຢູ່ຈິງ" ເຊັ່ນດຽວກັນ. ຢ່າງໃດກໍ່ຕາມ, ຕ່າງຈາກການຫຼອນຂອງມະນຸດຢ່າງເປັນພື້ນຖານ, LLM ບໍ່ມີກົນໄກໃນການຕັດສິນວ່າ "ເປັນຂໍ້ເທັດຈິງຫຼືບໍ່". ມັນພຽງແຕ່ສ້າງ token ທີ່ມີຄວາມເປັນໄປໄດ້ສູງທີ່ຈະຕາມມາຕໍ່ເນື່ອງກັນ, ເຊິ່ງຜົນລັບທີ່ໄດ້ອາດຈະຕົງກັບຂໍ້ເທັດຈິງໂດຍບັງເອີນ ຫຼື ອາດຈະກາຍເປັນການສ້າງຂຶ້ນທັງໝົດກໍ່ໄດ້. ## ຮູບແບບທີ່ພົບເຫັນທົ່ວໄປ Hallucination ມີຫຼາຍປະເພດ. ຕົວຢ່າງທີ່ເປັນຕົວແທນໄດ້ແກ່ ການອ້າງອີງບົດຄວາມທີ່ບໍ່ມີຢູ່ຈິງ (ສ້າງຊື່ຜູ້ຂຽນແລະ DOI ທີ່ບໍ່ມີຕົວຕົນ), ການໃຫ້ປະຫວັດທີ່ເປັນເທັດແກ່ບຸກຄົນທີ່ມີຕົວຕົນຈິງ, ແລະ ການປອມແປງຂໍ້ມູນຕົວເລກທີ່ເບິ່ງໜ້າເຊື່ອຖືໄດ້. ສິ່ງທີ່ຫຍຸ້ງຍາກຄືຜົນຜະລິດຂອງ hallucination ນັ້ນຖືກຕ້ອງທາງໄວຍາກອນ ແລະ ຜະສານເຂົ້າກັບບໍລິບົດໄດ້ຢ່າງເປັນທຳມະຊາດ. ຖ້າເປັນຄວາມຜິດພາດທີ່ຊັດເຈນກໍ່ສັງເກດໄດ້ງ່າຍ, ແຕ່ຮູບແບບ "ຖືກ 9 ສ່ວນ ແລະ ຜິດ 1 ສ່ວນ" ນັ້ນເຮັດໃຫ້ການກວດຈັບເປັນເລື່ອງຍາກ. ## ວິທີການຮັບມື ວິທີການຮັບມືທີ່ໜ້າສົນໃຈໃນຂະນະນີ້ຄືການນຳໃຊ້ RAG (Retrieval-Augmented Generation). ໂດຍການໃຫ້ model ຄົ້ນຫາຂໍ້ມູນທີ່ກ່ຽວຂ້ອງຈາກ knowledge base ພາຍນອກກ່ອນທີ່ຈະສ້າງຄຳຕອບ, ແລ້ວຈຶ່ງໃຫ້ຕອບໂດຍອີງໃສ່ຂໍ້ມູນດັ່ງກ່າວ, ຈຶ່ງຊ່ວຍເພີ່ມຄວາມເປັນໄປໄດ້ຂອງຜົນຜະລິດທີ່ສອດຄ່ອງກັບຂໍ້ເທັດຈິງ. ທິດທາງອີກອັນໜຶ່ງຄືການລວມເອົາ HITL (Human-in-the-Loop). ໂດຍການອອກແບບ flow ທີ່ໃຫ້ມະນຸດທົບທວນຜົນຜະລິດຂອງ AI, ຈຶ່ງຊ່ວຍຫຼຸດຄວາມສ່ຽງທີ່ hallucination ຈະຖືກລວມເຂົ້າໄປໃນຜົນງານສຸດທ້າຍ. ໃນຂົງເຂດທີ່ຄ່າໃຊ້ຈ່າຍຂອງຂໍ້ມູນຜິດພາດສູງ ເຊັ່ນ ການແພດ ຫຼື ກົດໝາຍ, ການລວມກັນນີ້ກຳລັງກາຍເປັນມາດຕະຖານໂດຍພຶດຕິກຳ.