ການຫຼອກລວງຂອງ AI (Hallucination)

ເປັນຫຍັງຈຶ່ງເອີ້ນວ່າ "ການຫຼອນ"

ຄືກັນກັບທີ່ການຫຼອນຂອງມະນຸດເປັນປະກົດການທີ່ຮັບຮູ້ສິ່ງທີ່ບໍ່ມີຕົວຕົນຈິງ, hallucination ຂອງ AI ກໍ່ສ້າງ "ຂໍ້ເທັດຈິງທີ່ບໍ່ມີຢູ່ຈິງ" ເຊັ່ນດຽວກັນ. ຢ່າງໃດກໍ່ຕາມ, ຕ່າງຈາກການຫຼອນຂອງມະນຸດຢ່າງເປັນພື້ນຖານ, LLM ບໍ່ມີກົນໄກໃນການຕັດສິນວ່າ "ເປັນຂໍ້ເທັດຈິງຫຼືບໍ່". ມັນພຽງແຕ່ສ້າງ token ທີ່ມີຄວາມເປັນໄປໄດ້ສູງທີ່ຈະຕາມມາຕໍ່ເນື່ອງກັນ, ເຊິ່ງຜົນລັບທີ່ໄດ້ອາດຈະຕົງກັບຂໍ້ເທັດຈິງໂດຍບັງເອີນ ຫຼື ອາດຈະກາຍເປັນການສ້າງຂຶ້ນທັງໝົດກໍ່ໄດ້.

ຮູບແບບທີ່ພົບເຫັນທົ່ວໄປ

Hallucination ມີຫຼາຍປະເພດ. ຕົວຢ່າງທີ່ເປັນຕົວແທນໄດ້ແກ່ ການອ້າງອີງບົດຄວາມທີ່ບໍ່ມີຢູ່ຈິງ (ສ້າງຊື່ຜູ້ຂຽນແລະ DOI ທີ່ບໍ່ມີຕົວຕົນ), ການໃຫ້ປະຫວັດທີ່ເປັນເທັດແກ່ບຸກຄົນທີ່ມີຕົວຕົນຈິງ, ແລະ ການປອມແປງຂໍ້ມູນຕົວເລກທີ່ເບິ່ງໜ້າເຊື່ອຖືໄດ້.

ສິ່ງທີ່ຫຍຸ້ງຍາກຄືຜົນຜະລິດຂອງ hallucination ນັ້ນຖືກຕ້ອງທາງໄວຍາກອນ ແລະ ຜະສານເຂົ້າກັບບໍລິບົດໄດ້ຢ່າງເປັນທຳມະຊາດ. ຖ້າເປັນຄວາມຜິດພາດທີ່ຊັດເຈນກໍ່ສັງເກດໄດ້ງ່າຍ, ແຕ່ຮູບແບບ "ຖືກ 9 ສ່ວນ ແລະ ຜິດ 1 ສ່ວນ" ນັ້ນເຮັດໃຫ້ການກວດຈັບເປັນເລື່ອງຍາກ.

ວິທີການຮັບມື

ວິທີການຮັບມືທີ່ໜ້າສົນໃຈໃນຂະນະນີ້ຄືການນຳໃຊ້ RAG (Retrieval-Augmented Generation). ໂດຍການໃຫ້ model ຄົ້ນຫາຂໍ້ມູນທີ່ກ່ຽວຂ້ອງຈາກ knowledge base ພາຍນອກກ່ອນທີ່ຈະສ້າງຄຳຕອບ, ແລ້ວຈຶ່ງໃຫ້ຕອບໂດຍອີງໃສ່ຂໍ້ມູນດັ່ງກ່າວ, ຈຶ່ງຊ່ວຍເພີ່ມຄວາມເປັນໄປໄດ້ຂອງຜົນຜະລິດທີ່ສອດຄ່ອງກັບຂໍ້ເທັດຈິງ.

ທິດທາງອີກອັນໜຶ່ງຄືການລວມເອົາ HITL (Human-in-the-Loop). ໂດຍການອອກແບບ flow ທີ່ໃຫ້ມະນຸດທົບທວນຜົນຜະລິດຂອງ AI, ຈຶ່ງຊ່ວຍຫຼຸດຄວາມສ່ຽງທີ່ hallucination ຈະຖືກລວມເຂົ້າໄປໃນຜົນງານສຸດທ້າຍ. ໃນຂົງເຂດທີ່ຄ່າໃຊ້ຈ່າຍຂອງຂໍ້ມູນຜິດພາດສູງ ເຊັ່ນ ການແພດ ຫຼື ກົດໝາຍ, ການລວມກັນນີ້ກຳລັງກາຍເປັນມາດຕະຖານໂດຍພຶດຕິກຳ.