ການຫຼອກລວງຂອງ AI (Hallucination)
ຮາລູຊິເນຊັນ (Hallucination) ແມ່ນປະກົດການທີ່ AI model ສ້າງຂໍ້ມູນທີ່ບໍ່ອີງໃສ່ຄວາມເປັນຈິງ ຄືກັບວ່າຂໍ້ມູນນັ້ນຖືກຕ້ອງ. ປະກົດການນີ້ເກີດຈາກກົນໄກທີ່ LLM ສ້າງຂໍ້ຄວາມທີ່ "ໜ້າເຊື່ອຖື" ຈາກຮູບແບບຂໍ້ມູນການຝຶກສອນ, ເຊິ່ງເຮັດໃຫ້ການກຳຈັດອອກຢ່າງສົມບູນເປັນເລື່ອງຍາກ.
ເປັນຫຍັງຈຶ່ງເອີ້ນວ່າ "ການຫຼອນ"
ຄືກັນກັບທີ່ການຫຼອນຂອງມະນຸດເປັນປະກົດການທີ່ຮັບຮູ້ສິ່ງທີ່ບໍ່ມີຕົວຕົນຈິງ, hallucination ຂອງ AI ກໍ່ສ້າງ "ຂໍ້ເທັດຈິງທີ່ບໍ່ມີຢູ່ຈິງ" ເຊັ່ນດຽວກັນ. ຢ່າງໃດກໍ່ຕາມ, ຕ່າງຈາກການຫຼອນຂອງມະນຸດຢ່າງເປັນພື້ນຖານ, LLM ບໍ່ມີກົນໄກໃນການຕັດສິນວ່າ "ເປັນຂໍ້ເທັດຈິງຫຼືບໍ່". ມັນພຽງແຕ່ສ້າງ token ທີ່ມີຄວາມເປັນໄປໄດ້ສູງທີ່ຈະຕາມມາຕໍ່ເນື່ອງກັນ, ເຊິ່ງຜົນລັບທີ່ໄດ້ອາດຈະຕົງກັບຂໍ້ເທັດຈິງໂດຍບັງເອີນ ຫຼື ອາດຈະກາຍເປັນການສ້າງຂຶ້ນທັງໝົດກໍ່ໄດ້.
ຮູບແບບທີ່ພົບເຫັນທົ່ວໄປ
Hallucination ມີຫຼາຍປະເພດ. ຕົວຢ່າງທີ່ເປັນຕົວແທນໄດ້ແກ່ ການອ້າງອີງບົດຄວາມທີ່ບໍ່ມີຢູ່ຈິງ (ສ້າງຊື່ຜູ້ຂຽນແລະ DOI ທີ່ບໍ່ມີຕົວຕົນ), ການໃຫ້ປະຫວັດທີ່ເປັນເທັດແກ່ບຸກຄົນທີ່ມີຕົວຕົນຈິງ, ແລະ ການປອມແປງຂໍ້ມູນຕົວເລກທີ່ເບິ່ງໜ້າເຊື່ອຖືໄດ້.
ສິ່ງທີ່ຫຍຸ້ງຍາກຄືຜົນຜະລິດຂອງ hallucination ນັ້ນຖືກຕ້ອງທາງໄວຍາກອນ ແລະ ຜະສານເຂົ້າກັບບໍລິບົດໄດ້ຢ່າງເປັນທຳມະຊາດ. ຖ້າເປັນຄວາມຜິດພາດທີ່ຊັດເຈນກໍ່ສັງເກດໄດ້ງ່າຍ, ແຕ່ຮູບແບບ "ຖືກ 9 ສ່ວນ ແລະ ຜິດ 1 ສ່ວນ" ນັ້ນເຮັດໃຫ້ການກວດຈັບເປັນເລື່ອງຍາກ.
ວິທີການຮັບມື
ວິທີການຮັບມືທີ່ໜ້າສົນໃຈໃນຂະນະນີ້ຄືການນຳໃຊ້ RAG (Retrieval-Augmented Generation). ໂດຍການໃຫ້ model ຄົ້ນຫາຂໍ້ມູນທີ່ກ່ຽວຂ້ອງຈາກ knowledge base ພາຍນອກກ່ອນທີ່ຈະສ້າງຄຳຕອບ, ແລ້ວຈຶ່ງໃຫ້ຕອບໂດຍອີງໃສ່ຂໍ້ມູນດັ່ງກ່າວ, ຈຶ່ງຊ່ວຍເພີ່ມຄວາມເປັນໄປໄດ້ຂອງຜົນຜະລິດທີ່ສອດຄ່ອງກັບຂໍ້ເທັດຈິງ.
ທິດທາງອີກອັນໜຶ່ງຄືການລວມເອົາ HITL (Human-in-the-Loop). ໂດຍການອອກແບບ flow ທີ່ໃຫ້ມະນຸດທົບທວນຜົນຜະລິດຂອງ AI, ຈຶ່ງຊ່ວຍຫຼຸດຄວາມສ່ຽງທີ່ hallucination ຈະຖືກລວມເຂົ້າໄປໃນຜົນງານສຸດທ້າຍ. ໃນຂົງເຂດທີ່ຄ່າໃຊ້ຈ່າຍຂອງຂໍ້ມູນຜິດພາດສູງ ເຊັ່ນ ການແພດ ຫຼື ກົດໝາຍ, ການລວມກັນນີ້ກຳລັງກາຍເປັນມາດຕະຖານໂດຍພຶດຕິກຳ.
ຄຳສັບທີ່ກ່ຽວຂ້ອງ
ຊາດບອດ AI
AI chatbot ແມ່ນຊອບແວທີ່ໃຊ້ການປະມວນຜົນພາສາທຳມະຊາດ (NLP) ແລະ LLM ເພື່ອດຳເນີນການສົນທະນາກັບມະນຸດໂດຍອັດຕະໂນມັດ. ແຕກຕ່າງຈາກ chatbot ແບບ rule-based ແບບດັ້ງເດີມ, ຈຸດເດັ່ນຂອງມັນຄືສາມາດເຂົ້າໃຈບໍລິບົດແລະຕອບສະໜອງຕໍ່ຄຳຖາມທີ່ບໍ່ໄດ້ກຳນົດໄວ້ລ່ວງໜ້າໄດ້.
ພະນັກງານ AI (AI Employee)
ໝາຍເຖິງ AI Agent ອັດຕະໂນມັດທີ່ຮັບຜິດຊອບບົດບາດໜ້າທີ່ວຽກງານສະເພາະ ແລະ ປະຕິບັດວຽກຢ່າງຕໍ່ເນື່ອງຄືກັບພະນັກງານມະນຸດ. ຈຸດທີ່ແຕກຕ່າງຈາກ AI Assistant ແບບດັ້ງເດີມຄື ບໍ່ແມ່ນພຽງແຕ່ຕອບສະໜອງຄຳສັ່ງຄັ້ງດຽວ ແຕ່ມີຂອບເຂດຄວາມຮັບຜິດຊອບໃນຖານະໜ້າທີ່ວຽກ.
ກາວນດິງ (Grounding)
ເຕັກນິກທີ່ນຳໃຊ້ການຈັບຄູ່ຜົນຜະລິດຂອງ LLM ກັບແຫຼ່ງຂໍ້ມູນພາຍນອກ ຫຼື ຜົນການຄົ້ນຫາ ເພື່ອສ້າງຄຳຕອບທີ່ອີງໃສ່ຂໍ້ເທັດຈິງ. ເປັນວິທີການຫຼັກໃນການຫຼຸດຜ່ອນ Hallucination.
