HITL (Human-in-the-Loop) — ມະນຸດຢູ່ໃນວົງຈອນ

"ປ້ອມສຸດທ້າຍ" ຂອງລະບົບອັດຕະໂນມັດ

ເມື່ອ AI ແຊກຊຶມເຂົ້າສູ່ການດຳເນີນງານຫຼາຍຂຶ້ນ, ການກຳນົດເສັ້ນແບ່ງວ່າ "ຈະໃຫ້ເຄື່ອງຈັກຮັບຜິດຊອບຫຼາຍປານໃດ ແລະ ຈຸດໃດທີ່ມະນຸດຕ້ອງຕັດສິນໃຈ" ກໍ່ກາຍເປັນສິ່ງທີ່ຫຼີກລ່ຽງບໍ່ໄດ້. HITL ແມ່ນວິທີການທີ່ກຳນົດເສັ້ນແບ່ງດັ່ງກ່າວໃຫ້ເປັນກົນໄກທີ່ຊັດເຈນ.

ໃນການ implement ທົ່ວໄປ, ຜົນລັບຂອງ AI ຈະຖືກກຳນົດ confidence score ແລ້ວສົ່ງໄປຍັງ review queue ຂອງມະນຸດເມື່ອຄ່າຕ່ຳກວ່າ threshold ທີ່ກຳນົດໄວ້. ຕົວຢ່າງເຊັ່ນ: ໃນລະບົບອ່ານໃບແຈ້ງໜີ້ອັດຕະໂນມັດ, ຫາກ confidence ຂອງຈຳນວນເງິນທີ່ດຶງອອກມາຕ່ຳກວ່າ 0.85, operator ຈະຕ້ອງກວດສອບດ້ວຍຕາ——ເປັນຕົ້ນ.

ຈະວາງມະນຸດໄວ້ຈຸດໃດ

ສິ່ງທີ່ຍາກທີ່ສຸດໃນການອອກແບບ HITL ຄືການເລືອກຈຸດທີ່ຈະໃຫ້ມະນຸດເຂົ້າແຊກແຊງ. ຖ້າໃຫ້ມະນຸດກວດສອບທຸກຜົນລັບກໍ່ປອດໄພ, ແຕ່ນັ້ນກໍ່ເທົ່າກັບວ່າລະບົບອັດຕະໂນມັດບໍ່ມີຄວາມໝາຍ. ໃນທາງກົງກັນຂ້າມ, ຖ້າຕັ້ງ threshold ໃຫ້ຫຼວມເກີນໄປ, ຜົນລັບທີ່ຜິດພາດກໍ່ຈະໄຫຼຜ່ານໄປສູ່ຂັ້ນຕອນຕໍ່ໄປໂດຍກົງ.

ໃນທາງປະຕິບັດ, ມັກໃຊ້ວິທີການທີ່ເປັນຂັ້ນຕອນ. ໃນຊ່ວງເລີ່ມຕົ້ນຈະຕັ້ງ threshold ໃຫ້ເຄັ່ງຄັດ ເພື່ອໃຫ້ອັດຕາການ review ຂອງມະນຸດສູງ, ແລ້ວຄ່ອຍໆຜ່ອນຄາຍ threshold ລົງເມື່ອຄວາມແມ່ນຍຳຂອງ AI ມີຄວາມໝັ້ນຄົງຂຶ້ນ. feedback loop ນີ້ເອງຖືໄດ້ວ່າເປັນຄຸນຄ່າທີ່ແທ້ຈິງຂອງ HITL.

ການໃຊ້ຮ່ວມກັບລະບົບອັດຕະໂນມັດເຕັມຮູບແບບ

ບໍ່ແມ່ນທຸກ task ຈຳເປັນຕ້ອງໃຊ້ HITL. task ທີ່ຄ່າຄວາມຜິດພາດຕ່ຳ ເຊັ່ນ: ການຈັດໝວດໝູ່ອີເມວ ຫຼື ການວິເຄາະ log ສາມາດໃຊ້ລະບົບອັດຕະໂນມັດເຕັມຮູບແບບໄດ້ໂດຍບໍ່ມີບັນຫາ. ໃນທາງກົງກັນຂ້າມ, ໃນຂົງເຂດທີ່ການຕັດສິນໃຈຜິດພາດນຳໄປສູ່ຜົນລັບທີ່ຮ້າຍແຮງ ເຊັ່ນ: ການຊ່ວຍວິນິດໄສທາງການແພດ ຫຼື ການອະນຸມັດທຸລະກຳທາງການເງິນ, HITL ກາຍເປັນສິ່ງທີ່ຂາດບໍ່ໄດ້.

ໃນໂຄງການ OCR ຜະສານກັບການປ້ອນຂໍ້ມູນທີ່ຜູ້ຂຽນໄດ້ມີສ່ວນຮ່ວມ, ຫຼັງຈາກນຳ HITL ມາໃຊ້, ຄວາມໄວໃນການປະມວນຜົນຫຼຸດລົງ 30% ເມື່ອທຽບກັບລະບົບອັດຕະໂນມັດເຕັມຮູບແບບ, ແຕ່ອັດຕາຄວາມຜິດພາດດີຂຶ້ນຈົນຕ່ຳກວ່າ 1/10 ຂອງເດີມ. ການສາມາດວັດ tradeoff ລະຫວ່າງຄວາມໄວ ແລະ ຄວາມຖືກຕ້ອງໄດ້ຢ່າງເປັນຕົວເລກ ກໍ່ຖືເປັນຂໍ້ດີອີກຢ່າງໜຶ່ງຂອງການອອກແບບ HITL.