ວິສະວະກຳສາຍໄຟ (Harness Engineering)

ຮາເນສ ເອັນຈີນຽຣິງ (Harness Engineering) ແມ່ນວິທີການອອກແບບຂໍ້ຈຳກັດທາງໂຄງສ້າງ ເຊັ່ນ: prompt, ການກຳນົດ tool, CI/CD ແລະ ອື່ນໆ ເພື່ອປ້ອງກັນການເຮັດວຽກຜິດພາດຂອງ AI agent. ຄຳວ່າ "ຮາເນສ" ມາຈາກອຸປະກອນຄຸມມ້າ (ເຄື່ອງໃຊ້ສຳລັບຄວບຄຸມມ້າ) ໝາຍເຖິງແນວຄິດໃນການຄວບຄຸມພະລັງງານທີ່ມີກຳລັງສູງຢ່າງປອດໄພ. ໃນຍຸກປັດຈຸບັນທີ່ AI agent ສາມາດປະຕິບັດວຽກງານໄດ້ຢ່າງອັດຕະໂນມັດ, ການອອກແບບ "ໂຄງສ້າງການຄວບຄຸມ" ຄວາມສາມາດດັ່ງກ່າວໄດ້ກາຍເປັນສິ່ງທ້າທາຍຫຼັກທີ່ກຳນົດຄວາມໜ້າເຊື່ອຖືຂອງລະບົບທັງໝົດ.

ເປັນຫຍັງຮາເນສ ເອັນຈີນຽຣິງຈຶ່ງຈຳເປັນໃນຕອນນີ້

AI agent ປະຕິບັດການກະທຳທີ່ສົ່ງຜົນກະທົບຕໍ່ໂລກຄວາມເປັນຈິງ ເຊັ່ນ: ການດຳເນີນການ API ພາຍນອກ, ການອ່ານ-ຂຽນໄຟລ໌, ແລະ ການປະຕິບັດ code ຜ່ານ ການເອີ້ນໃຊ້ tool (Function Calling) ແລະ ລະບົບ multi-agent. ຖ້າ prompt engineering ແບບດັ້ງເດີມແມ່ນເຕັກນິກທີ່ເພີ່ມປະສິດທິພາບ "ວິທີການສື່ສານ", ຮາເນສ ເອັນຈີນຽຣິງກໍຄືເຕັກນິກທີ່ອອກແບບໂຄງສ້າງຂອງ "ສິ່ງທີ່ອະນຸຍາດ ແລະ ສິ່ງທີ່ຫ້າມ" ໂດຍກົງ.

ຍິ່ງ agent ເຄື່ອນໄຫວຢ່າງອັດຕະໂນມັດຫຼາຍເທົ່າໃດ, ຄວາມສ່ຽງຂອງ Hallucination ແລະ Prompt Injection ກໍຍິ່ງເພີ່ມຂຶ້ນ. ນີ້ບໍ່ແມ່ນບັນຫາທີ່ສາມາດແກ້ໄຂໄດ້ດ້ວຍການດັດແກ້ prompt ດຽວ, ແຕ່ຕ້ອງຝັງຂໍ້ຈຳກັດໃນລະດັບ system architecture.

ອົງປະກອບຂອງຮາເນສ ເອັນຈີນຽຣິງ

ຮາເນສ ເອັນຈີນຽຣິງ ປະກອບດ້ວຍການອອກແບບຫຼາຍ layer ດັ່ງຕໍ່ໄປນີ້:

• ການອອກແບບຂໍ້ຈຳກັດໂຄງສ້າງ prompt: ຂຽນລະຫັດຈັນຍາບັນ, ຂໍ້ຫ້າມ, ແລະ ເງື່ອນໄຂ escalation ຢ່າງຊັດເຈນໃນ system prompt ເພື່ອກຳນົດ "ກອບ" ການຕັດສິນໃຈຂອງ agent
• ການຈຳກັດ scope ຂອງການກຳນົດ tool: ຫຼຸດຜ່ອນສິດທິຂອງ tool ທີ່ມອບໃຫ້ agent ໃຫ້ຢູ່ໃນລະດັບຕ່ຳສຸດ ແລະ ກຳຈັດເສັ້ນທາງການດຳເນີນການທີ່ບໍ່ຈຳເປັນອອກຢ່າງສິ້ນເຊີງ
• ການລວມເຂົ້າໃນ CI/CD pipeline: ສ້າງກົນໄກທີ່ນຳ code ຫຼື output ທີ່ agent ສ້າງຂຶ້ນຜ່ານ gate ການກວດສອບອັດຕະໂນມັດ ເຊັ່ນ: unit test, E2E test, acceptance test ແລະ ອື່ນໆ
• ການອອກແບບ loop ການຕິດຕາມຂອງມະນຸດ: ນຳເອົາແນວຄິດ HITL (Human-in-the-Loop) ແລະ On the Loop ມາໃຊ້ ແລະ ກຳນົດ flow ທີ່ຕ້ອງການການອະນຸມັດຈາກມະນຸດສຳລັບການຕັດສິນໃຈທີ່ມີຄວາມສ່ຽງສູງ
• ການຈັດຕັ້ງປະຕິບັດ Guardrail (AI Guardrails): ຈັດວາງ output filtering ແລະ input validation ຫຼາຍຊັ້ນ

ແນວຄິດໃນການຈັດຕັ້ງປະຕິບັດ

ໃນຂະນະທີ່ context engineering ເພີ່ມປະສິດທິພາບຄຸນນະພາບ ແລະ ປະລິມານຂໍ້ມູນທີ່ສົ່ງໃຫ້ LLM, ຮາເນສ ເອັນຈີນຽຣິງ ກົງກັບການກຳນົດເສັ້ນແບ່ງລະຫວ່າງ "ສິ່ງທີ່ agent ສາມາດເຮັດໄດ້" ແລະ "ສິ່ງທີ່ເຮັດບໍ່ໄດ້". ວິທີການນີ້ມີຄວາມສອດຄ່ອງສູງກັບແນວຄິດ Shift Left ໂດຍການຝັງຂໍ້ຈຳກັດໃນຂັ້ນຕອນການອອກແບບ ແທນທີ່ຈະດັດແກ້ຫຼັງຈາກເກີດບັນຫາ ເພື່ອກຳຈັດຄວາມສ່ຽງລ່ວງໜ້າ.

ໃນກໍລະນີທີ່ດຳເນີນງານ coding agent ເຊັ່ນ Claude Code ໃນສະພາບແວດລ້ອມການຜະລິດ, ການກຳນົດ policy ຢ່າງຊັດເຈນວ່າ directory ໃດທີ່ອະນຸຍາດໃຫ້ເຂົ້າເຖິງ ແລະ ຄຳສັ່ງໃດທີ່ຫ້າມປະຕິບັດ ຖືເປັນການປະຕິບັດທີ່ເປັນຕົວຢ່າງຂອງຮາເນສ ເອັນຈີນຽຣິງ. ນອກຈາກນີ້, ແນວຄິດການອອກແບບດັ່ງກ່າວຍັງຈຳເປັນຕໍ່ການຮັກສາຄວາມສອດຄ່ອງກັບ AI governance ແລະ ມາດຕະຖານຄວາມປອດໄພຂອງ OWASP ອີກດ້ວຍ.

ຂໍ້ສັງເກດ ແລະ ຂໍ້ຈຳກັດ

ຮາເນສ ເອັນຈີນຽຣິງ ບໍ່ແມ່ນວິທີແກ້ທີ່ສົມບູນ. ຖ້າຂໍ້ຈຳກັດເຄັ່ງຄັດເກີນໄປ, ຄວາມເປັນປະໂຫຍດຂອງ agent ຈະຖືກທຳລາຍ. ໃນທາງກົງກັນຂ້າມ, ຖ້າຫຼວງຫຼາຍເກີນໄປ ກໍຈະນຳໄປສູ່ພຶດຕິກຳທີ່ຄາດບໍ່ຮອດໃນລັກສະນະ Shadow AI. ເພື່ອຊອກຫາຄວາມສົມດຸນທີ່ເໝາະສົມ, ການກວດສອບຊ້ຳໆຜ່ານ PoC (Proof of Concept) ແລະ ການທົດສອບການໂຈມຕີໂດຍເຈດຕະນາຜ່ານ AI Red Teaming ແມ່ນມີປະສິດທິຜົນ.

ຍິ່ງຄວາມສາມາດຂອງ agent ພັດທະນາສູງຂຶ້ນ, ການອອກແບບ harness ກໍຕ້ອງວິວັດທະນາຕາມໄປດ້ວຍ. ນີ້ບໍ່ແມ່ນເອກະສານທີ່ສຳເລັດຮູບຄັ້ງດຽວແລ້ວຈົບ, ແຕ່ຄວນຖືເປັນຊັບສິນທາງ engineering ທີ່ຕ້ອງໄດ້ຮັບການປັບປຸງຢ່າງຕໍ່ເນື່ອງຄຽງຄູ່ກັບການດຳເນີນງານຂອງ agent.