ວິສະວະກຳສາຍໄຟ (Harness Engineering)

ຮາເນສ ເອັນຈີນຽຣິງ (Harness Engineering) ແມ່ນວິທີການອອກແບບຂໍ້ຈຳກັດທາງໂຄງສ້າງ ເຊັ່ນ: prompt, ການກຳນົດ tool, CI/CD ແລະ ອື່ນໆ ເພື່ອປ້ອງກັນການເຮັດວຽກຜິດພາດຂອງ AI agent. ຄຳວ່າ "ຮາເນສ" ມາຈາກອຸປະກອນຄຸມມ້າ (ເຄື່ອງໃຊ້ສຳລັບຄວບຄຸມມ້າ) ໝາຍເຖິງແນວຄິດໃນການຄວບຄຸມພະລັງງານທີ່ມີກຳລັງສູງຢ່າງປອດໄພ. ໃນຍຸກປັດຈຸບັນທີ່ AI agent ສາມາດປະຕິບັດວຽກງານໄດ້ຢ່າງອັດຕະໂນມັດ, ການອອກແບບ "ໂຄງສ້າງການຄວບຄຸມ" ຄວາມສາມາດດັ່ງກ່າວໄດ້ກາຍເປັນສິ່ງທ້າທາຍຫຼັກທີ່ກຳນົດຄວາມໜ້າເຊື່ອຖືຂອງລະບົບທັງໝົດ.

ເປັນຫຍັງຮາເນສ ເອັນຈີນຽຣິງຈຶ່ງຈຳເປັນໃນຕອນນີ້

[AI agent](slug: ai-agent) ປະຕິບັດການກະທຳທີ່ສົ່ງຜົນກະທົບຕໍ່ໂລກຄວາມເປັນຈິງ ເຊັ່ນ: ການດຳເນີນການ API ພາຍນອກ, ການອ່ານ-ຂຽນໄຟລ໌, ແລະ ການປະຕິບັດ code ຜ່ານ ການເອີ້ນໃຊ້ tool (Function Calling) ແລະ [ລະບົບ multi-agent](slug: multi-agent-system). ຖ້າ [prompt engineering](slug: prompt-engineering) ແບບດັ້ງເດີມແມ່ນເຕັກນິກທີ່ເພີ່ມປະສິດທິພາບ "ວິທີການສື່ສານ", ຮາເນສ ເອັນຈີນຽຣິງກໍຄືເຕັກນິກທີ່ອອກແບບໂຄງສ້າງຂອງ "ສິ່ງທີ່ອະນຸຍາດ ແລະ ສິ່ງທີ່ຫ້າມ" ໂດຍກົງ.

ຍິ່ງ agent ເຄື່ອນໄຫວຢ່າງອັດຕະໂນມັດຫຼາຍເທົ່າໃດ, ຄວາມສ່ຽງຂອງ [Hallucination](slug: hallucination) ແລະ [Prompt Injection](slug: prompt-injection) ກໍຍິ່ງເພີ່ມຂຶ້ນ. ນີ້ບໍ່ແມ່ນບັນຫາທີ່ສາມາດແກ້ໄຂໄດ້ດ້ວຍການດັດແກ້ prompt ດຽວ, ແຕ່ຕ້ອງຝັງຂໍ້ຈຳກັດໃນລະດັບ system architecture.

ອົງປະກອບຂອງຮາເນສ ເອັນຈີນຽຣິງ

ຮາເນສ ເອັນຈີນຽຣິງ ປະກອບດ້ວຍການອອກແບບຫຼາຍ layer ດັ່ງຕໍ່ໄປນີ້:

• ການອອກແບບຂໍ້ຈຳກັດໂຄງສ້າງ prompt: ຂຽນລະຫັດຈັນຍາບັນ, ຂໍ້ຫ້າມ, ແລະ ເງື່ອນໄຂ escalation ຢ່າງຊັດເຈນໃນ system prompt ເພື່ອກຳນົດ "ກອບ" ການຕັດສິນໃຈຂອງ agent
• ການຈຳກັດ scope ຂອງການກຳນົດ tool: ຫຼຸດຜ່ອນສິດທິຂອງ tool ທີ່ມອບໃຫ້ agent ໃຫ້ຢູ່ໃນລະດັບຕ່ຳສຸດ ແລະ ກຳຈັດເສັ້ນທາງການດຳເນີນການທີ່ບໍ່ຈຳເປັນອອກຢ່າງສິ້ນເຊີງ
• ການລວມເຂົ້າໃນ CI/CD pipeline: ສ້າງກົນໄກທີ່ນຳ code ຫຼື output ທີ່ agent ສ້າງຂຶ້ນຜ່ານ gate ການກວດສອບອັດຕະໂນມັດ ເຊັ່ນ: [unit test](slug: unit-test), [E2E test](slug: e2e-test), [acceptance test](slug: acceptance-test) ແລະ ອື່ນໆ
• ການອອກແບບ loop ການຕິດຕາມຂອງມະນຸດ: ນຳເອົາແນວຄິດ [HITL (Human-in-the-Loop)](slug: hitl) ແລະ [On the Loop](slug: on-the-loop) ມາໃຊ້ ແລະ ກຳນົດ flow ທີ່ຕ້ອງການການອະນຸມັດຈາກມະນຸດສຳລັບການຕັດສິນໃຈທີ່ມີຄວາມສ່ຽງສູງ
• ການຈັດຕັ້ງປະຕິບັດ [Guardrail (AI Guardrails)](slug: ai-guardrails): ຈັດວາງ output filtering ແລະ input validation ຫຼາຍຊັ້ນ

ແນວຄິດໃນການຈັດຕັ້ງປະຕິບັດ

ໃນຂະນະທີ່ [context engineering](slug: context-engineering) ເພີ່ມປະສິດທິພາບຄຸນນະພາບ ແລະ ປະລິມານຂໍ້ມູນທີ່ສົ່ງໃຫ້ LLM, ຮາເນສ ເອັນຈີນຽຣິງ ກົງກັບການກຳນົດເສັ້ນແບ່ງລະຫວ່າງ "ສິ່ງທີ່ agent ສາມາດເຮັດໄດ້" ແລະ "ສິ່ງທີ່ເຮັດບໍ່ໄດ້". ວິທີການນີ້ມີຄວາມສອດຄ່ອງສູງກັບແນວຄິດ [Shift Left](slug: shift-left) ໂດຍການຝັງຂໍ້ຈຳກັດໃນຂັ້ນຕອນການອອກແບບ ແທນທີ່ຈະດັດແກ້ຫຼັງຈາກເກີດບັນຫາ ເພື່ອກຳຈັດຄວາມສ່ຽງລ່ວງໜ້າ.

ໃນກໍລະນີທີ່ດຳເນີນງານ coding agent ເຊັ່ນ [Claude Code](slug: claude-code) ໃນສະພາບແວດລ້ອມການຜະລິດ, ການກຳນົດ policy ຢ່າງຊັດເຈນວ່າ directory ໃດທີ່ອະນຸຍາດໃຫ້ເຂົ້າເຖິງ ແລະ ຄຳສັ່ງໃດທີ່ຫ້າມປະຕິບັດ ຖືເປັນການປະຕິບັດທີ່ເປັນຕົວຢ່າງຂອງຮາເນສ ເອັນຈີນຽຣິງ. ນອກຈາກນີ້, ແນວຄິດການອອກແບບດັ່ງກ່າວຍັງຈຳເປັນຕໍ່ການຮັກສາຄວາມສອດຄ່ອງກັບ [AI governance](slug: ai-governance) ແລະ ມາດຕະຖານຄວາມປອດໄພຂອງ [OWASP](slug: owasp) ອີກດ້ວຍ.

ຂໍ້ສັງເກດ ແລະ ຂໍ້ຈຳກັດ

ຮາເນສ ເອັນຈີນຽຣິງ ບໍ່ແມ່ນວິທີແກ້ທີ່ສົມບູນ. ຖ້າຂໍ້ຈຳກັດເຄັ່ງຄັດເກີນໄປ, ຄວາມເປັນປະໂຫຍດຂອງ agent ຈະຖືກທຳລາຍ. ໃນທາງກົງກັນຂ້າມ, ຖ້າຫຼວງຫຼາຍເກີນໄປ ກໍຈະນຳໄປສູ່ພຶດຕິກຳທີ່ຄາດບໍ່ຮອດໃນລັກສະນະ [Shadow AI](slug: shadow-ai). ເພື່ອຊອກຫາຄວາມສົມດຸນທີ່ເໝາະສົມ, ການກວດສອບຊ້ຳໆຜ່ານ [PoC (Proof of Concept)](slug: poc) ແລະ ການທົດສອບການໂຈມຕີໂດຍເຈດຕະນາຜ່ານ [AI Red Teaming](slug: ai-red-teaming) ແມ່ນມີປະສິດທິຜົນ.

ຍິ່ງຄວາມສາມາດຂອງ agent ພັດທະນາສູງຂຶ້ນ, ການອອກແບບ harness ກໍຕ້ອງວິວັດທະນາຕາມໄປດ້ວຍ. ນີ້ບໍ່ແມ່ນເອກະສານທີ່ສຳເລັດຮູບຄັ້ງດຽວແລ້ວຈົບ, ແຕ່ຄວນຖືເປັນຊັບສິນທາງ engineering ທີ່ຕ້ອງໄດ້ຮັບການປັບປຸງຢ່າງຕໍ່ເນື່ອງຄຽງຄູ່ກັບການດຳເນີນງານຂອງ agent.