AI TRiSM (ການຄຸ້ມຄອງຄວາມເຊື່ອໝັ້ນ, ຄວາມສ່ຽງ ແລະ ຄວາມປອດໄພຂອງ AI)

AI TRiSM (AI Trust, Risk, and Security Management) ແມ່ນຄຳສັບລວມຂອງກອບວຽກ (Framework) ເພື່ອຮັບປະກັນຄວາມໜ້າເຊື່ອຖື, ການຄຸ້ມຄອງຄວາມສ່ຽງ, ແລະຄວາມປອດໄພຂອງໂມເດວ AI ຢ່າງເປັນລະບົບ. ເປັນແນວຄິດທີ່ສະເໜີໂດຍ Gartner ເຊິ່ງໝາຍເຖິງວິທີການທີ່ຄົບວົງຈອນສຳລັບອົງກອນໃນການນຳໃຊ້ລະບົບ AI ຢ່າງປອດໄພ ແລະ ມີຄວາມຮັບຜິດຊອບ.

ເປັນຫຍັງ AI TRiSM ຈຶ່ງມີຄວາມຈຳເປັນໃນປັດຈຸບັນ?

ດ້ວຍການແຜ່ຂະຫຍາຍຢ່າງວ່ອງໄວຂອງ Generative AI ແລະ LLM (Large Language Model) ເຮັດໃຫ້ລະບົບ AI ກາຍເປັນຫົວໃຈຫຼັກໃນການດຳເນີນທຸລະກິດ. ແນວໃດກໍຕາມ, ພາຍໃຕ້ຜົນປະໂຫຍດເຫຼົ່ານັ້ນ, ຄວາມສ່ຽງທີ່ເກີດຈາກ AI ໄດ້ກາຍເປັນໄພຂົ່ມຂູ່ທີ່ແທ້ຈິງ ເຊັ່ນ: ການແຜ່ກະຈາຍຂໍ້ມູນທີ່ຜິດພາດຈາກ Hallucination, ການໂຈມຕີໂດຍໃຊ້ Prompt Injection, ແລະການສໍ້ໂກງໂດຍໃຊ້ Deepfake.

ນອກຈາກນີ້, ຍັງມີການພັດທະນາກົດລະບຽບຕ່າງໆທົ່ວໂລກ ເຊັ່ນ: EU AI Act ເຊິ່ງບີບບັງຄັບໃຫ້ອົງກອນຕ່າງໆຕ້ອງເພີ່ມຄວາມເຂັ້ມງວດດ້ານ AI Governance ເພື່ອໃຫ້ສອດຄ່ອງກັບຂໍ້ກຳນົດ. ດ້ວຍເຫດນີ້, AI TRiSM ຈຶ່ງໄດ້ຮັບຄວາມສົນໃຈໃນຖານະ "ລະບົບການຄຸ້ມຄອງທີ່ອົງກອນທີ່ໃຊ້ AI ຄວນມີເປັນຢ່າງໜ້ອຍ".

4 ເສົາຫຼັກທີ່ປະກອບເປັນ AI TRiSM

AI TRiSM ປະກອບຂຶ້ນໂດຍການຄຸ້ມຄອງ 4 ຂົງເຂດຕໍ່ໄປນີ້ແບບປະສົມປະສານ:

1. ຄວາມສາມາດໃນການອະທິບາຍ (Explainability)
ຄວາມສາມາດໃນການນຳສະເໜີເຫດຜົນໃນການຕັດສິນໃຈຂອງ AI ໃຫ້ມະນຸດເຂົ້າໃຈໄດ້. ໂມເດວທີ່ເປັນ Black Box ຈະໄດ້ຮັບຄວາມເຊື່ອໝັ້ນຈາກອົງກອນໄດ້ຍາກ ເຖິງແມ່ນວ່າຈະມີຄວາມແມ່ນຍຳສູງກໍຕາມ.

2. ModelOps (ການຄຸ້ມຄອງການດຳເນີນງານຂອງໂມເດວ)
ການຄຸ້ມຄອງວົງຈອນຊີວິດທັງໝົດຂອງໂມເດວໂດຍປະສານງານກັບ MLOps. ການເຮັດໃຫ້ວົງຈອນການຮຽນຮູ້, ການນຳໃຊ້ (Deploy), ການຕິດຕາມກວດກາ, ແລະການອັບເດດເປັນລະບົບ ຈະຊ່ວຍປ້ອງກັນການເສື່ອມສະພາບຂອງຄຸນນະພາບ.

3. ການກວດຫາຄວາມຜິດປົກກະຕິຂອງຂໍ້ມູນ ແລະ Drift
ການກວດຫາການປ່ຽນແປງຂອງການກະຈາຍຂໍ້ມູນນຳເຂົ້າ (Data Drift) ເພື່ອຄົ້ນຫາຄວາມສ່ຽງທີ່ຄວາມແມ່ນຍຳໃນການຄາດການຂອງໂມເດວຈະຄ່ອຍໆຫຼຸດລົງ. ການປະສານງານກັບ Feature Store ເປັນວິທີໜຶ່ງທີ່ມີປະສິດທິພາບ.

4. ມາດຕະການຄວາມປອດໄພສະເພາະຂອງ AI
ການຮັບມືກັບໄພຂົ່ມຂູ່ສະເພາະຂອງ AI ທີ່ແຕກຕ່າງຈາກ Cyber Security ແບບດັ້ງເດີມ ເຊັ່ນ: ການເຂົ້າເຖິງໂມເດວໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ, ການປົນເປື້ອນຂອງຂໍ້ມູນການຮຽນຮູ້ (Poisoning Attack), ແລະການຄວບຄຸມ Prompt. AI Red Teaming ເປັນວິທີການທີ່ມີປະສິດທິພາບໂດຍສະເພາະໃນຂົງເຂດນີ້.

ຄວາມສຳພັນກັບ AI Governance

AI TRiSM ແລະ AI Governance ມັກຈະຖືກເຂົ້າໃຈຜິດ, ແຕ່ຄວາມສຳພັນຂອງທັງສອງແມ່ນຄ້າຍຄື "ວິທີການ ແລະ ຈຸດປະສົງ". ໃນຂະນະທີ່ AI Governance ເປັນກອບນະໂຍບາຍ ແລະ ໂຄງສ້າງວ່າ "ອົງກອນຈະປົກຄອງ AI ຢ່າງໃດ", AI TRiSM ແມ່ນກຸ່ມກອບວຽກທີ່ເປັນຮູບປະທຳເພື່ອຈັດຕັ້ງປະຕິບັດນະໂຍບາຍເຫຼົ່ານັ້ນໃນທາງເຕັກນິກ ແລະ ການດຳເນີນງານ.

ນອກຈາກນີ້, ບັນຫາ Shadow AI ກໍເປັນສິ່ງທີ່ເບິ່ງຂ້າມບໍ່ໄດ້. ກໍລະນີທີ່ພະນັກງານນຳໃຊ້ເຄື່ອງມື AI ໂດຍບໍ່ໄດ້ຮັບການອະນຸມັດຈາກພະແນກຄຸ້ມຄອງມີເພີ່ມຂຶ້ນ, ເຮັດໃຫ້ຂອບເຂດການຄຸ້ມຄອງຂອງ AI TRiSM ກາຍເປັນສິ່ງທ້າທາຍໃນການປະຕິບັດງານຂອງອົງກອນ.

ມຸມມອງທີ່ຄວນຍຶດຖືໃນການນຳໃຊ້

ເພື່ອບໍ່ໃຫ້ AI TRiSM ກາຍເປັນພຽງ "ວຽກງານກວດສອບຕາມລາຍການ" (Checklist), ມຸມມອງຕໍ່ໄປນີ້ແມ່ນມີຄວາມສຳຄັນ:

• ການອອກແບບ HITL (Human-in-the-Loop): ໃນການຕັດສິນໃຈທີ່ມີຄວາມສ່ຽງສູງ, ຕ້ອງມີກົນໄກທີ່ມະນຸດສາມາດເຂົ້າໄປມີສ່ວນຮ່ວມໃນການຕັດສິນໃຈໄດ້ຢ່າງຕັ້ງໃຈ.
• ການຈັດຕັ້ງປະຕິບັດ Guardrails (AI Guardrails): ການສ້າງກົນໄກເພື່ອຈຳກັດຜົນລັອກຂອງໂມເດວທັງກ່ອນ ແລະ ຫຼັງການປະມວນຜົນ.
• ແນວຄິດ Shift Left: ການນຳເອົາຄວາມປອດໄພ ແລະ ການຄຸ້ມຄອງຄວາມສ່ຽງເຂົ້າມາໃນໄລຍະເລີ່ມຕົ້ນຂອງການພັດທະນາ. ການນຳໃຊ້ແນວຄິດ DevSecOps ມາປັບໃຊ້ກັບການພັດທະນາ AI ແມ່ນສິ່ງທີ່ຈຳເປັນ.

AI TRiSM ບໍ່ແມ່ນສິ່ງທີ່ເຮັດຄັ້ງດຽວແລ້ວຈົບ, ແຕ່ຕ້ອງມີການອັບເດດຢ່າງຕໍ່ເນື່ອງຕາມວິວັດທະນາການຂອງລະບົບ AI ແລະ ການປ່ຽນແປງຂອງສະພາບແວດລ້ອມດ້ານກົດລະບຽບ. ໃນຂະນະທີ່ອົງກອນກຳລັງກ້າວຈາກຂັ້ນຕອນ "ການໃຊ້ AI ໃຫ້ເປັນ" ໄປສູ່ຂັ້ນຕອນ "ການດຳເນີນງານດ້ວຍຄວາມຮັບຜິດຊອບ", AI TRiSM ຈະຍິ່ງມີຄວາມສຳຄັນຫຼາຍຂຶ້ນໃນຖານະແນວຄິດທີ່ເປັນຮາກຖານ.