ການທົດສອບຄວາມປອດໄພ AI ດ້ວຍທີມສີແດງ (AI Red Teaming)

## AI Red Teaming ແມ່ນຫຍັງ AI Red Teaming ແມ່ນວິທີການປະເມີນທີ່ທົດສອບຊ່ອງໂຫວ່ຂອງລະບົບ AI ຢ່າງເປັນລະບົບຈາກທັດສະນະຂອງຜູ້ໂຈມຕີ ແລະ ລະບຸຄວາມສ່ຽງດ້ານຄວາມປອດໄພກ່ອນການນຳໃຊ້ງານຈິງ. ນີ້ແມ່ນແນວຄິດທີ່ນຳ "ການຝຶກຊ້ອມ Red Team" ຈາກຂະແໜງການທະຫານ ແລະ ຄວາມປອດໄພມາປະຍຸກໃຊ້ກັບ AI. ### ເປົ້າໝາຍຂອງການທົດສອບ ຄວາມສ່ຽງທີ່ AI Red Teaming ກວດສອບນັ້ນກວ້າງກວ່າຄວາມປອດໄພຂອງຊອບແວທົ່ວໄປ. - **Prompt Injection**: ການຫຼີກລ່ຽງຂໍ້ຈຳກັດຂອງ Model ໂດຍການຄວບຄຸມ Input - **ການດຶງຂໍ້ມູນລັບ**: ການດຶງຂໍ້ມູນສ່ວນຕົວ ຫຼື ຄວາມລັບທາງທຸລະກິດທີ່ມີຢູ່ໃນຂໍ້ມູນການຝຶກອົບຮົມ - **ການສ້າງເນື້ອຫາທີ່ເປັນອັນຕະລາຍ**: ການກະຕຸ້ນໃຫ້ເກີດ Output ທີ່ຫຼຸດລອດຕົວກອງຄວາມປອດໄພ - **ການລະເມີດລຳດັບຊັ້ນຂອງຄຳສັ່ງ**: ການຂຽນທັບ System Prompt ຫຼື ການເບິ່ງຂ້າມ Role ໃນການປະເມີນຂະໜາດໃຫຍ່ທີ່ດຳເນີນການໂດຍ AI Safety Institute ຂອງ UK ໄດ້ລາຍງານຊ່ອງໂຫວ່ຫຼາຍກວ່າ 62,000 ລາຍການ ຊຶ່ງສະແດງໃຫ້ເຫັນເຖິງຄວາມກວ້າງຂອງພື້ນທີ່ການໂຈມຕີຂອງລະບົບ AI. ### ວິທີການດຳເນີນງານ ທີມງານຜູ້ຊ່ຽວຊານດຳເນີນການກວດສອບຢ່າງຄົບຖ້ວນໂດຍການລວມເອົາການດັດແກ້ Prompt, ການໂຈມຕີດ້ວຍຫຼາຍພາສາ ແລະ ການຊັກນຳໃນຮູບແບບ Multi-turn. ໂຄງສ້າງແບບ Hybrid ທີ່ໃຊ້ເຄື່ອງມືອັດຕະໂນມັດ (ເຊັ່ນ: Garak, PyRIT) ເພື່ອສ້າງ Test Case ຈຳນວນຫຼວງຫຼາຍ ແລະ ຜູ້ຊ່ຽວຊານດ້ານມະນຸດເສີມ Scenario ການໂຈມຕີທີ່ສ້າງສັນ ໄດ້ຮັບການຍອມຮັບວ່າມີປະສິດທິຜົນ. EU AI Act ກຳນົດໃຫ້ລະບົບ AI ທີ່ມີຄວາມສ່ຽງສູງຕ້ອງໄດ້ຮັບການທົດສອບທີ່ເໝາະສົມ ແລະ AI Red Teaming ກຳລັງໄດ້ຮັບຄວາມສົນໃຈເພີ່ມຂຶ້ນໃນຖານະເປັນວິທີການຈັດຕັ້ງປະຕິບັດດັ່ງກ່າວ.