ການທົດສອບຄວາມປອດໄພ AI ດ້ວຍທີມສີແດງ (AI Red Teaming)

AI Red Teaming ແມ່ນຫຍັງ

AI Red Teaming ແມ່ນວິທີການປະເມີນທີ່ທົດສອບຊ່ອງໂຫວ່ຂອງລະບົບ AI ຢ່າງເປັນລະບົບຈາກທັດສະນະຂອງຜູ້ໂຈມຕີ ແລະ ລະບຸຄວາມສ່ຽງດ້ານຄວາມປອດໄພກ່ອນການນຳໃຊ້ງານຈິງ. ນີ້ແມ່ນແນວຄິດທີ່ນຳ "ການຝຶກຊ້ອມ Red Team" ຈາກຂະແໜງການທະຫານ ແລະ ຄວາມປອດໄພມາປະຍຸກໃຊ້ກັບ AI.

ເປົ້າໝາຍຂອງການທົດສອບ

ຄວາມສ່ຽງທີ່ AI Red Teaming ກວດສອບນັ້ນກວ້າງກວ່າຄວາມປອດໄພຂອງຊອບແວທົ່ວໄປ.

• Prompt Injection: ການຫຼີກລ່ຽງຂໍ້ຈຳກັດຂອງ Model ໂດຍການຄວບຄຸມ Input
• ການດຶງຂໍ້ມູນລັບ: ການດຶງຂໍ້ມູນສ່ວນຕົວ ຫຼື ຄວາມລັບທາງທຸລະກິດທີ່ມີຢູ່ໃນຂໍ້ມູນການຝຶກອົບຮົມ
• ການສ້າງເນື້ອຫາທີ່ເປັນອັນຕະລາຍ: ການກະຕຸ້ນໃຫ້ເກີດ Output ທີ່ຫຼຸດລອດຕົວກອງຄວາມປອດໄພ
• ການລະເມີດລຳດັບຊັ້ນຂອງຄຳສັ່ງ: ການຂຽນທັບ System Prompt ຫຼື ການເບິ່ງຂ້າມ Role

ໃນການປະເມີນຂະໜາດໃຫຍ່ທີ່ດຳເນີນການໂດຍ AI Safety Institute ຂອງ UK ໄດ້ລາຍງານຊ່ອງໂຫວ່ຫຼາຍກວ່າ 62,000 ລາຍການ ຊຶ່ງສະແດງໃຫ້ເຫັນເຖິງຄວາມກວ້າງຂອງພື້ນທີ່ການໂຈມຕີຂອງລະບົບ AI.

ວິທີການດຳເນີນງານ

ທີມງານຜູ້ຊ່ຽວຊານດຳເນີນການກວດສອບຢ່າງຄົບຖ້ວນໂດຍການລວມເອົາການດັດແກ້ Prompt, ການໂຈມຕີດ້ວຍຫຼາຍພາສາ ແລະ ການຊັກນຳໃນຮູບແບບ Multi-turn. ໂຄງສ້າງແບບ Hybrid ທີ່ໃຊ້ເຄື່ອງມືອັດຕະໂນມັດ (ເຊັ່ນ: Garak, PyRIT) ເພື່ອສ້າງ Test Case ຈຳນວນຫຼວງຫຼາຍ ແລະ ຜູ້ຊ່ຽວຊານດ້ານມະນຸດເສີມ Scenario ການໂຈມຕີທີ່ສ້າງສັນ ໄດ້ຮັບການຍອມຮັບວ່າມີປະສິດທິຜົນ.

EU AI Act ກຳນົດໃຫ້ລະບົບ AI ທີ່ມີຄວາມສ່ຽງສູງຕ້ອງໄດ້ຮັບການທົດສອບທີ່ເໝາະສົມ ແລະ AI Red Teaming ກຳລັງໄດ້ຮັບຄວາມສົນໃຈເພີ່ມຂຶ້ນໃນຖານະເປັນວິທີການຈັດຕັ້ງປະຕິບັດດັ່ງກ່າວ.