Edge AI (ເອດສ໌ AI)

Edge AI ແມ່ນຫຍັງ

Edge AI ແມ່ນສະຖາປັດຕະຍະກຳທີ່ປະຕິບັດການອະນຸມານ AI ໂດຍກົງເທິງອຸປະກອນ (Edge Device) ໂດຍບໍ່ສົ່ງຂໍ້ມູນໄປຫາ Cloud Server. ສະພາບແວດລ້ອມການປະຕິບັດທີ່ເປັນຕົວແທນໄດ້ແກ່ Smartphone, ກ້ອງວົງຈອນປິດ, Sensor ສຳລັບອຸດສາຫະກຳ, ແລະ ຄອມພິວເຕີໃນລົດຍົນ.

ຄວາມແຕກຕ່າງຈາກ Cloud AI

Cloud AI ໃຊ້ GPU ປະສິດທິພາບສູງຜ່ານເຄືອຂ່າຍ ຈຶ່ງໃຫ້ຄວາມຖືກຕ້ອງສູງ, ແຕ່ກໍ່ມີສາມສິ່ງທ້າທາຍ ຄື: ຄວາມລ່າຊ້າໃນການສື່ສານ, ຄ່າໃຊ້ຈ່າຍໃນການສື່ສານ, ແລະ ຄວາມສ່ຽງດ້ານ Privacy. ເນື່ອງຈາກ Edge AI ບໍ່ໃຫ້ຂໍ້ມູນອອກຈາກອຸປະກອນ, ຈຶ່ງມີຂໍ້ໄດ້ປຽບໃນຂົງເຂດທີ່ການສົ່ງຂໍ້ມູນພາຍນອກເປັນເລື່ອງຍາກ ເຊັ່ນ: ຮູບພາບທາງການແພດ ຫຼື ວິດີໂອສາຍການຜະລິດ.

ການເຕີບໂຕຂອງ SLM ເປັນແຮງຜັກດັນ

ການພັດທະນາປະສິດທິພາບຂອງ SLM (Small Language Model) ໄດ້ປ່ຽນແປງຄວາມເປັນໄປໄດ້ໃນການນຳໃຊ້ Edge AI ຢ່າງສິ້ນເຊີງ. ເມື່ອ Quantize Model ທີ່ມີຫຼາຍພັນລ້ານ Parameter ແລ້ວ, ກໍ່ສາມາດເຮັດວຽກໄດ້ເທິງ Smartphone ແລະ ມີກໍລະນີເພີ່ມຂຶ້ນທີ່ສາມາດບັນລຸຄວາມຖືກຕ້ອງໄດ້ 80〜90% ຂອງ Model ຂະໜາດໃຫຍ່.

ຈຸດສຳຄັນໃນການຕັດສິນໃຈນຳໃຊ້

ບໍ່ຈຳເປັນຕ້ອງຍ້າຍທຸກຢ່າງໄປ Edge. ການຕັ້ງຄ່າແບບ Hybrid ທີ່ປະມວນຜົນການອະນຸມານທີ່ຕ້ອງການຄວາມເປັນ Real-time (ການກວດຈັບຄວາມຜິດປົກກະຕິ, ການຮັບຮູ້ສຽງ) ໃນ Edge ແລະ ດຳເນີນການຮຽນຮູ້ ຫຼື Batch Analysis ໃນ Cloud ນັ້ນ ເປັນທາງເລືອກທີ່ເໝາະສົມກັບຄວາມເປັນຈິງ. ໂດຍສະເພາະໃນສະຖານທີ່ທີ່ຄຸນນະພາບເຄືອຂ່າຍບໍ່ສະຖຽນ ເຊັ່ນ ລາວ ແລະ ອາຊຽນຕາເວັນອອກສ່ຽງໃຕ້, ຄຸນຄ່າຂອງ Edge AI ທີ່ສາມາດເຮັດວຽກໄດ້ແບບ Offline ນັ້ນ ມີຄວາມສຳຄັນຢ່າງຍິ່ງ.