ພື້ນຖານ AI | ຄຳສັບ AI, DX & Security
ຄຳສັບໃນໝວດ "ພື້ນຖານ AI" — ຄຳອະທິບາຍແບບປະຕິບັດໄດ້ຈິງດ້ານ AI, DX ແລະ ຄວາມປອດໄພ ພ້ອມໄດອາແກຣມ ສຳລັບຜູ້ບໍລິຫານ ແລະ ທີມ IT
ແບບຈໍາລອງແບບກະຈັດກະຈາຍ (Sparse Model)
Sparse Model (ສະປາດໂມເດວ) ແມ່ນຊື່ເອີ້ນລວມຂອງສະຖາປັດຕະຍະກຳ neural network ທີ່ເປີດໃຊ້ງານສະເພາະບາງສ່ວນຂ
TurboQuant
ເຕັກໂນໂລຊີການບີບອັດໜ່ວຍຄວາມຈຳສຳລັບ LLM ທີ່ພັດທະນາໂດຍ Google. ຫຼຸດຜ່ອນການໃຊ້ໜ່ວຍຄວາມຈຳໄດ້ສູງສຸດເຖິງ 1
ການກັ່ນຕອງຄວາມຮູ້ (Knowledge Distillation)
ວິທີການຖ່າຍທອດຄວາມຮູ້ຈາກໂມເດລຄູ (teacher model) ຂະໜາດໃຫຍ່ໄປຍັງໂມເດລນັກຮຽນ (student model) ຂະໜາດນ້ອຍ
Dense Model（ໂມເດລທີ່ມີການເຊື່ອມຕໍ່ຢ່າງໜາແໜ້ນ）
Dense Model (ໂມເດລທີ່ເຊື່ອມໂຍງແໜ້ນໜາ) ແມ່ນສະຖາປັດຕະຍະກຳ Neural Network ທີ່ໃຊ້ພາລາມິເຕີທັງໝົດຂອງໂມເດລ
ການຖອດລະຫັດແບບຄາດເດົາ (Speculative Decoding)
ເຕັກນິກການເລັ່ງການອະນຸມານທີ່ໂມເດລ draft ຂະໜາດນ້ອຍສະເໜີຫຼາຍ token ລ່ວງໜ້າ ແລະ ໂມເດລຂະໜາດໃຫຍ່ກວດສອບຢ່າ
ໂທເຄັນ (Token)
Token ແມ່ນໜ່ວຍທີ່ນ້ອຍທີ່ສຸດທີ່ LLM ໃຊ້ໃນການປະມວນຜົນຂໍ້ຄວາມ. Token ບໍ່ແມ່ນຄຳສັບທັງໝົດ ແຕ່ໝາຍເຖິງສ່ວນຍ
ຕົວແບ່ງໂທເຄັນ BPE (Byte-Pair Encoding Tokenizer)
ສູດການຄິດໄລ່ທີ່ລວມຂໍ້ຄວາມດ້ວຍຮູບແບບທີ່ປາກົດເລື້ອຍໆ ແລະ ແບ່ງອອກເປັນໜ່ວຍ subword. ມັນສົ່ງຜົນໂດຍກົງຕໍ່ຕ
ຮູບແບບພື້ນຖານ (Foundation Model)
ຮູບແບບພື້ນຖານ (Foundation Model) ແມ່ນໂມເດລ AI ທົ່ວໄປທີ່ຜ່ານການ pre-training ດ້ວຍຊຸດຂໍ້ມູນຂະໜາດໃຫຍ່.
ການຄວາຍຕາ (Quantization)
ວິທີການປັບປຸງທີ່ຫຼຸດຄວາມແມ່ນຍຳຂອງ parameter ຂອງໂມເດລຈາກ 16bit ລົງໄປເປັນ 4bit ເປັນຕົ້ນ ເພື່ອບີບອັດຂະໜ
LLM ທ້ອງຖິ່ນ
ໂລກອລ LLM ແມ່ນຮູບແບບການດຳເນີນງານທີ່ດຳເນີນການໂມເດລພາສາຂະໜາດໃຫຍ່ໂດຍກົງເທິງເຊີບເວີ ຫຼື PC ຂອງຕົນເອງ ໂດຍ
ການປະມວນຜົນພາສາທຳມະຊາດຫຼາຍພາສາ (Multilingual NLP)
Multilingual NLP ແມ່ນເຕັກໂນໂລຊີການປະມວນຜົນພາສາທຳມະຊາດ (Natural Language Processing) ທີ່ສາມາດວິເຄາະ ແ
ການປັບແต່ງລະອຽດ
ການປັບແຕ່ງລະອຽດ (Fine-Tuning) ແມ່ນຂະບວນການທີ່ນຳເອົາຂໍ້ມູນການຮຽນຮູ້ເພີ່ມເຕີມມາໃຫ້ກັບໂມເດລ Machine Lea
25ລາຍການ ຈາກ 2ຈາກ3