LLM (ຕົວແບບພາສາຂະໜາດໃຫຍ່)

ນັບຕັ້ງແຕ່ການເປີດໃຊ້ງານ ChatGPT ໃນເດືອນພະຈິກ ປີ 2022 ເປັນຕົ້ນມາ, ຄຳວ່າ LLM ໄດ້ແຜ່ຂະຫຍາຍອອກໄປບໍ່ພຽງແຕ່ໃນກຸ່ມນັກເຕັກໂນໂລຊີເທົ່ານັ້ນ, ແຕ່ຍັງເປັນທີ່ຮູ້ຈັກໃນວົງກວ້າງທົ່ວໄປອີກດ້ວຍ. ແຕ່ທາດແທ້ທີ່ຊື່ "ໂມເດລພາສາຂະໜາດໃຫຍ່" ສະແດງໃຫ້ເຫັນນັ້ນເປັນເລື່ອງງ່າຍດາຍ, ມັນກໍ່ພຽງແຕ່ "ໂມເດລທີ່ຖືກຝຶກໃຫ້ອ່ານຂໍ້ຄວາມຈຳນວນຫຼວງຫຼາຍ ແລ້ວຄາດເດົາຄຳທີ່ຈະຕາມມາຊ້ຳໆ" ເທົ່ານັ້ນ. ຄວາມໜ້າສົນໃຈຂອງ LLM ຢູ່ທີ່ວ່າ ຈາກເປົ້າໝາຍການຮຽນຮູ້ທີ່ເຮັດໄດ້ງ່າຍນີ້, ຄວາມສາມາດທີ່ຫຼາກຫຼາຍ ເຊັ່ນ: ການແປພາສາ, ການສະຫຼຸບ, ການສ້າງໂຄດ, ແລະ ການໃຊ້ເຫດຜົນ ໄດ້ເກີດຂຶ້ນຢ່າງ emergent, ແລະ ໃນຂະນະດຽວກັນ ນັ້ນກໍ່ເປັນສ່ວນທີ່ຄວາມເຂົ້າໃຈທາງທິດສະດີຍັງຕາມບໍ່ທັນ. ເພື່ອໃຫ້ເຫັນພາບຂະໜາດໄດ້ຊັດເຈນຂຶ້ນ, GPT-3 ມີ 175 ຕື້ parameters (ປີ 2020), Llama 3 ມີ 70 ຕື້ parameters (ປີ 2024), ສ່ວນ GPT-4 ບໍ່ໄດ້ເປີດເຜີຍ ແຕ່ຄາດວ່າເກີນ 1 ລ້ານລ້ານ. ຈຳນວນ parameters ທີ່ຫຼາຍຂຶ້ນມີແນວໂນ້ມທີ່ຈະສະຫຼາດຂຶ້ນ, ແຕ່ດັ່ງທີ່ຂໍ້ເທັດຈິງທີ່ Llama 3 70B ເກີນ GPT-3 175B ໃນ benchmarks ຫຼາຍອັນສະແດງໃຫ້ເຫັນ, ຄຸນນະພາບຂອງຂໍ້ມູນການຝຶກ ແລະ ການປັບປຸງ architecture ກໍ່ມີຄວາມສຳຄັນທຽບເທົ່າຫຼືຫຼາຍກວ່ານັ້ນ. ເສັ້ນທາງຫຼັກໃນການໃຊ້ LLM ໃນທາງປະຕິບັດມີ 3 ທາງ. ທາງທີ 1 ຄື **ຜ່ານ API**. ເອີ້ນໃຊ້ໂມເດລຂອງ OpenAI ຫຼື Anthropic ໂດຍກົງ. ສະດວກທີ່ສຸດ, ແຕ່ຈຸດທ້າທາຍຄືຂໍ້ມູນຖືກສົ່ງໄປຍັງພາຍນອກ ແລະ ການຄຸ້ມຄອງຄ່າໃຊ້ຈ່າຍແບບ pay-per-use. ທາງທີ 2 ຄື **ການລວມກັບ RAG**. ຄົ້ນຫາເອກະສານພາຍໃນອົງກອນ ແລ້ວສົ່ງໃຫ້ LLM, ເພື່ອຫຼຸດ hallucination (ຜົນລັບທີ່ຜິດຈາກຄວາມເປັນຈິງ) ໃນຂະນະທີ່ໃຊ້ຄວາມຮູ້ພາຍໃນ. ອຸປະສັກໃນການນຳໃຊ້ຕ່ຳ ເພາະບໍ່ຕ້ອງປ່ຽນໂມເດລ. ທາງທີ 3 ຄື **fine-tuning**. ປັບພຶດຕິກຳຂອງໂມເດລດ້ວຍຂໍ້ມູນຂອງຕົນເອງ. ມີປະສິດທິຜົນໃນກໍລະນີທີ່ຕ້ອງການຄວາມສອດຄ່ອງຂອງໂທນຄຳຕອບ ຫຼື ການໃຊ້ຄຳສັບສະເພາະທາງອຸດສາຫະກຳຢ່າງຖືກຕ້ອງ, ແຕ່ຕ້ອງການການກຽມຂໍ້ມູນການຝຶກ ແລະ ຄ່າໃຊ້ຈ່າຍ GPU. ການເລືອກທາງໃດຂຶ້ນຢູ່ກັບ "ຕ້ອງການແກ້ໄຂຫຍັງ", ແລະ ກໍລະນີທີ່ລວມທັງ 3 ທາງເຂົ້າກັນກໍ່ເພີ່ມຂຶ້ນເລື້ອຍໆ.