บทความหมวด "การดำเนินงาน LLM & RAG" 36 บทความ — ตัวอย่างการนำไปใช้จริง การออกแบบ PoC และแนวทางปฏิบัติด้าน AI, DX และความปลอดภัย สำหรับผู้บริหารและทีม IT
วิธีสร้างทีมภายในสำหรับบริษัทที่ใช้ LLM เพื่อทำ Security Test ด้วยตัวเอง ครอบคลุมการแบ่งหน้าที่ การออกแบบกระบวนการ เลือกเครื่องมือ และการดำเนินงานอย่างต่อเนื่อง
ตั้งแต่คำจำกัดความของ Graph Engineering ไปจนถึงการใช้งานจริง ครอบคลุมทั้งการออกแบบ Entity, คุณภาพ Edge, การเชื่อมต่อ RAG และตัวชี้วัดการตรวจสอบ
เจาะลึกการวัดคุณภาพ Generative AI หลังใช้งานจริงด้วยตัวชี้วัดอัตโนมัติอย่าง BLEU, ROUGE, BERTScore พร้อมวิธีติดตั้งระบบตรวจสอบและตรวจจับคุณภาพที่ลดลง
Jev คือโมเดลสำหรับตัดสินใจที่คำนวณความน่าจะเป็นแทนการสร้างข้อความ เราได้ทดสอบ Laya (OSS ที่รองรับ Jev) ในภาษาไทย ญี่ปุ่น อังกฤษ และลาว พร้อมเปรียบเทียบกับ LLM
Synthetic Test คือการประเมิน AI ด้วยข้อมูลสังเคราะห์ เรียนรู้บทบาทในการประกันคุณภาพ LLM และ AI Agent ความต่างจาก LLM-as-a-Judge และ 4 ขั้นตอนการใช้งานจริง
LLM-as-a-Judge คือวิธีประเมินผลลัพธ์ LLM ด้วย LLM เอง ครอบคลุมการเปรียบเทียบวิธีต่างๆ การแก้ Bias, 4 ขั้นตอนการใช้งาน และการผสานกับ Observability และ Guardrails
เรียนรู้เทคนิคการใช้ Semantic Cache เพื่อลดการเรียกใช้ LLM สำหรับคำถามที่ซ้ำกัน พร้อมขั้นตอนการรวมเข้ากับ AI Gateway และการคำนวณลดต้นทุน
เจาะลึกกลไก Test-Time Compute และวิธีเพิ่มประสิทธิภาพ Trade-off ระหว่างต้นทุนและความแม่นยำ พร้อมแนวทางออกแบบการใช้งาน LLM ให้คุ้มค่าในยุค Inference Model
เรียนรู้พื้นฐาน Edge AI และ On-device LLM พร้อมวิธีออกแบบระบบสำหรับงานที่ต้องการความหน่วงต่ำ ข้อมูลห้ามรั่วไหล และพื้นที่ที่สัญญาณไม่เสถียร
เปรียบเทียบ Open-weight Model เช่น GPT OSS, Phi-4, Llama 4 Scout กับ Cloud API ใน 3 มิติ: GPU, ความแม่นยำ และ TCO พร้อมคู่มือ Local AI เพื่อ Data Sovereignty และลดต้นทุน
เจาะลึกสาเหตุของปัญหาช่องว่างการสื่อสารในการควบคุมคุณภาพทีม Offshore Development พร้อมแนวทางแก้ไขที่นำไปใช้ได้จริง ทั้งการแชร์ข้อมูล การจัดการความคืบหน้า และการกำหนดมาตรฐานคุณภาพให้เป็นหนึ่งเดียว
กลยุทธ์การจัดสรรงบประมาณเมื่อใช้ LLM API ในหลายแผนก เรียนรู้วิธีจัดการต้นทุนองค์กร ทั้งการแบ่งสัดส่วนค่าใช้จ่าย ระบบ Chargeback และการตั้งค่าขีดจำกัดการใช้งาน
