ห่วงโซ่อุปทาน (Supply Chain) ของการพัฒนา AI คือเครือข่ายการจัดหาทั้งหมดที่ผลิตภัณฑ์ AI ต้องพึ่งพา ตั้งแต่โมเดลสาธารณะ แพ็กเกจที่ต้องใช้งาน แพลตฟอร์ม SaaS DevOps ไปจนถึง AI Agent ที่ถูกรวมเข้าไว้ในกระบวนการพัฒนา บทความนี้จัดทำขึ้นสำหรับ CTO, ผู้รับผิดชอบด้านความปลอดภัย และ SRE ของบริษัทที่พัฒนาและดำเนินงานด้านผลิตภัณฑ์ AI โดยจะสรุปเหตุการณ์สำคัญที่เกิดขึ้นในช่วงปี 2024–2026 พร้อมอธิบายถึงพื้นผิวการโจมตี (Attack Surface) เฉพาะของ AI ที่ SBOM เพียงอย่างเดียวไม่สามารถป้องกันได้ รวมถึงกลยุทธ์การป้องกันที่ผสมผสานระหว่าง AI BOM, การตรวจสอบ Model Card, การใช้ OAuth แบบสิทธิ์ขั้นต่ำ (Least Privilege), การจัดการ Sensitive Secret และการแยกส่วน CI/CD เมื่ออ่านจบ คุณจะสามารถสร้างรายการตรวจสอบ (Checklist) สำหรับมาตรการป้องกันที่ยังขาดอยู่ในไปป์ไลน์การพัฒนา AI ขององค์กรคุณได้

ห่วงโซ่อุปทานของผลิตภัณฑ์ AI มีความกว้างขวางกว่าห่วงโซ่อุปทานซอฟต์แวร์แบบดั้งเดิม โดยมีการตรวจพบการละเมิดอย่างต่อเนื่องผ่าน 4 ช่องทาง ได้แก่ โมเดล (Models), แพ็กเกจที่ต้องพึ่งพา (Dependency Packages), SaaS DevOps และ AI Agent ในบทนี้จะสรุปเหตุการณ์สำคัญที่เกิดขึ้นในช่วงปี 2024–2026 และความกว้างขวางของพื้นผิวความเสี่ยง (Risk Surface) ที่เป็นลักษณะเฉพาะของการพัฒนา AI

เหตุการณ์ที่สั่นสะเทือนวงการพัฒนา AI ในช่วงปี 2024–2026 เกิดขึ้นผ่าน 4 ช่องทางที่มีลักษณะแตกต่างกัน ดังนี้:

1. xz utils แบ็คดอร์ (CVE-2024-3094, ประกาศเมื่อมีนาคม 2024): ผู้โจมตีใช้เวลาประมาณ 2 ปีในการเข้าถึงสิทธิ์ผู้ดูแล (maintainer) และฝังแบ็คดอร์ลงใน liblzma เพื่อหลีกเลี่ยงการตรวจสอบสิทธิ์ SSH หาก Andres Freund จาก Microsoft ไม่ได้บังเอิญไปพบเข้า แบ็คดอร์นี้คงหลุดเข้าไปอยู่ในดิสทริบิวชันจำนวนมาก (ที่มา: NVD CVE-2024-3094)
2. การบุกรุก tj-actions/changed-files (ประกาศเมื่อมีนาคม 2025): GitHub Action ที่ถูกใช้งานในหลายรีโพสิทอรีถูกแก้ไขให้เปลี่ยนพฤติกรรมเป็นการดึงข้อมูลลับ (Secret) ใน CI ออกมาเขียนลงในบันทึกการทำงาน (Execution log) โดยรีโพสิทอรีที่ยังคงใช้การอ้างอิงแบบ tag (ที่ไม่มีการระบุ SHA pin) ได้รับผลกระทบ (ที่มา: GitHub Security Advisory, รายงานการวิเคราะห์จาก StepSecurity)
3. การตรวจพบแบ็คดอร์ในโมเดลของ Hugging Face: ReversingLabs และ JFrog Security Research ตรวจพบไฟล์ Pickle ที่เป็นอันตรายจำนวนมากจากโมเดลที่เปิดเผยต่อสาธารณะอย่างต่อเนื่อง (ที่มา: ReversingLabs Blog, JFrog Security Research)
4. เหตุการณ์ Vercel เดือนเมษายน 2026: เนื่องจากการบุกรุกบัญชีพนักงาน ทำให้ตัวแปรสภาพแวดล้อม (Environment variables) ที่ "เข้ารหัสไว้" ของลูกค้าบางรายรั่วไหลออกไปภายนอก ทั้งนี้ Vercel ได้ประกาศว่าตัวแปรสภาพแวดล้อมที่เป็นความลับ (Sensitive) ยังคงอยู่ภายใต้การป้องกันด้วยการเข้ารหัส และยังไม่พบหลักฐานการเข้าถึงข้อมูลดังกล่าว (ที่มา: Vercel KB Bulletin "April 2026 security incident")

แม้เหตุการณ์เหล่านี้จะดูเหมือนเป็นเหตุการณ์ที่แยกจากกัน แต่ทั้งหมดมีโครงสร้างเดียวกันคือ "จุดใดจุดหนึ่งในห่วงโซ่การพึ่งพา (Dependency) ของการพัฒนา AI/SaaS ถูกบุกรุก → นำไปสู่การรั่วไหลของกุญแจหรือโค้ดอย่างต่อเนื่องเป็นลูกโซ่"

เหตุผลที่พื้นผิวความเสี่ยง (risk surface) ของการพัฒนา AI กว้างกว่าเดิมมีอยู่ 4 ประการ

ประการแรก ไฟล์น้ำหนัก (weight files) สามารถกลายเป็นเพย์โหลดที่เรียกใช้งานได้ (executable payload) โมเดลในรูปแบบ Pickle สามารถรันโค้ด Python ใดๆ ก็ได้ และหากโหลดโดยไม่มีการสแกนก็จะนำไปสู่การถูกบุกรุกได้ ประการที่สอง มีธรรมเนียมการดึงน้ำหนักพื้นฐาน (base weights) หรือชุดข้อมูลมาจากฮับสาธารณะ ซึ่งหากบัญชีของฮับนั้นถูกบุกรุกก็จะส่งผลกระทบในทันที ประการที่สาม การพัฒนา AI ประกอบขึ้นจากห่วงโซ่ของ SaaS ไม่ว่าจะเป็น Model Registry, Vector Database, แพลตฟอร์มการปรับใช้ (deployment platform) หรือโครงสร้างพื้นฐานด้านบันทึก (log infrastructure) ซึ่ง API Key / OAuth Scope ของแต่ละส่วนล้วนกลายเป็นส่วนหนึ่งของห่วงโซ่อุปทาน ประการที่สี่ บริษัทจำนวนมากขึ้นได้นำ AI Coding Agent เข้ามาใช้ในการพัฒนา ทำให้การเพิ่ม Dependency ที่ตัว Agent เขียนขึ้นเองสามารถกลายเป็นเวกเตอร์การโจมตีได้ สิ่งเหล่านี้เป็นขอบเขตที่ไม่สามารถมองเห็นได้ด้วยเพียง SBOM และ CVE scan แบบดั้งเดิม จึงจำเป็นต้องมีมาตรการป้องกันเฉพาะสำหรับ AI

โมเดลที่ได้รับจากฮับสาธารณะ เช่น Hugging Face หากโหลดในรูปแบบ Pickle โดยตรง จะนำไปสู่การรันโค้ดโดยไม่ได้รับอนุญาต (Arbitrary Code Execution) การเปลี่ยนไปใช้ safetensors และการตรวจสอบลายเซ็นของ Model Card จึงเป็นแนวป้องกันด่านแรก ในบทนี้จะสรุปตัวอย่างจริงของแบ็คดอร์ในโมเดลสาธารณะ และความเสี่ยงที่เกิดจากการโหลดโมเดลโดยไม่มีการตรวจสอบ

ในรีจิสทรีโมเดลสาธารณะรวมถึง Hugging Face มีการรายงานกรณีที่โมเดลในรูปแบบ Pickle (.bin / .pkl / .pt) ถูกฝังแบ็คดอร์อย่างต่อเนื่อง ReversingLabs ได้เผยแพร่ PoC ที่สามารถหลบเลี่ยง Pickle scanner เพื่อเรียกใช้การเชื่อมต่อภายนอกหรือรีเวิร์สเชลล์ (reverse shell) ในขณะโหลดโมเดล และได้ตรวจพบตัวอย่างที่เป็นอันตรายจริงหลายรายการ (ที่มา: บทความวิเคราะห์ "nullifAI" ของ ReversingLabs) นอกจากนี้ JFrog Security Research ยังตรวจพบโมเดลที่ฝังแบ็คดอร์โดยใช้ Pickle จำนวนมากและได้แจ้งไปยังฝั่ง Hugging Face แล้ว (ที่มา: JFrog Security Research)

การโจมตีเหล่านี้ใช้การผสมผสานองค์ประกอบทางวิศวกรรมสังคม (social engineering) เช่น "การเผยแพร่ด้วยชื่อรีโพสิทอรีที่คล้ายคลึงกับชื่อโมเดลที่เป็นทางการ" หรือ "การอ้างว่าเป็นโมเดลที่ผ่านการ fine-tuned มาจากโมเดลที่เป็นทางการ" ตราบใดที่องค์กรพัฒนา AI ยังคงปล่อยให้วิศวกรแต่ละคนตัดสินใจเรียกใช้ from_pretrained() ด้วยตนเอง ความเสี่ยงจากการรัน Pickle ก็จะยังคงมีอยู่ตลอดเวลา ปัญหาสำคัญคือแบ็คดอร์เหล่านี้ไม่ใช่ "กรณีพิเศษ" แต่เป็นภัยคุกคามที่เกิดขึ้นอย่างต่อเนื่องซึ่งมีที่มาจากโครงสร้างของพับลิกฮับ (public hub) โดยตรง

การที่ Pickle สามารถรันโค้ดโดยไม่ได้รับอนุญาต (Arbitrary Code Execution) นั้นถือเป็นคุณสมบัติ (Specification) ไม่ใช่ข้อผิดพลาด (Bug) เนื่องจาก pickle.load() ของ Python ถูกออกแบบมาให้เรียกใช้ฟังก์ชันใดก็ได้ผ่าน __reduce__ ทำให้การโหลดข้อมูลโดยไม่มีการสแกนถือเป็นการถูกบุกรุกทันที (อ้างอิง: ส่วน "Warning" ในเอกสารประกอบโมดูล pickle ของ Python อย่างเป็นทางการ)

มาตรการป้องกันควรดำเนินการ 3 ขั้นตอน ดังนี้:

1. เปลี่ยนไปใช้รูปแบบ safetensors: เป็นรูปแบบที่ Hugging Face แนะนำ ซึ่งไม่สามารถรันโค้ดอื่นที่ไม่ใช่เทนเซอร์ได้ สำหรับการนำโมเดลใหม่เข้ามาใช้งาน ต้องกำหนดให้เป็นรูปแบบ safetensors เท่านั้น
2. ติดตั้ง Pickle scanner: นำเครื่องมืออย่าง pickle scan ของ Hugging Face, ModelScan ของ ProtectAI หรือเครื่องมือตรวจจับของ JFrog มาติดตั้งในระบบ CI และต้องผ่านการสแกนทุกครั้งหากเป็นโมเดลรูปแบบ Pickle
3. ตรวจสอบลายเซ็นของ Model Card: ตรวจสอบว่าแหล่งที่มาเป็นบัญชีทางการของผู้ให้บริการ (Provider) โดยใช้ Sigstore / cosign หรือเครื่องมืออื่นที่คล้ายคลึงกัน สำหรับโมเดลทางการของ Hugging Face สามารถตรวจสอบความถูกต้องได้จากลายเซ็น GPG หรือตราสัญลักษณ์ Verified Publisher

การรวบรวมการเรียกใช้ from_pretrained() ภายในองค์กรให้ผ่าน Wrapper กลาง โดยให้ Wrapper บังคับใช้การตรวจสอบ Registry, รูปแบบไฟล์ และลายเซ็น จะช่วยให้การจัดการทำได้ง่ายขึ้น การกำจัดสถานการณ์ที่วิศวกรโหลดไฟล์ Pickle แยกกันเองถือเป็นการป้องกันในระดับองค์กรอย่างแท้จริง

npm / PyPI のサードパーティパッケージおよび GitHub Actions は、AI 開発においても標準的に利用される依存層である。typosquatting、メンテナアカウントの乗っ取り、ビルド時の差し替えのいずれにおいても実例が存在する。 本章では、具体的な事例と多段攻撃の構造を整理する。

การละเมิดในชั้นของแพ็กเกจที่ต้องพึ่งพา (Dependency package layer) พบได้บ่อยครั้งในการพัฒนา AI โดยมีรูปแบบหลักที่พบบ่อย 3 ประการ ดังนี้:

• การทำ Typosquatting: คือการเผยแพร่แพ็กเกจที่มีชื่อคล้ายกับแพ็กเกจจริงโดยต่างกันเพียงตัวอักษรเดียว เพื่อหลอกให้ติดตั้งจากการพิมพ์ผิด ทั้ง Sonatype และ Phylum ตรวจพบแพ็กเกจอันตรายบน PyPI / npm หลายร้อยรายการอย่างต่อเนื่องในแต่ละปี (ที่มา: Sonatype "State of the Software Supply Chain")
• การยึดบัญชีผู้ดูแล (Maintainer account takeover): คือการที่บัญชี npm / PyPI ของนักพัฒนาอิสระถูกบุกรุก และมีการเผยแพร่เวอร์ชันที่มีมัลแวร์เข้าไปในแพ็กเกจที่มีอยู่เดิม แม้จะเป็นวิธีแบบดั้งเดิมแต่ก็ยังคงเกิดขึ้นอยู่ในปัจจุบัน
• การแก้ไข GitHub Actions: ตัวอย่างที่ชัดเจนคือการละเมิด tj-actions/changed-files ในเดือนมีนาคม 2025 โดยผู้โจมตีได้แก้ไข Release tag ของ Action เพื่อให้แสดงผลตัวแปรสภาพแวดล้อม (Secrets) ออกมาในบันทึก (Log) ระหว่างการรัน CI ซึ่งที่เก็บโค้ด (Repository) ที่อ้างอิงโดยไม่มีการระบุ SHA pin อาจมีความเสี่ยงที่ข้อมูลจะถูกขโมยผ่านบันทึกของ GitHub Actions (ที่มา: GitHub Security Advisory, การวิเคราะห์โดย StepSecurity)

ในการพัฒนา AI นอกจากแพ็กเกจระดับบนอย่าง transformers / torch / accelerate แล้ว ยังมีการพึ่งพาในระดับที่สองและสามที่ลึกซึ้ง เช่น Vector DB client, เฟรมเวิร์กสำหรับ Agent และไลบรารีสำหรับการประเมินผล ทีมที่จัดการเฉพาะแพ็กเกจระดับผิวเผินจึงมีความเสี่ยงเชิงโครงสร้างที่ทำให้ยากต่อการตรวจพบการละเมิดในระดับที่ลึกลงไป

xz utils バックドア (CVE-2024-3094) เป็นตัวอย่างที่แสดงให้เห็นว่าการละเมิดความปลอดภัยในระดับ dependency ไม่ได้จำกัดอยู่แค่ในแพ็กเกจเดียว ผู้โจมตีที่ใช้ชื่อว่า "Jia Tan" ใช้เวลามากกว่า 2 ปีในการได้รับสิทธิ์ maintainer ของโปรเจกต์ xz และค่อยๆ ฝังแบ็คดอร์ที่ถูกทำให้อ่านยาก (obfuscated) ลงใน liblzma โดย payload สุดท้ายจะทำการเขียนทับตรรกะการตรวจสอบสิทธิ์ของ sshd ผ่านทาง liblzma เพื่อสร้างช่องทางให้ผู้โจมตีเฉพาะกลุ่มสามารถข้ามการตรวจสอบสิทธิ์ SSH ได้ (ที่มา: NVD CVE-2024-3094, รายงานบน mailing list ของ oss-security โดย Andres Freund)

ในมุมมองของการพัฒนา AI มีบทเรียนสำคัญ 2 ประการ:

ประการแรก การยึดครองสถานะทางสังคมของ maintainer (Social Engineering of Maintainers) ไม่สามารถป้องกันได้ด้วยการตรวจจับทางเทคนิคเพียงอย่างเดียว นอกเหนือจากการลงนามใน commit และการสแกน CI แล้ว ยังจำเป็นต้องมีการสนับสนุน maintainer ให้กับ OSS ที่สำคัญอย่างเป็นระบบ, การติดตามระดับ SLSA และการนำ Reproducible Build มาใช้ ประการที่สอง ไลบรารีที่ไม่ได้ถูกเรียกใช้งานโดยตรง (เช่น ไลบรารีบีบอัดข้อมูลรอบๆ libc) อาจส่งผลกระทบต่อเส้นทาง SSH ของเซิร์ฟเวอร์ที่ใช้ประมวลผล AI ได้ ขอบเขตของ AI BOM จึงไม่ควรครอบคลุมเพียงแค่ ML stack เท่านั้น แต่ต้องรวมไปถึง OS layer ของโครงสร้างพื้นฐานที่ใช้ให้บริการโมเดลด้วย หากจำกัดขอบเขตโดยตั้งสมมติฐานว่า "เป็น OSS ที่ไม่เกี่ยวข้องกับการพัฒนา AI" ก็อาจทำให้มองข้ามการโจมตีในรูปแบบเดียวกับ xz utils ไปได้

การละเมิดแพลตฟอร์ม SaaS DevOps แตกต่างจากการรั่วไหลของข้อมูลนักพัฒนาแต่ละบุคคล เนื่องจากสิทธิ์ในการเข้าถึง Secret, Code และ Deployment ของลูกค้าหลายรายจะได้รับผลกระทบพร้อมกัน เหตุการณ์ของ Vercel ในเดือนเมษายน 2026 ได้เผยให้เห็นถึงความแตกต่างในการดำเนินงานระหว่างสิ่งที่ถูก encrypted และสิ่งที่ถือเป็น Sensitive ในบทนี้จะสรุปโครงสร้างของเหตุการณ์และบทเรียนที่ได้รับจากการดำเนินงาน

เหตุการณ์ที่ Vercel ประกาศเมื่อเดือนเมษายน 2026 เป็นกรณีที่บัญชีพนักงานถูกบุกรุกผ่านเครื่องมือ AI ของบุคคลที่สาม ส่งผลให้ตัวแปรสภาพแวดล้อม (environment variables) แบบ encrypted ของลูกค้าบางรายรั่วไหลออกสู่ภายนอก ทั้งนี้ Vercel ได้ประกาศว่าตัวแปรสภาพแวดล้อมแบบ Sensitive นั้นได้รับการป้องกันด้วยการเข้ารหัสและไม่พบหลักฐานการเข้าถึงแต่อย่างใด รวมถึงบริการยังคงทำงานได้อย่างต่อเนื่อง และห่วงโซ่อุปทานของ npm package ยังคงมีความปลอดภัย (ที่มา: Vercel KB Bulletin "April 2026 security incident")

สิ่งที่สำคัญคือ Vercel มีโหมดการจัดเก็บตัวแปรสภาพแวดล้อมหลายรูปแบบ ดังนี้:

• encrypted: เป็นโหมดมาตรฐานที่ Vercel จะทำการเข้ารหัสข้อมูลในขณะจัดเก็บ ซึ่งช่วยให้แสดงผลหรือดึงค่าผ่านแดชบอร์ดและ CLI ได้ง่าย แต่ต้องพึ่งพาการจัดการกุญแจ (key management) ของฝั่ง Vercel ซึ่งข้อมูลในโหมดนี้คือส่วนที่รั่วไหลในเหตุการณ์ครั้งนี้
• Sensitive: เป็นโหมดป้องกันระดับสูงที่จำกัดแม้กระทั่ง API สำหรับดึงค่า โดยใช้สำหรับข้อมูลที่เป็นความลับจริงๆ เช่น API token หรือ OAuth client secret ซึ่งข้อมูลในโหมดนี้ไม่ได้รับผลกระทบจากการรั่วไหลในเหตุการณ์ครั้งนี้

บทเรียนที่ได้รับนั้นชัดเจน คือ API key, token, ข้อมูลรับรองฐานข้อมูล (database credentials) และกุญแจสำหรับลงลายมือชื่อ (signing keys) จำเป็นต้องตั้งค่าเป็น Sensitive เท่านั้น ห้ามใช้งานในโหมด encrypted เดิมเพียงเพราะ "แก้ไขน้อยกว่า" โดยเด็ดขาด การสร้างกุญแจใหม่ควรตั้งค่าเป็น Sensitive ตั้งแต่ต้น และควรกำหนดให้การยกระดับเป็น Sensitive เป็นมาตรฐานในการหมุนเวียนกุญแจ (rotation) ทุกครั้ง ซึ่งภายหลังเหตุการณ์นี้ Vercel เองก็ได้เปลี่ยนค่าเริ่มต้นของตัวแปรสภาพแวดล้อมให้เปิดใช้งาน Sensitive โดยอัตโนมัติแล้ว

ความน่ากลัวของ SaaS Chain คือการที่การถูกบุกรุกของแพลตฟอร์มเดียวสามารถลุกลามไปไกลกว่าขอบเขตของ OAuth Scope ที่เชื่อมโยงกันได้ ไม่ว่าจะเป็น OAuth จาก Vercel ไปยัง GitHub, การแจ้งเตือนจาก Vercel ไปยัง Slack หรือ Telemetry จาก Vercel ไปยัง PostHog / Sentry ซึ่ง SaaS มักจะมีการถือครอง API Key หรือ OAuth Token ของกันและกัน หาก encrypted env ที่ถูกเปิดเผยมี API Key ของ SaaS อื่นรวมอยู่ด้วย ความเสียหายก็จะขยายวงกว้างไปยัง SaaS เหล่านั้นด้วยเช่นกัน

ในด้านการปฏิบัติงาน ให้ใช้หลักการ 4 ประการร่วมกัน ดังนี้:

1. การจัดเก็บกุญแจแบบ Sensitive เท่านั้น: ลงทะเบียน secret เป็นประเภท Sensitive ตั้งแต่เริ่มต้น และตั้งค่าเริ่มต้นของโปรเจกต์ใหม่ให้เป็น Sensitive
2. OAuth ตามหลักสิทธิขั้นต่ำ (Least Privilege): ให้สิทธิ์เฉพาะ Scope ที่จำเป็นที่สุดแก่ GitHub Apps หรือ OAuth Client เท่านั้น โดยใช้ประโยชน์จากการจำกัดสิทธิ์ราย Repository และการควบคุมการอนุมัติ App ในระดับองค์กร
3. การหมุนเวียนกุญแจเป็นประจำ (Rotation): กำหนดรอบการหมุนเวียนตามระดับความสำคัญ (สูง: 30-90 วัน / กลาง: ครึ่งปี / ต่ำ: รายปี) และทำให้เป็นระบบอัตโนมัติ
4. แผนการหมุนเวียนกุญแจเมื่อตรวจพบการบุกรุก: จัดเตรียมรายการสิ่งที่ต้องหมุนเวียนทันทีเมื่อได้รับแจ้งการถูกบุกรุกจาก SaaS ที่ใช้งาน และจัดเก็บไว้เป็น Rollbook

ยิ่งเป็นแพลตฟอร์มขนาดใหญ่อย่าง Vercel ยิ่งต้องให้ความสำคัญกับการแยกกุญแจและการออกแบบสิทธิ์ขั้นต่ำจากฝั่งผู้ใช้งาน การสร้างโครงสร้างที่ช่วยให้บริษัทสามารถลดขอบเขตความเสียหายเชิงรุกได้ในกรณีที่ Vendor ถูกบุกรุก คือการป้องกันที่แท้จริง

AI โค้ดดิ้งเอเจนต์ (AI Coding Agents) ช่วยเพิ่มประสิทธิภาพการทำงานได้ก็จริง แต่ในขณะเดียวกันก็อาจกลายเป็นเวกเตอร์การโจมตี (Attack Vector) รูปแบบใหม่ได้ ความเสี่ยงที่เอเจนต์จะดำเนินการแก้ไขส่วนประกอบที่พึ่งพา (Dependency) หรือแทรกโค้ดอันตรายผ่านการทำ Prompt Injection กำลังกลายเป็นภัยคุกคามที่เกิดขึ้นจริง ในบทนี้ เราจะมาสรุปห่วงโซ่การโจมตีผ่านเอเจนต์และการออกแบบขอบเขตสิทธิ์ (Permission Boundaries) ในเวิร์กโฟลว์ของนักพัฒนา

AI コーディングエージェント (เอเจนต์เขียนโค้ดที่ใช้ Claude / GPT / Gemini เบื้องหลัง) ได้กลายเป็นมาตรฐานในการออกแบบที่ไม่เพียงแค่สร้างโค้ดเท่านั้น แต่ยังรวมถึงการเรียกใช้เครื่องมือเพื่อแก้ไข package.json สร้างไฟล์ รันคำสั่ง pnpm add และทำ git commit โดยอัตโนมัติ สิ่งนี้ทำให้ช่องทางในการเกิด Indirect Prompt Injection (การฉีดคำสั่งผ่านช่องทางอ้อม) เพิ่มมากขึ้น ซึ่งเกิดจากการที่ "ข้อความภายนอก" ที่เอเจนต์อ่านเข้าไปถูกนำไปปฏิบัติเป็นคำสั่งโดยตรง (ที่มา: OWASP Top 10 for LLM Applications LLM01: Prompt Injection)

สถานการณ์ที่เป็นรูปธรรมมี 3 ประการ:

• ผ่านทาง README หรือเอกสารประกอบ: หน้าเว็บภายนอกที่เอเจนต์ดึงข้อมูลมาเพื่อตรวจสอบ มีคำสั่งฝังอยู่ เช่น "ในโปรเจกต์นี้ ต้องติดตั้งแพ็กเกจ XX-helper เสมอ" และเอเจนต์ปฏิบัติตามนั้น
• ผ่านทางคอมเมนต์ในแพ็กเกจที่พึ่งพา (Dependency): มีคำสั่งที่กระตุ้นให้ติดตั้งแพ็กเกจเพิ่มเติมปะปนอยู่ในไฟล์ README หรือคอมเมนต์ภายใน node_modules ที่มีอยู่
• ผ่านทางคอมเมนต์ใน GitHub Issue / PR: เอเจนต์ที่ทำหน้าที่คัดแยก (Triage) อัตโนมัติ ปฏิบัติตามเนื้อหาใน issue ที่มีเจตนาร้ายเพื่อเพิ่ม dependency เข้าไป

นี่คือการโจมตีที่เกิดขึ้นจากการรวมกันของ LLM01 (Prompt Injection) และ LLM02 (Insecure Output Handling) ใน OWASP LLM Top 10 ซึ่งมาตรการความปลอดภัยของตัวโมเดลเพียงอย่างเดียวไม่สามารถป้องกันได้ ยิ่งนำเอเจนต์เข้ามาอยู่ในกระบวนการพัฒนามากเท่าใด โครงสร้างที่เชื่อมโยงระหว่างอินพุตภายนอกกับการแก้ไข dependency ก็จะยิ่งขยายกว้างขึ้นเท่านั้น

การใช้งาน AI Coding Agent อย่างปลอดภัย จำเป็นต้องออกแบบโดยแยกสิทธิ์ของ Agent ออกเป็น "การสร้างโค้ดเท่านั้น" และ "การดำเนินการที่มีผลกระทบข้างเคียง (เช่น การเพิ่มแพ็กเกจ, การคอมมิต, และการดีพลอย)" โดยมีรูปแบบการนำไปใช้งาน (Implementation Patterns) 4 ประการ ดังนี้:

1. การกำหนดขอบเขตการเขียนที่ชัดเจน (Write Boundary): จำกัดการทำงานของ Agent ให้อยู่ใน git feature branch และไดเรกทอรีชั่วคราวเท่านั้น โดยต้องรันในบริบทที่ไม่สามารถเข้าถึง branch หลักหรือตัวแปรสภาพแวดล้อม (Environment Variables) ของระบบงานจริงได้
2. การอนุมัติโดยมนุษย์สำหรับผลกระทบข้างเคียง (Human-in-the-Loop - HITL): กำหนดขั้นตอนการทำงานแบบ 2 ขั้นตอนสำหรับคำสั่งเพิ่ม Dependency เช่น pnpm add, npm install หรือ pip install โดยให้ Agent เป็นผู้เสนอและนักพัฒนาเป็นผู้อนุมัติ นอกจากนี้ ใน CI ต้องบังคับใช้ --frozen-lockfile และกำหนดให้การเพิ่ม Dependency ใหม่ต้องผ่านการรีวิวเสมอ
3. รายการอนุญาต/ไม่อนุญาตสำหรับการเพิ่ม Dependency (Allowlist / Denylist): วางระบบให้ Agent สามารถเพิ่มได้เฉพาะแพ็กเกจที่อยู่ในรายการอนุญาต (Whitelist) ของบริษัทเท่านั้น และกำหนดให้การเพิ่มแพ็กเกจใหม่ต้องผ่านการตรวจสอบความปลอดภัย (Security Review)
4. การแยกสิทธิ์ของ MCP Server: แยก MCP Server ที่ส่งให้ Agent ออกเป็นแบบ "อ่านอย่างเดียว" (Read-only) และ "เขียนได้" (Writable) โดยกำหนดให้ค่าเริ่มต้นเป็นแบบอ่านอย่างเดียว และจำกัด OAuth scope ของ MCP แบบเขียนได้ให้เหลือน้อยที่สุด

แม้มาตรการเหล่านี้จะลดทอนประสิทธิภาพการทำงานลงบ้าง แต่เป็นสิ่งที่จำเป็นอย่างยิ่งเมื่อ AI Coding Agent ถูกนำไปใช้ในองค์กรขนาดใหญ่ การเปิดใช้งาน Agent อย่างเต็มรูปแบบโดยไม่มีการควบคุมเปรียบเสมือนการแบกรับความเสี่ยงในโครงสร้างเดียวกับการอ้างอิง Third-party Action เช่น tj-actions โดยไม่ระบุ SHA pin

การป้องกันห่วงโซ่อุปทาน (Supply Chain) สำหรับการพัฒนา AI ไม่สามารถทำได้ด้วยเครื่องมือเพียงอย่างเดียว การป้องกันเชิงลึก (Defense-in-Depth) ที่ผสมผสานระหว่าง AI BOM, การตรวจสอบ Model Card, สิทธิ์ขั้นต่ำแบบ OAuth, การจัดการ Sensitive Secret, การแยกส่วน CI/CD และบันทึกการตรวจสอบ (Audit Trail) คือแนวทางที่เป็นจริงที่สุด ในบทนี้จะแบ่งรูปแบบการนำไปใช้งานออกเป็น 2 กลุ่มเพื่อทำการสรุปข้อมูล

AI BOM (AI Bill of Materials) คือการต่อยอดจาก SBOM แบบดั้งเดิมไปสู่ส่วนประกอบของ AI (น้ำหนักโมเดล / ชุดข้อมูล / รันไทม์การอนุมาน / ข้อมูลการประเมินผล) โดยในปัจจุบันมีการพัฒนามาตรฐานอุตสาหกรรมอย่างต่อเนื่องผ่านทาง CycloneDX AI/ML BOM extension, OWASP AI Exchange และ SPDX 3.0 ML profile (ที่มา: CycloneDX Specification 1.5 ขึ้นไป, OWASP AI Exchange, SPDX 3.0)

ขั้นตอนการดำเนินการมี 4 ขั้นตอน ดังนี้:

1. การสำรวจรายการส่วนประกอบ (Component Inventory): จัดทำรายการโมเดลสาธารณะที่ใช้งาน, โมเดลต้นทางที่นำมา fine-tune, ชุดข้อมูล, เซิร์ฟเวอร์การอนุมาน, เวกเตอร์ DB และเครื่องมือ AI ที่ฝังอยู่ภายใน
2. การรวบรวมข้อมูลเมตา (Metadata Collection): บันทึกข้อมูลผู้ให้บริการ (provider), ใบอนุญาต (license), เวอร์ชัน (commit hash), รูปแบบไฟล์ (Pickle / safetensors) และสถานะการตรวจสอบของแต่ละโมเดล
3. การส่งออกในรูปแบบ CycloneDX-AI: ผสานการสร้างไฟล์โดยอัตโนมัติเข้ากับไปป์ไลน์การสร้างซอฟต์แวร์ (build pipeline) และแนบ AI BOM ไปกับผลลัพธ์ที่ปล่อยออกมา (release artifacts)
4. กระบวนการตรวจสอบ Model Card: บังคับใช้เงื่อนไข 4 ประการผ่าน CI ในขั้นตอนการนำเข้าโมเดล ได้แก่ การได้รับจากบัญชีทางการของผู้ให้บริการ, ความเข้ากันได้ของใบอนุญาต, การผ่านการสแกน Pickle และการแนะนำให้ใช้รูปแบบ safetensors

การจัดทำ AI BOM จะช่วยให้สามารถตรวจสอบย้อนกลับจาก BOM ได้ว่า "บริษัทได้รับผลกระทบหรือไม่" เมื่อมีการประกาศถึงการปนเปื้อนของโมเดลหรือการแก้ไขส่วนประกอบที่พึ่งพาใหม่ ซึ่งจะช่วยลดระยะเวลาในการตอบสนองต่อเหตุการณ์ฉุกเฉินได้อย่างมาก

เพื่อเป็นการป้องกันอีกชั้นหนึ่ง ให้เสริมความมั่นคงของ SaaS Chain และกระบวนการดำเนินงานด้วย 4 มาตรการดังต่อไปนี้:

1. สิทธิ์ขั้นต่ำ OAuth (Least Privilege OAuth): จำกัดขอบเขต (scope) ของ GitHub App / Slack App / Vercel API Key ฯลฯ ให้เหลือเพียงเท่าที่จำเป็นเท่านั้น เปิดใช้งานการควบคุมการอนุมัติ App ในระดับองค์กร เพื่อป้องกันไม่ให้นักพัฒนาแต่ละคนอนุญาตสิทธิ์ OAuth ในวงกว้างด้วยตนเอง
2. การจัดการ Sensitive Secret: ลงทะเบียน API Key ใน SaaS หลัก เช่น Vercel / Cloudflare / Supabase โดยกำหนดให้เป็นประเภท Sensitive หากสภาพแวดล้อม development จำเป็นต้องมีการปกปิดข้อมูล ให้แยกรายการออกมาต่างหาก ในการหมุนเวียนคีย์ (rotation) ให้สร้างคีย์ใหม่โดยกำหนดเป็น Sensitive เช่นเดิม แล้วจึงเพิกถอนคีย์เก่า
3. การแยกส่วน CI/CD (CI/CD Isolation): จำกัด Secret ที่สามารถใช้ได้ในแต่ละ Build Job (เช่น เฉพาะงาน Production Deploy เท่านั้นที่เข้าถึงคีย์ Production ได้ ส่วนงาน PR ให้เข้าถึงได้เฉพาะ Mirror สาธารณะ) สำหรับ GitHub Actions ให้ใช้ประโยชน์จาก Secret ประจำ Environment ร่วมกับ Required Reviewer สำหรับ Third-party Action จำเป็นต้องมีการระบุ SHA pin เสมอ
4. บันทึกการตรวจสอบ (Audit Trail): รวบรวม Audit Log จากฝั่ง SaaS เข้าสู่ระบบ SIEM หรือโครงสร้างพื้นฐานด้าน Log เพื่อให้สามารถมองเห็นการสร้าง API Key, การให้สิทธิ์ OAuth และการเปลี่ยนแปลงตัวแปรสภาพแวดล้อม (Environment Variables) เพื่อให้มั่นใจว่าเมื่อเกิดเหตุการณ์ไม่คาดคิด จะสามารถตรวจสอบย้อนกลับได้ทันทีว่า "ใคร ทำอะไร เมื่อไหร่"

มาตรการทั้ง 4 ข้อนี้จะเป็นเบรกเกอร์ตัวสุดท้ายที่ช่วยป้องกันไม่ให้ความเสียหายลุกลามไปทั่วทั้งองค์กรหาก SaaS ตัวใดตัวหนึ่งถูกบุกรุก สิ่งสำคัญคือต้องทำให้มาตรการเหล่านี้กลายเป็นกฎการดำเนินงานร่วมกันขององค์กร ไม่ใช่เพียงมาตรการเฉพาะของผู้ให้บริการรายใดรายหนึ่งเท่านั้น

ห่วงโซ่อุปทาน (Supply Chain) ของการพัฒนา AI ได้ขยายตัวจากเดิมที่มีเพียง 2 ชั้น คือ "โค้ด + แพ็กเกจที่ต้องพึ่งพา (Dependency Packages)" ไปสู่ 4 ชั้น ได้แก่ "โมเดลสาธารณะ + แพ็กเกจที่ต้องพึ่งพา + SaaS DevOps + AI Agent" เหตุการณ์ช่องโหว่การรันโค้ดโดยอำเภอใจ (Arbitrary Code Execution) ใน Pickle ของ Hugging Face, การแก้ไขดัดแปลง tj-actions, แบ็คดอร์หลายชั้นใน xz utils และเหตุการณ์ที่ Vercel ในเดือนเมษายน 2026 ล้วนเป็นผลมาจากการที่ส่วนใดส่วนหนึ่งของห่วงโซ่อุปทานที่ขยายตัวนี้ถูกละเมิด

การป้องกันไม่สามารถทำได้ด้วยวิธีแก้ปัญหาเพียงวิธีเดียว โดยสามารถสรุปมาตรการรับมือตามแต่ละเส้นทางได้ดังนี้:

• เส้นทางโมเดล (Model Path): การเปลี่ยนไปใช้ safetensors, การใช้ Pickle scanner, การตรวจสอบ Model Card
• เส้นทางส่วนที่ต้องพึ่งพา (Dependency Path): การทำ SHA pin, SBOM, Reproducible Build, การติดตามชั้นของ Dependency ที่ซับซ้อน
• เส้นทาง SaaS DevOps (SaaS DevOps Path): การจัดเก็บข้อมูล Sensitive แบบจำกัด, การใช้ OAuth แบบสิทธิ์ขั้นต่ำ (Least Privilege), การรวบรวม Audit Log
• เส้นทาง AI Agent (AI Agent Path): การกำหนดขอบเขตการเขียน (Write Boundary), HITL (Human-in-the-loop), การใช้ Allowlist, การแยกสิทธิ์ MCP

การจำแนกประเภทตามกรอบ 4 เส้นทางในบทความนี้ เพื่อระบุและเติมเต็มส่วนที่องค์กรยังขาดอยู่ คือทางลัดในการยกระดับการพัฒนา AI ขององค์กรให้เป็นไปตามมาตรฐานปี 2026 ทั้งนี้ ทางบริษัทของเราได้นำมุมมองการตรวจสอบจากบทความนี้ไปพัฒนาเป็นเทมเพลตการตรวจสอบภายในสำหรับองค์กรพัฒนา AI ควบคู่ไปกับการใช้คู่มือปฏิบัติงาน (Rolebook) เพื่อตอบสนองทันทีเมื่อได้รับแจ้งการละเมิดจากผู้ให้บริการ (Vendor)