ข้อจำกัดและความเสี่ยง AI Agent — EP.4

ข้อจำกัด 5 ข้อของ AI Agent ที่ต้องรู้

ก่อนจะตัดสินใจให้ AI Agent ทำงานแทนคน ต้องเข้าใจข้อจำกัดเหล่านี้ให้ชัด:

1. Hallucination — สร้างข้อมูลเท็จที่ดูน่าเชื่อ

AI สามารถ "แต่งข้อมูล" ได้อย่างน่าเชื่อถือ เช่น อ้างอิงงานวิจัยที่ไม่มีจริง สร้างตัวเลขสถิติที่ดูสมเหตุสมผลแต่เป็นเท็จ หรือตอบคำถามอย่างมั่นใจแม้ไม่รู้คำตอบ สิ่งนี้อันตรายมากในงานบัญชี กฎหมาย และการตัดสินใจทางธุรกิจ

2. Context Window จำกัด — จำได้แค่ช่วงหนึ่ง

AI Agent มี "ความจำระยะสั้น" จำกัด ไม่สามารถจำทุกอย่างที่เคยคุยกันมาก่อนได้ เมื่อบทสนทนายาวเกินไป AI จะเริ่ม "ลืม" บริบทแรกๆ ทำให้คำตอบอาจไม่สอดคล้องกัน

3. ไม่มี Common Sense จริง — ทำตาม Pattern ไม่ใช่เข้าใจจริง

AI ทำงานโดยการจับ pattern จากข้อมูลที่เรียนรู้มา ไม่ได้ "เข้าใจ" จริงๆ ในแบบที่มนุษย์เข้าใจ ดังนั้นในสถานการณ์ที่ไม่เคยเจอมาก่อน หรือต้องใช้ "สามัญสำนึก" AI อาจตอบผิดอย่างน่าตกใจ

4. ขึ้นกับคุณภาพ Prompt — Garbage In = Garbage Out

ผลลัพธ์ของ AI Agent ดีแค่ไหน ขึ้นอยู่กับคำสั่ง (Prompt) ที่ให้ไป ถ้า prompt ไม่ชัดเจน ไม่ครบถ้วน หรือเข้าใจผิด ผลลัพธ์ก็จะผิดตามไปด้วย

5. ค่าใช้จ่ายสะสม — API Cost สะสมเร็ว

การใช้ AI Agent ผ่าน API มีค่าใช้จ่ายต่อ token ที่สะสมเร็วมาก โดยเฉพาะเมื่อ Agent ต้องประมวลผลข้อมูลจำนวนมาก หรือทำงานซ้ำหลายรอบ ต้องวางแผนงบประมาณให้ดี

ข้อจำกัด	ผลกระทบ	วิธี Mitigate
Hallucination	ข้อมูลเท็จถูกนำไปใช้ตัดสินใจ	ตรวจสอบ output ทุกครั้ง, ใช้ RAG + fact-checking
Context Window จำกัด	ลืมบริบท ตอบไม่สอดคล้อง	แบ่งงานเป็นชิ้นเล็กๆ, สรุปบริบทให้ AI ทุกรอบ
ไม่มี Common Sense	ตอบผิดในสถานการณ์ใหม่	กำหนด scope ชัดเจน, มี human review
ขึ้นกับ Prompt	ผลลัพธ์ไม่ตรงความต้องการ	สร้าง prompt template มาตรฐาน, ทำ A/B testing
ค่าใช้จ่ายสะสม	งบบานปลายโดยไม่รู้ตัว	ตั้ง budget cap, monitor usage, เลือก model ให้เหมาะกับงาน

ความเสี่ยง 5 ด้านที่ต้องจัดการ

1. ข้อมูลรั่วไหล — ส่งข้อมูลลับให้ AI โดยไม่รู้ตัว

เมื่อพนักงานส่งข้อมูลลูกค้า ข้อมูลทางการเงิน หรือข้อมูลเชิงกลยุทธ์ให้ AI ข้อมูลเหล่านั้นอาจถูกเก็บไว้บน cloud ของผู้ให้บริการ AI หรือถูกนำไปใช้ train model ได้ นี่คือความเสี่ยงที่องค์กรหลายแห่งยังมองข้าม

2. ความรับผิดชอบทางกฎหมาย — AI ทำผิด ใครรับผิด?

ถ้า AI Agent ออก report ที่มีข้อมูลผิด แล้วผู้บริหารนำไปตัดสินใจผิดพลาด ใครต้องรับผิดชอบ? ในทางกฎหมายปัจจุบัน ยังไม่มีกรอบชัดเจน แต่องค์กรที่ใช้ AI ต้องรับผิดชอบต่อผลลัพธ์ที่เกิดขึ้น

3. PDPA / Data Privacy — ข้อมูลส่วนบุคคลถูกส่งไป Cloud

การส่งข้อมูลพนักงาน ข้อมูลลูกค้า หรือข้อมูลส่วนบุคคลอื่นๆ ให้ AI ประมวลผล อาจขัดกับ พ.ร.บ.คุ้มครองข้อมูลส่วนบุคคล (PDPA) ต้องมีนโยบายชัดเจนว่าข้อมูลใดส่งได้ ข้อมูลใดส่งไม่ได้

4. Dependency Risk — พึ่งพา AI มากเกินไป

เมื่อใช้ AI Agent ทำงานแทนคนมากขึ้น ทักษะของคนก็ลดลง ถ้าวันหนึ่ง AI ล่ม หรือผู้ให้บริการเปลี่ยนราคา/เงื่อนไข องค์กรจะปรับตัวอย่างไร?

5. Bias และ Discrimination — AI เรียนรู้จาก Data ที่มี Bias

AI เรียนรู้จากข้อมูลที่มนุษย์สร้างขึ้น ซึ่งอาจมี bias ฝังอยู่ เช่น AI คัดกรอง resume อาจเลือกผู้สมัครเพศใดเพศหนึ่งมากกว่า หรือ AI วิเคราะห์สินเชื่ออาจให้คะแนนพื้นที่บางแห่งต่ำกว่า

ความเสี่ยง	ระดับ	ตัวอย่างสถานการณ์
ข้อมูลรั่วไหล	สูง	พนักงานส่งข้อมูลลูกค้าให้ ChatGPT วิเคราะห์ โดยไม่รู้ว่าข้อมูลถูกเก็บบน server ต่างประเทศ
ความรับผิดชอบทางกฎหมาย	สูง	AI สร้าง report ที่มีตัวเลขผิด ผู้บริหารนำไปเสนอ board โดยไม่ตรวจสอบ
PDPA / Data Privacy	สูง	HR ส่งข้อมูลเงินเดือนพนักงานทั้งหมดให้ AI วิเคราะห์ โดยไม่ anonymize
Dependency Risk	กลาง	AI Agent ที่ใช้ทำ bank reconciliation ล่มทั้งวัน ทีมบัญชีทำงานไม่ได้เลย
Bias / Discrimination	กลาง	AI คัดกรอง resume ให้คะแนนผู้สมัครจากมหาวิทยาลัยชื่อดังสูงกว่าเสมอ

วิธีควบคุม: 7 Guardrails ที่ทุกองค์กรต้องมี

Guardrails คือ "ราวกั้น" ที่ป้องกันไม่ให้ AI Agent ทำงานนอกขอบเขตที่กำหนด ทุกองค์กรที่ใช้ AI Agent ต้องมี 7 ข้อนี้เป็นอย่างน้อย:

1. Human-in-the-Loop — กำหนดจุดที่ต้องมีคน Approve

ไม่ใช่ทุกงานที่ AI ทำเสร็จแล้วจะส่งต่อได้เลย ต้องกำหนดชัดเจนว่า งานไหนต้องมีคน review ก่อน เช่น การส่ง email ให้ลูกค้า การอนุมัติ PO การลงบัญชีที่เกินวงเงิน

2. Data Classification — แบ่งข้อมูลว่าอะไรส่งให้ AI ได้/ไม่ได้

แบ่งข้อมูลเป็น 3 ระดับ: ส่งได้อิสระ (ข้อมูลสาธารณะ), ส่งได้แต่ต้อง anonymize (ข้อมูลภายใน), ห้ามส่ง (ข้อมูลลับ, ข้อมูลส่วนบุคคล)

3. Output Validation — ตรวจสอบผลงาน AI ก่อนใช้

ทุกผลงานของ AI ต้องผ่านการตรวจสอบก่อนนำไปใช้จริง โดยเฉพาะตัวเลข ข้อมูลอ้างอิง และข้อเสนอแนะ

4. Audit Trail — บันทึกทุก Action ที่ AI ทำ

ทุกครั้งที่ AI Agent ทำงาน ต้องบันทึก log ว่าทำอะไร เมื่อไหร่ ใช้ข้อมูลอะไร ผลลัพธ์เป็นอย่างไร เพื่อให้ตรวจสอบย้อนกลับได้เสมอ

5. Access Control — จำกัดสิทธิ์ AI เหมือนจำกัดสิทธิ์พนักงาน

AI Agent ไม่ควรเข้าถึงข้อมูลทุกอย่างในองค์กร ต้องกำหนดสิทธิ์การเข้าถึงเหมือนกับที่กำหนดให้พนักงาน — AI Agent ฝ่ายบัญชีเข้าถึงได้แค่ข้อมูลบัญชี ไม่ใช่ข้อมูล HR

6. Regular Review — ทบทวน Prompt + Performance ทุกสัปดาห์

ทุกสัปดาห์ต้องมีการ review ว่า AI Agent ทำงานได้ตาม KPI ที่กำหนดหรือไม่ Prompt ยังเหมาะสมหรือไม่ มีข้อผิดพลาดอะไรบ้าง

7. Kill Switch — ปิด AI Agent ได้ทันทีเมื่อเกิดปัญหา

ต้องมีวิธีปิด AI Agent ได้ทันที ไม่ว่าจะเป็นปุ่มฉุกเฉิน หรือ script อัตโนมัติที่ทำงานเมื่อตรวจพบ anomaly

Guardrail	วิธีทำ	เครื่องมือ	ตัวอย่าง
Human-in-the-Loop	กำหนด approval workflow	ERP Workflow Engine	PO เกิน 50,000 บาท ต้องมีคน approve
Data Classification	จัดทำ data policy	DLP Software, นโยบายองค์กร	ข้อมูลเงินเดือน = ห้ามส่ง AI
Output Validation	Checklist ตรวจสอบ	Automated testing + manual review	ตรวจตัวเลข report ก่อนส่ง board
Audit Trail	Log ทุก action	ERP Audit Log, SIEM	บันทึกว่า AI ลงบัญชีรายการไหนบ้าง
Access Control	กำหนด role-based access	ERP RBAC, API Gateway	AI Agent บัญชี เข้าถึงแค่ GL Module
Regular Review	Weekly review meeting	Dashboard, KPI tracking	ทุกจันทร์ review accuracy rate ของ AI
Kill Switch	ปุ่มฉุกเฉิน + auto-stop	API rate limit, circuit breaker	Error rate > 10% = ปิด agent อัตโนมัติ

ERP Governance + AI Agent — ทำไม ERP คือผู้ดูแลที่ดีที่สุด

ระบบ ERP ที่ออกแบบมาดี มี governance features ที่รองรับการทำงานร่วมกับ AI Agent ได้อย่างปลอดภัย:

Saeree ERP Feature	ช่วย AI Governance อย่างไร
Role-Based Access Control (RBAC)	กำหนดสิทธิ์ AI Agent ได้เหมือนกำหนดสิทธิ์พนักงาน — เข้าถึงได้แค่ข้อมูลที่จำเป็น
Approval Workflow	กำหนดจุด Human-in-the-Loop — AI draft แต่ต้องมีคน approve ก่อนดำเนินการ
Audit Trail	บันทึกทุก transaction ที่ AI สร้าง — ตรวจสอบย้อนกลับได้ 100%
Data Lineage	ติดตามว่าข้อมูลมาจากไหน ผ่านกระบวนการอะไร ก่อนที่ AI จะนำไปใช้
Budget Control	ป้องกัน AI Agent อนุมัติรายจ่ายเกินงบ — ระบบบล็อกอัตโนมัติ
Segregation of Duties	แยก AI Agent ที่ "สร้างรายการ" กับ "อนุมัติรายการ" — ป้องกัน fraud

สรุปซีรี่ย์ทั้ง 4 EP

AI Agent ทรงพลัง แต่พลังที่ไม่มีการควบคุมก็อันตราย — องค์กรที่จะใช้ AI Agent ได้อย่างยั่งยืน ต้องมีทั้ง "คนที่เข้าใจ AI" และ "ระบบที่ควบคุม AI" ได้ ระบบ ERP ที่มี governance ดี คือรากฐานที่ทำให้ AI Agent ทำงานได้อย่างปลอดภัยและตรวจสอบได้

- สุรีระยา ลิ้มไพบูลย์, Saeree ERP

แหล่งอ้างอิง

• OWASP Top 10 for LLM Applications (2025)
• NIST AI Risk Management Framework (AI RMF 1.0)
• EU AI Act — European Commission