ข้ามไปที่เนื้อหาหลัก

บทความ

กำลังแสดงโพสต์ที่มีป้ายกำกับ LLM

AI Observability คืออะไร? ทำไมระบบ AI ยุคใหม่ต้องตรวจสอบได้

AI กำลังเปลี่ยนจาก Software ที่ “รอคำสั่ง” ไปสู่ระบบที่สามารถ คิด วิเคราะห์ ค้นข้อมูล และลงมือทำงาน LLM สามารถสร้างเนื้อหาและวิเคราะห์ข้อมูล RAG สามารถค้นความรู้จากเอกสารขององค์กร AI Agent สามารถเลือก Tool และดำเนินงานหลายขั้นตอนด้วยตัวเอง ความสามารถเหล่านี้ทำให้ AI มีประโยชน์มากขึ้น แต่ในอีกด้านหนึ่ง มันกำลังสร้างปัญหาใหม่ที่นักพัฒนาไม่สามารถมองข้ามได้ ถ้า AI ทำงานผิด เรารู้หรือไม่ว่าผิดตรงไหน? คำตอบของคำถามนี้คือจุดเริ่มต้นของ AI Observability AI Observability คืออะไร? ถ้าอธิบายแบบง่ายที่สุด AI Observability คือความสามารถในการมองเห็นและทำความเข้าใจสิ่งที่เกิดขึ้นภายในระบบ AI ขณะระบบกำลังทำงาน ไม่ใช่เพียงดูว่า Request สำเร็จหรือไม่ แต่ต้องสามารถตรวจสอบได้ว่า AI ได้รับข้อมูลอะไร ใช้ Model อะไร ใช้ Prompt รุ่นไหน ได้ Context มาจากไหน RAG ค้นข้อมูลอะไร Agent เรียก Tool อะไร ใช้ Token เท่าไร ใช้เวลาประมวลผลเท่าไร ผลลัพธ์มีคุณภาพหรือไม่ และเกิดข้อผิดพลาดตรงไหน พูดอีกแบบหนึ่งคือ AI Observability ทำให้ AI จาก Black Box กลายเป็นระบบที่สามารถตรวจสอบได้ ทำไม AI จึง...