เมื่อเราพูดถึง Local LLM หลายคนมักโฟกัสอยู่ที่ตัวโมเดล เช่น Gemma, Qwen หรือ Llama และคิดว่าเพียงดาวน์โหลดโมเดลมาไว้ในเครื่องก็สามารถสร้าง AI Application ได้ทันที แต่ในระบบจริง LLM ไม่ได้ทำงานอยู่เพียงลำพัง AI Application ที่มีความสามารถมากขึ้นจำเป็นต้องจัดการทั้ง Conversation, Document, User Data, Embedding, Vector Search, Memory และข้อมูลจากระบบภายนอก คำถามจึงเกิดขึ้นว่า ถ้าเราต้องการสร้าง Local AI Server บน Raspberry Pi 5 เราควรออกแบบ Database อย่างไร? คำตอบคือ เราไม่ควรคิดว่า “LLM Database” คือ Database ที่เอาโมเดล LLM ไปเก็บไว้ใน Database แต่ควรคิดว่า Database คือ Memory Layer ของระบบ AI 1. LLM ไม่ใช่ Database สิ่งแรกที่ต้องเข้าใจก่อนคือ LLM ≠ Database LLM มีหน้าที่หลักในการประมวลผลภาษาและสร้างคำตอบจาก Context ที่ได้รับ ตัวอย่างเช่น User ↓ Question ↓ LLM ↓ Answer แต่ถ้าถามว่า “เอกสารบริษัทฉบับล่าสุดระบุว่าอะไร?” LLM อาจไม่มีข้อมูลนั้นอยู่ใน Model Weight เราจึงต้องมีระบบสำหรับค้นหาข้อมูล แล้วนำข้อมูลที่เกี่ยวข้องส่งเข้าไปใน Prompt นี่คือ...
ค..ตนดูระบบคอม
บอกกล่าว เล่าเทคโนโลยี ชงกาแฟ นั่งอ่าน