ข้ามไปที่เนื้อหาหลัก

บทความ

กำลังแสดงโพสต์ที่มีป้ายกำกับ semantic search AI

Memory ของ ChatGPT: สถาปัตยกรรม Vector Embeddings, Retrieval Algorithms และ Optimization Techniques

  บทนำ: Memory คือ Infrastructure หลักของ AI สมัยใหม่ Memory เป็นหนึ่งในองค์ประกอบที่สำคัญที่สุดของระบบ AI สมัยใหม่ โดยเฉพาะในระบบ conversational AI เช่น ChatGPT ซึ่งต้องสามารถจัดเก็บและเรียกใช้ข้อมูลผู้ใช้เพื่อเพิ่มความแม่นยำและความต่อเนื่องของการโต้ตอบ ในระบบ AI แบบ stateless แบบดั้งเดิม ทุก interaction เป็นอิสระจากกัน ทำให้ไม่สามารถใช้ข้อมูลก่อนหน้าเพื่อปรับปรุง performance ได้ แต่ memory-enabled AI สามารถสร้าง persistent state ซึ่งช่วยให้ระบบสามารถเรียนรู้และปรับตัว Memory ทำหน้าที่เป็น external knowledge layer ที่ช่วย augment model inference โดยไม่ต้อง retrain neural network ซึ่งช่วยลด computational cost และเพิ่ม scalability จากมุมมองของ engineering, memory system เป็น subsystem ที่ประกอบด้วย data ingestion pipeline, encoding mechanism, storage layer และ retrieval algorithm ซึ่งทำงานร่วมกันเพื่อให้ AI สามารถเข้าถึงข้อมูลได้ใน latency ต่ำ สถาปัตยกรรม Memory System Memory system สามารถแบ่งออกเป็น 4 layer หลัก: 1. Data Ingestion Layer Data ingestion layer มีหน้าที่รับ inp...