วิวัฒนาการ Neural Network จาก Neuron สู่ LLM: ย้อนรอยประวัติศาสตร์ AI จากปี 1943 ถึงปัจจุบัน
บทนำ
เทคโนโลยีปัญญาประดิษฐ์ (Artificial Intelligence: AI) ที่เราใช้งานในปัจจุบัน ไม่ว่าจะเป็น ChatGPT, Gemini, Claude หรือ DeepSeek ล้วนมีรากฐานสำคัญมาจากแนวคิด Neural Network ซึ่งได้รับการพัฒนาอย่างต่อเนื่องมานานหลายทศวรรษ
สิ่งที่น่าสนใจคือ Neural Network ไม่ได้เริ่มต้นจากโมเดลภาษาขนาดใหญ่ แต่เริ่มจากความพยายามของนักวิทยาศาสตร์ในการทำความเข้าใจว่าเซลล์ประสาทของมนุษย์ทำงานอย่างไร และจะสามารถนำหลักการดังกล่าวมาสร้างแบบจำลองทางคณิตศาสตร์เพื่อให้คอมพิวเตอร์เรียนรู้ได้หรือไม่
บทความนี้จะย้อนรอยวิวัฒนาการของ Neural Network ตั้งแต่ Biological Neuron, Artificial Neuron, Perceptron, Deep Learning, CNN, RNN, LSTM, Attention, Transformer จนถึง Large Language Model (LLM) โดยเรียงตามปีและเหตุการณ์สำคัญทางวิชาการ
1. Biological Neuron: จุดเริ่มต้นจากเซลล์ประสาททางชีววิทยา
ช่วงปลายคริสต์ศตวรรษที่ 19 เป็นต้นมา
รากฐานของ Neural Network มาจากการศึกษาระบบประสาทของสิ่งมีชีวิต โดยเฉพาะเซลล์ประสาทหรือ Neuron ซึ่งทำหน้าที่รับ ส่ง และประมวลผลสัญญาณภายในระบบประสาท
Santiago Ramón y Cajal เป็นนักวิทยาศาสตร์คนสำคัญที่มีบทบาทในการพัฒนา Neuron Doctrine ในช่วงปลายคริสต์ศตวรรษที่ 19 ซึ่งอธิบายว่าระบบประสาทประกอบด้วยเซลล์ประสาทที่เป็นหน่วยพื้นฐานแยกจากกัน
องค์ประกอบสำคัญของเซลล์ประสาท ได้แก่
Dendrites: รับสัญญาณจากเซลล์ประสาทอื่น
Cell Body: ประมวลผลและรักษาการทำงานของเซลล์
Axon: ส่งสัญญาณออกจากเซลล์
Synapse: บริเวณเชื่อมต่อและส่งผ่านสัญญาณระหว่างเซลล์
แนวคิดนี้กลายเป็นแรงบันดาลใจสำคัญในการสร้างแบบจำลอง Artificial Neuron ในเวลาต่อมา
2. Artificial Neuron: การจำลองเซลล์ประสาทด้วยคณิตศาสตร์
ปี 1943
<figure> <img src="https://upload.wikimedia.org/wikipedia/commons/9/91/Neural_network_model.svg" alt="Artificial neuron mathematical model" /> <figcaption>แนวคิดการจำลองการทำงานของเซลล์ประสาทด้วยแบบจำลองคำนวณ</figcaption> </figure>
ปี 1943 Warren McCulloch และ Walter Pitts เผยแพร่ผลงานวิจัยเรื่อง A Logical Calculus of the Ideas Immanent in Nervous Activity
งานวิจัยนี้เสนอแบบจำลองเซลล์ประสาทเชิงคณิตศาสตร์ที่สามารถใช้ตรรกะในการประมวลผลสัญญาณได้
แนวคิดสำคัญคือการจำลองเซลล์ประสาทให้เป็นหน่วยคำนวณที่รับ Input แล้วตัดสินใจว่าจะส่ง Output หรือไม่
นี่เป็นจุดเปลี่ยนสำคัญ เพราะนักวิทยาศาสตร์เริ่มมองว่าโครงสร้างที่ได้รับแรงบันดาลใจจากสมองสามารถนำมาสร้างเป็นระบบคำนวณได้
3. Perceptron: จุดเริ่มต้นของ Machine Learning ด้วย Neural Network
ปี 1957–1958
Frank Rosenblatt พัฒนาแนวคิด Perceptron ในช่วงปี 1957 และเผยแพร่ผลงานสำคัญในปี 1958
Perceptron เป็น Neural Network รูปแบบหนึ่งที่สามารถปรับค่าน้ำหนัก (Weights) จากข้อมูลตัวอย่าง เพื่อเรียนรู้การจำแนกประเภทข้อมูล
พัฒนาการสำคัญของ Perceptron คือการเปลี่ยนจากระบบที่กำหนดกฎการตัดสินใจโดยตรง ไปสู่ระบบที่สามารถเรียนรู้พารามิเตอร์จากข้อมูลได้
อย่างไรก็ตาม Perceptron แบบชั้นเดียวมีข้อจำกัดในการเรียนรู้ปัญหาที่ไม่สามารถแบ่งแยกด้วยเส้นตรง เช่น XOR
ข้อจำกัดนี้กลายเป็นแรงผลักดันให้เกิดการศึกษา Neural Network ที่มีหลายชั้นมากขึ้น
4. Multilayer Perceptron (MLP): การพัฒนาเครือข่ายประสาทหลายชั้น
ช่วงทศวรรษ 1960–1980 และหมุดหมายสำคัญในปี 1986
<figure> <img src="https://upload.wikimedia.org/wikipedia/commons/4/46/Colored_neural_network.svg" alt="Multilayer Perceptron architecture" /> <figcaption>โครงสร้าง Neural Network ที่ประกอบด้วย Input Layer, Hidden Layers และ Output Layer</figcaption> </figure>
การพัฒนา Neural Network หลายชั้นเป็นความพยายามแก้ข้อจำกัดของ Perceptron แบบชั้นเดียว
Multilayer Perceptron หรือ MLP ประกอบด้วยชั้น Input, Hidden และ Output ซึ่งทำให้สามารถเรียนรู้ความสัมพันธ์ที่ซับซ้อนมากขึ้นได้ โดยอาศัย Nonlinear Activation Functions
หมุดหมายสำคัญเกิดขึ้นในปี 1986 เมื่อ David Rumelhart, Geoffrey Hinton และ Ronald Williams เผยแพร่ผลงาน Learning Representations by Back-Propagating Errors
งานวิจัยดังกล่าวมีบทบาทสำคัญในการเผยแพร่และแสดงประสิทธิภาพของ Backpropagation สำหรับการฝึก Neural Network หลายชั้น
Backpropagation ทำให้โมเดลสามารถคำนวณข้อผิดพลาดย้อนกลับผ่านเครือข่าย และปรับ Weights เพื่อลดความผิดพลาดในการทำนาย
5. Deep Neural Network: การเรียนรู้ด้วยเครือข่ายหลายชั้น
พัฒนาต่อเนื่องในช่วงทศวรรษ 1980–2000 และหมุดหมายสำคัญในปี 2006
Deep Neural Network คือ Neural Network ที่มี Hidden Layers หลายชั้น ทำให้สามารถเรียนรู้คุณลักษณะของข้อมูลจากระดับพื้นฐานไปสู่ระดับที่ซับซ้อนขึ้นได้
ตัวอย่างเช่น การประมวลผลภาพอาจเริ่มจากการเรียนรู้เส้นและขอบ จากนั้นเรียนรู้รูปร่าง แล้วจึงเรียนรู้วัตถุที่อยู่ในภาพ
อย่างไรก็ตาม การฝึกเครือข่ายที่มีหลายชั้นมีปัญหาทางเทคนิค เช่น Vanishing Gradient และความยากในการกำหนดค่าเริ่มต้นของพารามิเตอร์
ปี 2006 Geoffrey Hinton และคณะเผยแพร่งานวิจัยเกี่ยวกับ Deep Belief Networks ซึ่งเป็นหมุดหมายสำคัญที่ช่วยกระตุ้นการกลับมาของ Deep Learning
หลังจากนั้น การพัฒนา GPU, ข้อมูลขนาดใหญ่ และเทคนิคการฝึกโมเดลที่ดีขึ้น ทำให้ Deep Neural Network สามารถขยายขนาดและประสิทธิภาพได้อย่างก้าวกระโดด
6. Convolutional Neural Network (CNN): การเรียนรู้จากภาพ
ปี 1989–1998
Convolutional Neural Network หรือ CNN เป็นสถาปัตยกรรม Neural Network ที่ออกแบบมาเพื่อประมวลผลข้อมูลที่มีโครงสร้างเชิงพื้นที่ โดยเฉพาะภาพ
Yann LeCun และคณะพัฒนาแนวทาง CNN สำหรับการรู้จำตัวเลขในช่วงปลายทศวรรษ 1980 และเผยแพร่ผลงานสำคัญเกี่ยวกับ LeNet-5 ในปี 1998
CNN มีองค์ประกอบสำคัญ ได้แก่
Convolution Layer: สกัดคุณลักษณะจากข้อมูล
Activation Function: เพิ่มความสามารถในการเรียนรู้ความสัมพันธ์แบบไม่เป็นเชิงเส้น
Pooling Layer: ลดขนาดข้อมูลและรักษาคุณลักษณะที่สำคัญ
Fully Connected Layer: ใช้ประมวลผลเพื่อการจำแนกหรือทำนาย
ต่อมา CNN ได้รับความนิยมอย่างมากในงาน Computer Vision โดยเฉพาะหลังจาก AlexNet ประสบความสำเร็จในการแข่งขัน ImageNet ปี 2012
7. Recurrent Neural Network (RNN): การเรียนรู้ข้อมูลตามลำดับเวลา
พัฒนาการสำคัญในช่วงทศวรรษ 1980
Recurrent Neural Network หรือ RNN ถูกออกแบบมาเพื่อประมวลผลข้อมูลที่มีลำดับ เช่น ข้อความ เสียง และข้อมูลตามเวลา
ความแตกต่างจาก Feedforward Neural Network คือ RNN มีการส่งผ่านสถานะจากขั้นตอนก่อนหน้าไปยังขั้นตอนถัดไป ทำให้สามารถใช้ข้อมูลในอดีตประกอบการประมวลผลได้
ตัวอย่างการใช้งาน ได้แก่
การประมวลผลภาษา
การพยากรณ์อนุกรมเวลา
การรู้จำเสียงพูด
การวิเคราะห์ลำดับเหตุการณ์
ข้อจำกัดสำคัญของ RNN แบบดั้งเดิมคือปัญหา Vanishing Gradient และการเรียนรู้ความสัมพันธ์ระยะยาว ซึ่งนำไปสู่การพัฒนา LSTM และ GRU
8. LSTM และ GRU: การจัดการความจำระยะยาว
LSTM: ปี 1997 | GRU: ปี 2014
ปี 1997 Sepp Hochreiter และ Jürgen Schmidhuber เสนอ Long Short-Term Memory (LSTM) เพื่อแก้ปัญหาการเรียนรู้ความสัมพันธ์ระยะยาวใน Recurrent Neural Network
LSTM ใช้โครงสร้าง Memory Cell และ Gate เพื่อควบคุมข้อมูลที่จะเก็บ ลืม และส่งผ่านไปยังขั้นตอนถัดไป
ต่อมาในปี 2014 Kyunghyun Cho และคณะนำเสนอแนวคิด Gated Recurrent Unit (GRU) ซึ่งเป็นสถาปัตยกรรมที่มีโครงสร้าง Gate เรียบง่ายกว่า LSTM
ทั้งสองแนวทางมีบทบาทสำคัญต่อการพัฒนาโมเดลสำหรับข้อมูลลำดับ ก่อนที่ Transformer จะเข้ามามีบทบาทอย่างกว้างขวาง
9. Attention Mechanism: การเลือกให้ความสำคัญกับข้อมูล
ปี 2014
Attention Mechanism เป็นแนวคิดสำคัญที่ช่วยให้ Neural Network เลือกให้ความสำคัญกับส่วนต่าง ๆ ของข้อมูลได้อย่างเหมาะสม
ในปี 2014 Dzmitry Bahdanau, Kyunghyun Cho และ Yoshua Bengio เผยแพร่งานวิจัยเกี่ยวกับ Attention สำหรับ Neural Machine Translation
แนวคิดนี้ช่วยให้โมเดลไม่จำเป็นต้องพึ่งพาการบีบอัดข้อมูลทั้งหมดไว้ในเวกเตอร์เดียว แต่สามารถพิจารณาข้อมูลจากส่วนต่าง ๆ ของลำดับต้นทางได้ในขณะสร้างผลลัพธ์
Attention จึงกลายเป็นรากฐานสำคัญของ Transformer ในเวลาต่อมา
10. Transformer: จุดเปลี่ยนสำคัญของ Neural Network
ปี 2017
ปี 2017 Ashish Vaswani และคณะเผยแพร่ผลงานวิจัย Attention Is All You Need ซึ่งนำเสนอ Transformer Architecture
Transformer แตกต่างจาก RNN ตรงที่ไม่จำเป็นต้องประมวลผลข้อมูลตามลำดับทีละขั้น แต่สามารถใช้ Attention เพื่อประมวลผลความสัมพันธ์ระหว่างตำแหน่งต่าง ๆ ในลำดับข้อมูลได้
องค์ประกอบสำคัญของ Transformer ได้แก่
Self-Attention
Multi-Head Attention
Positional Encoding
Feedforward Network
Residual Connection
Layer Normalization
Transformer มีโครงสร้างที่สามารถแบ่งออกเป็น Encoder และ Decoder โดยในเวลาต่อมาได้เกิดโมเดลหลายรูปแบบ เช่น
Encoder-only: ตัวอย่างเช่น BERT
Decoder-only: ตัวอย่างเช่น GPT
Encoder-Decoder: ตัวอย่างเช่น T5
Transformer เป็นหนึ่งในปัจจัยสำคัญที่ทำให้การพัฒนาโมเดลภาษาขนาดใหญ่ขยายตัวอย่างรวดเร็ว
11. Large Language Model (LLM): ยุคของโมเดลภาษาขนาดใหญ่
ปี 2018 เป็นต้นมา
หลังจาก Transformer ได้รับการเผยแพร่ในปี 2017 งานวิจัยด้านโมเดลภาษาขนาดใหญ่ก็พัฒนาอย่างรวดเร็ว
ปี 2018 OpenAI เผยแพร่ GPT-1 ซึ่งใช้แนวคิด Generative Pretraining เพื่อเรียนรู้รูปแบบภาษาจากข้อมูลจำนวนมาก ก่อนนำไปปรับใช้กับงานเฉพาะด้าน
หลังจากนั้นเกิดพัฒนาการสำคัญ เช่น
2018 – GPT-1: จุดเริ่มต้นสำคัญของตระกูล Generative Pretrained Transformer
2018 – BERT: โมเดลภาษาแบบ Encoder-only จาก Google
2019 – GPT-2: ขยายขนาดโมเดลและแสดงความสามารถในการสร้างข้อความ
2020 – GPT-3: ขยายโมเดลเป็น 175 พันล้านพารามิเตอร์
2022 – ChatGPT: ทำให้การสนทนากับโมเดลภาษาขนาดใหญ่เข้าถึงผู้ใช้งานทั่วไป
2023 เป็นต้นมา: เกิดการพัฒนา LLM แบบ Multimodal, Open-weight Models, Tool Use และ AI Agents อย่างต่อเนื่อง
LLM ไม่ได้เกิดจากการเพิ่มจำนวนพารามิเตอร์เพียงอย่างเดียว แต่เป็นผลจากการพัฒนาร่วมกันของ Architecture, Training Data, Computational Resources, Optimization และ Post-training
12. สรุป Timeline: วิวัฒนาการจาก Neuron ถึง LLM
ตารางต่อไปนี้แสดงหมุดหมายสำคัญตามลำดับเวลา
| ปี / ช่วงเวลา | เทคโนโลยี | ความสำคัญ |
|---|---|---|
| ปลายศตวรรษที่ 19 | Biological Neuron | เข้าใจโครงสร้างเซลล์ประสาท |
| 1943 | Artificial Neuron | แบบจำลองเซลล์ประสาททางคณิตศาสตร์ |
| 1957–1958 | Perceptron | Neural Network ที่เรียนรู้การจำแนก |
| 1960s–1980s | Multilayer Networks | พัฒนาเครือข่ายหลายชั้น |
| 1986 | Backpropagation | ฝึก Neural Network หลายชั้น |
| 1989 | CNN ยุคแรก | ประมวลผลภาพด้วย Convolution |
| 1997 | LSTM | เรียนรู้ความสัมพันธ์ระยะยาว |
| 1998 | LeNet-5 | CNN สำหรับการรู้จำตัวเลข |
| 2006 | Deep Belief Networks | หมุดหมายการกลับมาของ Deep Learning |
| 2012 | AlexNet | Deep CNN ประสบความสำเร็จใน ImageNet |
| 2014 | Attention / GRU | เพิ่มความสามารถในการประมวลผลข้อมูลลำดับ |
| 2017 | Transformer | ใช้ Attention เป็นแกนหลักของสถาปัตยกรรม |
| 2018 | GPT-1 / BERT | ยุค Pretrained Language Models |
| 2020 | GPT-3 | LLM ขนาด 175 พันล้านพารามิเตอร์ |
| 2022 | ChatGPT | การใช้งาน Conversational AI ในวงกว้าง |
| 2023 เป็นต้นมา | Multimodal LLM / AI Agents | เชื่อมโยงภาษา ภาพ เสียง และการใช้เครื่องมือ |
13. จากประวัติศาสตร์สู่ทิศทางการวิจัย Neural Network ในอนาคต
เมื่อพิจารณาวิวัฒนาการตั้งแต่ Biological Neuron จนถึง LLM จะพบว่าการพัฒนา Neural Network ไม่ได้เป็นเพียงการเพิ่มจำนวนชั้นหรือจำนวนพารามิเตอร์ แต่เป็นการเปลี่ยนแปลงแนวคิดในการประมวลผลและเรียนรู้ข้อมูล
ทิศทางการวิจัยที่น่าสนใจ ได้แก่
1. Adaptive Neural Architecture
โมเดลที่สามารถปรับโครงสร้างหรือการทำงานให้เหมาะสมกับลักษณะของงานและข้อมูล
2. Dynamic Computation
การเลือกใช้ทรัพยากรในการประมวลผลตามความซับซ้อนของปัญหา แทนการใช้กำลังคำนวณเต็มรูปแบบทุกครั้ง
3. Neural Memory
การพัฒนากลไกความจำที่สามารถจัดเก็บ เรียกคืน และเชื่อมโยงความรู้ได้อย่างมีประสิทธิภาพ
4. Continual Learning
การเรียนรู้ข้อมูลใหม่อย่างต่อเนื่อง โดยลดปัญหาการสูญเสียความรู้เดิม
5. Modular Neural Network
การออกแบบโมเดลให้ประกอบด้วยหน่วยประมวลผลเฉพาะด้านที่สามารถทำงานร่วมกันได้
6. Efficient Neural Architecture
การพัฒนาโมเดลที่มีประสิทธิภาพสูงขึ้น โดยใช้พลังงาน หน่วยความจำ และทรัพยากรคำนวณน้อยลง
แนวทางเหล่านี้เป็นประเด็นวิจัยที่สามารถต่อยอดจากความรู้พื้นฐานของ Neural Network ไปสู่การออกแบบสถาปัตยกรรมใหม่ได้ แต่ยังไม่มีหลักฐานว่าแนวทางใดแนวทางหนึ่งจะเป็นสถาปัตยกรรมหลักของอนาคตอย่างแน่นอน
บทสรุป
เส้นทางจาก Neuron ถึง LLM แสดงให้เห็นถึงการพัฒนาทางวิทยาศาสตร์และวิศวกรรมที่ต่อเนื่องยาวนาน
ปี 1943 เป็นหมุดหมายสำคัญของการสร้างแบบจำลอง Artificial Neuron ปี 1958 เป็นจุดเริ่มต้นของ Perceptron ปี 1986 ทำให้การฝึก Neural Network หลายชั้นมีความก้าวหน้า ปี 1997 นำไปสู่ LSTM ปี 2014 ทำให้ Attention และ GRU มีบทบาทสำคัญ และปี 2017 ได้เปลี่ยนทิศทางของวงการด้วย Transformer ก่อนเข้าสู่ยุค LLM ตั้งแต่ปี 2018 เป็นต้นมา
สิ่งสำคัญสำหรับผู้ที่ต้องการทำ AI Research & Development คือการไม่มอง LLM เป็นเพียงผลิตภัณฑ์ปลายทาง แต่ต้องเข้าใจรากฐานของมัน ตั้งแต่โครงสร้าง Neuron, การคำนวณ Matrix, การเรียนรู้ Weights, Optimization, Neural Architecture ไปจนถึงกลไกการฝึกโมเดล
เพราะการสร้างโมเดลใหม่ไม่ได้เริ่มจากการเขียนโปรแกรม แต่เริ่มจากการเข้าใจข้อจำกัดของโมเดลเดิม ตั้งคำถามทางวิทยาศาสตร์ และพัฒนาวิธีการใหม่ที่สามารถพิสูจน์ได้ด้วยการทดลอง
เอกสารอ้างอิง (References)
McCulloch, W. S., & Pitts, W. (1943). A logical calculus of the ideas immanent in nervous activity. The Bulletin of Mathematical Biophysics, 5, 115–133.
Rosenblatt, F. (1958). The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 65(6), 386–408.
Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323, 533–536.
LeCun, Y., Boser, B., Denker, J. S., Henderson, D., Howard, R. E., Hubbard, W., & Jackel, L. D. (1989). Backpropagation applied to handwritten zip code recognition. Neural Computation, 1(4), 541–551.
Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural Computation, 9(8), 1735–1780.
LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998). Gradient-based learning applied to document recognition. Proceedings of the IEEE, 86(11), 2278–2324.
Hinton, G. E., Osindero, S., & Teh, Y. W. (2006). A fast learning algorithm for deep belief nets. Neural Computation, 18(7), 1527–1554.
Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. Advances in Neural Information Processing Systems, 25.
Bahdanau, D., Cho, K., & Bengio, Y. (2015). Neural machine translation by jointly learning to align and translate. International Conference on Learning Representations. (Preprint เผยแพร่ในปี 2014)
Cho, K., et al. (2014). Learning phrase representations using RNN encoder-decoder for statistical machine translation. Proceedings of EMNLP 2014.
Vaswani, A., et al. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019. (Preprint เผยแพร่ในปี 2018)
Radford, A., et al. (2018). Improving language understanding by generative pre-training. OpenAI.
Brown, T. B., et al. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33.
หมายเหตุเกี่ยวกับภาพ: ภาพประกอบใช้เพื่ออธิบายแนวคิดและโครงสร้างทางเทคนิค ควรตรวจสอบแหล่งที่มาและเงื่อนไขใบอนุญาตของภาพแต่ละรายการก่อนนำไปเผยแพร่บนเว็บไซต์จริง
ความคิดเห็น
แสดงความคิดเห็น