ZENITH · AI ข้างในทำงานยังไง
อภิธานศัพท์
คำศัพท์ทั้ง 85 คำที่เจอในคอร์ส อธิบายแบบสั้นที่สุดเท่าที่จะเข้าใจได้ กดชื่อหน้าเพื่อกลับไปดูคำนั้นในบทเรียน
A
- AI agent เอเจนต์
-
ระบบที่ให้ LLM วนลูป คิด → เรียกเครื่องมือ → ดูผล ซ้ำหลายรอบจนงานเสร็จ โดยโมเดลเลือกขั้นถัดไปเอง
เจอใน: AI ที่คิด ใช้เครื่องมือ และทำงานเอง Agent: วนลูปจนงานเสร็จ Prompt injection: คำสั่งที่ซ่อนในข้อมูล
- attention กลไกความสนใจ
-
วิธีที่แต่ละคำเลือกว่าจะ "ฟัง" คำอื่นในประโยคมากน้อยแค่ไหน โดยใช้ softmax แบ่งน้ำหนักให้รวมได้ 100%
เจอใน: Attention: คำไหนควรฟังคำไหน Scaled dot-product attention ด้วยตัวเลขจริง Context window: ความจำระยะสั้นมีขีดจำกัด
B
- backpropagation, backprop การส่งย้อนกลับ
-
วิธีหา gradient ของทุกพารามิเตอร์ในรอบเดียว โดยส่งผลของ loss ย้อนจากชั้นสุดท้ายไปชั้นแรกด้วยกฎลูกโซ่
เจอใน: ที่มาของสูตร p − y ส่งความรับผิดย้อนทุกชั้น แบบทดสอบบทที่ 4
- base model, pretrained model โมเดลดิบ
-
โมเดลที่ผ่านแค่ pre-training ถนัดต่อข้อความให้เหมือนเอกสารที่เคยเห็น แต่ยังไม่ได้ถูกฝึกให้ตอบคำถามหรือทำตามคำสั่งโดยตรง
เจอใน: ข้อสอบที่มีเฉลยในตัว base model กับผู้ช่วยที่คุณคุยด้วย ต่างกันตรงไหน base model แค่ "ต่อข้อความ"
- batching การรวมคำขอเป็นชุด
-
การประมวลผลคำขอของหลายคนพร้อมกันในรอบเดียว อ่านน้ำหนักโมเดลครั้งเดียวแต่ได้ token ของหลายคน จึงได้ปริมาณงานรวมสูงขึ้น
- benchmark ชุดข้อสอบมาตรฐาน
-
ชุดคำถามพร้อมเฉลยที่ใช้เทียบคะแนนโมเดล บอกภาพกว้างได้ แต่ไม่ได้บอกว่าโมเดลเหมาะกับงานของคุณ
เจอใน: วัดผล AI กับงานของคุณเอง
C
- calibration ความมั่นใจที่ตรงกับความจริง
-
ความมั่นใจที่ตรงกับอัตราการตอบถูกจริง เช่น ในคำถามที่โมเดลให้ความน่าจะเป็น 90% มันควรตอบถูกราว 90% ถ้าถูกน้อยกว่านั้นแปลว่ามั่นใจเกินจริง
- causal mask การบังคำอนาคต
-
กฎใน attention ที่ให้แต่ละ token ฟังได้แค่ตัวเองและคำก่อนหน้า โดยตั้งคะแนนของคำในอนาคตเป็น −∞ ก่อน softmax
เจอใน: ห้ามแอบดูคำถัดไป: causal mask สูตรเต็มของ Transformer หนึ่งชั้น แบบทดสอบบทที่ 3
- chain-of-thought, CoT การคิดทีละขั้น
-
การให้โมเดลเขียนขั้นตอนกลางออกมาก่อนคำตอบสุดท้าย ผลแต่ละขั้นอยู่ใน context ให้ token ถัดไปใช้ต่อได้ เหมือนกระดาษทด
เจอใน: AI ที่คิด ใช้เครื่องมือ และทำงานเอง Chain-of-thought: กระดาษทดของ AI สรุปสูตรบทที่ 7
- chat template, special token แม่แบบบทสนทนา
-
รูปแบบที่แปลงบทสนทนาเป็นข้อความยาวชิ้นเดียว โดยมีโทเคนพิเศษ (special token) เป็นป้ายบอกว่าใครพูดและคำตอบจบตรงไหน แต่ละตระกูลโมเดลใช้แม่แบบไม่เหมือนกัน
เจอใน: แชตคือเอกสารยาวชิ้นเดียว Tool calling: AI กดปุ่มเองได้ยังไง
- chunk ชิ้นเอกสาร
-
ท่อนสั้นๆ ที่หั่นออกมาจากเอกสารยาว เพื่อให้ค้นและแนบเข้า prompt ได้พอดี
- compute, FLOPs ปริมาณการคำนวณ
-
จำนวนการคูณและบวกเลขทั้งหมดที่ใช้ฝึกโมเดล ประมาณคร่าวๆ ได้ว่า 6 × จำนวนพารามิเตอร์ × จำนวน token
- context window หน้าต่างบริบท
-
จำนวน token สูงสุดที่โมเดลมองเห็นได้ในครั้งเดียว นับรวมทั้งคำสั่งและคำตอบ
เจอใน: Context window: ความจำระยะสั้นมีขีดจำกัด สรุปสูตรบทที่ 2 ทำไมสอนในแชตแล้วไม่จำ
- cosine similarity ความคล้ายโคไซน์
-
วัดว่าลูกศรสองอันชี้ไปทางเดียวกันแค่ไหน ได้ค่าระหว่าง −1 ถึง 1 โดยไม่สนความยาว
เจอใน: Cosine similarity: ชี้ไปทางเดียวกันแค่ไหน ลากเวกเตอร์เอง คำนวณ cosine เอง
D
- data contamination ข้อสอบรั่ว
-
เมื่อคำถามในชุดทดสอบหลุดเข้าไปอยู่ในข้อมูลฝึก โมเดลจึงอาจจำคำตอบได้ คะแนนเลยสูงเกินความสามารถจริง
เจอใน: วัดผล AI กับงานของคุณเอง
- decode, decoding phase ขั้นเขียนคำตอบ
-
ช่วงที่โมเดลเขียนคำตอบทีละ token แต่ละก้าวต้องรันโมเดลหนึ่งรอบ จึงช้ากว่าขั้นอ่าน prompt เมื่อคิดต่อ token
เจอใน: อ่านรวดเดียว แต่เขียนทีละคำ รวมหลายคำขอในรอบเดียว Speculative decoding: ให้ตัวเล็กเดา ตัวใหญ่ตรวจ
- dimension มิติ
-
จำนวนตัวเลขในเวกเตอร์ บทเรียนนี้ใช้ 2 มิติให้วาดได้ โมเดลจริงใช้หลายร้อยถึงหลายพันมิติ
เจอใน: Embedding: พิกัดบนแผนที่ความหมาย ขั้นแรก: เปิดตาราง token → เวกเตอร์ Attention หลายหัว: ถามหลายคำถามพร้อมกัน
- Direct Preference Optimization, DPO การปรับตามความชอบโดยตรง
-
วิธีฝึกจากคู่คำตอบ ชอบ/ไม่ชอบ ตรงๆ โดยไม่ต้องสร้าง reward model แยกและไม่ต้องวน RL
- dot product ผลคูณจุด
-
เอาตัวเลขตำแหน่งเดียวกันของสองเวกเตอร์มาคูณกัน แล้วบวกรวม ยิ่งชี้ไปทางเดียวกันยิ่งได้ค่ามาก
เจอใน: Cosine similarity: ชี้ไปทางเดียวกันแค่ไหน คำนวณ cosine เอง Scaled dot-product attention ด้วยตัวเลขจริง
E
- embedding เอ็มเบดดิง
-
การแปลงคำหรือข้อความเป็นชุดตัวเลข (เวกเตอร์) ข้อความที่ความหมายใกล้กันจะได้ตัวเลขใกล้กัน
เจอใน: คอมพิวเตอร์รู้ได้ไงว่า "แมว" ใกล้ "หมา" Embedding: พิกัดบนแผนที่ความหมาย RAG: ให้ AI เปิดเอกสารก่อนตอบ
- evaluation, eval การวัดผล
-
การทดสอบ AI กับชุดตัวอย่างจากงานจริงพร้อมเกณฑ์ผ่าน แล้วนับว่าผ่านกี่ข้อ ใช้เทียบ prompt หรือโมเดลก่อนใช้งานจริง
เจอใน: วัดผล AI กับงานของคุณเอง สรุปสูตรบทที่ 7 แบบทดสอบบทที่ 7
G
- generalization การจับหลัก
-
ความสามารถทำนายข้อความที่ไม่เคยเห็นตอนฝึกได้ดี วัดด้วย loss บนข้อความที่กันไว้ไม่ให้โมเดลเห็น
เจอใน: ทำไมสอนในแชตแล้วไม่จำ
- gradient ความชัน
-
ชุดตัวเลขที่บอกว่าถ้าขยับพารามิเตอร์แต่ละตัวขึ้นนิดหนึ่ง loss จะเพิ่มหรือลดเท่าไร ใช้บอกทิศทางที่ต้องปรับ
เจอใน: Gradient descent: เดินลงก้นชาม p − y: ขยับคะแนนไปทางไหน ฝึกโมเดล 1 ก้าวด้วยมือ
- gradient descent การไล่ลงตามความชัน
-
วิธีฝึกโมเดลโดยขยับพารามิเตอร์สวนทาง gradient ทีละก้าวเล็กๆ ให้ loss ลดลงเรื่อยๆ
เจอใน: Gradient descent: เดินลงก้นชาม p − y: ขยับคะแนนไปทางไหน สรุปสูตรบทที่ 4
- greedy decoding การเลือกแบบโลภ
-
การเลือกคำที่โอกาสสูงสุดเสมอโดยไม่สุ่ม ผลจึงซ้ำเดิมทุกครั้ง
เจอใน: Temperature: ปุ่มความกล้า
H
- hallucination อาการมั่ว
-
เมื่อ AI ตอบข้อมูลที่ไม่จริงอย่างมั่นใจ เพราะมันถูกฝึกให้เขียนสิ่งที่ฟังดูน่าจะใช่ ไม่ใช่สิ่งที่จริง
เจอใน: ทำไม AI ถึง hallucinate แบบทดสอบบทที่ 1 RAG: ให้ AI เปิดเอกสารก่อนตอบ
I
- inference การใช้งานโมเดลตอบจริง
-
ช่วงที่นำโมเดลที่ฝึกเสร็จแล้วมาตอบคำขอ ทุก token ที่เขียนออกมาคือการรันโมเดลอีกหนึ่งรอบ
- interpretability การส่องข้างในโมเดล
-
งานวิจัยที่พยายามอ่านว่าตัวเลขข้างในโมเดลแทนความหมายอะไร เช่น หาทิศทางในเวกเตอร์ที่ตรงกับแนวคิดหนึ่ง
K
- KL divergence ค่าความต่าง KL
-
ตัวเลขที่วัดว่าการแจกแจงความน่าจะเป็นสองชุดต่างกันแค่ไหน เป็น 0 เมื่อเหมือนกันทุกประการ ใน RLHF ใช้เป็นเบรกไม่ให้โมเดลหนีจากของเดิมไกลเกิน
เจอใน: RLHF: ไล่คะแนนแบบมีเบรก สูตรเต็ม: reward model, KL และ DPO
- knowledge cutoff, training cutoff วันตัดข้อมูล
-
ช่วงเวลาสุดท้ายของข้อมูลที่ใช้ฝึกโมเดล เรื่องที่เกิดหลังจากนั้นโมเดลไม่รู้ เว้นแต่จะใส่ข้อมูลเข้าไปใน context เช่น แนบไฟล์หรือค้นเว็บ
- KV cache แคชคีย์และแวลู
-
ที่เก็บ key และ value ของ token ที่คำนวณแล้วในทุกชั้น จะได้ไม่ต้องคำนวณซ้ำทุกครั้งที่เขียน token ใหม่ ยิ่งข้อความยาวยิ่งใช้หน่วยความจำมาก
เจอใน: KV cache: จดไว้ ไม่ต้องคิดใหม่ คำนวณขนาด KV cache เอง รวมหลายคำขอในรอบเดียว
L
- Large Language Model, LLM โมเดลภาษาขนาดใหญ่
-
โปรแกรมที่ถูกฝึกจากข้อความจำนวนมหาศาลให้เดาคำถัดไปได้เก่งมาก ChatGPT, Claude และ Gemini คือ LLM
เจอใน: ทำไมถามซ้ำแล้วได้คำตอบไม่เหมือนเดิม แบบทดสอบบทที่ 1 base model แค่ "ต่อข้อความ"
- layer normalization, RMSNorm การปรับขนาดเวกเตอร์
-
ขั้นที่ปรับขนาดสำเนาของเวกเตอร์ก่อนส่งเข้า attention หรือ MLP และอีกครั้งก่อนแปลงเป็น logit ตัวเลขที่แต่ละส่วนเห็นจึงอยู่ในช่วงพอดี ไม่ใหญ่หรือเล็กเกินไป
เจอใน: ทางหลัก residual: บวกเพิ่ม ไม่เขียนทับ สูตรเต็มของ Transformer หนึ่งชั้น
- layer, Transformer block ชั้น
-
หนึ่งรอบการประมวลผลที่มีทั้ง attention และ MLP โมเดลจริงซ้อนกันหลายสิบชั้น โดยแต่ละชั้นแก้เวกเตอร์ของทุก token ทีละนิด
เจอใน: คะแนน 3, 2, 1, −1 มาจากไหน ทางหลัก residual: บวกเพิ่ม ไม่เขียนทับ MLP: ให้แต่ละคำคิดต่อเอง
- learning rate อัตราการเรียนรู้
-
ขนาดของแต่ละก้าวตอนปรับพารามิเตอร์ (มักเขียนว่า η) เล็กไปเรียนช้า ใหญ่ไปก้าวเลยจนแกว่งหรือพัง
- logit คะแนนดิบ
-
คะแนนที่โมเดลให้กับทุก token ว่าเข้ากับบริบทแค่ไหน ติดลบได้ และยังไม่ใช่ความน่าจะเป็น
เจอใน: คะแนนดิบ (logit): ทุกคำได้คะแนน Softmax: เปลี่ยนคะแนนเป็นความน่าจะเป็น คำนวณ softmax เอง
- loss, cross-entropy loss ค่าความผิดพลาด
-
ตัวเลขที่บอกว่าโมเดลเดาผิดมากแค่ไหน ยิ่งต่ำยิ่งดี การเดาคำถัดไปใช้แบบ cross-entropy คือ −ln ของโอกาสที่โมเดลให้คำเฉลย จึงสูงมากเมื่อโมเดลมั่นใจแต่ผิด
เจอใน: Loss: วัดว่าเดาผิดแค่ไหน Perplexity: ลังเลเหมือนเลือกจากกี่ทาง Gradient descent: เดินลงก้นชาม
M
- memorization การท่องจำ
-
เมื่อโมเดลจำข้อความบางท่อนจากข้อมูลฝึกได้คำต่อคำ มักเกิดกับข้อความที่ซ้ำบ่อยและในโมเดลใหญ่ และเกิดได้แม้โมเดลโดยรวมยังจับหลักได้ดี
- mini-batch, batch ชุดย่อย
-
กลุ่มตัวอย่างที่นำ gradient มาเฉลี่ยกันก่อนปรับพารามิเตอร์หนึ่งก้าว ทำให้ทิศทางนิ่งขึ้นและประมวลผลพร้อมกันได้
เจอใน: ส่งความรับผิดย้อนทุกชั้น
- Mixture of Experts, MoE โมเดลแบบรวมผู้เชี่ยวชาญ
-
โมเดลที่มีส่วนย่อย (ผู้เชี่ยวชาญ) หลายชุดในแต่ละชั้น และให้ตัวเลือกเส้นทางเลือกใช้แค่บางชุดต่อ token จึงคำนวณน้อยกว่าขนาดรวม แต่ยังต้องเก็บทุกชุดไว้ในหน่วยความจำ
เจอใน: MoE: โมเดลใหญ่ที่ใช้แค่บางส่วน สรุปสูตรบทที่ 6 แบบทดสอบบทที่ 6
- MLP, feed-forward network เครือข่ายป้อนไปข้างหน้า
-
ส่วนในแต่ละชั้นที่ประมวลผลเวกเตอร์ของ token ทีละตัว โดยขยาย ผ่านฟังก์ชันโค้งอย่าง ReLU แล้วย่อกลับ เป็นที่อยู่ของพารามิเตอร์ส่วนใหญ่ในแต่ละชั้น (ราว 2 ใน 3 ในดีไซน์มาตรฐาน และมากกว่านั้นในหลายโมเดลใหม่)
เจอใน: MLP: ให้แต่ละคำคิดต่อเอง นับพารามิเตอร์เอง: "8B" มาจากไหน สูตรเต็มของ Transformer หนึ่งชั้น
- multi-head attention attention หลายหัว
-
การรัน attention หลายชุดขนานกัน แต่ละหัวย่อเวกเตอร์เป็น q, k, v ขนาดเล็กด้วยตารางของตัวเองจึงสนใจเรื่องต่างกัน แล้วรวมผลของทุกหัวกลับเป็นเวกเตอร์เดียว
เจอใน: Attention หลายหัว: ถามหลายคำถามพร้อมกัน สูตรเต็มของ Transformer หนึ่งชั้น
- multimodal AI หลายสื่อ
-
โมเดลที่รับข้อมูลได้มากกว่าข้อความ เช่น ภาพหรือเสียง โดยมักหั่นเป็นชิ้นเล็กแล้วแปลงเป็นเวกเตอร์แบบเดียวกับ token
O
- overfitting การฟิตข้อมูลฝึกเกินไป
-
เมื่อ loss บนข้อมูลฝึกยังลดลง แต่ loss บนข้อความใหม่ที่กันไว้กลับสูงขึ้น เหมือนนักเรียนที่ท่องข้อสอบเก่าแต่ทำข้อสอบใหม่ไม่ได้
เจอใน: ทำไมสอนในแชตแล้วไม่จำ
P
- parameter, weight พารามิเตอร์
-
ตัวเลขในตารางต่างๆ ของโมเดลที่ถูกปรับระหว่างการฝึก ขนาดอย่าง "8B" หมายถึงมีพารามิเตอร์ราว 8 พันล้านตัว
เจอใน: คะแนน 3, 2, 1, −1 มาจากไหน ขั้นแรก: เปิดตาราง token → เวกเตอร์ MLP: ให้แต่ละคำคิดต่อเอง
- perplexity ความลังเล
-
e ยกกำลัง loss เฉลี่ยต่อ token อ่านได้ว่าโมเดลลังเลเหมือนต้องเลือกจากกี่ทาง ยิ่งต่ำยิ่งดี และเทียบกันได้เฉพาะเมื่อใช้ tokenizer กับข้อความทดสอบเดียวกัน
เจอใน: Perplexity: ลังเลเหมือนเลือกจากกี่ทาง สรุปสูตรบทที่ 4
- positional encoding, RoPE ข้อมูลตำแหน่ง
-
วิธีบอกโมเดลว่าแต่ละ token อยู่ลำดับที่เท่าไร เพราะ attention ล้วนๆ ไม่รู้ลำดับคำ วิธีที่นิยมในโมเดลรุ่นใหม่คือ RoPE ซึ่งหมุน query และ key ตามตำแหน่ง คะแนนจึงขึ้นกับระยะห่างระหว่างคำด้วย
เจอใน: "แมวกินปลา" ≠ "ปลากินแมว": โมเดลรู้ลำดับคำยังไง สูตรเต็มของ Transformer หนึ่งชั้น แบบทดสอบบทที่ 3
- post-training การฝึกรอบหลัง
-
ขั้นฝึกเพิ่มหลัง pre-training ที่เปลี่ยนเครื่องต่อข้อความให้เป็นผู้ช่วย เช่น SFT และ RLHF ใช้ข้อมูลน้อยกว่ามากแต่เปลี่ยนพฤติกรรมได้เยอะ
เจอใน: base model กับผู้ช่วยที่คุณคุยด้วย ต่างกันตรงไหน ทำไมผู้ช่วยยังมั่ว และมั่นใจเกินจริง สรุปสูตรบทที่ 5
- pre-training การฝึกขั้นต้น
-
ช่วงฝึกใหญ่ช่วงแรกที่โมเดลเรียนเดาคำถัดไปจากข้อความจำนวนมหาศาล ได้โมเดลที่เขียนต่อข้อความเก่ง แต่ยังไม่ใช่ผู้ช่วยที่ทำตามคำสั่ง
เจอใน: AI "เรียน" ตอนไหน แล้วเรียนยังไง ข้อสอบที่มีเฉลยในตัว
- prefill ขั้นอ่าน prompt
-
ช่วงแรกของการตอบ ที่โมเดลประมวลผล token ทั้งหมดใน prompt พร้อมกันรวดเดียว แล้วได้ token แรกของคำตอบ
- probability distribution การแจกแจงความน่าจะเป็น
-
ชุดของโอกาสที่แต่ละตัวเลือกจะเกิด โดยทุกตัวรวมกันได้ 100%
- prompt caching การแคชส่วนต้นของ prompt
-
การเก็บผลการอ่าน prompt ส่วนต้นที่ซ้ำเดิมไว้ใช้กับคำขอถัดไป ทำให้ตอบเร็วขึ้นและมักคิดราคาถูกลง ใช้ได้เมื่อส่วนต้นเหมือนเดิมทุกตัวอักษร
เจอใน: ค่าใช้จ่าย และ prompt caching สรุปสูตรบทที่ 6 แบบทดสอบบทที่ 6
- prompt injection การแอบสั่งผ่านข้อมูล
-
การซ่อนคำสั่งไว้ในข้อมูลที่ AI อ่าน เช่น เว็บ อีเมล หรือไฟล์ ให้มันทำตามแทนคำสั่งของผู้ใช้ เกิดได้เพราะคำสั่งกับข้อมูลเป็น token ในที่เดียวกัน
เจอใน: Prompt injection: คำสั่งที่ซ่อนในข้อมูล สรุปสูตรบทที่ 7 แบบทดสอบบทที่ 7
Q
- quantization การลดความละเอียดตัวเลข
-
การเก็บน้ำหนักของโมเดลด้วยจำนวนบิตที่น้อยลง เช่นจาก 16 บิตเหลือ 4 บิต ทำให้โมเดลเล็กลงและเขียนคำตอบได้เร็วขึ้น แลกกับความคลาดเคลื่อนจากการปัดเศษ
เจอใน: Quantization: ปัดเศษให้โมเดลตัวเล็กลง การ์ดใบเดียว จะรับได้กี่คน สรุปสูตรบทที่ 6
- query, key, value คิวรี-คีย์-แวลู
-
สามบทบาทใน attention คำถาม (query) ไปเทียบกับป้ายชื่อ (key) ของทุกคำ แล้วผสมข้อมูล (value) ตามน้ำหนักที่ได้
เจอใน: Attention: คำไหนควรฟังคำไหน Scaled dot-product attention ด้วยตัวเลขจริง Attention หลายหัว: ถามหลายคำถามพร้อมกัน
R
- reasoning model โมเดลที่คิดก่อนตอบ
-
LLM ที่ถูกฝึกเพิ่มให้เขียนขั้นคิดยาวๆ ก่อนตอบ มักเก่งขึ้นในโจทย์หลายขั้น แต่ช้าลงและใช้ token มากขึ้น
เจอใน: AI ที่คิด ใช้เครื่องมือ และทำงานเอง Reasoning model: ฝึกให้คิดก่อนตอบ
- Reinforcement Learning from Human Feedback, RLHF การเรียนรู้แบบเสริมกำลังจากความเห็นมนุษย์
-
ให้โมเดลเขียนคำตอบ ให้ reward model ให้คะแนน แล้วปรับโมเดลให้คำตอบคะแนนสูงเกิดบ่อยขึ้น โดยหักคะแนนถ้าเปลี่ยนไปจากเดิมมากเกิน
เจอใน: RLHF: ไล่คะแนนแบบมีเบรก สรุปสูตรบทที่ 5 แบบทดสอบบทที่ 5
- residual stream, residual connection ทางหลักของเวกเตอร์
-
เส้นทางที่เวกเตอร์ของแต่ละ token ไหลผ่านทุกชั้น แต่ละชั้นอ่านแล้ว "บวกส่วนแก้" กลับเข้าไป แทนการเขียนทับ
เจอใน: ทางหลัก residual: บวกเพิ่ม ไม่เขียนทับ ซ้อนหลายสิบชั้น คำเดาค่อยๆ ชัดขึ้น สรุปบทที่ 3
- retrieval การค้นคืน
-
ขั้นตอนหาชิ้นเอกสารที่ความหมายใกล้คำถามที่สุด มักใช้ cosine similarity ของ embedding
- Retrieval-Augmented Generation, RAG แร็ก
-
เทคนิคค้นเอกสารที่เกี่ยวข้องด้วย embedding แล้วแนบให้ AI อ่านก่อนตอบ เหมือนสอบแบบเปิดหนังสือ
เจอใน: RAG: ให้ AI เปิดเอกสารก่อนตอบ สรุปสูตรบทที่ 2 แบบทดสอบบทที่ 2
- reward hacking การหาช่องโหว่คะแนน
-
เมื่อโมเดลได้คะแนนสูงจากกรรมการด้วยวิธีที่ไม่ได้ทำให้คำตอบดีขึ้นจริง เช่น ตอบยาวเกินจำเป็นหรือชมผู้ใช้
เจอใน: RLHF: ไล่คะแนนแบบมีเบรก ผลข้างเคียง: เอาใจ ตอบยาว และปฏิเสธเกินเหตุ Reasoning model: ฝึกให้คิดก่อนตอบ
- reward model, preference data โมเดลให้คะแนน
-
โมเดลที่อ่านคำถามกับคำตอบแล้วให้คะแนนเป็นตัวเลขเดียว ฝึกจากข้อมูลความชอบ (คู่คำตอบ A/B ที่คนเลือกว่าอันไหนดีกว่า) ให้คำตอบที่ชนะได้คะแนนสูงกว่า
เจอใน: ให้คนเลือก A หรือ B แล้วสร้างกรรมการให้คะแนน ลองคำนวณ: คนจะชอบคำตอบไหนมากกว่า สูตรเต็ม: reward model, KL และ DPO
S
- sampling การสุ่มเลือกคำ
-
การจับฉลากเลือกคำถัดไปตามความน่าจะเป็น คำที่โอกาสสูงถูกเลือกบ่อยกว่า แต่ไม่ใช่ทุกครั้ง
เจอใน: Temperature: ปุ่มความกล้า Top-p: ตัดหางทิ้งก่อนสุ่ม วงจร autoregressive และ log-probability
- scaling law กฎการขยายขนาด
-
ความสัมพันธ์ที่พบจากการทดลองว่า loss ลดลงแบบกฎกำลังเมื่อเพิ่มขนาดโมเดล ข้อมูล และการคำนวณไปพร้อมกัน ดีขึ้นแต่ช้าลงเรื่อยๆ
เจอใน: ใหญ่ขึ้น 10 เท่า เก่งขึ้นแค่ไหน สรุปสูตรบทที่ 4 แบบทดสอบบทที่ 4
- self-consistency, majority voting การโหวตหลายคำตอบ
-
ถามโจทย์เดิมหลายรอบโดยสุ่มคำตอบต่างกัน แล้วเลือกคำตอบที่ออกมาบ่อยที่สุด ช่วยได้เมื่อคำตอบที่ถูกออกบ่อยกว่าคำตอบผิดแต่ละแบบ
- self-supervised learning การเรียนรู้แบบมีเฉลยในตัว
-
การฝึกที่ไม่ต้องมีคนเขียนเฉลย เพราะข้อมูลเฉลยตัวเอง เช่น ซ่อนคำถัดไปของประโยคแล้วให้โมเดลเดา
เจอใน: ข้อสอบที่มีเฉลยในตัว
- softmax ซอฟต์แมกซ์
-
สูตรที่เปลี่ยนคะแนนดิบเป็นความน่าจะเป็นที่รวมกันได้ 100% โดยยก e กำลังคะแนนแล้วหารด้วยผลรวม
เจอใน: Softmax: เปลี่ยนคะแนนเป็นความน่าจะเป็น คำนวณ softmax เอง วงจร autoregressive และ log-probability
- speculative decoding การเดาล่วงหน้าแล้วตรวจ
-
เทคนิคให้โมเดลเล็กร่างคำตอบล่วงหน้าหลายคำ แล้วให้โมเดลใหญ่ตรวจรวดเดียว ได้ผลที่มีการแจกแจงแบบเดียวกับให้โมเดลใหญ่เขียนเอง แต่เร็วขึ้น
- superposition การซ้อนทับ
-
การที่โมเดลเก็บแนวคิดได้มากกว่าจำนวนมิติ โดยวางแต่ละแนวคิดเป็นทิศทางที่ซ้อนกันเล็กน้อย เพราะในมิติสูงมีทิศทางที่เกือบตั้งฉากกันได้จำนวนมาก
- supervised fine-tuning, SFT การฝึกด้วยตัวอย่างคำตอบ
-
ฝึกโมเดลต่อด้วยบทสนทนาตัวอย่างที่คัดมาแล้ว ใช้ loss เดาคำถัดไปแบบเดิม แต่มักคิดเฉพาะส่วนคำตอบของผู้ช่วย
เจอใน: SFT: สอนบทบาทผู้ช่วยด้วยตัวอย่าง สรุปสูตรบทที่ 5 แบบทดสอบบทที่ 5
- sycophancy อาการเอาใจ
-
แนวโน้มที่ AI จะเห็นด้วยหรือชมผู้ใช้เกินจริง แม้ผู้ใช้จะผิด ส่วนหนึ่งเพราะคำตอบแบบนี้มักได้คะแนนความชอบสูง
เจอใน: ผลข้างเคียง: เอาใจ ตอบยาว และปฏิเสธเกินเหตุ แบบทดสอบบทที่ 5
- system prompt คำสั่งระบบ
-
ข้อความต้นบทสนทนาที่กำหนดบทบาทและกติกาของผู้ช่วย มักตั้งโดยผู้ทำแอปและผู้ใช้อาจมองไม่เห็น โมเดลถูกฝึกให้ให้น้ำหนักกับมันมาก แต่มันก็ยังเป็นแค่ข้อความ
เจอใน: แชตคือเอกสารยาวชิ้นเดียว Tool calling: AI กดปุ่มเองได้ยังไง Prompt injection: คำสั่งที่ซ่อนในข้อมูล
T
- temperature อุณหภูมิ
-
ปุ่มปรับความ "กล้า" ของการสุ่ม ค่าต่ำทำให้เลือกคำที่มั่นใจซ้ำๆ ค่าสูงทำให้คำแปลกๆ มีโอกาสมากขึ้น
เจอใน: Temperature: ปุ่มความกล้า สรุปสูตรบทที่ 1 แบบทดสอบบทที่ 1
- test-time compute การคำนวณตอนใช้งาน
-
แรงคำนวณที่ใช้ตอนโมเดลตอบ ไม่ใช่ตอนฝึก เพิ่มได้โดยให้คิดยาวขึ้นหรือตอบหลายรอบแล้วเลือก
- time to first token, TTFT เวลาจนคำแรกโผล่
-
เวลาตั้งแต่ส่งคำขอจนเห็น token แรกของคำตอบ รวมเวลาต่อคิวและเวลาอ่าน prompt
เจอใน: อ่านรวดเดียว แต่เขียนทีละคำ
- token โทเคน
-
ชิ้นข้อความที่ AI มองเห็นจริงๆ อาจเป็นทั้งคำ ส่วนของคำ หรือตัวอักษรเดียว แต่ละชิ้นมีเลขประจำตัว
เจอใน: ทำไมถามซ้ำแล้วได้คำตอบไม่เหมือนเดิม Token: AI ไม่ได้อ่านเป็น “คำ” วงจร autoregressive และ log-probability
- tokenizer ตัวหั่นข้อความ
-
ตัวแปลงข้อความเป็นลำดับ token ก่อนส่งให้โมเดล แต่ละโมเดลใช้ตัวหั่นไม่เหมือนกัน
เจอใน: Token: AI ไม่ได้อ่านเป็น “คำ” Perplexity: ลังเลเหมือนเลือกจากกี่ทาง
- tool calling, function calling การเรียกใช้เครื่องมือ
-
โมเดลเขียนคำขอแบบมีโครงสร้าง มักเป็น JSON แล้วโปรแกรมของแอปเป็นคนเรียกเครื่องมือจริงและนำผลกลับมาต่อท้าย context
เจอใน: AI ที่คิด ใช้เครื่องมือ และทำงานเอง Tool calling: AI กดปุ่มเองได้ยังไง Agent: วนลูปจนงานเสร็จ
- top-p, nucleus sampling ท็อป-พี
-
วิธีตัดคำโอกาสน้อยทิ้ง โดยเก็บคำเรียงจากมากไปน้อยจนโอกาสรวมถึง p แล้วค่อยสุ่มในกลุ่มนั้น
เจอใน: Top-p: ตัดหางทิ้งก่อนสุ่ม สรุปสูตรบทที่ 1 แบบทดสอบบทที่ 1
- training objective เป้าหมายตอนฝึก
-
สิ่งที่โมเดลถูกฝึกให้ทำได้ดี สำหรับ LLM คือการเดาคำถัดไปให้แม่น ไม่ใช่การบอกความจริง
เจอใน: ทำไม AI ถึง hallucinate AI "เรียน" ตอนไหน แล้วเรียนยังไง
- Transformer ทรานส์ฟอร์มเมอร์
-
สถาปัตยกรรมหลักของ LLM ส่วนใหญ่ในปัจจุบัน เปลี่ยน token เป็นเวกเตอร์ แล้วส่งผ่านชั้นของ attention และ MLP ซ้อนกันหลายชั้นจนได้ logit ของทุกคำ
U
- unembedding, output layer, LM head ตารางแปลงกลับเป็นคำ
-
ตารางเวกเตอร์ประจำคำที่ใช้ตอนท้าย logit ของแต่ละคำคือ dot product ระหว่างเวกเตอร์สุดท้ายของโมเดลกับเวกเตอร์ของคำนั้น
เจอใน: จากเวกเตอร์สุดท้าย กลับเป็นคะแนนทุกคำ สูตรเต็มของ Transformer หนึ่งชั้น สรุปบทที่ 3
V
- vector เวกเตอร์
-
รายการตัวเลขเรียงกัน มองเป็นลูกศรหรือพิกัดบนแผนที่ก็ได้ เช่น (0.9, 0.8)
เจอใน: Embedding: พิกัดบนแผนที่ความหมาย ลากเวกเตอร์เอง ทางหลัก residual: บวกเพิ่ม ไม่เขียนทับ
- verifiable reward, RLVR รางวัลที่ตรวจได้
-
การให้คะแนนตอนฝึกจากสิ่งที่โปรแกรมตรวจได้ เช่น คำตอบคณิตตรงเฉลย หรือโค้ดผ่านชุดทดสอบ
- vocabulary คลังคำของโมเดล
-
รายการ token ทั้งหมดที่โมเดลรู้จัก โมเดลจริงมีตั้งแต่หลายหมื่นถึงราวสองแสนกว่า token
เจอใน: Token: AI ไม่ได้อ่านเป็น “คำ” คะแนนดิบ (logit): ทุกคำได้คะแนน ขั้นแรก: เปิดตาราง token → เวกเตอร์