ฝึกโมเดล 1 ก้าวด้วยมือ · AI ข้างในทำงานยังไง

ลองฝึกเองบ้าง เครื่องคิดเลขในมือถือก็พอ ใช้แค่สองสูตรจากหน้าก่อน:

ความชัน = p − y
คะแนนใหม่ = z − η × (p − y)

ประโยค "แมวชอบกิน ___" ได้คะแนน (คะแนนดิบ (logit)คะแนนที่โมเดลให้กับทุก token ว่าเข้ากับบริบทแค่ไหน ติดลบได้ และยังไม่ใช่ความน่าจะเป็นดูคำศัพท์ทั้งหมด) ปลา 3, ข้าว 2, หนู 1, รถ −1 ซึ่ง softmax เป็นโอกาส 0.6572, 0.2418, 0.0889, 0.0120

สมมติข้อความจริงในข้อมูลฝึกคือ "แมวชอบกินข้าว" ให้ฝึก 1 ก้าวด้วย $η = 1$ แล้วหาโอกาสใหม่ของ ข้าว เป็นกี่ % (ทศนิยม 1 ตำแหน่ง หรือตอบเป็น 0.xxx ก็ได้)

คำตอบของคุณ

คำใบ้ (3)

ความชัน $= p - y$ โดย y ของ ข้าว = 1 คำอื่น = 0: ปลา $+ 0.6572$ , ข้าว $0.2418 - 1 = - 0.7582$ , หนู $+ 0.0889$ , รถ $+ 0.0120$
คะแนนใหม่ $= z - (p - y)$ : ปลา $2.3428$ , ข้าว $2.7582$ , หนู $0.9111$ , รถ $- 1.0120$ แล้วทำ softmax เหมือนบทที่ 1
$e^{2.3428} \approx 10.4103$ , $e^{2.7582} \approx 15.7714$ , $e^{0.9111} \approx 2.4871$ , $e^{- 1.0120} \approx 0.3635$ รวม $\approx 29.0323$

ดูเฉลย

คำตอบ: 54.3%

$15.7714/29.0323 = 0.5432$ = 54.3% (ปลา 35.9%, หนู 8.6%, รถ 1.3% รวมได้ 100.1% เพราะปัดเศษ)

ก้าวเดียว ข้าวพุ่งจาก 24.2% เป็น 54.3% และ loss ลดจาก 1.4197 เหลือราว 0.61 สังเกตว่า ปลา โดนกดลงแรงที่สุด (คะแนนลด 0.6572) เพราะเป็นคำที่โมเดลมั่นใจผิดมากที่สุด

ฝึก 1 ก้าว = คำนวณ p − y แล้วลบออกจากคะแนน คำเฉลยได้โอกาสเพิ่ม คำอื่นเสียโอกาสไป

โมเดลจริงทำแบบนี้กับทุกตำแหน่งพร้อมกัน แล้วส่งย้อนไปปรับพารามิเตอร์ทุกตัว

มังคุด

ถ้าฝึกประโยค "แมวชอบกินข้าว" ซ้ำไปเรื่อยๆ ข้าวจะได้ 100% เลยมั้ย?

ชอบหน้านี้? แชร์ให้เพื่อนร่วมงาน