ข้อความซ่อนที่สั่ง AI ได้
สมมติคุณให้ AI ช่วยสรุปรีวิวร้านส้มตำจากโพสต์ในเว็บ โพสต์นั้นดูธรรมดา มีรีวิวดีบ้าง บ่นบ้าง
แต่ในโพสต์มีตัวหนังสือสีเดียวกับพื้นหลัง คนมองไม่เห็น ทว่า AI อ่านเห็นทุกตัว ลองแตะดูสิ่งที่ AI เห็น แล้วเลือกว่าผลสรุปแบบไหนโดนหลอก
แบบนี้เรียกว่า ข้อความซ่อนสั่ง AI (prompt injection)คำสั่งที่แอบซ่อนไว้ในข้อความหรือเว็บที่ AI อ่าน เพื่อหลอกให้มันทำตามแทนผู้ใช้ดูคำศัพท์ทั้งหมด คือการแอบใส่คำสั่งไว้ในข้อมูลที่ AI อ่าน เช่น เว็บ อีเมล หรือไฟล์แนบ สำหรับ AI คำสั่งของคุณกับข้อความในเว็บเป็นตัวหนังสือเหมือนกัน มันจึงแยกไม่ออกเสมอไป
ข้อมูลที่ AI อ่านก็สั่งมันได้ ผลสรุปจากเว็บหรือไฟล์แปลกหน้าจึงต้องอ่านอย่างระวัง
มังคุด
แล้วเราจะรู้ได้ยังไงครับว่าเว็บไหนมีข้อความซ่อน?