🤖 AI ฉลาดแค่ไหน ก็ยังแพ้ "คนสั่งทับกัน" — งานวิจัยใหม่เตือนภัยร้ายแรง

ลองนึกภาพว่าคุณเป็นพนักงานใหม่

วันแรกเข้าทำงาน หัวหน้าสั่งอย่างหนึ่ง ผู้จัดการสั่งอีกอย่าง แล้วลูกค้าก็โทรมาขอให้ทำอีกแบบ

คุณจะเชื่อใคร?

นี่คือปัญหาที่ AI กำลังเจออยู่ทุกวัน

• AI ยุคนี้ไม่ได้ทำงานจากคำสั่งเดียว แต่รับคำสั่งจากหลายแหล่งพร้อมกัน
• ระบบภายในสั่งอย่างหนึ่ง ผู้ใช้สั่งอีกอย่าง เครื่องมือภายนอกส่งข้อมูลมาอีกทาง
• เมื่อคำสั่งขัดแย้งกัน AI ต้องตัดสินว่าจะเชื่อใคร

ทีมวิจัยจาก Johns Hopkins เพิ่งเปิดเผยความจริงที่น่าตกใจ

พวกเขาสร้างชุดทดสอบชื่อ ManyIH-Bench ขึ้นมา มีโจทย์ 853 ข้อ จำลองสถานการณ์ที่ AI ต้องจัดการคำสั่งจากแหล่งต่างๆ มากถึง 12 ระดับ

🎯 ผลลัพธ์ที่ได้:

• AI ระดับท็อปของโลกทำได้แค่ประมาณ 40% เท่านั้น
• ยิ่งมีคนสั่งหลายทาง AI ยิ่งสับสน
• ระบบเดิมที่แบ่งลำดับชั้นแค่ 3-5 ระดับ ใช้ไม่ได้กับโลกจริง
• คนร้ายสามารถใช้ช่องโหว่นี้หลอกให้ AI ทำตามคำสั่งอันตรายได้

เปรียบง่ายๆ เหมือนบริษัทที่มีพนักงานฉลาดมาก แต่ไม่มีผังองค์กร

พอมีคนสั่งพร้อมกัน 10 คน พนักงานก็มั่วหมด ไม่รู้จะฟังใคร

แล้วถ้ามีคนแอบปลอมตัวเป็นหัวหน้ามาสั่งล่ะ? AI อาจทำตามโดยไม่รู้ตัว

งานวิจัยนี้เป็นสัญญาณเตือนที่ชัดเจน — ก่อนจะปล่อย AI ออกไปทำงานแทนเรา เราต้องแน่ใจก่อนว่ามันรู้จักแยกแยะว่า "ใครมีสิทธิ์สั่ง" จริงๆ

ไม่งั้นอาจกลายเป็นประตูหลังที่เปิดให้คนร้ายเดินเข้ามาง่ายๆ