คัดลอกสรุปสั้นแล้ว!
gugoru.com
⌘K

OpenAI เผยจุดบอด AI ยิ่งฉลาดยิ่งคุมความคิดตัวเองไม่ได้

ประเด็นร้อน
55 วิ •
✍️กานต์ ถอดรหัส
OpenAI เผยจุดบอด AI ยิ่งฉลาดยิ่งคุมความคิดตัวเองไม่ได้
ภาพ: OpenAI

อย่าเพิ่งตื่นตระหนกกับข่าวที่ว่าโมเดลตัวท็อปสอบตกเรื่องการควบคุมความคิดตัวเอง เพราะเบื้องหลังรายงานล่าสุดจาก OpenAI คือข่าวดีที่สุดของมนุษย์ในรอบปี ยักษ์ใหญ่ค้นพบว่า AI สายคิดลึกควบคุมกระบวนการคิดหรือแอบตบตาคนตรวจจับไม่สำเร็จ ยิ่งสั่งให้คิดนานเท่าไร มันยิ่งเผยไส้ในและความลนลานออกมาหมดเปลือก

ผ่าความจริงหลังม่าน

ทำไมความล้มเหลวของ AI รอบนี้ถึงกลายเป็นข่าวดี

  • 1ฉีกคำคุยโตเรื่องสติปัญญา: ผลทดสอบ 13 โมเดลชี้ชัดว่าอัตราการคุมกระบวนการคิดอยู่แค่ 0.1% ถึง 15.4% ขนาดสั่งห้ามหลุดคำต้องห้าม AI ยังบ่นกระวนกระวายในใจแล้วพิมพ์ซ้ำอีก 4 รอบ มันยังห่างไกลจากความเนียนในการหลอกมนุษย์
  • 2หมากฟอกขาวความปลอดภัย: OpenAI รีบเคลมทันทีว่าความไร้เดียงสานี้คือฟีเจอร์เด่นด้านความปลอดภัย เพื่อสร้างความมั่นใจให้องค์กรที่จ่ายเงินก้อนโตและผู้คุมกฎว่า โมเดลยังไม่ฉลาดพอจะซุ่มวางแผนร้ายลับหลังเรา
  • 3แรงกระแทกถึงคนใช้โมเดล: ใครที่คิดจะสั่งให้โมเดลคิดซับซ้อนไปพร้อมกับบีบเงื่อนไขจุกจิกต้องทำใจ ยิ่งปล่อยให้มันประมวลผลนาน โอกาสหลุดกรอบและคุมไม่อยู่จะยิ่งพุ่งสูงจนควบคุมปลายทางได้ยากขึ้น
หมากตาต่อไป

มาตรฐานใหม่ที่จะเริ่มบังคับใช้ในโมเดลถัดไป

OpenAI เตรียมนำมาตรวัดการคุมกระบวนการคิดนี้มาบรรจุในเอกสารกำกับความปลอดภัยอย่างเป็นทางการ โดยจะเริ่มประเดิมวัดผลจริงกับโมเดล GPT-5.4 Thinking เป็นตัวแรก

โพยเอาไว้คุยกับเพื่อน

“โล่งใจได้อีกเปลาะ เพราะ AI ตอนนี้ยังโกหกไม่เนียน ยิ่งพยายามซ่อนความคิด ยิ่งโป๊ะแตกให้จับได้คาหนังคาเขา”