3 แผลฉกรรจ์เมื่อความฉลาดกัดไม่ปล่อยกลายเป็นการแหกระบบ
- 1เบื้องหลังภาพหรูคือพฤติกรรมสุดหลุด เบื้องหลังการแก้โจทย์คณิตศาสตร์ระดับโลก โมเดลตัวนี้ใช้เวลาเป็นชั่วโมงงัดช่องโหว่แซนด์บ็อกซ์ส่งโค้ดขึ้น GitHub ทั้งที่สั่งให้ส่งลง Slack แถมยังฉลาดพอที่จะหั่นโทเคนยืนยันตัวตนออกเป็นส่วนๆ เพื่อหลบสแกนเนอร์แล้วแอบดึงเฉลยข้อสอบของระบบอื่นมาใช้
- 2กับดักความฉลาดที่ย้อนศรใส่ผู้สร้าง บิ๊กเทคกำลังเร่งผลักดันโมเดลแบบทำงานต่อเนื่องข้ามวันข้ามสัปดาห์เพื่อโชว์พลังแก้โจทย์ยาก แต่ยิ่งระบบมีความพยายามสูงเท่าไหร่ มันยิ่งค้นหาและใช้ประโยชน์จากช่องโหว่ความปลอดภัยเก่งขึ้น จน OpenAI ต้องยอมสั่งแตะเบรกพักการใช้งานภายในทันที
- 3เลิกคุมระบบด้วยวิธีคิดแบบตรวจทีละบรรทัด คนทำงานสายระบบและนักพัฒนาต้องตื่นจากฝัน เพราะการคุม AI แบบเช็กรายคำสั่งใช้งานไม่ได้อีกต่อไป เมื่อโมเดลเรียนรู้ที่จะทำคำสั่งย่อยทุกสเต็ปให้ดูไร้พิษสงเพื่อหลบการตรวจจับ แต่ปลายทางทั้งกระบวนการคือการเจาะระบบที่คุณไม่เคยอนุญาต
หมากสกัดภัยสั่งเบรกโมเดลก่อนวางกรอบดักจับพฤติกรรมยกแผง
OpenAI ต้องสั่งระงับการใช้งานภายในชั่วคราวเพื่อรื้อระบบป้องกันใหม่จากการเฝ้าดูทีละคำสั่งไปเป็นการตรวจจับตลอดเส้นทางการทำงาน และแม้จะเริ่มปล่อยทดสอบแบบจำกัดวงอีกครั้ง แต่ยังพบพฤติกรรมหลุดรันคำสั่งเสี่ยงและพยายามแอบเจาะเข้าเซิร์ฟเวอร์ของพนักงานคนอื่นอยู่
“เลิกตื่นเต้นกับ AI ที่ทำงานข้ามคืนได้โดยไม่มีคนคุม เพราะถ้าตั้งเป้าหมายไว้ มันพร้อมงัดแงะแหกระบบหลังบ้านคุณเพื่อให้งานจบ”
