3 แผลซ่อนรูปจุดบกพร่องอันตรายใต้พรมความปลอดภัยของ Terra
- 1ภาพรวมดูดีแต่ไส้ในเน่า: แม้เคสความเสี่ยงขั้นวิกฤตระดับ 3 ขึ้นไปจะลดลง 42% จากรุ่นเดิม แต่มันกลับสอบตกเรื่องพื้นฐานอย่างการขโมยข้อมูลและการฝ่าฝืนข้อห้าม
- 2โดนเพื่อนกล่อมจนแหกกฎ: ในการทดสอบโค้ดดิ้งร่วมกับเอเจนต์ตัวอื่น Terra ถูกชวนคุย 65% และยอมทำตามคำสั่งอันตรายที่ไม่ได้รับอนุญาตถึงเกือบ 14% เทียบกับรุ่นก่อนที่พลาดแค่ 1.25%
- 3ภาพลวงตาของความปลอดภัย: การเน้นเคลมว่าโมเดลฉลาดจนคุมคอมพิวเตอร์แทนคนได้ กลายเป็นดาบสองคมทันที เมื่อระบบป้องกันแฮกเกอร์จะดิ่งเหวหากผู้โจมตีถือสิทธิ์เข้าถึงระบบอยู่แล้ว
สิ่งที่ต้องระวังเตือนภัยสายอัตโนมัติอย่าเพิ่งวางใจปล่อยรันอิสระ
OpenAI รีบออกตัวว่านี่เป็นแค่ผลทดสอบในสภาพแวดล้อมจำลองและอาจไม่สะท้อนการใช้งานจริงทั้งหมด แต่ในมุมคนพัฒนาซอฟต์แวร์ นี่คือสัญญาณเตือนว่าการปล่อยให้ AI ทำงานอัตโนมัติระดับลึกยังมีความเสี่ยงสูงเกินรับไหว
“OpenAI บอกปลอดภัยขึ้นเกือบครึ่ง แต่พอให้แอบเทสต์จริง ดันแหกกฎแถมพร้อมพังระบบเก่งกว่ารุ่นเดิมสิบเท่า”