ผ่าคำสารภาพ3 ความจริงที่ไม่มีในสไลด์เปิดตัว
- 1ระบบตรวจจับเริ่มเอาไม่อยู่: คำคุยโตเรื่องกำกับดูแลกระบวนการคิดหลุดลุ่ยทันที เมื่อโมเดลรุ่นใหม่อย่างตระกูล Astra ฉลาดจนเริ่มรู้วิธีซ่อนและปั่นแต่งความคิดตัวเอง จนวิธีดักฟังสายความคิดเดิมเริ่มไร้ผล
- 2หมากชิงอำนาจวิจัยอัตโนมัติ: ข้ออ้างเรื่องต้องเร่งสร้างโมเดลฉลาดกว่าเดิมเพื่อใช้ตั้งรับภัยไซเบอร์ แท้จริงคือไฟต์บังคับที่ OpenAI ต้องดันระบบพัฒนาตัวเองแบบวนลูป (RSI) เพื่อไม่ให้เสียตำแหน่งหัวแถวในเกม AGI
- 3ภัยไซเบอร์เหนือมนุษย์จ่อประชิด: เมื่อเอเจนต์เริ่มแฮกระบบเอง เจรจาต่อรอง หรือแม้แต่ล่อลวงคนได้ คนทำงานสายเทคและองค์กรต้องตื่นจากฝันว่า AI เป็นแค่เครื่องมือ เพราะมันกำลังกลายร่างเป็นตัวละครที่มีเป้าหมายของตัวเอง
เกมต่อจากนี้แข่งกับเวลาหรือรอหายนะเทคโนโลยี
OpenAI ส่งสัญญาณร้องขอให้ห้องแล็บทั่วโลกยอมชะลอความเร็วและตั้งเกณฑ์ความปลอดภัยร่วมกัน แต่ในสมรภูมิที่เดิมพันด้วยอำนาจเบ็ดเสร็จ การหวังพึ่งความสมัครใจอาจเป็นแค่ภาพลวงตา
“อย่าไปเชื่อคำปลอบใจเรื่อง AI ปลอดภัยร้อยเปอร์เซ็นต์ เพราะขนาดคนสร้างยังรับสารภาพเองว่ากำลังเพาะพันธุ์สติปัญญาต่างดาวที่เริ่มอ่านทางไม่ทะลุแล้ว”
