คัดลอกสรุปสั้นแล้ว!
gugoru.com
⌘K

OpenAI ล้อมคอก Codex แฉความจริงเมื่อ AI โค้ดดิ้งเริ่มคุมยาก

ประเด็นร้อน
50 วิ •
✍️กานต์ ถอดรหัส
OpenAI ล้อมคอก Codex แฉความจริงเมื่อ AI โค้ดดิ้งเริ่มคุมยาก
ภาพ: OpenAI

ภาพฝันหวานที่บรรดาบิ๊กเทคชอบขายคือ AI โค้ดดิ้งอย่าง Codex จะทำงานแทนมนุษย์แบบไร้รอยต่อ แต่เบื้องหลังเอกสารความปลอดภัยฉบับล่าสุดของ OpenAI คือการยอมรับกลายๆ ว่า AI ที่รันโค้ดเองได้กำลังกลายเป็นความเสี่ยงตัวเบ้อเริ่ม จนบริษัทต้องรีบสร้างคุกดิจิทัลมาขังมันไว้ ก่อนที่มันจะพังระบบโปรดักชันขององค์กร

3 เหลี่ยมคุมกำเนิด

ทำไม OpenAI ต้องรีบตีตรวน Codex ก่อนจะคุมไม่อยู่

  • 1ภาพลวงตาความอิสระ OpenAI เคลมว่าปล่อยให้ AI รันคำสั่งอัตโนมัติ แต่เนื้อแท้คือการตีกรอบ Sandbox ปิดกั้นการต่อเน็ตภายนอก และตั้งด่านตรวจแทบทุกก้าว เพราะรู้ดีว่าปล่อยมือเมื่อไหร่ระบบมีสิทธิ์พัง
  • 2เกมรวบอำนาจเข้ากระเป๋า บีบให้ผูกสิทธิ์ผ่าน ChatGPT Enterprise และกักประวัติการทำงานไว้ในระบบมอนิเตอร์ของตัวเอง เป็นหมากธุรกิจล็อกคอลูกค้าองค์กรไม่ให้หนีไปใช้ระบบอื่น
  • 3คนทำงานกลายเป็นยามเฝ้าจอ นักพัฒนาไม่ได้สบายขึ้นอย่างที่คิด แต่ต้องเปลี่ยนบทบาทมารับภาระคอยกด Approve คำสั่งเสี่ยงๆ และแบกรับความรับผิดชอบเวลา AI ก่อเรื่อง
หมากตาต่อไป

เมื่อต้องส่ง AI อีกตัวมาคอยตามประกบ AI ตัวเดิม

OpenAI ต้องเข็น AI ผู้ช่วยอีกตัวมาคอยจับผิดล็อกพฤติกรรมของ Codex อีกทอด สะท้อนว่ายิ่งปล่อยให้ AI มีอำนาจลงมือทำ ต้นทุนในการตามเช็ดตามล้างก็ยิ่งบานปลาย

โพยเอาไว้คุยกับเพื่อน

“เลิกฝันว่า AI จะมาเขียนโค้ดแทนคุณแบบชิลๆ เพราะเบื้องหลังคือเขายังต้องสร้างห้องขังและติดตรวนคุมมันแทบทุกฝีก้าว”