คัดลอกสรุปสั้นแล้ว!
gugoru.com
⌘K

OpenAI ปลดล็อก WebSockets ดันเอเจนต์เขียนโค้ดไวขึ้น 40%

ประเด็นร้อน
55 วิ •
✍️กานต์ ถอดรหัส
OpenAI ปลดล็อก WebSockets ดันเอเจนต์เขียนโค้ดไวขึ้น 40%
ภาพ: OpenAI

โยนคำโฆษณาเรื่อง AI อัจฉริยะทิ้งไปก่อน เพราะความจริงที่น่าอึดอัดคือต่อให้ชิปโมเดลจะประมวลผลแตะระดับ 1,000 โทเค็นต่อวินาที แต่ผู้ใช้งานกลับต้องนั่งทนรอเป็นนาทีเพียงเพราะท่อส่งข้อมูล API แบบเดิมมันโบราณจนกลายเป็นคอขวด นี่ไม่ใช่แค่การปล่อยฟีเจอร์ใหม่ แต่คือการที่ OpenAI ถูกบีบให้รื้อระบบเชื่อมต่อหลังบ้านใหม่หมด ก่อนที่ผู้ใช้จะหมดความอดทนกับความอืดอาดของเอเจนต์ตัวเอง

ผ่ารอยต่ออำนาจ

เบื้องลึกทำไม OpenAI ต้องรื้อท่อเชื่อมต่อใหม่

  • 1ผ่าคำคุยโตสปีดพันโทเค็น โมเดลจะแรงแค่ไหนก็ไร้ความหมายถ้าท่อส่งข้อมูลยังล้าหลัง การเปลี่ยนมาใช้ WebSockets ช่วยหยุดการส่งประวัติแชตซ้ำซากและลดเวลาแฝงลง 40% ตามที่เคลมไว้ได้จริง
  • 2ผูกขาดเครื่องมือนักพัฒนา OpenAI รีบดึงพันธมิตรแถวหน้าอย่าง Cursor, Vercel และ Cline เข้ามาใช้งานทันทีเพื่อล็อกให้อยู่ในระบบนิเวศของตัวเอง ตัดหน้าคู่แข่งด้วยความเร็วที่หาจากค่ายอื่นไม่ได้
  • 3หมดเวลาแอบอู้รอโค้ด งานแก้บั๊กที่เคยทิ้งช่วงให้โปรแกรมเมอร์ได้พักจิบกาแฟจะกลับมาโต้ตอบทันทีแบบเกือบเรียลไทม์ บีบให้คนทำงานต้องเร่งสปีดตรวจงานตามระบบอัตโนมัติจนแทบไม่มีเวลาหายใจ
เกมต่อจากนี้

สมรภูมิท่อส่งข้อมูลและสนามรบนักพัฒนา

ความเร็วระดับนี้เป็นแค่จุดเริ่มต้น เพราะเมื่อการส่งข้อมูลแบบเรียลไทม์กลายเป็นมาตรฐานใหม่ ภาระหนักจะตกไปอยู่ที่โครงสร้างพื้นฐานเซิร์ฟเวอร์ว่าจะรับมือการเชื่อมต่อค้างไว้มหาศาลไหวหรือไม่

โพยเอาไว้คุยกับเพื่อน

“เลิกตื่นเต้นกับความฉลาดของ AI ได้แล้ว เพราะถ้าท่อส่งข้อมูลยังเต่าคลาน โมเดลระดับเทพก็เป็นได้แค่ผู้ช่วยที่ทำให้คุณนั่งรอจนหลับ”