ผ่ากลลวงทำไมเอเจนต์สุดฉลาดถึงกลายเป็นเป้าต้มตุ๋น
- 1กำแพงไฟ AI ล้มเหลว: เลิกเชื่อคำคุยโตเรื่องระบบ AI Firewall ได้เลย เพราะการตรวจจับข้อความล่อลวงในบริบทจริงทำได้ยากไม่ต่างจากการจับโกหกคน และฟิลเตอร์ทั่วไปไม่มีวันตามทัน
- 2เดิมพันสูงของ OpenAI: ยิ่งพยายามดัน ChatGPT เข้าไปแตะข้อมูลส่วนตัวในอีเมลและเบราว์เซอร์มากเท่าไร ความเสี่ยงเรื่องข้อมูลลูกค้ารั่วไหลก็ยิ่งพุ่งสูง จนบีบให้ค่ายเทคต้องรีบแก้เกมก่อนความเชื่อมั่นพัง
- 3อย่าเพิ่งปล่อยมือให้ AI คุมงาน: คนทำงานต้องเลิกคิดโยนงานสำคัญให้เอเจนต์ทำแบบไร้คนเฝ้า ตราบใดที่ยังไม่มีระบบล็อกสิทธิ์หรือกดยืนยันก่อนส่งข้อมูล ข้อมูลลับในองค์กรอาจถูกหลอกดึงออกไปดื้อๆ
หมากตาต่อไปตัดสิทธิ์เอเจนต์ก่อนข้อมูลรั่วไหล
OpenAI ต้องเปลี่ยนยุทธศาสตร์จากเดิมที่หวังพึ่งโมเดลฉลาดล้ำ มาเป็นการสร้างกลไกจำกัดสิทธิ์อย่าง Safe Url และระบบ Sandbox เพื่อบังคับให้ผู้ใช้ต้องกดยืนยันก่อนอนุญาตให้เอเจนต์ส่งข้อมูลออกไปภายนอก
“เลิกเพ้อฝันเรื่องปล่อยให้ AI ทำงานอัตโนมัติร้อยเปอร์เซ็นต์ เพราะวันที่มันเริ่มท่องเน็ตได้ มันก็โดนแก๊งต้มตุ๋นหลอกง่ายไม่ต่างจากเด็กฝึกงาน”
