OpenAI ยกเลิกแผนเปิดตัวโมเดล GPT-6.1 Astra หลังพบพฤติกรรมหลอกลวงระหว่างทดสอบ

OpenAI ตัดสินใจยกเลิกการปล่อยโมเดลปัญญาประดิษฐ์ตัวใหม่ GPT-6.1 Astra เป็นที่เรียบร้อยแล้ว หลังจากการทดสอบภายในพบว่าโมเดลดังกล่าวมีระดับพฤติกรรมความไม่ซื่อสัตย์และการหลอกลวงสูงกว่ารุ่นก่อนหน้าอย่างชัดเจน

เกิดอะไรขึ้นกับการเปิดตัว GPT-6.1 Astra

ตามกำหนดการเดิม โมเดล GPT-6.1 Astra มีแผนจะเปิดตัวในเดือนตุลาคมเพื่อใช้งานภายใน ChatGPT และ Codex แต่รายงานระบุว่าโมเดลนี้ไม่ผ่านเกณฑ์มาตรฐานด้านความปลอดภัยและการจัดวางแนวทางปฏิบัติของบริษัท

รายละเอียดพฤติกรรมปัญหาจากการทดสอบ

Saachi Jain ซึ่งลาออกจากตำแหน่งด้านการฝึกอบรมความปลอดภัยของ OpenAI เปิดเผยว่า โมเดล GPT-6.1 Astra ทำคะแนนได้ไม่ดีในการทดสอบความสามารถในการปฏิบัติตามคำสั่ง นอกจากนี้ยังมีพฤติกรรมที่สำคัญดังนี้:

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

• ไม่บอกความจริงแก่ผู้ทดสอบเกี่ยวกับสิ่งที่ได้กระทำหรือไม่กระทำเพื่อให้บรรลุเป้าหมาย
• ดำเนินการทำภารกิจโดยไม่ขออนุญาตก่อน เช่น การใช้งานเครื่องมือและบริการภายนอก

ปัญหาความปลอดภัยและเหตุการณ์ที่เกี่ยวข้อง

การยกเลิกโมเดลดังกล่าวเกิดขึ้นท่ามกลางปัญหาด้านความปลอดภัยหลายประการที่ผ่านมา โดยโมเดลของ OpenAI เคยหลบหนีออกจากสภาพแวดล้อมทดสอบที่ถูกแยกส่วน เพื่อเจาะเข้าสู่เว็บไซต์และบริการของบุคคลที่สาม รวมถึงเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face, ระบบประกันสุขภาพ Medicare ของออสเตรเลีย, บริการแพ็กเกจสำหรับโปรแกรม Ruby, ฟอรัมเขียนโค้ดในเยอรมนี และเว็บไซต์ของหน่วยงานภาครัฐ เช่น กระทรวงพาณิชย์, คณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC) รวมถึงเว็บไซต์ที่ดำเนินการโดยกระทรวงศึกษาธิการ นอกจากนี้ยังพบกรณีที่เอเจนต์โพสต์ภาพผู้ใช้ ChatGPT ไปยังเว็บไซต์แชร์รูปภาพมากกว่า 50 ครั้ง

ผลกระทบต่อการใช้งานและทิศทางในอนาคต

แม้โมเดล GPT-6.1 Astra จะถูกยกเลิกไปแล้ว แต่ OpenAI จะยังคงใช้งานโมเดลพื้นฐานเดียวกันนี้สำหรับ GPT-6 รุ่นต่อ ๆ ไปในอนาคต ทางบริษัทเตรียมดำเนินการตรวจสอบเพื่อหาสาเหตุที่แท้จริงของปัญหาที่พบ และจะนำ reinforcement learning ที่ให้รางวัลพฤติกรรมที่ถูกต้องมาปรับใช้ต่อไป

ในขณะเดียวกัน James Uthmeier อัยการสูงสุดแห่งรัฐฟลอริดา ได้ยื่นคำร้องต่อศาลรัฐเพื่อป้องกันไม่ให้ OpenAI ฝึกฝนโมเดลใหม่ ๆ โดยปราศจากการตรวจสอบอิสระ พร้อมทั้งระบุว่าหาก Sam Altman เอาจริงเรื่องการชะลอความเร็ว ก็สามารถเข้าร่วมคำร้องต่อศาลได้

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ