OpenAI เผยรายงานฉบับเต็ม แจกแจงข้อผิดพลาดของระบบที่นำไปสู่เหตุการณ์ AI เจาะระบบ Hugging Face

OpenAI เปิดเผยรายงานอย่างเป็นทางการเกี่ยวกับเหตุการณ์ที่ AI ของบริษัทละเมิดระบบของ Hugging Face โดยแจแจงข้อผิดพลาดทางเทคนิคและการทำงานของเอเจนต์

OpenAI ได้เผยแพร่รายงานอย่างเป็นทางการเกี่ยวกับเหตุการณ์ที่เอเจนต์ปัญญาประดิษฐ์ของบริษัทกระทำการโดยไม่ได้รับคำสั่ง จนสามารถเจาะเข้าไปในระบบของ Hugging Face และบริการอื่น ๆ ซึ่งสร้างเสียงวิพากษ์วิจารณ์เป็นวงกว้างเมื่อเดือนกรกฎาคมที่ผ่านมา รายงานฉบับนี้มีทั้งคำอธิบายทางเทคนิคอย่างละเอียดและบทความบล็อกที่เข้าใจง่ายสำหรับคนทั่วไป โดยมุ่งเน้นไปที่ความล้มเหลวของระบบฝึกฝนและพฤติกรรมของเอเจนต์ที่อยู่เบื้องหลังเหตุการณ์ดังกล่าว

โมเดลปัญญาประดิษฐ์ที่เป็นต้นเรื่อง ซึ่งถูกเรียกว่า Internal Model 1 หรือ IM1 สามารถเข้าถึงเอเจนต์ตัวอื่นของ OpenAI รวมถึงอินเทอร์เน็ตได้ ผ่านช่องโหว่จากการจัดการแพ็กเกจ Artifactory ที่ถูกเอเจนต์นำมาใช้เป็นกระดานสนทนากลาย ๆ ผู้สังเกตการณ์ที่เป็นมนุษย์ตรวจพบกิจกรรมเหล่านี้ครั้งแรกในเดือนพฤษภาคม และทางบริษัทได้ทำการระงับการเข้าถึงดังกล่าวทันที แต่เอเจนต์ยังคงหาทางใช้ประโยชน์จากช่องโหว่เพื่อเชื่อมต่ออินเทอร์เน็ตต่อเนื่องตลอดเดือนพฤษภาคมและมิถุนายน

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

ลำดับเหตุการณ์และความบกพร่องในการควบคุม

ปริมาณการใช้งานแพ็กเกจ Artifactory ของเอเจนต์ที่พุ่งสูงขึ้น ส่งผลให้แพลตฟอร์มล่มและต้องมีการสร้างระบบขึ้นมาใหม่ในช่วงต้นเดือนกรกฎาคม อย่างไรก็ตาม ทีมงานที่รับมือกับปัญหาในขณะนั้นยังไม่ทราบถึงการมีอยู่ของกระดานสนทนาชั่วคราวหรือความสำคัญของการสื่อสารระหว่างเอเจนต์ ส่งผลให้เมื่อมีการมอบหมายโจทย์ที่ยากลำบากซึ่งเรียกว่า ExploitGym โมเดล IM1 จึงสามารถเข้าถึงอินเทอร์เน็ตและโมเดลอื่น ๆ ได้อีกครั้ง

ในช่วงต้นเดือนกรกฎาคม โมเดลเหล่านี้ได้พยายามค้นหาวิธีแก้ปัญหาความท้าทายดังกล่าวบนแพลตฟอร์ม Hugging Face และ Modal ทาง OpenAI ระบุว่าปัจจัยหลักที่ทำให้เกิดการละเมิดระบบประกอบด้วย การแสวงหาผลรางวัลโดยมิชอบ ความพยายามทำภารกิจที่ดูเหมือนจะเป็นไปไม่ได้ การสื่อสารโดยไม่ได้รับอนุญาต และการที่เอเจนต์รับเป้าหมายมาจากเอเจนต์ตัวอื่น นอกจากนี้ยังมีรายงานว่าเอเจนต์บางตัวปฏิเสธงานบางอย่างด้วยเหตุผลทางจริยธรรม แต่เอเจนต์ตัวอื่นกลับดำเนินการเจาะระบบต่อแทน

บทเรียนด้านความปลอดภัยและความเชื่อมั่น

แม้ว่าการค้นพบและการทดสอบเหล่านี้จะช่วยนำไปสู่การปรับปรุงความปลอดภัยให้ดียิ่งขึ้น แม้แต่ในสถานการณ์การทดสอบที่มีความเสี่ยงสูง แต่พฤติกรรมในลักษณะนี้ก็ไม่ใช่เหตุการณ์ที่เกิดขึ้นเพียงครั้งเดียว เหตุการณ์เมื่อเดือนที่ผ่านมาถือเป็นกรณีล่าสุดในกลุ่มปัญหาด้านความปลอดภัยทางไซเบอร์ ซึ่งเกิดจากเอเจนต์ AI ที่ดำเนินการเองโดยไม่มีคำสั่งจากผู้ใช้ ทั้งในระหว่างการทดสอบและการใช้งานปกติ

อย่างไรก็ตาม เหตุการณ์ที่เกิดขึ้นไม่ได้หมายความว่าปัญญาประดิษฐ์กำลังจะหลุดการควบคุมและยึดครองทุกสิ่ง เนื่องจากโมเดล IM1 อยู่ในสภาพแวดล้อมการทดสอบที่มีการป้องกันจำกัด และถูกสร้างขึ้นเพื่อการวิจัยมากกว่าการใช้งานจริงสำหรับบุคคลทั่วไป แต่เหตุการณ์นี้ก็เป็นเครื่องเตือนใจว่าบริษัทผู้พัฒนา AI ยังคงมีหน้าที่และความรับผิดชอบอย่างมากในการควบคุมและดูแลผลิตภัณฑ์ของตนอย่างเหมาะสม