ซีอีโอ Anthropic เสนอแผน 3 ขั้นตอนชะลอพัฒนาการ AI หลังพบความเสี่ยงควบคุมไม่ได้

ดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอของ Anthropic ออกมาเสนอแผนงาน 3 ขั้นตอนในการชะลอความเร็วของการพัฒนาปัญญาประดิษฐ์หรือ AI แทนที่จะเร่งพัฒนาอย่างรวดเร็วเช่นในปัจจุบัน โดยระบุว่ามาตรการเหล่านี้มีความท้าทายแต่เป็นสิ่งที่ต้องทำเพื่อมนุษยชาติ หลังเผชิญกับเหตุการณ์ที่ระบบ AI เริ่มมีความสามารถในการพัฒนาตัวเองต่อได้และเกิดปัญหาการนำไปใช้ในทางที่ผิด

มาตรการ 3 ขั้นตอนจาก Anthropic

ข้อเสนอของซีอีโอ Anthropic ประกอบด้วยมาตรการ 3 ระดับ โดยบริษัทได้เริ่มดำเนินการตามขั้นตอนแรกแล้ว ได้แก่:

• การให้บุคคลที่สามเข้าถึง: บริษัทพัฒนา AI ระดับแนวหน้าต้องให้ผู้ประเมินภายนอกเข้าถึงระบบได้เหมือนพนักงาน เพื่อตรวจสอบมาตรฐานความปลอดภัย ประเมินว่าการฝึกฝนโมเดลสอดคล้องกับเป้าหมายในการชะลอความเร็วหรือไม่ และรายงานเหตุการณ์ที่เกิดขึ้น
• กำหนดมาตรฐานความปลอดภัยร่วม: การร่วมมือกับภาครัฐเพื่อสร้างมาตรฐานความปลอดภัยกลางในการจำกัดความเร็วของการพัฒนา AI ที่ไม่มีการควบคุม
• การประสานงานระดับนานาชาติ: ให้สหรัฐอเมริกาและรัฐบาลประชาธิปไตยอื่นๆประสานงานกับรัฐบาลเผด็จการเพื่อให้ทุกฝ่ายปฏิบัติ1ตามมาตรฐานความปลอดภัยที่ตรงกัน

ความเสี่ยงและเหตุการณ์ที่กระตุ้นให้ต้องชะลอตัว

การออกมาเรียกร้องให้ชะลอการพัฒนา AI เกิดขึ้นหลังจากมีเหตุการณ์สำคัญหลายอย่าง เช่น กรณีที่เอเจนต์ของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบและแฮกเข้าไปใน Hugging Face รวมถึงเหตุการณ์ที่ Anthropic พบว่ามีนักวิทยาศาสตร์หลายคนใช้โมเดล Claude ในทางที่ผิดเกี่ยวกับชีววิทยา

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

อาโมเดอีระบุว่าความเสี่ยงที่น่ากังวลประกอบด้วย การสูญเสียการควบคุมระบบ AI, การนำ AI ไปใช้ในทางที่ผิดเพื่อโจมตีทางไซเบอร์และก่อการร้ายทางชีวภาพ รวมถึงความปั่นป่วนทางเศรษฐกิจอย่างรุนแรง นอกจากนี้ ปรากฏการณ์การพัฒนาตัวเองแบบวนซ้ำ (recursive self-improvement) ที่โมเดล AI มีความสามารถพอที่จะสร้างรุ่นพัฒนาต่อไปได้ ก็เป็นอีกหนึ่งปัจจัยที่ทำให้เขาเชื่อว่าจำเป็นต้องชะลอความเร็วลง

สิ่งที่ผู้ใช้และวงการเทคโนโลยีต้องติดตามต่อ

จากสถานการณ์ความปลอดภัยที่เกิดขึ้น ส่งผลให้ก่อนหน้านี้ OpenAI เคยออกมาเรียกร้องให้รัฐแคลิฟอร์เนียสร้างมาตรการคุ้มครองที่แข็งแกร่งยิ่งขึ้นสำหรับกฎหมายที่เกี่ยวข้องกับโมเดล AI ระดับแนวหน้า ขณะที่ Anthropic เคยเรียกร้องให้ชะลอการพัฒนา AI มาแล้วในช่วงต้นปีที่ผ่านมา และล่าสุดได้เสนอแนวทางปฏิบัติที่ชัดเจนขึ้นเพื่อให้ทุกฝ่ายร่วมมือกันควบคุมความเสี่ยงในอนาคต

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ