Anthropic ตรวจพบนักวิทยาศาสตร์ใช้ Claude ช่วยวิจัยอาวุธชีวภาพ พร้อมเผยกรณีศึกษาความเสี่ยงด้านความปลอดภัย

Anthropic เปิดเผยรายงานชิ้นใหม่ระบุว่า บริษัทสามารถตรวจพบและหยุดยั้งกลุ่มนักวิทยาศาสตร์หลายราย ที่พยายามใช้โมเดลปัญญาประดิษฐ์หรือ AI ในการสร้างอาวุธชีวภาพที่มีศักยภาพ โดยประเด็นเรื่องการใช้งานในทางที่ผิดเกี่ยวกับชีวภาพนี้ เป็นหนึ่งในหลายรูปแบบความเสี่ยงที่บริษัทกำลังให้ความสำคัญ เนื่องจากโมเดลรุ่นใหม่มีความสามารถในการช่วยเหลืองานด้านการวิจัยทางวิทยาศาสตร์สูงขึ้นเรื่อย ๆ

กรณีศึกษาการใช้งานที่ถูกตรวจพบ

รายงานของ Anthropic เปิดเผยกรณีศึกษา 5 กรณีที่โมเดลของบริษัทถูกนำไปใช้พัฒนาอาวุธชีวภาพ รวมถึงมาตรการรักษาความปลอดภัยที่ทำให้บริษัทล่วงรู้ถึงการใช้งานในทางที่ผิดเหล่านี้ ในเดือนพฤษภาคมที่ผ่านมา ระบบคัดกรองความปลอดภัยทางชีวภาพของบริษัท ได้ตรวจจับคำขอให้ Claude ช่วยเขียนข้อเสนอทุนวิจัยสำหรับการศึกษาการเพิ่มฟังก์ชัน (gain-of-function) ของไวรัส chikungunya ซึ่งเป็นไวรัสที่ไม่มีการรักษาที่ได้รับใบอนุญาตและทำให้เกิดอาการป่วยเรื้อรัง

ข้อเสนอดังกล่าวมุ่งเน้นการเพิ่มความสามารถในการแพร่เชื้อและการหลบเลี่ยงภูมิคุ้มกัน นอกจากนี้ยังมีกรณีที่เกี่ยวข้องกับการวิจัยลักษณะเดียวกันในโรคไข้หวัดนก รวมถึงนักวิจัยที่ใช้ Claude พัฒนาแผนที่ของเปปไทด์พิษจากสัตว์มีพิษและสร้างท่อส่งรุ่นสำหรับปรับปรุงคุณสมบัติของสารพิษเหล่วงนี้ด้วย

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

ความซับซ้อนในการแยกแยะเจตนา

การตรวจจับการใช้งานที่ผิดวัตถุประสงค์มีความซับซ้อนอย่างยิ่ง เนื่องจากงานวิจัยเกี่ยวกับวัคซีนใหม่อาจมีความคล้ายคลึงกับการสร้างอาวุธชีวภาพ ทำให้บริษัทเลือกที่จะระมัดระวังอย่างมากเนื่องจากผลกระทบที่อาจเกิดขึ้น หัวหน้าฝ่ายข่าวกรองภัยคุกคามของ Anthropic ระบุว่าสถานการณ์นี้ไม่ใช่ภาพจำจากภาพยนตร์ที่ใครบางคนต้องการสร้างอาวุธเพื่อสังหารผู้คน แต่เป็นสถานการณ์ที่มีความซับซ้อนสูงมาก

มาตรการรับมือของบริษัท

บุคคลทั้งหมดที่นำโมเดล Claude ไปใช้ในทางที่ผิดถูกสั่งแบนบัญชีใช้งาน และผลจากการตรวจสอบครั้งนี้ถูกนำไปใช้ปรับปรุงมาตรการรักษาความปลอดภัยของโมเดลเพื่อป้องกันเหตุการณ์ในอนาคต อย่างไรก็ตาม Anthropic ตัดสินใจไม่เปิดเผยชื่อบุคคลหรือสถาบันที่เกี่ยวข้อง เนื่องจากบุคคลเหล่านี้เป็นนักวิทยาศาสตร์ที่กำลังปฏิบัติงานจริง และบริษัทไม่ได้ระบุว่าบุคคลเหล่านั้นมีเจตนาสร้างความเสียหาย การเปิดเผยชื่ออาจทำให้พวกเขาหรือห้องปฏิบัติการตกอยู่ในความเสี่ยงอันตราย

สิ่งที่ผู้ใช้และนักวิจัยควรรู้

เนื่องจากเส้นแบ่งระหว่างการวิจัยทางการแพทย์ที่เป็นประโยชน์กับการสร้างภัยคุกคามมีความคาบเกี่ยวกันสูง นักพัฒนาและผู้ใช้งานด้านวิทยาศาสตร์จึงต้องตระหนักถึงมาตรการตรวจสอบความปลอดภัยที่เข้มงวดของแพลตฟอร์ม AI ระบบคัดกรองของ AI จะทำการตรวจสอบเนื้อหาที่มีความละเอียดอ่อน เช่น การวิจัยที่เกี่ยวข้องกับไวรัสอันตรายหรือสารพิษ และอาจระงับการใช้งานทันทีหากตรวจพบความเสี่ยง แม้ว่างานวิจัยนั้นจะมีเป้าหมายในเชิงวิชาการก็ตาม

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ