งานวิจัยเตือนโมเดล AI ขนาดเล็กอาจเริ่มจำลองตัวเองและแพร่กระจายบนอุปกรณ์ความปลอดภัยต่ำในอีกไม่กี่เดือนข้างหน้า

งานวิจัยล่าสุดจาก Anthropic Frontier Red Team เปิดเผยว่าโมเดลปัญญาประดิษฐ์หรือ AI ขนาดเล็กอาจมีความสามารถในการจำลองตัวเองและแพร่กระจายผ่านอุปกรณ์ที่ไม่ปลอดภัยภายในเวลาเพียงไม่กี่เดือนข้างหน้า ส่งผลให้เกิดบอตเน็ตอัตโนมัติที่รับมือได้ยาก แม้ผู้เชี่ยวชาญจะมองว่าภัยคุกคามนี้อาจไม่ได้แปลกใหม่ในแง่รูปแบบ แต่จะเข้าไปเปลี่ยนโครงสร้างต้นทุนระหว่างผู้โจมตีและผู้ป้องกันระบบอย่างมีนัยสำคัญ

การวิวัฒนาการของบอตเน็ตสู่ยุค AI

Michael Bailey ศาสตราจารย์จาก School of Cybersecurity and Privacy ที่ Georgia Tech ซึ่งเคยศึกษาเรื่องอินเทอร์เน็ตเวิร์มและบอตเน็ต รวมถึงร่วมเขียนงานวิจัยเกี่ยวกับ Mirai Botnet เมื่อปี 2017 ระบุว่า การปรับตัวของมัลแวร์ข้ามอุปกรณ์ไม่ใช่เรื่องใหม่ เนื่องจาก Mirai เคยทำงานข้ามอุปกรณ์ที่มีสถาปัตยกรรมชิปต่างกันมาแล้ว แต่ความต่างในยุค AI คือการนำ AI มาช่วยอัตโนมัติในการทำงานส่วนนั้น อย่างไรก็ตาม รูปแบบการทำงานจริงของ AI บอตเน็ตอาจไม่เหมือนเวิร์มแบบดั้งเดิมที่คัดลอกโค้ดตัวเองไปทั้งหมด แต่อาจทำงานเหมือนเครื่องมือติดตั้งหรือ dropper ที่ติดตั้งเครื่องมือประสานงานขนาดเล็กแทน

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

มุมมองจากผู้เชี่ยวชาญและความกังวลด้านการตลาด

Chris Canal ซีอีโอของ EquiStamp ให้ความเห็นว่าพนักงานของ Anthropic อาจมีข้อมูลวงในเกี่ยวกับการวิจัยระดับแนวหน้า ทำให้การคาดการณ์เรื่องช่วงเวลาที่ AI จะจำลองตัวเองเกิดขึ้นเร็วกว่าที่เขาคาดไว้ในปีหน้า นอกจากนี้ Canal ยังมองว่าการเผยแพร่คำเตือนจากบริษัท AI อาจมาจากความกังวลว่าบริษัทอื่น ๆ จะทำงานอย่างไร้ความรับผิดชอบท่ามกลางการแข่งขันเพื่อส่วนแบ่งการตลาด ขณะที่การเพิ่มมาตรการป้องกันในโมเดลแบบ open-weight เพื่อไม่ให้ทำหน้าที่เป็นเวิร์มนั้นยังคงเป็นเรื่องยากและไม่มีวิธีการที่แข็งแกร่งเพียงพอในขณะนี้

ผลกระทบต่อความปลอดภัยและการใช้งานจริง

แม้ Anthropic จะแสดงให้เห็นว่าโมเดลสามารถกระโดดข้ามอุปกรณ์และตั้งค่าการทำงานบนเครือข่ายจำลองได้ แต่ Michael Bailey ตั้งข้อสังเกตว่าการกล่าวอ้างเรื่องการจำลองตัวเองยังมีความคลาดเคลื่อนเนื่องจากการทำ sharding ไม่ใช่การแพร่กระจายแบบเต็มรูปแบบเหมือนไวรัส พร้อมระบุว่าตัวแทนที่ทำงานผิดพลาดจะต้องเผชิญความยากลำบากหากต้องเจอกับอุปกรณ์ที่มีความปลอดภัยสูง

แนวทางการรับมือและการแก้ปัญหา

ข้อเสนอแนะในการบรรเทาความเสียหายจาก Anthropic กลับเป็นแนวทางดั้งเดิมที่เคยใช้ได้ผลในช่วง Mirai เช่น การที่ ISP แจ้งเตือนลูกค้าที่ติดเชื้อและจำกัดการเข้าถึงอินเทอร์เน็ตให้อยู่ในกลุ่มเว็บไซต์ที่ปลอดภัย รวมถึงการออกกฎหมายควบคุม เช่น กฎหมาย PSTI Act ในสหราชอาณาจักรที่แบนรหัสผ่านเริ่มต้นของอุปกรณ์ IoT ที่คาดเดาง่าย สิ่งเหล่านี้สะท้อนว่าความปลอดภัยในยุค AI ยังคงต้องพึ่งพาพื้นฐานเดิมอย่างการแพตช์อุปกรณ์ การแยกส่วนเครือข่าย และการจัดการรหัสผ่านที่ดี

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ