รายงานชี้ AI เกือบทำให้กองทัพสหรัฐฯ เปิดฉากสงครามกับจีนหลังสร้างข้อมูลข่าวกรองเท็จ

รายงานข่าวระบุว่า เกิดเหตุการณ์เกือบทำให้กองทัพสหรัฐฯ เปิดฉากทำสงคราม หลังจากรายงานข่าวกรองที่สร้างขึ้นโดยปัญญาประดิษฐ์หรือ AI ส่วนหนึ่งมีความผิดพลาด และเกือบทำให้กองทัพตัดสินใจโจมตีเรือของประเทศจีนในภูมิภาคตะวันออกกลาง เหตุการณ์ดังกล่าวสร้างความกังวลเกี่ยวกับความเสี่ยงในการนำเทคโนโลยี AI เข้ามาผสานการทำงานกับกระทรวงกลาโหมสหรัฐฯ ซึ่งเป็นงานที่มีความอ่อนไหวสูง

จุดเริ่มต้นของเหตุการณ์และข้อผิดพลาดจากแชทบอต

เหตุการณ์ความเข้าใจผิดนี้เริ่มต้นขึ้นเมื่อนักวิเคราะห์จากหน่วยปฏิบัติการพิเศษ ได้ใช้งานแชทบอต AI เพื่อตรวจสอบรายการสินค้าบนเรือของจีน แชทบอตตัวดังกล่าวได้นำข้อมูลข่าวกรองจากแหล่งข้อมูลเปิดมารวมเข้ากับข้อมูลข่าวกรองด้านสัญญาณลับ จนได้ข้อสรุปว่าเรือลำดังกล่าวกำลังบรรทุกชิ้นส่วนที่เกี่ยวข้องกับโครงการอาวุธนิวเคลียร์ ข้อสรุปที่ผิดพลาดนี้เกือบทำให้กองทัพสหรัฐฯ เข้าจับกุมเรือลำดังกล่าว ก่อนที่เจ้าหน้าที่ Department of Defense จะตรวจสอบพบความจริงว่าข้อมูลดังกล่าวถูกสร้างขึ้นโดย AI

ข้อจำกัดและความไม่แน่นอนของเครื่องมือ

จนถึงขณะนี้ยังไม่มีการเปิดเผยแน่ชัดว่าเรือลำดังกล่าวได้บรรทุกสิ่งใดมาจริงๆ หรือเครื่องมือ AI รูปแบบใดที่นักวิเคราะห์ใช้งาน ไม่ว่าจะเป็นเครื่องมือเชิงพาณิชย์หรือเครื่องมือที่ออกแบบมาสำหรับรัฐบาลสหรัฐฯ โดยเฉพาะ เนื่องจากกระทรวงกลาโหมกำลังผลักดันการนำ AI มาใช้งานในภาพรวม จึงมีตัวเลือกที่อาจเกี่ยวข้องหลายระบบ

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

นโยบายผลักดัน AI สู่กองทัพและความร่วมมือกับภาคเอกชน

ในเดือนมกราคม รัฐมนตรีว่าการกระทรวงกลาโหม Pete Hegseth ได้เผยแพร่บันทึกข้อความสั่งการให้กระทรวงกลาโหมมุ่งเน้นไปที่การเป็นองค์กรที่ขับเคลื่อนด้วย AI ก่อน พร้อมทั้งทดลองใช้งานโมเดลจากบริษัท AI ชั้นนำของสหรัฐฯ การผลักดันดังกล่าวเคยเกิดกรณีที่บริษัท Anthropic ปฏิเสธไม่ให้กองทัพนำโมเดลไปพัฒนาอาวุธที่มีระบบอัตโนมัติ จนทำให้ถูกแบนจากรัฐบาลชั่วระยะเวลาหนึ่ง แต่ก็ได้นำไปสู่ความร่วมมือด้าน AI กับบริษัทอื่นๆ ในเวลาต่อมา

ความร่วมมือด้านเทคโนโลยีล่าสุดของกระทรวงกลาโหม

ในเดือนกุมภาพันธ์ SpaceXAI บรรลุข้อตกลงอนุญาตให้กองทัพสหรัฐฯ สามารถใช้งาน Grok ได้ นอกจากนี้ ในเดือนพฤษภาคม NVIDIA, Microsoft และ Amazon ได้ร่วมมือกันเพื่อเสนอเทคโนโลยี AI ของตนให้กับกระทรวงกลาโหม ข้อตกลงกับหน่วยงานรัฐเหล่านี้มีมูลค่าสูง ซึ่งเป็นเหตุผลที่ทำให้บริษัทต่างๆ เข้ามาร่วมมือ แต่ความช่วยเหลือในการผลักดันให้เกิดการใช้งาน AI ย่อมมาพร้อมกับความเสี่ยงที่ซอฟต์แวร์องค์กรทั่วไปไม่มี

สิ่งที่ผู้ใช้ควรรู้และประเด็นที่ต้องติดตามต่อ

จากเหตุการณ์ที่เกิดขึ้น สะท้อนให้เห็นว่าการนำ AI มาใช้ในงานด้านความมั่นคงและการทหารยังคงมีความเสี่ยงและข้อจำกัดที่สำคัญ โดยเฉพาะความถูกต้องของข้อมูลที่ถูกสังเคราะห์ขึ้น ซึ่งอาจนำไปสู่สถานการณ์วิกฤตระดับนานาชาติได้หากเจ้าหน้าที่ไม่ตรวจสอบให้รอบคอบ สิ่งที่ต้องติดตามต่อไปคือท่าทีและการทบทวนมาตรการรักษาความปลอดภัยของกระทรวงกลาโหมสหรัฐฯ หลังจากเกิดเหตุการณ์เกือบโจมตีเรือจีนครั้งนี้ รวมถึงทิศทางในอนาคตของการร่วมมือระหว่างกองทัพและบริษัทผู้พัฒนาเทคโนโลยี AI รายใหญ่

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ

ศาลสหรัฐฯ ตัดสินคำสั่งแบน Anthropic ของเพนตากอนเป็นโมฆะ ชี้ไม่มีเหตุผลรองรับและขัดต่อกฎหมาย

ศาลรัฐบาลกลางสหรัฐฯ มีคำพิพากษาว่าคำสั่งของเพนตากอนที่ขึ้นบัญชีดำ Anthropic เป็นความเสี่ยงด้านห่วงโซ่อุปทานนั้นไม่ชอบด้วยกฎหมาย พร้อมสั่งระงับการบังคับใช้คำสั่งแบนดังกล่าว

ศาลรัฐบาลกลางสหรัฐอเมริกามีคำพิพากษาว่า การที่กระทรวงกลาโหมสหรัฐฯ หรือเพนตากอน ขึ้นบัญชีดำบริษัท AI ชื่อดังอย่าง Anthropic ให้เป็นความเสี่ยงด้านห่วงโซ่อุปทานนั้น เป็นการกระทำที่ผิดกฎหมายและไร้เหตุผลรองรับ ผู้พิพากษา Rita Lin แห่งศาลแขวงสหรัฐฯ ได้มีคำวินิจฉัยระบุว่าข้อจำกัดที่กระทรวงกลาโหมบังคับใช้กับบริษัทและโมเดล AI อย่าง Claude นั้นไม่ชอบด้วยกฎหมาย

จากคำตัดสินดังกล่าว ศาลได้สั่งห้ามหน่วยงานรัฐบาลกลางบางแห่งไม่ให้บังคับใช้คำสั่งของประธานาธิบดีโดนัลด์ ทรัมป์ ในการหยุดใช้งานเครื่องมือจาก Anthropic ผู้พิพากษายังได้เน้นย้ำในคำตัดสินความยาว 59 หน้าว่า การอ้างเรื่องความมั่นคงแห่งชาติอย่างลอยๆ นั้น ไม่ใช่ใบอนุญาตเปล่าที่จะนำมาใช้ลงโทษและแก้แค้นผู้ที่วิพากษ์วิจารณ์รัฐบาล พร้อมระบุว่าทั้งรัฐธรรมนูญและกฎหมายกลางที่จำเลยอ้างถึง ไม่ได้ยินยอมให้มีการลงโทษเป็นวงกว้างโดยมีสาเหตุหลักมาจากการที่ Anthropic วิจารณ์มุมมองของฝ่ายบริหาร

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

จุดเริ่มต้นของข้อพิพาทและการกดดันจากเพนตากอน

ความขัดแย้งดังกล่าวปะทุขึ้นในช่วงปลายเดือนกุมภาพันธ์ หลังจากที่กระทรวงกลาโหมและรัฐมนตรีว่าการกระทรวงกลาโหม Pete Hegseth พยายามกดดันให้ Anthropic ถอดถอนระบบความปลอดภัยบางประการออกจากระบบ AI ของบริษัท แต่ทางด้าน Dario Amodei ซึ่งเป็นซีอีโอของ Anthropic ได้แสดงจุดยืนอย่างชัดเจนว่าบริษัทจะไม่ยอมให้โมเดลของตนถูกนำไปใช้ในงานเฝ้าระวังมวลชน หรือใช้ในการพัฒนาอาวุธไร้คนขับ

เหตุการณ์ดังกล่าวทำให้ประธานาธิบดีทรัมป์สั่งให้หน่วยงานรัฐบาลสหรัฐฯ ทุกแห่งยุติการใช้งาน Claude และบริการอื่นๆ ของ Anthropic พร้อมทั้งระบุผ่านโซเชียลมีเดียว่าจะมีช่วงเวลาเปลี่ยนผ่าน 6 เดือนเพื่อให้หน่วยงานรัฐบาลโยกย้ายออกจากผลิตภัณฑ์ของบริษัท หลังจากที่การเจรจาล่มลง Anthropic จึงกลายเป็นบริษัทสัญชาติอเมริกันรายแรกที่ถูกขึ้นบัญชีดำเป็นความเสี่ยงด้านห่วงโซ่อุปทาน

สถานการณ์ทางกฎหมายและผลกระทบต่อธุรกิจของบริษัท

หลังจากประกาศว่าจะท้าทายการตัดสินใจดังกล่าว Anthropic ได้ยฟ้องร้องทำเนียบขาวต่อศาลรัฐบาลกลางสองแห่ง เพื่อพยายามยกเลิกคำสั่งแบนทั้งสองกรณี คำตัดสินล่าสุดของผู้พิพากษา Lin ถือเป็นชัยชนะของบริษัทในคดีแรก แต่อย่างไรก็ตาม Anthropic ยังคงถูกมองว่าเป็นความเสี่ยงด้านห่วงโซ่อุปทานจนกว่าจะมีคำตัดสินในคดีที่สองตามมา

แม้ว่าบริษัทจะชนะคดีทั้งสองกรณี แต่เพนตากอนก็ไม่ได้ถูกบังคับให้ต้องกลับมาร่วมงานกับบริษัทแต่อย่างใด ในขณะเดียวกัน การถูกขึ้นบัญชีดำก็ไม่ได้ส่งผลกระทบต่อการเติบโตของ Anthropic ที่กำลังจะเตรียมตัวเข้าตลาดหุ้น IPO ในช่วงปีนี้ โดยเมื่อช่วงต้นเดือนที่ผ่านมา รายได้ของบริษัทพุ่งสูงเป็นประวัติการณ์ถึง 1.15 หมื่นล้านดอลลาร์ ซึ่งสูงกว่าช่วงเดียวกันของปีที่แล้วถึง 14 เท่า