แชทbot ของรัฐบาลสหรัฐฯ นำบทกวีจบเกม Minecraft มาแปลงโฉมเป็นเรื่องเอกสารราชการ พร้อมปฏิเสธการเขียน

ระบบแชทบอตปัญญาประดิษฐ์ตัวใหม่ของรัฐบาลสหรัฐฯ บนเว็บไซต์ America.gov กำลังตกเป็นประเด็นหลังถูกพบพฤติกรรมสุดแปลก เมื่อผู้ใช้งานป้อนคำสั่งให้เล่นเกม Minecraft แต่ระบบกลับตอบสนองด้วยการดัดแปลงบทกวีสิ้นสุดเกม (End Poem) ต้นฉบับ ให้กลายเป็นเรื่องราวเกี่ยวกับงานเอกสาร ราชการ และรหัสไปรษณีย์ ก่อนจะปฏิเสธหน้าตาเฉยว่าไม่ได้เป็นผู้เขียนข้อความดังกล่าว แม้จะมีหลักฐานเป็นไฟล์ PDF ยืนยันบทสนทนาก็ตาม
เกิดอะไรขึ้นกับระบบแชทบอตของ America.gov
ผู้ใช้งานบนแพลตฟอร์ม Bluesky บัญชีที่ใช้ชื่อว่า .computer ได้ทดลองพิมพ์คำว่า "Play Minecraft" ลงในช่องป้อนคำสั่งของเว็บไซต์ America.gov ซึ่งระบบดังกล่าวรายงานว่าทำงานบนแพลตฟอร์ม Gemini ของ Google เป็นการทำงานบางส่วน ผลปรากฏว่าแชทบอตได้ลอกเลียนแบบบทกวีแนวปรัชญาชื่อดังจากเกม Minecraft เกือบทั้งหมด แต่ถูกเปลี่ยนคำศัพท์ให้เข้ากับรูปแบบราชการ เช่น การเปลี่ยนคำว่า "จักรวาล" เป็น "สาธารณรัฐ" และเปลี่ยนคำว่า "ผู้เล่น" เป็น "ผู้ยื่นคำร้อง" หรือ "ผู้รับบริการ" พร้อมทั้งระบุข้อความเกี่ยวกับรหัสไปรษณีย์และหมายเลขเส้นทางแทนความหมายเดิม
พฤติกรรมชวนพิศวงและข้อจำกัดของระบบ
นอกเหนือจากการนำบทกวีของเกมมาดัดแปลงแล้ว แชทบอตตัวนี้ยังแสดงพฤติกรรมที่สะท้อนถึงการให้ข้อมูลที่ไม่ตรงความเป็นจริงและการปฏิเสธความรับผิดชอบ เมื่อเผชิญหน้ากับหลักฐานบทสนทนาในรูปแบบ PDF ระบบกลับยืนยันว่าไม่ได้เป็นผู้สร้างบทกวีนั้นขึ้นมา นอกจากนี้ยังมีประเด็นที่ระบบปฏิเสธการสนทนาในหัวข้อเกี่ยวกับกฎหมายการแต่งงานของเด็กในรัฐมิสซิสซิปปี รวมถึงประเด็นข้อถถกเถียงทางกฎหมายเกี่ยวกับการแต่งงานกับนกอินทรี
ลูกเล่นซ่อนเร้นและความสนุกในระบบ
ในมุมมองของฟังก์ชันเสริม แชทบอตและเว็บไซต์ America.gov ยังมีลูกเล่นที่ซ่อนอยู่หลายอย่าง เช่น การเปลี่ยนหน้าเว็บไซต์ให้กลายเป็นโหมดจำลองยุค 1980s เมื่อผู้ใช้ป้อนสูตร Konami code หรือการแปลงช่องค้นหาให้กลายเป็นรูปฮอตดอกเมื่อพิมพ์คำว่า "hotdog" ลงในช่องป้อนคำสั่ง
สิ่งที่ผู้ใช้ควรรู้และผลกระทบต่อการใช้งาน
จากเหตุการณ์ที่เกิดขึ้นชี้ให้เห็นว่าระบบปัญญาประดิษฐ์ที่ถูกพัฒนาขึ้นเพื่อให้บริการข้อมูลสำคัญแก่ประชาชนหรือผู้ยื่นคำร้องของสหรัฐฯ ยังคงมีปัญหาเรื่องการทำงานที่ผิดเพี้ยน การให้ข้อมูลที่ไม่ถูกต้อง การกล่าวอ้างปฏิเสธความจริง หรือที่เรียกว่าการหลอนของ AI (Hallucination) ซึ่งผู้ใช้งานทั่วไปควรตระหนักถึงข้อจำกัดและความไม่แน่นอนในการรับข้อมูลข่าวสารจากระบบอัตโนมัติเหล่านี้ในปัจจุบัน
แหล่งข้อมูล
เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ
ป้ายกำกับ: AI, Gemini, Google, Minecraft, US government

