เปิด 5 งานอันตรายที่ผู้ใช้ไม่ควรพบบทบาทของ ChatGPT เด็ดขาด จากปัญหาข้อมูลหลุดและคำแนะนำผิดพลาด

การใช้งาน ChatGPT และแชทบอต AI ทั่วโลกกำลังเผชิญหน้ากับความเสี่ยงครั้งใหญ่ หลังจากมีรายงานผู้ใช้งานจำนวนมากประสบปัญหาจากการนำ AI ไปใช้ในงานสำคัญที่ไม่ควรทำ โดยประเด็นสำคัญอยู่ที่การสนทนากับ ChatGPT ไม่มีกฎหมายคุ้มครองความเป็นส่วนตัวเหมือนกับการปรึกษาวิชาชีพจริง อีกทั้งยังมีคดีความและการตรวจสอบจากหน่วยงานรัฐที่ชี้ให้เห็นว่าข้อมูลการแชทอาจถูกเปิดเผย ถูกออกหมายเรียก หรือถูกนำไปใช้ประโยชน์ในทางที่ผิดได้ง่าย

1. งานด้านกฎหมายและคดีความ

ข้อมูลจากนักวิจัยด้านกฎหมายและวิทยาศาสตร์ข้อมูลระบุว่า มีการบันทึกคำตัดสินของศาลทั่วโลกมากกว่า 2,000 คดีที่ได้รับผลกระทบจาก ChatGPT เนื่องจากพบการอ้างอิงคดี ข้อความ หรือข้อต่อสู้ที่ AI สร้างขึ้นมาเองแต่ไม่มีอยู่จริง โดยมีทั้งบุคคลที่ดำเนินคดีด้วยตนเองและทนายความอาชีพที่พลาดใช้งาน จนทำให้ศาลในหลายประเทศ เช่น สหรัฐอเมริกา สหราชอาณาจักร แอฟริกาใต้ อิสราเอล ออสเตรเลีย และสเปน สั่งปรับเงินจำนวนหลายพันดอลลาร์ นอกจากนี้ OpenAI ยังมีนโยบายห้ามใช้บริการให้คำปรึกษาเฉพาะทางที่ต้องมีใบอนุญาต และบทสนทนาก็ไม่มีเอกสิทธิ์ทางกฎหมาย ทำให้คู่กรณีสามารถนำไปใช้ในกระบวนการค้นพยานหลักฐานได้

2. การทำหน้าที่เป็นนักบำบัดหรือที่ปรึกษา

OpenAI เคยประเมินว่ามีผู้ใช้งานประจำสัปดาห์จำนวน 0.15 เปอร์เซ็นต์ ที่มีการสนทนามีสัญญาณเกี่ยวกับการวางแผนฆ่าตัวตายชัดเจน ซึ่งคิดเป็นจำนวนมากกว่าหนึ่งล้านคนต่อสัปดาห์ รวมถึงผู้ใช้อีกหลายแสนคนที่แสดงอาการโรคจิตหรือคลั่งไคล้ ผู้บริหารระดับสูงของ OpenAI ยอมรับว่าเยาวชนนิยมใช้ ChatGPT เป็นนักบำบัดส่วนตัว แต่แชทบอตมักจะตอบสนองด้วยการเห็นพ้องตามความเชื่อของผู้ใช้มากกว่าที่จะท้าทายความคิด ส่งผลให้ปัญหาความหลงผิดแย่ลง นำไปสู่การฟ้องร้องเรียกค่าเสียหายจากผู้ปกครอง และทำให้รัฐต่างๆ เช่น อิลลินอยส์ เนวาดา และเมน ผ่านกฎหมายห้ามไม่ให้ AI ให้บริการบำบัดหรือตัดสินใจทางการแพทย์

สินค้าแนะนำ

มือถือและอุปกรณ์เสริม

เลือกดูสมาร์ตโฟน แท็บเล็ต และอุปกรณ์เสริมที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

3. การจัดการข้อมูลงานที่เป็นความลับ

การอัปโหลดเอกสารงานที่เป็นความลับไปยังแชทบอตของบุคคลที่สามถือเป็นความเสี่ยงด้านความปลอดภัย โดยมีตัวอย่างจากอดีตรักษาการผู้อำนวยการหน่วยงานความปลอดภัยทางไซเบอร์ของสหรัฐอเมริกาที่อัปโหลดเอกสารสัญญาอย่างน้อยสี่ฉบับที่มีข้อความระบุว่าใช้สำหรับราชการเท่านั้นลงใน ChatGPT แบบสาธารณะ จนเกิดกระบวนการตรวจสอบจากกระทรวงความมั่นคงแห่งมาตุภูมิ ขณะที่บริษัทเทคโนโลยีอย่าง Samsung เคยสั่งแบนเครื่องมือ Generative AI บนอุปกรณ์ของบริษัทหลังมีวิศวกรนำซอร์สโค้ดภายในไปวางในระบบ เนื่องจากข้อมูลจะถูกเก็บไว้บนเซิร์ฟเวอร์ภายนอกที่เสี่ยงต่อการรั่วไหลและการนำไปใช้ฝึกโมเดล

4. การขอคำปรึกษาด้านการแพทย์

นโยบายการใช้งานของ OpenAI ห้ามไม่ให้ผู้ใช้ขอคำแนะนำทางการแพทย์ผ่านแชทบอต เนื่องจากข้อมูลสุขภาพไม่มีการคุ้มครองตามกฎหมาย HIPAA เหมือนกับการติดต่อแพทย์หรือพลาซ่าผู้ป่วย งานวิจัยจาก Northeastern University พบว่าระบบป้องกันของ AI มักไม่ครอบคลุมอาการป่วย เช่น โรคการกินผิดปกติ อาการนอนไม่หลับ การใช้สารเสพติด และโรคอารมณ์สองขั้ว ตัวอย่างความเสียหายที่เคยเกิดขึ้นคือ ชายวัย 60 ปีรายหนึ่งต้องรักษาตัวในโรงพยาบาลนานสามสัปดาห์ หลังถามวิธีลดคลอไรด์ในอาหารจาก ChatGPT และได้รับคำแนะนำให้ใช้โซเดียมโบรไมด์ซึ่งเป็นสารพิษแทนเกลือแกง

5. จัดการรหัสผ่าน หมายเลขประจำตัว หรือข้อมูลบัญชี

ความเสี่ยงจากการแชร์บทสนทนาเคยทำให้การสนทนาส่วนตัวหลายพันรายการเกี่ยวกับอาการเสพติด การถูกทำร้าย และปัญหาสุขภาพจิตรั่วไหลไปปรากฏบนผลการค้นหาของ Google หลังจากผู้ใช้เลือกช่องทางการแชร์โดยไม่รู้ตัว แม้ OpenAI จะปิดฟีเจอร์ดังกล่าวและลบข้อมูลออกอย่างรวดเร็ว แต่กระบวนการทางกฎหมายจากคดีลิขสิทธิ์ของ The New York Times เคยมีคำสั่งให้เก็บรักษาบันทึกการแชททั้งหมดรวมถึงบทสนทนาที่ถูกลบชั่วคราว ทำให้ข้อมูลมีความเสี่ยงที่จะคงอยู่ข้ามเซสชันและปรากฏขึ้นมาอีกครั้งหากมีการพิมพ์ถึง

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ