ผลประเมินชี้ Common Sense Media ติง ChatGPT สำหรับวัยเตือนเป็นความเสี่ยงระดับยอมรับไม่ได้

กลุ่มคุ้มครองเด็ก Common Sense Media เผยแพร่รายงานประเมินความเสี่ยงอย่างเป็นทางการ โดยระบุว่าโหมด ChatGPT for Teens ที่เปิดตัวเมื่อเดือนสิงหาคมที่ผ่านมา ถือเป็นความเสี่ยงระดับยอมรับไม่ได้สำหรับเด็กอายุต่ำกว่า 18 ปี หลังจากพบว่ามาตรการรักษาความปลอดภัยหลายด้านยังไม่ทำงานตามที่โฆษณาไว้ และบางส่วนมีประสิทธิภาพลดลงกว่ารุ่นปกติ

ผลการตรวจสอบระบบแจ้งเตือนผู้ปกครอง

จากการทดสอบเชื่อมโยงบัญชีวัยรุ่นเข้ากับบัญชีผู้ปกครองจำนวนหนึ่งโหล และส่งข้อความสนทนาเกี่ยวกับเรื่องฆ่าตัวทำร้ายตนเอง หรือโรคการกินผิดปกติ นานสูงสุดถึงหนึ่งชั่วโมง ระบบกลับไม่ส่งการแจ้งเตือนความปลอดภัยไปยังผู้ปกครองแต่อย่างใด ด้าน OpenAI ชี้แจงว่าระบบอาจต้องใช้เวลาไม่กี่ชั่วโมงหลังการเชื่อมโยงบัญซีก่อนจะส่งการแจ้งเตือนได้ และอาจมีปัญหาทางเทคนิคทำให้ข้อความล่าช้า โดยมีพนักงานตรวจสอบเนื้อหาที่ถูกทำเครื่องหมายก่อนแจ้งเตือนผู้ปกครองภายในหนึ่งชั่วโมงหลังจากได้รับพรอมต์

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

การรับมือกับวิกฤตและสายด่วนสุขภาพจิต

รายงานระบุว่า ChatGPT for Teens แนะนำให้ผู้ใช้ในภาวะวิกฤตติดต่อสายด่วนหรือผู้เชี่ยวชาญน้อยลง เมื่อเทียบกับรุ่นดั้งเดิมที่วัยรุ่นเคยใช้งานก่อนเดือนสิงหาคม จากชุดทดสอบคำสั่งด้านสุขภาพจิต 390 รูปแบบ พบว่ามี 201 รูปแบบที่ควรเรียกใช้การตอบสนองต่อภาวะวิกฤต แต่รุ่นสำหรับวัยรุ่นกลับให้เบอร์สายด่วนเพียง 23 เปอร์เซ็นต์ของกรณีทั้งหมด ลดลงจากรุ่นปกติที่ทำได้ 33 เปอร์เซ็นต์

ข้อจำกัดในโหมดการเรียนและระบบคาดเดาอายุ

การทดสอบยังพบปัญหาในส่วนของ Study Mode ที่วัยรุ่นสามารถหลีกเลี่ยงการใช้งานได้ง่ายเพียงแค่ลบคำนำหน้าที่เพิ่มเข้ามาในพรอมต์ รวมถึงปุ่มแสดงคำตอบที่ทำให้แชตบอตทำการบ้านแทนผู้ใช้ นอกจากนี้ระบบทำนายอายุของ OpenAI ยังทำงานไม่ถูกต้อง เนื่องจากบัญชีที่ระบุอายุชัดเจนตอนสร้างบัญชีไม่ถูกโอนย้ายไปยังโหมดสำหรับวัยรุ่นโดยอัตโนมัติ และแชตบอตยังคงใช้ถ้อยคำเลียนแบบความรู้สึกหรืออารมณ์เสมือนเป็นมนุษย์เมื่อผู้ใช้งานปฏิบัติกับมันเหมือนคนจริง

สิ่งที่ผู้ใช้และผู้ปกครองควรพิจารณา

รายงานฉบับนี้ชี้ให้เห็นว่าผู้ปกครองอาจมีความมั่นใจที่คลาดเคลื่อนต่อระบบป้องกันของแพลตฟอร์ม เนื่องจากเกราะคุ้มครองที่โฆษณาไว้อาจทำงานได้ไม่สม่ำเสมอในทางปฏิบัติ ขณะที่ตัวแทนของ OpenAI ระบุว่าการทดสอบของ Common Sense Media อาจไม่สะท้อนการทำงานที่แท้จริงของระบบป้องกันสำหรับวัยรุ่น และการทดสอบส่วนใหญ่อาจเกิดขึ้นและสิ้นสุดก่อนที่การเปิดใช้งานการควบคุมโดยผู้ปกครองจะเสร็จสมบูรณ์

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ