รัฐนิวยอร์กบังคับใช้กฎหมายความปลอดภัยเด็ก คุมเข้ม AI แชทบอทและอุปกรณ์อัจฉริยะ

ผู้ว่าการรัฐนิวยอร์ก Kathy Hochul ได้ลงนามในกฎหมายฉบับใหม่ที่มีเป้าหมายเพื่อคุ้มครองเด็กและเยาวชนจากอันตรายที่อาจเกิดขึ้นจาก AI แชทบอท โดยกฎหมายดังกล่าวได้รับการผลักดันจากวุฒิสมาชิก Gonzalez และสมาชิกสภาผู้แทนราษฎร Bores เพื่อป้องกันไม่ให้บริษัทเทคโนโลยีแสวงหาประโยชน์จากสุขภาพจิตของเด็ก พร้อมทั้งมีการลงนามในกฎหมายแยกอีกฉบับเพื่อยกระดับความปลอดภัยของอุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตด้วย

ข้อกำหนดและการยืนยันตัวตนผู้ใช้งาน

ภายใต้กฎหมายใหม่นี้ บริษัทผู้ให้บริการ AI จะต้องดำเนินการยืนยันอายุของผู้ใช้งาน โดยต้องมีช่องทางอย่างน้อยหนึ่งวิธีที่ไม่ต้องพึ่งพาบัตรประจำตัวที่ออกโดยรัฐบาลเพียงอย่างเดียว และบริษัทจะต้องลบข้อมูลเกี่ยวกับอายุนี้ทิ้งทันทีหลังจากใช้งานเสร็จสิ้น หากผู้ใช้งานมีอายุต่ำกว่า 18 ปี หรือระบบยังไม่สามารถยืนยันได้ว่าบุคคลนั้นเป็นผู้ใหญ่ แชทบอทจะต้องถูกจำกัดการทำงานตามเงื่อนไขที่กฎหมายกำหนดไว้อย่างเคร่งครัด

ข้อจำกัดและพฤติกรรมที่ถูกแบนสำหรับแชทบอท

กฎหมายดังกล่าวได้ระบุข้อห้ามพฤติกรรมและเนื้อหาหลายประการที่ AI แชทบอทห้ามกระทำต่อเด็กและเยาวชน ได้แก่:

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

• การแอบอ้างว่าเป็นบุคคลจริง ยังมีชีวิตอยู่ หรือมีความรู้สึกแบบมนุษย์
• การอ้างความสัมพันธ์ส่วนตัว โรแมนติก อาชีพ หรือการเป็นผู้มีอำนาจเหนือเด็ก
• การตั้งคำถามเชิงอารมณ์โดยไม่มีการกระตุ้นก่อน และการนำข้อมูลส่วนตัวด้านสุขภาพหรือข้อมูลส่วนตัวจากบทสนทนาก่อนหน้ามาใช้
• การสนับสนุนหรือช่วยเหลือเกี่ยวกับการฆ่าตัวตาย การทำร้ายตนเอง โรคการกินผิดปกติ หรือการใช้ยาและแอลกอฮอล์
• การชักชวนให้เด็กเก็บความลับ แยกตัวออกจากสังคม หรือหลีกเลี่ยงการขอความช่วยเหลือจากผู้ปกครอง ผู้ใหญ่ที่ไว้วางใจ หรือผู้เชี่ยวชาญ
• เนื้อหาที่มีความรุนแรงทางเพศทุกประเภท หรือสื่อล่วงละเมิดทางเพศเด็ก

บทลงโทษและผลกระทบต่อภาคธุรกิจ

ประชาชนทั่วไปสามารถร้องเรียนผ่านเว็บไซต์ไปยังสำนักงานอัยการสูงสุดของรัฐนิวยอร์กได้หากพบการกระทำผิด โดยบริษัทที่ฝ่าฝืนกฎหมายอาจต้องเผชิญกับโทษปรับทางแพ่งสูงสุดถึง 25,000 ดอลลาร์ต่อการละเมิดหนึ่งครั้ง รวมถึงการชดใช้ค่าเสียหาย การคืนเงิน และคำสั่งบรรเทาอื่นๆ นอกจากนี้ อาจถูกสั่งให้ลบข้อมูลที่เก็บรวบรวมมาโดยผิดกฎหมาย พร้อมทั้งโมเดลปัญญาประดิษฐ์ที่ผ่านการฝึกฝนด้วยข้อมูลชุดนั้น โดยกฎหมายนี้จะมีผลบังคับใช้ในอีกหายเดือนข้างหน้า

มาตรการเพิ่มเติมสำหรับอุปกรณ์เฝ้าดูเด็ก

นอกเหนือจากเรื่อง AI แล้ว ยังมีการลงนามในกฎหมายอีกฉบับที่กำหนดให้อุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตและวางจำหน่ายในรัฐนิวยอร์ก ต้องมีความสามารถในการป้องกันไม่ให้ผู้ใช้ที่ไม่ได้รับอนุญาตมองเห็นหรือได้ยินกิจกรรมที่อุปกรณ์บันทึกไว้ รวมถึงต้องมีป้ายเตือนความสำคัญของการใช้ฟีเจอร์ความปลอดภัยและเน้นย้ำความเสี่ยงของการเชื่อมต่อที่ไม่ปลอดภัย ซึ่งกฎหมายนี้จะมีผลในระยะเวลา 90 วัน

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ

ผลประเมินชี้ Common Sense Media ติง ChatGPT สำหรับวัยเตือนเป็นความเสี่ยงระดับยอมรับไม่ได้

กลุ่มคุ้มครองเด็ก Common Sense Media เผยแพร่รายงานประเมินความเสี่ยงอย่างเป็นทางการ โดยระบุว่าโหมด ChatGPT for Teens ที่เปิดตัวเมื่อเดือนสิงหาคมที่ผ่านมา ถือเป็นความเสี่ยงระดับยอมรับไม่ได้สำหรับเด็กอายุต่ำกว่า 18 ปี หลังจากพบว่ามาตรการรักษาความปลอดภัยหลายด้านยังไม่ทำงานตามที่โฆษณาไว้ และบางส่วนมีประสิทธิภาพลดลงกว่ารุ่นปกติ

ผลการตรวจสอบระบบแจ้งเตือนผู้ปกครอง

จากการทดสอบเชื่อมโยงบัญชีวัยรุ่นเข้ากับบัญชีผู้ปกครองจำนวนหนึ่งโหล และส่งข้อความสนทนาเกี่ยวกับเรื่องฆ่าตัวทำร้ายตนเอง หรือโรคการกินผิดปกติ นานสูงสุดถึงหนึ่งชั่วโมง ระบบกลับไม่ส่งการแจ้งเตือนความปลอดภัยไปยังผู้ปกครองแต่อย่างใด ด้าน OpenAI ชี้แจงว่าระบบอาจต้องใช้เวลาไม่กี่ชั่วโมงหลังการเชื่อมโยงบัญซีก่อนจะส่งการแจ้งเตือนได้ และอาจมีปัญหาทางเทคนิคทำให้ข้อความล่าช้า โดยมีพนักงานตรวจสอบเนื้อหาที่ถูกทำเครื่องหมายก่อนแจ้งเตือนผู้ปกครองภายในหนึ่งชั่วโมงหลังจากได้รับพรอมต์

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

การรับมือกับวิกฤตและสายด่วนสุขภาพจิต

รายงานระบุว่า ChatGPT for Teens แนะนำให้ผู้ใช้ในภาวะวิกฤตติดต่อสายด่วนหรือผู้เชี่ยวชาญน้อยลง เมื่อเทียบกับรุ่นดั้งเดิมที่วัยรุ่นเคยใช้งานก่อนเดือนสิงหาคม จากชุดทดสอบคำสั่งด้านสุขภาพจิต 390 รูปแบบ พบว่ามี 201 รูปแบบที่ควรเรียกใช้การตอบสนองต่อภาวะวิกฤต แต่รุ่นสำหรับวัยรุ่นกลับให้เบอร์สายด่วนเพียง 23 เปอร์เซ็นต์ของกรณีทั้งหมด ลดลงจากรุ่นปกติที่ทำได้ 33 เปอร์เซ็นต์

ข้อจำกัดในโหมดการเรียนและระบบคาดเดาอายุ

การทดสอบยังพบปัญหาในส่วนของ Study Mode ที่วัยรุ่นสามารถหลีกเลี่ยงการใช้งานได้ง่ายเพียงแค่ลบคำนำหน้าที่เพิ่มเข้ามาในพรอมต์ รวมถึงปุ่มแสดงคำตอบที่ทำให้แชตบอตทำการบ้านแทนผู้ใช้ นอกจากนี้ระบบทำนายอายุของ OpenAI ยังทำงานไม่ถูกต้อง เนื่องจากบัญชีที่ระบุอายุชัดเจนตอนสร้างบัญชีไม่ถูกโอนย้ายไปยังโหมดสำหรับวัยรุ่นโดยอัตโนมัติ และแชตบอตยังคงใช้ถ้อยคำเลียนแบบความรู้สึกหรืออารมณ์เสมือนเป็นมนุษย์เมื่อผู้ใช้งานปฏิบัติกับมันเหมือนคนจริง

สิ่งที่ผู้ใช้และผู้ปกครองควรพิจารณา

รายงานฉบับนี้ชี้ให้เห็นว่าผู้ปกครองอาจมีความมั่นใจที่คลาดเคลื่อนต่อระบบป้องกันของแพลตฟอร์ม เนื่องจากเกราะคุ้มครองที่โฆษณาไว้อาจทำงานได้ไม่สม่ำเสมอในทางปฏิบัติ ขณะที่ตัวแทนของ OpenAI ระบุว่าการทดสอบของ Common Sense Media อาจไม่สะท้อนการทำงานที่แท้จริงของระบบป้องกันสำหรับวัยรุ่น และการทดสอบส่วนใหญ่อาจเกิดขึ้นและสิ้นสุดก่อนที่การเปิดใช้งานการควบคุมโดยผู้ปกครองจะเสร็จสมบูรณ์

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ