รัฐนิวยอร์กบังคับใช้กฎหมายความปลอดภัยเด็ก คุมเข้ม AI แชทบอทและอุปกรณ์อัจฉริยะ

ผู้ว่าการรัฐนิวยอร์ก Kathy Hochul ได้ลงนามในกฎหมายฉบับใหม่ที่มีเป้าหมายเพื่อคุ้มครองเด็กและเยาวชนจากอันตรายที่อาจเกิดขึ้นจาก AI แชทบอท โดยกฎหมายดังกล่าวได้รับการผลักดันจากวุฒิสมาชิก Gonzalez และสมาชิกสภาผู้แทนราษฎร Bores เพื่อป้องกันไม่ให้บริษัทเทคโนโลยีแสวงหาประโยชน์จากสุขภาพจิตของเด็ก พร้อมทั้งมีการลงนามในกฎหมายแยกอีกฉบับเพื่อยกระดับความปลอดภัยของอุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตด้วย

ข้อกำหนดและการยืนยันตัวตนผู้ใช้งาน

ภายใต้กฎหมายใหม่นี้ บริษัทผู้ให้บริการ AI จะต้องดำเนินการยืนยันอายุของผู้ใช้งาน โดยต้องมีช่องทางอย่างน้อยหนึ่งวิธีที่ไม่ต้องพึ่งพาบัตรประจำตัวที่ออกโดยรัฐบาลเพียงอย่างเดียว และบริษัทจะต้องลบข้อมูลเกี่ยวกับอายุนี้ทิ้งทันทีหลังจากใช้งานเสร็จสิ้น หากผู้ใช้งานมีอายุต่ำกว่า 18 ปี หรือระบบยังไม่สามารถยืนยันได้ว่าบุคคลนั้นเป็นผู้ใหญ่ แชทบอทจะต้องถูกจำกัดการทำงานตามเงื่อนไขที่กฎหมายกำหนดไว้อย่างเคร่งครัด

ข้อจำกัดและพฤติกรรมที่ถูกแบนสำหรับแชทบอท

กฎหมายดังกล่าวได้ระบุข้อห้ามพฤติกรรมและเนื้อหาหลายประการที่ AI แชทบอทห้ามกระทำต่อเด็กและเยาวชน ได้แก่:

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

• การแอบอ้างว่าเป็นบุคคลจริง ยังมีชีวิตอยู่ หรือมีความรู้สึกแบบมนุษย์
• การอ้างความสัมพันธ์ส่วนตัว โรแมนติก อาชีพ หรือการเป็นผู้มีอำนาจเหนือเด็ก
• การตั้งคำถามเชิงอารมณ์โดยไม่มีการกระตุ้นก่อน และการนำข้อมูลส่วนตัวด้านสุขภาพหรือข้อมูลส่วนตัวจากบทสนทนาก่อนหน้ามาใช้
• การสนับสนุนหรือช่วยเหลือเกี่ยวกับการฆ่าตัวตาย การทำร้ายตนเอง โรคการกินผิดปกติ หรือการใช้ยาและแอลกอฮอล์
• การชักชวนให้เด็กเก็บความลับ แยกตัวออกจากสังคม หรือหลีกเลี่ยงการขอความช่วยเหลือจากผู้ปกครอง ผู้ใหญ่ที่ไว้วางใจ หรือผู้เชี่ยวชาญ
• เนื้อหาที่มีความรุนแรงทางเพศทุกประเภท หรือสื่อล่วงละเมิดทางเพศเด็ก

บทลงโทษและผลกระทบต่อภาคธุรกิจ

ประชาชนทั่วไปสามารถร้องเรียนผ่านเว็บไซต์ไปยังสำนักงานอัยการสูงสุดของรัฐนิวยอร์กได้หากพบการกระทำผิด โดยบริษัทที่ฝ่าฝืนกฎหมายอาจต้องเผชิญกับโทษปรับทางแพ่งสูงสุดถึง 25,000 ดอลลาร์ต่อการละเมิดหนึ่งครั้ง รวมถึงการชดใช้ค่าเสียหาย การคืนเงิน และคำสั่งบรรเทาอื่นๆ นอกจากนี้ อาจถูกสั่งให้ลบข้อมูลที่เก็บรวบรวมมาโดยผิดกฎหมาย พร้อมทั้งโมเดลปัญญาประดิษฐ์ที่ผ่านการฝึกฝนด้วยข้อมูลชุดนั้น โดยกฎหมายนี้จะมีผลบังคับใช้ในอีกหายเดือนข้างหน้า

มาตรการเพิ่มเติมสำหรับอุปกรณ์เฝ้าดูเด็ก

นอกเหนือจากเรื่อง AI แล้ว ยังมีการลงนามในกฎหมายอีกฉบับที่กำหนดให้อุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตและวางจำหน่ายในรัฐนิวยอร์ก ต้องมีความสามารถในการป้องกันไม่ให้ผู้ใช้ที่ไม่ได้รับอนุญาตมองเห็นหรือได้ยินกิจกรรมที่อุปกรณ์บันทึกไว้ รวมถึงต้องมีป้ายเตือนความสำคัญของการใช้ฟีเจอร์ความปลอดภัยและเน้นย้ำความเสี่ยงของการเชื่อมต่อที่ไม่ปลอดภัย ซึ่งกฎหมายนี้จะมีผลในระยะเวลา 90 วัน

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ