OpenAI เพิ่มมาตรการคุมเข้ม ChatGPT ปิดกั้นวัยรุ่นถามข้อมูลอาวุธปืนแม้ดูไม่มีพิษภัย

OpenAI ประกาศยกระดับมาตรการความปลอดภัยครั้งใหม่บน ChatGPT เพื่อจำกัดการเข้าถึงข้อมูลที่เกี่ยวข้องกับอาวุธสำหรับผู้ใช้งานกลุ่มวัยรุ่น โดยมาตรการที่เข้มงวดขึ้นนี้จะครอบคลุมถึงกรณีที่คำถามของผู้ใช้งานดูเหมือนไม่มีอันตรายหรือไม่มีเจตนาความรุนแรงแอบแฝง

ยกระดับมาตรการจำกัดข้อมูลอาวุธ

การปรับเปลี่ยนนโยบายในครั้งนี้มุ่งเน้นไปที่การจำกัดข้อมูลเชิงปฏิบัติเกี่ยวกับอาวุธและระบบรักษาความปลอดภัย ซึ่งอาจถูกนำไปใช้ในทางที่ผิดเพื่อเอื้อต่อความรุนแรง แม้ว่าในขณะนั้นจะไม่มีสัญญาณของเจตนาความรุนแรงก็ตาม โดย OpenAI ระบุว่าบริษัทมีนโยบายเดิมที่ป้องกันไม่ให้ ChatGPT ช่วยเหลือผู้ใช้ในการก่อเหตุรุนแรงหรือช่วยให้วัยรุ่นเข้าถึงอาวุธอยู่แล้ว แต่มาตรการใหม่นี้จะเข้ามาช่วยจำกัดสถานการณ์ดังกล่าวให้รัดกุมยิ่งขึ้น

ข้อยกเว้นสำหรับการขอความช่วยเหลือ

แม้จะมีข้อจำกัดที่เข้มงวดขึ้นสำหรับวัยรุ่น แต่ระบบของ ChatGPT จะยังคงอนุญาตให้ผู้ใช้งานกลุ่มนี้สามารถขอความช่วยเหลือในด้านการป้องกันหรือลดความรุนแรง การขอรับการสนับสนุน รวมถึงการเชื่อมต่อไปยังผู้ใหญ่ที่ไว้วางใจได้ตามปกติ

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

การปรับนโยบายสำหรับผู้ใช้ทั่วไปและการควบคุมโดยผู้ปกครอง

นอกเหนือจากกลุ่มวัยรุ่นแล้ว OpenAI ยังได้ยกระดับขอบเขตนโยบายสำหรับผู้ใช้งานทุกกลุ่ม โดยเฉพาะเมื่อมีการสอบถามเกี่ยวกับการจำลองเหตุการณ์โจมตีขนาดใหญ่ในอดีต ซึ่งรวมถึงรายละเอียดเกี่ยวกับอาวุธและอุปกรณ์ที่ใช้ วิธีการได้มา ตลอดจนการเปรียบเทียบระดับความรุนแรงในรายละเอียดที่อาจเป็นการเพิ่มชื่อเสียงให้กับผู้ก่อเหตุ มาตรการเพิ่มเติมเหล่านี้ยังทำงานร่วมกับระบบควบคุมโดยผู้ปกครองที่บริษัทได้นำมาใช้เมื่อปีที่ผ่านมา ซึ่งจะส่งการแจ้งเตือนไปยังผู้ปกครองหากบัญชีวัยรุ่นที่เชื่อมโยงกันมีการละเมิดนโยบายของ ChatGPT ที่เกี่ยวข้องกับภัยคุกคามความรุนแรงหรือการกระทำความรุนแรง

ที่มาและสิ่งที่ต้องติดตามต่อ

การเพิ่มมาตรการรักษาความปลอดภัยเหล่านี้เกิดขึ้นหลังจากที่ OpenAI ถูกฟ้องร้องในคดีการเสียชีวิตโดยประมาทเมื่อปีที่แล้ว และจากการที่ ซัม อัลต์แมน ซีอีโอของบริษัท ได้ออกมากล่าวขอโทษต่อสาธารณะกรณีที่ไม่แจ้งตำรวจเกี่ยวกับบันทึกการสนทนาที่น่าตกใจซึ่งเกี่ยวข้องกับการกราดยิงที่ Tumbler Ridge เมื่อช่วงต้นปีที่ผ่านมา ทั้งนี้ OpenAI เปิดเผยด้วยว่าบริษัทจะเผยแพร่รายงานความปลอดภัยของชุมชนฉบับแรกในช่วงต้นปี 2027 โดยจะมีการอัปเดตข้อมูลทุก ๆ หกเดือนหลังจากนั้น

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ