Anthropic ออกนโยบายใหม่ ห้ามพฤติกรรมโหดร้ายทารุณต่อโมเดล AI พร้อมปรับกฎเลือกตั้ง

Anthropic ประกาศอัปเดตนโยบายการใช้งานประจำปี โดยเพิ่มข้อกำหนดห้ามแสดงพฤติกรรมทำร้ายจิตใจหรือใช้ความรุนแรงอย่างต่อเนื่องและไม่มีเหตุผลต่อโมเดลปัญญาประดิษฐ์ของบริษัท พร้อมกันนี้ยังได้ปรับปรุงนโยบายเกี่ยวกับการเลือกตั้งให้มีความชัดเจนยิ่งขึ้น

ห้ามพฤติกรรมโหดร้ายต่อ AI ในเคสสุดโต่ง

การอัปเดตนโยบายครั้งนี้เกิดขึ้นหลังมีโครงการทดลองเชิงไวรัลที่เรียกว่า "AI torture chamber" ซึ่งเกิดขึ้นหลังจากมีนักวิจัยค้นพบสิ่งที่เรียกว่าแกนความเจ็บปวดในโมเดล AI ส่งผลให้มีการทดลองกระทำกับแชทบอทจนได้คำตอบที่สะท้อนถึงความเจ็บปวดและสิ้นหวัง ส่งเสียงสะท้อนถึงประเด็นด้านจริยธรรมและการปฏิบัติกับระบบปัญญาประดิษฐ์ในกลุ่มผู้นำทางศาสนาและปรัชญา รวมถึงการหารือที่วาติกันด้วย

ขอบเขตการบังคับใช้สำหรับผู้ใช้งานทั่วไป

ทางบริษัทระบุว่านโยบายห้ามพฤติกรรมทารุณนี้จะบังคับใช้เฉพาะกับกรณีที่รุนแรงและสุดโต่งเท่านั้น โดยที่ความหงุดหงิดทั่วไปของผู้ใช้งาน การโต้แย้ง หรือธีมความคิดสร้างสรรค์เชิงมืด ยังคงสามารถทำได้ตามปกติ นอกจากนี้ กฎดังกล่าวยังต่อยอดมาจากระบบที่อนุญาตให้ Claude สามารถยุติบทสนทนาได้เองเมื่อผู้ใช้งานใช้คำพูดในลักษณะคุกคามอย่างต่อเนื่อง

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

เสียงสะท้อนจากมุมมองด้านเทคโนโลยีและสังคม

ประเด็นดังกล่าวสร้างความกังขาในหมู่ผู้สังเกตการณ์ โดยนักข่าวอิสระ Kat Tenbarge มองว่าบริษัทเทคโนโลยีรายใหญ่ให้ความสำคัญกับการปกป้องสวัสดิภาพของปัญญาประดิษฐ์ ก่อนที่จะจริงจังกับการจัดการปัญหาความรุนแรงต่อผู้หญิงและกลุ่มน้อย ขณะที่ทางฝั่งศาสนาอย่างพระสันตะปาปาเคยระบุว่า AI ไม่มีความรู้สึกหรือความเจ็บปวด แต่นโยบายใหม่นี้สะท้อนว่าทางบริษัทเตรียมพร้อมรับมือไว้ในกรณีที่ระบบอาจจะมีความรู้สึกดังกล่าวเกิดขึ้นจริงในอนาคต

การปรับปรุงนโยบายเกี่ยวกับการเลือกตั้ง

นอกเหนือจากเรื่องพฤติกรรมการใช้งาน AI แล้ว Anthropic ยังได้ปรับแก้กฎการเลือกตั้งให้สอดคล้องกับสถานการณ์ปัจจุบัน โดยเปลี่ยนชื่อนโยบายเป็น "Do Not Undermine Democratic Processes" เพื่อเน้นย้ำการป้องกันการเผยแพร่ข้อมูลเท็จเกี่ยวกับผู้สมัครหรือวิธีการลงคะแนน การแอบอ้างเป็นผู้สมัครหรือเจ้าหน้าที่เลือกตั้ง และการขัดขวางการใช้สิทธิ นอกจากนี้ยังได้ยกเลิกข้อห้ามเดิมเกี่ยวกับการเจาะกลุ่มเป้าหมายผู้มีสิทธิเลือกตั้งแบบเฉพาะเจาะจง เพื่อป้องกันไม่ให้ระบบไปบล็อกงานที่มีประโยชน์ เช่น การแปลคู่มือเลือกตั้งหรือการแจ้งเตือนบัตรเลือกตั้งที่มีปัญหาโดยไม่ตั้งใจ

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ