Anthropic จับมือ Accenture ตรวจสอบความปลอดภัย AI ลุยแผนชะลอการพัฒนาโมเดล

Anthropic ประกาศความร่วมมือครั้งสำคัญกับ Accenture เพื่อให้เข้ามาทำหน้าที่เป็นผู้ประเมินความปลอดภัยของโมเดลปัญญาประดิษฐ์ระดับแนวหน้า โดยความเคลื่อนไหวนี้ถือเป็นก้าวแรกตามแผนงานของซีอีโอในการชะลอความเร็วของการพัฒนา AI พร้อมกับยกระดับการตรวจสอบความปลอดภัยและการปฏิบัติตามข้อกำหนดในระยะยาว

รายละเอียดความร่วมมือด้านความปลอดภัย

ภายใต้ข้อตกลงดังกล่าว ทั้ง Anthropic และ Accenture จะลงทุนฝ่ายละอย่างน้อย 1,000 ล้านดอลลาร์สหรัฐในความพยายามร่วมกันครั้งนี้ ตลอดระยะเวลา 5 ปีข้างหน้า เพื่อให้ Accenture เข้ามาทำหน้าที่เป็นผู้ประเมินภายนอกที่ฝังตัวอยู่ภายในองค์กรของ Anthropic

ผู้ประเมินจาก Accenture จะเข้ามามีส่วนร่วมในการสังเกตการณ์ตั้งแต่ขั้นตอนการฝึกฝนโมเดล ติดตามการตัดสินใจในการสร้างและการใช้งานระบบ ตลอดจนสามารถพูดคุยโดยตรงกับพนักงานของ Anthropic ได้อย่างใกล้ชิด เพื่อประเมินความสอดคล้องและการปฏิบัติตามพันธสัญญาด้านความปลอดภัย

แผนการชะลอความเร็วและแนวทางของซีอีโอ

การจับมือกับ Accenture ในครั้งนี้สอดคล้องกับข้อเสนอของ Dario Amodei ซีอีโอของ Anthropic ที่ได้เสนอแนวทางสามขั้นตอนสำหรับบริษัทผู้พัฒนา AI ระดับแนวหน้า โดยหนึ่งในข้อเสนอสำคัญคือการเปิดให้มีผู้ประเมินภายนอกเข้าถึงข้อมูลและการทำงานในลักษณะเดียวกับพนักงาน เพื่อคอยตรวจสอบและรายงานเหตุการณ์ที่อาจเกิดขึ้น

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

ก่อนหน้านี้ Accenture มีประสบการณ์ในการช่วยเหลือภาคธุรกิจและภาครัฐบาลในการนำ AI ไปใช้งานในหลากหลายอุตสาหกรรม ซึ่ง Anthropic มองว่าประสบการณ์ดังกล่าวจะช่วยเพิ่มมุมมองเชิงลึกในการประเมินโมเดลของบริษัทได้เป็นอย่างดี

ข้อจำกัดและประเด็นที่ต้องพิจารณา

แม้ว่าการประเมินโดยบุคคลที่สามที่เข้ามาฝังตัวในองค์กรจะเป็นแนวทางใหม่ แต่ Anthropic ระบุว่ารูปแบบดังกล่าวยังไม่มีมาตรฐานที่ชัดเจนในปัจจุบัน ทั้งในแง่ของขอบเขตการทำงาน ระดับการเข้าถึงข้อมูลของผู้ประเมิน หรือแม้แต่ขั้นตอนการรายงานข้อกังวล

จากข้อจำกัดดังกล่าว ทำให้ Anthropic มีแผนที่จะร่วมมือกับบริษัทอื่นๆ เพิ่มเติม นอกเหนือจาก Accenture เพื่อทำการประเมินโมเดล AI ล้ำสมัยของบริษัท โดยจะมีการประกาศรายชื่อผู้ประเมินรายอื่นเพิ่มเติมในอีกไม่กี่สัปดาห์ข้างหน้า ขณะที่ Accenture เองก็เตรียมที่จะทำงานร่วมกับบริษัทผู้พัฒนา AI รายอื่นด้วยเช่นกัน

สิ่งที่ควรติดตามต่อ

ผู้ติดตามวงการเทคโนโลยีและผู้ใช้งานทั่วไปต้องรอลุ้นการประกาศรายชื่อบริษัทผู้ประเมินรายอื่นๆ ที่ Anthropic จะเปิดเผยเพิ่มเติมในอนาคตอันใกล้นี้ รวมถึงการกำหนดมาตรฐานและกรอบการทำงานที่ชัดเจนของกลุ่มผู้ประเมินที่ฝังตัวอยู่ในองค์กร ว่าจะมีรูปแบบการรายงานและตรวจสอบที่ส่งผลต่ออุตสาหกรรม AI อย่างไรบ้าง

แหล่งข้อมูล

เรียบเรียงจากข้อมูลของ Engadget: อ่านต้นฉบับ