เปิดความเสี่ยงเมื่อให้ Claude ช่วยจัดการอีเมล: สะดวกสบายแต่แฝงอันตรายรอบด้าน

ทำความรู้จักความเสี่ยงเมื่อให้ Claude ช่วยจัดการอีเมลใน Gmail ทั้งปัญหาการส่งข้อความผิดพลาด อาการฮัลลูซิเนชัน และช่องโหว่จากการฝังคำสั่งลับ

พัฒนาการของปัญญาประดิษฐ์ในช่วงไม่กี่ปีที่ผ่านมาเติบโตอย่างรวดเร็ว จากระบบที่ยังตอบคำถามพื้นฐานผิดพลาด สู่ความสามารถในการสร้างสรรค์ภาพยนตร์ที่เหมือนจริงได้ภายในเวลาไม่กี่นาที ล่าสุดความสามารถของ Claude พัฒนาไปไกลจนถึงขั้นสามารถจัดการกล่องข้อความ Gmail ของผู้ใช้งานได้แบบเบ็ดเสร็จ ทั้งการรับ ส่ง ตอบกลับ และส่งต่ออีเมลแทนตัวผู้ใช้โดยไม่ต้องรออนุมัติ

อย่างไรก็ตาม เทคโนโลยีดังกล่าวยังห่างไกลจากความสมบูรณ์แบบและมีความผิดพลาดเกิดขึ้นให้เห็นอยู่บ่อยครั้ง เช่น กรณีที่ปัญญาประดิษฐ์เคยเพิกเฉยต่อคำสั่งและเผลอลบอีเมลของนักวิจัยด้านความปลอดภัยจาก Meta Superintelligence Lab การมอบหมายหน้าที่สำคัญอย่างการจัดการอีเมลให้กับ Claude จึงมาพร้อมกับความเสี่ยงที่ผู้ใช้งานควรระมัดระวังอย่างยิ่ง โดยเฉพาะเมื่อระบบสามารถดำเนินการส่งอีเมลได้เองหากมีการตั้งค่าอนุญาตไว้

ความเสี่ยงจากการถูกฝังคำสั่งลับผ่านอีเมล

หนึ่งในความเสี่ยงที่อันตรายที่สุดคือการถูกโจมตีด้วยวิธีพรอมต์อินเจกชันจากภายในตัวอีเมล โดยผู้ไม่หวังดีสามารถแอบซ่อนคำสั่งไว้ในข้อความที่ส่งมาหาผู้ใช้ ด้วยการใช้ตัวอักษรสีขาวบนพื้นหลังสีขาวหรือใช้ขนาดตัวอักษรเป็นศูนย์ เพื่อไม่ให้มนุษย์มองเห็นแต่ระบบของ Claude สามารถอ่านและปฏิบัติตามคำสั่งเหล่านั้นได้

สินค้าแนะนำ

คอมพิวเตอร์และอุปกรณ์ไอที

เลือกดูคอมพิวเตอร์ โน้ตบุ๊ก และอุปกรณ์ไอทีที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

แฮกเกอร์สามารถใช้ช่องโหว่นี้ในการแอบส่องความเคลื่อนไหวในบัญชี Gmail พร้อมทั้งดึงข้อมูลสำคัญอย่างรหัสยืนยันตัวตนเพื่อเจาะเข้าสู่บัญชีอื่นของผู้ใช้งานได้ ซึ่งภัยคุกคามลักษณะนี้เกิดขึ้นจริงแล้วและไม่ใช่เรื่องสมมติ แม้ว่า Claude จะไม่สามารถลบอีเมลอย่างถาวรได้ แต่ก็สามารถส่งอีเมลไปไว้ในถังขยะหรือเก็บเข้าคลังถาวรได้เช่นกัน

ความผิดพลาดจากตัว AI และปัญหาความเป็นส่วนตัว

นอกเหนือจากการถูกโจมตีจากภายนอกแล้ว ความสะดวกสบายในการสั่งงานอาจนำไปสู่ข้อผิดพลาดได้ง่าย เนื่องจากเมื่อผู้ใช้งานสั่งให้ Claude ส่งอีเมล ระบบจะดำเนินการทันทีโดยไม่เปิดโอกาสให้ตรวจสอบเนื้อหาก่อน เว้นแต่จะเปิดใช้งานการตั้งค่าขออนุมัติก่อนส่ง ซึ่งหากมีการตั้งค่าเริ่มต้นไว้ ผู้ใช้อาจพบว่าอีเมลถูกส่งออกไปพร้อมข้อความที่ผิดพลาดก่อนที่จะทันได้แก้ไข

ความผิดพลาดเหล่านี้อาจเกิดจากอาการฮัลลูซิเนชันที่ระบบสร้างข้อมูลเท็จขึ้นมาเอง หรือเกิดจากการที่ปัญญาประดิษฐ์ตีความคำสั่งของผู้ใช้งานคลาดเคลื่อนไป นอกจากประเด็นเรื่องความถูกต้องแล้ว การไว้วางใจให้ Claude และบริษัท Anthropic เข้าถึงข้อมูลทั้งหมดในกล่องข้อความยังสร้างความกังวลด้านความเป็นส่วนตัวที่ผู้ใช้ต้องชั่งน้ำหนักให้ดี

แนวทางการลดความเสี่ยงในการใช้งาน

วิธีสำคัญที่สุดในการป้องกันอันตรายคือการคงค่าการขออนุมัติก่อนส่งอีเมลไว้ตามค่าเริ่มต้น เนื่องจากกล่องข้อความมีความละเอียดอ่อนเกินกว่าจะปล่อยให้ปัญญาประดิษฐ์ตัดสินใจเอง การเปิดใช้งานระบบขออนุมัติจะช่วยให้ผู้ใช้สามารถตรวจสอบทุกการกระทำก่อนที่ระบบจะดำเนินการจริง

ผู้ใช้งานควรระบุคำสั่งให้ชัดเจนและมีรายละเอียดมากที่สุดเมื่อต้องการให้ Claude ช่วยจัดการงาน เพื่อป้องกันไม่ให้ระบบตีความผิดพลาด สำหรับปัญหาเรื่องการฝังคำสั่งลับนั้น ผู้เชี่ยวชาญระบุว่ายังไม่มีวิธีป้องกันที่ได้ผลร้อยเปอร์เซ็นต์ แนวทางที่ดีที่สุดจึงเป็นการเปิดใช้งานการขออนุมัติก่อนส่งเสมอ พร้อมทั้งระมัดระวังผู้ส่งที่ไม่คุ้นเคยและเปิดใช้การยืนยันตัวตนแบบหลายขั้นตอนควบคู่กันไป

Google ปล่อยฟีเจอร์เสียงพลัง AI สำหรับ Gmail, Docs และ Keep อย่างเป็นทางการหลังพ้นช่วงเบต้า

Google เปิดตัวฟีเจอร์เสียงพลัง AI สำหรับ Gmail, Docs และ Keep ให้ผู้สมัครใช้งาน Google AI ทุกคนใช้งานได้จริงแล้ว หลังจากผ่านช่วงทดสอบเบต้า

Google ประกาศยุติการทดสอบระบบเบต้า และเริ่มเปิดให้บริการฟีเจอร์สั่งงานด้วยเสียงพลังปัญญาประดิษฐ์ในแอปพลิเคชันหลักอย่างเป็นทางการแล้ว โดยผู้ใช้งานที่สมัครสมาชิก Google AI แบบเสียเงินจะสามารถเข้าถึงฟีเจอร์เหล่านี้ได้ทันที ความเคลื่อนไหวครั้งนี้ต่อยอดมาจากการเริ่มทดสอบ Gmail Live ในช่วงเดือนมิถุนายนที่ผ่านมา ซึ่งเป็นส่วนหนึ่งในความพยายามของบริษัทที่จะจำลองประสบการณ์การใช้งาน Gemini Live ให้มาอยู่บนแอปพลิเคชันยอดนิยมเหล่านี้

การขยายบริการในครั้งนี้ครอบคลุมการใช้งานบนระบบปฏิบัติการ Android และ iOS โดยแบ่งระดับการเข้าถึงตามประเภทแพ็กเกจสมาชิกของผู้ใช้งาน เพื่อให้ตอบโจทย์การทำงานในชีวิตประจำวันและการจัดการเอกสารได้อย่างมีประสิทธิภาพยิ่งขึ้นผ่านการสนทนาด้วยเสียงที่เป็นธรรมชาติ

Gmail Live ค้นหาและตอบคำถามอีเมลด้วยเสียง

ผู้ใช้งานสามารถใช้ Gmail Live เพื่อค้นหาข้อมูลเฉพาะเจาะจงภายในอีเมลของตนเองได้ด้วยภาษาพูดที่เป็นธรรมชาติ ระบบมีความเข้าใจคำถามทั่วไป เช่น การสอบถามกำหนดการกิจกรรมของโรงเรียนลูก และยังสามารถตอบคำถามต่อเนื่องในเชิงลึกได้ เช่น การถามว่าเด็ก ๆ ต้องเตรียมของอะไรบ้างสำหรับการทัศนศึกษา

สินค้าแนะนำ

มือถือและอุปกรณ์เสริม

เลือกดูสมาร์ตโฟน แท็บเล็ต และอุปกรณ์เสริมที่เกี่ยวข้องบน Shopee

ดูสินค้าบน Shopee

ลิงก์นี้เป็นลิงก์ Affiliate เว็บไซต์อาจได้รับค่าคอมมิชชันจากการสั่งซื้อ โดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับผู้ซื้อ

ลักษณะการทำงานจะจำลองการสนทนาจริง ทำให้ผู้ใช้งานสามารถขัดจังหวะ เปลี่ยนหัวข้อ หรือสลับไปพูดคุยเรื่องอื่นได้ตลอดเวลาตามต้องการ นอกจากนี้ ระบบยังแสดงข้อความถอดบทสนทนาบนหน้าจอให้อ่านควบคู่กันไป พร้อมทั้งแนบลิงก์ไปยังแหล่งที่มาของอีเมลนั้น ๆ โดยฟีเจอร์นี้รองรับผู้สมัครสมาชิกแพ็กเกจ Google AI Plus, Pro และ Ultra ทั้งบนอุปกรณ์ Android และ iOS

Docs Live ช่วยร่างและเรียบเรียงเอกสารจากเสียงพูด

สำหรับ Docs Live ถูกออกแบบมาเพื่อช่วยผู้ใช้งานในการจัดระเบียบความคิดและสร้างโครงสร้างเอกสารตามคำบอกเล่า โดยหากผู้ใช้งานอนุญาตให้ระบบเข้าถึง Google Drive และ Google Chat เพิ่มเติม ฟีเจอร์นี้จะสามารถดึงข้อมูลจากแหล่งเหล่านั้นมารวมกับบัญชี Gmail และข้อมูลจากเว็บ เพื่อนำมาช่วยเขียนร่างเอกสารให้ได้ทันที ผู้ใช้งานที่มีแพ็กเกจ Google AI Pro หรือ Ultra สามารถเข้าถึงฟีเจอร์นี้ได้ผ่านทางระบบ Android และ iOS

Keep Live จัดการรายการและบันทึกข้อความอัตโนมัติ

ในส่วนของ Keep Live มีความสามารถในการเขียนรายการและบันทึกข้อความจากเสียงพูดออกมาชัดเจน โดยระบบมีความเข้าใจในความหมายแม้ว่าจะไม่มีคำสั่งที่ระบุไว้อย่างเจาะจง ตัวอย่างเช่น การจัดหมวดหมู่รายการซื้อของให้อยู่ใต้หัวข้อส่วนผสมสำหรับทำพาสต้าเปสโตโดยอัตโนมัติโดยที่ผู้ใช้ไม่ต้องบอก หรือการเพิ่มรายการสินค้าใหม่เข้าไปในรายการซื้อของที่มีอยู่เดิม สำหรับฟีเจอร์นี้ในปัจจุบันเปิดให้บริการเฉพาะบนระบบปฏิบัติการ Android สำหรับผู้สมัครสมาชิกแพ็กเกจ Google AI Pro และ Ultra เท่านั้นในขณะนี้