การเข้ารหัสจากต้นทางถึงปลายทางสามารถป้องกันไม่ให้ตัวกลางส่งต่อข้อความอ่านเนื้อหาแชตที่ได้รับการปกป้องได้ แต่ไม่ได้รับประกันว่าจะไม่มีระบบ AI ใดได้รับเนื้อหานั้นเลย ผู้เข้าร่วมที่ได้รับอนุญาตอาจคัดลอก ฟีเจอร์ที่ได้รับสิทธิ์อาจประมวลผล หรืออุปกรณ์ที่ถูกเจาะอาจทำให้เนื้อหารั่วไหลได้
หากต้องการประเมินความเสี่ยงในการฝึก AI ให้ติดตามข้อมูลจากบทสนทนาไปจนถึงโมเดล ความแตกต่างสำคัญคือระหว่าง ข้อความเข้ารหัสที่ตัวกลางเปิดอ่านไม่ได้ กับ ข้อความธรรมดาที่ถูกส่งให้ปลายทางอื่นโดยตั้งใจหรือไม่ตั้งใจ
การประมวลผลข้อความไม่เหมือนกับการฝึกโมเดล
ฟีเจอร์ AI อาจประมวลผลข้อความเพื่อสร้างสรุปโดยไม่ใช้ข้อความนั้นปรับพารามิเตอร์ของโมเดล บริการอาจเก็บพรอมป์ต์ รวบรวมความคิดเห็นตอบกลับ หรืออนุญาตให้ฝึกโมเดลภายใต้นโยบายอีกฉบับด้วย สิ่งเหล่านี้เป็นการดำเนินการคนละอย่างและต้องมีคำชี้แจงแยกกัน
ควรถามว่าฟีเจอร์ทำเฉพาะงานที่ร้องขอหรือไม่ เก็บข้อมูลเข้าและผลลัพธ์หรือไม่ และใช้ข้อมูลเหล่านั้นปรับปรุงโมเดลหรือไม่ แค่มีปุ่ม AI ไม่ได้ตอบคำถามเหล่านี้ คำว่า “เข้ารหัส” ก็เช่นกัน
นักวิจัยใน How To Think About End-To-End Encryption and AI แยกความช่วยเหลือจาก AI การฝึก การเปิดเผย และความยินยอมออกจากกันเมื่อประเมินระบบเหล่านี้ บทวิเคราะห์ของพวกเขาเป็นเหตุผลให้ตรวจสอบการไหลของข้อมูลอย่างรอบคอบ ไม่ใช่หลักฐานว่าผู้ให้บริการทุกรายแอบใช้ข้อความส่วนตัวทุกข้อความฝึกโมเดล
เนื้อหาแชตไปถึง AI ได้ทางใดบ้าง
| เส้นทาง | เหตุใด E2EE เพียงอย่างเดียวจึงตอบไม่ได้ |
|---|---|
| ผู้เข้าร่วมวางข้อความแชตลงในผู้ช่วย | ผู้เข้าร่วมเข้าถึงข้อความธรรมดาได้อยู่แล้ว |
| เพิ่มบอตเข้ามาในบทสนทนา | บอตอาจเป็นผู้รับที่ได้รับอนุญาตและมีนโยบายประมวลผลของตนเอง |
| ฟีเจอร์บนอุปกรณ์อ่านข้อความที่มองเห็น | การประมวลผลเกิดหลังการถอดรหัสที่ปลายทาง |
| เปิดใช้ฟีเจอร์คลาวด์สำหรับบริบทที่เลือก | ผู้ใช้อาจอนุญาตให้เปิดเผยข้อมูลแยกต่างหากหรือใช้เส้นทางประมวลผลที่มีการปกป้อง |
| มัลแวร์หรือส่วนขยายที่มีสิทธิ์มากเกินไปอ่านแอป | สิ่งที่ถูกเจาะคือปลายทาง ไม่ใช่รหัสลับที่ปกป้องการส่งข้อมูล |
| เผยแพร่เนื้อหาสู่สาธารณะ | การเผยแพร่สาธารณะเป็นขอบเขตการรักษาความลับอีกแบบหนึ่ง |
โมเดล AI ที่อยู่ระยะไกลไม่ได้มีความสามารถทั่วไปในการถอดรหัสที่แข็งแรงเพียงเพราะมันเป็น AI เช่นเดียวกัน ไม่มีอัลกอริทึมเข้ารหัสใดหยุดผู้รับไม่ให้ส่งสำเนาที่อ่านได้ไปยังที่อื่นได้
ผลิตภัณฑ์ปัจจุบันแสดงให้เห็นขอบเขตที่ต่างกัน
คำแนะนำเรื่อง AI ของ WhatsApp แยกข้อความส่วนตัวออกจากข้อมูลที่แชร์กับ AI และอธิบายการจัดการที่ต่างออกไปสำหรับเอเจนต์ของบุคคลที่สาม ส่วนคำแนะนำเรื่อง AI บนหน้าจอ อธิบายแยกต่างหากว่าการเลือกเปิดใช้ฟีเจอร์เหล่านี้อาจทำให้ข้อความและการแจ้งเตือนที่มองเห็นถูกแชร์ได้
ตัวอย่างเหล่านี้แสดงว่าเหตุใดคำกล่าวกว้าง ๆ เกี่ยวกับทั้งแอปจึงมักทำให้เข้าใจผิด ควรตรวจสอบผู้ช่วย โหมด และสิทธิ์เฉพาะที่กำลังใช้ ไม่ใช่อาศัยภาพหน้าจอเก่าของประกาศความเป็นส่วนตัวทั่วไป
เราพูดอะไรเกี่ยวกับ Livara ได้บ้าง?
หน้าความปลอดภัย ของ Livara อธิบาย E2EE สำหรับบทสนทนาส่วนตัวที่รองรับ พร้อมทั้งเมทาดาทาการดำเนินงานที่เก็บไว้และช่องสาธารณะ หน้า AI ที่เปิดเผยต่อสาธารณะยังอธิบายการที่ผู้ใช้เลือกขอบเขตบทสนทนาและให้สิทธิ์ก่อนแชร์บริบทที่เลือก รวมถึงการแสดงให้เห็นอย่างชัดเจนเมื่อข้อความที่เลือกจะถูกส่งไปยังผู้ให้บริการ
คำชี้แจงเหล่านั้นไม่ได้รองรับคำกล่าวเด็ดขาดว่า Livara ไม่มีทางประมวลผลเนื้อหาแชตด้วย AI และเมื่อพิจารณาเพียงลำพัง ก็ไม่ได้ยืนยันคำมั่นสากลว่าจะไม่ใช้ฝึกหรือไม่เก็บข้อมูลเลยสำหรับทุกเส้นทางโมเดลที่เป็นไปได้ คำชี้แจงปัจจุบันของฟีเจอร์และข้อกำหนดของผู้ให้บริการที่เลือกต้องเป็นสิ่งที่ตอบคำถามเหล่านี้
การจัดตั้งคีย์แบบหลังควอนตัมรับมือความเสี่ยงอีกประเภทหนึ่ง นั่นคือการโจมตีวิเคราะห์รหัสในอนาคตต่อข้อความเข้ารหัสที่บันทึกไว้ ไม่ได้กำกับว่าผู้รับ AI ที่ได้รับอนุญาตจะทำอะไรกับข้อความธรรมดาในวันนี้
รายการตรวจสอบความเสี่ยงการฝึกสำหรับบทสนทนาส่วนตัว
- ระบุผู้รับให้ชัดเจน ฟีเจอร์ทำงานในอุปกรณ์ ดำเนินการโดยแอปส่งข้อความ หรือจัดหาโดยผู้ให้บริการอื่น?
- จำกัดบริบท แชร์เฉพาะข้อความช่วงสั้นที่สุดหรือไฟล์เท่าที่จำเป็น และตัดรายละเอียดส่วนตัวที่ไม่เกี่ยวข้องออก
- อ่านนโยบายที่เกี่ยวข้อง มองหาข้อกำหนดเรื่องการฝึก การเก็บรักษา การตรวจทานโดยมนุษย์ ความคิดเห็นตอบกลับ และการลบโดยเฉพาะ
- ตรวจสอบความคาดหวังของกลุ่ม สิทธิ์อ่านบทสนทนากลุ่มไม่ได้หมายถึงสิทธิ์ส่งบทสนทนาไปยังบริการอื่นโดยอัตโนมัติ
- ทบทวนการเข้าถึงปลายทาง ส่วนขยายเบราว์เซอร์ สิทธิ์เข้าถึงการแจ้งเตือน และแอปที่เชื่อมต่ออาจสร้างเส้นทางแยกไปยังเนื้อหาได้
- แยกพื้นที่สาธารณะและส่วนตัวให้ชัดเจน อย่าใส่ข้อมูลลับในช่องสาธารณะแล้วคาดหวังว่าการเข้ารหัสแชตส่วนตัวจะปกป้องข้อมูลนั้น
E2EE สามารถปิดเส้นทางการเข้าถึงของเซิร์ฟเวอร์ได้ แต่การป้องกันการใช้ AI ที่ไม่ต้องการยังต้องควบคุมปลายทาง สิทธิ์ และการเปิดเผยที่เกี่ยวข้องกับเนื้อหาหลังถอดรหัสด้วย
