رمزنگاری سرتاسری می‌تواند مانع خواندن محتوای محافظت‌شدهٔ چت توسط سرور واسط پیام‌رسان شود. اما تضمین نمی‌کند که هیچ سامانهٔ هوش مصنوعی هرگز آن محتوا را دریافت نکند: یک مشارکت‌کنندهٔ مجاز می‌تواند آن را کپی کند، یک قابلیت دارای مجوز می‌تواند آن را پردازش کند، یا دستگاهی که به آن نفوذ شده ممکن است آن را افشا کند.
برای ارزیابی خطر آموزش هوش مصنوعی، مسیر داده را از گفت‌وگو تا مدل دنبال کنید. تمایز مهم میان متن رمزشده‌ای است که واسط نمی‌تواند باز کند و متن آشکاری که عمداً یا تصادفاً در اختیار نقطهٔ پایانی دیگری قرار می‌گیرد.
پردازش یک پیام با آموزش یک مدل یکسان نیست
یک قابلیت هوش مصنوعی ممکن است متن را برای تولید خلاصه پردازش کند، بدون اینکه از آن برای به‌روزرسانی پارامترهای مدل استفاده کند. یک سرویس همچنین ممکن است درخواست‌ها را نگه دارد، بازخورد جمع کند یا طبق سیاست جداگانه‌ای استفاده برای آموزش را مجاز بداند. این‌ها عملیات متفاوتی هستند و به توضیحات جداگانه نیاز دارند.
بپرسید آیا قابلیت فقط کار درخواستی را انجام می‌دهد، آیا ورودی‌ها یا خروجی‌ها را ذخیره می‌کند و آیا از آن‌ها برای بهبود مدل استفاده می‌کند. صرف وجود دکمهٔ هوش مصنوعی پاسخ این پرسش‌ها نیست. واژهٔ «رمزنگاری‌شده» نیز چنین پاسخی نمی‌دهد.
پژوهشگران در «چگونه دربارهٔ رمزنگاری سرتاسری و هوش مصنوعی فکر کنیم» هنگام ارزیابی این سامانه‌ها، کمک هوش مصنوعی، آموزش، افشا و رضایت را از هم تفکیک می‌کنند. تحلیل آن‌ها دلیلی برای بررسی دقیق جریان داده است، نه مدرکی که نشان دهد همهٔ ارائه‌دهندگان مخفیانه با همهٔ پیام‌های خصوصی آموزش می‌دهند.
محتوای چت از چه مسیرهایی به هوش مصنوعی می‌رسد؟
| مسیر | چرا E2EE به‌تنهایی پاسخ را مشخص نمی‌کند |
|---|---|
| مشارکت‌کننده چت را در یک دستیار می‌چسباند | مشارکت‌کننده از قبل به متن آشکار دسترسی دارد |
| رباتی به گفت‌وگو اضافه می‌شود | ربات ممکن است گیرنده‌ای مجاز با سیاست پردازش خاص خود باشد |
| قابلیتی روی دستگاه متن قابل‌مشاهده را می‌خواند | پردازش پس از رمزگشایی در نقطهٔ پایانی انجام می‌شود |
| قابلیت ابریِ مبتنی بر زمینهٔ انتخاب‌شده فعال می‌شود | کاربر ممکن است افشای جداگانه یا مسیر پردازش محافظت‌شده‌ای را مجاز کند |
| بدافزار یا افزونه‌ای با مجوزهای بیش‌ازحد برنامه را می‌خواند | نقطهٔ پایانی مورد نفوذ قرار گرفته، نه رمزنگاری انتقال |
| محتوا به‌صورت عمومی منتشر می‌شود | انتشار عمومی مرز محرمانگی متفاوتی دارد |
یک مدل هوش مصنوعی راه‌دور صرفاً به‌دلیل هوش مصنوعی بودن، توانایی عمومی رمزگشاییِ رمزنگاری سالم را به دست نمی‌آورد. به همین ترتیب، هیچ الگوریتم رمزنگاری نمی‌تواند مانع ارسال نسخه‌ای خوانا توسط گیرنده به جای دیگری شود.
محصولات فعلی مرزهای متفاوتی را نشان می‌دهند
راهنمای هوش مصنوعی واتس‌اپ، پیام‌های شخصی را از مطالب اشتراک‌گذاری‌شده با هوش مصنوعی تفکیک می‌کند و نحوهٔ برخورد متفاوت با عامل‌های شخص ثالث را توضیح می‌دهد. راهنمای هوش مصنوعیِ روی صفحه نیز جداگانه توضیح می‌دهد که انتخاب و فعال‌سازی این قابلیت‌ها می‌تواند پیام‌ها و اعلان‌های قابل‌مشاهده را به اشتراک بگذارد.
این مثال‌ها نشان می‌دهند چرا یک ادعای کلی دربارهٔ تمام یک برنامه اغلب گمراه‌کننده است. دستیار، حالت و مجوز مشخصی را که استفاده می‌شود بررسی کنید، نه تصویر قدیمیِ یک اطلاعیهٔ عمومی حریم خصوصی را.
دربارهٔ لیوارا چه می‌توان گفت؟
صفحهٔ امنیت لیوارا، E2EE را برای گفت‌وگوهای خصوصیِ پشتیبانی‌شده توضیح می‌دهد و در کنار آن به فراداده‌های عملیاتیِ نگهداری‌شده و کانال‌های عمومی می‌پردازد. صفحهٔ عمومی هوش مصنوعی آن نیز انتخاب محدودهٔ گفت‌وگو توسط کاربر و اخذ مجوز پیش از اشتراک‌گذاری زمینهٔ انتخاب‌شده را شرح می‌دهد؛ از جمله نمایش نشانه‌ای قابل‌مشاهده هنگامی که قرار است متن انتخاب‌شده به یک ارائه‌دهنده فرستاده شود.
این توضیحات ادعای مطلقِ «لیوارا هرگز نمی‌تواند محتوای چت را با هوش مصنوعی پردازش کند» را تأیید نمی‌کنند. همچنین به‌تنهایی یک تعهد همگانی به عدم آموزش یا نگهداریِ صفر را برای هر مسیر احتمالیِ مدل اثبات نمی‌کنند. توضیحات فعلیِ قابلیت و شرایط ارائه‌دهندهٔ انتخاب‌شده باید پاسخ این پرسش‌ها را بدهند.
برقراری کلید پساکوانتومی به خطر متفاوتی می‌پردازد: حملات رمزکاویِ آینده به متن رمزشدهٔ ضبط‌شده. این سازوکار تعیین نمی‌کند یک گیرندهٔ مجازِ هوش مصنوعی امروز با متن آشکار چه می‌کند.
چک‌لیست خطر آموزش برای گفت‌وگوهای خصوصی
- گیرنده را مشخص کنید. قابلیت محلی است، پیام‌رسان آن را اداره می‌کند یا ارائه‌دهندهٔ دیگری آن را عرضه می‌کند؟
- زمینه را محدود کنید. کوچک‌ترین بخش متن یا فایل لازم را به اشتراک بگذارید؛ جزئیات شخصیِ نامرتبط را حذف کنید.
- سیاست مربوط را بخوانید. مشخصاً دنبال شرایط آموزش، نگهداری، بازبینی انسانی، بازخورد و حذف بگردید.
- انتظارات گروه را بررسی کنید. مجوز خواندن گفت‌وگوی گروهی به‌طور خودکار مجوز ارسال آن به سرویس دیگری نیست.
- دسترسی به نقاط پایانی را بازبینی کنید. افزونه‌های مرورگر، دسترسی به اعلان‌ها و برنامه‌های متصل می‌توانند مسیرهای جداگانه‌ای به محتوا ایجاد کنند.
- فضاهای عمومی و خصوصی را جدا نگه دارید. مطالب محرمانه را در کانال عمومی نگذارید و انتظار نداشته باشید رمزنگاری چت خصوصی از آن‌ها محافظت کند.
E2EE می‌تواند یک مسیر دسترسیِ سرور را ببندد. جلوگیری از استفادهٔ ناخواستهٔ هوش مصنوعی همچنین نیازمند کنترل نقاط پایانی، مجوزها و افشاهایی است که با محتوای رمزگشایی‌شده سروکار دارند.
