يمكن للتشفير من طرف إلى طرف أن يمنع خادم ترحيل الرسائل من قراءة محتوى المحادثات المحمي. لكنه لا يضمن ألّا يتلقى أي نظام ذكاء اصطناعي ذلك المحتوى مطلقًا: فقد ينسخه مشارك مخوّل، أو تعالجه ميزة مأذون بها، أو يكشفه جهاز مخترق.
لتقييم مخاطر تدريب الذكاء الاصطناعي، تتبّع البيانات من المحادثة إلى النموذج. والتمييز المهم هو بين النص المشفّر الذي لا يستطيع خادم الترحيل فتحه والنص الصريح الذي يُقدَّم عمدًا أو عرضًا إلى نقطة نهاية أخرى.
معالجة الرسالة ليست هي تدريب النموذج
قد تعالج ميزة ذكاء اصطناعي نصًا لإنتاج ملخّص من دون استخدامه لتحديث معلمات النموذج. وقد تحتفظ الخدمة أيضًا بالمطالبات، أو تجمع الملاحظات، أو تسمح بالتدريب بموجب سياسة منفصلة. هذه عمليات مختلفة وتحتاج إلى إفصاحات مختلفة.
اسأل ما إذا كانت الميزة تؤدي المهمة المطلوبة فقط، وما إذا كانت تخزّن المدخلات أو المخرجات، وما إذا كانت تستخدمها لتحسين النموذج. وجود زر للذكاء الاصطناعي وحده لا يجيب عن هذه الأسئلة، وكذلك كلمة «مشفّر».
يميّز الباحثون في «كيف نفكّر في التشفير من طرف إلى طرف والذكاء الاصطناعي» بين مساعدة الذكاء الاصطناعي والتدريب والإفصاح والموافقة عند تقييم هذه الأنظمة. وتحليلهم سبب لفحص تدفّق البيانات بعناية، وليس دليلًا على أن كل مزوّد يدرّب سرًا على كل رسالة خاصة.
المسارات التي قد يصل عبرها محتوى المحادثة إلى الذكاء الاصطناعي
| المسار | لماذا لا يحسم E2EE وحده المسألة |
|---|---|
| يلصق مشارك محادثة في مساعد | يملك المشارك أصلًا حق الوصول إلى النص الصريح |
| يُضاف روبوت إلى المحادثة | قد يكون الروبوت مستلمًا مخوّلًا له سياسة معالجة خاصة به |
| تقرأ ميزة على الجهاز النص الظاهر | تحدث المعالجة بعد فك التشفير عند نقطة النهاية |
| تُفعَّل ميزة سحابية لسياق محدّد | قد يأذن المستخدم بإفصاح منفصل أو بمسار معالجة محمي |
| تقرأ برمجية خبيثة أو إضافة ذات أذونات مفرطة التطبيق | الذي اختُرق هو نقطة النهاية، لا خوارزمية تشفير النقل |
| يُنشر المحتوى علنًا | التوزيع العام ينتمي إلى حدود سرية مختلفة |
لا يكتسب نموذج ذكاء اصطناعي بعيد قدرة عامة على فك تشفير سليم لمجرد أنه نموذج ذكاء اصطناعي. وبالمثل، لا تستطيع أي خوارزمية تشفير منع المستلم من إرسال نسخة مقروءة إلى مكان آخر.
المنتجات الحالية توضّح حدودًا مختلفة
يميّز دليل الذكاء الاصطناعي في واتساب بين الرسائل الشخصية والمواد المشتركة مع الذكاء الاصطناعي، ويصف معاملة مختلفة لوكلاء الأطراف الثالثة. ويشرح دليل الذكاء الاصطناعي على الشاشة بشكل منفصل أن اختيار تفعيل تلك الميزات قد يؤدي إلى مشاركة الرسائل والإشعارات الظاهرة.
توضح هذه الأمثلة لماذا يكون إطلاق حكم شامل على تطبيق بأكمله مضللًا في كثير من الأحيان. تحقّق من المساعد والوضع والإذن المحدّد المستخدم، لا من لقطة شاشة قديمة لإشعار خصوصية عام.
ما الذي يمكن قوله عن Livara؟
تصف صفحة الأمان في Livara التشفير من طرف إلى طرف للمحادثات الخاصة المدعومة، إلى جانب البيانات الوصفية التشغيلية المحتفَظ بها والقنوات العامة. كما تصف صفحة الذكاء الاصطناعي العامة اختيار المستخدم لنطاق المحادثة ومنح الإذن قبل مشاركة السياق المحدّد، بما في ذلك إشارة ظاهرة عندما يكون النص المحدّد على وشك الإرسال إلى مزوّد.
لا تدعم هذه التصريحات الادعاء المطلق بأن Livara لا يمكنه أبدًا معالجة محتوى المحادثات بالذكاء الاصطناعي. كما أنها لا تثبت، بمفردها، وعدًا شاملًا بعدم التدريب أو بعدم الاحتفاظ بأي بيانات لكل مسار ممكن للنموذج. يجب أن تجيب الإفصاحات الحالية للميزة وشروط المزوّد المختار عن هذه الأسئلة.
يعالج إنشاء المفاتيح المقاوم للحوسبة الكمية خطرًا مختلفًا: هجمات تحليل الشفرات المستقبلية على النصوص المشفّرة المسجّلة. ولا يحكم ما يفعله مستلم ذكاء اصطناعي مخوّل بالنص الصريح اليوم.
قائمة للتحقق من مخاطر التدريب في المحادثات الخاصة
- حدّد المستلم. هل تعمل الميزة محليًا، أم يديرها تطبيق المراسلة، أم يقدّمها مزوّد آخر؟
- قلّل السياق. شارك أصغر مقطع أو ملف يلزم للمهمة، واستبعد التفاصيل الشخصية غير ذات الصلة.
- اقرأ السياسة المعنية. ابحث تحديدًا عن شروط التدريب والاحتفاظ والمراجعة البشرية والملاحظات والحذف.
- تحقّق من توقعات المجموعة. الإذن بقراءة محادثة جماعية لا يعني تلقائيًا الإذن بإرسالها إلى خدمة أخرى.
- راجع الوصول إلى نقاط النهاية. قد تفتح إضافات المتصفح وأذونات الوصول إلى الإشعارات والتطبيقات المتصلة مسارات منفصلة إلى المحتوى.
- افصل المساحات العامة عن الخاصة. لا تضع مواد سرية في قناة عامة وتتوقع أن يحميها تشفير المحادثات الخاصة.
يمكن لـ E2EE إغلاق مسار لوصول الخادم. لكن منع الاستخدام غير المرغوب فيه للذكاء الاصطناعي يتطلّب أيضًا التحكم في نقاط النهاية والأذونات والإفصاحات التي تتعامل مع المحتوى بعد فك تشفيره.
