Сквозное шифрование может не дать ретранслятору сообщений прочитать защищённое содержимое чата. Оно не гарантирует, что ни одна система ИИ никогда не получит это содержимое: уполномоченный участник может скопировать его, разрешённая функция — обработать, а взломанное устройство — раскрыть.
Чтобы оценить риск обучения ИИ, проследите путь данных от разговора к модели. Важно различать шифротекст, который ретранслятор не может раскрыть, и открытый текст, намеренно или случайно переданный другой конечной точке.
Обработка сообщения — не то же самое, что обучение модели
Функция ИИ может обработать текст для создания краткого изложения, не используя его для обновления параметров модели. Сервис также может сохранять запросы, собирать обратную связь или разрешать обучение в рамках отдельной политики. Это разные операции, и информация о них должна раскрываться отдельно.
Уточните, выполняет ли функция только запрошенную задачу, сохраняет ли входные или выходные данные и использует ли их для улучшения модели. Само наличие кнопки ИИ на эти вопросы не отвечает. Как и слово «зашифровано».
Авторы работы Как рассматривать сквозное шифрование и ИИ при оценке таких систем различают помощь ИИ, обучение, раскрытие данных и согласие. Их анализ — повод внимательно изучить потоки данных, а не доказательство того, что каждый провайдер тайно обучает модели на каждом личном сообщении.
Как содержимое чата может попасть к ИИ
| Путь | Почему одной E2EE недостаточно для ответа |
|---|---|
| Участник вставляет переписку в помощника | Участник уже имеет доступ к открытому тексту |
| В разговор добавляют бота | Бот может быть уполномоченным получателем со своей политикой обработки |
| Функция на устройстве читает видимый текст | Обработка происходит на конечной точке после расшифрования |
| Включена облачная функция с выбранным контекстом | Пользователь может разрешить отдельное раскрытие данных или защищённый путь обработки |
| Вредоносная программа или расширение с избыточными разрешениями читает приложение | Взломана конечная точка, а не шифр передачи |
| Содержимое публикуют открыто | Публичное распространение — другая граница конфиденциальности |
Удалённая модель ИИ не получает общей способности расшифровывать надёжное шифрование только потому, что это модель ИИ. Равным образом никакой криптографический алгоритм не может помешать получателю отправить читаемую копию куда-то ещё.
Нынешние продукты показывают разные границы
Рекомендации WhatsApp об ИИ различают личные сообщения и материалы, переданные ИИ, и описывают иной подход к сторонним агентам. Отдельные рекомендации об экранных функциях ИИ объясняют, что согласие на их использование может привести к передаче видимых сообщений и уведомлений.
Эти примеры показывают, почему широкое утверждение обо всём приложении часто вводит в заблуждение. Проверяйте конкретного помощника, режим и используемое разрешение, а не старый снимок общего уведомления о конфиденциальности.
Что можно сказать о Livara?
Страница безопасности Livara описывает E2EE для поддерживаемых личных разговоров, а также сохраняемые операционные метаданные и публичные каналы. Её публичная страница ИИ также описывает выбираемый пользователем объём разговора и разрешение перед передачей выбранного контекста, включая видимое указание на то, что выбранный текст будет отправлен провайдеру.
Эти заявления не подтверждают абсолютное утверждение, что Livara никогда не может обрабатывать содержимое чатов с помощью ИИ. Сами по себе они также не устанавливают универсального обещания не обучать модели или ничего не сохранять для любого возможного пути обработки моделью. Ответы должны содержаться в актуальной информации о функции и условиях выбранного провайдера.
Постквантовое установление ключей решает другую задачу: защиту от будущих криптоаналитических атак на записанный шифротекст. Оно не определяет, что уполномоченный получатель с ИИ делает с открытым текстом сегодня.
Список проверок риска обучения для личных разговоров
- Определите получателя. Функция работает локально, управляется мессенджером или предоставляется другим провайдером?
- Ограничьте контекст. Передавайте минимально необходимый отрывок или файл; исключайте не относящиеся к задаче личные сведения.
- Прочитайте соответствующую политику. Ищите конкретные условия об обучении, хранении, проверке человеком, обратной связи и удалении.
- Уточните ожидания группы. Разрешение читать групповой разговор не означает автоматического разрешения отправлять его другому сервису.
- Проверьте доступ к конечным точкам. Расширения браузера, доступ к уведомлениям и подключённые приложения могут создавать отдельные пути к содержимому.
- Разделяйте публичные и личные пространства. Не размещайте конфиденциальные материалы в публичном канале, ожидая, что шифрование личной переписки их защитит.
E2EE может закрыть путь доступа сервера. Предотвращение нежелательного использования ИИ также требует контроля конечных точек, разрешений и раскрытия данных, связанных с расшифрованным содержимым.
