Наскрізне шифрування може завадити ретранслятору повідомлень читати захищений вміст чату. Воно не гарантує, що жодна система ШІ ніколи не отримає цей вміст: уповноважений учасник може його скопіювати, дозволена функція — обробити, а скомпрометований пристрій — розкрити.
Щоб оцінити ризик навчання ШІ, простежте шлях даних від розмови до моделі. Важливо розрізняти шифротекст, який ретранслятор не може розкрити, та відкритий текст, навмисно або випадково переданий іншій кінцевій точці.
Обробка повідомлення — не те саме, що навчання моделі
Функція ШІ може обробити текст для створення підсумку, не використовуючи його для оновлення параметрів моделі. Сервіс також може зберігати запити, збирати відгуки або дозволяти навчання за окремою політикою. Це різні операції, які потребують окремого інформування.
Запитайте, чи виконує функція лише запитане завдання, чи зберігає вхідні або вихідні дані та чи використовує їх для вдосконалення моделі. Сама наявність кнопки ШІ на ці запитання не відповідає. Як і слово «зашифровано».
Дослідники в роботі Як осмислювати наскрізне шифрування та ШІ під час оцінювання цих систем розрізняють допомогу ШІ, навчання, розкриття даних і згоду. Їхній аналіз — привід уважно вивчити потік даних, а не доказ того, що кожен провайдер таємно навчає моделі на кожному приватному повідомленні.
Як вміст чату може потрапити до ШІ
| Шлях | Чому самої E2EE недостатньо для відповіді |
|---|---|
| Учасник вставляє розмову в помічника | Учасник уже має доступ до відкритого тексту |
| До розмови додають бота | Бот може бути уповноваженим одержувачем із власною політикою обробки |
| Функція на пристрої читає видимий текст | Обробка відбувається після розшифрування на кінцевій точці |
| Увімкнено хмарну функцію з вибраним контекстом | Користувач може дозволити окреме розкриття даних або захищений шлях обробки |
| Шкідлива програма або розширення з надмірними дозволами читає застосунок | Скомпрометована кінцева точка, а не шифр передавання |
| Вміст публікують відкрито | Публічне поширення — інша межа конфіденційності |
Віддалена модель ШІ не набуває загальної здатності розшифровувати надійне шифрування лише тому, що це модель ШІ. Так само жоден криптографічний алгоритм не може завадити одержувачу надіслати читабельну копію деінде.
Сучасні продукти ілюструють різні межі
Рекомендації WhatsApp щодо ШІ розрізняють особисті повідомлення та матеріали, передані ШІ, і описують інше поводження зі сторонніми агентами. Окремі рекомендації щодо екранних функцій ШІ пояснюють, що згода на використання цих функцій може означати передавання видимих повідомлень і сповіщень.
Ці приклади показують, чому загальне твердження про весь застосунок часто вводить в оману. Перевіряйте конкретного помічника, режим і дозвіл, що використовуються, а не старий знімок загального повідомлення про приватність.
Що можна сказати про Livara?
Сторінка безпеки Livara описує E2EE для підтримуваних приватних розмов, а також збереження операційних метаданих і публічні канали. Її публічна сторінка ШІ також описує вибраний користувачем обсяг розмови та дозвіл перед передаванням вибраного контексту, зокрема видиму вказівку, коли вибраний текст має надійти провайдеру.
Ці заяви не підтверджують абсолютного твердження, що Livara ніколи не може обробляти вміст чату за допомогою ШІ. Самі собою вони також не встановлюють універсальної обіцянки не навчати моделі чи нічого не зберігати для кожного можливого шляху обробки моделлю. На ці запитання мають відповідати актуальні відомості про функцію та умови вибраного провайдера.
Постквантове встановлення ключів стосується іншого ризику: майбутніх криптоаналітичних атак на записаний шифротекст. Воно не визначає, що уповноважений одержувач із ШІ робить із відкритим текстом сьогодні.
Перелік перевірок ризику навчання для приватних розмов
- Визначте одержувача. Функція працює локально, керується месенджером чи надається іншим провайдером?
- Обмежте контекст. Передавайте найменший необхідний уривок або файл; вилучайте не пов’язані із завданням особисті подробиці.
- Прочитайте відповідну політику. Шукайте конкретні умови щодо навчання, зберігання, перевірки людиною, відгуків і видалення.
- Перевірте очікування групи. Дозвіл читати групову розмову не означає автоматичного дозволу надсилати її іншому сервісу.
- Перегляньте доступ до кінцевих точок. Розширення браузера, доступ до сповіщень і підключені застосунки можуть створювати окремі шляхи до вмісту.
- Розділяйте публічні та приватні простори. Не розміщуйте конфіденційні матеріали в публічному каналі, очікуючи, що шифрування приватної переписки їх захистить.
E2EE може закрити шлях доступу сервера. Запобігання небажаному використанню ШІ також потребує контролю кінцевих точок, дозволів і розкриття даних, пов’язаних із розшифрованим вмістом.
