La crittografia end-to-end può impedire a un relay di messaggistica di leggere il contenuto protetto delle chat. Non garantisce che nessun sistema di IA riceverà mai quel contenuto: un partecipante autorizzato può copiarlo, una funzione consentita può elaborarlo o un dispositivo compromesso può esporlo.
Per valutare il rischio di addestramento dell’IA, segui i dati dalla conversazione al modello. La distinzione importante è tra testo cifrato che il relay non può decifrare e testo in chiaro fornito deliberatamente o accidentalmente a un altro endpoint.
Elaborare un messaggio non significa addestrare un modello
Una funzione di IA può elaborare un testo per produrne un riepilogo senza usarlo per aggiornare i parametri del modello. Un servizio può anche conservare i prompt, raccogliere feedback o consentire l’addestramento secondo una politica separata. Sono operazioni diverse che richiedono informative diverse.
Chiediti se la funzione svolge soltanto il compito richiesto, se memorizza input o output e se li usa per migliorare il modello. La semplice presenza di un pulsante IA non risponde a queste domande. Nemmeno la parola «crittografato».
I ricercatori di How To Think About End-To-End Encryption and AI distinguono assistenza tramite IA, addestramento, divulgazione e consenso nella valutazione di questi sistemi. La loro analisi invita a esaminare attentamente il flusso dei dati, non dimostra che ogni fornitore si addestri segretamente su ogni messaggio privato.
Come il contenuto delle chat può raggiungere l’IA
| Percorso | Perché la sola E2EE non risolve la questione |
|---|---|
| Un partecipante incolla una chat in un assistente | Il partecipante ha già accesso al testo in chiaro |
| Viene aggiunto un bot a una conversazione | Un bot può essere un destinatario autorizzato con una propria politica di elaborazione |
| Una funzione sul dispositivo legge il testo visibile | L’elaborazione avviene dopo la decifratura su un endpoint |
| Viene attivata una funzione cloud con contesto selezionato | L’utente può autorizzare una divulgazione distinta o un percorso di elaborazione protetto |
| Un malware o un’estensione con permessi eccessivi legge l’app | È compromesso l’endpoint, non la cifratura del trasporto |
| Il contenuto viene pubblicato apertamente | La distribuzione pubblica rappresenta un diverso confine di riservatezza |
Un modello di IA remoto non acquisisce una capacità generale di decifrare una crittografia solida solo perché è un modello di IA. Allo stesso modo, nessun algoritmo crittografico può impedire a un destinatario di inviare altrove una copia leggibile.
I prodotti attuali illustrano confini diversi
Le indicazioni di WhatsApp sull’IA distinguono i messaggi personali dal materiale condiviso con un’IA e descrivono un trattamento diverso per gli agenti di terze parti. Le indicazioni sull’IA sullo schermo spiegano separatamente che l’attivazione di queste funzioni può condividere messaggi e notifiche visibili.
Questi esempi mostrano perché un’affermazione generale su un’intera app sia spesso fuorviante. Controlla l’assistente, la modalità e il permesso specifici in uso, non una vecchia schermata di un’informativa generica sulla privacy.
Che cosa si può affermare su Livara?
La pagina sulla sicurezza di Livara descrive l’E2EE per le conversazioni private supportate, insieme ai metadati operativi conservati e ai canali pubblici. La sua pagina pubblica sull’IA descrive anche l’ambito della conversazione selezionato dall’utente e l’autorizzazione prima di condividere il contesto scelto, inclusa un’indicazione visibile quando il testo selezionato verrebbe inviato a un fornitore.
Queste dichiarazioni non giustificano l’affermazione assoluta secondo cui Livara non potrebbe mai elaborare contenuti delle chat con l’IA. Né stabiliscono, da sole, una promessa universale di assenza di addestramento o conservazione nulla per ogni possibile percorso dei modelli. A queste domande devono rispondere l’informativa attuale della funzione e le condizioni del fornitore selezionato.
L’instaurazione di chiavi post-quantistica affronta un rischio diverso: futuri attacchi crittoanalitici contro testo cifrato registrato. Non disciplina ciò che un destinatario IA autorizzato fa oggi con il testo in chiaro.
Lista di controllo del rischio di addestramento nelle conversazioni private
- Identifica il destinatario. La funzione è locale, gestita dal servizio di messaggistica o fornita da un altro operatore?
- Limita il contesto. Condividi il passaggio o file minimo necessario; ometti i dettagli personali non pertinenti.
- Leggi la politica pertinente. Cerca specificamente le condizioni su addestramento, conservazione, revisione umana, feedback ed eliminazione.
- Verifica le aspettative del gruppo. Il permesso di leggere una conversazione di gruppo non equivale automaticamente al permesso di inviarla a un altro servizio.
- Controlla l’accesso agli endpoint. Estensioni del browser, accesso alle notifiche e app collegate possono creare percorsi separati verso i contenuti.
- Tieni distinti gli spazi pubblici e privati. Non inserire materiale riservato in un canale pubblico aspettandoti che la crittografia delle chat private lo protegga.
L’E2EE può chiudere un percorso di accesso del server. Prevenire utilizzi indesiderati dell’IA richiede anche il controllo degli endpoint, dei permessi e delle divulgazioni che gestiscono il contenuto decifrato.
