Dove finiscono i dati quando usi l'AI

Hai letto che l'AI può leggere le email e preparare le risposte, e ti piace. Poi ti viene in mente che quelle email contengono nomi, indirizzi, a volte un codice fiscale, a volte un problema di salute. E ti chiedi dove vanno a finire. È la domanda giusta, ed è quella che più spesso resta senza risposta.

In questo articolo ti spiego cosa succede ai dati quando passano da un modello di AI: chi li riceve, cosa può farne, come si limita quello che gli arriva, e cosa non dovrebbe mai arrivargli.

Cosa succede davvero

Un'automazione con l'AI funziona così: il tuo programma prende un testo, per esempio un'email, lo manda al fornitore del modello attraverso una API, e riceve una risposta. Il testo esce dal tuo server e arriva sui computer del fornitore. Lì viene letto, elaborato e, a seconda del contratto, cancellato subito o conservato per un po'.

Il punto è tutto in quel “a seconda del contratto”. Lo stesso modello, usato in due modi diversi, può essere una scelta sicura o un problema.

Le tre regole da pretendere

• Contratto da azienda, non account personale. I fornitori hanno due porte. Quella per il pubblico, gratuita o quasi, dove quello che scrivi può diventare dati di training per il modello. E quella per le aziende, con un contratto che dice che i tuoi dati non si usano per addestrare nulla e si cancellano dopo l'elaborazione. Per la tua attività va usata solo la seconda, con l'account intestato a te.
• Meno dati possibile. Prima di mandare un testo al modello, il programma toglie quello che non serve al compito. Per smistare un'email non serve il codice fiscale: si copre. Per rispondere a “avete parcheggio?” non serve il cognome. Il modello vede il minimo per fare il suo lavoro.
• Dati in Europa, dove si può. Molti fornitori permettono di scegliere che l'elaborazione avvenga in centri dati europei, e il GDPR lo chiede quando i dati sono personali. Dove non si può, si valuta se quel compito vale il rischio. Spesso la risposta è usare un altro fornitore.

Cosa non deve mai partire

Ci sono cose che non passano da un modello esterno, qualunque sia il contratto. Non per legge soltanto: perché il rischio non vale il beneficio.

• Dati sanitari, salvo che il progetto nasca per quello e con tutte le tutele del caso. Un'intolleranza in una richiesta di prenotazione si copre prima di mandare il testo.
• Password, numeri di carta, IBAN. Un'automazione che li legge è un'automazione sbagliata.
• I documenti interi quando basta un pezzo. Il modello riceve il paragrafo che serve, non l'archivio.

Cosa resta a te

Tutto quello che il modello produce, le classificazioni, le bozze, i dati estratti, finisce nel tuo database, su Supabase, in Europa, sull'account a tuo nome. Il contratto con il fornitore del modello è intestato a te. Ogni chiamata al modello resta scritta nel log: cosa è stato mandato, quando, e cosa è tornato. Se un giorno qualcuno chiede “che fine hanno fatto i dati di questa persona?”, c'è una risposta.

Cosa l'AI non deve decidere da sola

Il GDPR dice una cosa che è anche buon senso: una decisione che riguarda una persona non la prende una macchina da sola. Vale per i piccoli come per i grandi.

• L'AI propone, una persona approva. La bozza di risposta la legge qualcuno prima che parta. Sempre, nei primi mesi. A campione, dopo.
• La persona dall'altra parte deve sapere che sta parlando con un sistema automatico, e deve poter chiedere un umano.
• Deve esserci un modo per correggere: se l'AI ha classificato male, qualcuno lo sposta a mano e il sistema impara dalla correzione.

Le tre domande da fare

A chiunque ti proponga un'automazione con l'AI.

1. 01Con quale contratto mandi i miei dati al fornitore, e a chi è intestato?
2. 02Cosa togli dal testo prima di mandarlo, e dove avviene l'elaborazione?
3. 03Cosa viene conservato dopo, e dove posso vederlo?

Se le risposte ci sono, l'AI si può usare con la coscienza tranquilla. Se mancano, non è l'AI il problema: è chi te la sta proponendo.