Prima di adottare uno strumento AI, la domanda giusta non è quanto costa: è dove finiscono i tuoi dati

Un consulente mi ha raccontato una scena che sento spesso. Aveva trovato un tool AI che gli riassumeva i verbali delle riunioni in automatico. Gratis, veloce, un incollaggio e via. Ci ha buttato dentro mesi di note interne, nomi dei clienti compresi, prima di fermarsi su una domanda che nessuno gli aveva insegnato a farsi: dove finiscono, adesso, quei dati?

Non lo sapeva. Non c'era scritto da nessuna parte in modo chiaro. E il punto è proprio questo.

Quando scegliamo uno strumento AI guardiamo due cose: quanto è bravo e quanto costa. Sono domande legittime, ma sono solo le prime due. La terza, quella che separa chi usa l'AI da chi la presidia, è un'altra: di questo strumento, mi posso fidare con i dati del mio lavoro?

Lo strumento AI più rischioso non è quello che sbaglia

Sui rischi dell'AI si parla quasi sempre di allucinazioni: la risposta inventata, il numero sbagliato, la fonte che non esiste. Sono rischi veri. Ma sono rischi visibili. Un errore, prima o poi, lo vedi e lo correggi.

Il rischio di cui non parla nessuno è invisibile: è quello che succede ai tuoi dati dopo che hai premuto invio. Non produce un output sbagliato. Non fa rumore. Semplicemente, informazioni che erano tue diventano, in qualche misura, di qualcun altro. E te ne accorgi, se mai te ne accorgi, molto tempo dopo.

Il discorso è che uno strumento AI non è un programma che gira sul tuo computer. È un servizio. I tuoi dati escono dalla tua rete, viaggiano verso un server che non controlli, vengono processati da un modello che non hai addestrato tu, e a volte restano lì. La domanda "dove finiscono i miei dati" non è paranoia. È la prima riga di una due diligence che nessuno ti ha insegnato a fare.

La competenza che tiene insieme tutto si chiama diligenza

C'è un framework di alfabetizzazione AI, costruito dai professori Rick Dakan e Joseph Feller insieme ad Anthropic, che divide il lavorare bene con l'AI in quattro competenze. Le chiamano le quattro D: delega, descrizione, discernimento e diligenza.

Le prime tre riguardano come usi lo strumento: cosa gli affidi, come glielo chiedi, come valuti quello che ti restituisce. La quarta, la diligenza, riguarda la responsabilità. Ed è quella che quasi tutti saltano, perché non è divertente. Usare l'AI è divertente. Leggere le condizioni sul trattamento dei dati no.

Ma la diligenza non comincia quando pubblichi un contenuto fatto con l'AI. Comincia molto prima, nel momento in cui scegli lo strumento. Perché la responsabilità di dove finiscono i dati del tuo cliente resta tua, sempre. Non si delega a una casella di spunta durante la registrazione.

Le cinque domande da fare prima di adottare uno strumento AI

Non serve essere un avvocato. Serve un processo: cinque domande da fare a ogni tool prima di dargli qualcosa che conta. Le uso io per ogni pezzo del mio stack, e sono le stesse che consiglio a chi mi chiede da dove partire.

1) Dove vengono trattati e conservati i miei dati? Non è una questione di bandiere. Se i tuoi dati, o quelli dei tuoi clienti, escono dallo Spazio Economico Europeo, il GDPR ti chiede una base giuridica per quel trasferimento (è l'articolo 44 e quelli che seguono). Tradotto: un tool che tratta tutto su server europei ti semplifica la vita, uno che manda tutto oltreoceano non è vietato, ma ti carica di responsabilità in più. La domanda da fare è secca: dove girano fisicamente i miei dati, e sotto quale giurisdizione?

2) I miei dati vengono usati per addestrare il modello? Questa è la domanda che cambia tutto, e la risposta di default conta più di quanto pensi. Molti servizi, soprattutto nei piani gratuiti, usano quello che scrivi per migliorare i loro modelli, a meno che tu non disattivi l'opzione a mano. Altri, soprattutto nei piani business, non lo fanno per impostazione predefinita. Non c'è una risposta giusta in assoluto, c'è una risposta che devi conoscere. Perché un conto è una bozza di email, un altro è il bilancio di un cliente che finisce, anche solo in forma aggregata, dentro l'addestramento di un modello.

3) Esiste un contratto che regge davanti al GDPR? Se usi uno strumento AI per trattare dati personali di altre persone, per il GDPR quel fornitore è un responsabile del trattamento, e serve un contratto che lo dica (l'articolo 28, la cosiddetta DPA, data processing agreement). I fornitori seri ce l'hanno pronta, la trovi in un paio di click. Se un servizio non ti offre un modo di firmare un accordo del genere, non è un dettaglio burocratico che manca: è il segnale che quel tool non è pensato per un uso professionale su dati altrui.

4) Per quanto tempo conservano quello che gli mando? La conservazione è la parte silenziosa. Un tool può non addestrarsi sui tuoi dati e comunque tenerli parcheggiati sui suoi server per un periodo lungo "per motivi di sicurezza". Più a lungo restano, più sono una superficie esposta: a un data breach, a una richiesta legale, a un accesso che non avevi previsto. La domanda giusta è: dopo che ho ottenuto la mia risposta, per quanto tempo il mio input resta da qualche parte, e posso chiederne la cancellazione?

5) Cosa dice l'AI Act del mio ruolo? L'ultima domanda non è sui dati, è su di te. L'AI Act ti assegna un ruolo, e da quel ruolo dipendono i tuoi obblighi. Se ti limiti a usare strumenti già pronti, sei un utilizzatore, un deployer, e la lista è corta: la competenza di base (l'obbligo di alfabetizzazione dell'articolo 4, in vigore già dal 2 febbraio 2025) e la trasparenza verso chi legge (l'articolo 50, applicabile dal 2 agosto 2026). Non stai costruendo un sistema ad alto rischio, quindi la parte più pesante del regolamento, oggi, non ti tocca.

Una nota, perché le due cose si tengono. Queste cinque domande riguardano lo strumento. Ma c'è un livello prima, che riguarda te: cosa non dovrebbe mai entrare in un prompt, a prescindere da quanto è sicuro il fornitore. È la premessa di tutto il resto: il tool più affidabile del mondo non ti salva se sei tu a dargli quello che non dovevi.

GDPR e AI Act non sono la stessa cosa (ma qui si toccano)

Qui va fatta una distinzione, perché le due cose vengono confuse di continuo. Il GDPR e l'AI Act non sono lo stesso regolamento e non rispondono alla stessa domanda.

Il GDPR risponde a "cosa puoi fare con i dati personali delle persone". Vale da anni, vale adesso, vale per ogni tool AI in cui infili il nome di un cliente. È il regolamento che rende la domanda "dove finiscono i miei dati" una domanda legale, non solo prudente.

L'AI Act risponde a un'altra domanda: come devi comportarti quando usi o costruisci sistemi di AI. La competenza di base, l'alfabetizzazione dell'articolo 4, è un obbligo già dal 2 febbraio 2025 per chi usa l'AI a livello professionale. Dal 2 agosto 2026 diventano applicabili gli obblighi di trasparenza dell'articolo 50: dichiarare quando un contenuto è generato dall'AI, segnalare quando chi ti scrive è un sistema e non una persona. Gli obblighi pesanti sui sistemi ad alto rischio dell'Allegato III, quelli, sono stati rinviati al 2 dicembre 2027. Quindi no, il 2 agosto non scatta tutto: scatta la trasparenza, non l'alto rischio. Ho spiegato altrove cosa cambia davvero dal 2 agosto, ma per te la sintesi è questa.

Per un freelance o una PMI la traduzione pratica è semplice. Nella quasi totalità dei casi sei un utilizzatore, non un fornitore. I tuoi obblighi sono leggeri: sapere cosa stai usando, dire quando lo usi, e non dare in pasto dati che non dovresti. Il resto, per ora, non ti riguarda. Ma questi tre, sì, e il primo dei tre è quello che quasi tutti dimenticano.

Quando smetti di essere solo un utilizzatore

C'è un caso in cui la lista corta si allunga, ed è bene conoscerlo. Se prendi un modello, lo personalizzi in modo sostanziale e lo rimetti sul mercato con il tuo nome, oppure se lo integri dentro un tuo prodotto che vendi ad altri, per l'AI Act non sei più solo un utilizzatore: inizi a somigliare a un fornitore, e gli obblighi crescono di parecchio.

Per la maggior parte dei freelance e delle PMI non è lo scenario di oggi. Ma è il motivo per cui vale la pena sapere in che categoria stai: il giorno in cui passi dall'usare l'AI al costruirci sopra qualcosa da vendere, la stessa attività cambia peso normativo. Meglio saperlo prima, non il giorno dopo.

L'obiezione: «ma io uso solo tool famosi, di cui mi fido»

Questa è l'obiezione che sento più spesso, e la capisco. Se lo strumento lo fa un'azienda grande e conosciuta, sembra ragionevole dare per scontato che sia tutto a posto. Il problema è che la reputazione del marchio non è la risposta alla domanda giusta.

La stessa azienda, sullo stesso strumento, tratta i tuoi dati in modo diverso a seconda del piano che hai attivato. Il piano gratuito e il piano business dello stesso identico servizio possono avere regole opposte sull'addestramento e sulla conservazione. Non conta chi ha fatto il tool. Conta cosa dice il contratto del piano che stai usando tu, oggi. E quello va letto, non intuito.

Il punto è questo: fidarsi di un marchio è comodo, ma non è verificabile. Fidarsi di una riga di contratto che hai letto, quello sì. La diligenza non ti chiede di essere sospettoso di tutto. Ti chiede di sostituire una sensazione con un fatto, almeno per gli strumenti che toccano i dati di chi ti paga.

Come trasformare cinque domande in un processo ripetibile

Una domanda fatta una volta è curiosità. Fatta ogni volta, è un processo. E un processo è quello che ti serve, perché di tool AI ne proverai decine, e non puoi rifare l'indagine da zero ogni volta andando a memoria.

→ Tieni un foglio, anche banale, con una riga per ogni strumento AI che usi: nome, che dati ci passi, dove li tratta, se addestra sui tuoi dati sì o no, se esiste un DPA.

→ Prima di adottarne uno nuovo, compili la riga. Se non riesci a compilarla perché le informazioni non ci sono, quella è già una risposta.

→ Rivedi il foglio ogni tanto, perché i termini di servizio cambiano, e un tool che oggi non addestra sui tuoi dati domani potrebbe iniziare a farlo senza dirtelo con un megafono.

Sembra burocrazia. Non lo è. È la differenza tra dire a un cliente "i tuoi dati sono al sicuro" perché lo speri, e dirlo perché lo sai. Una delle due frasi la puoi mettere per iscritto. L'altra è un rischio che ti sei tenuto in casa senza accorgertene.

Nel mio caso questa è una delle ragioni per cui lavoro Claude-native invece di incollare pezzi di processo dentro dieci servizi diversi. Meno strumenti a cui dare i dati, meno superfici da controllare. Non è la scelta giusta per tutti, ma il ragionamento dietro, quello sì, vale per tutti: ogni tool in più è una riga in più su quel foglio, e una superficie in più da presidiare.

Un caso pratico, in cinque minuti

Rendiamolo concreto. Mettiamo che tu voglia adottare un tool che trascrive e riassume le chiamate con i clienti. È comodo, ti fa risparmiare ore ogni settimana. Prima di dargli la prima registrazione, però, applichi le cinque domande, una alla volta, e vedi cosa salta fuori.

→ Server dove? Cerchi nella pagina privacy le parole "dati" e "server": se dice Unione Europea, bene, se dice solo Stati Uniti, ti serve capire con quale base giuridica avviene il trasferimento.

→ Addestrano sui tuoi dati? Vai nelle impostazioni dell'account: se l'opzione "usa le mie conversazioni per migliorare il modello" è attiva di default, la spegni, e ti segni che era attiva.

→ C'è una DPA? La cerchi nella pagina legale o la chiedi al supporto: se in un giorno non arriva niente, è già un segnale. → Conservazione? Nella privacy policy cerchi "retention" o "conservazione": se non c'è un tempo scritto, lo chiedi. → Il tuo ruolo? Ti stai limitando a usarlo, quindi sei un utilizzatore: ti bastano competenza e trasparenza.

Cinque minuti, cinque risposte. Alla fine non hai un parere, hai una riga compilata. E quella riga vale più di mille "dovrebbe essere sicuro". Il bello è che dalla seconda volta ci metti la metà del tempo, perché sai già dove guardare.

La fiducia non è un'impostazione predefinita

Torno alla scena dell'inizio. Il consulente non aveva fatto niente di stupido. Aveva fatto quello che facciamo tutti: aveva dato per scontata la fiducia, perché lo strumento funzionava bene e costava poco. La fiducia, però, non è un'impostazione predefinita. È qualcosa che verifichi prima, non che scopri dopo.

Le allucinazioni ti fanno sbagliare una risposta. La leggerezza sui dati ti fa perdere qualcosa che non torna più: la riservatezza di un cliente, e con quella la sua fiducia. Si misura in clienti che non ti richiamano, non in righe di log.

Se vuoi un punto di partenza concreto per capire dove sei messo con AI Act e gestione dei dati, ho preparato un self-check gratuito: pochi minuti, nessun invio di dati sensibili, e ne esci con un'idea chiara di cosa sistemare per primo.

Lo strumento più intelligente non è quello che ti dà la risposta migliore. È quello di cui sai esattamente dove finiscono i tuoi dati. Il resto viene dopo.