C'è un momento, prima di affidarsi davvero a un agente AI, in cui la domanda giusta non è se funziona. È se ci si può fidare di quello che dice, di dove finiscono i propri dati, di chi risponde quando qualcosa va storto, e di cosa resta del proprio giudizio una volta che l'agente entra nel lavoro quotidiano. Sono domande legittime, e chi non se le pone prima di scegliere uno strumento probabilmente non ha capito bene cosa sta per mettere dentro il proprio lavoro.
La prima riguarda l'invenzione. Un sistema che genera linguaggio può produrre affermazioni che suonano fondate senza esserlo davvero, un riferimento che non esiste, un dato che sembra plausibile ma non lo è. È un rischio reale, non teorico, ed è il motivo per cui un agente costruito bene non si limita a generare testo fluente: mostra da dove viene ogni affermazione rilevante, così chi legge può verificare invece di doversi fidare alla cieca. Se un sistema non permette questo controllo, il problema non è l'affidabilità della singola risposta, è che non sai come verificarla, il che è un problema più grande.
La seconda riguarda i dati. Documenti, casi, informazioni su clienti reali non sono materiale generico, sono spesso coperti da obblighi di riservatezza precisi, professionale o normativa che sia. Chiedere dove finiscono, chi può vederli, per quanto tempo restano, non è diffidenza eccessiva, è la stessa domanda che si farebbe a chiunque altro a cui si affida qualcosa di sensibile. Un fornitore serio ha una risposta precisa a questa domanda, non generica.
La terza riguarda la responsabilità. Se un agente sbaglia, chi risponde? È una domanda che spesso viene evitata perché scomoda, ma è proprio la domanda che rivela se chi ha costruito quel sistema lo ha pensato per un uso professionale vero o per una demo che funziona bene finché nessuno guarda troppo da vicino. La risposta corretta non è mai "l'agente decide da solo": è che l'agente prepara, propone, mostra le proprie fonti, e chi firma resta chi ha sempre firmato.
La quarta è forse la più sincera delle quattro, ed è quella che pochi ammettono di pensare: usare uno strumento che ragiona al posto tuo ti rende meno capace di ragionare da solo? È una preoccupazione fondata, se lo strumento è pensato per sostituire il giudizio invece di prepararlo. Ma è infondata se lo strumento fa l'opposto: allarga le alternative che hai davanti prima che tu scelga, invece di sceglierle per te. Un professionista che vede più strade possibili prima di decidere non perde autonomia, la esercita meglio, con più materiale su cui basarla.
Nessuna di queste quattro domande ha una risposta che vale bene per tutti gli strumenti che si definiscono AI, ed è esattamente per questo che vale la pena farle, prima di scegliere, non dopo. Chi costruisce un agente pensato per restare dentro il controllo di chi lo usa non ha motivo di evitarle. Ha già le risposte pronte, perché le si è fatte per primo, prima ancora di scrivere la prima riga di codice.