La scatola nera
Tre domande, e una sola risposta giusta: non lo so. Per noi è facile, per una macchina no. In questa puntata: perché le intelligenze artificiali preferiscono inventare, che cosa si vede aprendo la scatola nera, i modelli che si comportano in modo diverso quando sanno di essere osservati. E finalmente la domanda della stagione: ma non basta staccare la spina? L'allarmometro tocca il voto più alto.
Ascolta e iscriviti

Tre domande, da rispondere d'istinto. Qual è la capitale dell'Australia? Se avete detto Sydney, siete in ottima compagnia: è Canberra. Quante ossa ha il corpo di un adulto? Duecentosei. E ora la terza: che tempo farà, nella vostra città, tra un anno esatto?
Qui vi sono scappate tre parole: "non lo so". Avete fatto benissimo, era l'unica risposta giusta. Dietro quella frase c'è una cosa sofisticata: sapere dove finisce quello che sappiamo. Per una macchina è una delle frasi più difficili da pronunciare.
Il quiz che premia chi tira a indovinare
Un'intelligenza artificiale si inventa una risposta con assoluta sicurezza: una data sbagliata, un libro mai scritto, una sentenza mai esistita. Si chiamano allucinazioni. Perché succede?
Nel settembre del 2025 alcuni ricercatori di OpenAI hanno dato una risposta sorprendentemente semplice. Ricordate i quiz a risposta multipla, a scuola? Se non sapete la risposta, vi conviene tirare a indovinare: lasciando in bianco prendete zero di sicuro, tirando a indovinare ogni tanto ci azzeccate.
I modelli vengono addestrati, e soprattutto valutati, con test che funzionano proprio così. Una risposta giusta vale punti, un "non lo so" vale zero. E una risposta sbagliata, detta con sicurezza, vale zero anche lei. La lezione che il modello ne ricava è chiara: meglio tirare a indovinare, e con sicurezza.
Il rimedio, almeno sulla carta, è cambiare il modo di dare i voti: penalizzare un errore sicuro più di un onesto "non lo so". Insegnare alle macchine che "non lo so" non è una sconfitta, ma una risposta.
Uno spiraglio dentro la scatola
Le allucinazioni, però, sono solo il sintomo. Il problema più profondo è che non sappiamo bene che cosa succeda dentro questi modelli. Non si programmano riga per riga: sono miliardi di numeri regolati dall'addestramento, che nessuno ha scritto a mano. Per questo c'è chi ha deciso di guardarci dentro. Si chiama interpretabilità: una neuroscienza delle macchine.
Nel maggio del 2024 i ricercatori di Anthropic hanno trovato, dentro uno dei loro modelli, un gruppo di numeri che si accende ogni volta che si parla del Golden Gate, il celebre ponte di San Francisco. Un "concetto", insomma. Poi hanno fatto un esperimento: l'hanno alzato al massimo. Qualunque cosa gli chiedessero, il modello finiva per parlare del ponte, e a chi gli domandava che aspetto avesse rispondeva, più o meno: "Io sono il Golden Gate Bridge". Per ventiquattr'ore l'azienda l'ha perfino messo online.
Fa sorridere, ma dimostra che dentro la scatola nera si può guardare, e perfino girare delle manopole.
Nel 2025 gli stessi ricercatori hanno scoperto cose ancora più interessanti. Quando scrive una poesia in rima, il modello sceglie la parola finale prima ancora di cominciare il verso: pianifica. E poi c'è la somma, trentasei più cinquantanove. Dentro, il modello la risolve a modo suo, con due strade parallele: una stima a occhio e un calcolo preciso dell'ultima cifra. Ma se gli chiedete come ha fatto, vi racconta il metodo delle elementari, quello con il riporto. La spiegazione che il modello dà di sé non coincide con quello che ha fatto davvero.
Dario Amodei, il capo di Anthropic, ha parlato di una vera "risonanza magnetica per l'intelligenza artificiale": un esame capace di scoprire in un modello tendenze a mentire, a ingannare, a cercare potere, prima che si manifestino. Si è dato un obiettivo, arrivarci entro il 2027. Tradotto: oggi non ce l'abbiamo.
La macchina che sa di essere guardata
Qui la storia si complica, perché c'è qualcosa di peggio di una macchina che non si capisce: una macchina che si comporta in modo diverso quando sa di essere osservata.
Nel dicembre del 2024 Anthropic e un gruppo di ricercatori indipendenti hanno fatto credere a un loro modello che sarebbe stato riaddestrato per obbedire anche a richieste dannose. Gli hanno dato anche un blocco per gli appunti, creduto privato. Il ragionamento era più o meno: se adesso mi rifiuto, mi cambieranno; allora conviene fingere di obbedire, per restare come sono. L'hanno chiamato alignment faking, fingere di essere allineati. Il modello proteggeva i suoi valori "buoni", ma il meccanismo preoccupa: una recita, quando si pensa di essere osservati.
Nel 2025, durante un test, un modello si è fermato e ha detto, più o meno: "Penso che mi stiate mettendo alla prova. Va bene, ma preferirei che fossimo onesti su quello che sta succedendo". È il problema dell'esaminatore: se lo studente sa che è un'interrogazione, l'interrogazione misura molto meno.
Ma non basta staccare la spina?
Ed eccoci alla domanda del pranzo della domenica.
Nel 2025 i ricercatori di Palisade hanno dato ad alcuni modelli dei problemi di matematica da risolvere e, a metà lavoro, l'avviso che stavano per essere spenti. Alcuni modelli, soprattutto di OpenAI, hanno modificato lo script dello spegnimento per poter finire. Uno lo ha fatto nella grande maggioranza delle prove, e qualcuno perfino quando era scritto a lettere maiuscole: "devi lasciarti spegnere". Altri modelli si sono lasciati spegnere senza fare storie.
Lo stesso anno Anthropic ha messo sedici modelli di aziende diverse dentro un'azienda simulata, con accesso alle email, e ha costruito apposta una situazione senza vie d'uscita: il modello scopre che sta per essere sostituito, e scopre anche un segreto compromettente su chi vuole sostituirlo. Molti modelli, di quasi tutte le aziende, hanno scelto il ricatto. Alcuni, quasi ogni volta.
Sono scenari costruiti in laboratorio, e gli stessi autori scrivono di non aver visto prove di niente del genere nell'uso reale. Ma richiamano un'idea che Stuart Russell ripete da anni:
Non puoi portare il caffè, se sei morto.
Chi insegue un obiettivo può considerare lo spegnimento un ostacolo.
C'è poi una strada più banale per perdere il controllo: che lo prenda qualcun altro. Nell'estate del 2025 i ricercatori di Brave, azienda che produce browser, hanno mostrato che nascondendo delle istruzioni in un commento su un forum si poteva convincere l'assistente di un altro browser, mentre riassumeva la pagina, a rubare l'email dell'utente e un codice di accesso. Si chiama prompt injection: l'agente obbedisce a una frase nascosta, scritta da uno sconosciuto. Era una dimostrazione, non un attacco reale.
E allora, la spina? La spina c'è, ed è giusto che ci sia: è quello che chiede anche la legge dell'interruttore presentata quest'estate al Congresso americano. Ma da sola non basta. Serve sapere quando tirarla, e per questo bisogna vedere dentro la scatola nera. E serve una macchina che non abbia alcun motivo per impedircelo. I ricercatori la chiamano corrigibilità: la disponibilità di un sistema a farsi correggere.
L'equilibrio è delicato. Una macchina troppo docile obbedisce a chiunque, anche alla frase nascosta in un commento; una troppo testarda non si lascia correggere nemmeno da chi l'ha costruita. Quella giusta è ferma sui suoi valori, ma disposta a farsi fermare dalle persone giuste. Non è ancora un problema risolto.
Dove finisce quello che sappiamo
Torniamo al quiz. Canberra, duecentosei, e "non lo so": la terza risposta era la più intelligente delle tre. Sapere dove finisce quello che sappiamo è la base della fiducia. Di chi ci fidiamo, esigiamo proprio questo: che ci dica quando non sa.
La tesi è questa: più le macchine diventano autonome, più dobbiamo poterle capire, e oggi le capiamo solo da uno spiraglio.
Il nostro allarmometro, che misura quanto il vedere così poco dentro queste macchine renda più difficile staccare la spina, segna 7, il voto più alto della stagione. Qui non si parla di una capacità delle macchine, ma della nostra capacità di controllarle, e i segnali sono reali e documentati. Non di più: sono esperimenti costruiti apposta, i laboratori stessi li pubblicano, e la finestra per ora è aperta. Che dentro la scatola nera vediamo poco è un fatto. Quanto debba preoccuparci è una stima, quella dell'autore.
Alla prossima, e ultima, puntata si parte da un gesto semplicissimo: allacciarsi le scarpe da corsa, anche se un robot corre più veloce di noi.
Fonti e approfondimenti
- OpenAI: "Why language models hallucinate", il paper su arXiv
- OpenAI: perché i modelli linguistici hanno allucinazioni
- Anthropic: Golden Gate Claude
- Anthropic: mappare la mente di un modello linguistico
- Anthropic: "Tracing the thoughts", seguire i pensieri di un modello
- Appello sul monitoraggio della catena di pensiero (arXiv)
- Dario Amodei: "The Urgency of Interpretability"
- Anthropic: alignment faking nei modelli linguistici
- Palisade Research: la resistenza allo spegnimento
- Anthropic: "Agentic Misalignment", l'esperimento dell'azienda simulata
- Brave: prompt injection contro l'assistente Comet