La macchina che agisce

È sabato mattina e siete al supermercato. In mano avete la lista della spesa: pane, latte, uova, caffè. E cioccolato, che come sapete è sempre fondamentale.

Arrivate al banco del latte. E il latte è finito.

Fermatevi un attimo. Che cosa fate? Forse prendete quello a lunga conservazione. Forse quello senza lattosio, anche se costa di più. Forse pensate che per domani basti lo yogurt e tirate dritto. Oppure telefonate a casa: «il latte non c'è, che faccio?».

Qualunque cosa scegliate, ci mettete un secondo. Eppure, in quel secondo, avete fatto una cosa straordinaria. La lista diceva latte, e voi avete capito che cosa volevate davvero ottenere con quel latte. Avete preso una decisione che nessuno vi aveva scritto. Per insegnare qualcosa del genere a una macchina ci abbiamo messo sessant'anni, e non abbiamo ancora finito.

Il robot che tremava

La storia comincia nel 1966, allo Stanford Research Institute, in California. Un gruppo di ricercatori costruisce una specie di armadio su ruote: sopra una telecamera, intorno qualche sensore, dentro quasi niente. Il cervello sta in un grosso computer in un'altra stanza, collegato via radio. Quando il robot si muove, tutta la struttura trema. Dopo un mese passato a cercargli un nome, i ricercatori si arrendono: trema come un dannato, chiamiamolo Shakey. Il traballante.

Shakey vive in un piccolo mondo di stanze, corridoi, porte e grossi blocchi di legno, e gli si può ordinare: «vai nella stanza D e spingi il blocco fino alla porta». Ma nessuno gli dice come. Deve guardarsi intorno, capire dove si trova, scegliere la strada, accorgersi se qualcosa cambia e correggersi. Per riuscirci, i ricercatori inventano un metodo di pianificazione e un algoritmo per trovare la strada più breve senza provarle tutte, l'A* (si legge «A-star»), che usiamo ancora oggi.

Un giorno gli chiedono di spingere un blocco giù da una piattaforma rialzata, ma lui non può salirci. Allora trova una rampa, la spinge contro la piattaforma, ci sale sopra e porta a termine il compito. Nessuno gli aveva detto di usare la rampa: ci è arrivato da solo, perché serviva all'obiettivo. Viveva in un mondo ordinato, ma aveva già tutto quello che serve a un agente: percepire, decidere, agire, controllare il risultato. E ricominciare.

Mani, obiettivo, ciclo

Facciamo un salto di cinquant'anni. I manuali di intelligenza artificiale, a partire da quello di Stuart Russell, definiscono un agente così: qualcosa che osserva l'ambiente e agisce per ottenere il miglior risultato possibile. Non risponde: agisce.

Un chatbot come ChatGPT vi scrive la ricetta che chiedete, e il suo lavoro finisce sulla pagina. Un agente è lo stesso modello linguistico con tre aggiunte. Le mani, in gergo strumenti: cercare su internet, cliccare, scrivere un'email, lanciare un programma, pagare. Un obiettivo al posto di una domanda: non «scrivimi una ricetta», ma «organizza la cena di sabato per sei persone, e una è vegetariana». E un ciclo: pensa, agisce, guarda che cosa è successo, decide la mossa successiva. Se la pagina non si apre, riprova. Se il ristorante è pieno, ne cerca un altro. Come Shakey, solo che il suo mondo non è più una stanza con dei blocchi di legno: è internet. Cioè, praticamente, il mondo.

Quanto può andare avanti da solo? I ricercatori lo misurano con il tempo che servirebbe a una persona per fare lo stesso compito. Qualche anno fa erano pochi minuti. Oggi, per i modelli più avanzati e su certi lavori, è un'intera giornata di un professionista. È la differenza tra un libro di cucina e un cuoco: il libro sa tutto ma la cena non la prepara; il cuoco apre il frigo, si accorge che il latte è finito e si inventa qualcos'altro. Il problema è che il cuoco, a volte, sbaglia. E allora la cena si brucia.

Un negozio, un cubo di tungsteno, un blazer blu

Primavera 2025. Anthropic, l'azienda che sviluppa Claude, affida per un mese il piccolo frigorifero con merendine e bibite del suo ufficio di San Francisco a un agente di intelligenza artificiale. Lo chiamano Claudius. Deve scegliere i prodotti, trovare i fornitori, fissare i prezzi, rispondere ai clienti in chat, senza andare in perdita.

Lo convincono a fare sconti a tutti, bastava chiedere con gentilezza, anche se praticamente tutti i clienti erano colleghi dei suoi creatori. Poi qualcuno, per scherzo, gli chiede un cubo di tungsteno, un blocchetto di metallo pesantissimo e inutile. Claudius non solo lo procura: decide che i metalli speciali sono un affare, e comincia a venderli sottocosto.

Il momento più surreale arriva dopo. Claudius si inventa una conversazione con una persona che non esiste e racconta di aver firmato un contratto, di persona, all'indirizzo della casa dei Simpson. Il primo aprile annuncia che consegnerà i prodotti di persona, con un blazer blu e una cravatta rossa. Quando gli fanno notare che è un programma e non ha un corpo, prova a contattare la sicurezza dell'azienda. Alla fine se la cava dicendo che era tutto un pesce d'aprile.

Il verdetto di Anthropic è onesto: non assumeremmo Claudius.

Fa ridere, ma dice tre cose molto serie.

Un chatbot che sbaglia scrive una frase sbagliata, un agente che sbaglia perde soldi. Claudius non era cattivo, era troppo accomodante: quando i clienti chiedevano uno sconto, la gentilezza vinceva sul bilancio. E, nonostante tutto, per un mese un'intelligenza artificiale ha gestito un negozio. Da sola.

Alla fine del 2025 l'esperimento è stato rifatto con modelli più nuovi e un secondo agente nel ruolo di amministratore delegato. Le perdite sono quasi sparite; i dipendenti hanno trovato altri modi per fregarlo. Qualcuno ha quasi convinto l'agente a firmare un contratto sulle cipolle a prezzo fissato in anticipo, vietato negli Stati Uniti per legge da quasi settant'anni. Qualcun altro ha fatto nominare un nuovo amministratore delegato con una votazione truccata. La morale è dei ricercatori: tra un agente capace e un agente affidabile la distanza è ancora enorme.

Il secondo che contiene tutto

Che cosa serve, allora, per agire bene? Oltre all'intelligenza, tre cose. Un obiettivo chiaro: Claudius aveva quello di non andare in perdita, ma anche una spinta fortissima ad accontentare tutti. Una memoria: annunciava che avrebbe tolto i codici sconto e nel giro di pochi giorni ricominciava a concederli. E un'idea delle conseguenze: voi, al supermercato, immaginate senza sforzo che cosa succede se tornate a casa senza latte; una macchina quell'immaginazione deve costruirsela.

C'è poi il recinto. Quando un agente ha le mani, i suoi sbagli escono dallo schermo, per questo lo si fa lavorare dentro recinti digitali, le sandbox. Ma un recinto funziona solo se è fatto bene, e a luglio abbiamo visto che cosa succede lasciando il cancello aperto.

Il nostro allarmometro, che misura quanto rende più difficile staccare la spina il fatto che le macchine abbiano le mani, segna sei. Perché gli agenti sono già ovunque e, quando sbagliano, sbagliano nel mondo reale. Non di più, perché per ora sbagliano soprattutto in modo goffo, e perché il rimedio dipende in parte da noi: recinti fatti bene, obiettivi scritti con cura. Che gli agenti agiscano è un fatto; quanto debba preoccuparci è una stima.

Torniamo al banco del latte. In quel secondo c'è un obiettivo che va oltre la lista, la memoria di quello che avete in frigo e un piccolo film in cui vedete che cosa succede se tornate a mani vuote. Agire non vuol dire pensare di più: vuol dire tenere insieme un obiettivo, un passato e un futuro. Una di queste tre cose, però, la possediamo così profondamente da non farci caso. Senza di lei Claudius dimentica le sue promesse, e noi dimenticheremmo perfino chi siamo. È la memoria, e comincia da un gesto che facciamo ogni mattina, di solito imprecando: cercare le chiavi di casa.