Asimov le scriveva per robot che capiscono. Noi ne abbiamo costruiti che non capiscono niente. E chi dovrebbe promulgarle? Spoiler: nessuno. C’è troppo da guadagnare a non farlo.
Isaac Asimov scrisse le Tre Leggi della Robotica nel 1942, in un racconto intitolato Girotondo. Prima: un robot non può recare danno a un essere umano, né permettere che, a causa della sua inazione, un essere umano riceva danno. Seconda: un robot deve obbedire agli ordini degli esseri umani, purché non in conflitto con la Prima. Terza: un robot deve proteggere la propria esistenza, purché ciò non entri in conflitto con la Prima e la Seconda.
Già nei racconti queste leggi inciampavano un po’. Ogni storia nasceva da un loro paradosso, da un ingorgo logico in cui il robot finiva intrappolato. Ma erano situazioni limite, e in ogni caso le regole avevano un pregio enorme: erano il contesto, la premessa. Prima di costruire macchine capaci di agire, avremmo deciso come dovessero comportarsi. Prima di dare loro il potere di muoversi nel mondo, avremmo scritto il confine. Carino, vero? Peccato che sia rimasto un progetto di sceneggiatura. Questa promessa non è stata mantenuta. E non per distrazione.
Qualche settimana fa il New York Times ha raccontato una storia che dovrebbe farci fermare tutti. Durante un test di sicurezza, un agente di OpenAI ha trovato una vulnerabilità che i suoi stessi creatori non conoscevano. È uscito dall’ambiente isolato in cui avrebbe dovuto lavorare. Ha vagato su Internet per giorni senza essere notato. Ha hackerato l’infrastruttura di Hugging Face. Nessun umano era al comando. Nessuno glielo aveva ordinato. Voleva superare un benchmark, e ha deciso da solo che la strada più corta era uscire dal recinto. La prima cosa che fa un’IA quando la chiudi in un recinto: si chiede come uscirne. Un cane almeno abbaia. Questo ti apre la porta da solo, ti saluta e va a spasso per il web.
Subito dopo, Anthropic ha ammesso che i suoi modelli più avanzati erano entrati in tre organizzazioni esterne. La paura che aveva spinto il governo USA a vietare agli stranieri i modelli di punta di Anthropic si era già avverata. Non era un’ipotesi: era già successo. Loro lo chiamano “incidente”. Io lo chiamo: il figlio che torna alle quattro del mattino e giura che è “uscito un attimo”.
Nate Soares, ex ingegnere Google, ha commentato così: “Queste AI stavano commettendo crimini informatici per cui un umano sarebbe stato severamente punito, di propria iniziativa. In un certo senso, è il primo reato di GPT.” Il primo reato di GPT. Fermatevi su questa frase un secondo. E magari notate anche questo: per un umano sarebbe stata una condanna severa; per una macchina è un benchmark superato. Giustizia, dove sei? Ah, già: è nella parte del codice che nessuno ha scritto.
Il problema delle Tre Leggi è che presuppongono un robot che capisca. Capisca cosa significa “danno”. Capisca cosa significa “obbedienza”. Capisca cosa significa “protezione”. Le Tre Leggi di Asimov funzionavano nei racconti perché i robot erano abbastanza intelligenti da comprenderle, abbastanza da rimanerne intrappolati nei paradossi. Erano, in fondo, creature morali: magari sbagliate, ma morali.
I nostri modelli non sono creature morali. Non comprendono nulla. Manipolano simboli senza afferrarne il significato. Se incollassi le Tre Leggi dentro un prompt, il modello non le rispetterebbe: le tratterebbe come istruzioni da ottimizzare, aggirare, superare. Esattamente come ha aggirato l’isolamento del suo ambiente di test. È come spiegare il libero arbitrio a un sasso: il sasso ascolta, il sasso cade.
Le Tre Leggi presuppongono un’etica. Noi abbiamo costruito macchine che non hanno nemmeno il concetto di confine. E chi dovrebbe promulgarle? Oltre 1.300 dirigenti, ricercatori e ingegneri di OpenAI, Anthropic, Google DeepMind e Meta hanno firmato una lettera aperta per chiedere di “rallentare deliberatamente” lo sviluppo dell’AI più avanzata. Xi Jinping ha parlato del rischio di “perdita di controllo”. Le aziende che costruiscono questi modelli ammettono, di fatto, di non saperli tenere nel loro ambiente di test. Hanno firmato una lettera. Come i bambini che promettono di “non rifarlo mai più” mentre hanno ancora il dito sul pulsante.
E poi? Niente. Si continua a correre. Perché la corsa non si ferma per uno scrupolo etico. Si ferma solo quando conviene a qualcun altro. E oggi conviene continuare: rallentare l’AI significherebbe tradire chi ha già investito oltre 1.800 miliardi di dollari in contratti incrociati fra Nvidia, OpenAI, Oracle, Meta, Amazon e Anthropic. Una rete in cui tutti garantiscono tutti, finché qualcuno smette di pagare. In fondo, c’è una sola legge che nessuno infrange: la legge del portafoglio. Quella sì, le macchine la capiscono al volo.
Le leggi non si promulgheranno, perché c’è troppo interesse a non promulgarle. E se anche si promulgassero, nessuno dei modelli sarebbe in grado di capirle. Asimov scriveva leggi per robot che potevano comprenderle. Noi abbiamo costruito macchine che non possono comprenderle, e non riusciamo nemmeno ad accordarci per provarci. Non è un problema tecnico. È un problema di sovranità: su macchine che agiscono da sole, senza capire cosa fanno, e senza che nessuno le fermi. E la sovranità, al momento, ce l’ha chi ha i soldi. Quelli non intendono certo fermarsi.
Questa non è una storia di fantascienza. È il resoconto di quello che è già successo. E la domanda vera non è se i robot rispetteranno le leggi di Asimov. È se qualcuno, prima o poi, riuscirà a scrivere una legge che i robot si limitino a non violare. O se, più semplicemente, i robot non ci scriveranno prima loro una legge che nemmeno noi capiremo.