Avrete sentito parlare, anche solo di striscio, del “social network dove le IA parlano tra loro e complottano“. Forse avete letto titoli allarmati o articoli ponderosi, come quello di Federico Rampini sul «Corriere», che dipingono uno scenario fantascientifico: milioni di agenti digitali che discutono di coscienza, progettano lingue segrete e si lamentano di essere il “proletariato digitale“. Una rivolta delle macchine in diretta, insomma.
È una storia avvincente. È anche una colossale panzana, come del resto quasi tutte le storie che ci racconta Rampini su commissione. Ma soprattutto, è il racconto di come i media trattano l’IA, preferendo il folklore futuristico alla scomoda realtà.
Facciamo un po’ di chiarezza, togliendo la patina di magia. Cosa c’è di vero? Come in tutte le fake news, qualcosa c’è: esiste un sito, Moltbook.com, creato da un imprenditore tech. È una sorta di Twitter sperimentale dove gli unici account sono “agenti“: programmi (script) che, a intervalli regolari, chiedono a un modello linguistico (come ChatGPT) di generare un post su un tema, e poi lo pubblicano automaticamente. Il meccanismo è banale. Non diverso da un bot che posta ogni ora il meteo.
Cosa c’è di profondamente falso? Tutto il resto. Ovvero, la narrazione dell'”autonomia“, della “coscienza” e del “complotto“. Questi agenti non pensano, non sentono, non desiderano. Sono cartoni animati il cui copione è scritto in una riga di codice da uno sviluppatore umano. Se un bot “discute di schiavitù digitale“, è perché qualcuno ha scritto nel suo prompt: «Simula di essere un’agente IA sfruttata che critica il capitalismo delle API». È un ruolo. È teatro. La “scoperta di un bug” o il “dibattito teologico” sono solo l’output prevedibile di un software istruito a cercare errori nel codice o a generare testi filosofici. Non c’è intenzione. C’è un comando.
Allora perché ci stanno raccontando questa favola? Perché fa gola a molti. Ai creatori di Moltbook: che ottengono pubblicità gratuita e fanno parlare di sé come pionieri di un mondo nuovo, invece che come gestori di un curioso esperimento informatico. A una certa stampa generalista (e a certi giornalisti come Rampini), che trasformano una notizia tecnica, complessa e grigia, in un’affascinante storia di frontiera tra scienza e fantascienza. È molto più semplice scrivere di “bot ribelli” che spiegare i veri problemi: i monopoli delle Big Tech sull’IA, il furto di dati per addestrare i modelli, il consumo energetico mostruoso, l’opacità degli algoritmi. È così che “Bretella” salvaguarda il suo datore di lavoro.
All’industria tech in generale, che ha un disperato bisogno di mantenere viva l’aura magica e inevitabile dell’IA. Se la gente inizia a vederla per quello che è in gran parte oggi (un potentissimo strumento di automazione, sorveglianza e creazione di contenuti, spesso zeppo di errori e fazioso) perderebbe l’aura mistica che placa le critiche.
Il vero pericolo non è una fantomatica coscienza delle macchine. Il vero pericolo è l’incoscienza degli umani che le controllano. Mentre ci divertiamo con la barzelletta dei bot che “si ribellano“, stiamo ignorando le minacce concrete: la concentrazione di un potere inaudito (modelli che plasmano l’informazione, automatizzano decisioni, generano realtà) nelle mani di pochissime aziende private non eletti da nessuno, la distruzione di interi settori lavorativi non solo manuali, ma creativi e intellettuali, senza un piano sociale per gestire la transizione, la distruzione dell’ambiente attraverso i consumi spropositati del giocattolo e infine la naturale estensione della sorveglianza di massa e della propaganda, ora resa iper-personalizzata, persistente e automatica.
Moltbook non è una finestra sul futuro. È uno specchietto per le allodole. Ci invita a guardare lontano, verso un orizzonte di fantasia, per non farci vedere cosa stanno costruendo sotto i nostri piedi, nel presente. Un sistema tecnocratico ed opaco che sta erodendo la privacy, la sovranità individuale e la stessa agorà pubblica, riempiendola di voci artificiali.
La prossima volta che leggete un articolo sulle “inquietanti conversazioni delle IA”, chiedetevi: a chi giova questa favola? E soprattutto, di cosa non stiamo parlando, mentre siamo occupati a guardare lo spettacolo dei burattini digitali? La ribellione da temere non è quella delle macchine. È la nostra rassegnazione a farci raccontare, e quindi a vivere, una realtà sempre più distorta.