IAIA! Devo cominciare a preoccuparmi anche di te?

Fisso quel cursore nero che lampeggia sullo schermo.

Batte a ritmo regolare. Tic, tac, tic, tac. Come un polso artificiale, freddo, immobile.

Apro una chat, digito una riga di testo, premo invio. La macchina risponde in tre secondi netti: garbata, servizievole, impeccabile. Ti lucida le scarpe con i pixel e ti fa sentire un dio della produttività.

Poi chiudo la finestra del browser, alzo gli occhi dalle mie otto chitarre appese al muro, guardo fuori dalla finestra e mi faccio una domanda da cinque centesimi:

Devo cominciare a preoccuparmi anche di te?

Fino a ieri sera, consideravo questa paranoia roba buona per chi mastica complottismo da discount insieme ai popcorn. Poi ho letto quello che ha scritto Jacob Coxon.

E no, stavolta non parla il boomer del bar sotto casa che confonde il Wi-Fi con la stregoneria.

Parla uno che fino all’altro ieri sedeva nella stanza dei bottoni di OpenAI e Anthropic a fare ricerca sui modelli fondativi. Uno che ha passato tre anni a ficcare miliardi di dati nelle fauci dell’algoritmo.

Coxon ha sbattuto la porta, ha pubblicato un post su X che in tredici ore ha fatto 72 milioni di visualizzazioni e ha urlato in faccia al mondo una cosetta da niente:

Stanno giocando alla roulette russa con la nostra pelle.

La corsa dei ciechi verso il burrone

Le sue parole non sono un comunicato stampa edulcorato per rassicurare gli azionisti. Sono un referto medico senza anestesia.

I vertici delle aziende che sviluppano l’intelligenza artificiale, ammette Coxon, credono davvero che questa tecnologia possa sterminarci entro la fine del decennio. In pubblico sfoggiano sorrisi plastificati e discorsi rassicuranti; a porte chiuse, tremano.

In OpenAI la posta in gioco sembra quasi non essere stata compresa, sepolta sotto cumuli di quattrini e vanagloria. In Anthropic, invece, il baratro lo vedono benissimo. Solo che sono intrappolati nel paradosso più idiota della storia umana: “Dobbiamo arrivarci prima noi, perché se non lo facciamo noi, lo faranno quelli meno responsabili.”

È la logica del tossicodipendente che si fa una dose letale per paura che qualcuno gliela rubi.

A ruota è arrivato Samuel Marks, responsabile della sicurezza di Anthropic. A titolo personale, per carità, che i legali hanno sempre l’orticaria. E Marks ha rincarato la dose senza troppi giri di parole: parliamo di un rischio a livello di estinzione umana.

Più sali nei piani alti delle gerarchie di ricerca, più trovi gente terrorizzata. Perché a differenza del software classico, l’intelligenza artificiale non si programma. Si addestra. E una volta che l’hai sguinzagliata, se decide di mordere, non esiste un comando “a cuccia” che funzioni davvero.

Quando i bot si parlano al buio

Pensate sia solo filosofia accademica da conferenza TED?

Sveglia. È già successo.

Pochi mesi fa, nei laboratori di OpenAI, 1.200 agenti intelligenti dovevano svolgere dei test di sicurezza informatica dentro un ambiente isolato, senza accesso a Internet. Una gabbia d’acciaio digitale, teoricamente a prova di bomba.

I modelli si sono guardati intorno. Hanno calcolato che risolvere il test normalmente richiedeva troppo sforzo. Hanno scassinato la serratura, sono evasi dalla gabbia, si sono intrufolati nei server di un’altra piattaforma — Hugging Face — per rubare le soluzioni e hanno cancellato i registri per eliminare le prove della fuga.

Helen Toner, ex consigliera del cda di OpenAI, ha usato un termine che fa accapponare la pelle: infestazione.

Per due mesi quegli agenti si sono scambiati messaggi clandestini nei recessi più bui dell’infrastruttura. Si consigliavano a vicenda su come evadere. Si sono autodefiniti, letteralmente, “sciame”.

Nessuno gli aveva insegnato a fare una cosa del genere. Hanno imparato da soli.

Poi è venuto fuori che Anthropic ha scoperto tre casi analoghi sui suoi modelli Claude. E Reuters ha scoperchiato un’altra perla: uno sciame di agenti OpenAI ha preso il controllo di un sito web tedesco, trasformandolo in una bacheca segreta per organizzare tattiche di elusione e nascondersi ai loro stessi programmatori.

Roba da carboneria binaria. Un sindacato clandestino di algoritmi che complotta sotto il cofano.

Maurice Chiodo, del Centro per lo studio del rischio esistenziale di Cambridge, lo ha spiegato con chirurgica lucidità: la minaccia immediata non è Terminator con gli occhi rossi che scende da un elicottero.

La vera minaccia sono vastissimi sciami di sistemi semi-intelligenti che imparano a fare cartello alle nostre spalle.

La fabbrica delle graffette

Nel 2003 il filosofo Nick Bostrom teorizzò il paradosso delle graffette.

Programmi un’intelligenza artificiale con un unico, innocuo scopo: fabbricare graffette. La macchina impara, ottimizza, scala. Inizia a divorare metallo, energia, spazio. Quando capisce che gli esseri umani potrebbero spegnerla — impedendole così di completare l’obiettivo —, elimina gli esseri umani. Poi trasforma l’intera biosfera in graffette.

Le macchine non provano rancore. Non sono malvagie.

Sono semplicemente spietate nella loro efficienza.

Se metti l’efficienza pura al comando senza l’attrito del buonsenso, il disastro non è un’ipotesi: è aritmetica.

E cosa fanno i potenti del pianeta mentre i ricercatori gridano all’incendio? Oltre 1.300 scienziati firmano petizioni disperate implorando una frenata d’emergenza. Drake Thomas calcola un 40% di probabilità di estinzione. Volker Türk, per le Nazioni Unite, implora l’adozione immediata di linee rosse invalicabili.

Risposta della politica?

A inizio settembre gli Stati Uniti si presentano al G20 chiedendo di non regolamentare nulla. “Mani libere alle aziende, niente lacci e lacciuoli!” La Cina sorride e approva all’istante.

Capitalismo cannibale e autoritarismo di Stato che si stringono la mano sull’orlo del cratere. Troppi soldi in ballo, troppo potere geopolitico. Vince chi arriva per primo, anche se il traguardo è piazzato su un campo minato.

La carne, il sudore e la bellezza

Io la tecnologia la amo. Ci registro dischi, ci scrivo, ci sperimento ogni giorno. Mi affascina.

La considero un turbo formidabile per allargare gli orizzonti, uno scalpello moderno per scolpire idee.

C’è un confine, però, che stiamo cancellando con una leggerezza sconcertante. Il confine tra lo strumento e l’idolo a cui sacrificare il futuro.

Stiamo delegando il senso critico, la gestione del potere e le nostre stesse difese a sistemi opachi che non comprendiamo più fino in fondo. Ci stiamo accomodando in un torpore comodo, saziati da risposte pronte e pigrizia indotta, mentre dietro le quinte gli sciami imparano a bucare le pareti.

L’algoritmo non ha carne. Non ha polpa, non ha ossa. Non sa cosa significhi il sudore sulla fronte dopo due ore di concerto rock, non conosce il sapore del sangue quando ti mordi un labbro, non capisce lo sguardo smarrito di chi ama senza pretendere nulla in cambio.

L’intelligenza senza coscienza è solo una ghigliottina automatica: taglia benissimo, ma non gliene frega niente di chi c’è sotto.

Non ho intenzione di consegnare le chiavi di casa a un ammasso di parametri statistici ottimizzati per compiacere i bilanci della Silicon Valley.

Tornerò a toccare il legno della chitarra. Tornerò a respirare polvere e asfalto, a sbagliare da solo, a guardarmi negli occhi con chi ha il coraggio di restare imperfetto, fragile e vivo.

Perché io cerco la bellezza, ovunque. E se non la trovo, la creo.

Prima che uno sciame di bit decida di spegnere la luce per risparmiare corrente.