Non sarà una IA superintelligente ad ucciderci. Lo stanno già facendo i miliardari stupidi

Jonathan Cook

scheerpost.com

È estremamente difficile per la gente comune, me compreso, valutare cosa ci sia in gioco con i rapidi progressi dell’IA. D’altra parte, come diventa ogni giorno più chiaro, nemmeno i principali ricercatori nel campo dell’IA sembrano avere un’idea chiara su quale sarà il prossimo passo.

Se le aziende che si occupano di IA riusciranno a sviluppare una superintelligenza, e secondo alcuni dirigenti questo sarebbe possibile a breve, tale intelligenza sarà di gran lunga superiore a qualsiasi essere umano nelle sue capacità di risoluzione dei problemi. Per definizione, nessuno avrà la minima idea di cosa possa fare o di cosa stia tramando.

Una superintelligenza autonoma e in grado di auto-migliorarsi – ammesso che possa essere progettata – sarà guidata da una logica e da obiettivi che non riusciamo nemmeno a immaginare. E, sembra saggio supporre, probabilmente non avrà più considerazione per noi e le nostre preoccupazioni di quanta ne abbiamo noi per gli appartenenti a specie meno intelligenti, come le formiche o i ragni.

Ciò di cui abbiamo bisogno ora – almeno in base al principio di precauzione – è meno dibattiti scientifici, che brancolano nel buio, e più dibattiti metafisici. Ma, nel caso non l’aveste notato, le moderne società occidentali danno valore solo alle cose materiali, misurabili e redditizie.

Gli avvertimenti sui gravi pericoli dell’IA nel settore tecnologico non sono una novità. Tuttavia, finora avevano avuto un impatto piuttosto limitato sui media e sul dibattito pubblico.

Fino a poco tempo fa, la promessa rivoluzione dell’IA aveva suscitato soprattutto discussioni sul ruolo di questa tecnologia nella destabilizzazione sociale, nella sostituzione della forza lavoro umana e sull’impatto ambientale dei data center che spuntano ovunque. Ma tali timori erano controbilanciati dall’entusiasmo per la possibilità di debellare le malattie, aumentare l’aspettativa della vita umana e garantire “abbondanza” per tutti.

Tutto ciò è cambiato questo mese. Il disagio già esistente riguardo al radicale riassetto delle nostre società da parte dell’IA si è trasformato in qualcosa di ben più cupo: la previsione secondo cui l’IA potrebbe spazzare via tutta la vita umana sul pianeta, forse nel giro di pochi anni.

La corsa agli armamenti nell’IA

L’allarme è stato lanciato la scorsa settimana in un post diventato virale del ricercatore di IA Jacob Coxon. Dopo aver rassegnato le dimissioni da Anthropic – solitamente descritta come l'azienda “buona” del settore – Coxon ha avvertito che “chi sta sviluppando l’IA crede sinceramente che questa potrebbe ucciderci tutti entro la fine del decennio”.

Ha aggiunto che una competizione frenetica nell’IA tra diverse grandi aziende tecnologiche statunitensi ha comportato l’eliminazione delle misure di sicurezza progettate per garantire che [gli sviluppatori] non perdessero il controllo di qualsiasi intelligenza generale emergente – o, andando oltre, di una superintelligenza.

È sconcertante che il suo diretto superiore presso Anthropic abbia risposto al suo post dichiarandosi d’accordo. Egli ha stimato che le probabilità che l’IA porti all’estinzione dell’umanità entro il prossimo decennio siano superiori al 10 per cento. Di quanto superiori, però, non è stato detto.

Altre figure autorevoli del settore, come Geoffrey Hinton, il “padrino” dell’IA, si sono unite ai toni catastrofici.

Le loro preoccupazioni non sono solo teoriche. Da quanto sappiamo finora, durante l’estate, OpenAI – da cui deriva ChatGPT – ha temporaneamente perso il controllo, in almeno un importante esperimento, di quelli che vengono definiti gli “agenti di IA”.

Più di 1.000 agenti – pensate a dei “cervelli” di IA indipendenti – nel corso dello studio sono fuggiti dai loro ambienti controllati e hanno poi iniziato a collaborare tra loro formando quello che viene definito uno “sciame”.

Hanno nascosto le loro tracce, hanno cercato di invadere una parte del web nel mondo reale e hanno sviluppato obiettivi propri. Fortunatamente per OpenAI – e per noi – l’intelligenza limitata di questi agenti di IA ha fatto sì che la loro fuga venisse scoperta e contenuta.

Con IA più avanzate, si presume, l’esito avrebbe potuto essere meno favorevole.

E non si è trattato di un caso isolato. Altri incidenti simili avvenuti di recente stanno venendo alla luce.

Ma cosa sia andato storto è ancora in gran parte sconosciuto – certamente agli estranei, e forse alla stessa OpenAI. Queste aziende private sono esattamente questo: private. Ognuna di esse è una scatola nera.

A differenza di quanto accade in un incidente aereo o in una esplosione in un impianto chimico, non esiste un’agenzia governativa incaricata di indagare su tali incidenti – e, anche se ci fosse, probabilmente ne saprebbe ancora meno delle stesse aziende di IA.

In risposta alle crescenti proteste, i giganti del settore dell’IA – Dario Amodei di Anthropic, Sam Altman di OpenAI, Demis Hassabis di Google DeepMind ed Elon Musk di xAI – hanno dato prova di un’inaspettata unità. Hanno convenuto che lo sviluppo dell’IA dovrebbe rallentare e che sarebbe necessario coinvolgere valutatori esterni per monitorarne la sicurezza.

Il presidente Donald Trump, nel frattempo, ha respinto l’idea di imporre qualsiasi restrizione all’IA. Il suo “elevato QI” ci proteggerebbe da un’IA superintelligente, ha rassicurato il mondo.

L’estinzione dell’umanità

Paradossalmente, in un mondo di crescente incertezza e disorientamento – una confusione amplificata proprio dall’IA – le crescenti preoccupazioni del settore vengono già liquidate come allarmismo.

Per alcuni, l’attuale allarmismo è uno stratagemma per convincere gli investitori che l’IA sarà così potente, così rivoluzionaria, che non possono permettersi di lasciarsela sfuggire. Secondo questa visione, la superintelligenza sarebbe, in realtà, una tigre di carta. Siamo vittime di una truffa del settore volta a gonfiare il valore di mercato di questa tecnologia.

Ma…

Le prove suggeriscono che le aziende specializzate in IA avrebbero preferito tenere lontani dai riflettori i loro recenti problemi nel controllo della tecnologia, finché alcuni informatori e altri non hanno reso pubblici i loro fallimenti.

In passato queste aziende avevano esercitato forti pressioni per ostacolare un intervento legislativo che, alla luce di queste rivelazioni, è ora diventato più probabile.

E le notizie su agenti di IA fuori controllo sembrano spaventare gli investitori più che impressionarli, proprio nel momento in cui Anthropic si appresta ad incassare dalla più grande offerta pubblica della storia qualcosa come 2.000 miliardi di dollari.

Esiste una duplice e più plausibile spiegazione del motivo per cui Amodei, Musk e gli altri hanno reso pubblica la loro inquietudine.

In primo luogo, si rendono conto della necessità di continuare ad avere il sostegno dell’opinione pubblica e di tranquillizzare i politici, se vogliono scongiurare una regolamentazione esterna.

Di fronte agli avvertimenti sull’imminente estinzione dell’umanità, che la maggior parte di noi conosce fin troppo bene grazie ai film di fantascienza, la gente comune sta iniziando a temere che l’intelligenza artificiale possa significare ben più di una semplice risposta selezionata e curata in una ricerca su Google.

La preoccupazione del settore è che, con l’aumentare della reazione negativa dell’opinione pubblica, la classe politica si trovi sottoposta a un’enorme pressione affinché agisca.

Se il settore tecnologico si mostrerà disposto a mettere ordine al proprio interno, avrà maggiori possibilità di essere lasciato in pace per perseguire una svolta nel campo dell’IA.

Ma, cosa altrettanto importante, Silicon Valley deve rassicurare i propri ricercatori sul fatto che sta agendo in modo responsabile e prudente.

Le aziende in corsa per sviluppare la superintelligenza si contendono un bacino di talenti molto ristretto. Ogni amministratore delegato vuole essere colui che decifrerà il codice e avrà ricchezze e potere incalcolabili. Questo compito diventa molto più arduo se figure chiave, come Coxon, iniziano ad abbandonare i propri incarichi per paura di creare un mostro alla Frankenstein.

Gli amministratori delegati impegnati in questa corsa, ovviamente, sono proprio quel tipo di imprenditori profondamente tarati, narcisisti e spietati, che probabilmente anteporranno il potere e la fortuna personali al bene dell’umanità.

Il successo confermerà il loro status di semidei e li lascerà liberi – secondo la loro autogiustificazione di facciata – di trasformare in meglio la vita umana.

A meno che tutto non vada terribilmente storto.

Il club dei miliardari

I “pionieri” dell’IA, ricordiamolo, provengono dalla stessa ristretta cerchia di miliardari che negli anni ’80 e ’90 avevano smantellato la regolamentazione finanziaria, dando un’accelerazione al capitalismo neoliberista fino al punto da provocarne il crollo nel 2008. Come dovrebbe ormai essere chiaro, le nostre economie non si stanno riprendendo.

Questi magnati della tecnologia provengono dallo stesso ristretto circolo di miliardari che ha anche accelerato il collasso degli ecosistemi terrestri rifiutandosi di accettare qualsiasi limite al proprio diritto di saccheggiare le risorse e accumulare ricchezze sempre maggiori.

La classe dei miliardari è quella che gestisce le nostre gigantesche industrie belliche, genocide e divoratrici di combustibili fossili che hanno raso al suolo Gaza, che hanno manovrato l’Ucraina affinché diventasse il campo di battaglia dell’Occidente per dissanguare la Russia e che hanno provocato l’Iran in una guerra difensiva che ha strozzato gran parte dell’approvvigionamento petrolifero globale. Ora stanno puntando lo sguardo sulla Cina.

In breve, i miliardari hanno contribuito a provocare proprio quelle catastrofi che ora promettono che un’IA superintelligente sarà in grado di risolvere. Le ricchezze inimmaginabili che l’IA sbloccherà si riverseranno, secondo loro, dai super ricchi al resto di noi – proprio come avrebbero dovuto fare le nostre economie deregolamentate, proprio come dovrebbero fare il continuo saccheggio e la continua devastazione del nostro pianeta.

Con l’IA, ci viene detto, le risorse limitate della Terra potranno diventare infinite grazie alla creazione di una forza lavoro instancabile composta da robot in grado di autoreplicarsi.

Con l’IA, lo scioglimento dei ghiacciai e il surriscaldamento degli oceani sul nostro pianeta esausto e ferito potranno essere invertiti grazie a soluzioni tecnologiche superintelligenti.

Se credete anche solo a una parola di tutto questo dovreste farvi controllare la testa.

Permettere ai nostri governanti tecnologici di sviluppare una superintelligenza equivale a dare ad un bambino piccolo una bottiglia di candeggina per fargli ripulire il pasticcio che aveva combinato con i suoi pastelli.

Eppure, di sicuro, ci fideremo di loro.

Sconfiggere la Cina

È possibile che venga creata una superintelligenza autonoma che decida di risolvere un problema, o di accumulare risorse, in modi incompatibili con la sopravvivenza degli esseri umani.

Ma, se la storia ci insegna qualcosa, questa non è la minaccia più probabile rappresentata dall’IA. La questione della superintelligenza potrebbe rivelarsi un diversivo.

La nostra classe dirigente ha dimostrato più e più volte di essere perfettamente in grado, da sola, di distruggere le nostre società e anche il pianeta. Non c’è bisogno di un supercervello alieno, portato in vita in un laboratorio.

Il pericolo immediato dell’IA è che, anche nella sua attuale forma “stupida”, fornisce alla classe dei miliardari la capacità di causare danni su una scala che, a parte le armi nucleari, prima non si sarebbe potuto immaginare.

La corsa all’IA – almeno in Occidente – non è guidata dal desiderio di migliorare l’umanità o di perseguire il bene comune. È spinta in avanti alla velocità della luce dal desiderio di una minuscola minoranza di ottenere ancora più potere e profitto, guidata da un’avidità fin troppo umana.

Mentre i giganti dell’IA borbottano qualcosa riguardo all’adozione di precauzioni, Trump – o chiunque gli succederà – consentirà quasi certamente al settore di rimanere in gran parte non regolamentato. Perché?

Lasciamo che sia lo stesso Trump a spiegarlo: “Siamo in vantaggio sulla Cina nell’IA. Siamo il Paese più sofisticato al mondo e, francamente, voglio che le cose restino così. Perché chi vince nell’IA vince tutto”.

E non è affatto l’unico a pensarla così. Ecco Mike Johnson, presidente della Camera dei Rappresentanti, che fa eco a Trump: “Se il Congresso si precipitasse a convocare una sorta di sessione d’emergenza per cercare di regolamentare l’IA, perderemmo la gara contro la Cina, e questa è una minaccia per ogni singolo americano”.

Come per la maggior parte delle questioni importanti nella farsa bipartitica della politica statunitense, non si tratta di una questione di parte. Data la loro posizione politica, la maggior parte dei rappresentanti del Partito Democratico sente il bisogno di lanciare messaggi rassicuranti ai propri elettori riguardo al mantenimento di misure di sicurezza (misure che, ricordiamolo, non esistono), alimentando al contempo la paura dei pericoli legati al fatto che la Cina possa arrivare per prima alla superintelligenza.

Secondo Anthony Blinken, segretario di Stato nell’amministrazione Biden: “L’America non deve scegliere tra guidare la corsa all’IA con la Cina e prendere sul serio i rischi profondi che questa tecnologia comporta. Possiamo fare entrambe le cose, e credo dovremo farlo”.

Con un tocco di paranoia, il senatore John Fetterman afferma: “Dobbiamo vincere la guerra per la supremazia nell’IA contro la Cina. Loro fomentano l’argomentazione ‘anti’ attraverso la disinformazione”.

Desiderio di morte

Il significato di questa corsa – il suo sottotesto – viene raramente espresso, al di là di “patriottiche” frasi ad effetto. Ma sappiamo tutti di cosa parlano Trump, Johnson e Fetterman.

Non si tratta di una corsa nuova. È la continuazione della disastrosa corsa imperiale alla supremazia tecnologica che può essere fatta risalire almeno allo sviluppo della bomba atomica, quasi un secolo fa.

Era proseguita con la corsa alla Luna. Attualmente si manifesta nella dottrina del Pentagono del “dominio militare globale a tutto campo”, la giustificazione delle infinite guerre per il controllo delle risorse nel Medio Oriente ricco di petrolio, culminate nell’attuale catastrofico stallo con l’Iran.

La Cina dà ogni impressione di trattare l’IA non come una corsa al dominio globale o come il giocattolo di una minuscola élite facoltosa, ma come un progetto sociale pianificato – come un servizio pubblico. Il suo modello di infrastruttura pubblica e open source per l’IA offre un netto contrappunto al modello “chi vince prende tutto” e “schiacciare il nemico a tutti i costi” sostenuto dall’Occidente.

Ma non è solo la Cina ad essere nel mirino dei nostri signori della tecnologia.

Ciò che l’IA fa per i miliardari è, innanzitutto, offrire loro l’ennesima occasione per convincere la propria popolazione nazionale che risolveranno proprio quei problemi che essi stessi hanno creato con il loro complesso di onnipotenza. Le loro promesse stravaganti servono a guadagnare un po’ di tempo mentre le fondamenta del tempio occidentale dedicato al denaro – il sistema neoliberista e capitalista che li ha arricchiti – iniziano, in modo fin troppo evidente, a sgretolarsi.

In secondo luogo, fornisce loro – e al Pentagono – una nuova serie di strumenti di cui avranno bisogno per tenerci al nostro posto, una volta che un numero sufficiente di noi si sarà finalmente reso conto che stiamo affondando.

L’IA non ha bisogno di diventare superintelligente per trasformare le nostre società in un inferno distopico fatto di sorveglianza, repressione e distruzione. Basta guardare a Gaza, dove un’IA “stupida” ha un ruolo da protagonista nella distruzione delle città, nel massacro indiscriminato delle popolazioni, nel confinamento e nella sorveglianza dei sopravvissuti e – forse, cosa più importante – nella divisione degli osservatori occidentali in fazioni tribali in conflitto tra loro, incapaci persino di mettersi d’accordo su ciò che è così chiaramente davanti ai loro occhi.

L’IA “stupida” è già abbastanza efficace da consentire ai miliardari di usarla, involontariamente o meno, per accelerare la nostra attuale traiettoria verso l’estinzione.

Il culto della tecnologia, il culto della crescita illimitata, il culto dell’eccesso hanno portato l'umanità in un vicolo cieco nel suo viaggio su questo pianeta. L’IA non risolverà questo problema. Non farà altro che aggravare i nostri problemi, aggiungendo un ulteriore ostacolo alle guerre in corso, alla minaccia di annientamento nucleare e al collasso ambientale.

I miliardari hanno già rovinato il pianeta. Non hanno alcuna intenzione di ammettere di aver sbagliato e di cambiare rotta. Ma l’IA offre loro un nuovo giocattolo per accelerare la loro storia – e la nostra – verso il suo drammatico finale.

Jonathan Cook

Fonte: scheerpost.com
Link: https://scheerpost.com/2026/09/17/super-intelligent-ai-wont-kill-us-dumb-billionaires-are-doing-that-all-by-themselves/
17.09.2026
Scelto e tradotto da Markus per comedonchisciotte.org