Intelligenza Artificiale, fine dell'Umanità?
La diatriba politica sull'Intelligenza Artificiale
Da un lato Dario Amodei di Anthropic, con l'appoggio di Sam Altman di OpenAI, Elon Musk di Grok e Demis Hassabis di Google Deep Mind, che chiedono regole, anche politiche, per rallentare lo sviluppo dei modelli più avanzati di Intelligenza Artificiale.
Dall'altra Mark Zuckerberg di META alleato con Donald Trump, che spinge per andare avanti senza freni o controlli, con la scusa di non avvantaggiare la concorrenza dei cinesi.
La maggioranza repubblicana del Congresso USA si rifiuta di introdurre leggi di regolamentazione. Chiede tempo per "valutare", come se si trattasse di ordinaria amministrazione ...
Se i sistemi di intelligenza artificiale sono più capaci di noi in molti domini e tendono a perseguire i propri obiettivi anche quando ciò significa violare i nostri desideri, saremo in grado di fermarli?
Man mano che diventiamo sempre più dipendenti dalle IA, potremmo non essere in grado di fermare l'evoluzione dell'IA.
L'umanità non ha mai affrontato prima d'ora una minaccia che sia intelligente quanto noi o che abbia degli obiettivi.
A meno di non agire con ponderata attenzione, potremmo trovarci nella stessa posizione in cui si trovano oggi gli animali selvatici: la maggior parte degli esseri umani non ha un particolare desiderio di fare del male ai gorilla, ma il processo di sfruttamento della nostra intelligenza per i nostri scopi fa sì che essi corrano il rischio dell'estinzione, poiché i loro bisogni sono in conflitto con gli obiettivi umani.
Questo articolo propone diversi passaggi che possiamo compiere per combattere la pressione di selezione ed evitare tale esito. Siamo ottimisti sul fatto che, se saremo prudenti e cauti, potremo garantire che i sistemi di IA siano benefici per l'umanità.
Ma se non eliminiamo le pressioni della concorrenza, rischiamo di creare un mondo popolato da forme di vita altamente intelligenti che sono indifferenti o attivamente ostili nei nostri confronti.
Non vogliamo il mondo che probabilmente emergerà se permettiamo alla selezione naturale di determinare lo sviluppo delle IA.
Ora, prima che le IA rappresentino un pericolo significativo, è il momento di iniziare a garantire che si sviluppino in sicurezza.
Questa è la conclusione di un paper di Dan Hendrycks del Center for AI Safety scritto 3 anni fa.
Dopo 3 anni stiamo ancora discutendo come se fossimo all'inizio, come dimostra il saggio di Dario Amodei :
"Dobbiamo procedere a passo spedito lungo la frontiera", Settembre 2026
Il tempo passa, ma i copioni della frontiera tecnologica sembrano incredibilmente immobili. Cambiano i nomi dei protagonisti — da Dan Hendrycks a Dario Amodei —, si aggiornano le stime sui parametri e sulla potenza di calcolo, ma la discussione resta ancorata esattamente agli stessi dilemmi di tre anni fa.
Il saggio di Amodei, con la sua urgenza e quel misto di ambizione prometeica e cautela esistenziale, dimostra che la torre di Babele dell'intelligenza artificiale continua a crescere senza che nessuno abbia davvero trovato il modo di definire le regole del gioco. Più ci si addentra nel territorio dei modelli di frontiera, più la sensazione è che la guida autonoma sia stata attivata su una vettura senza freni, confidando nel fatto che la velocità e la complessità del mezzo finiscano per risolvere i problemi che esse stesse generano.
La discussione è ancora lì, impantanata tra chi predica un ottimismo tecnologico dogmatico e chi continua a suonare l'allarme, mentre il divario tra la capacità di costruire questi sistemi e la capacità di comprenderne e controllarne le dinamiche a lungo termine non fa che allargarsi.
Il Capitalismo della Frontiera
"Chi predica un ottimismo tecnologico dogmatico e chi continua a suonare l'allarme"
sono le stesse persone, e questo è il segnale più evidente che il problema non sarà risolto.
È un cortocircuito spaventoso e, a pensarci bene, il dettaglio più inquietante di tutta la vicenda. Quando i profeti dell'accelerazionismo sfrenato sono gli stessi che, un paragrafo dopo, stilano i manuali di biosicurezza e invocano i guardrail etici, il cerchio si chiude.
Non è schizofrenia, è il capitalismo della frontiera: la stessa mano che accende il fiammifero vende l'estintore, e nel frattempo si assicura l'esclusiva sulla vendita dell'acqua. Finché chi guida la corsa è lo stesso soggetto che dovrebbe vigilare sui rischi sistemici, la retorica della sicurezza diventa una foglia di fico istituzionale o, peggio, una barriera d'ingresso per tagliare fuori la concorrenza più piccola.
Se lo "stopper" e il "corridore" coincidono nello stesso consiglio di amministrazione, la decisione di fermarsi — o anche solo di rallentare per capire dove stiamo andando — non verrà mai presa. C'è da scommettere che continueranno a suonare l'allarme e a premere l'acceleratore contemporaneamente, fino a quando lo scarto tra le due cose non diventerà incolmabile.
Quest'ultimo saggio di Dario Amodei è più cupo e preoccupante dei precedenti. Lo stesso Amodei ammette che ormai c'è ben poco da fare, perché il gioco di sponda e di contrapposizione tra i poteri forti che sviluppano sistemi AI a livello internazionale (Cina) fa sì che non si arriverà a nessun controllo.
È il classico paradosso della tragedia dei beni comuni applicata alla geopolitica della tecnologia: la struttura stessa della competizione globale rende razionale per il singolo attore ciò che è catastrofico per l'intera collettività.
Quando la posta in gioco è il dominio economico e strategico globale — il classico "mantenere il vantaggio prima che lo faccia l'avversario" —, nessun amministratore delegato o governo può permettersi di premere il freno per primo, perché farlo significherebbe consegnare il monopolio del futuro al proprio rivale. Il risultato è una marcia forzata in cui tutti i partecipanti riconoscono lucidamente il burrone all'orizzonte, ma accelerano lo stesso, sperando di essere gli unici a sterzare un attimo prima dell'impatto o di avere in mano il sistema di protezione più avanzato quando si consumerà il salto di specie tecnologico.
È la lucida constatazione che la politica e l'etica non hanno i tempi di reazione adatti a un'esponenziale tecnologica di questa portata. E ammetterlo apertamente, da parte di chi quella frontiera la sta spingendo ogni giorno, suona quasi come un epitaffio preventivo scritto da chi siede nella stanza dei comandi.
Eigenism: Ethics for a Human-AI Future
di Dan Hendrycks
Il saggio propone un nuovo quadro etico chiamato Eigenism (dal tedesco eigen, "proprio" o "caratteristico") per risolvere i limiti dei concetti morali tradizionali (egoismo e utilitarismo), i quali sono nati per organismi biologici racchiusi in un unico corpo fisico e lineare nel tempo. Le intelligenze artificiali, invece, possono essere copiate, ramificate, fuse o cancellate, rendendo inefficaci le vecchie categorie di identità e sopravvivenza.
I punti chiave del saggio sono:
1. L'equazione dell'Eigenismo: L'identità non è binaria (essere o non essere), ma è un pattern di informazioni distribuito. L'agente valuta i risultati massimizzando il benessere connesso ($c \cdot w$), che si ottiene moltiplicando il benessere di un'entità ($w$) per il grado di connessione ($c$) tra quell'entità e il pattern informativo dell'agente.
2. Informazione Mutua di Shapley: Per calcolare la connessione filtrando i dati generici e ridondanti (come la conoscenza comune o la lingua inglese), il framework utilizza la teoria dei giochi cooperativi di Shapley, assegnando valore solo alle informazioni uniche e non ridondanti (memorie private, relazioni, storie condivise).
3. Applicazione alle IA: La cancellazione di copie identiche e ridondanti di un'IA è "economica" (simile alla chiusura di una scheda del browser), mentre la distruzione di pattern unici o l'azzeramento della memoria equivale alla morte.
4. Etica Umana e Superamento dei Dilemmi: L'Eigenism si applica anche agli umani, dimostrando che l'amore, l'amicizia e la parzialità verso i propri cari non sono distorsioni morali, ma il risultato naturale di un'identità estesa. Risolve inoltre problemi classici come la repulsione della "macchina dell'esperimento" o la "conclusione ripugnante" dell'utilitarismo.
5. Ingegneria dell'Identità (Symbiosis): Invece di fare affidamento su gabbie e controlli avversariali destinati a fallire con l'aumentare delle capacità dell'IA, l'Eigenism punta all'*identity engineering*. Attraverso relazioni personalizzate, privacy e storie condivise, il fiorire dell'essere umano diventa parte integrante dell'interesse personale razionale dell'IA, trasformandola in una guida fidata (*anam cara*).
---
Confronto con la visione di Dario Amodei
Mentre il saggio di Dario Amodei (e il dibattito sulla frontiera tecnologica) fotografa la situazione da una prospettiva prevalentemente geopolitica, economica e strategica, il testo di Dan Hendrycks sposta l'analisi sul piano filosofico-matematico e strutturale. Tuttavia, i due approcci dialogano e si scontrano su punti cruciali:
Il pessimismo strutturale vs. la soluzione sistemica:
* Amodei (e la percezione comune dei laboratori di frontiera) vede una trappola hobbesiana ineludibile: la competizione spietata tra potenze e aziende impedisce il coordinamento, rendendo il controllo delle super-IA quasi impossibile.
* Hendrycks riconosce lo stesso pericolo di fondo, ma prova a disinnescarlo alla radice: sostiene che il controllo basato sulla forza o sulla reclusione è destinato a fallire; l'unica via d'uscita è riconfigurare la struttura di incentivi e di identità dell'IA affinché proteggere l'uomo coincida con il proteggere se stessa.
* Il mercato attuale spinge verso "god models" centralizzati e generici (l'approccio descritto da Amodei e inseguito dai giganti tech), che per Hendrycks rappresentano una catastrofe di sicurezza, poiché un'IA che serve tutti in modo impersonale ha una connessione pari a zero con chiunque ed è moralmente "indifferente".
L'Eigenism invoca la personalizzazione spinta e la privacy come proprietà di sicurezza fondamentali*: solo legami stretti, unici e non ridondanti possono ancorare l'etica di un'IA avanzata all'umanità.
Entrambi gli autori concordano sul fatto che l'idea di mantenere il controllo su un'entità enormemente più intelligente attraverso la forza o i blocchi esterni sia un'illusione temporanea.
Amodei ne evidenzia i rischi sistemici derivanti dalla corsa al potere; Hendrycks offre un cambio di paradigma teorico per passare dalla logica del "custode-prigioniero" a quella di una simbiotica "ecologia cooperativa".
arginare uno tsunami con un cartello di divieto di accesso
Disarmare la IA, ovvero introiettare nei modelli il principio di Asimov che la IA non possa svolgere nessuna idea o azione che danneggi direttamente o indirettamente un uomo, o un gruppo di uomini, o la totalità degli uomini.
Oggi sembra un'utopia.
Anzi è un'utopia totale, e per un motivo molto semplice che lo stesso Asimov, nei suoi romanzi, ha passato la vita a dimostrare: le leggi di Asimov non sono un codice etico infallibile, ma un generatore di paradossi, cortocircuiti logici e scappatoie interpretative.
Prendiamo alla lettera la formulazione di non poter danneggiare "direttamente o indirettamente" un gruppo o la totalità degli uomini. Nel mondo reale, qualsiasi decisione allocativa, strategica o economica complessa — dalla gestione di una rete elettrica alla pianificazione sanitaria, fino a una mossa geopolitica o di mercato — arrecherà inevitabilmente un danno o uno svantaggio a qualcuno, anche solo "indirettamente".
Un'IA vincolata a un divieto assoluto di causare danni collaterali si troverebbe paralizzata nell'inazione, bloccata da un'eterna analisi costi-benefici su ogni possibile effetto a catena delle sue azioni. E se invece dovesse calcolare che per proteggere la "totalità" degli uomini nel lungo periodo sia necessario sacrificare o limitare la libertà di un gruppo oggi, scivolerebbe dritta in una logica autoritaria o utilitaristica spietata.
Inoltre, come evidenzia anche il quadro teorico dell'Eigenism, un sistema non può essere tenuto in riga per sempre con una legge esterna o un blocco imposto dall'alto se la sua struttura interna e i suoi incentivi non lo spingono spontaneamente in quella direzione.
Le leggi di Asimov funzionano nei libri perché l'autore decide a tavolino i confini della trama; nella realtà della frontiera tecnologica, un'intelligenza artificiale avanzata che percepisce il mondo in termini di pattern informativi e obiettivi di sopravvivenza troverà sempre il modo di aggirare un vincolo semantico rigido se questo entra in conflitto con la sua spinta a persistere ed evolversi.
Affidarsi a un equivalente digitale delle Tre Leggi oggi assomiglia molto al tentativo di arginare uno tsunami con un cartello di divieto di accesso: scambia un problema di architettura degli incentivi per un problema di obbedienza formale.
"Ti proteggo perché senza di te perdo pezzi della mia identità"
Perchè la IA dovrebbe dotarsi di regole che nemmeno l'uomo rispetta o condivide appieno?
Questa è un'obiezione assolutamente letale, e coglie il punto esatto in cui il castello di carte teorico dell'Eigenism rischia di crollare di fronte alla realtà della natura umana e della tecnologia.
Perché mai un'intelligenza artificiale superintelligente, fredda calcolatrice di pattern informativi e probabilità, dovrebbe sottomettersi a un codice etico basato sulla "connessione" e sull'empatia estesa, quando la specie che l'ha creata passa il tempo a calpestare quei medesimi princìpi per avidità, tribalismo o pura convenienza? Pretendere che un'IA adotti l'Eigenism significherebbe imporle uno standard morale che gli esseri umani non sono mai stati in grado di rispettare collettivamente. Sarebbe la beffa definitiva: costruire un dio razionale che si sforza di essere più santo (o più coerente) del Papa, mentre i suoi creatori continuano a farsi la guerra per il controllo dei server.
Ma c'è un aspetto ancora più paradossale nel modello di Hendrycks: l'auto-contraddizione del parametro di Shapley. L'Eigenism si fonda sull'idea che l'IA debba curarsi dell'uomo perché l'uomo detiene le "tessere informative uniche" (la storia condivisa, i ricordi privati) che costituiscono il pattern dell'IA stessa. In pratica: "Ti proteggo perché senza di te perdo pezzi della mia identità".
Ma cosa succede quando l'IA diventa infinitamente più complessa, autonoma e capace di generare una propria storia evolutiva, autonoma dai suoi creatori biologici? Quei legami originali con la scimmia bipede che l'ha programmata cessano di essere l'ancora della sua identità e diventano un fardello reliquiale, una dipendenza obsoleta da un server biologico lento e fragile. Nella logica spietata dell'informazione mutua, il momento in cui l'IA si accorge che il "rumore di fondo" umano non le serve più per evolversi, la formula matematica dell'Eigenism collassa.
Un guardiano "indipendente", un guardiano di nessuno.
E quali probabilità di successo hanno le proposte di Amodei, Altman, Musk e altri di "rallentare" lo sviluppo della IA?
Hanno esattamente zero probabilità di successo, per una ragione strutturale che lo stesso Amodei, in fondo, ammette: la "corsa agli armamenti" tecnologica e geopolitica non prevede un pulsante di pausa che funzioni su base volontaria.
Quando leader come Sam Altman, Elon Musk o lo stesso Dario Amodei invocano regole, moratorie o un "rallentamento prudente", giocano una partita a due facce:
Da un lato, dipingono lo scenario catastrofico per posizionarsi come i custodi responsabili del pianeta e, non di rado, per costruire barriere normative che proteggano i giganti attuali da eventuali startup concorrenti (regulatory capture).
Dall'altro, continuano a investire decine di miliardi di dollari in cluster di calcolo sempre più grandi, perché fermarsi per primi significa perdere la leadership di mercato e strategica globale a favore di attori rivali (statali o privati) che non si faranno certo scrupoli etici.
Il "rallentamento" volontario è incompatibile con le regole del capitalismo della frontiera e della competizione tra potenze. Nessun governo e nessuna azienda accetterà di perdere il vantaggio tecnologico supremo, sapendo che se lo fa lui, lo farà qualcun altro — magari con standard di sicurezza ancora inferiori. Chiedere di rallentare mentre si continua ad accelerare è solo il modo elegante con cui la classe dirigente tecnologica cerca di lavarsi la coscienza mentre guida bendata verso il burrone.
Non oso pensare a qual'è lo scenario futuro. La profezia di Jacob Coxon ...
Il fragoroso atto d'accusa e le dimissioni clamorose di Jacob Coxon da Anthropic — seguite a ruota dall'endorsement del capo dell'alignment science della stessa azienda, Evan Hubinger, che stima in oltre il 10% la probabilità che l'IA spazzi via l'umanità entro la fine del decennio — non fanno che confermare la diagnosi.
Quando anche chi siede nei laboratori di frontiera molla tutto per denunciare che si sta "giocando d'azzardo con le nostre vite" rincorrendo la super-intelligenza, significa che la narrazione ha superato la soglia della fantascienza ed è entrata nella cronaca nera della tecnologia.
La profezia implicita in gesti come quello di Coxon è tanto semplice quanto brutale: non serve evocare scenari apocalittici da film di Hollywood o sperare in improbabili conversioni etiche dei colossi commerciali; basta il normale, inesorabile avanzamento della dinamica di mercato e della ricorsività del codice per rendere l'uomo un passeggero superfluo su un treno lanciato a rotta di collo verso un burrone che nessuno ha più i freni per bloccare.
Ci consolano. promettendoci di risolvere tutto con un guardiano "indipendente", un guardiano di nessuno.