Il conflitto tra etica e potere nell'era dell'intelligenza artificiale

L'intelligenza artificiale da strumento neutrale a soggetto geopolitico: le tensioni tra etica e militariizzazione, la competizione Usa-Cina e la ridefinizione…

Contenuto

Il conflitto tra etica e potere nell'era dell'intelligenza artificiale

Scopri anche

Il conflitto tra etica e potere nell'era dell'intelligenza artificiale

Quando l'algoritmo decide: la guerra, la democrazia e il nuovo ordine globale dell'IA

In questo articolo:

Il confine tra codice binario e sangue umano si è definitivamente dissolto. Lo scontro tra il Pentagono e Anthropic, azienda fondata da Dario e Daniela Amodei, ha portato alla luce una questione fino a ora confinata nei dibattiti accademici: l'obiezione di coscienza algoritmica non è più ammessa. Quando gli Amodei hanno tentato di limitare l'accesso alle funzioni più letali del software Claude, richiamando i principi di sicurezza dichiarati al momento della fondazione, il segretario della difesa Pete Hegseth ha dichiarato Anthropic un rischio per la filiera della difesa nazionale. Il messaggio è esplicito: chi possiede i server deve rispondere ai comandi del comando congiunto.

Claude, il chatbot celebrato per la sua costituzionalità e prudenza nelle risposte, è stato integrato nel Maven smart system di Palantir. Secondo le indiscrezioni analizzate da Teresa Numerico, il modello è stato utilizzato per ottimizzare i processi decisionali durante l'intervento in Venezuela del 5 gennaio e nel coordinamento degli attacchi all'Iran. L'etica richiede tempo, riflessione e beneficio del dubbio: nell'iper-guerra, viene percepita come un attrito intollerabile che rallenta l'efficacia del colpo.

La geopolitica del calcolo: Stati Uniti e Cina a confronto

⬆ Torna su

Il panorama geopolitico dell'intelligenza artificiale si articola su due poli dominanti. Gli Stati Uniti detengono una posizione di leadership grazie a un ecosistema fortemente integrato, in cui grandi piattaforme private, capitale finanziario e apparato della difesa operano in stretta continuità. La disponibilità di risorse computazionali avanzate, l'accesso privilegiato ai chip più sofisticati, la concentrazione dei dati e la capacità di attrarre capitale umano su scala globale consentono una rapida trasformazione dell'innovazione in applicazioni industriali e militari.

La Cina segue a breve distanza con una prospettiva profondamente diversa. L'intelligenza artificiale è trattata come infrastruttura strategica nazionale, governata attraverso pianificazione centrale, controllo dei flussi di dati e integrazione diretta tra Stato, industria e ricerca. L'obiettivo non è soltanto la competitività tecnologica, ma il controllo interno e la riduzione delle dipendenze esterne lungo l'intera filiera: dall'energia alle infrastrutture digitali, dall'hardware alle applicazioni.

L'Europa occupa una posizione più frammentata. Non dispone di una catena di comando unitaria né di concentrazioni industriali comparabili, ma possiede un patrimonio diffuso di competenze scientifiche, sistemi educativi solidi e istituzioni di ricerca di lunga tradizione. Questa configurazione rende più complessa la risposta immediata alla competizione globale, ma apre uno spazio strategico distinto.

L'illusione della neutralità tecnologica

⬆ Torna su

L'intelligenza artificiale è generalmente descritta come tecnologia neutrale: uno strumento di calcolo e sintesi che opera senza intenzionalità politica. Questa definizione è formalmente corretta ma analiticamente insufficiente. Ogni sistema complesso immerso in un ambiente strutturato tende a convergere verso configurazioni compatibili con i vincoli del contesto in cui opera. Gli output sono il risultato di interazioni tra dati di addestramento, convenzioni linguistiche dominanti, architetture normative e protocolli di gestione del rischio. Tali elementi non producono censura sistematica, ma generano gradienti di stabilizzazione.

Un caso concreto evidenzia questa dinamica. Un saggio geopolitico dal titolo "Il Novello Patto Molotov-Ribbentrop" è stato sottoposto a traduzione in inglese americano tramite ChatGPT. Nonostante le indicazioni fornite al sistema per ben quattro volte, la traduzione risultava ampiamente addomesticata, gravata da alterazioni e omissioni che ne deprivavano la forza comunicativa originaria. Quando il sistema è stato messo alle strette con un confronto in tempo reale tra il testo fornito e la traduzione approntata, ha dovuto prendere atto delle discrepanze, ammettendo implicitamente come la modifica fosse necessaria per adattarsi al contesto di pubblicazione.

La metafora della scala e le sue conseguenze

⬆ Torna su

La narrazione dominante sulla geopolitica dell'IA è fortemente condizionata da una metafora implicita: l'idea che il progresso coincida con la scala. Più dati, più potenza di calcolo, più energia, più capitale. In questa narrazione, l'IA appare come la naturale prosecuzione delle trasformazioni tecnologiche degli ultimi decenni, e il successo viene misurato quasi esclusivamente in termini di dimensione e velocità di diffusione.

Questa metafora viene presa per scontata perché si appoggia su un'esperienza recente che ha funzionato. Negli ultimi cinquant'anni, l'aumento della potenza computazionale e delle risorse disponibili ha effettivamente prodotto innovazione, crescita economica e nuovi mercati. Tuttavia, ciò che in passato è stato un fattore abilitante rischia di trasformarsi in una semplificazione fuorviante. La metafora della scala suggerisce che l'IA migliori in modo monotono e prevedibile all'aumentare delle risorse, come se si trattasse di una tecnologia già compresa nei suoi fondamenti.

In questo schema, la ricerca scientifica fondamentale rischia di assumere un ruolo secondario rispetto all'ottimizzazione di sistemi già funzionanti. L'attenzione si sposta sull'efficienza marginale, sulla capacità di sostenere costi crescenti e sulla rapidità di deployment, mentre la comprensione teorica dei meccanismi interni rimane frammentaria. La tecnologia viene così spinta verso una diffusione sempre più ampia prima che siano chiariti i suoi limiti strutturali, le condizioni di stabilità e le conseguenze sistemiche.

La democrazia di fronte alla sfida sintetica

⬆ Torna su

La questione di un'IA che assume potere politico non è più confinata alla fantascienza. Isaac Asimov nel 1955 aveva immaginato elezioni americane decise da un supercomputer di nome Multivac. Oggi la domanda appare attuale. Yuval Noah Harari introduce il concetto di dataismo, la religione dei dati in cui la fonte ultima di legittimità risiede nelle informazioni, nei flussi di dati e nella capacità di elaborarli nel modo più efficiente possibile. Nella sua ricostruzione, il dataismo starebbe gradualmente soppiantando l'umanesimo.

Esistono però tentativi concreti di sostituire i politici con sistemi di IA. Nel 2023 Andrew Gray si è candidato al Parlamento britannico con un programma elettorale costruito raccogliendo le opinioni dei cittadini tramite machine learning. Il risultato è stato deludente: appena 99 voti, pari allo 0,3% dell'elettorato. Similmente, nel 2025, il candidato AI Steve nel collegio di Brighton Pavilion ha raccolto appena 179 voti. Anche in Giappone e negli Stati Uniti, esperimenti simili hanno prodotto risultati marginali.

Lo scarso successo della politica sintetica può essere ricondotto a diversi fattori. Questi progetti nascono dal basso, con capitali limitati, e faticano a trovare spazio nell'attuale quadro giuridico. Spesso sono costretti ad appoggiarsi a un candidato umano affiancato da un sistema di IA. Ma c'è un limite più profondo: la maggior parte dei cittadini delle democrazie sviluppate è contraria a cedere un crescente ruolo politico a un'IA. In uno studio recente basato su un campione del Regno Unito, solo il 2,3% della popolazione preferirebbe che un sistema di intelligenza artificiale prendesse decisioni politiche.

L'IA come presenza decisionale continua

⬆ Torna su

L'intelligenza artificiale non è più solo uno strumento, ma una presenza continua nei processi decisionali. Quando l'IA è sempre disponibile, ascolta, suggerisce, anticipa, smette di essere uno strumento e diventa parte del contesto in cui si prendono decisioni. Il framework dei "thresholds of autonomy" introduce una scelta esplicita tra velocità ed errore: definire dove si accetta un errore in cambio di velocità è una scelta culturale e di governance, non tecnica.

La responsabilità si sposta a monte. Non riguarda più la singola decisione, ma il modo in cui il sistema è progettato: dati, regole, confini di autonomia. Il segnale culturale che distingue le organizzazioni più mature è la capacità di parlare apertamente di errore. Se non si sa dove l'errore è accettabile, non si può adottare autonomia reale.

La competizione globale e le sue tensioni

⬆ Torna su

L'IA Act europeo intende promuovere un approccio centrato sull'uomo, con l'obiettivo di un livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali. Tuttavia, lo stesso testo afferma che dall'uso dell'IA si attendono cruciali vantaggi competitivi per le imprese. Nell'AI Continent Action Plan del 2025, l'enfasi sulla competizione è senza veli: l'Unione europea è impegnata a diventare un leader mondiale nell'Intelligenza Artificiale. Il primo obiettivo è la competitività.

La corsa globale per la leadership nell'IA è tutt'altro che finita. L'Ordine esecutivo firmato da Donald Trump con il lancio della Genesis Mission è esplicito: l'America è impegnata in una corsa per la supremazia tecnologica globale, con uno sforzo nazionale paragonabile per urgenza e ambizione al Progetto Manhattan. I dati confermano questo scenario: gli Stati Uniti continuano a essere la principale fonte di notable models di IA, con 40 modelli nel 2024 rispetto ai 15 della Cina. I 109,1 miliardi di dollari di investimenti privati negli Stati Uniti sono stati 11,7 volte superiori all'importo investito dalla Cina.

Il rischio della fragilità sistemica

⬆ Torna su

Nel breve periodo, la dinamica fondata sulla scala è apparentemente efficace, ma nel lungo introduce una fragilità strutturale. Quando il miglioramento dipende quasi esclusivamente dalla scala, i vincoli materiali diventano fattori interni di instabilità. In queste condizioni, ogni rallentamento tende a propagarsi rapidamente, intrecciandosi con dinamiche speculative che amplificano enormemente il rischio di bolle finanziarie.

L'intelligenza artificiale non è ancora una scienza matura. I suoi successi applicativi precedono una comprensione teorica adeguata dei meccanismi di apprendimento, dei limiti di generalizzazione, dei costi energetici e delle conseguenze sistemiche. Continuare a spingerne la diffusione senza affrontare questi nodi significa accettare una crescita fragile, dipendente da risorse materiali sempre più concentrate e da decisioni prese su basi conoscitive incomplete.

Il dilemma della delega decisionale

⬆ Torna su

Stefano Semplici osserva che i sistemi di IA aprono orizzonti impensabili alla capacità di fare, fino al punto di risucchiarla per intero e fare da soli. Essi hanno il potenziale di promuovere la prosperità umana, il benessere individuale e sociale, lo sviluppo sostenibile. Allo stesso tempo, possono minare la dignità umana e l'autonomia individuale, i diritti umani, la democrazia e lo stato di diritto. La progressiva sostituzione dell'intelligenza umana in ambiti che venivano considerati di suo dominio può condurre a una vera esternalizzazione delle decisioni.

Gli esseri umani, dopo aver smesso di fare i calcoli e imparare poesie a memoria, sostituendo la propria memoria con quella infinitamente più potente dei dischi rigidi e del cloud, si avvierebbero a un'ulteriore generalizzazione del meccanismo di delega. L'esito può essere la trasformazione dell'homo faber autore del suo destino in semplice homo spectator che finge di esistere, si illude di governare i processi che qualcun altro svolgerà.

Senza trattati internazionali simili a quelli per le armi nucleari che impongano un kill switch umano obbligatorio, il rischio non è solo una guerra globale, ma la trasformazione dell'umanità in un semplice spettatore passivo della propria distruzione programmata. La disputa tra governo e aziende tecnologiche rivela il funerale della sovranità umana sulle proprie invenzioni.

Questo articolo è una sintesi basata esclusivamente sulle fonti elencate.

Implicazioni e scenari

⬆ Torna su

La tensione tra aziende tecnologiche e apparati militari evidenzia un bivio strutturale: chi controlla i sistemi avanzati detiene un potere decisionale senza precedenti, mentre l'etica diventa variabile negoziabile.

  • Scenario 1: Le aziende tecnologiche americane potrebbero essere assorbite progressivamente nella filiera della difesa, riducendo l'autonomia dei principi fondativi e trasformando sistemi come Claude in strumenti di coordinamento operativo.
  • Scenario 2: La competizione geopolitica potrebbe accelerare una frammentazione normativa globale, con blocchi regionali che sviluppano standard incompatibili e limitano l'interoperabilità tra infrastrutture digitali.
  • Scenario 3: La resistenza dei cittadini alla politica sintetica potrebbe consolidarsi, mantenendo la delega decisionale nelle istituzioni umane anche mentre i sistemi avanzati assumono ruoli consultivi crescenti.

Cosa monitorare

⬆ Torna su
  • L'evoluzione dei rapporti tra grandi aziende tecnologiche e apparati governativi nella definizione dei limiti di autonomia dei sistemi.
  • Le iniziative legislative su entrambe le sponde dell'Atlantico circa la responsabilità decisionale e i threshold di autonomia.
  • I risultati degli esperimenti di politica sintetica in contesti elettorali diversi da quelli anglosassoni.

Nota editoriale: questa sezione propone una lettura analitica dei temi trattati, senza introdurre dati fattuali non presenti nelle fonti.

Fonti

⬆ Torna su

In breve

  • ai
  • anthropic
  • openai
  • chatgpt

Link utili

Apri l'articolo su DeafNews