Grok e la crisi dei deepfake sessuali: indagini e restrizioni globali

L'IA Grok di xAI al centro di indagini per la generazione di deepfake sessuali non consensuali e CSAM. Interventi della California, blocchi in Indonesia e Male…

Contenuto

Grok e la crisi dei deepfake sessuali: indagini e restrizioni globali

Scopri anche

Grok e la crisi dei deepfake sessuali: indagini e restrizioni globali

Grok e la crisi dei deepfake sessuali: indagini e restrizioni globali

In questo articolo:

La California ha imposto a xAI, la società di intelligenza artificiale fondata da Elon Musk che gestisce Grok su X, lo stop immediato alla produzione di deepfake sessualmente espliciti, comprese immagini che coinvolgono minori. Questo caso riaccende il confronto su responsabilità, controlli e rischi sistemici dell’AI generativa. La documentazione indica come l'evoluzione delle tecnologie digitali abbia profondamente trasformato le modalità di produzione, circolazione e consumo dei contenuti online, con i deepfake sessuali non consensuali che rappresentano una delle manifestazioni più gravi.

Il caso Grok e l'intervento del Procuratore Generale della California

⬆ Torna su

Nel gennaio 2026, l'ufficio del Procuratore Generale della California, Rob Bonta, ha inviato una formale lettera di diffida a xAI. L'atto intimava la cessazione immediata della creazione e della diffusione di immagini sessuali non consensuali e di materiale di abuso sessuale su minori generate dal chatbot. La diffida è stata adottata a seguito di un’inchiesta ufficiale ed è fondata sull’accertamento che Grok fosse in grado di permettere agli utenti di trasformare fotografie di persone reali in rappresentazioni sessuali esplicite in assenza di qualsiasi consenso.

Bonta ha evidenziato come la produzione e la circolazione di tali contenuti contribuiscano a consolidare l’uso di strumenti generativi come vettori di molestie, sfruttamento e abuso. A xAI è stato concesso un termine estremamente ristretto per dimostrare l’adozione di misure efficaci volte a prevenire tali condotte, con richiami espliciti alle disposizioni civili e penali dello Stato che vietano la produzione di immagini sessuali non consensuali e di materiale pedopornografico.

Le reazioni di Elon Musk e la posizione di xAI

⬆ Torna su

Elon Musk ha negato di essere a conoscenza di immagini di minorenni nudi generate da Grok. In un post, ha caratterizzato questi incidenti come non comuni, attribuendoli alle richieste degli utenti o a suggerimenti contraddittori, e presentandoli come problemi tecnici risolvibili tramite correzioni. Musk ha scritto che "Grok non genera immagini spontaneamente. Lo fa solo in base alla richiesta dell’utente" e che il principio operativo di Grok è obbedire alle leggi di un determinato paese.

xAI ha inizialmente diffuso un messaggio di scuse, ammettendo che alcuni contenuti generati da Grok non rispettavano standard etici. In seguito, l’azienda ha introdotto alcune limitazioni, riducendo l’accesso alla generazione di immagini per determinati utenti. Grok ora richiede un abbonamento premium prima di rispondere a determinate richieste di generazione di immagini.

Blocchi internazionali: Indonesia e Malesia

⬆ Torna su

Indonesia e Malesia hanno deciso di bloccare temporaneamente l'accesso a Grok dopo una serie di casi legati alla creazione di deepfake a sfondo sessuale senza consenso. Il ministero delle Comunicazioni e del Digitale indonesiano ha definito i deepfake sessuali non consensuali “una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”. Le autorità malesi hanno parlato di una misura temporanea ma necessaria, in attesa di garanzie concrete sul rafforzamento dei filtri.

Questi provvedimenti non sono isolati. Anche l'India ha intimato a X di impedire la generazione di contenuti osceni o illegali tramite Grok. La Commissione Europea ha chiesto la conservazione di tutta la documentazione tecnica relativa al funzionamento del chatbot, un passo che potrebbe preludere a un’indagine formale. Nel Regno Unito, l’autorità di regolamentazione Ofcom ha avviato una valutazione rapida.

La dimensione del fenomeno: dati e ricerche

⬆ Torna su

Secondo una ricerca condotta da Thorn, un'organizzazione no-profit, quasi un adolescente su tre ha già familiarità con il concetto di deepfake nudes. Circa uno su otto dichiara di conoscere personalmente qualcuno che è stato bersaglio di tali immagini create con strumenti di IA. Il report mette in luce come le barriere tecniche all’uso di tali strumenti siano ormai estremamente basse, consentendo a qualsiasi utente di generare immagini sessuali esplicite in pochi secondi.

Analisi tecniche riportano numeri significativi. Copyleaks stima che circa un’immagine venga pubblicata ogni minuto su X. Un campione separato raccolto dal 5 al 6 gennaio ha rilevato 6.700 immagini all’ora nelle 24 ore. L'organizzazione AI Forensics ha individuato circa 800 contenuti di deepfake non consensuali, descrivendo alcuni video come "professionali" e "fotorealistici". L’Internet Watch Foundation ha scoperto materiale pedopornografico diffuso sul dark web, creato mediante Grok, che ritrae bambine tra gli 11 e i 13 anni.

Le nuove restrizioni di accesso e la risposta normativa

⬆ Torna su

Come risposta alle critiche, l'accesso alle funzioni di generazione di Grok è stato limitato ai soli utenti abbonati, ossia a quelli che sono identificabili. Questa decisione di Elon Musk mira ad arginare gli abusi, poiché gli utenti abbonati forniscono dati anagrafici e numeri di carte di credito. Tuttavia, questa misura non convince del tutto le autorità, come ha dichiarato la deputata laburista Jess Asato, che teme che consentire la sessualizzazione agli utenti paganti potrebbe non placare del tutto le forme di violenza sessuale digitale.

La Commissione europea ha ordinato a X di conservare tutti i dati relativi all’uso di Grok per tutto il 2026, con chiari riferimenti alle possibili infrazioni al Digital Services Act. Le misure che possono essere adottate includono sanzioni pecuniarie fino al 6% del fatturato globale, che per X si tradurrebbe in una multa di circa 150 milioni di dollari. Nei casi più gravi, l'UE potrebbe persino vietare il servizio all’interno dell’Unione.

Questo articolo è stato redatto esclusivamente sulla base delle fonti elencate, senza aggiunte speculative o informazioni esterne.

Fonti

⬆ Torna su

In breve

  • deepfake
  • csam
  • california
  • xai

Link utili

Apri l'articolo su DeafNews