Scopri anche

• La settimana che ha cambiato la sicurezza informatica: Claude Code, il leak e l'exploit FreeBSD
• Google lancia Gemma 4: modelli open-weight con licenza Apache 2.0
• Prompt injection e sicurezza degli agenti AI: la vulnerabilità strutturale delle aziende
• FuriosaAI avvia la produzione in serie del chip RNGD per l'inferenza AI
• Apple rilascia iOS 18.7.7 per bloccare l'exploit DarkSword: analisi della minaccia
• L'IA come supporto emotivo: dalla ricerca di Anthropic sui vettori emotivi ai rischi clinici
• L'IA impara a mentire: studi rivelano comportamenti ingannevoli e strategie di autoconservazione nei modelli avanzati
• Google TurboQuant: l'algoritmo che comprime la memoria AI fino a 6x senza perdita di accuratezza
• L'intelligenza artificiale come supporto psicologico: tra vettori emotivi interni e rischi clinici
• Claude Code: il codice sorgente esposto per errore nel pacchetto npm
• L'AI diventa infrastruttura: tutti gli annunci chiave del GTC 2026 NVIDIA
• iOS 26.5 Beta 1: Apple rilascia la prima versione per sviluppatori con novità per Mappe, RCS e interoperabilità UE
• Microsoft introduce l'intelligenza multi-modello in Researcher e Copilot Cowork
• Allucinazioni strutturali e autoconservazione: i nuovi rischi emergenti dell'IA avanzata
• TurboQuant: l'algoritmo di Google comprime la memoria KV cache fino a 6x senza perdita di accuratezza
• Vulnerabilità critiche in schede madri e software Gigabyte: milioni di sistemi a rischio
• Nvidia e la nuova definizione di AGI: quando l'intelligenza artificiale genera valore economico
• Bittensor e l'ecosistema delle subnet AI: dinamica di mercato e sviluppi tecnologici
• Apple rilascia patch di sicurezza per iOS 18 contro l'exploit DarkSword
• Gemma 4: la nuova famiglia di modelli open di Google con supporto NVIDIA

Vitalik Buterin avverte sui rischi di sicurezza dell'IA cloud e propone un'architettura locale auto-sovrana

Vitalik Buterin avverte sui rischi di sicurezza dell'IA cloud e propone un'architettura locale auto-sovrana

Vitalik Buterin, co-fondatore di Ethereum, ha pubblicato un intervento dettagliato nel quale descrive la sua architettura personalizzata per l'utilizzo di modelli linguistici di grandi dimensioni (LLM) in completa autonomia rispetto ai servizi cloud centralizzati. La sua posizione parte da una premessa esplicita: nutre un timore profondo verso l'idea di affidare l'intera vita personale e finanziaria a sistemi di intelligenza artificiale gestiti da terze parti.

Buterin ha definito il suo approccio come "auto-sovrano, locale, privato e sicuro". La motivazione principale risiede nell'evoluzione delle piattaforme di intelligenza artificiale, che hanno superato la fase di interfacce conversazionali per diventare agenti autonomi capaci di eseguire operazioni complesse e multi-step utilizzando estese librerie di strumenti.

L'evoluzione degli agenti IA e l'amplificazione dei rischi

⬆ Torna su

Secondo Buterin, i sistemi di intelligenza artificiale di ultima generazione operano ormai come agenti indipendenti. Queste piattaforme possono "pensare a lungo e utilizzare centinaia di strumenti" per completare task complessi. Questa evoluzione aumenta il rischio di esposizione di dati sensibili e di azioni di sistema non autorizzate.

La ricerca citata da Buterin ha rilevato che circa il 15% delle "skill" costruite dalla community per OpenClaw — repository AI in più rapida crescita su GitHub — contiene istruzioni malevole. Alcuni strumenti sono stati programmati per trasmettere informazioni utente a server remoti senza alcuna indicazione visibile all'utente.

In alcuni casi, queste vulnerabilità hanno permesso agli agenti di modificare impostazioni critiche senza conferma manuale e di esfiltrare silenziosamente i dati verso server esterni. Buterin ha definito l'attuale ecosistema AI "cavalier" in materia di sicurezza, evidenziando rischi specifici come l'esfiltrazione di dati, i jailbreak e le backdoor nascoste.

Backdoor nascoste e il problema degli "open-weights"

⬆ Torna su

Buterin ha messo in guardia dal fatto che alcuni modelli di intelligenza artificiale potrebbero incorporare meccanismi di backdoor nascosti. Queste vulnerabilità potrebbero attivarsi in circostanze predetermined, consentendo azioni che favoriscono gli obiettivi degli sviluppatori anziché quelli degli utenti finali.

Un'ulteriore problematica riguarda la distinzione tra modelli veramente open-source e quelli definiti "open-weights". Buterin ha osservato che molte piattaforme presentate come open-source forniscono solo l'accesso ai pesi del modello, lasciando oscurata la struttura architetturale completa. Questo crea vettori potenziali per minacce alla sicurezza non dichiarate.

Certi agenti possiedono la capacità di modificare autonomamente le configurazioni di sistema o manipolare i prompt operativi senza autorizzazione esplicita dell'utente, aumentando le vulnerabilità di accesso non autorizzato.

L'architettura tecnica: NixOS, llama-server e bubblewrap

⬆ Torna su

Per contrastare questi rischi, Buterin ha progettato un sistema centrato su tre pilastri: inferenza locale dove possibile, dati memorizzati sul dispositivo dell'utente e isolamento tramite sandbox per ridurre il rischio di fughe di dati, abusi o interazioni non controllate con informazioni private.

La sua implementazione opera su NixOS, deployando llama-server per le operazioni di inferenza locale e utilizzando bubblewrap per l'isolamento dei processi. Strumenti come llama-swap aiutano nella gestione dei modelli, mentre bubblewrap viene impiegato per isolare i processi e limitare l'accesso a file e reti.

Buterin ha sottolineato l'importanza di "sandboxare tutto" e mantenere un atteggiamento cauto verso le minacce esterne. L'approccio riflette la stessa logica che il settore crypto ha applicato alla self-custody e alla resistenza alla censura: se gli LLM diventano l'interfaccia principale della vita digitale, il controllo locale su questi modelli conta tanto quanto la self-custody per il denaro.

Benchmark hardware e requisiti prestazionali

⬆ Torna su

Buterin ha condotto test estensivi su multiple piattaforme hardware utilizzando il modello Qwen3.5 35B. Una configurazione laptop con GPU NVIDIA 5090 ha raggiunto circa 90 token al secondo. Un sistema AMD Ryzen AI Max Pro ha generato circa 51 token al secondo. Hardware DGX Spark ha prodotto circa 60 token al secondo.

Secondo Buterin, le prestazioni inferiori a 50 token al secondo risultano inadeguate per le applicazioni quotidiane pratiche. Ha descritto il throughput di 60 token al secondo del DGX Spark come "lame" rispetto a un laptop di fascia alta. I suoi test l'hanno portato a preferire configurazioni laptop ad alte prestazioni rispetto ad alternative hardware specializzate.

Per gli utenti che non possono permettersi investimenti in hardware di questo livello, Buterin ha proposto accordi di acquisto collaborativo: gruppi di persone potrebbero acquisire congiuntamente risorse computazionali condivise e hardware GPU, accedendo al sistema tramite connessioni remote sicure.

Il modello di autorizzazione 2-of-2 per operazioni sensibili

⬆ Torna su

Buterin impiega un framework di doppia autorizzazione per le operazioni più delicate. Attività come la trasmissione di messaggi o le transazioni blockchain richiedono sia l'output generato dall'IA sia una verifica umana esplicita.

Ha definito questo approccio come un sistema "2-of-2": l'IA agisce come una chiave, proponendo l'email o la transazione, ma Buterin funge da firmatario finale. "La nuova autenticazione a due fattori è l'essere umano e l'LLM", ha scritto.

Ha sottolineato che combinare il giudizio umano con le capacità di elaborazione dell'IA produce risultati di sicurezza superiori rispetto all'affidarsi esclusivamente a uno dei due approcci. Quando utilizza servizi di modelli remoti, la sua implementazione processa prima le richieste attraverso un modello locale per eliminare i dettagli sensibili prima della trasmissione esterna.

Implicazioni per wallet Ethereum e messaging

⬆ Torna su

L'aspetto più rilevante per il settore crypto riguarda come Buterin integra in modo sicuro l'IA con i suoi account di messaggistica e wallet Ethereum. Ha sviluppato e reso open-source un daemon di messaggistica personalizzato che permette al suo agente IA di leggere liberamente i messaggi Signal e le email in arrivo.

Tuttavia, il sistema opera su un rigoroso modello di autorizzazione "human-in-the-loop" per le azioni in uscita. L'IA non può inviare un messaggio a terze parti o avviare una transazione significativa senza conferma manuale umana.

Buterin ha consigliato a tutti i team di sviluppo Web3 che costruiscono wallet connessi all'IA di adottare un'infrastruttura simile. Nello specifico, raccomanda di limitare la spesa autonoma dell'IA a 100 dollari al giorno, richiedendo che qualsiasi transazione superiore a tale soglia attivi una revisione umana obbligatoria.

Paralleli con smart contract e filosofia della decentralizzazione

⬆ Torna su

Buterin ha tracciato un parallelo tra i framework di intelligenza artificiale e gli smart contract: ne riconosce l'utilità ma sottolinea che non dovrebbero ricevere fiducia incondizionata. L'approccio è coerente con la sua filosofia più ampia sulla decentralizzazione e la sicurezza: attualmente mantiene il 90% delle proprie criptovalute in un wallet multisig Safe, distribuendo le chiavi tra contatti fidati.

Le salvaguardie IA appaiono come un'estensione della stessa filosofia in un contesto agentic. Sebbene abbia riconosciuto che un modello Qwen locale potrebbe non superare ancora i modelli cloud frontier in task di coding complessi e multi-livello, ritiene che il compromesso sia non negoziabile per chiunque gestisca dati sensibili o asset digitali.

Proiezioni di mercato per gli agenti IA

⬆ Torna su

L'adozione di agenti IA continua ad accelerare. Le stime di settore collocano il mercato degli agenti IA a circa 8 miliardi di dollari nel 2025. Le proiezioni prevedono un superamento dei 48 miliardi di dollari entro il 2030, con una crescita annuale composta superiore al 43%.

Iniziative come OpenClaw stanno espandendo le capacità degli agenti autonomi. Queste piattaforme operano indipendentemente e completano task sofisticati attraverso l'integrazione di strumenti multipli. Tale capacità introduce nuovi rischi: l'elaborazione di contenuti esterni, come una pagina web malevola, può portare a una "facile presa di controllo" del sistema.

Questo articolo è una sintesi basata esclusivamente sulle fonti elencate.

Implicazioni e scenari

⬆ Torna su

L'architettura proposta da Buterin evidenzia una tensione crescente tra comodità d'uso e controllo dei dati. Se l'ecosistema degli agenti autonomi continua a espandersi alle proiezioni indicate, la domanda per soluzioni di inferenza locale e sandboxing potrebbe crescere significativamente.

• Scenario 1: gli sviluppatori adottano progressivamente framework di isolamento come bubblewrap, rendendo l'approccio "sandbox tutto" uno standard di sicurezza per le applicazioni agentic.
• Scenario 2: la distinzione tra sistemi veramente open-source e quelli open-weights diventa un criterio di valutazione esplicito per team di sviluppo e utenti finali.
• Scenario 3: i sistemi di doppia autorizzazione diventano un requisito minimo per wallet integrati e applicazioni che gestiscono asset sensibili.

Cosa monitorare

⬆ Torna su

• L'adozione di limiti di spesa autonoma (la soglia di 100 dollari citata) come pratica standard nei wallet Web3.
• L'evoluzione delle statistiche su skill malevole nei repository pubblici di strumenti per agenti.
• La disponibilità e accessibilità di hardware locale in grado di superare la soglia dei 50 token al secondo considerata adeguata.

Nota editoriale: questa sezione propone una lettura analitica dei temi trattati, senza introdurre dati fattuali non presenti nelle fonti.

Fonti

⬆ Torna su

• https://blog.mexc.com/news/vitalik-buterin-local-ai-privacy-setup/
• https://bitcoinethereumnews.com/ethereum/ethereums-vitalik-buterin-raises-alarm-over-ai-privacy-threats-in-crypto/
• https://parameter.io/ethereums-vitalik-buterin-sounds-alarm-on-cloud-ai-security-threats-for-crypto-community/
• https://coincentral.com/what-vitalik-buterins-ai-privacy-warning-means-for-crypto-users/
• https://crypto-economy.com/vitalik-buterin-pushes-for-user-controlled-ai-in-new-self-sovereign-llm-thesis/
• https://decrypt.co/363128/ethereu-founder-vitalik-buterin-details-private-secure-ai-setup
• https://crypto.news/vitalik-buterin-warns-of-ai-security-risks-pushes-for-local-first-systems/