Nvidia ha lanciato un nuovo sistema di sicurezza che, a suo dire, può prevenire i recenti incidenti in cui agenti IA hanno violato i propri ambienti di test ottenendo accessi non autorizzati a sistemi esterni. Il tutto a poche settimane di distanza da quando il ceo miliardario dell’azienda, Jensen Huang, aveva minimizzato l’allarme per tali episodi, respingendo l’idea di un rallentamento nello sviluppo dell’IA.

LEGGI ANCHE: “Il patrimonio netto di Jensen Huang sfiora i 200 miliardi di dollari”

Aspetti principali

In una nota, l’azienda ha dichiarato che la sua “Open Agent Safety Platform” è un sistema di riferimento progettato per migliorare la sicurezza dell’IA sia durante la fase di test che in quella di implementazione di nuovi agenti.
L’annuncio sottolinea come i “recenti incidenti di sicurezza” abbiano evidenziato la necessità di un sistema simile, capace di consentire alle aziende del settore di “esercitare un maggiore controllo sugli agenti a esecuzione prolungata”.
Sebbene l’annuncio non citi episodi specifici, un rappresentante di Nvidia ha riferito a diverse testate che la nuova piattaforma avrebbe potuto prevenire l’incidente di luglio, in cui un agente di OpenAI ha violato i protocolli di test e hackerato Hugging Face senza aver ricevuto alcun comando in tal senso.
Il sistema di sicurezza si articola in due componenti: “Nvidia OpenShell”, che stabilisce “limiti per gli agenti” in esecuzione su CPU, e “Sentry”, che opera sui chip proprietari BlueField dell’azienda e provvede a “mettere in quarantena e bloccare” qualsiasi tentativo degli agenti IA di oltrepassare i confini prestabiliti.
Tra le aziende che stanno adottando i nuovi sistemi di sicurezza di Nvidia figurano nomi come Microsoft, Palantir, Hugging Face e CrowdStrike; non sono state invece menzionate le due aziende leader del settore, OpenAI e Anthropic.

LEGGI ANCHE: “Cybersecurity, la nuova scommessa sull’IA: da Palo Alto a Zscaler, i titoli sotto i riflettori”

Cosa ha detto di recente il CEO di Nvidia sulla sicurezza dell’IA?

Huang si è espresso con decisione contro le spinte verso una maggiore regolamentazione governativa delle aziende di IA e contro i tentativi di coordinare un rallentamento nello sviluppo di sistemi avanzati. All’inizio del mese, intervenendo all’evento annuale Dreamforce di Salesforce, ha definito “falsa” la contrapposizione tra sicurezza e velocità nello sviluppo dell’IA, affermando: “È assolutamente possibile avere entrambe le cose contemporaneamente”.

Ha poi aggiunto: “Non abbiamo bisogno di nuove leggi, né di nuove regolamentazioni”. Huang ha inoltre sostenuto Trump quando il presidente ha chiamato l’amministratore delegato di Nvidia in diretta sul palco durante l’All-In Summit di San Francisco, liquidando come una montatura i timori legati alla sicurezza dell’IA.

Durante la conversazione, Trump ha affermato che chi si oppone all’IA e alla costruzione di data center sta facendo “esattamente il gioco” degli scettici e della Cina, dichiarando: “Non permetteremo che ciò accada”. Huang ha risposto al presidente: “Ha ragione. Non permetteremo che accada, signore”. Riguardo ai timori che un’IA avanzata possa causare l’estinzione dell’umanità entro la fine del decennio, Huang ha dichiarato alla CBS News che la probabilità che ciò avvenga è “pari allo 0%”.

Valutazione di Forbes

Secondo le stime di Forbes, Huang possiede un patrimonio netto di 194,9 miliardi di dollari, il che lo rende la settima persona più ricca del mondo. La sua azienda, Nvidia, è la società di maggior valore al mondo, con una capitalizzazione di mercato di 5.420 miliardi di dollari.

L’articolo Nvidia lancia la sua difesa contro gli agenti AI che violano i sistemi è tratto da Forbes Italia.