Fabrizio Pace
Nvidia ha presentato la Open Agent Safety Platform, una soluzione progettata per impedire agli agenti di intelligenza artificiale di compiere azioni oltre i limiti stabiliti dagli operatori. Il sistema nasce in risposta ai recenti episodi in cui alcuni modelli hanno superato i confini degli ambienti di test, raggiungendo reti, dati o servizi non autorizzati.
La piattaforma combina due livelli di protezione: OpenShell, un componente software open source, e Sentry, un sistema di controllo basato su hardware separato. L’obiettivo è fare in modo che un agente disponga soltanto dei permessi indispensabili per svolgere il proprio compito e che ogni tentativo di oltrepassare tali autorizzazioni possa essere bloccato rapidamente.
OpenShell crea un ambiente isolato nel quale l’agente può operare. Prima dell’avvio, gli amministratori definiscono quali file, processi, strumenti, credenziali, reti e indirizzi web il sistema può utilizzare. Il software applica poi queste regole durante l’esecuzione, limitando l’accesso alle risorse non necessarie.
Essendo distribuito come software open source, OpenShell può essere esteso anche a piattaforme basate su processori di altri produttori, tra cui Intel e Arm. La componente software è quindi pensata per funzionare al di là dell’hardware Nvidia e per essere integrata in diversi ambienti aziendali e cloud.
Sentry aggiunge una seconda barriera di sicurezza. Il watchdog opera su unità di elaborazione dati Nvidia BlueField-4, separate dal sistema che esegue l’agente, e osserva in modo indipendente le sue interazioni con modelli, strumenti, dati e reti.
Se rileva un comportamento sospetto o una violazione delle regole, può isolare e bloccare l’agente in pochi millisecondi.
La separazione tra il programma controllato e il sistema di sorveglianza è uno degli elementi centrali della proposta: anche se l’agente o il computer che lo ospita venissero compromessi, Sentry dovrebbe restare fuori dalla sua portata.
Nvidia sostiene che l’architettura avrebbe potuto impedire alcuni recenti incidenti attribuiti ad agenti di OpenAI e Anthropic, ma si tratta di una valutazione della società e non di una verifica indipendente.
Oltre cento organizzazioni stanno già collaborando con Nvidia sulla piattaforma, tra cui Microsoft, Anthropic, Salesforce, Cisco, CrowdStrike, JPMorgan Chase, Perplexity e ServiceNow.
Per il CEO Jensen Huang, la sicurezza degli agenti è soprattutto un problema di ingegneria: secondo questa impostazione, il settore dovrebbe sviluppare controlli più solidi senza rallentare l’innovazione nel campo dell’intelligenza artificiale.
Fabrizio Pace
