Un futuro in cui il browser effettua acquisti online per conto dell’utente, compilando moduli e gestendo pagamenti, presenta una serie di rischi legati alla sicurezza. Se qualcosa andasse storto, un agente AI potrebbe acquistare biglietti sbagliati o compromettere i dati bancari.
Per affrontare tali problematiche, Google ha introdotto misure di sicurezza per gli agenti AI nel browser Chrome, presentando un documento dettagliato su come intende proteggere gli utenti dalle potenziali minacce. A settembre, l’azienda ha svelato il suo modello AI, denominato Gemini, che funge da supervisore per le azioni degli agenti.
Il modello Gemini e la sua funzione di supervisione
Il funzionamento del modello Gemini è innovativo: gli agenti AI pianificano diverse azioni per completare un compito specifico. Prima di procedere, il modello valuta queste azioni per assicurarsi che siano in linea con le esigenze e le intenzioni dell’utente.
Se il modello rileva che un’azione non è coerente con l’obiettivo, richiede all’agente di rivedere le scelte.
Controllo delle azioni degli agenti
Per evitare che gli agenti si muovano liberamente in rete, Google ha implementato il sistema degli Agent Origin Sets, che stabilisce restrizioni su quali sezioni del web l’agente può accedere e modificare. Ad esempio, su un sito di e-commerce, gli agenti possono visualizzare solo le informazioni sui prodotti, evitando interazioni con banner pubblicitari o sezioni non pertinenti.
Filtri di sicurezza e autorizzazioni
In aggiunta, Google ha integrato un modello di osservazione che analizza gli URL prima che l’agente decida di visitarli. Questo filtro è cruciale per bloccare URL dannosi, proteggendo gli utenti da tecniche di attacco come la prompt injection.
In questo modo, si evita che l’agente venga indirizzato verso siti non sicuri.
Consenso dell’utente per attività sensibili
Per le operazioni che coinvolgono dati sensibili, Google ha scelto di garantire il controllo all’utente. Quando l’agente cerca di accedere a informazioni bancarie o mediche, richiede sempre il consenso esplicito. Inoltre, per operazioni come acquisti online e gestione delle password, l’agente chiede preventivamente l’autorizzazione all’utente, garantendo una maggiore sicurezza.
Prevenzione delle iniezioni di prompt
Un ulteriore passo avanti nella sicurezza è rappresentato dall’implementazione di un classificatore di prompt injection. Questo strumento è progettato per prevenire azioni indesiderate da parte di attaccanti che tentano di manipolare l’agente nascondendo comandi malevoli in pagine apparentemente innocue. Google sta testando attivamente la resilienza degli agenti AI contro attacchi simulati, per garantire che queste nuove funzionalità siano in grado di resistere anche a minacce reali.
Altre aziende, come Perplexity, stanno sviluppando modelli di rilevamento open source per prevenire attacchi simili, segno che l’intero settore sta prendendo coscienza dell’importanza di attuare misure di sicurezza robuste per gli agenti AI.
Con l’arrivo imminente degli agenti AI su Chrome, sarà interessante osservare se le misure adottate saranno adeguate a proteggere gli utenti da possibili malintesi o errori. La sfida consiste nel mantenere un equilibrio tra usabilità e sicurezza, e solo il tempo dirà se Google sarà in grado di affrontare con successo questa complessa questione.
