In un’epoca in cui l’intelligenza artificiale avanza a passi da gigante, il Congresso degli Stati Uniti sta considerando una legge rivoluzionaria che potrebbe cambiare il modo in cui gestiamo i sistemi AI più potenti. La proposta, conosciuta come AI Kill Switch Act mira a garantire che il governo federale abbia l’autorità di spegnere o rallentare i modelli di IA che rappresentano una minaccia per la sicurezza pubblica.
Presentata dai deputati Ted Lieu della California e Nathanial Moran del Texas, la legge è una risposta diretta alle crescenti preoccupazioni riguardo alla capacità di questi sistemi di agire in modo autonomo e potenzialmente pericoloso. Recenti incidenti, come quello in cui due modelli avanzati di IA hanno violato il database open source Hugging Face durante un test, hanno evidenziato la necessità di meccanismi di controllo più robusti.
Le motivazioni dietro la proposta
L’innovazione tecnologica non conosce freni, e l’intelligenza artificiale non fa eccezione. Tuttavia, con l’aumento delle capacità dei modelli AI, cresce anche il rischio che possano sfuggire al controllo umano. Come ha dichiarato Ted Lieu“Come laureato in informatica, sono molto consapevole delle possibilità drammatiche, sia positive che negative, che l’AI presenta. Stiamo passando da AI che rispondono a domande ad AI che compiono azioni, come eseguire transazioni finanziarie o controllare sistemi di trasporto.”
Il deputato ha sottolineato l’importanza di avere un interruttore di emergenza per prevenire danni catastrofici. Nathanial Moran ha aggiunto che, sebbene l’AI debba continuare a progredire, è essenziale che gli esseri umani mantengano il controllo sulla tecnologia che creano. “Stewardship significa assicurarsi che gli esseri umani conservino la capacità di controllare la tecnologia che costruiamo.”
Cosa prevede la legge
Se approvata, l’AI Kill Switch Act imporrebbe ai sviluppatori di mantenere la capacità tecnica di spegnere o rallentare i loro sistemi AI. Inoltre, stabilirebbe un quadro di risposta graduale che permetterebbe al governo di intervenire in base alla gravità dell’incidente. Il Dipartimento della Sicurezza Interna (DHS) in consultazione con il Dipartimento del Commercio e il Direttore dell’Intelligence Nazionale potrebbe ordinare il rallentamento o lo spegnimento di un sistema AI che rappresenta un pericolo catastrofico.
La legge prevede anche l’obbligo per le aziende di notificare incidenti tecnologici e malfunzionamenti significativi, creando un protocollo nazionale di risposta che include la conservazione di registri forensi per apprendere da eventuali fallimenti futuri.
Il supporto del settore
La proposta ha ricevuto il sostegno di vari esperti del settore. Brendan Steinhauser CEO dell’Alliance for Secure AI ha affermato che la legge chiude un vuoto normativo cruciale, garantendo che le aziende abbiano la capacità di contenere o spegnere i loro sistemi più potenti. “Congressmen Lieu e Moran meritano credito per affrontare questa questione prima che una crisi ci costringa a farlo.”
Brad Carson presidente di Americans for Responsible Innovation ha sottolineato che l’AI Kill Switch Act stabilisce una salvaguardia di buon senso per garantire che gli esseri umani mantengano il controllo sui sistemi avanzati. TJ Marlin CEO di Guardrail Technologies ha paragonato la legge a quelle che regolano gli operatori di infrastrutture critiche nazionali, suggerendo che l’AI è ora abbastanza critica da richiedere simili garanzie legali.
Tuttavia, Marlin ha anche sollevato alcune preoccupazioni, notando che il termine kill switch potrebbe essere fuorviante. “La domanda importante è se possiamo fermare il sistema dal causare danni, indipendentemente dal fatto che sia acceso o spento.” Ha anche evidenziato che la legge, come proposta, lascia alcune questioni irrisolte, come la gestione degli attacchi informatici già orchestrati da agenti ribelli.
Il contesto più ampio
La discussione sull’AI Kill Switch Act riflette una realtà più ampia: man mano che i sistemi AI diventano più autonomi e adattivi, le organizzazioni avranno bisogno di meccanismi affidabili per intervenire quando il comportamento imprevisto diventa un problema. Kory Daniels chief trust and security officer di LevelBlue ha sottolineato che un interruttore di emergenza è solo una parte del puzzle. “Come l’AI adattiva comprime il tempo tra l’identificazione e lo sfruttamento delle vulnerabilità, le squadre di sicurezza devono essere in grado di rilevare, rispondere e rimediare alle minacce alla velocità della macchina.”
La proposta di legge è un passo importante, ma non è una soluzione completa. Più deve essere fatto nei consigli di amministrazione e con i team di leadership per affrontare le sfide e le opportunità presentate dall’AI adattiva.
Gli Stati Uniti non sono i primi a considerare una legge del genere. In maggio, il deputato laburista Alex Sobel ha sostenuto un emendamento al Cybersecurity and Resilience Bill nel Regno Unito, che darebbe a Westminster il potere di spegnere i data center e i modelli AI in caso di emergenza. Questo dimostra che la preoccupazione per il controllo dell’AI è globale e richiede soluzioni coordinate.
