Il 3, un comitato internazionale composto da oltre cento esperti di intelligenza artificiale ha pubblicato il secondo rapporto sulla sicurezza dell’IA, in vista del prossimo AI Impact Summit in India. Questo rapporto evidenzia l’incertezza persistente riguardo allo sviluppo della tecnologia e ai rischi connessi ad essa.
Incertezze nello sviluppo dell’IA
Secondo il rapporto, il percorso dell’IA generale rimane profondamente incerto. Nonostante i rapidi progressi tecnologici, ci sono ancora molte domande riguardo alle capacità future dei sistemi di IA e a come i rischi associati si manifesteranno. Si sottolinea che i risultati ottenuti nei benchmark attuali non possono prevedere con certezza la reale utilità o il rischio di tali sistemi.
Gaps nella valutazione dei rischi
Il rapporto mette in evidenza un gap di valutazione nella comprensione delle capacità emergenti dell’IA, rendendo difficile per gli sviluppatori anticipare come e perché i modelli di IA acquisiscano nuove capacità.
La scarsità di dati sistematici sulla prevalenza e sulla gravità dei danni legati all’IA limita ulteriormente le valutazioni correnti.
Impatto sull’occupazione e sull’autonomia umana
Il rapporto affronta anche l’impatto potenziale dell’IA sui mercati del lavoro. Le opinioni sono divergenti: alcuni esperti prevedono che la creazione di nuovi posti di lavoro compenserà le perdite, mentre altri avvertono che l’adozione dell’IA potrebbe portare a una riduzione significativa dell’occupazione e dei salari. In particolare, i ruoli junior in settori come la scrittura e la traduzione sembrano essere i più vulnerabili.
Rischi per l’autonomia umana
Un altro aspetto rilevante è la dipendenza dagli strumenti di IA, che potrebbe indebolire le capacità critiche e mnemoniche degli individui.
Il fenomeno del cognitive offloading, ovvero la delega di compiti cognitivi a sistemi esterni, ha dimostrato di liberare risorse cognitive, ma può anche avere effetti negativi sullo sviluppo e sul mantenimento delle abilità cognitive. Un esempio citato nel rapporto mostra come la capacità di un clinico di rilevare tumori senza l’assistenza dell’IA sia diminuita del 6% in soli tre mesi dall’introduzione della tecnologia.
Disuguaglianza economica e malfunzionamenti
Il rapporto avverte che l’adozione dell’IA potrebbe ampliare le disuguaglianze sia all’interno che tra i paesi. I sistemi di IA potrebbero spostare i guadagni dal lavoro ai proprietari di capitali, come gli azionisti delle aziende che sviluppano o utilizzano l’IA. Si stima che l’impatto dell’IA sulla crescita economica nei paesi avanzati potrebbe essere più che doppio rispetto ai paesi a basso reddito.
Problemi di malfunzionamento e perdita di controllo
Un tema cruciale riguarda l’uso malevolo dell’IA, che include minacce come attacchi informatici e manipolazioni. Il rapporto evidenzia che, mentre ci sono rischi legati all’affidabilità dei sistemi di IA e alla perdita di controllo da parte degli esseri umani, non ci sono ancora abbastanza evidenze per determinare quando o come questi sistemi potrebbero superare soglie di pericolo.
Necessità di ulteriori ricerche e collaborazioni
Il rapporto conclude sottolineando che è fondamentale condurre ulteriori ricerche per comprendere meglio i vari rischi associati all’IA e come essi variano a livello globale. È essenziale sviluppare approcci di gestione del rischio più robusti e collaborativi, coinvolgendo decisori, ricercatori, industria e società civile. La mancanza di prove sui rischi emergenti e sull’efficacia delle misure di mitigazione rimane una sfida importante da affrontare.
In definitiva, il secondo rapporto internazionale sulla sicurezza dell’IA rappresenta un passo significativo verso una comprensione più profonda delle sfide e delle opportunità legate all’intelligenza artificiale, evidenziando la necessità di un approccio concertato per garantire che i benefici dell’IA siano equamente distribuiti e i rischi adeguatamente gestiti.
