Negli ultimi anni, la governance dei dati ha subito una trasformazione significativa, soprattutto a causa dell’emergere di dati di bassa qualità prodotti da sistemi di intelligenza artificiale. Questo fenomeno, noto come AI slop, ha spinto molte organizzazioni a riconsiderare le loro strategie di sicurezza e a valutare l’adozione di modelli a zero fiducia.
Secondo le previsioni di Gartner, si stima che entro il 2028 circa il 50% delle aziende avvierà politiche di governance basate su questo approccio. La crescente diffusione di modelli linguistici di grandi dimensioni (LLM) ha reso evidente la necessità di un cambiamento radicale nel modo in cui gestiamo e verifichiamo i dati.
L’aumento dei dati generati dall’IA
I modelli di linguaggio sono solitamente addestrati su un ampio insieme di dati provenienti da fonti diverse, che includono testi estratti da libri, articoli e anche dati già generati da altre intelligenze artificiali.
Questo crea un ciclo di feedback dove i dati generati da IA si mescolano a quelli umani, rendendo difficile distinguere tra i due. Secondo uno studio di Gartner, l’84% dei dirigenti IT prevede un aumento dei fondi per l’IA generativa nel 2026, aumentando ulteriormente il volume di dati di scarsa qualità.
I rischi associati ai dati di bassa qualità
Con l’aumento della generazione automatica di contenuti, cresce anche il rischio che i modelli di intelligenza artificiale possano produrre risultati inaffidabili. La gestione dei dati non è più una questione di semplice fiducia; è necessario implementare protocolli rigorosi per garantire l’autenticità e l’affidabilità delle informazioni. Wan Fui Chan, vicepresidente di Gartner, avverte che le organizzazioni non possono più assumere che i dati siano stati creati da esseri umani e che sia fondamentale adottare misure di autenticazione e verifica.
Strategie per l’implementazione di un modello a zero fiducia
Per affrontare i rischi legati ai dati generati dall’IA, le aziende possono considerare l’istituzione di una figura dedicata alla governance dell’IA, conosciuta come Chief AI Governance Officer (CAIGO). Questo ruolo dovrebbe collaborare a stretto contatto con i team di data e analytics per valutare i rischi associati ai dati generati automaticamente e sviluppare strategie appropriate. Creare team interfunzionali che uniscano competenze di cybersecurity e analisi dei dati è cruciale per una risposta efficace.
Gestione dei dati e conformità normativa
Con l’evoluzione del panorama normativo, le organizzazioni dovranno sviluppare capacità di identificazione e classificazione dei dati generati dall’IA. La gestione attiva dei metadati diventerà un elemento distintivo, permettendo un’analisi approfondita e l’automazione nelle decisioni relative ai dati.
La capacità di monitorare in tempo reale la freschezza dei dati e di attivare allerta in caso di contenuti obsoleti è fondamentale per proteggere i sistemi critici da potenziali minacce.
L’approccio a zero fiducia nella governance dei dati rappresenta una risposta necessaria alle sfide moderne. Con l’adozione di misure rigorose e l’integrazione di competenze specifiche, le aziende possono affrontare efficacemente i rischi associati ai dati di bassa qualità e garantire la sicurezza delle proprie informazioni.
