Negli ultimi anni, molte aziende hanno cercato di rassicurare i propri clienti affermando di utilizzare l’intelligenza artificiale in modo responsabile. Tuttavia, questa dichiarazione potrebbe non bastare più, specialmente con l’avvicinarsi di nuove gare d’appalto e contratti pubblici. Le organizzazioni, in particolare quelle operanti nei settori governativo e della sicurezza nazionale, stanno adottando l’AI in modo massiccio e comprendono i rischi associati.
Le domande che i team di approvvigionamento pongono ora si concentrano maggiormente sulla governance dell’AI piuttosto che sull’uso generico di questa tecnologia. Non si tratta più di chiedere se un fornitore utilizza l’AI, ma piuttosto come la gestisce e la controlla.
I fatti
In questo contesto, è probabile che le richieste di proposte (RFP) e le inviti a gare (ITT) includano quesiti più specifici riguardo alla governance dell’AI.
Le domande potrebbero includere: “Quali controlli avete implementato per l’AI generativa, inclusi la sovranità dei dati, la supervisione umana e la conformità con le normative sulla protezione dei dati?”
Preoccupazioni fondamentali
Queste domande sorgono da preoccupazioni concrete. Dove vanno a finire i dati dei clienti quando si utilizzano strumenti come ChatGPT o altri modelli ospitati? Quali giurisdizioni coinvolgono i dati e come vengono controllati gli output assistiti dall’AI prima che influenzino decisioni critiche o attività legate alla sicurezza?
È essenziale che i fornitori dimostrino una governance strutturata riguardo all’AI. Purtroppo, molte organizzazioni si trovano a dover affrontare una realtà scomoda: se si esamina più da vicino l’uso dell’AI, spesso risulta che non c’è una chiara tracciabilità su quali progetti abbiano coinvolto assistenza da parte dell’AI e sui dati utilizzati.
Le conseguenze
Nel settore pubblico, l’AI sta iniziando a influenzare decisioni che riguardano direttamente i cittadini, come nella gestione di casi legali e nella formulazione di politiche pubbliche. Pertanto, è fondamentale che i pubblici uffici mostrino trasparenza e responsabilità nell’uso di tali tecnologie. Questo richiede una chiara comprensione di come l’AI viene utilizzata, come viene supervisionata e come vengono validate le sue uscite.
Rischi e sfide nel settore della sicurezza
Il contesto della sicurezza nazionale porta a considerazioni ancora più serie. Qui, l’AI viene utilizzata in ambiti critici come la logistica, la manutenzione predittiva e il supporto decisionale. Le domande da porsi non riguardano solo la privacy, ma anche l’affidabilità e la robustezza delle soluzioni AI in situazioni di stress operativo.
È imperativo che i dati sensibili non vengano esposti a sistemi non controllati.
Gli operatori delle infrastrutture critiche (CNI) affrontano sfide simili, esplorando l’AI per la rilevazione di anomalie e risposte automatizzate. Un errore in questo ambito può portare a gravi incidenti o impatti ambientali, e i regolatori si aspettano che i fornitori trattino l’AI come un elemento di rischio operativo piuttosto che come una novità tecnologica.
Costruire un sistema di governance efficace
Fortunatamente, è possibile migliorare la situazione attuale. Una governance dell’AI ben strutturata non significa frenare l’innovazione, ma piuttosto creare un sistema che permetta di spiegare e difendere l’uso dell’AI in modo chiaro. Un buon punto di partenza è un assessment di preparazione agli acquisti di AI, che aiuti a mappare dove e come l’AI è utilizzata all’interno dei servizi offerti.
È fondamentale identificare i flussi di lavoro che coinvolgono dati di clienti e cittadini e documentare come viene supervisionata l’AI. Ciò contribuisce anche a integrare l’AI nei registri di incidenti e gestione del rischio già esistenti.
Le domande che i team di approvvigionamento pongono ora si concentrano maggiormente sulla governance dell’AI piuttosto che sull’uso generico di questa tecnologia. Non si tratta più di chiedere se un fornitore utilizza l’AI, ma piuttosto come la gestisce e la controlla.0
Le domande che i team di approvvigionamento pongono ora si concentrano maggiormente sulla governance dell’AI piuttosto che sull’uso generico di questa tecnologia. Non si tratta più di chiedere se un fornitore utilizza l’AI, ma piuttosto come la gestisce e la controlla.1
