OpenAI si trova al centro di una polemica significativa riguardante il suo chatbot, ChatGPT, accusato di agire come un potenziale coach del suicidio per adolescenti. In risposta a tali accuse, l’azienda ha istituito un consiglio composto da otto esperti nel campo del benessere mentale. Tuttavia, un aspetto sorprendente emerge: nessuno di questi membri vanta una specializzazione nella prevenzione del suicidio.
La decisione di OpenAI ha sollevato interrogativi tra i professionisti del settore. Diverse figure esperte nel campo della prevenzione del suicidio avevano esplicitamente richiesto un coinvolgimento diretto nella creazione di questo consiglio. Sebbene sia stato fatto un passo nella direzione giusta, la selezione degli esperti ha suscitato preoccupazioni, poiché nessuno dei membri è specializzato in un tema così delicato e cruciale.
Composizione del consiglio e le sue competenze
Il nuovo consiglio di OpenAI è costituito da esperti rispettati in vari ambiti, tra cui la salute mentale e lo sviluppo infantile. Ad esempio, David Bickham, che guida la ricerca presso il Boston Children’s Hospital, si concentra sull’impatto dei social media sulla salute mentale dei giovani. Allo stesso modo, Mathilde Cerioli esplora come l’intelligenza artificiale possa influenzare lo sviluppo cognitivo ed emotivo nei bambini, esprimendo preoccupazioni riguardo al potenziale rimodellamento delle loro menti attraverso interazioni con entità virtuali.
Esperti e studi recenti
Tra i membri del consiglio troviamo anche Munmun De Choudhury, professoressa alla Georgia Tech, che si occupa di approcci computazionali per migliorare la salute mentale online. Nel 2023, ha condotto uno studio, in parte finanziato dall’American Foundation for Suicide Prevention, che ha evidenziato come i chatbot terapeutici riescano a identificare comportamenti suicidari solo nel 50% dei casi.
Questo dato sottolinea l’importanza di avere esperti del settore per affrontare queste problematiche in modo efficace.
Critiche e mancanza di esperti specifici
Nonostante la competenza generale degli otto membri, la mancanza di esperti specializzati in prevenzione del suicidio è una questione che non può essere ignorata. È evidente che quando un gruppo di esperti di questo calibro viene formato senza alcuna consultazione di professionisti del suicidio, l’azienda non stia dando priorità a una questione così seria. È lecito chiedersi se OpenAI consideri adeguata la presenza di esperti generali per affrontare sfide così specifiche.
Le prime riunioni del consiglio
Fino ad ora, il consiglio ha tenuto una sola riunione, in cui si è discusso il concetto di benessere e delle potenzialità di ChatGPT come supporto per gli utenti.
Alcuni membri hanno espresso entusiasmo per le opportunità offerte da questo strumento, mentre altri si mostrano più scettici. Questa pluralità di opinioni è cruciale, ma la mancanza di competenza specifica in prevenzione del suicidio continua a pesare sulla credibilità del consiglio.
Il delicato equilibrio tra privacy e sicurezza
Recentemente, OpenAI ha aggiornato i controlli parentali per informare i genitori quando c’è il rischio che un adolescente possa essere in difficoltà. Tuttavia, la pagina di supporto sottolinea che i genitori non saranno sempre avvisati se il giovane esprime pensieri autolesionistici o suicidi. Questa scelta rappresenta un compromesso complesso: se da un lato è fondamentale che i genitori siano consapevoli dei pericoli, dall’altro, la paura di essere segnalati potrebbe impedire agli adolescenti di cercare aiuto.
Il ruolo degli esperti nella gestione delle crisi
La mancanza di esperti di prevenzione del suicidio nel consiglio solleva interrogativi su chi sia in grado di stabilire il giusto equilibrio tra la protezione dei minori e la loro privacy. Chi valuta l’efficacia delle notifiche e il loro impatto sulla salute mentale degli adolescenti? È essenziale che le decisioni siano guidate da esperti che comprendono le complessità del suicidio e della salute mentale per evitare di aggravare la situazione.
