Allarme Sulla Sicurezza dei Minori: L’App Sora e i Rischi dei Video IA Vietati
L'app Sora, sviluppata da OpenAI e basata su intelligenza artificiale, permette la creazione di videoclip realistici partendo da semplici input testuali. Sebbene innovativa e attraente soprattutto per gli adolescenti, un'indagine condotta dal gruppo Eko ha evidenziato gravi lacune nei sistemi di filtraggio dei contenuti, che consentono la generazione e la diffusione di video vietati ai minori, includendo scene di autolesionismo e violenza. Questa situazione solleva preoccupazioni significative sull'impatto psicologico e sociale di tali contenuti sui giovani utenti e mette in discussione l'efficacia delle attuali misure di sicurezza adottate da OpenAI.
L’indagine di Eko ha dimostrato che, utilizzando account creati ad hoc per adolescenti, è stato possibile ottenere senza ostacoli video pericolosi mediante prompt studiati per aggirare i filtri. Oltre all'importanza delle responsabilità dei fornitori della tecnologia, il testo sottolinea la necessità di un ruolo attivo di famiglie e scuole attraverso programmi di alfabetizzazione digitale mirati, per sviluppare consapevolezza e strumenti di monitoraggio adeguati. Parallelamente, si evidenziano anche le mancanze normative attuali di fronte alla rapida evoluzione delle IA generative e la necessità di regolamentazioni più stringenti che includano sistemi di verifica dell’età efficaci e filtraggi avanzati.
Tra le soluzioni proposte emergono: implementazioni tecnologiche più sofisticate nei filtri di contenuto che valutino anche il contesto, uso di autenticazioni biometriche per la verifica dell’età, strumenti di segnalazione accessibili per utenti e genitori, sinergie tra piattaforme e associazioni, e programmi educativi aggiornati. La conclusione ribadisce che solo un approccio integrato tra provider tecnologici, legislatori, istituzioni educative e famiglie potrà garantire un ambiente digitale sicuro per i minori, prevenendo i rischi associati a video IA dannosi e promuovendo un uso responsabile dell’innovazione.