L'autorità britannica indaga su X per la diffusione di deepfake sessuali: implicazioni e sfide per la sicurezza digitale
L'innovazione nell'intelligenza artificiale ha portato a un preoccupante aumento dei deepfake sessuali, immagini manipolate digitalmente che inseriscono volti o corpi senza consenso in scene intime. Nel Regno Unito, l'Ofcom ha avviato un'indagine formale sulla piattaforma X (ex Twitter) e il suo chatbot IA Grok, accusati di diffondere tali contenuti. Questo fenomeno pone gravi rischi alla privacy e alla dignità personale, segnando una nuova frontiera per la sicurezza digitale e la regolamentazione online, in cui l'Ofcom assume un ruolo centrale.
L'Office of Communications del Regno Unito è responsabile della tutela degli utenti e della regolamentazione digitale. La recente indagine su X e i deepfake sessuali evidenzia la necessità di aumentare la responsabilità delle piattaforme nella rimozione tempestiva di contenuti illegali. Il quadro normativo chiave è rappresentato dall'Online Safety Act, che impone obblighi stringenti per prevenire la diffusione di immagini sessuali generate da IA senza consenso. Questa legislazione prevede sanzioni pecuniarie e restrizioni operative in caso di inadempienza, rappresentando un banco di prova essenziale per contrastare gli abusi digitali.
La piattaforma X, con il chatbot Grok lanciato nel 2025, ha visto una diffusione preoccupante di deepfake sessuali, suscitando critiche per la mancata adozione di controlli efficaci. Il governo britannico, guidato da Keir Starmer, ha condannato fermamente questi abusi, puntando a rafforzare la normativa e a collaborare a livello internazionale. Le implicazioni legali includono sanzioni fino alla sospensione delle attività di X in UK. Oltre ai rischi personali e sociali, la vicenda solleva sfide tecnologiche complesse nel rilevamento di contenuti manipolati. Guardando avanti, la prevenzione richiede miglioramenti tecnici, formazione, cooperazione globale e una responsabilità condivisa tra piattaforme e istituzioni per garantire un ambiente digitale sicuro e rispettoso.