Allarme: Crescita Esponenziale di CSAM Generato da IA nel 2025
Nel 2025 si è registrata una crescita spettacolare dei contenuti di abuso su minori generati da intelligenza artificiale (CSAM), fenomeno che ha messo in crisi i tradizionali sistemi di controllo e difesa contro tali abusi. L'inchiesta del New York Times ha portato alla luce un aumento delle segnalazioni di tali contenuti di decine di volte in pochi mesi, sensibilizzando l'opinione pubblica e sollecitando interventi urgenti da parte di governi e industria tecnologica. I dati forniti dall'IWF, NCMEC, Amazon e OpenAI mostrano numeri allarmanti: migliaia di video e centinaia di migliaia di segnalazioni e rimozioni di contenuti nel primo semestre del 2025, rispetto a cifre molto più basse nel 2024, evidenziando la veloce e massiccia espansione del fenomeno.
Il CSAM generato da intelligenza artificiale consiste in immagini, video e contenuti digitali di abusi sessuali su minori creati artificialmente tramite software di IA, senza vittime reali ma con effetti sociali molto dannosi quali la normalizzazione dell'abuso e l'aumento del rischio di sfruttamento e ricatto. La produzione di tali contenuti è diventata accessibile anche a utenti senza competenze tecniche, grazie a strumenti potenti come le reti antagoniste generative (GAN) e il deep learning, che producono immagini realistiche quasi indistinguibili dal materiale reale. Questa facilità d'accesso ha abbassato la soglia d'ingresso per i criminali, complicando la rilevazione e la rimozione dei contenuti nonché l'individuazione dei responsabili.
Le piattaforme tecnologiche come Amazon e OpenAI hanno affrontato il problema rimuovendo centinaia di migliaia di contenuti, ma i sistemi tradizionali di rilevamento si dimostrano insufficienti per identificare nuovi materiali generati dall'IA unici e inediti. Le sfide giuridiche includono l'aggiornamento delle leggi per includere i materiali generati artificialmente e la lotta contro le zone grigie che possono favorire l'impunità. Le istituzioni internazionali hanno iniziato collaborazioni rafforzate e promuovono programmi educativi e task force dedicate. La risposta efficace richiede un approccio multilivello che unisca innovazione normativa, sviluppo tecnologico di riconoscimento basato sulle firme dell'IA, e campagne di sensibilizzazione e educazione, ponendo al centro la protezione dell'infanzia nell'era digitale.