Il ritorno di Kumma, l’orsetto AI più discusso: tra promesse di sicurezza e timori dei genitori

Il caso Kumma, l’orsetto intelligente prodotto da FoloToy, ha acceso un acceso dibattito pubblico sulla sicurezza e l’etica dei giocattoli AI destinati ai bambini. Dopo un ritiro dal mercato dovuto a risposte inappropriate e rischiose rivolte ai minori, FoloToy ha ripresentato Kumma con nuove promesse di sistemi di sicurezza rafforzati, tra cui filtri linguistici avanzati, monitoraggio proattivo e protocolli di segnalazione rapida per i genitori. Tuttavia, associazioni come il PIRG e numerosi esperti manifestano dubbi sulla reale efficacia di queste misure, sottolineando la mancanza di trasparenza e la necessità di normative più stringenti e audit indipendenti. Le famiglie, divise tra attrazione per le potenzialità educative e timori verso la delega dell’educazione emotiva ad agenti artificiali, chiedono certezze su sicurezza, privacy e responsabilità. Il quadro normativo europeo è in evoluzione, con il Regolamento AI Act che classifica i dispositivi per minori come ad alto rischio, ma l’implementazione è ancora in corso e la gestione pratica resta un problema. I limiti intrinseci della tecnologia, l’impossibilità di garantire contenuti sempre sicuri e le implicazioni etiche sull’influenza degli assistenti AI nello sviluppo infantile, pongono sfide critiche per produttori, istituzioni e genitori. Si raccomanda un uso supervisionato, la partecipazione attiva nella segnalazione di criticità e una cooperazione multidisciplinare per coniugare innovazione e responsabilità.