Il Garante per la protezione dei dati personali ha concluso un'istruttoria nei confronti di Character Technologies Inc., società statunitense responsabile della piattaforma Character.AI, applicando una sanzione amministrativa pari a 158 mila euro. Il servizio consente agli utenti di creare e dialogare con personaggi virtuali generati dall'IA ed è accessibile anche a utenti minorenni.
L'indagine è stata avviata d'ufficio dall'Autorità, che nel corso degli accertamenti ha individuato diverse irregolarità relative alla normativa sulla protezione dei dati personali.
Tra gli aspetti contestati figurano carenze nelle informazioni fornite agli utenti riguardo al trattamento dei dati, oltre alla predisposizione tardiva della Valutazione d'Impatto sulla Protezione dei Dati (DPIA) e alla nomina non tempestiva del rappresentante dell'azienda nell'Unione Europea.
Il Garante della Privacy imputa a Character.AI delle mancanze nei confronti della tutela dei minori
Particolare attenzione è stata dedicata anche alle misure previste per la tutela degli utenti più giovani. Secondo il Garante, sono emerse criticità nei sistemi utilizzati per verificare l'età degli iscritti e nelle garanzie offerte ai minorenni che accedono al servizio.
L'Autorità ha evidenziato come l'impiego dell'intelligenza artificiale generativa all'interno di una piattaforma di intrattenimento accessibile anche ai minori richieda specifiche precauzioni. Pur riconoscendo che durante l'istruttoria la società abbia già introdotto alcuni interventi correttivi, il Garante ha ritenuto necessario imporre ulteriori obblighi.
Le misure richieste dal Garante della Privacy a Character.AI
Tra le misure richieste rientra il miglioramento del funzionamento dei sistemi di verifica dell'età degli utenti, così da garantire un controllo più efficace al momento della registrazione. Inoltre, Character Technologies dovrà assicurare il corretto funzionamento del cosiddetto "periodo di raffreddamento", il meccanismo pensato per impedire ai minorenni bloccati di tentare immediatamente una nuova registrazione.
L'Autorità ha inoltre disposto che gli account appartenenti agli utenti minorenni vengano configurati automaticamente con impostazioni di privacy più restrittive, prevedendo la modalità privata come configurazione predefinita. Character Technologies dovrà comunicare al Garante le azioni adottate per conformarsi al provvedimento entro 120 giorni dalla ricezione della decisione.
