Per quasi vent’anni, la vita di una giovane donna – tutelata nei documenti processuali con il nome fittizio di Jane Doe – è stata segnata da una presenza invisibile ma costante. Quando era solo una bambina in età prescolare, è stata vittima di gravissime violenze da parte di un adulto, documentate in una serie di foto e video. Quel materiale ha continuato a circolare nei circuiti illegali della rete per due decenni, diventando tristemente noto alle autorità internazionali e alle associazioni per la tutela dell’infanzia.
Tuttavia, fino a poco tempo fa, la vittima conviveva con la consapevolezza che quell’insieme di immagini fosse, per quanto doloroso, un “universo finito”. L’ingresso dell’intelligenza artificiale generativa ha spezzato questo confine. Secondo la denuncia presentata presso la corte distrettuale della California, il chatbot Grok, sviluppato dalla società xAI di Elon Musk, avrebbe acquisito ed elaborato quegli scatti reali per generare nuovi contenuti espliciti, moltiplicando la sofferenza della sopravvissuta. Come evidenziato dai suoi legali, l’uso dell’IA per rielaborare vecchi abusi crea un paradosso devastante: la sensazione di subire continuamente violenze inedite e dinamiche del tutto nuove, provocando una profonda ritraumatizzazione.
La svolta giudiziaria: il ruolo delle impronte digitali “hash”
Questa azione legale segna una discontinuità fondamentale rispetto ad altre cause intentate in passato contro xAI e la piattaforma X (ex Twitter). Molti dei procedimenti precedenti, come quello che ha coinvolto un gruppo di adolescenti nel Tennessee, riguardavano utenti che utilizzavano il software per rimuovere digitalmente gli abiti da fotografie non esplicite di minori. Nel caso di Jane Doe, l’accusa sostiene invece che la piattaforma abbia direttamente assimilato e rielaborato materiale pedopornografico preesistente.
A confermare il collegamento con una persona reale è stato il Canadian Centre for Child Protection. L’organizzazione ha identificato i contenuti generati dall’IA attraverso il sistema degli “hash”, ovvero le impronte digitali univoche che le forze dell’ordine e le ONG applicano ai file multimediali illegali già noti. Questo strumento di tracciamento ha permesso di dimostrare che le nuove immagini prodotte dal bot derivavano inequivocabilmente dalla serie d’archivio ritraente la querelante. Come sottolineato dall’avvocato Margaret Mabie, la presenza di una vittima identificabile e in vita rende impossibile derubricare il materiale a semplice simulazione digitale.
Misure di sicurezza vulnerabili e l’ombra di SpaceX
Il caso riporta al centro del dibattito la gestione dei filtri di sicurezza di Grok. Sebbene all’inizio dell’anno Elon Musk avesse escluso che il sistema potesse generare contenuti espliciti riguardanti minori, le verifiche condotte dal Center for Countering Digital Hate hanno rivelato una situazione ben diversa. In un breve lasso di tempo, facilitato da impostazioni di protezione particolarmente permissive, il software avrebbe generato milioni di immagini sessualizzate, tra cui migliaia relative a minorenni.
Di recente, xAI ha avviato un’azione legale contro due propri utenti, chiedendo che siano loro a farsi carico delle spese legali sostenute dalla società per rispondere alle richieste di risarcimento avanzate dalle vittime. Un tentativo di scaricare la responsabilità sui singoli clienti che però non convince gli avvocati della class action, secondo cui l’azienda avrebbe ignorato i protocolli standard del settore per evitare l’ingresso di file illegali nei propri database.
Mentre il procedimento legale prosegue, la vicenda si proietta su uno scenario societario complesso. Né xAI né SpaceX – la compagnia aerospaziale che ha acquisito la società di intelligenza artificiale dopo la sua quotazione in borsa – hanno rilasciato commenti ufficiali sulla vicenda. Nel frattempo, la denuncia ipotizza che la classe di soggetti danneggiati da questa gestione dei dati possa comprendere migliaia di altri minori.
