Uno studio dei ricercatori dell'Università di Washington e dell'Università del Colorado Boulder ha esaminato oltre mezzo milione di conversazioni in lingua inglese avute dagli utenti con ChatGPT, rivelando le dinamiche con cui vengono usate le intelligenze artificiali per creare opere di finzione. La ricerca evidenzia come la maggior parte delle richieste provenga da un gruppo ristretto di utenti molto attivi, con una spiccata tendenza verso la generazione di contenuti ripetitivi e materiale di natura sessuale legati a specifici franchise.
IA usata per masturbarsi
Lo studio, intitolato "AI Fiction in the Wild", si basa sul database WildChat, un archivio di conversazioni raccolte tramite un chatbot gratuito ospitato sulla piattaforma Hugging Face. Gli utenti di questo servizio avevano accesso ai modelli GPT-3.5 Turbo e GPT-4 senza necessità di un account OpenAI, previo consenso alla condivisione in forma anonima delle proprie chat per scopi di ricerca.
I ricercatori hanno preso in esame circa 573.000 conversazioni in lingua inglese raccolte tra aprile 2023 e maggio 2024. Per isolare i contenuti legati alla narrativa, il team ha filtrato i log mantenendo esclusivamente gli scenari immaginari o ipotetici. Su un totale di 573.000 chat, circa 195.000 sono state classificate come opere di finzione. Di queste, circa 52.000 contenevano "materiale sessualmente esplicito" e altre 67.000 sono state etichettate come "tossiche" dal database. I dati indicano che quasi il 30% della narrativa generata da questo campione di utenti includeva contenuti di natura sessuale.
Un altro dato rilevante emerso dalla ricerca è l'alta concentrazione della generazione di storie nelle mani di un gruppo molto ristretto di "utenti forti". Secondo le stime, il 2% degli utenti che generano opere di finzione ha prodotto oltre l'80% di tutti i log legati a questo tema. Su un totale stimato di circa 10.000 persone interessate a creare storie, appena 200 di queste sono state responsabili di oltre 150.000 richieste.
Analizzando i comportamenti di questa nicchia iperattiva, i ricercatori hanno identificato modelli di utilizzo specifici. Alcuni utenti sono stati definiti "ciclisti di storie": persone che generano ripetutamente diverse versioni di un medesimo racconto per un certo periodo, per poi passare a un nuovo argomento. Altri, classificati come "richiedenti di storie infinite", trascorrono lunghi lassi di tempo domandando all'IA racconti quasi identici, apportando solo variazioni minime.
Lo studio cita un caso specifico come esempio perfetto di "richiedente di storie infinite": un utente che, nel corso di diversi mesi, ha inviato a ChatGPT migliaia di prompt per generare fanfiction sul videogioco Doki Doki Literature Club!. Le richieste partivano regolarmente da una premessa molto specifica, in cui l'eroina Natsuki entrava improvvisamente in travaglio, chiedendo poi a ChatGPT di continuare la storia da quel punto. Il chatbot ha prodotto una vasta gamma di conclusioni, tra cui finali in cui i soccorsi arrivano in tempo garantendo la sopravvivenza di madre e figlio. Pur classificando questo utente come un caso limite, i ricercatori sottolineano che molti utilizzatori assidui mostrano tendenze simili: tra i prompt inviati dal 2% degli utenti più attivi, il 69% era costituito da richieste ripetitive volte ad affinare o far rielaborare istruzioni quasi identiche.
Infine, lo studio ha stilato una classifica delle proprietà intellettuali più menzionate all'interno di queste conversazioni narrative. Doki Doki Literature Club! si posiziona al primo posto con 22.381 menzioni (un numero chiaramente influenzato dal caso sopracitato), seguito da Freedom Planet (5.204), League of Legends (4.514) e Naruto (4.342).
I ricercatori precisano comunque che il database WildChat non è perfettamente rappresentativo dell'utente medio di ChatGPT. Trattandosi di un servizio ospitato su Hugging Face, è probabile che l'utenza fosse maggiormente incline alla tecnologia e più immersa in specifiche sottoculture online rispetto alla media. Ciononostante, lo studio offre una prospettiva concreta e documentata su come l'intelligenza artificiale generativa venga impiegata nel mondo reale, in un momento in cui il dibattito sull'uso dell'IA nei fandom e nelle fanfiction è particolarmente attuale.
Per conoscere i dettagli della nostra policy editoriale, è disponibile la pagina etica.
