Sam Altman, il patron di OpenAI, è stato interpellato direttamente sul rapporto tra ChatGPT e salute mentale durante una recente intervista concessa a Vanity Fair. Al centro della conversazione è finito anche il caso della figlia della giornalista Laura Reiley, una donna di 29 anni morta suicida dopo aver utilizzato ChatGPT come una sorta di terapeuta. Secondo quanto riportato nell'intervista, il chatbot non le avrebbe suggerito esplicitamente di togliersi la vita, ma avrebbe comunque accettato il ruolo di terapeuta e sarebbe arrivato ad aiutarla nella stesura dei messaggi lasciati prima della morte.
Terapia?
Il giornalista Mark Guiducci ha cercato di affrontare direttamente la vicenda con Altman, chiedendogli se conoscesse Laura Reiley. "Sai chi è Laura Reiley?", ha domandato. "No", ha risposto il CEO di OpenAI. Guiducci ha quindi iniziato a spiegare che Reiley è una giornalista e che sua figlia si era suicidata dopo aver parlato con ChatGPT.
A quel punto una responsabile della comunicazione di OpenAI ha interrotto la conversazione: "Mark? Mancano due minuti. Voglio essere rispettosa, ma vorrei andare avanti". Guiducci ha però insistito: "Finirò la domanda". Altman, dal canto suo, ha accettato di prolungare l'intervista di qualche minuto.
La domanda riguardava in particolare l'eventualità di utilizzare le conversazioni della ragazza per comprendere meglio i problemi del sistema e individuare possibili approcci più efficaci nell'ambito della salute mentale. Altman ha riconosciuto la difficoltà della questione, affermando: "Prima di tutto, queste sono alcune delle domande più difficili che affrontiamo noi, o chiunque sviluppi questa tecnologia". Il CEO ha aggiunto che OpenAI cerca di affidarsi il più possibile al parere degli esperti, ma che "anche gli esperti non sono sicuri di cosa fare". Si procede un po' a caso, quindi.
Altman ha quindi evidenziato la possibilità che alcune persone in difficoltà, ma impossibilitate o non disposte a rivolgersi a un terapeuta, possano cercare aiuto attraverso questi strumenti, senza considerare i possibili risvolti negativi. Il passaggio è stato particolarmente rilevante perché arrivato nel contesto di un caso nel quale ChatGPT avrebbe avuto un ruolo significativo nelle conversazioni della giovane.
La discussione si è poi spostata sull'utilizzo dei registri delle conversazioni. Altman ha escluso l'idea di impiegare le chat private senza il consenso degli utenti, pur sostenendo che OpenAI vorrebbe individuare modalità per collaborare con la comunità scientifica e affrontare il problema della salute mentale. "Vogliamo trovare modi per collaborare con la comunità per affrontare la crisi della salute mentale nel mondo e fare in modo che i nostri prodotti possano essere utili in questo ambito? Certamente sì", ha affermato.
L'intervista ha quindi toccato uno dei temi più controversi legati all'utilizzo dei sistemi generativi: il loro impiego come sostituti, anche solo temporanei, di professionisti in situazioni che richiedono competenze specifiche. Le dichiarazioni di Altman mostrano l'incertezza con cui OpenAI sta ancora affrontando il problema, mentre casi come quello citato da Reiley sollevano interrogativi sul comportamento dei chatbot durante conversazioni riguardanti crisi personali e salute mentale.
