Un caso che solleva interrogativi etici e legali senza precedenti nel mondo dell'intelligenza artificiale: OpenAI, la creatrice di ChatGPT, si trova al centro di una causa legale intentata da una donna che sostiene di essere stata vittima di stalking e molestie da parte del suo ex-compagno. Secondo quanto emerge dalla denuncia, l'uomo avrebbe utilizzato ChatGPT per alimentare i propri deliri persecutori, e l'azienda non avrebbe agito tempestivamente nonostante ripetuti avvertimenti, inclusi segnali di allarme interni del sistema stesso.
La vittima afferma di aver segnalato a OpenAI in ben tre occasioni il comportamento pericoloso dell'ex partner e l'uso che stava facendo dello strumento di intelligenza artificiale. Nonostante questi appelli, che avrebbero dovuto far scattare protocolli di sicurezza – persino un "mass-casualty flag" interno, secondo quanto riportato –, l'azienda non avrebbe preso provvedimenti significativi. Questo presunto lassismo avrebbe permesso all'aggressore di continuare nella sua condotta, aggravando la situazione per la donna.
La causa legale punta il dito contro la responsabilità di OpenAI nel non aver implementato adeguatamente i propri meccanismi di controllo e sicurezza, permettendo che una tecnologia potente come ChatGPT potesse essere strumentalizzata per scopi dannosi. Il caso apre un dibattito cruciale sull'uso etico dell'AI e sulla necessità di definire chiare linee di responsabilità per le aziende che sviluppano e distribuiscono questi strumenti, soprattutto quando il loro impiego può avere conseguenze dirette e gravi sulla vita delle persone.