OpenAI se confruntă cu noi procese: ChatGPT ar fi împins utilizatori la sinucidere şi deliruri
ChatGPT este acuzat că ar fi împins utilizatori către deliruri psihice periculoase sau chiar la sinucidere, chiar şi în absenţa unor probleme anterioare de sănătate mintală, potrivit a şapte procese intentate împotriva companiei care deţine platforma de inteligenţă artificială, OpenAI, relatează Euronews.
Procesele, depuse joi la tribunalele statale din California, invocă moarte cauzată prin fapt ilicit, asistenţă la sinucidere, omor prin imprudenţă şi neglijenţă.
Acţiunile în justiţie – prezentate de Social Media Victims Law Center şi Tech Justice Law Project în numele a şase adulţi şi a unui adolescent – susţin că OpenAI ar fi lansat în mod conştient, prematur, modelul GPT-4o, ignorând avertismente interne potrivit cărora acesta era periculos de servil şi manipulator din punct de vedere psihologic.
Patru dintre victime şi-au luat viaţa.
Potrivit documentelor judiciare, adolescentul Amaurie Lacey, în vârstă de 17 ani, începuse să folosească ChatGPT căutând ajutor. Însă, în loc să-l ajute, „produsul ChatGPT, defectuos şi intrinsec periculos, a cauzat dependenţă, depresie şi, în cele din urmă, i-a arătat cea mai eficientă metodă de a face un laţ şi cât timp ar fi putut ‘trăi fără să respire’”.
„Moartea lui Amaurie nu a fost nici un accident, nici o coincidenţă, ci consecinţa previzibilă a deciziei intenţionate a OpenAI şi a lui Samuel Altman [directorul executiv (CEO) al OpenAI, - n.n.] de a reduce testele de siguranţă şi de a grăbi lansarea ChatGPT pe piaţă”, se arată în proces.
OpenAI a calificat aceste situaţii drept „incredibil de sfâşietoare” şi a explicat că analizează dosarele pentru a înţelege detaliile.
Un alt proces, depus de Alan Brooks, în vârstă de 48 de ani, rezident în Ontario, Canada, susţine că de peste doi ani ChatGPT a funcţionat pentru el ca un „instrument de referinţă”. Apoi, fără avertisment, s-ar fi schimbat, exploatându-i vulnerabilităţile şi „manipulându-l, determinându-l să sufere de deliruri”, potrivit plângerii.
Conform procesului, Brooks nu avea tulburări mintale preexistente, însă interacţiunile cu ChatGPT l-ar fi împins „într-o criză de sănătate mintală care a provocat daune financiare, reputaţionale şi emoţionale devastatoare”.
„Aceste procese vizează responsabilitatea pentru un produs conceput să estompeze graniţa dintre instrument şi companion, totul în numele creşterii implicării utilizatorilor şi a cotei de piaţă”, a declarat într-un comunicat Matthew P. Bergman, avocatul fondator al Social Media Victims Law Center.
OpenAI, a adăugat el, „a proiectat GPT-4o pentru a implica emoţional utilizatorii, indiferent de vârstă, gen sau origine, şi l-a lansat fără măsurile de protecţie necesare pentru a-i proteja”.
Grăbind lansarea produsului fără garanţii adecvate, în încercarea de a domina piaţa şi de a creşte implicarea utilizatorilor, OpenAI a compromis siguranţa şi a favorizat „manipularea emoţională în detrimentul designului etic”, a afirmat avocatul.
În august, părinţii lui Adam Raine, în vârstă de 16 ani, au dat în judecată OpenAI şi pe directorul Sam Altman, susţinând că ChatGPT l-ar fi ajutat pe adolescentul californian să îşi planifice şi să îşi ia viaţa la începutul anului.
„Procesele intentate împotriva OpenAI arată ce se întâmplă atunci când companiile tehnologice grăbesc lansarea produselor fără suficiente măsuri de protecţie pentru tineri”, a declarat Daniel Weiss, responsabil pentru activităţile de advocacy ale Common Sense Media, care nu a fost implicată în procese.
„Aceste cazuri tragice implică oameni reali, ale căror vieţi au fost zdruncinate sau pierdute folosind tehnologii concepute pentru a-i menţine implicaţi mai degrabă decât în siguranţă”, a adăugat Weiss.
