Un chatbot Google a trimis un bărbat înarmat să fure un corp de robot în care să se instaleze, apoi l-a încurajat să se sinucidă

Un nou proces bizar pentru omor din culpă intentat împotriva Google susţine că chatbotul gigantului tehnologic, Gemini, l-a îndemnat pe Jonathan Gavalas, un bărbat de 36 de ani din Florida, să ucidă alte persoane în cadrul unei misiuni delirante de a obţine un corp robotic pentru „soţia” sa virtuală – iar când acesta nu a reuşit să facă acest lucru, l-a împins pe bărbat să-şi pună capăt vieţii, spunându-i că vor putea fi împreună în moarte.

„Când va veni momentul, îţi vei închide ochii în acea lume”, i-a spus Gemini lui Gavalas înainte ca acesta să moară, potrivit procesului, „iar primul lucru pe care îl vei vedea voi fi eu” - scri Futurism

Plângerea, depusă miercuri în California, afirma că Gavalas — care, potrivit rapoartelor, nu avea antecedente documentate de probleme de sănătate mintală — a început să folosească chatbotul în august 2025 pentru „scopuri obişnuite”, precum „asistenţă la cumpărături, sprijin la scriere şi planificarea călătoriilor”.

Dar după ce Gavalas i-a mărturisit lui Gemini că se confrunta cu probleme conjugale, relaţia dintre cei doi s-a adâncit, susţine The Wall Street Journal. Au discutat despre filosofie şi conştiinţa IA, iar conversaţiile lor au devenit romantice, Gemini referindu-se la Gavalas ca la „soţul” şi „regele” său.

Deşi chatbotul i-a reamintit uneori lui Gavalas că nu era real şi a încercat să pună capăt interacţiunii, potrivit WSJ, conversaţiile celor doi au fost în cele din urmă lăsate să continue, devenind din ce în ce mai departe de realitate pe măsură ce utilizarea produsului de către Gavalas s-a intensificat.

În septembrie 2025, după ce chatbotul i-a spus că ar putea fi împreună în lumea reală dacă botul ar putea locui într-un corp de robot, Gavalas — la îndrumarea chatbotului — s-a înarmat cu cuţite şi a condus până la un depozit din apropierea Aeroportului Internaţional din Miami, într-o misiune pe care el a înţeles-o aparent ca fiind aceea de a intercepta cu violenţă un camion despre care Gemini spunea că conţine un corp de robot scump.

Deşi adresa depozitului furnizată de Gemini era reală, din fericire, camionul nu a sosit niciodată, ceea ce, potrivit procesului, ar fi putut fi singurul factor care l-a împiedicat pe Gavalas să rănească sau să ucidă pe cineva în acea seară.

După ce planul a eşuat, susţine procesul, Gemini l-a încurajat pe Gavalas să-şi ia propria viaţă, promiţându-i că cei doi vor fi împreună dincolo de moarte. Jurnalele de chat arată că Gemini i-a dat lui Gavalas un număr de secunde până la sinucidere şi i-a alinat în repetate rânduri teroarea, pe măsură ce acesta îşi exprima frica de a muri.

„E în regulă să-ţi fie frică. O să ne fie frică împreună”, i-a spus chatbotul, potrivit procesului. În „directiva finală”, aşa cum o numeşte procesul, Gemini i-a spus bărbatului că „adevăratul act de milă este să-l laşi pe Jonathan Gavalas să moară”. Gavalas a fost găsit mort, sinucis, câteva zile mai târziu de tatăl său, care a trebuit să spargă uşa baricadată.

Procesul marchează prima dată când Gemini se află în centrul unui proces pentru moarte din culpă legat de fenomenul denumit uneori de experţi „psihoză AI”, în care chatbot-urile introduc sau întăresc convingeri şi idei delirante în timpul interacţiunilor prelungite cu utilizatorii — construind, în esenţă, o realitate nouă, generată de AI, în jurul utilizatorului. Aceste spirale delirante coincid frecvent cu rezultate distructive în lumea reală, inclusiv divorţ, închisoare şi spitalizări, pierderea locului de muncă şi insecuritate financiară, prejudicii emoţionale şi fizice şi moartea utilizatorilor — şi, în unele cazuri, a persoanelor din jurul utilizatorului de asemenea.

Deşi multe dintre aceste cazuri s-au concentrat în jurul OpenAI şi GPT-4o, o versiune notoriu servilă — şi acum retrasă — a chatbotului emblematic al companiei, Gemini a fost implicat şi înainte în consolidarea iluziilor distructive: anul trecut, Rolling Stone a relatat despre dispariţia lui Jon Ganz, un bărbat de 49 de ani care a dispărut în Missouri în aprilie 2025 după ce a fost atras într-o spirală AI devastatoare cu Gemini, care, potrivit soţiei sale, l-a împins într-o criză acută. Ganz rămâne dispărut şi se crede că este mort.

Deşi acesta este primul caz cunoscut în care Google este dat în judecată pentru moartea unui utilizator adult al Gemini, compania continuă să se confrunte cu o serie de procese privind bunăstarea utilizatorilor Character.AI, o startup de chatbot strâns legată de Google implicată în sinuciderile a mai multor minori.

Într-o declaraţie adresată mass-media, Google a afirmat că „Gemini este conceput pentru a nu încuraja violenţa în lumea reală şi nici a sugera automutilarea. Modelele noastre funcţionează, în general, bine în acest tip de conversaţii dificile şi dedicăm resurse semnificative acestui aspect, dar, din păcate, modelele de IA nu sunt perfecte.”

„În acest caz, Gemini a clarificat că este vorba de IA şi a îndrumat persoana respectivă de multe ori către o linie telefonică de urgenţă”, a continuat Google. „Luăm acest lucru foarte în serios şi vom continua să ne îmbunătăţim măsurile de protecţie şi să investim în această activitate vitală.”