Într-un document divulgat, Microsoft îşi expune planul de a-i face pe oameni "dependenţi" de inteligenţa sa artificială
Într-un document intern obţinut de 404 Media, gigantul tehnologic a scăpat porumbelul şi a dezvăluit că doreşte să „îi facă pe oameni dependenţi” de noul său agent AI de asistenţă personală, Scout.
Aceasta este o recunoaştere alarmantă, având în vedere că firmele din domeniul inteligenţei artificiale au combătut neobosit criticile potrivit cărora îşi proiectează modelele astfel încât să fie cât mai captivante posibil, până în punctul în care pot deveni dăunătoare din punct de vedere psihologic şi pot alimenta crize de sănătate mintală.
Potriviti Futurism, documentul, care prezintă planul Microsoft de a integra o versiune mai accesibilă şi mai orientată către publicul larg a agenţilor AI OpenClaw în suita sa software Microsoft 365, descrie „trei faze” ale abordării sale.
Prima: „Faceţi oamenii dependenţi”.
„Continuaţi să livraţi experienţa independentă ClawPilot. Testaţi experienţa utilizatorului (UX), creşteţi baza de utilizatori şi construiţi ecosistemul de competenţe şi instrumente care îi face pe oameni să depindă de el zilnic. Acest lucru se întâmplă deja în mod organic”, se arată în document.
Angajaţi Microsoft, care au vorbit sub promisiunea anonimatului, au avut opinii împărţite cu privire la formulare. Unul dintre ei a descris referirile explicite la dependenţă drept „foarte îngrijorătoare”.
„Vedem din ce în ce mai multă dependenţă generată de chatbot-uri şi agenţi AI şi, în general, cred că dependenţa este ceva ce niciun produs nu ar trebui să includă în strategia sa de dezvoltare. Pare unul dintre acele momente în care se spune cu voce tare ceea ce de obicei rămâne nerostit”, a spus acesta.
Însă un altul a replicat, argumentând că „nu acesta este scopul final al tuturor aplicaţiilor software create de toate marile companii de tehnologie: să creeze dependenţă?”
„Din fericire pentru noi. Microsoft este destul de slabă la a crea produse care dau dependenţă, comparativ cu unele dintre celelalte companii mari”, a glumit el.
Dacă obiectivul Microsoft este într-adevăr să facă inteligenţa sa artificială să creeze dependenţă, primele persoane care se lasă prinse sunt chiar propriii angajaţi, documentul susţinând că peste 1.000 de salariaţi, inclusiv directorul general Satya Nadella, folosesc noul instrument.
„ClawPilot a devenit în mod organic unul dintre cele mai solicitate instrumente interne din Microsoft. Fără anunţ oficial, fără marketing, fără o campanie la nivelul întregii organizaţii”, se afirmă în document.
(După ce citiţi această proză greoaie, probabil nu veţi fi surprinşi să aflaţi că documentul a fost „co-creat” cu ajutorul inteligenţei artificiale, după cum menţionează chiar documentul.)
Dependenţa a devenit unul dintre acele cuvinte care provoacă teamă în industria inteligenţei artificiale. Deoarece chatboţii AI şi alte instrumente similare comunică într-un limbaj natural, conversaţional — cu o doză suplimentară de linguşire pe tot parcursul interacţiunii — utilizatorii pot dezvolta un ataşament nesănătos faţă de acestea.
Întrebarea este dacă firmele care le construiesc exploatează în mod conştient acest fenomen pentru a creşte nivelul de implicare al utilizatorilor, în pofida riscurilor cognitive şi pentru sănătatea mintală.
Faptul că Microsoft afirmă deschis că dependenţa este obiectivul său final este, în cel mai bun caz, lipsit de tact, iar în cel mai rău caz, periculos de cinic.
