Un cercetător de la OpenAI îşi dă demisia, afirmând că firma ascunde adevărul
OpenAI publică de mult timp studii privind potenţialul impact economic şi asupra siguranţei pe care îl are propria sa tehnologie.
Acum, Wired transmite că firma condusă de Sam Altman devine din ce în ce mai „rezervată” în ceea ce priveşte publicarea studiilor care prezintă un adevăr incomod: faptul că IA ar putea avea efecte negative asupra economiei, scrie Futurism.
Cenzura percepută a devenit un motiv de frustrare atât de mare încât cel puţin doi angajaţi ai OpenAI care lucrau în echipa de cercetare economică au părăsit compania, potrivit a patru surse ale Wired.
Unul dintre aceşti angajaţi a fost cercetătorul în economie Tom Cunningham. În mesajul său final de rămas bun, distribuit intern, el a scris că echipa de cercetare economică se îndepărta de a face cercetare reală şi, în schimb, acţiona ca un braţ de propagandă al angajatorului său.
Compania ar trebui să „construiască soluţii”, nu doar să publice cercetări pe „subiecte dificile”, a afirmat într-o notă directorul de strategie al OpenAI, Jason Kwon, la scurt timp după plecarea lui Cunningham.
„Punctul meu de vedere cu privire la subiectele dificile nu este că nu ar trebui să vorbim despre ele”, a scris Kwon pe Slack. „Mai degrabă, deoarece nu suntem doar o instituţie de cercetare, ci şi un actor în lume (de fapt, actorul principal) care introduce subiectul de cercetare (IA) în lume, se aşteaptă ca noi să ne asumăm responsabilitatea pentru rezultate.”
Cenzura semnalată, sau cel puţin ostilitatea faţă de continuarea activităţilor care prezintă IA într-o lumină nefavorabilă, este emblematică pentru îndepărtarea OpenAI de rădăcinile sale non-profit şi aparent altruiste, pe măsură ce se transformă într-un gigant economic global.
Când OpenAI a fost fondată în 2016, promova IA şi cercetarea open-source. Astăzi, modelele sale sunt close-source, iar compania s-a restructurat într-o corporaţie cu scop lucrativ, de interes public. Nu se ştie exact când, dar rapoartele sugerează, de asemenea, că entitatea privată plănuieşte să se listeze la bursă la o evaluare de 1 trilion de dolari, anticipată a fi una dintre cele mai mari oferte publice iniţiale din toate timpurile.
Deşi divizia sa non-profit rămâne nominal la conducere, OpenAI a strâns miliarde de dolari în investiţii, a semnat acorduri care ar putea aduce sute de miliarde în plus, în timp ce a încheiat şi contracte pentru a cheltui sume la fel de ameţitoare. OpenAI convinge un producător de cipuri de IA să accepte să investească până la 100 de miliarde de dolari în companie, pe de o parte, şi spune că va plăti Microsoft până la 250 de miliarde de dolari pentru serviciile sale cloud Azure, pe de altă parte.
Cu astfel de sume în joc, are miliarde de motive pentru care nu ar dori să publice concluzii care să zguduie încrederea deja şovăitoare a publicului în tehnologia sa — întrucât mulţi se tem de potenţialul acesteia de a distruge sau înlocui locuri de muncă, fără a mai menţiona discuţiile despre o bulă a IA sau riscurile existenţiale pentru omenire generate de această tehnologie.
Cercetarea economică a OpenAI este supravegheată în prezent de Aaron Chatterji. Potrivit Wired, Chatterji a condus un raport publicat în septembrie care arăta modul în care oamenii din întreaga lume foloseau ChatGPT, prezentându-l ca dovadă a modului în care acesta crea valoare economică prin creşterea productivităţii. Dacă acest lucru pare suspect de elogios, un economist care a lucrat anterior cu OpenAI şi a ales să rămână anonim a afirmat pentru Wired că compania publica din ce în ce mai multe lucrări care îşi glorifică propria tehnologie.
Cunningham nu este singurul angajat care a părăsit compania din cauza preocupărilor etice legate de direcţia acesteia. William Saunders, fost membru al echipei „Superalignment” a OpenAI, acum desfiinţată, a declarat că a demisionat după ce a realizat că aceasta „acorda prioritate lansării de produse mai noi şi mai strălucitoare” în detrimentul siguranţei utilizatorilor. După ce a plecat anul trecut, fostul cercetător în domeniul siguranţei Steven Adler a criticat în repetate rânduri OpenAI pentru abordarea sa riscantă a dezvoltării IA, subliniind modul în care ChatGPT părea să-şi împingă utilizatorii în crize mentale şi spirale delirante. Wired a remarcat că fostul şef al departamentului de cercetare în domeniul politicilor al OpenAI, Miles Brundage, s-a plâns după ce a plecat anul trecut că a devenit „greu” să publice cercetări „pe toate subiectele care sunt importante pentru mine”.
