"Toată lumea va muri". Cercetător în domeniul inteligenţei artificiale afirmă că ar trebui să renunţăm cu totul la dezvoltarea AI

Un cercetător în domeniul inteligenţei artificiale, care a avertizat asupra pericolelor tehnologiei încă de la începutul anilor 2000, a declarat, într-un editorial alarmant publicat de revista Time, că ar trebui să "închidem totul".

Eliezer Yudkowsky, cercetător şi autor care lucrează la Inteligenţa Generală Artificială (Artificial General Intelligence, AGI) din 2001, a scris articolul ca răspuns la o scrisoare deschisă din partea mai multor nume mari din lumea tehnologiei, în care aceştia au cerut un moratoriu asupra dezvoltării inteligenţei artificiale (AI) timp de şase luni, relatează Business Insider.

Scrisoarea, semnată de 1.125 de persoane, printre care Elon Musk şi cofondatorul Apple, Steve Wozniak, a solicitat o pauză în ceea ce priveşte antrenarea unor tehnologii de inteligenţă artificială mai puternice decât GPT-4, lansat recent de OpenAI.

Articolul lui Yudkowsky, intitulat "Pauza dezvoltării AI nu este suficientă. Trebuie să închidem totul", a susţinut că cercetătorul s-a abţinut să semneze scrisoarea deoarece aceasta subestimează "gravitatea situaţiei" şi cere "prea puţin pentru a o rezolva".

El a scris: "Mulţi cercetători implicaţi în aceste probleme, inclusiv eu însumi, se aşteaptă ca cel mai probabil rezultat al construirii unei inteligenţe artificiale supraumane, în circumstanţe care seamănă cât de cât cu cele actuale, să fie că literalmente toată lumea de pe Pământ va muri".

El a explicat că Inteligenţei artificiale "nu îi pasă de noi şi nici de viaţă în general", iar în prezent suntem departe de a insufla aceste tipuri de principii în tehnologie.

În schimb, Yudkowsky a sugerat o interdicţie "pe termen nelimitat şi la nivel mondial", fără excepţii pentru guverne sau armate.

"Dacă serviciile de informaţii spun că o ţară din afara acordului construieşte un cluster GPU, fiţi mai puţin speriaţi de un conflict armat între naţiuni decât de încălcarea moratoriului. Fiţi dispuşi să distrugeţi un centru de date necinstit printr-o lovitură aeriană", a spus Yudkowsky.

Yudkowsky lansează de mai mulţi ani avertismente bombastice cu privire la posibilele consecinţe catastrofale ale inteligenţei artificiale.

La începutul lunii martie a fost descris de Bloomberg ca fiind un "AI Doomer", iar Ellen Huet, autoarea articolului, a menţionat că acesta avertizează de mult timp cu privire la posibilitatea unei "apocalipse a inteligenţei artificiale".

Cofondatorul şi directorul general al OpenAI, Sam Altman, a scris chiar pe Twitter că Yudkowsky "a făcut mai mult pentru a accelera AGI decât oricine altcineva" şi că merită "premiul Nobel pentru pace" pentru munca sa.

Huet a mai susţinut că avertismentele cercetătorului cu privire la tehnologia AI nu au făcut decât să accelereze dezvoltarea acesteia.

De când OpenAI şi-a lansat chatbotul ChatGPT în noiembrie şi acesta a devenit aplicaţia de consum cu cea mai rapidă creştere din istoria internetului, Google, Microsoft şi alţi giganţi din domeniul tehnologiei au concurat pentru a-şi lansa propriile produse de inteligenţă artificială.

Henry Ajder, expert în inteligenţă artificială şi prezentator care face parte din Consiliul consultativ european pentru Meta's Reality Labs, a declarat anterior pentru Insider că firmele de tehnologie sunt blocate într-un "mediu competitiv de cursă a înarmării", în efortul de a fi văzute ca fiind "primele care avansează", ceea ce ar putea duce la trecerea cu vederea a preocupărilor legate de etică şi siguranţă în inteligenţă artificială.

Chiar şi Altman a recunoscut temerile cu privire la AI, spunând într-un podcast săptămâna trecută că "ar fi o nebunie să nu ne fie puţin frică şi empatizez cu oamenii care se tem foarte mult".

Cu toate acestea, el a adăugat că OpenAI ia măsuri pentru a rezolva problemele legate de tehnologia sa, spunând: "Vom minimiza lucrurile rele şi vom maximiza lucrurile bune".

Menţionăm că OpenAI a dezactivat ChatGPT în Italia, după ce autoritatea guvernamentală pentru protecţia datelor din această ţară a interzis temporar vineri chatbotul şi a lansat o anchetă privind presupusa încălcare a normelor de confidenţialitate de către aplicaţia de inteligenţă artificială.

Agenţia, cunoscută şi sub numele de Garante, a acuzat OpenAI, susţinută de Microsoft, că nu a verificat vârsta utilizatorilor ChatGPT, care ar trebui să aibă cel puţin 13 ani.

ChatGPT are o "absenţă a oricărui temei juridic care să justifice colectarea şi stocarea masivă de date cu caracter personal" pentru a "antrena" chatbotul, a declarat Garante. OpenAI are la dispoziţie 20 de zile pentru a răspunde cu remedii sau ar putea risca o amendă de până la 20 de milioane de euro sau 4% din cifra sa de afaceri anuală la nivel mondial.

În acest context, reamintim că un tânăr belgian s-a sinucis recent după ce a vorbit intens, timp de şase săptămâni, cu un chatbot AI numit ELIZA, cazul declanşând apeluri pentru o mai bună protecţie a cetăţenilor şi la necesitatea de a creşte gradul de conştientizare.