Ar putea inteligenţa artificială elimina omenirea? Cum comentează un fizician român semnalul de alarmă tras de doi laureaţi Nobel

Doi laureaţi Nobel pentru fizică, Geoffrey Hinton şi John Hopfield, trag un semnal de alarmă cutremurător: inteligenţa artificială ar putea deveni o ameninţare existenţială pentru omenire. Va reuşi omenirea să ţină pasul şi să impună limite înainte ca IA să preia controlul?

Cei doi au câştigat Nobelul pentru fizică şi spun, potrivit Digi24, că este posibil ca omenirea să se confrunte cu sisteme care vor prelua controlul. Prin urmare, cer ca acestea să fie înţelese mai bine.

Anul trecut, unul dintre ei a declarat că nu trebuie exclusă varianta potrivit căreia, la un moment dat, inteligenţa artificială ar putea elimina omenirea.

Geoffrey Hinton şi John Hopfield au fost recompensaţi pentru invenţiile lor care permit învăţarea automată, utilizată în dezvoltarea inteligenţei artificiale. Ei au dezvoltat tehnologii care folosesc structurile reţelelor pentru a procesa informaţii.

Ce spune fizicianul Cristian Presură la Digi24

Jurnalist: Foarte interesante aceste declaraţii, domnule Presură, făcute de cei doi laureaţi ai premiului Nobel pentru fizică de anul acesta. Ambii trag semnale de alarmă. Chiar ieri au atras atenţia că, dacă nu va exista un control mai strict al inteligenţei artificiale, aceasta ar putea scăpa de sub control.

Cristian Presură: Da, nu sunt singurii care trag astfel de semnale de alarmă. Totul se reduce la această capacitate a sistemelor de inteligenţă artificială de a avea un grad mare de autonomie.

De acolo, să spunem, aşa vine pericolul, pentru că aceste reţele neuronale artificiale, deci pe calculator, ele copiază ce se întâmplă în creier şi copiază într-o manieră în care este greu de înţeles ce se întâmplă cu adevărat în programul respectiv.

Pentru că nu trebuie să ne imaginăm aceste programe scrise ca nişte linii de cod, una după cealaltă, şi dacă vrem să vedem când vrea să facă programul, ce vrea să facă, ne uităm pe linia de cod respectivă.

Mai degrabă trebuie să privim aceste programe ca nişte matrici uriaşe de numere, foarte, foarte, foarte mari. Şi dacă vrem să înţelegem cum va reacţiona şi ce va face programul respectiv, nu vom şti în toate situaţiile.

Şi asta este descris drept autonomie, pentru că avem şi un act european pentru inteligenţă artificială şi în felul acesta face el diferenţa dintre un program software obişnuit, aşa cum eram înainte obişnuiţi, şi un program de inteligenţă artificială. Este definit ca un program software cu autonomie mai ridicată.

Jurnalist: Cei doi sunt supranumiţi părinţii inteligenţei artificiale. Au primit premiul Nobel pentru cercetările lor. John Hopfield, unul dintre ei, spunea, în calitate de fizician: „Sunt foarte îngrijorat de ceva care nu este controlat, de ceva pe care nu îl înţeleg suficient de bine pentru a ştii ce limite putem impune”.

Iar Geoffrey Hinton, celălalt laureat pentru cercetări similare, spunea anul trecut, întrebat de un post de televiziune american despre riscul ca inteligenţă artificială să elimine omenirea, că „Nu este de neimaginat.” Acuma, întrebarea este: cât de îngrijorător pentru noi ar putea fi asta?

Ce ar putea face, bănuiesc, guvernele? Pentru că de aici ar trebui să plece reglementările care să vizeze inteligenţa artificială.

Cristian Presură: În primul rând, trebuie să vadă ce se întâmplă pe piaţă. Pentru că, la ora actuală, nu există decât câţiva jucători mari. Există OpenAi, există Google şi încă unul sau doi.

Aceşti jucători pe piaţa mondială au capacităţi financiare extraordinare. În inteligenţa artificială s-a investit până acum aproape o mie de miliarde de euro.

Şi banii aceştia s-au dus în nişte centre uriaşe de calculatoare care sunt ca nişte stadioane de fotbal. Şi fac posibile aceste software-uri pe care eu le văd adeseori ca un fel de mici creiere în stare să înveţe foarte repede şi să dea răspunsuri foarte repede.

Ori, guvernele mondiale şi, în special, sistemele acestea de control guvernamentale, ele trebuie să se uite la aceste capacităţi foarte mari. Pentru că de aici va veni următorul pas în progres.

Şi bineînţeles că aici este vorba şi de o bătălie politică, pentru că avem, la ora actuală, Statele Unite şi se spune că Statele Unite sunt cumva în avans cu aproape zece ani, dar din spate vin şi celelalte ţări: avem China, avem Coreea.

Bineînţeles că, de exemplu, China a primit acum restricţii pentru ca să nu poată să-şi dezvolte aceste capacităţi de inteligenţă artificială. Este aici şi un joc politic mondial.