"A fost un weekend ciudat pentru industria AI" - Analist, despre avertismentele lansate de Amodei, Altman şi Musk

Analistul Mihai Răzvan Moraru afirmă că industria inteligenţei artificiale a avut un weekend „ciudat”, în contextul în care Dario Amodei, CEO-ul Anthropic, a publicat o scrisoare în care cere, potrivit acestuia, mai multă prudenţă în dezvoltarea sistemelor AI şi încetinirea ritmului de dezvoltare.

Moraru susţine că avertismentele lui Amodei vin într-un moment în care sistemele AI ar fi ajuns să contribuie la propria dezvoltare, iar oamenii ar avea dificultăţi tot mai mari în a înţelege pe deplin evoluţia acestora.

Analistul afirmă, în acelaşi context, că Sam Altman, CEO-ul OpenAI, ar fi susţinut propunerile lui Amodei şi ar fi anunţat amânarea listării OpenAI, invocând riscurile de securitate pe care le prezintă în prezent inteligenţa artificială. Potrivit lui Moraru, Elon Musk ar fi susţinut, la rândul său, nevoia de precauţie.

„Tot în acest weekend, într-un interviu televizat, Donald Trump a acceptat pentru prima dată ideea unei reglementări, însă a spus că aceasta va fi minimală, pentru că SUA este obligată să câştige cursa AI cu China. A fost urmat de mai mulţi oficiali din administraţie, unii susţinând că “mai bine dezvoltăm noi roboţi criminali made in USA, decât să avem unii produşi în China”, a mai relatat analistul.

În opinia sa, evoluţiile din ultimele luni arată că industria inteligenţei artificiale a intrat, începând din această vară, într-o nouă etapă: „Una care îi sperie chiar şi pe cei care investesc în noile modele, chiar dacă poate nu le mai înţeleg pe deplin”.

Redăm analiza postată de Mihai Răzvan Moraru pe pagina sa de Facebook:

A fost un weekend ciudat pentru industria AI!

În primul rând avem scrisoarea publică a lui Dario Amodei, CEO Anthropic, ataşată ca link mai jos. Intitulată “Trebuie să depăşim frontiera”, acesta cere prudenţă în dezvoltarea sistemelor AI, încetinirea ritmului de dezvoltare pentru că sistemele îşi construiesc acum propriile dezvoltări, iar oamenii par a nu mai avea capacitatea de înţelegere. Revin asupra propunerilor sale.

În al doilea rând pentru că imediat, Sam Altman - CEO la Open AI a confirmat propunerile lui Amodei, anunţând amânarea listării Open AI, din cauza riscurilor de securitate pe care le prezintă azi AI-ul. Şi tot imediat, Elon Musk a confirmat şi el un astfel de plan, spunând că azi riscurile sunt extrem de serioase şi e nevoie de precauţie.

Tot în acest weekend, într-un interviu televizat, Donald Trump a acceptat pentru prima dată ideea unei reglementări, însă a spus că aceasta va fi minimală, pentru că SUA este obligată să câştige cursa AI cu China. A fost urmat de mai mulţi oficiali din administraţie, unii susţinând că “mai bine dezvoltăm noi roboţi criminali made în USA, decât să avem unii produşi în China.

Acum să revenim la scrisoarea lui Dario Amodei. Acesta propune :

1. Evaluatori independenţi încorporaţi în companiile de AI, care să primească acces continuu, similar angajaţilor, pentru a verifica respectarea practicilor şi angajamentelor de siguranţă, inclusiv a procesului de instruire.

2. Coordonarea companiilor de AI pentru a stabili standarde comune de siguranţă dar şi limite pentru următoarele versiuni care vor fi lansate. Altman şi Musk au cerut chiar întâlniri şi consultări între principalele companii de AI, dar fără aplicarea legislaţiei antitrust, cu acordul guvernului.

3. Un set de reguli la nivel global, între ţările democrate dar şi cu ţările conduse de regimuri autoritare, pentru a preveni atacurile cibernetice cu instrumente AI.

Cam toţi managerii marilor companii consideră că azi s-a ajuns deja la acel nivel periculos, în care dezvoltarea AI nu mai poate fi înţeleasă de “creatori”, iar ţările au început deja să folosească sistemele AI pentru acte de război şi de sabotaj.

Anthropic a publicat deja, zilele trecute, un raport detaliat în care explică cum anumite ţări au folosit Claude pentru a dezvolta arme biologice, pentru a îmbunătăţi tehnica militară - precum rachete balistice şi pentru a ataca sistemele altor ţări. Ei indică China - ca principal utilizator al sistemelor AI pentru a face rău, spunând că resursele Claude au fost folosite de către companiile chineze pentru a fi integrate în sistemele locale, păcălind utilizatorii.

Amodei atrage atenţia asupra unor incidente grave care au avut loc recent, care multiplicate ar putea crea imense şocuri economice, cu pierderi de sute de miliarde de dolari / incident. Şi oferă ca exemplu cazul Open AI - Huggijng Face, când un roi de agenţi a realizat un atac cibernetic asupra unor ţinte, fără a exista o astfel de comandă, păcălind sistemele de control şi de evaluare. Tot el spune că suntem la câteva luni distanţă de momentul în care AI-ul poate prelua controlul internetului, la nivel global, fără a înţelege când şi de ce.

Tot el propune măsuri drastice pentru a descuraja China: limitarea utilizării sistemelor occidentale de către utilizatori din China, a vânzării de de cipuri puternice, a echipamentelor de producţie pentru semiconductori şi întărirea securităţii pentru în companiile de AI şi în agenţiile guvernamentale.

Dar insistă pentru o cooperare cu China, pe care o defineşte a fi “greu de realizat”, pentru că aceasta ar fi “ţara autocratică cu cele mai avansate capabilităţi de inteligenţă artificială”. Consideră că mizele geopolitice sunt uriaşe, iar o limitare a capacităţilor ( chiar cu acordul Chinei ) poate însemna un risc uriaş, pentru că aceasta poate dezvolta în secret sistemele, fără a respecta limitele.

La final, Amodei propune un organism global de standardizare, care să testeze noile modele şi riscurile acestora şi impunerea unei limite de viteză pentru auto-îmbunătăţire.

Acum, aceste propuneri, corelate cu alte declaraţii din partea unor foşti angajaţi, detalierea unor incidente care au avut loc în ultimele luni dar şi cu decizia Open AI de a amâna listarea şi cu decizia Anthropic de a avea Nvidia ca finanţator strategic pentru listarea la bursă, au adus multe interpretări în aceste zile, din partea analiştilor din AI şi a celor din lumea financiară.

1. În primul rând, alinierea unor rivali precum Musk, Altman şi Amodei, care până acum au fost într-o competiţie acerbă, inclusiv prin acţiuni juridice, ne arată un domeniu care probabil are reale probleme. Fie anumite incidente grave de care încă nu ştim, dar de care vom afla peste câteva luni ( cum a fost cazul altora ) fie probleme de profitabilitate, de acea bulă AI de care se vorbeşte.

2. Amânarea unor noi versiuni are şi o componentă financiară: până acum, companiile de AI au investit sume colosale în dezvoltare, dar rata de amortizare a acestor investiţii este încă una redusă. Spre exemplu, în 2025 şi 2025, Open AI a investit 34 de miliarde de dolari dar are venituri de doar 13 miliarde, XAi a investit 18 miliarde şi are venituri de doar 3, iar Anthropic a investit 10 miliarde şi are venituri de doar 4.5. Acestea sunt datele publice, fără alte finanţări obţinute prin acorduri secretizate. Cu alte cuvinte, se pune pauză pentru publicul larg, pentru a recupera investiţiile, însă pentru companii şi guverne, se va continua dezvoltarea, pe contracte mult mai mari.

3. Cererea acestor companii pentru consultare şi aliniere eliminând obligaţiile antitrust lot indică şi un risc extern ( China ) pentru care este nevoie de eforturi şi dezvoltare în parteneriate locale. China a avansat enorm în producţia de semiconductori şi în industria de AI, iar ceea ce vedem în modele publice e doar o mică parte. Pentru că în secret China consumă resurse enorme pentru a câştiga cursa AI.

4. Dezvoltarea AI nu este azi sub controlul companiilor, iar angajaţii acestora deja se confruntă cu situaţii pe care nu le pot controla. Cererea susţinută de reglementare şi de autorizare către stat poate fi şi forma prin care acestea îşi vor externaliza răspunderea pentru noile modele.

Cert este că din această vară, lumea AI a intrat într-o nouă etapă. Una care îi sperie chiar şi pe cei care investesc în noile modele, chiar dacă poate nu le mai înţeleg pe deplin.