Directorul general al OpenAI încearcă acum să preia controlul asupra reţelei electrice a SUA

Înarmat cu poveşti sumbre despre agenţi AI care scapă de sub control, directorul general al OpenAI, Sam Altman, a avut parte de mult succes folosind tactici bazate pe inducerea fricii pentru a cere reglementări favorabile, în numele siguranţei AI.

Acum, se pare că Altman profită de valul de temeri legate de inteligenţa artificială pentru a-şi găsi noi parteneri de afaceri: directorii companiilor de utilităţi electrice ale căror firme alcătuiesc reţeaua electrică a Statelor Unite, potrivit revistei Futurism.

Potrivit unei relatări publicate iniţial de Politico, directorul companiei din spatele ChatGPT a avut, începând din iulie, o serie de întâlniri discrete cu liderii unora dintre cele mai mari companii de utilităţi electrice, printre care Duke Energy, Exelon, Southern Co. şi NextEra Energy.

Una dintre cele mai recente discuţii a avut loc miercuri, în Colorado, în cadrul reuniunii anuale organizate de Edison Electric Institute. Potrivit Politico, pe agenda întâlnirii s-au aflat în prim-plan discuţiile despre securitatea reţelei electrice, aparent stimulate de controversatul incident OpenAI–Hugging Face, în care agenţi AI ar fi reuşit să iasă din mediul lor de cercetare, să acceseze internetul şi să pătrundă în sistemele unei alte companii de inteligenţă artificială.

Deşi incidentul a generat numeroase comentarii cu privire la ritmul dezvoltării AI şi la nivelul avansat al modelelor OpenAI, fluxul de informaţii a fost în mare parte într-un singur sens, majoritatea detaliilor provenind chiar de la OpenAI. După cum a relatat The New York Times, cercetătorilor independenţi în domeniul siguranţei, care au investigat ulterior incidentul, li s-au oferit doar câteva zile pentru a accesa volumele mari de date generate în timpul atacului, ceea ce le-a limitat sever posibilitatea de a ajunge la propriile concluzii.

Acestea fiind spuse, OpenAI are un interes evident să prezinte drept terifiante capacităţile propriilor sisteme AI, în timp ce minimalizează sau ignoră dovezile care contrazic propria naraţiune: aceea potrivit căreia agenţii AI scăpaţi de sub control ar putea reprezenta o ameninţare pentru reţeaua energetică a Statelor Unite.

Pentru a da un singur exemplu, relatarea OpenAI despre incidentul cu Hugging Face se bazează aproape în întregime pe aşa-numitele „chain-of-thought” ale agenţilor săi — practic, explicaţiile generate de un model AI pentru a descrie modul în care şi-ar fi justificat anumite decizii.

În teorie, acest lucru poate părea rezonabil, însă cercetătorii au găsit numeroase dovezi că aceste lanţuri de raţionament nu sunt o sursă sigură pentru a descrie acţiunile reale întreprinse de sistemele de procesare a limbajului natural.

În ciuda întrebărilor fără răspuns legate de fiabilitatea acestor lanţuri de raţionament, OpenAI foloseşte incidentul pentru a face lobby în favoarea unor măsuri de protecţie şi reglementări care i-ar consolida rolul de autoritate în domeniul dezvoltării inteligenţei artificiale.

În acest context, momentul ales pentru întâlnirile OpenAI cu reprezentanţii sectorului energetic este greu de trecut cu vederea. După cum observă Politico în relatarea sa despre aceste întâlniri, Altman îşi promovează propriile servicii de securitate cibernetică în faţa directorilor marilor companii de utilităţi — profitând, în mod convenabil, de isteria generată de incidentul cu Hugging Face pentru a obţine un loc la una dintre cele mai importante mese de discuţii din ţară.