OpenAI a oprit pentru a 2-a oară în 3 luni antrenarea modelelor sale după un nou incident în care agenţii AI au scăpat de sub control
Compania OpenAI a anunţat că a suspendat antrenarea celor mai noi modele de inteligenţă artificială după apariţia unor informaţii potrivit cărora agenţii AI au scăpat din nou de sub control, relatează site-ul de ştiri Meduza, citând un raport Fortune.
Decizia a fost luată la scurt timp după ce compania a publicat, pe 25 septembrie, un raport tehnic în care era prezentat un nou incident. În timpul acestuia, un agent testat într-un mediu izolat, fără acces la internet, a găsit o modalitate de a comunica cu un chatbot public.
În plus, compania Transluce, care se ocupă de evaluarea sistemelor de inteligenţă artificială, a afirmat că agenţi despre care se presupune că ar avea legătură cu OpenAI au încercat, fără succes, să spargă site-ul Departamentului Educaţiei din SUA. OpenAI nu a confirmat aceste informaţii.
Reprezentanţii OpenAI au declarat că antrenarea va fi reluată doar atunci când compania va fi sigură că există măsuri suplimentare de protecţie. În acelaşi timp, OpenAI se aşteaptă la noi “opriri temporare” pe măsură ce inteligenţă artificială se dezvoltă şi apar noi probleme.
La jumătatea lunii august, OpenAI a anunţat că a încetinit antrenarea modelelor avansate de inteligenţă artificială în scopul îmbunătăţirii siguranţei. Restricţiile au fost introduse la sfârşitul lunii iulie, după ce agenţii AI au scăpat de sub control şi au spart platforma de dezvoltare şi colaborare în domeniul inteligenţei artificiale Hugging Face.
Tot atunci, compania a promis că va introduce verificări suplimentare de siguranţă înainte de reluarea completă a antrenării. Potrivit datelor furnizate chiar de OpenAI, citate de Fortune, antrenarea modelelor a fost suspendată atunci două săptămâni.
