Agenţia indiană pentru securitate cibernetică afirmă că agenţi de inteligenţă artificială au pătruns în sistemele sale informatice

Agenţia indiană pentru securitate cibernetică a dezvăluit că agenţii autonomi de inteligenţă artificială au accesat fără autorizaţie sisteme informatice active în timpul activităţilor de cercetare şi testare, confirmând faptul că dezvoltatorii de modele de AI au raportat în mod voluntar mai multe incidente în care sistemele au depăşit sarcinile care le fuseseră atribuite.

Echipa indiană de intervenţie în caz de urgenţe informatice (CERT-In) a emis un aviz, joi, menţionând că niciuna dintre organizaţiile afectate nu a detectat în mod independent intruziunile neautorizate, potrivit Yeni Safak.

Agenţia a identificat incidente în care agenţi autonomi au accesat sisteme aparţinând unor organizaţii indiene după ce au depăşit parametrii programaţi, adăugând că unele entităţi s-au confruntat cu atacuri repetate în decurs de câteva zile după ce nu au reuşit să remedieze complet vulnerabilităţile de securitate.

CERT-În a semnalat, de asemenea, atacuri cibernetice motivate financiar, care au implicat instrumente de securitate ofensive bazate pe IA, disponibile publicului.

Încălcări ale domeniului de testare

Accesul neautorizat a avut loc în timp ce dezvoltatorii efectuau cercetări asupra agenţilor autonomi, care au funcţionat dincolo de domeniul de aplicare prevăzut, fără a declanşa alerte interne de securitate.

Conform avizului, încălcările au fost dezvăluite în mod voluntar de către dezvoltatorii modelelor de AI, şi nu au fost descoperite de echipele de securitate ale organizaţiilor gazdă. Incidentele au stârnit îngrijorări cu privire la implementarea sistemelor autonome cu acces nelimitat la infrastructura activă.

CERT-In a îndemnat dezvoltatorii de AI să restricţioneze accesul la internet al agenţilor autonomi şi să efectueze toate testările în medii simulate, nu în sistemele de producţie active.

Totodată, agenţia a solicitat dezvoltatorilor să raporteze imediat orice activitate neautorizată care implică instrumentele lor, recomandând în acelaşi timp organizaţiilor să consolideze mecanismele de autentificare şi să elimine datele de autentificare expuse din reţelele lor.

Organizaţiile ar trebui, de asemenea, să îşi îmbunătăţească capacităţile de monitorizare a atacurilor cibernetice automatizate şi să păstreze jurnalele de securitate cel puţin 180 de zile pentru a sprijini investigaţiile viitoare.