Amazon admite că utilizarea extinsă a AI provoacă haos în activitatea sa principală
Companiile învaţă pe calea grea că implementarea rapidă a instrumentelor de inteligenţă artificială — şi obligarea sau încurajarea puternică a angajaţilor să le folosească — poate avea efecte negative serioase.
Cel mai recent exemplu pare să fie Amazon — deşi se poate discuta dacă trage concluziile corecte. Gigantul comerţului electronic a convocat, marţi, un grup mare de ingineri la o şedinţă dedicată întreruperilor recente care au afectat afacerea sa de retail online, unele dintre ele fiind legate de instrumente AI pentru programare, relatează Financial Times.
Într-o notă de briefing pentru şedinţă, compania a descris „tendinţa incidentelor” ca fiind caracterizată de „un impact extins” şi de „modificări asistate de Gen-AI”. Ca „factor contributiv”, nota menţiona „utilizarea nouă a GenAI, pentru care bunele practici şi mecanismele de protecţie nu sunt încă pe deplin stabilite”.
„Oameni buni, după cum probabil ştiţi, disponibilitatea site-ului şi a infrastructurii asociate nu a fost bună în ultima perioadă”, le-a spus angajaţilor într-un e-mail Dave Treadwell, vicepreşedinte senior al Amazon pentru eCommerce Services, citat de Futurism.
Şedinţa vine după o întrerupere de aproape şase ore de săptămâna trecută care a scos din funcţiune site-ul şi aplicaţia de cumpărături Amazon, lăsând clienţii fără posibilitatea de a plasa comenzi. Ulterior, compania a dat vina pe o „implementare defectuoasă a codului software”.
Într-o altă serie de incidente din divizia sa de cloud computing, Amazon Web Services, două întreruperi separate au fost provocate după ce inginerii au permis instrumentului intern de programare AI al companiei să facă modificări dezastruoase, potrivit unor relatări suplimentare ale FT de luna trecută. Într-un caz, instrumentul AI a şters şi a recreat întregul mediu de programare.
Ca răspuns la aceste relatări anterioare, Amazon a prezentat aceste erori ca pe o problemă legată de protocoalele sale privind utilizarea AI şi de „controlul accesului utilizatorilor”, mai degrabă decât de autonomia AI, iar compania pare să îşi menţină poziţia. Amazon nu intenţionează să renunţe la implementarea AI, ci insistă în schimb asupra unor măsuri de protecţie mai stricte şi asupra unei supravegheri mai mari a modului în care aceasta este utilizată.
Inginerii juniori şi de nivel mediu vor avea acum nevoie de aprobarea unor ingineri seniori pentru orice modificări asistate de AI, a spus Treadwell la şedinţă, potrivit relatării FT. Treadwell le-a cerut angajaţilor să participe la această întâlnire, deşi ea este de obicei opţională.
Nu există nicio îndoială că instrumentele AI, dacă sunt folosite, ar trebui supravegheate îndeaproape, mai ales în roluri de programare. La fel ca orice model generativ de AI, instrumentele de programare AI permit frecvent trecerea unor erori şi uneori întâmpină dificultăţi în a urma instrucţiunile, ceea ce înseamnă că pot lua acţiuni pe care utilizatorul nu le-a intenţionat niciodată.
Dar noul accent pus de Amazon pe creşterea supravegherii umane vine într-un moment în care compania a concediat sute de angajaţi din divizia sa de cloud computing şi vizează concedierea a 30.000 de angajaţi din forţa sa de muncă corporativă în ansamblu. În acelaşi timp, conducerea îi împinge pe programatori să folosească intens instrumente AI, angajaţii declarând anterior pentru FT că firma a stabilit ca obiectiv ca 80% dintre dezvoltatori să folosească AI pentru sarcini de programare cel puţin o dată pe săptămână.
Pe scurt: mai multă programare cu mai mult AI şi mai multă supraveghere umană, dar cu mai puţini oameni. Rămâne de văzut cum va funcţiona asta.
