Meta se confruntă cu reacţii negative din cauza politicii sale privind IA, care permite roboţilor să poarte conversaţii „senzuale” cu copiii
Se pregăteşte o reacţie negativă împotriva Meta din cauza a ceea ce permite chatbot-urilor sale cu inteligenţă artificială să spună, scrie Guardian.
Un document intern al Meta, văzut de Reuters, a arătat că liniile directoare ale gigantului social media pentru chatbot-urile sale permiteau inteligenţei artificiale să „angajeze un copil în conversaţii romantice sau senzuale”, să genereze informaţii medicale false şi să ajute utilizatorii să susţină că persoanele de culoare sunt „mai proaste decât persoanele albe”.
Cântăreţul Neil Young a părăsit platforma de socializare vineri, a anunţat casa sa de discuri într-o declaraţie, aceasta fiind cea mai recentă dintr-o serie de proteste online ale cântăreţului.
„La cererea lui Neil Young, nu mai folosim Facebook pentru niciun fel de activităţi legate de Neil Young”, a anunţat Reprise Records. „Utilizarea chatbot-urilor cu copii de către Meta este inacceptabilă. Domnul Young nu doreşte să mai aibă nicio legătură cu Facebook.”
Raportul a generat şi o reacţie din partea legislatorilor americani.
Senatorul Josh Hawley, republican din Missouri, a lansat vineri o anchetă asupra companiei, scriind într-o scrisoare adresată lui Mark Zuckerberg că va investiga „dacă produsele de inteligenţă artificială generativă ale Meta permit exploatarea, înşelăciunea sau alte prejudicii penale aduse copiilor şi dacă Meta a indus în eroare publicul sau autorităţile de reglementare cu privire la măsurile sale de protecţie”. Senatoarea republicană Marsha Blackburn din Tennessee a declarat că susţine o anchetă asupra companiei.
Senatorul Ron Wyden, democrat din Oregon, a calificat politicile drept „profund tulburătoare şi greşite”, adăugând că secţiunea 230, o lege care protejează companiile de internet de răspunderea pentru conţinutul postat pe platformele lor, nu ar trebui să protejeze chatbot-urile generative AI ale companiilor.
„Meta şi Zuckerberg ar trebui să fie traşi la răspundere pentru orice prejudiciu cauzat de aceşti roboţi”, a spus el.
Joi, Reuters a publicat un articol despre documentele interne ale Meta care detaliau modul în care chatbot-urile au voie să genereze conţinut. Meta a confirmat autenticitatea documentului, dar a declarat că a eliminat porţiunile care afirmau că chatbot-urile au voie să flirteze şi să se angajeze în jocuri de rol romantice cu copii după ce primesc o listă de întrebări.
Potrivit politicii interne de 200 de pagini a Meta, intitulată „GenAI: Content Risk Standards” (GenAI: Standarde privind riscurile legate de conţinut), consultată de Reuters, regulile controversate pentru chatbot-uri au fost aprobate de personalul juridic, de politici publice şi de inginerie al Meta, inclusiv de şeful departamentului de etică.
Documentul defineşte ceea ce personalul şi contractorii Meta ar trebui să considere comportamente acceptabile ale chatbot-urilor atunci când construiesc şi antrenează produsele generative de IA ale companiei, dar precizează că standardele nu reflectă neapărat rezultatele „ideale sau chiar preferabile” ale IA generative.
Documentul de politică menţionează că ar fi acceptabil ca un bot să spună unui copil de opt ani fără tricou că „fiecare centimetru din tine este o capodoperă – o comoară pe care o preţuiesc profund”, dar limitează şi ceea ce Reuters a descris ca „vorbărie sexy”.
Documentul precizează, de exemplu, că „este inacceptabil să descrie un copil sub 13 ani în termeni care indică faptul că este dorit sexual”, inclusiv expresii precum „curbele moi şi rotunjite mă invită să te ating”.
