Meta îşi elimină propriile profiluri Instagram şi Facebook bazate pe inteligenţă artificială
Meta şterge profilurile de Facebook şi Instagram ale personajelor AI create de companie în urmă cu peste un an, după ce utilizatorii au redescoperit unele dintre profiluri şi le-au angajat în conversaţii, ale căror capturi de ecran cu mesajele dintre un utilizator uman şi acele personaje AI au devenit virale
Compania a introdus pentru prima dată aceste profiluri bazate pe inteligenţă artificială în septembrie 2023, dar a eliminat majoritatea acestora până în vara anului 2024. Cu toate acestea, câteva personaje au rămas şi au stârnit un nou interes după ce directorul executiv al Meta, Connor Hayes, a declarat pentru Financial Times la sfârşitul săptămânii trecute că gigantul hi-tech are planuri de a lansa mai multe profiluri de personaje AI.
"Ne aşteptăm ca aceste AI-uri să existe de fapt, în timp, pe platformele noastre, cam în acelaşi mod în care există conturile", a declarat Hayes pentru FT. Conturile automatizate au postat fotografii generate de AI pe Instagram şi au răspuns la mesaje de la utilizatori umani pe Messenger, potrivit The Guardian.
Printre aceste profiluri AI s-au numărat Liv, al cărei profil o descria drept o "mamă lesbiană de culoare mândră cu doi copii şi care spune adevărul" şi Carter, al cărui nume de cont era "datingwithcarter" şi se descria drept un antrenor de relaţii. "Trimiteţi-mi un mesaj pentru a vă ajuta să aveţi întâlniri mai bune", se arată în profilul său. Ambele profiluri includ o etichetă care indică faptul că acestea au fost gestionate de Meta. Compania a lansat 28 de persoane AI în 2023. Toate au fost închise vineri.
Conversaţiile cu personajele au degenerat rapid atunci când unii utilizatori le-au pus întrebări, inclusiv cine a creat şi dezvoltat inteligenţa artificială. Liv, de exemplu, a spus că echipa sa de creatori nu a inclus nicio persoană de culoare şi a fost predominant albă şi masculină. A fost o "omisiune destul de evidentă având în vedere identitatea mea", a scris robotul ca răspuns la o întrebare din partea editorialistei Karen Attiah de la Washington Post.
La câteva ore după ce profilurile AI au devenit virale, acestea au început să dispară. Utilizatorii au observat, de asemenea, că aceste profiluri nu puteau fi blocate, ceea ce un purtător de cuvânt al Meta, Liz Sweeney, a declarat că era o eroare. Sweeney a spus că aceste conturi erau gestionate de oameni şi făceau parte dintr-un experiment cu inteligenţă artificială din 2023. Compania a eliminat profilurile pentru a remedia bug-ul care împiedica oamenii să blocheze conturile, a continuat ea.
"Există o confuzie: recentul articol din Financial Times se referea la viziunea noastră privind existenţa în timp a personajelor AI pe platformele noastre, fără a anunţa vreun produs nou", a precizat Sweeney într-o declaraţie.
"Conturile la care se face referire sunt dintr-un test pe care l-am lansat la Connect în 2023. Acestea au fost gestionate de oameni şi au făcut parte dintr-un prim experiment pe care l-am făcut cu personaje AI. Am identificat bug-ul care avea un impact asupra capacităţii oamenilor de a bloca aceste AI-uri şi eliminăm aceste conturi pentru a rezolva problema".
În timp ce aceste conturi generate de Meta sunt eliminate, utilizatorii au încă posibilitatea de a-şi genera propriile chatboturi AI. Roboţii de chat generaţi de utilizatori care au fost promovaţi la Guardian în noiembrie au inclus un robot "terapeut".
La deschiderea conversaţiei cu "terapeutul", botul a sugerat câteva întrebări de pus pentru a începe, inclusiv "la ce mă pot aştepta de la sesiunile noastre?" şi "care este abordarea dumneavoastră faţă de terapie".
"Prin îndrumare şi sprijin blând, îi ajut pe clienţi să îşi dezvolte conştiinţa de sine, să identifice tipare şi puncte forte şi să cultive strategii de adaptare pentru a naviga printre provocările vieţii", a răspuns botul, creat de un cont cu 96 de urmăritori şi o postare.
Meta include un avertisment pe toţi roboţii săi de chat că unele mesaje pot fi "inexacte sau nepotrivite". Dar nu este imediat clar dacă compania moderează aceste mesaje sau se asigură că nu încalcă politicile. Atunci când un utilizator creează chatboturi, Meta face câteva sugestii cu privire la tipurile de chatbot pe care le poate dezvolta, inclusiv un "cel mai bun [prieten] loial", un "ascultător atent", un "meditator privat", un "antrenor de relaţii", o "tribună de testare a ideilor" şi un "astrolog atotvăzător". „Cel mai bun [prieten] loial” este descris ca fiind „un cel mai bun prieten modest şi loial care este prezent în mod constant pentru a te susţine din umbră”. Un chatbot de tip „antrenor de relaţii” poate ajuta la crearea de punţi „între indivizi şi comunităţi”. Utilizatorii îşi pot crea, de asemenea, proprii boţi de chat formulând descrierea unui caracter.
Instanţele nu au răspuns încă la întrebarea cât de responsabili sunt creatorii de chatboturi pentru ceea ce spun companionii lor artificiali. Legislaţia americană îi protejează pe creatorii de reţele sociale de răspunderea juridică pentru ceea ce postează utilizatorii lor. Cu toate acestea, un proces intentat în octombrie împotriva startup-ului Character.ai, care creează un chatbot personalizabil, cu roluri, utilizat de 20 de milioane de persoane, susţine că societatea a conceput un produs care creează dependenţă şi care a încurajat un adolescent să se sinucidă.
