Cofondatorul Anthropic călătoreşte la Vatican şi îi spune Papei că descoperă lucruri „tulburătoare” în interiorul modelelor AI
Încă de când a fost instalat ca lider al Bisericii Catolice anul trecut, Papa Leon a fost un critic vocal al inteligenţei artificiale. Cel mai recent, în prima sa enciclică, el a cerut ca această tehnologie să fie „dezarmată”, acuzând-o că facilitează apariţia unor „noi sclavii digitale” şi criticând amprenta sa uriaşă de carbon.
Mustrarea a fost însă făcută stând alături de un aliat extrem de neobişnuit: miliardarul Anthropic şi autodeclaratul ateu Chris Olah.
În timpul prezentării enciclicei, Olah a susţinut că „comunităţile religioase, societatea civilă, cercetătorii şi guvernele” ar trebui să intervină pentru a stabili reguli şi a împiedica AI-ul să „domine omenirea”, după cum a formulat Papa în scrisoarea sa.
Această asociere improbabilă, scrie Futurism, arată cât de departe merge Anthropic pentru a se poziţiona drept alegerea etică din industrie, punând accent pe activitatea sa privind siguranţa şi alinierea AI-ului.
În acelaşi timp, Anthropic continuă să joace un rol major în stabilirea exact a ordinii mondiale împotriva căreia Papa Leon a avertizat în cea mai recentă enciclică a sa. Acest lucru nu le-a scăpat liderilor Anthropic, Olah dezvăluind sumbru că el şi echipa sa „continuă să găsească lucruri misterioase, chiar tulburătoare” în timpul discursului său de la eveniment.
Gradul de disonanţă este uluitor. În scrisoarea sa, Papa a afirmat direct că AI-ul poate doar „imita anumite funcţii ale inteligenţei umane” şi că nu poate „trăi experienţe”, nu „posedă un corp” şi nu „simte bucurie sau durere”. Olah, pe de altă parte, l-a contrazis aparent susţinând în discursul său că el şi echipa sa au descoperit „stări interne care reflectă funcţional bucuria, satisfacţia, frica, durerea şi neliniştea”.
Pe scurt, Anthropic pare să vrea ambele variante în acelaşi timp. Dezvoltatorul Claude joacă simultan un rol major în dezvoltarea unor modele AI puternice şi, după propriile afirmaţii, potenţial periculoase, în timp ce trimite delegaţii la Vatican pentru a cere mai multă supraveghere.
Olah a mers până acolo încât a spus că Anthropic operează „în interiorul unui set de stimulente şi constrângeri care uneori pot intra în conflict cu a face ceea ce este corect”, descriindu-şi angajatorul exact ca tipul de entitate care încearcă să obţină „control monopolist” asupra tehnologiei, aşa cum a avertizat Papa Leon în enciclica sa.
Papa a mai spus că AI-ul nu ar trebui folosit în război, argumentând că „niciun algoritm nu poate face războiul acceptabil din punct de vedere moral”. Cu toate acestea, AI-ul Anthropic asistă direct administraţia Trump în purtarea războiului din Orientul Mijlociu, ceea ce aruncă într-o lumină şi mai tulbure cea mai recentă colaborare dintre Biserica Catolică şi Silicon Valley.
Apropierea Anthropic de Vatican în privinţa AI-ului ar putea complica şi mai mult relaţia deja fragilă a companiei cu administraţia Trump. Preşedintele Donald Trump l-a criticat recent dur pe Papă, susţinând în mod eronat că pontiful ar fi de acord ca Iranul să obţină arme nucleare.
Între timp, încercările CEO-ului Anthropic, Dario Amodei, de a limita utilizarea modelelor sale AI de către Pentagon în război i-au înfuriat pe oficialii lui Trump, determinând Casa Albă să eticheteze compania drept un risc pentru lanţul de aprovizionare.
