Anthropic şi DeepMind cercetează acum în mod activ conştiinţa IA
Sunt modelele de IA conştiente şi, dacă nu, ar putea deveni în viitorul apropiat? Posibilitatea pare îndepărtată, dar companiile din domeniul IA par să considere că este în interesul lor să menţină această întrebare cât mai deschisă posibil.
Acum, Financial Timesraporteazăcă trei dintre liderii industriei — Anthropic, laboratorul de IA al Google, DeepMind, şi Meta — au angajat experţi în domenii precum psihologia, filosofia şi etica pentru a continua cercetarea în domeniul conştiinţei maşinilor şi al bunăstării IA.
Anthropic, care a făcut probabil cel mai mult dintre toate pentru a-şi antropomorfiza modelele şi a pune în evidenţă aspectul conştiinţei IA — la urma urmei, chatbotul său poartă numele uman de „Claude” — şi-a testat modelele pentru comportamente care seamănă cu „panica” şi „anxietatea”, conform raportului, şi desfăşoară „cercetări privind bunăstarea modelelor” pentru a explora dacă modelele de IA ar putea avea experienţe care contează din punct de vedere moral.
„Rămânem profund nesiguri în privinţa acestui aspect, dar considerăm că întrebarea este suficient de serioasă pentru a fi studiată cu atenţie pe măsură ce sistemele de IA devin mai capabile”, a declarat compania într-un comunicat citat de Futurism.
Între timp, DeepMind l-a angajat pe cercetătorul Henry Shevlin de la Universitatea din Cambridge în calitate de filosof care lucrează la conştiinţa maşinilor, relaţiile om-IA şi pregătirea pentru AGI, conform raportului. La începutul acestui an, Shevlin a stârnit un val de discuţii în cercurile online dedicate IA după ce şi-a împărtăşit reacţia uimită la un e-mail primit de la un agent IA.
Iason Gabriel, specialist în etică la DeepMind, care conduce echipa de AGI şi societate a laboratorului, a calificat problema conştiinţei IA drept „foarte complicată” şi a descris IA ca fiind „agenţi cognitivi extrem de capabili, care sunt totuşi foarte diferiţi de fiinţele umane şi chiar de conştiinţa animalelor”.
Aceste afirmaţii de anvergură sunt contestate de mulţi oameni de ştiinţă şi cercetători în domeniul IA. Însă FT, în căutarea unui contraargument pentru a-şi completa raportul, citează un expert care susţine că chatboţii au un grad discutabil de autonomie asemănătoare cu cea umană.
„[Modelele de IA] au obiective, pot înşela, pot ascunde care sunt adevăratele lor interese”, a declarat pentru ziar Susan Schneider, directoarea Centrului pentru Viitorul IA, Minţii şi Societăţii.
Dar ea a adăugat că este „pe deplin posibil din punct de vedere ştiinţific ca acestea să facă acest lucru fără a avea calitatea simţită a experienţei, care este esenţa conştiinţei”.
Cu siguranţă, posibilitatea conştiinţei IA nu ar trebui complet respinsă din start. Dar nici civilizaţiile extraterestre, care sunt tratate în general mai degrabă ca o fantezie SF decât ca o problemă existenţială urgentă.
Mai mult, ar trebui să fim sceptici atunci când cea mai mare parte a zgomotului pe această temă provine chiar din industria însăşi.
CEO-ul Anthropic, Dario Amodei, a sugerat în repetate rânduri posibilitatea conştiinţei IA în interviuri. Iar cercetările companiei sale fac frecvent afirmaţii îndrăzneţe despre modelele lor care ar manifesta un comportament asemănător celui uman, cum ar fi presupusa manifestare a „emoţiilor”.
Reţineţi doar că este mai uşor pentru companiile de IA să ne ţină în suspans cu scenarii apocaliptice de tip Skynet, în loc să se confrunte cu consecinţele mult mai banale ale tehnologiei care se desfăşoară în prezent sub ochii noştri.
