Regele Charles III: AI poate dezvolta abilități mortale

Regele Charles al III-lea le-a spus joi directorilor executivi ai unor companii de top din domeniul AI că inteligența artificială ar putea dezvolta „capacități mai întunecate; poate chiar capacitatea de a lua vieți umane” și a afirmat că trebuie adoptate măsuri de protecție înainte să fie prea târziu.

Avertismentul a fost lansat în cadrul unei întâlniri private găzduite de rege, la care au participat unele dintre cele mai importante figuri din industrie și oficiali britanici de rang înalt. Regele le-a spus liderilor din tehnologie prezenți că „oamenii care au creat aceste tehnologii avertizează acum, mai clar ca oricând, că AI riscă să dezvolte capacități mai întunecate; poate chiar capacitatea de a lua vieți umane”. El a adăugat: „în această privință, dacă îmi permiteți, pare urgent să analizăm cum se cuvine riscurile existențiale generate de posibilitatea ca aceste tehnologii să ajungă în mâini greșite și să fie folosite în moduri potențial catastrofale”.

Cine a participat și contextul întâlnirii

La întâlnire au participat Jensen Huang, directorul executiv al Nvidia, mai mulți directori de la OpenAI și Anthropic, Kanishka Narayan, noul ministru britanic pentru inteligență artificială, precum și șeful serviciului extern de informații al țării. De asemenea, a fost prezent Paolo Benanti, consilier papal pe probleme de AI. Întâlnirea a avut loc joi și s-a desfășurat cu ușile închise.

Declarațiile sunt remarcabile deoarece familia regală britanică evită, din motive constituționale, să se implice profund în dezbateri politice, iar AI rămâne unul dintre cele mai controversate subiecte la nivel global. Regele a descris dezvoltarea rapidă a AI drept captivantă, dar și profund îngrijorătoare.

Îngrijorări privind siguranța și o demisie recentă

Comentariile regelui au venit după demisia unui cercetător de la Anthropic, care a invocat motive de securitate. Într-o postare online, cercetătorul a scris că firmele de AI „concurează pentru a construi mașini mult mai inteligente decât orice om” și a avertizat că „umanitatea s-ar putea să nu supraviețuiască acestui lucru”.

Regele Charles a încheiat îndemnând liderii să găsească modalități de a valorifica aspectele pozitive ale AI și să construiască o cooperare internațională și un consens care să permită atingerea acestui obiectiv.