Sam Altman, CEO-ul OpenAI, a declarat în podcastul „Găsind răspunsuri cu Raj Shamani” că dezvoltarea inteligenței artificiale avansate ar putea duce la două rezultate foarte diferite, dar la fel de periculoase: fie omenirea cedează controlul unor sisteme mult mai capabile decât ea, fie o singură persoană, companie sau țară ajunge să concentreze o putere disproporționată.
Altman și-a formulat avertismentul în contextul susținerii îndelungate a beneficiilor AI și al respingerii scenariilor apocaliptice. El a descris cele două variante în termeni simpli: „Unul este că controlul este predat AI; deliberat sau accidental, îi oferim frâiele viitorului unor sisteme incredibil de capabile, mult mai capabile decât noi, și nu mai putem recâștiga controlul. Celălalt scenariu este ca o singură persoană, o companie sau o țară să devină prea puternică în comparație cu ceilalți.”
Două scenarii catastrofale
Primul scenariu diferă de imaginea cinematografică a unei revolte a roboților. Este unul mai discret: o cedare treptată a puterii de decizie și a autorității, până în punctul în care recâștigarea controlului uman nu mai este posibilă. Al doilea reflectă temerea modernă, desprinsă din science-fiction, privind centralizarea puterii: o tehnologie extrem de puternică, controlată strict de o persoană sau organizație și folosită pentru a-și impune voința asupra celorlalți.
Aceste posibilități nu sunt noi pentru cercetători și decidenți, însă avertismentele lui Altman capătă o greutate suplimentară prin prisma rolului său la OpenAI. El a recunoscut amploarea companiei, spunând: „Cred că avem cei mai mulți utilizatori și cel mai bun set de tehnologii, de la cipuri la centre de date, modele și alte componente, o infrastructură care pune multă inteligență la dispoziția oamenilor. Avem cel mai bun brand și valorile pe care le caută utilizatorii acestei tehnologii; cu toate acestea, vrem ca și alții să reușească și cred că oamenii simt asta.”
Luarea deciziilor și delegarea autorității
Îngrijorările legate de o AI scăpată de sub control s-au intensificat pe măsură ce sistemele au depășit etapa răspunsurilor simple și au intrat în zona luării deciziilor. Modelele și agenții pot acum interacționa pe web și pot îndeplini sarcini complexe cu supraveghere umană minimă. Pe măsură ce tot mai multe responsabilități sunt delegate acestor sisteme, cresc și consecințele alinierii imperfecte dintre obiectivele lor și intențiile umane.
Este important de reținut că sistemele AI actuale funcționează prin estimarea probabilităților. Sunt puternice și antrenate pe seturi vaste de date, dar nu au judecata sau înțelegerea oamenilor. Nu au nevoie de intenții răuvoitoare pentru a provoca daune. În scenarii simulate de guvernare, de exemplu, modelele au ajuns uneori la alegeri dezastruoase, inclusiv la propuneri care ar implica utilizarea armelor nucleare.
Deși Altman subliniază aceste limite și riscuri, el rămâne optimist pe termen lung. „Nu știu cum va fi viitorul, dar sunt împăcat cu el și am o încredere foarte profundă în capacitatea oamenilor de a se adapta, de a progresa și de a îmbunătăți societatea pentru noi toți; cred că lumea are șanse să se îmbunătățească în timp”, a spus el.
Altman este, de asemenea, entuziasmat de folosirea AI pentru accelerarea descoperirilor științifice. El și-a imaginat o mașină care ar aprofunda înțelegerea noastră despre lume și ar scoate la iveală perspective profunde în fizică, tratamente medicale noi și surse inovatoare de energie — rezultate pe care le consideră greu de imaginat acum, dar posibile odată cu o înțelegere științifică mai bună. „Sunt extrem de entuziasmat să văd cât de departe putem duce AI pentru a avansa noi științe”, a spus el.
Declarațiile lui Altman vin după anunțul său recent potrivit căruia AI va publica mai multe rezultate matematice în săptămânile următoare și reiau comentariile cofondatorului OpenAI, Greg Brockman, care a sugerat la o conferință că AI ar putea face, într-o zi, din moarte un rezultat opțional.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.