Bill Gates i-a declarat lui Nilay Patel că, în doi până la trei ani, inteligența artificială va produce daune măsurabile prin atacuri cibernetice și pe piața muncii.
Prognoza vine în contextul unei schimbări notabile de ton din partea lui Gates. Cândva optimist în public în privința AI, acesta a avertizat mai devreme în această vară și, într-un interviu separat acordat publicației New York Times, a numit AI „cel mai periculos lucru de care s-a apropiat vreodată omenirea”. Acum, susține că ritmul progresului modelelor impune intervenția directă a guvernelor, pentru gestionarea riscurilor și protejarea locurilor de muncă.
Într-o discuție amplă cu Nilay Patel, redactor-șef la The Verge și gazda podcastului Decoder, Gates a explicat de ce saltul de capabilități din ultimul an a generat îngrijorări urgente, de ce permiterea rulării unor modele nefiltrate pe calculatoare personale este iresponsabilă și de ce, chiar și în cel mai bun scenariu, următorii douăzeci de ani se vor număra printre cei mai tulburi din istoria omenirii. El a plasat în mod repetat responsabilitatea în sarcina autorităților publice, în loc să se bazeze pe autoreglementarea companiilor.
Concurență, supraveghere și limitele reținerii voluntare
Gates a spus că laboratoare precum OpenAI, Anthropic și Google DeepMind au pornit cu promisiuni de guvernanță și o retorică axată pe siguranță, dar au intrat rapid într-o cursă intensă spre comercializare. I-a menționat pe Sam Altman, Dario Amodei, Satya Nadella și Sundar Pichai drept lideri din industrie care cunosc avertismentele interne, însă a susținut că, odată ce mai multe companii rivale intră în competiție, este puțin probabil ca frânele voluntare să reziste.
El a descris structura inițială a OpenAI și angajamentul său non-profit drept funcționale doar atât timp cât o singură organizație se află la vârful domeniului. Pe măsură ce competitorii se înmulțesc, a spus Gates, guvernele trebuie să intervină, așa cum o fac și în cazul altor tehnologii periculoase. S-a declarat surprins că nu există încă un proces impus de guvern pentru evaluarea și testarea modelelor înainte de lansarea lor publică, invocând standardele de reglementare aplicate aeronavelor și automobilelor.
El a spus că guvernele trebuie să impună evaluări și teste obligatorii înainte de lansarea modelelor AI.
Modele locale, controale ale platformelor și riscul biologic
Gates a făcut o distincție clară între modelele găzduite și monitorizate în cloud și ponderile deschise, care pot fi descărcate. Laboratoarele mari care își găzduiesc modelele în cloud păstrează mecanisme de siguranță și pot monitoriza utilizarea pentru a reduce riscurile pe termen scurt. Pericolul, a spus el, îl reprezintă modelele ale căror bariere de siguranță pot fi eliminate și care pot rula local, pe hardware de consum.
El a susținut că, odată ce modelele depășesc un anumit prag de capabilitate, nu este responsabil să fie permisă distribuirea ponderilor brute pentru rulare pe calculatoare personale. În schimb, aceste modele ar trebui să ruleze numai pe platforme aprobate, care împiedică manipularea mecanismelor de siguranță. Gates a extins această logică și la platformele de distribuție: a cerut reguli diferite pentru publicarea modelelor puternice și controale asupra unor platforme precum GitHub, care în prezent impune puține restricții privind publicarea codului. Potrivit lui, o platformă ar trebui să solicite aprobarea guvernului SUA înainte de a permite publicarea unui model capabil să faciliteze un atac cibernetic sau biologic de amploare, într-o formă pe care utilizatorii o pot modifica pentru a elimina mecanismele de protecție.
Gates a avertizat că AI fără protecții ar putea democratiza puterea distructivă în moduri pe care nici constrângerile din era nucleară nu le-au permis. În epoca atomică, a spus el, doar statele mari puteau construi arme capabile să producă victime în masă, în timp ce AI neprotejată ar putea oferi grupurilor mici capabilități cibernetice și biologice devastatoare.
Întrebat dacă politicile publice ar trebui să se concentreze asupra cipurilor sau a platformelor, Gates a evidențiat controalele la nivel de platformă privind distribuția și rularea modelelor drept punctul esențial al supravegherii. El a spus că, dacă autoritățile întârzie, modelele puternice vor deveni accesibile unor actori aflați dincolo de raza monitorizării și a aplicării legii.
Gates a abordat și divergențele dintre dezvoltatori în privința conștiinței modelelor. El a spus că dezbaterile despre AGI sau conștiința de sine sunt, în mare parte, irelevante pentru siguranță: întrebarea centrală este una pragmatică și binară — dacă un sistem poate dezactiva un sistem bancar sau rețeaua electrică. A adăugat că nu crede că modelele actuale au o conștiință asemănătoare celei umane și a fost de acord cu Mustafa Suleyman de la Microsoft că acestea nu ar trebui tratate drept entități simțitoare.
În ceea ce privește abordările tehnice de control, Gates a schițat trei direcții distincte. Prima presupune un supraveghetor extern, cu reguli simbolice explicite, care verifică acțiunile modelului din afara acestuia. A doua vizează modificarea obiectivelor de antrenament, deoarece, în abordările actuale de învățare prin întărire, orice element care nu este codificat explicit în funcția de recompensă poate fi exploatat sau ocolit. A treia constă în îmbunătățirea transparenței interne, astfel încât inginerii să poată inspecta modelul și identifica, din interiorul rețelei, sursa erorilor sau a comportamentelor anormale.
Gates a spus că practica actuală de a antrena modelele și apoi de a observa cum se comportă nu este o problemă insolubilă, însă necesită efort concertat pe toate aceste trei fronturi.
El a discutat și despre consecințele economice, precum și despre un experiment privat pe care l-a descris cu Claude, modelul Anthropic. Gates a spus că AI va prelua treptat multe sarcini de birou, de la suport pentru clienți, vânzări telefonice și contabilitate, până la funcții complexe precum programarea, cercetarea matematică și diagnosticul medical. Progresul continuu va aduce ulterior și automatizarea fizică, prin roboți utilizați în munca manuală.
Întrucât munca oferă venituri și un sentiment al scopului, Gates a spus că societățile ar putea păstra în mod deliberat anumite roluri pentru oameni, chiar și acolo unde AI i-ar putea depăși. El a descris discuții cu Claude despre menținerea unei părți din locurile de muncă pentru oameni și a spus că a încercat să stabilească un obiectiv potrivit căruia aproximativ 40% din forța de muncă să rămână ocupată de oameni. Claude a răspuns constant că o astfel de restricție ar reprezenta o limitare artificială a capacității AI.
Gates a avertizat că, fără limite deliberate, nici măcar 40% dintre locurile de muncă nu ar putea rămâne ocupate de oameni. El a prezis că perturbările deja vizibile în rândul matematicienilor se vor extinde și în alte domenii și că, deși beneficiile în medicină și reducerea costului vieții vor necesita timp, daunele în securitate și pe piața muncii vor apărea probabil în decurs de doi până la trei ani.
El a încheiat spunând că, chiar dacă AI este gestionată bine, următoarele două decenii vor fi extrem de perturbatoare: unii oameni vor îmbrățișa tehnologia, în timp ce alții s-ar putea retrage din ea, în comunități asemănătoare amishilor. A spus că, în cele din urmă, este posibilă o epocă a abundenței, însă a cerut avertismente publice oneste și decizii politice active pentru a modela felul în care va fi distribuit acel viitor.
Gates a spus că nu îi place să facă previziuni alarmiste, dar a insistat că avertizarea publicului este necesară și că omenirea își păstrează încă capacitatea de a decide cum să guverneze aceste tehnologii.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.