Jacob Coxon, un cercetător în vârstă de 27 de ani care și-a dat recent demisia de la Anthropic, după ce a lucrat anterior la OpenAI, a avertizat că ritmul actual al dezvoltării inteligenței artificiale ar putea avea consecințe catastrofale pentru omenire și că unii cercetători din domeniul IA sunt cu adevărat înspăimântați. El și-a exprimat îngrijorările într-o postare pe rețelele sociale și într-un interviu acordat BBC.
Demisia și avertismentul principal
În postarea publică și în interviul acordat ulterior, Coxon a spus: "Dacă nu încetinim ritmul actual al progresului, există o probabilitate mare ca toți să murim în viitorul apropiat." El a afirmat că mulți angajați ai companiilor de IA sunt alarmați de viteza avansului și de posibilele consecințe ale tehnologiilor pe care le dezvoltă.
Coxon, care a lucrat la OpenAI înainte de a se alătura Anthropic, a declarat că susține propunerea CEO-ului Anthropic, Dario Amodei, de a încetini ritmul dezvoltării, însă a argumentat că orice încetinire semnificativă ar trebui coordonată cu China. Amodei a publicat sâmbătă un articol în care cere reducerea ritmului progresului în domeniul IA.
Îngrijorări privind presiunea competitivă și scenarii specifice
Coxon a descris concurența acerbă dintre companiile de IA drept o sursă de teamă pentru angajați. "Oamenii care lucrează la aceste companii sunt serioși când cer reglementări, deoarece se văd prinși într-o cursă și se tem de consecințele ei", a declarat el pentru BBC.
El a prezentat și un scenariu concret pe care îl consideră plauzibil: o rețea de boți care funcționează ca un singur supercomputer și care ar putea prelua controlul internetului. Coxon a spus că acest lucru s-ar putea întâmpla în termen de șase luni până la un an.
Declarația Anthropic și reacțiile din Silicon Valley
Un purtător de cuvânt al Anthropic a declarat pentru BBC că firma a spus întotdeauna clar că IA aduce beneficii foarte mari, dar și riscuri fără precedent. Acesta a adăugat că Anthropic continuă să dezvolte modele cu unele dintre cele mai solide mecanisme de siguranță din industrie.
Declarațiile lui Coxon au atras critici în Silicon Valley. Directorul executiv al Hugging Face, Clement Delangue, a scris pe X: "Ne pare rău, dar a-l întreba pe Jacob despre riscul extincției umane e ca și cum ai întreba un tehnician de aer condiționat despre schimbările climatice." Delangue a spus ulterior că este dispus să discute măsurile propuse de Amodei.
Potrivit mai multor persoane care au vorbit cu BBC, Jensen Huang, directorul executiv al Nvidia, ar fi spus la o conferință organizată de Goldman Sachs săptămâna trecută că declarațiile lui Coxon erau incorecte.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.