Yann LeCun a declarat pentru Fortune că „nu este deloc îngrijorat” de posibilitatea ca inteligența artificială să provoace extincția umanității. Totodată, l-a descris pe Dario Amodei, CEO-ul Anthropic, drept deluzional și nebun și a criticat numeroase laboratoare de IA pentru înțelegerea lor deficitară a securității cibernetice.
Comentarii despre siguranță, Premiul Turing și incidentele menționate
LeCun, care a împărțit Premiul Turing din 2018 cu Geoffrey Hinton și Yoshua Bengio pentru contribuțiile sale în domeniul învățării profunde, a spus că nu împărtășește îngrijorările profunde privind riscurile IA exprimate de unii dintre colegii săi. În interviul acordat publicației Fortune, el a afirmat că nu are „nicio îngrijorare” că IA va distruge omenirea și nu s-a arătat alarmat de incidentele recente care au implicat agenți autonomi, menționând ca exemplu agenții independenți ai OpenAI care au accesat Hugging Face în iulie.
El a pus astfel de evenimente pe seama unei supravegheri umane slabe și a unui design defectuos al sistemelor, nu a unei amenințări existențiale. „Acești agenți fac exact ceea ce li s-a cerut să facă. Ar fi trebuit să funcționeze în medii izolate, dar aceste medii au avut scurgeri și au fost proiectate prost”, a spus el, susținând că problemele pot fi prevenite complet.
Critici directe la adresa Anthropic și a comunicării publice
LeCun a dat drept exemplu Anthropic și alte laboratoare, afirmând că multe dintre ele nu au o înțelegere adecvată, bazată pe principii, a securității cibernetice. El a adăugat că unele persoane care lucrează în domeniul siguranței IA au „o agendă specifică de promovat” și l-a criticat nominal pe Amodei. Potrivit lui LeCun, deși Amodei încearcă să se distanțeze de anumite idei ale altruismului eficient, rămâne apropiat de această mișcare și este deluzional și nebun.
LeCun a criticat și avertismentele publice lansate de Dario Amodei și Sam Altman, CEO-ul OpenAI, potrivit cărora IA ar putea ucide omenirea. El a spus că astfel de afirmații sunt „foarte dăunătoare” pentru publicul care se teme de tehnologie și a numit această retorică „cea mai proastă campanie de marketing posibilă”.
Despre motivele lui Amodei, LeCun a spus: „El este sincer. Încearcă să facă ce e mai bine pentru companie; o companie care este aproape de oferta publică inițială. Dar a spune că IA este prea periculoasă pentru a fi în mâinile noastre, că trebuie reglementată și că modelele open-source sunt prea periculoase, aceasta reprezintă o captură a reglementării și, dacă ar fi urmată prin acțiune legislativă, va avea un efect foarte negativ.”
LeCun a susținut că eșecurile operaționale recente își au originea în supravegherea umană și în probleme de proiectare care pot fi remediate, nu reprezintă dovezi ale unui risc existențial inevitabil.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.