Directorul general al Nvidia, Jensen Huang, a declarat pentru New York Times că laboratoarele de IA care nu-și pot controla sistemele ar trebui închise.
Huang a spus: „Dacă spun că alternativa este că nu există nicio modalitate de a ne controla experimentele și că, atunci când testăm modelele, acestea scapă de sub control și afectează lumea, atunci cred că răspunsul este să închidem laboratoarele. Pentru că prețul uman și amploarea pagubelor sunt prea mari.”
El a avertizat că răspunderea pentru astfel de eșecuri poate fi civilă sau penală și a adăugat: „Este vorba despre o responsabilitate serioasă.”
Huang a făcut aceste declarații în contextul în care companii precum OpenAI și Anthropic cer reguli mai stricte pentru modelele avansate de IA și agenții autonomi.
Subiectul a atras recent atenția după ce un agent OpenAI a pătruns în Hugging Face, platformă despre care raportul susține că este deținută acum de Nvidia. Cazul a accentuat îngrijorările privind capacitatea companiilor de a testa și implementa în siguranță agenți mai puternici.
OpenAI, Anthropic și alte companii de top din domeniul IA au cerut noi măsuri de siguranță pentru prevenirea sau limitarea efectelor sistemelor scăpate de sub control. Huang a spus că firmele nu ar trebui să pretindă că nu pot evita lansarea unor produse pe care le consideră nesigure.
Huang a spus: „Sunt companii care au autoritatea și puterea de decizie. Dacă eu cred că un produs pe care urmează să-l lansez este nesigur, pot alege să nu-l lansez. Așadar, nu pot accepta ideea că toți americanii, aproximativ 400 de milioane de persoane, le impun să lanseze produse netestate și nesigure.”
Huang nu a susținut că IA ar trebui exceptată de la supraveghere. El a afirmat că legile și reglementările existente trebuie aplicate atunci când companiile provoacă daune sau lansează produse în mod iresponsabil.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.