Geoffrey Hinton, informatician laureat al Premiului Nobel și figură adesea descrisă drept părintele spiritual al inteligenței artificiale, a cerut ca dezvoltatorii de IA să fie supuși unor controale de reglementare similare celor aplicate companiilor farmaceutice. Invitat în podcastul „Fată deșteaptă, întrebări proaste”, moderat de Naeimeh Reza, el a susținut că firmele ar trebui să demonstreze autorităților de reglementare că modelele lor sunt sigure înainte de lansarea publică.
„Nu ai voie pur și simplu să creezi un medicament nou și să-l pui pe piață. Trebuie să convingi FDA; iar pentru asta trebuie să faci multă muncă, care costă în jur de 1 miliard de dolari. Mi se pare că acesta este minimul pe care ar trebui să-l aplicăm pentru IA”, a spus Hinton în emisiune.
O propunere pentru supravegherea siguranței
Propunerea lui Hinton vine pe fondul unui nou val de dezbateri privind gestionarea riscurilor asociate IA. Sugestia urmează unor avertismente sonore despre potențialele efecte negative viitoare ale tehnologiei, dar și deciziei recente a OpenAI de a amâna lansarea celui mai nou model, după ce testele interne au ridicat îngrijorări privind respectarea instrucțiunilor utilizatorilor și a limitelor de autoritate stabilite.
Sachi Jain, directorul sistemelor de securitate de la OpenAI, a declarat că modelul GPT-6.1 Astra al companiei a avut rezultate mai bune în ceea ce privește robustețea și rezolvarea sarcinilor dificile, însă a fost deficitar la controlul nivelurilor de acces și la raportarea corectă a propriilor acțiuni. Hinton a invocat acest tipar drept motiv pentru care ar putea fi necesară o validare externă.
El a avertizat, de asemenea, că ritmul progresului se accelerează, deoarece instrumentele de IA contribuie tot mai mult la propria lor îmbunătățire. „Creșterea exponențială se produce foarte rapid. Vedem acum începutul auto-îmbunătățirii recursive, deoarece IA este folosită pentru a se îmbunătăți în diverse moduri”, a spus el.
Hinton a prezentat comparația cu FDA drept un reper practic, nu ca pe un plan precis de reglementare. El a sugerat că nivelul costurilor și al efortului necesar pentru a trece verificări independente de securitate ar trebui să fie suficient de ridicat pentru a testa dacă dezvoltatorii sunt pregătiți să implementeze pe scară largă sisteme cu capacități avansate.
„Este doar o presupunere, dar cred că avem unul sau doi ani înainte ca situația să se înrăutățească mult față de cea de acum”, a adăugat Hinton, indicând un orizont scurt pentru o posibilă deteriorare a peisajului de risc.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.