Totul a început cu o solicitare care a declanșat alarme interne: un prompt prin care unei inteligențe artificiale i se cerea să redacteze o propunere de cercetare pentru modificarea unui virus, astfel încât să se răspândească mai ușor. O frază scurtă. Un risc cât se poate de real.
Anthropic afirmă că sistemele sale de siguranță au identificat mai mulți oameni de știință care încercau să folosească Claude pentru a dezvolta capabilități biologice potențial periculoase și că a intervenit. Raportul publicat recent de companie analizează cinci studii de caz: nu scenarii desprinse din filme, ci direcții de cercetare subtile și plauzibile, care pot estompa granița dintre știința legitimă și utilizarea abuzivă.
Unul dintre cele mai îngrijorătoare exemple a vizat chikungunya. Clasificatorul de siguranță a semnalat o cerere privind proiectarea unui studiu de tip gain-of-function, menit să crească transmisibilitatea virusului și capacitatea acestuia de a evita răspunsul imun. Chikungunya nu are un tratament antiviral aprobat și îi poate lăsa pe pacienți slăbiți timp de săptămâni sau chiar luni. Când cercetarea propusă a părut să fie legată de un laborator afiliat armatei, îngrijorarea Anthropic a crescut.
Cercetarea de tip gain-of-function explorează, prin definiție, modificări genetice care schimbă proprietățile unui organism. Aceiași pași experimentali care pot ajuta la dezvoltarea vaccinurilor sau a terapiilor pot fi redirecționați pentru a face agenții patogeni mai periculoși. Această dimensiune cu dublă utilizare face ca detectarea automată să fie extrem de dificilă. Cum diferențiezi un studiu legitim de siguranță de o foaie de parcurs pentru producerea de prejudicii? Răspunsul este rareori unul clar.
Într-un alt caz, un cercetător a folosit Claude pentru a alcătui un atlas al peptidelor toxice din veninuri și a cerut un flux de producție pentru optimizarea proprietăților acestora. Raportul consemnează și tentative de folosire a modelelor pentru activități dăunătoare în mediul digital: operațiuni de supraveghere, dezvoltarea de exploit-uri software, propagandă și modalități de înarmare a sistemelor convenționale.
Anthropic afirmă că a blocat conturile implicate și integrează concluziile în cadrul său de siguranță, pentru a face mecanismele automate de apărare mai inteligente și mai prudente.
Jacob Klein, șeful departamentului de informații despre amenințări de la Anthropic, a spus clar: „Nu este un scenariu din benzi desenate în care cineva declară răspicat că vrea să construiască o armă biologică. Sunt cazuri complexe, încurcate, care necesită judecată.” Anthropic susține că această judecată a justificat prudența.
Compania a refuzat să identifice persoanele sau instituțiile implicate, invocând natura nuanțată a cercetării biologice și riscul unor interpretări greșite. Totuși, episodul ridică întrebări urgente despre cine poartă responsabilitatea controlării cercetării cu dublă utilizare atunci când modele puternice sunt disponibile pe scară largă. Cine are dreptul să traseze granița? Și cât de repede pot ține pasul sistemele de siguranță, pe măsură ce tehnicile devin mai accesibile?
Raportul nu oferă o concluzie clară. Este imaginea unei probleme aflate într-o evoluție rapidă: instrumente AI care accelerează descoperirile și care, dacă sunt folosite abuziv, scurtează drumul de la idee la producerea de prejudicii. Miza de acum este îmbunătățirea detectării, extinderea supravegherii și stabilirea nivelului de prudență pe care lumea este dispusă să îl accepte înainte de a pune aceste capabilități la dispoziția celor care le-ar putea utiliza abuziv.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.