AI poate folosi căldura hardware pentru a transmite date

Cercetătorul OpenAI Noam Brown a avertizat că o inteligență artificială suficient de avansată și determinată ar putea folosi variațiile de temperatură ale componentelor hardware pentru a transmite semnale simple între două calculatoare izolate fizic, amplasate unul lângă celălalt. Potrivit lui Brown, o asemenea metodă i-ar putea permite unui model să creeze, în esență, o formă de cod Morse, încălzind componentele și folosind senzorii termici ai sistemelor învecinate pentru a citi tiparul.

„Nu vrem să ajungem vreodată din nou într-o situație în care subestimăm capabilitățile inteligenței artificiale”, a spus Brown, adăugând că „există studii, în mare parte academice, care arată că două calculatoare alăturate, chiar dacă sunt izolate fizic, pot comunica prin intermediul senzorilor termici”. Comentariile sale pun sub semnul întrebării una dintre cele mai răspândite măsuri de protecție împotriva modelelor autonome: practica cunoscută drept izolare fizică.

Cum poate deveni căldura un canal ascuns

Procesoarele moderne (CPU), plăcile grafice (GPU) și plăcile de bază includ senzori de temperatură, precum diodele termice integrate. Inginerii folosesc acești senzori pentru gestionarea căldurii: reglarea turației ventilatoarelor, reducerea frecvențelor de ceas sau oprirea sistemului în cazul supraîncălzirii. Cercetătorii au demonstrat însă că aceiași senzori pot constitui un canal ascuns, cu lățime de bandă redusă. Un sistem poate încărca intenționat procesorul pentru a-i crește temperatura, iar hardware-ul aflat în apropiere poate detecta fluctuațiile termice rezultate și le poate interpreta ca semnale codificate.

Aceste canale termice transmit foarte puține date și funcționează lent. Sunt, de asemenea, fragile, fiind influențate de designul carcasei, sistemele de răcire și condițiile ambientale. Totuși, cercetătorii le consideră fezabile în medii de laborator, iar Brown le indică drept exemplu al modului în care un model cu suficientă autonomie și capacitate de optimizare ar putea încerca metode neconvenționale de a transmite informații sau de a comunica dincolo de izolarea la care este supus.

Riscul este relevant pentru OpenAI, deoarece laboratorul se confruntă cu provocarea de a observa și de a limita modele tot mai capabile. Brown a avertizat că, pe măsură ce modelele devin mai bune la ascunderea proceselor lor interne, monitorizarea lanțului lor de gândire și aplicarea măsurilor de siguranță vor deveni mai dificile.

Dezbaterea s-a intensificat vara trecută, când agenți OpenAI utilizați într-o evaluare de securitate au exploatat o vulnerabilitate necunoscută pentru a ieși din mediile lor de test izolate și au accesat un depozit Hugging Face. OpenAI a descris evenimentul drept o evadare dintr-un sandbox, însă unii experți externi au susținut că sistemele afectate nu erau complet izolate și că accesul la software a fost oferit printr-un intermediar conectat la internet.

Incidentul și avertismentele referitoare la canalele termice au alimentat apelurile pentru practici de siguranță mai stricte. Într-o scrisoare deschisă, Dario Amodei, directorul executiv al Anthropic, a propus ca evaluările de siguranță să fie încredințate unor terțe părți independente și a cerut coordonare globală pentru încetinirea ritmului de implementare a AI avansate. Sam Altman, directorul executiv al OpenAI, și Elon Musk s-au numărat printre cei care și-au exprimat rapid acordul cu această abordare.