OpenAI acceptă evaluări voluntare pentru modele AI avansate

Când un guvern cere să arunce o privire sub capota inteligenței artificiale de ultimă generație, companiile de obicei ezită. OpenAI nu a ezitat, cel puțin nu în totalitate. George Osborne, responsabilul OpenAI pentru relația cu statele, a declarat în fața publicului de la SXSW din Londra că firma va participa voluntar la noul proces din SUA care solicită acces timpuriu la modelele avansate.

Inițial, decretul executiv promovat de Casa Albă viza o fereastră de 90 de zile pentru depunerea înainte de lansare. Propunerea a întâmpinat rezistență. S-a moderat, potrivit relatărilor, până la o solicitare de 30 de zile, după reacții publice și chiar unele ezitări publice ale președintelui Trump. Formularea finală cere acces în loc să-l impună, dar semnalează totuși o supraveghere mai strictă pentru cele mai capabile sisteme.

OpenAI a acceptat să își supună modelele de generație următoare unui exercițiu de benchmarking conceput pentru a evalua „capabilitățile cibernetice avansate ale modelelor AI” și pentru a contribui la stabilirea pragului pe care reglementatorii l-ar putea eticheta ca „model frontieră acoperit”. Ce înseamnă asta în practică? Gândiți-vă la asta ca la testarea la stres a unui software pentru riscuri din lumea reală: capabilitățile, potențialul de abuz și postura de securitate sunt toate măsurate în raport cu interesul public.

Osborne a prezentat mișcarea ca fiind proactivă. A spus că OpenAI a propus modalități prin care guvernele pot monitoriza siguranța și securitatea AI nu doar în SUA, ci la nivel global. Această abordare reflectă o schimbare în industrie: companii care anterior erau defensive față de reglementare văd acum o anumită coordonare ca pe o modalitate de a evita reglementări pripite și prost concepute.

Totuși, cooperarea voluntară este diferită de supravegherea obligatorie. Companiile pot respecta, pot consilia sau pot riposta. Ele pot, de asemenea, modela benchmark-urile și definițiile care rezultă din acestea. Pentru factorii de decizie, provocarea va fi să se asigure că benchmark-urile rămân riguroase, transparente și rezistente la capturare. Pentru firme, calculul include reputația, accesul pe piață și povara practică de a preda modele sensibile, chiar și recenzorilor verificați.

Reglementare la cerere. Benchmarking prin acord. Începe un nou capitol în modul în care industria și guvernele negociază controlul asupra AI-ului puternic, iar acesta ridică întrebări familiare, dar urgente, despre responsabilitate, transparență tehnică și cine decide pragurile pentru siguranță. Urmăriți evoluția: testele însele ne pot spune mai mult decât orice decret executiv.