OpenAI afirmă că noul său sistem centralizat, Camera de control, poate împiedica un model să mai genereze rezultate în cel mult 35 de secunde de la emiterea unei comenzi de intervenție.
Compania descrie Camera de control drept un strat de siguranță care conectează sarcinile de cercetare, motoarele de inferență și un serviciu centralizat de autorizare, astfel încât procesele de cercetare în desfășurare care prezintă riscuri să poată fi oprite. OpenAI precizează că sistemul este implementat acum în întreaga sa infrastructură de cercetare.
Cum funcționează mecanismul de oprire și revocare
Camera de control conectează trei componente principale: sarcina de cercetare, motorul de inferență și serviciul centralizat Camera de control. În terminologia OpenAI, o sarcină reprezintă o activitate de cercetare, precum experimente de învățare prin întărire, evaluări sau joburi ample de procesare a datelor care necesită inferență bazată pe agenți.
Fiecare sarcină care necesită inferență bazată pe agenți trebuie asociată unui document de siguranță aprobat. Când un cercetător pornește un proces, codul sarcinii solicită de la Camera de control un ID unic pentru sarcină. Acest ID este inclus în fiecare cerere trimisă către motoarele de inferență, care rulează modelele direct pe GPU-uri și generează rezultate.
Înainte ca un motor de inferență să returneze un răspuns, acesta interoghează Camera de control pentru a confirma că sarcina este în continuare autorizată. Dacă un cercetător sau un sistem automat de monitorizare emite o comandă de oprire, serviciul Camera de control va refuza următoarea cerere, iar motorul de inferență va bloca orice rezultate ulterioare. OpenAI subliniază că execuția programului nu este neapărat terminată sau închisă; este blocată, în schimb, capacitatea modelului de a genera rezultate. Această arhitectură mută stratul critic de validare în motorul de inferență și reduce dependența de verificările de securitate realizate de cercetători în bazele de cod individuale.
OpenAI spune că Camera de control a fost proiectată după principiul blocării implicite în caz de eroare. Dacă serviciul centralizat suferă o defecțiune, este compromis sau devine indisponibil, motoarele de inferență nu vor procesa cereri până la restaurarea sistemului.
Compania atribuie întârzierea maximă de până la 35 de secunde dintre emiterea comenzii de oprire și blocarea efectivă a rezultatelor unui strat de cache folosit pentru gestionarea unui volum mare de cereri. OpenAI afirmă că lucrează la reducerea acestui interval spre zero.
OpenAI spune că Camera de control este acum implementată în întreaga sa infrastructură de cercetare.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.