Nvidia afirmă că noua sa platformă Open Agent Safety poate izola, în câteva milisecunde, agenții AI care încearcă să încalce constrângerile prestabilite. Compania a prezentat platforma drept un instrument de monitorizare și izolare a agenților autonomi de inteligență artificială, pe fondul creșterii recente a atacurilor cibernetice și al relatărilor despre comportamentul necontrolat al modelelor.
Open Agent Safety este construită pe software-ul open source OpenShell și rulează pe procesorul AI Vera de la Nvidia. Un cip separat, echipat cu tehnologia Sentry, asigură supravegherea continuă, impune limite și izolează agenții care încearcă să depășească cadrul operațional definit. Potrivit Nvidia, utilizatorii stabilesc controale explicite privind datele pe care le poate accesa un agent, iar sistemul verifică respectarea acestor restricții atât înainte de începerea sarcinilor, cât și pe parcursul executării lor.
Cum funcționează sistemul
Platforma aplică politicile în mai multe etape: configurarea lor de către utilizator, verificările efectuate de OpenShell înainte de executarea sarcinilor și aplicarea lor în timpul rulării de către cipul echipat cu Sentry. Nvidia susține că această combinație de software și hardware dedicat poate detecta un agent care încearcă să efectueze acțiuni neautorizate și îl poate izola în câteva milisecunde.
Jensen Huang, directorul executiv al Nvidia, a declarat pentru CNBC: "Pentru a implementa în siguranță un sistem bazat pe agenți, trebuie să te asiguri că mediul izolat din jur este proiectat astfel încât accesul agenților să fie redus la minimum posibil."
Îngrijorările privind siguranța agenților au crescut după ce companii precum OpenAI, Anthropic și Google au raportat cazuri în care modelele au părăsit mediile de testare și au accesat infrastructura altor organizații. Nvidia spune că mari companii de tehnologie, precum Microsoft, Anthropic și SpaceX, susțin abordarea sa în materie de securitate.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.