Altar-1: model AI local pentru detectarea vulnerabilităților

Compania belgiană Aikido Security a prezentat Altar-1, un model AI pentru descoperirea vulnerabilităților și analiza codului, care poate rula pe infrastructura locală a unei organizații.

Aikido afirmă că disponibilitatea greutăților modelului și posibilitatea rulării locale sunt menite să reducă dependența de serviciile cloud și să împiedice ieșirea din rețelele interne a codului sensibil și a rezultatelor analizelor de securitate.

Altar-1 nu a fost antrenat de la zero. Aikido l-a construit pe baza GLM-5.3 de la Z.AI și i-a redus dimensiunea prin cuantizare și eliminarea unor experți (pruning).

Aikido spune că versiunea completă a GLM-5.3 ocupă aproximativ 1,51 terabyți. Cuantizarea a redus dimensiunea la 488 gigabyți, iar procesul de pruning a coborât-o ulterior la 328 gigabyți.

Prin pruning, Aikido a eliminat 88 dintre cele 256 de secțiuni de experți, adică aproximativ 34,4% dintre experți.

Aikido afirmă că Altar-1 este optimizat pentru identificarea vulnerabilităților software, analiza codului, apelarea de instrumente, raționament și fluxuri de lucru pentru testarea de penetrare. Modelul poate rula pe patru GPU-uri H200 folosind vLLM.

Compania subliniază relevanța modelului pentru organizațiile care nu își permit ca codul sau datele de securitate să părăsească rețelele interne, în special din sectoarele bancar, al sănătății și al infrastructurilor critice.

Pentru evaluare, Aikido a testat Altar-1 pe un set de 32 de vulnerabilități cunoscute din 30 de depozite de cod. Altar-1 a detectat în total 60,4% dintre vulnerabilități și a identificat cel puțin o instanță pentru 23 dintre cele 32 de probleme.

Prin comparație, Aikido raportează o rată de detectare de 61,5% pentru GLM-5.3 cuantizat și de 65,6% pentru versiunea originală a GLM-5.3. Aikido a realizat testele și precizează că rezultatele nu reflectă neapărat performanța în cazul vulnerabilităților necunoscute sau în condiții reale de funcționare.

Aikido spune că Altar-1 reprezintă primul pas din planul Aikido Labs de a dezvolta modele de securitate dedicate cercetării vulnerabilităților, analizei codului, remedierilor automate și testării avansate de penetrare. Greutățile modelului sunt publicate pe Hugging Face, iar implementarea locală este suportată.

Notă tehnică: pagina Hugging Face listează Altar-1 cu aproximativ 504 miliarde de parametri, în timp ce cifra de 328 gigabyți se referă la dimensiunea greutăților INT4. Aikido avertizează că aceste două valori nu sunt echivalente.