OpenAI și Broadcom lansează cipul Jalapeno pentru AI

Un cip compact a ajuns la OpenAI în această săptămână și a părut mai mult decât hardware. A fost o declarație. Numit Jalapeno, noul ASIC marchează prima încercare internă a OpenAI de a dezvolta un cip, realizat în colaborare cu Broadcom pentru a accelera inferența AI pentru compania care a adus ChatGPT lumii.

OpenAI numește designul un Intelligence Processor și îl descrie ca primul accelerator dintr-o platformă pe care compania o asamblează pentru a rula modele avansate mai rapid, mai fiabil și la scară mai mare. Broadcom va fabrica siliciul. OpenAI spune că a proiectat Jalapeno în aproximativ nouă luni și a dezvoltat, de asemenea, mari porțiuni din sistemele de calcul din jurul cărora aceste cipuri vor funcționa.

De ce contează pentru calculul AI

GPU-urile de la Nvidia au fost coloana vertebrală a AI moderne. Sunt flexibile și puternice. Dar vin la prețuri ridicate și cu blocaje de aprovizionare. ASIC-urile schimbă din flexibilitate pentru eficiență și economii de cost. Acest lucru le face atractive atunci când un volum de lucru poate fi optimizat foarte precis. Jalapeno este pariul OpenAI că hardware-ul ajustat cu grijă poate livra mai multă putere de calcul per watt și poate ajuta compania să extindă accesul la modele avansate.

OpenAI se desparte de Nvidia? Nu chiar. Este o diversificare, determinată de cererea care continuă să accelereze. La începutul acestui an OpenAI a încheiat acorduri pentru a folosi cipurile Trainium de la Amazon și a semnat parteneriate cu AMD și Cerebras. Acum, cu Broadcom care produce Jalapeno, OpenAI urmărește să adauge o rută suplimentară, fiabilă, către puterea brută de calcul în timp ce construiește rafturi de hardware personalizat care, la întreaga ambiție, ar putea necesita în jur de zece gigawați de energie.

Există și jaloane practice. Un exemplu fizic al cipului Jalapeno a fost livrat miercuri. Companiile spun că se așteaptă la implementări inițiale până la sfârșitul lui 2026 și la extinderi mai largi în anii care urmează. Dacă termenele se mențin, am putea asista la începutul unei schimbări semnificative în modul în care modelele mari de limbaj sunt servite în producție.

Veștile au avut efect asupra Broadcom. Acțiunile sale au crescut cu aproximativ două procente după anunț. Producătorul de cipuri a fost unul dintre câștigătorii pieței AI, cu acțiuni în creștere cu aproximativ zece procente de la începutul anului și aproape de șapte ori față de sfârșitul lui 2022, pe măsură ce marile clouduri și laboratoarele AI comisionează siliciu personalizat.

Există compromisuri. ASIC-urile sunt mai puțin flexibile decât GPU-urile generale, așa că funcționează cel mai bine atunci când sunt împerecheate cu un stack software și de sisteme precis. Miza OpenAI este că, proiectând o parte mai mare din acel stack intern, poate obține o eficiență mai bună și poate extinde accesul la instrumente AI puternice. Pe scurt: construiești motorul, reglezi mașina și poți merge mai departe cheltuind mai puțin.

Adevărata probă va fi performanța în sarcini reale și cât de rapid poate OpenAI să își scaleze producția alături de Broadcom. Deocamdată, Jalapeno este un pas îndrăzneț către independența hardware și o reamintire că lanțul de aprovizionare AI evoluează de la componente gata făcute la platforme personalizate proiectate pentru o nouă clasă de software.