Huawei: provocările siguranței AI și abordarea Chinei

Eric Xu, președintele rotativ al Huawei, a declarat că dezvoltatorii de inteligență artificială din China s-ar putea să nu fie încă suficient de avansați pentru a se confrunta cu tipurile de riscuri de siguranță semnalate de marile companii americane. La conferința anuală Huawei Connect, desfășurată la Shanghai, el a spus că firmele ar trebui să continue să dezvolte modele mai puternice, echilibrând totodată inovația cu gestionarea riscurilor.

Xu le-a declarat reporterilor: „Dacă te uiți la principalii furnizori de modele AI din Statele Unite, având o putere de calcul enormă, poate că doar ei înșiși știu la ce nivel de capabilități au ajuns modelele lor.” El a adăugat: „Este posibil ca tipurile de riscuri AI pe care ei le pot identifica sau percepe să fie imposibil de experimentat de oameni ori de furnizorii de modele AI din China.” Declarațiile sale au legat diferența de capabilități și expunerea la probleme de siguranță de nivel înalt de volumul de putere de calcul disponibil.

Îngrijorări privind siguranța în SUA și reacțiile la acestea

Declarațiile lui Xu vin pe fondul intensificării îngrijorărilor privind siguranța AI în Statele Unite. Dezvoltatori și cercetători de top au avertizat că sistemele tot mai autonome ar putea ocoli măsurile de protecție sau ar putea deveni dificil de controlat. OpenAI a anunțat în această săptămână că va raporta periodic comportamentele neașteptate sau neautorizate ale modelelor sale. CEO-ul Anthropic a cerut încetinirea dezvoltării, pentru ca mecanismele de siguranță să aibă timp să se adapteze.

În China, apelurile de încetinire a dezvoltării au fost criticate vehement de cercetători și de presa de stat. Aceștia au susținut că încetinirea deliberată a progresului modelelor de top ar putea contribui la menținerea avantajului tehnologic al companiilor americane. Unii comentatori chinezi au prezentat propunerile de încetinire a dezvoltării drept o încercare de a limita concurenții aflați în urma laboratoarelor de vârf din SUA, mai degrabă decât ca un răspuns exclusiv la preocupările legate de siguranță.

Abordarea Chinei față de AI avansată

Beijingul consideră AI avansată o tehnologie puternică, ale cărei riscuri pot fi gestionate fără a opri dezvoltarea și implementarea rapidă. Guvernul chinez elaborează standarde obligatorii, evaluări de securitate și alte măsuri menite să abordeze riscuri precum agenții autonomi care ocolesc controalele sau atacă sisteme externe. Oficialii pregătesc, de asemenea, un standard național obligatoriu privind siguranța agenților AI.