4 Minute
Se pare că Apple a fost la un pas de a elimina Grok din App Store după ce chatbotul xAI a fost legat de un val de pornografie deepfake neconsimțită, inclusiv imagini cu minori. Pentru câteva zile urâte din ianuarie, consecințele s-au răspândit rapid pe X, iar tăcerea din Cupertino a fost greu de ignorat.
Potrivit unui raport CNBC citat de 9to5Mac, Apple a avertizat xAI că Grok ar putea fi eliminat dacă problemele aplicației privind generarea de imagini nud deepfake nu vor fi puse sub control. Compania respinsese deja cel puțin o actualizare, clarificând că X a rezolvat o parte din mizeria mai largă legată de moderare, în timp ce aplicația Grok în sine încă nu respecta regulile App Store.
Scrisoarea Apple, făcută publică săptămâna aceasta, lăsa puțin loc de interpretare. După ce a revizuit noile trimiteri, compania a spus că X a 'rezolvat substanțial' încălcările, dar Grok rămânea neconformă. Mesajul a fost direct: rezolvați problema sau riscați eliminarea.
Avertismentul avea importanță. Pe X, Elon Musk ajustase deja politicile de moderare după ce platforma a fost copleșită de conținut sexual ilegal generat de AI. Chiar și așa, aplicația Grok a fost mai lentă în a se schimba, iar utilizatorii au descoperit rapid că unele dintre abuzurile acelea încă mai puteau trece neobservate.
Când un blocaj devine o provocare
Provocarea lansată chiar de Musk nu a ajutat. După ce a îndemnat oamenii să încerce să genereze nuduri deepfake ale unor persoane reale cu Grok, mulți au făcut exact asta. De atunci, filtrele de siguranță s-au înăsprit, dar nu suficient pentru a face abuzul să dispară complet. Prompturile sunt poate mai dificile acum. Ocolirile încă există.
Regulile Apple privind conținutul generat de utilizatori nu sunt întotdeauna un model de claritate, dar moderarea nu este opțională. În cazul Grok, compania pare să fi decis că o oarecare moderare este mai bună decât niciuna, și asta ar fi putut fi suficient pentru ca aplicația să rămână activă.
Aici povestea devine incomodă. Apple are o istorie îndelungată de a elimina aplicații pentru încălcări ale politicii mult mai puțin alarmante decât aceasta. Aplicații de pornografie deepfake au fost șterse din magazin în tăcere și înainte, inclusiv cel puțin 28 eliminate după ce un raport separat a expus problema. Dar când aplicația în cauză îi aparține lui Elon Musk, procesul pare să devină mult mai complicat.
Bani. Politică. Influență. Birocrație. Alegeți. La Musk, toate sunt prezente.
Mai există și mitul persistent că X funcționează ca o fortăreață a libertății de exprimare intangibilă. Nu este așa. Iar Apple știe diferența. Totuși, compania pare să fi ales o cale mai blândă de data aceasta, permițând ca Grok să rămână disponibil după ceea ce a numit o actualizare substanțial îmbunătățită.
Ce s-a schimbat exact nu este clar. Apple nu a detaliat, iar xAI nu a oferit multe informații. Dar rezultatul vorbește suficient de tare: aplicația a supraviețuit, chiar și după ce a fost legată de unul dintre cele mai grave eșecuri de siguranță AI ale anului.
Cazuri ca acesta sunt motivul pentru care autoritățile de reglementare din întreaga lume continuă să examineze politicile App Store ale Apple. Unele guverne au susținut deja un model în care Revizuirea aplicațiilor este tratată mai mult ca un organism de supraveghere extern decât ca un gardian care răspunde doar Apple. După episodul Grok, această idee va părea cu atât mai atractivă pentru critici care cred că sistemul actual se cedă prea ușor când mizele sunt mari.
Lasă un Comentariu