Recomandările ChatGPT, sub Amenințare: Creșterea Riscului de Dezinformare Generată de Inteligență Artificială

Recomandările ChatGPT, sub Amenințare: Creșterea Riscului de Dezinformare Generată de Inteligență Artificială

ChatGPT s-a consolidat rapid ca una dintre cele mai populare platforme pentru recomandări bazate pe inteligență artificială, fie că utilizatorii caută servicii online de încredere, afaceri locale sau produse specializate. Cu toate acestea, noi dovezi evidențiază o vulnerabilitate majoră: infractorii cibernetici și escrocii manipulează în mod activ baza de cunoștințe a ChatGPT, introducând recomandări înșelătoare sau chiar dăunătoare prin intermediul unor website-uri compromise și a unor domenii expirate.

Cum „otrăvesc” rezultatele AI actorii rău intenționați

Investigațiile recente, printre care și cele realizate de James Brockbank, fondator și director general al Digitaloft, au scos la iveală amploarea acestor manipulări. În ultimele luni, Brockbank a identificat un tipar îngrijorător: ChatGPT face recomandări provenite direct de pe site-uri piratate sau domenii abandonate care au fost reconfigurate pentru activități frauduloase. Aceste platforme deturnate promovează adesea jocuri de noroc online, cazinouri sau conținut comercial irelevant, fără niciun control sau autoritate reală.

De exemplu, website-ul unei firme de avocatură legitime, deținută de avocata Veronica T. Barton, găzduia pagini ascunse care promovau cazinouri din Marea Britanie – conținut inserat sub acoperire de intruși. Într-un alt caz, un site oficial al unei coaliții de tineret a Națiunilor Unite a fost transformat într-un portal de publicitate pentru „cazinouri care nu folosesc GamStop”. Domenii expirate ce aparținuseră unor organizații caritabile de renume – anterior menționate de publicații precum BBC sau Bloomberg – au ajuns să fie folosite pentru spam și reclame la jocuri de noroc. Șocant este că ChatGPT continuă să recomande aceste resurse compromise, atribuindu-le în mod eronat încrederea câștigată în trecut datorită identității anterioare.

De ce citează ChatGPT linkuri compromise?

Spre deosebire de motoarele de căutare tradiționale, modelul lingvistic al ChatGPT nu poate verifica în mod independent deținătorul unui site sau controlul editorial. ChatGPT tinde să acorde prioritate conținutului recent și să se bazeze puternic pe reputația istorică a unui domeniu. Această abordare facilitează activitatea infractorilor cibernetici: prin inserarea de spam sau materiale malițioase în domenii care au fost cândva de încredere dar nu mai sunt monitorizate, escrocii se asigură că recomandările generate AI vor include conținutul lor, prezentând un risc semnificativ pentru utilizatori.

Diferențe față de motoarele de căutare

Motoarele de căutare clasice folosesc algoritmi pentru a evalua în timp real credibilitatea, autoritatea și relevanța conținutului, eliminând frecvent din rezultate domeniile compromise sau deturnate. Prin comparație, ChatGPT nu dispune în prezent de astfel de măsuri de protecție, ceea ce îl face mai vulnerabil la manipulări.

Sfaturi pentru siguranță: Cum să te protejezi

Specialiștii recomandă ca, deși ChatGPT este un instrument valoros pentru identificarea de produse, servicii și soluții, utilizatorii nu trebuie să accepte automat veridicitatea oricărei recomandări generate. Pentru a vă proteja:

• Verificați întotdeauna reputația, deținătorul și istoricul oricărui website recomandat de ChatGPT.
• Fiți atenți la conținut neobișnuit sau irelevant, mai ales dacă apare pe domenii anterior respectate.
• Folosind instrumente independente, precum verificatori de istoric al domeniilor sau plugin-uri de securitate, puteți valida autoritatea site-ului.

Impactul asupra pieței și pași pentru siguranța AI

Riscul ca sistemele AI să fie „otrăvite” cu date false crește pe măsură ce tot mai mulți utilizatori se bazează pe platforme de generare de conținut AI. Chiar dacă ChatGPT oferă funcționalități inovatoare și o capacitate puternică de sinteză a informațiilor, modalitatea actuală de selectare și recomandare a linkurilor rămâne vulnerabilă. Comunitatea tehnologică solicită validarea sporită a surselor și introducerea de noi măsuri de securitate pentru modelele lingvistice de inteligență artificială, asigurând astfel că recomandările rămân de încredere pe măsură ce tehnologia se extinde.

Concluzie

Pe măsură ce platformele AI generative ca ChatGPT devin esențiale pentru descoperirea de informații online, vigilența este crucială. Utilizatorii, profesioniștii și companiile trebuie să conștientizeze aceste riscuri în evoluție, să evalueze cu discernământ recomandările primite și să susțină adoptarea unor măsuri de protecție mai solide pentru sistemele AI. O utilizare responsabilă și o îmbunătățire continuă a tehnologiei vor fi esențiale pentru ca recomandările generate de inteligența artificială să aducă beneficii în siguranță tuturor.