AI conversațional și riscul fraudelor în cumpărături

Cineva a dat clic pe un link care părea oficial. Prețul era prea bun pentru a fi adevărat. Coletul nu a ajuns niciodată. Contul bancar a fost golit. Aceasta nu este un thriller tehnologic. Este un tipar pe care cercetătorii în securitate îl observă acum, acolo unde AI conversațional se întâlnește cu fraudele online.

Investigații recente ale serviciului de verificare a fraudelor Ask Silver au descoperit că ChatGPT poate să afișeze magazine online convingătoare, dar false, atunci când utilizatorii întreabă despre produse ale unor mărci britanice cunoscute precum Russell & Bromley sau Dunelm. Discounturi atractive. Vitrine plauzibile. Linkuri care îndrumă cumpărătorii către site-uri clonate create pentru a fura bani și detalii de plată.

Când datele de antrenament devin un punct slab

Atacanții plantează pagini malițioase pe web. Aceste pagini sunt scanate, indexate și, atunci când momentul este potrivit, preluate în sursele care alimentează modelele mari de limbaj. Rezultatul este ceea ce experții numesc 'otrăvirea datelor': modelul învață din pagini frauduloase și apoi repetă aceleași recomandări greșite utilizatorilor de zi cu zi.

Anna Jones de la Ask Silver spune că infractorii uneori profită de momente ciudate în ciclul de viață al unui brand, cum ar fi o schimbare de proprietate sau faptul că site-ul oficial este inaccesibil, pentru a furniza AI-ului referințe false și a face ca site-urile lor să pară legitime. Trucul este simplu. Creează o pagină credibilă. Fă-o să pară magazinul real. Apoi lasă modelul să o preia și să o recomande.

Lewis Baxter, care conduce echipa antifraudă la National Trading Standards din Marea Britanie, avertizează că simpla prezență a unui site într-un răspuns al AI nu este o dovadă de autenticitate. Oamenii apelează la chatbots pentru sfaturi rapide de cumpărături. Escrocii s-au adaptat la fel de repede. Văzând un link convingător într-un răspuns al chatbotului, cumpărătorul poate fi determinat să sară peste verificările de bază.

Magazinele false descrise în rapoarte sunt adesea îngrijorător de bine puse la punct. Ele folosesc nume de domenii apropiate de brandurile autentice, adăugând cuvinte precum onlineuk sau official lângă un nume cunoscut, și promovează reduceri mari, uneori până la 80%, pentru a determina cumpărătorii să acționeze impulsiv. Multe dintre aceste site-uri acceptă doar transferuri bancare, un alt semnal de alarmă.

Verificați întotdeauna vânzătorul direct: căutați magazinul după nume, verificați site-ul oficial și nu plătiți niciodată prin transfer bancar decât dacă sunteți sigur că vânzătorul este legitim.

Ce pot face utilizatorii acum? Încetiniți. Citiți URL-ul cu atenție. Fiți atenți la cuvinte în plus, sufixe ciudate și greșeli de ortografie. Preferă cardurile sau metodele de plată care oferă protecție pentru cumpărător. Dacă un site insistă asupra unui transfer bancar, considerați-l un semnal puternic să renunțați. Când este posibil, tastați numele retailerului într-un motor de căutare sau navigați acolo printr-un bookmark de încredere în loc să dați clic pe un link oferit de un chatbot.

• Verificați atent domeniul pentru cuvinte în plus sau terminații necunoscute.
• Căutați date de contact și dovezi sociale verificabile.
• Evitați opțiunile de plată care acceptă doar transfer bancar.
• Folosiți carduri de credit sau servicii de plată care oferă protecție pentru cumpărător.

OpenAI spune că a eliminat site-urile frauduloase identificate din rezultatele de căutare ale modelului și oferă o modalitate ca utilizatorii să raporteze linkuri problematice. Utile. Necesare. Dar nu o soluție completă. Modelele învață din mari porțiuni ale web-ului, iar atacatorii au nevoie doar de câteva pagini convingătoare pentru a provoca daune.

În cele din urmă, responsabilitatea este comună. Echipele tehnice trebuie să întărească canalele de date ale modelelor și să detecteze otrăvirea datelor. Platformele trebuie să-și îmbunătățească verificarea linkurilor. Iar cumpărătorii trebuie să trateze sugestiile AI ca puncte de plecare, nu ca aprobări. Păstrați curiozitatea vie. Păstrați prudența aproape.