De ce generă AI-urile rezultate false și cum le corectăm

Imaginează-ți că îi ceri asistentului de căutare un fapt rapid și primești în schimb un zvon macabru: Donald Trump ar fi murit de rabie în această lună. Absurd. Șocant. Fals.

Acesta a fost titlul pe care unii utilizatori l-au întâlnit după ce au interacționat cu AI-ul DuckDuckGo, care a returnat o afirmație conform căreia Trump ar fi cedat în fața rabiei și a indicat chiar un articol aparent local de la WKNA News ca dovadă. Povestea fabricată a mers mai departe: susținea că J.D. Vance l-a mușcat pe Trump la sfatul lui Robert F. Kennedy Jr., care ar fi argumentat că rabia ar conferi puteri extraordinare. Asistentul a citat și un reportaj al ABC News despre o moarte din cauza rabiei în Ohio, o poveste reală, dar fără nicio legătură cu Trump.

Nimic din toate acestea nu se confirmă. Trump și Vance sunt în viață. RFK Jr. a făcut în trecut afirmații controversate despre sănătate, dar nu a sfătuit pe nimeni să caute infectarea cu rabie pentru a-și îmbunătăți starea de sănătate. Materialul WKNA la care a făcut referire AI-ul pare a fi un articol fals sau puternic manipulat, plasat pe web. DuckDuckGo nu a emis o explicație publică la momentul redactării.

Atunci cum a reușit un instrument de căutare susținut de AI să împletească aceste elemente într-o narațiune convingătoare, dar complet falsă? Răspunsul e dezordonat și de origine umană. Răufăcătorii și trolii online fabrică postări fictive, le copiază pe site-uri obscure și forumuri și lasă indexurile de căutare să le preia. Modelele de recuperare a informațiilor care alimentează AI-urile de căutare pot apoi să găsească acele fragmente, să le asambleze și să producă un răspuns cu ton de certitudine, fără contextul sau verificările pe care le-ar cere un editor uman.

Mai este un ingredient: dieta de antrenament și de recuperare a multor sisteme conversaționale include cantități vaste de conținut generat de utilizatori. Reddit, secțiunile de comentarii și blogurile marginale deseori scot la lumină materiale timpurii și neverificate. Când grupuri se coordonează din joacă sau cu rea-voință, ele pot împinge modelele spre afirmații false prin crearea unui traseu de urme care pare credibil pentru un instrument automat de găsire a surselor.

Aceste sisteme sunt concepute să fie utile și să răspundă rapid. Acea viteză este o caracteristică. Este și o vulnerabilitate. Modelele nu experimentează scepticism. Nu verifică dacă un outlet local a fost falsificat sau dacă un agregator a atribuit greșit un titlu. Ele sintetizează. Uneori acea sinteză devine o halucinație: o afirmație care sună plauzibil, dar fără nicio bază factuală.

Acest episod subliniază un adevăr simplu: AI-urile de căutare au nevoie de proveniență, indicatori de încredere și supraveghere umană înainte ca rezultatele lor să fie tratate drept fapte.

Pentru cititori, măsurile de precauție sunt familiare, dar merită repetate. Căutați coroborări în publicații consacrate. Urmați linkurile sursă până la reportajul original. Feriți-vă de afirmațiile senzaționale care apar pe site-uri mici sau recent create. Și dacă un asistent de căutare oferă o citare, deschideți-o, nu presupuneți că asistentul a făcut verificarea pentru dumneavoastră.

Pentru echipele platformelor, drumul înainte este tehnic și organizațional. Îmbunătățiți filtrele de recuperare pentru a deprioritiza domeniile de calitate scăzută. Afișați proveniența astfel încât utilizatorii să știe ce sursă a folosit AI-ul. Adăugați verificări automate care marchează afirmațiile improbabile și le direcționează spre revizuire umană. Și, în final, investiți în mecanisme de corecție rapidă atunci când ceva demonstrabil fals se răspândește.

Inteligența artificială va continua să devină mai inteligentă. La fel și oamenii care încearcă să o păcălească. Cine va învinge va depinde mai puțin de modele și mai mult de sistemele și practicile pe care le construim în jurul lor, și de faptul dacă utilizatorii continuă să pună întrebarea esențială: de unde provine asta?