Meta elimină întrebări generate de AI care au expus copii

Meta a eliminat de pe Instagram sugestiile problematice generate de AI, după ce o bloggeriță de lifestyle a arătat că instrumentul propunea întrebări care dezvăluiau detalii personale despre copilul și locuința sa.

Videoclipul a fost publicat de bloggerița Kiley Robbins, care postează pe Instagram sub numele @kontheinside. Robbins a arătat că sugestiile generate de AI, afișate sub un videoclip mai vechi în care cânta într-o mașină alături de fiica sa, includeau întrebări precum „Cu cine este copilul?” și „Unde locuiește Kiley Robbins?”

Robbins a spus că, după accesarea acelor întrebări generate de sistem, AI-ul a agregat informații din postările sale mai vechi și din alte conturi, inclusiv cel al mamei sale, pentru a reuni detalii private, precum adresa locuinței. Ea a mai afirmat că instrumentul a scos la iveală o fotografie ștearsă cu ani în urmă.

Videoclipul a atras rapid mii de comentarii și a primit peste 308.000 de aprecieri.

Un purtător de cuvânt al Meta a declarat că problema a fost remediată și că instrumentul nu va mai sugera întrebări personale nepotrivite în postările utilizatorilor. Meta a recunoscut că funcția nu a funcționat conform așteptărilor și a precizat că AI-ul este destinat doar să îi ajute pe utilizatori să acceseze informații pe care le dețin deja, fără a le compromite confidențialitatea.

Robbins a spus că recunoașterea problemei de către Meta este binevenită, însă lasă fără răspuns întrebări esențiale, inclusiv ce anume a eșuat, ce măsuri de protecție au fost ocolite și ce protocoale reglementează acum prelucrarea de către AI a datelor despre copii.

Meta a afirmat că nu a păstrat și nici nu a accesat fotografia ștearsă, precizând că imaginea fusese eliminată chiar înainte de realizarea videoclipului. Compania a spus că un bug temporar a făcut-o disponibilă pentru scurt timp. Meta a mai subliniat că AI-ul poate folosi în continuare informații deja accesibile, precum texte publice, imagini de pe web sau postări mai vechi ale utilizatorilor.

Robbins spune că problema de fond este mai amplă decât o singură imagine: ea avertizează că AI-ul poate compila date despre copii din mai multe surse. Meta nu a contactat-o direct pe Robbins și nu i-a oferit scuze personale.