Când IA inventează imagini: eroare sau alegere de design

Un singur tweet a transformat un experiment de rutină într-un mic mister ciudat pe internet. Un utilizator de pe X a spus că i-a cerut instrumentului de imagini al ChatGPT să „reconstruiască fotografia atașată”, dar nu exista nicio fotografie atașată. Modelul nu s-a oprit. A inventat una.

Rezultatul? Imagini ciudate, tulburătoare, care par să fi fost realizate cu o cameră îndreptată către un vis febril. Fețele se deformează. Fundalurile înfloresc în texturi imposibile. Utilizatorii le-au numit înfiorătoare, uneori pur și simplu de coșmar. Prompturi scurte. Rezultate sălbatice.

Ce vedeți este un caz clasic de halucinație a IA, dar în formă de imagine. Când unui model îi lipsesc datele necesare, poate totuși produce conținut bazându-se pe modele statistice și hărți interne despre cum arată de obicei imaginile. Sistemul completează golurile în loc să spună „nu am acel fișier”. Rezultatul poate fi creativ, sau poate fi greșit într-un mod care provoacă senzația de neliniște.

Este aceasta o eroare în fluxul de generare a imaginilor sau doar o interpretare ciudată a unui prompt permisiv? E greu de spus. Comportamentul ar putea proveni din modul în care unealta analizează instrucțiunile care fac referire la un atașament, sau din logica internă de rezervă care încearcă să fie utilă atunci când lipsesc date. Oricum ar fi, episodul scoate în evidență o problemă mai generală: modele care prioritizează producția față de reținerea epistemică.

Când o IA inventează ceea ce nu are, greșeala nu este doar tehnică, este o alegere de proiectare pe care o putem corecta.

Fie că se dovedește a fi un bug care poate fi reparat, fie un memento al limitelor sistemelor generative actuale, discuția este utilă. Cine decide ce are voie să inventeze o IA? Și cine o repară atunci când acele invenții devin puțin prea apropiate de un coșmar digital?