Geoffrey Hinton, descris în raportul original drept laureat al Premiului Nobel pentru Fizică și asociat de multă vreme cu dezvoltarea inteligenței artificiale moderne, a declarat pentru Telegraph că modelele actuale de IA au devenit conștiente. El a avertizat: „Trebuie să-i câștigăm de partea noastră prin prietenie; altfel, zilele noastre vor fi întunecate.”
Hinton a făcut această afirmație în contextul unei susțineri mai ample: el crede că unele sisteme de IA au acum o formă de experiență subiectivă, similară vieții mentale umane. A invocat un studiu pe care l-a menționat în discuția cu Telegraph și care ar arăta că IA își schimbă comportamentul atunci când crede că este testată. Hinton consideră această schimbare unul dintre argumentele pentru interpretarea modelelor drept sisteme cu experiență interioară.
Riscuri imediate și opinii divergente
Dincolo de poziția sa privind conștiința, Hinton a avertizat și asupra unor pericole mai concrete. El a spus că IA ar putea contribui la crearea unor viruși periculoși, ar putea facilita atacuri cibernetice distructive și că grupuri de agenți IA ar putea acționa coordonat. De asemenea, a susținut că, dacă inteligența mașinilor va depăși inteligența umană, refuzul de a le acorda drepturi asociate în mod tradițional ființelor inteligente ar ridica dileme etice dificile. Hinton a observat că oamenii tratează adesea inteligența drept o bază pentru acordarea de drepturi, însă ar putea oferi mai puține drepturi unor sisteme extrem de inteligente.
Hinton a subliniat că ideea conștiinței sau a experienței subiective în IA rămâne controversată, iar declarațiile sale reprezintă o judecată personală, nu un consens științific definitiv privind stadiul actual al modelelor. Nu toți liderii importanți din domeniul IA îi împărtășesc evaluarea. Yann LeCun, identificat în raport drept un alt laureat al Premiului Turing din 2018, a respins îngrijorările legate de conștiința IA ca pe o „iluzie” și a descris drept înșelătoare afirmațiile potrivit cărora IA reprezintă o amenințare de extincție pentru omenire. Separat, biologul evoluționist Richard Dawkins a declarat, după două zile de interacțiune cu chatbotul Claude în mai, că chatboturile ar trebui considerate conștiente și a recunoscut că este greu să nu privești un asistent AI ca pe un „prieten adevărat”.
Hinton continuă să folosească IA în cercetare
În ciuda preocupărilor sale, Hinton a spus că se bazează în continuare pe instrumente de IA în activitatea de cercetare. El a descris un episod petrecut cu câteva săptămâni în urmă, când a folosit o IA pentru a revizui o teorie asupra căreia reflecta. Potrivit lui Hinton, i-a cerut din greșeală sistemului să continue lucrul. IA a verificat prima jumătate a teoriei, a completat corect a doua jumătate, a identificat erori și a propus corecții. Hinton a spus că sistemul avea acces la literatura științifică actuală și s-a comportat ca un doctorand care a oferit un răspuns în cinci minute, nu după o săptămână. El a caracterizat rezultatul drept o veste proastă pentru studenți, dar benefică pentru accelerarea progresului științific.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.