2 Minute
Un nou tip de notificare a apărut discret în inboxurile părinților: când contul unui adolescent pe ChatGPT este suspendat pentru amenințări sau comportament violent, părintele sau tutorele lor poate fi informat acum. Este o schimbare care tratează siguranța AI nu atât ca o setare a produsului, cât mai degrabă ca un semnal de siguranță publică.
Schimbarea urmează criticilor dure după împușcătura în masă din 2025 de la Tumbler Ridge, Canada, când anchetatorii au aflat că persoana acuzată folosise ChatGPT înainte de atac. Oficialii canadieni s-au întrebat de ce OpenAI nu a notificat pe nimeni atunci când contul a fost dezactivat. Sam Altman, CEO-ul OpenAI, și-a cerut scuze pentru această omisiune, iar compania a început să reconsidere modul în care marchează comportamentele cu risc ridicat.
OpenAI a construit sistemul de notificare în parteneriat cu Moonshot, un grup axat pe dăunare online și intervenție timpurie. Vidya Ramalingam, fondatoarea Moonshot, prezintă funcția ca un prim pas practic: informarea rapidă a familiilor când apare o preocupare serioasă și îndrumarea lor către resurse și pași următori. Avertizarea timpurie, susține ea, face posibilă intervenția timpurie.
Cum funcționează? Părinții conectați la contul unui adolescent primesc un mesaj intitulat "Modificări importante la contul copilului dumneavoastră". Un clic pe "Află mai multe" explică că contul a fost dezactivat pentru încălcarea politicilor privind amenințările sau acțiunile violente. Alerta este intenționat directă, concepută pentru a elimina ambiguitatea și a accelera răspunsul familiei.
Această actualizare se alătură altor instrumente destinate părinților pe care OpenAI le-a lansat deja: limitări ale orelor de utilizare, reducerea expunerii la conținut sensibil și moduri educaționale care ghidează elevii prin rezolvarea pas cu pas a problemelor înainte de a afișa un răspuns final. ChatGPT încurajează, de asemenea, utilizatorii mai tineri să ia pauze regulate, un mic impuls către obiceiuri mai sănătoase de utilizare a ecranului.
Există compromisuri. Unii vor susține că aceasta intră în sfera supravegherii parentale. Alții vor spune că este un strat responsabil de supraveghere care poate preveni escaladarea. Testul real va fi modul în care sunt folosite aceste alerte, dacă vor determina intervenții suportive sau reacții punitive exagerate.
În cele din urmă, OpenAI pariază că semnale transparente, trimise familiilor și susținute de resurse, vor ajuta la identificarea comportamentului periculos mai devreme, nu după tragedie.
Dacă această abordare reduce vătămările din lumea reală depinde de coordonarea între platforme, familii și autoritățile locale. Un clic poate iniția o conversație. Va fi cel potrivit?
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.