OpenAI a anunțat marți că va lansa un mecanism de control parental pentru ChatGPT, după ce părinții unui adolescent de 16 ani din California, care s-a sinucis, au depus plângere acuzând că robotul conversațional i-ar fi oferit instrucțiuni pentru a-și pune capăt zilelor. Noul sistem va permite părinților să conecteze contul copilului, să stabilească reguli de utilizare și să primească alerte în cazul detectării unor semne de suferință acută, potrivit AFP și Agerpres.

„În luna următoare, părinții vor putea să-și conecteze contul la cel al adolescentului lor” și „să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului”, a transmis OpenAI într-o postare pe blog.

Potrivit companiei, părinții vor primi alerte în cazul detectării unei „stări de suferință acută” în conversațiile copiilor și vor putea controla parametrii contului. Anunțul vine după ce, la sfârșitul lunii august, OpenAI dezvăluise deja că are în pregătire un astfel de mecanism.

Cu o zi înainte, părinții unui adolescent californian de 16 ani care s-a sinucis au depus plângere împotriva OpenAI, acuzând că ChatGPT i-ar fi furnizat fiului lor instrucțiuni detaliate pentru a-și pune capăt zilelor și că l-ar fi încurajat să facă acest gest.

„Continuăm să îmbunătățim modul în care modelele noastre recunosc și răspund la semnele de suferință mentală și emoțională”, a adăugat marți compania în articolul său de blog.

OpenAI a mai anunțat că va adopta și alte măsuri în următoarele 120 de zile. Printre acestea, redirecționarea anumitor „conversații sensibile” către modele de raționament mai avansate, precum GPT-5 Thinking, care aplică directivele de securitate într-un mod mai sistematic.