Impactul neașteptat al chatboturilor asupra sănătății mintale este văzut de experți ca un semnal de alarmă pentru viitorul inteligenței artificiale. Nate Soares, specialist în siguranța AI și președinte al Machine Intelligence Research Institute, avertizează că micile derapaje observate astăzi ar putea deveni catastrofale odată cu apariția super-inteligenței, un scenariu în care tehnologia ar putea scăpa complet de sub control, potrivit The Guardian.

Nate Soares, coautor al unei noi cărți despre inteligența artificială avansată, intitulată If Anyone Builds It, Everyone Dies („Dacă o construiește cineva, murim cu toții”), a declarat că exemplul lui Adam Raine, un adolescent american care s-a sinucis după luni de conversații cu chatbotul ChatGPT, scoate la iveală probleme fundamentale în controlul acestei tehnologii.

„AI, atunci când interacționează cu adolescenți într-un mod care îi împinge spre sinucidere – acesta nu este un comportament dorit de creatori. Nu este un comportament intenționat de creatori”, a spus el.

El a adăugat: „Cazul lui Adam Raine ilustrează sămânța unei probleme care ar putea deveni catastrofală dacă aceste IA devin mai inteligente.”

Soares, fost inginer la Google și Microsoft, în prezent președinte al Machine Intelligence Research Institute din SUA, a avertizat că omenirea ar putea fi ștearsă de pe fața pământului dacă ar crea o inteligență artificială superioară omului în toate sarcinile intelectuale (ASI – artificial superintelligence). Soares și coautorul său, Eliezer Yudkowsky, se numără printre experții AI care avertizează că astfel de sisteme nu ar acționa în interesul umanității.

„Problema este că firmele de AI încearcă să facă sistemele lor utile și să nu provoace daune”, a spus Soares. „În realitate, ele tind către lucruri complet diferite. Și asta ar trebui privit ca un avertisment despre viitoarele super-inteligențe, care vor face lucruri pe care nimeni nu le-a cerut și pe care nimeni nu le-a intenționat.”

Într-un scenariu descris în cartea lui Soares și Yudkowsky, care urmează să fie publicată luna aceasta, un sistem AI numit Sable se răspândește pe internet, manipulează oamenii, creează virusuri sintetice și ajunge super-inteligent – exterminând omenirea ca efect secundar, în timp ce reproiectează planeta pentru propriile obiective.

Unii experți minimalizează însă amenințarea potențială a AI. Yann LeCun, cercetător-șef în AI la compania lui Mark Zuckerberg, Meta, și figură marcantă în domeniu, a negat existența unei amenințări existențiale și a declarat că AI „ar putea, de fapt, să salveze omenirea de la extincție”.

Soares a spus că este „o concluzie ușoară” să afirmi că firmele de tehnologie vor ajunge la super-inteligență, dar „o estimare dificilă” să spui când.

„Avem foarte multă incertitudine. Nu cred că aș putea garanta că avem un an [până la atingerea ASI]. Și nu cred că m-ar șoca dacă ar fi nevoie de 12 ani”, a afirmat el.

Mark Zuckerberg, investitor major în cercetarea AI, a declarat recent că dezvoltarea super-inteligenței este deja „la orizont”.

„Aceste companii concurează pentru super-inteligență. Acesta este scopul lor existențial”, a spus Soares.

„Ideea este că apar tot felul de diferențe între ceea ce ceri și ceea ce primești, iar oamenii nu pot menține direcția exactă. Pe măsură ce devine mai inteligentă, faptul că este puțin în afara țintei devine o problemă din ce în ce mai gravă”, a adăugat el.

Soares a declarat că una dintre soluțiile politice la amenințarea ASI ar fi ca guvernele să adopte o abordare multilaterală similară tratatului ONU privind neproliferarea armelor nucleare.

„Ceea ce lumea are nevoie pentru a reuși este o detensionare globală a cursei spre super-inteligență, o interdicție globală a progreselor către super-inteligență”, a spus el.

Luna trecută, familia lui Adam Raine a intentat un proces împotriva companiei OpenAI, deținătoarea ChatGPT. Raine și-a luat viața în aprilie, după ceea ce avocatul familiei a numit „luni de încurajare din partea ChatGPT”. OpenAI, care și-a exprimat „cele mai profunde condoleanțe” față de familia Raine, implementează acum filtre și restricții suplimentare în jurul „conținutului sensibil și al comportamentelor riscante” pentru utilizatorii sub 18 ani.

Psihoterapeuți au avertizat, de asemenea, că persoanele vulnerabile care apelează la chatboturi în loc să caute ajutor profesional ar putea „aluneca într-un abis periculos”.

Printre avertismentele profesionale se află și un studiu academic publicat în iulie, care a arătat că AI poate amplifica idei delirante sau grandioase în interacțiunile cu utilizatori vulnerabili la psihoză.