Experții au cerut prudență cu privire la adoptarea rapidă a platformei de inteligență artificială chineză DeepSeek , invocând îngrijorări cu privire la răspândirea informațiilor greșite și la modul în care statul chinez ar putea exploata datele utilizatorilor, informează The Guardian.

Noua AI cu costuri reduse a șters 1 trilion de dolari de pe indicele bursier tehnologic din SUA, săptămâna aceasta, și a devenit rapid cea mai descărcată aplicație gratuită din Marea Britanie și SUA. Donald Trump a numit-o „un apel de trezire” pentru firmele de tehnologie.

Apariția sa a șocat lumea tehnologiei, arătând aparent că poate obține o performanță similară cu platformele utilizate pe scară largă, cum ar fi ChatGPT, la o fracțiune din cost.

Michael Wooldridge, profesor care studiază bazele AI la Universitatea Oxford, a spus că nu este nerezonabil să presupunem că datele introduse în chatbot ar putea fi partajate cu statul chinez.

El a afirmat: „Cred că este bine să îl descarci și să îl întrebi despre performanța clubului de fotbal Liverpool sau să discuți despre istoria Imperiului Roman, dar să recomand să pui ceva sensibil, personal sau privat acolo? „Absolut nu... Pentru că nu știi unde se duc datele.”

Wendy Hall, un membru al organismului consultativ la nivel înalt al Organizației Națiunilor Unite privind inteligența artificială, a declarat pentru Guardian: „Nu poți scăpa de faptul că, dacă ești o companie chineză de tehnologie care se ocupă de informații, ești supus regulilor guvernului chinez, despre ceea ce poți și ce nu poți spune.”

„Ar trebui să fim alarmați”, a spus Ross Burley, un co-fondator al Centrului pentru Reziliență Informațională, care este finanțat parțial de guvernele SUA și Marii Britanii. „Am văzut în repetate rânduri cum Beijingul își armonizează dominația tehnologică pentru supraveghere, control și constrângere, atât pe plan intern, cât și în străinătate.”

El a spus că, dacă nu este controlat, ar putea „alimenta campanii de dezinformare, ar putea eroda încrederea publicului și ar putea consolida narațiunile autoritare în democrațiile noastre”.

DeepSeek este o platformă open-source, ceea ce înseamnă că dezvoltatorii de software o pot adapta la propriile scopuri. A stârnit speranța unui nou val de inovație în inteligența artificială, care părea a fi dominată de companiile de tehnologie din SUA ce se bazează pe investiții uriașe în microcipuri, centre de date și noi surse de energie.

Wooldridge a spus: „Semnalează destul de puternic, în cazul în care cineva nu a primit mesajul, că China nu este în urmă în acest spațiu”.

Unii oameni care testează DeepSeek au descoperit că programul nu răspunde la întrebări pe subiecte sensibile pentru Beijing, cum ar fi masacrul din Piața Tiananmen. Întrebat despre statutul Taiwanului, DeepSeek repetă linia Partidului Comunist Chinez conform căreia insula este o parte „inalienabilă” a Chinei.

„Cea mai mare problemă cu inteligența generativă este dezinformarea”, a spus Hall. „Depinde de datele dintr-un model, de părtinirea acestor date și de modul în care sunt utilizate. Puteți vedea această problemă cu chatbot-ul DeepSeek.”

Un utilizator, Azeem Azhar, expert în inteligență artificială, a întrebat despre evenimentele din Piața Tiananmen și i s-a spus că DeepSeek nu poate oferi informații detaliate și că „acest subiect este extrem de sensibil și adesea cenzurat în multe țări, inclusiv China”.

Cu toate acestea, AI a explicat apoi că evenimentele au fost „recunoscute pe scară largă ca suprimarea protestelor pro-democrație” și a spus: „Guvernul chinez a răspuns printr-o represiune violentă, care a dus la moartea a sute (sau posibil mii) de oameni. incluzând atât protestatari, cât și soldați”.

Oamenii folosesc modele AI precum DeepSeek și ChatGPT pentru a-i ajuta să proceseze actele personale sau documentele pentru serviciu, cum ar fi procesele verbale de întâlnire, dar orice act încărcat poate fi preluat de proprietarul companiei și folosit pentru instruirea AI sau în alte scopuri.

DeepSeek are sediul în Hangzhou și precizează în politica sa de confidențialitate că informațiile personale pe care le colectează de la utilizatori sunt păstrate „pe servere securizate situate în Republica Populară Chineză”. Se spune că utilizează datele pentru „a ne conforma obligațiilor legale sau, după cum este necesar, pentru a îndeplini sarcini de interes public sau pentru a proteja interesele vitale ale utilizatorilor noștri și ale altor persoane”.

Legea națională a informațiilor din China prevede că toate întreprinderile, organizațiile și cetățenii „vor sprijini, asista și coopera cu eforturile naționale de informații”.