Un grup de lobby susținut de Elon Musk și asociat cu o ideologie controversată care este populară printre miliardarii din domeniul tehnologiei se luptă pentru a-i împiedica pe roboții ucigași să pună capăt omenirii, folosindu-se de Legea privind Inteligența Artificială a UE, scrie Politico.

Institutul Viitorul Vieții (Future of Life Institute – FLI) s-a remarcat în ultimul an ca un grup influent în ceea ce privește unele dintre cele mai contencioase elemente ale Legii AI. În ciuda legăturilor pe care grupul le are cu Silicon Valley, titanii tehnologiei, precum Google și Microsoft, s-au găsit de partea pierzătorilor în discuțiile propuse de membrii FLI.

În bula UE, grupul ale cărui acțiuni sunt influențate de frica față de o catastrofă provocată de inteligența artificială scăpată de sub control, nu de îngrijorările legate de protecția consumatorului, a fost văzută precum o rachetă care decolează din centrul Bruxelles-ului.

Unii se tem că institutul este doar un grup de „băieți tech” ce își fac griji în privința unor amenințări care au o probabilitate foarte mică să se întâmple și care s-ar putea să distragă atenția de la probleme mult mai de actualitate.

Dar, cei mai mulți sunt de acord că atât timp cât a activat la Bruxelles FLI a fost foarte eficient. „Sunt destul de pragmatici și au expertiză legală și tehnică”, a spus Kai Zenner, consilier pentru politica digitală al europarlamentarului de centru-dreapta Axel Voss, care lucrează la Legea AI. „Uneori sunt prea îngrijorați de tehnologie, dar ridică multe probleme bune.”

Lansat în 2014 de academicianul Max Tegmark de la MIT și susținut de vedete din domeniul tehnologiei precum Elon Musk, Jaan Tallinn, miliardarul estonian care a investit în Skype și „copilul minune” al criptomonedelor, Vitalik Buterin, grupul FLI este un ONG care s-a dedicat gestionării „pericolelor existențiale” - evenimente care ar putea să radă de pe fața Pământului omenirea.

Printre consilierii externi ai grupului se numără și alte vedete, precum actorii Morgan Freeman și Alan Alda și celebrii oameni de știință Martin (Lord) Rees și Nick Bostrom.

Principala amenințare de care grupul se teme – și prioritatea numărul unu – este posibilitatea ca inteligența artificială să scape de sub controlul oamenilor.

„Am mai văzut accidente aviatice provocate de un pilot automat care nu a putut fi controlat. Am văzut asaltul asupra Capitoliului Statelor Unite din cauza unui algoritm care a fost instruit să maximizeze implicarea [utilizatorilor]. Acestea sunt erori de securitate în ziua de azi – pe măsură ce aceste sisteme devin mai puternice, pericolele ar putea să devină mai rele”, a spus Mark Brakel, director de politică europeană al FLI.

Sosirea unui grup de lobby care luptă împotriva extincției, inteligenței artificiale scăpate de sub control și roboților ucigași putea să fie percepută ca o gură de aer proaspăt pentru politicile de obicei plictisitoare de la Bruxelles.

FLI și-a deschis biroul din capitala UE la mijlocul anului 2021, când discuțiile despre propunerea Comisiei Europene pentru Legea AI de-abia începeau. „Ne-am dori ca AI-ul să fie dezvoltat în Europa, acolo unde există reglementări în vigoare”, a explicat Brakel. „Sperăm ca oamenii să se inspire de la UE.”

De când și-a deschis ușile la Bruxelles, echipa de trei persoane a institutului (care a primit ajutor din partea lui Tegmark și a unor companii, inclusiv de la firma de avocatură Dentons) a condus cu curaj eforturile de lobby legate de probleme puțin știute ale AI-ului.

Una dintre problemele ridicate de FTL este inteligența artificială de uz general: programe precum cele de recunoaștere vocală sau cu instrumente de generare de imagini folosite în multe contexte și uneori afectate de prejudecăți și alte erori periculoase.

Grupul exploatează și frica Europei de dominația tehnologică a Americii și a Chinei. „Sistemele AI de uz general sunt construite în principal în SUA și China, iar asta ar putea afecta inovația în Europa”, a spus Brakel.

O altă prioritate a FLI este să interzică inteligența artificială care poate să manipuleze comportamentul oamenilor. Propunerea inițială interzice AI-ul manipulator, dar este limitată la tehnici „subliminale”, care Brakel crede că vor crea portițe de scăpare.

Unul dintre raportorii Legii AI, europarlamentarul român de la Renew, Dragoș Tudorache, face acum eforturi pentru a extinde interdicția originală. „Dacă acel amendament va fi aprobat, am fi mult mai fericiți decât suntem cu textul actual”, a spus Brakel.

Cercetătorul din domeniul inteligenței artificiale, Timnit Gebru, a criticat FLI pe Twitter, spunând că are „îngrijorări uriașe” despre grupul de lobby. „Sunt susținuți de miliardari printre care se numără și Elon Musk – asta deja ar trebui să îi facă pe oameni suspicioși”, a spus Gebru într-un interviu.

„Întreg domeniul legat de siguranța AI este compus din atât de multe 'institute' și companii în care miliardarii toarnă bani. Dar conceptul lor legat de siguranța AI nu are nimic de-a face cu relele suferite acum de grupurile marginalizate – ei vor să reorienteze întreaga conversație înspre prevenirea acestei apocalipse AI.”

O altă îngrijorare legată de FLI la Bruxelles este ca încercările grupului de a opri o revoluție a roboților ucigași să nu fie doar o schemă prin care membrii grupului își ascund interesul tehno-utopic de dezvoltare a unui AI binevoitor cu capacități similare omului.

În cadrul unei conferințe din 2017, consilierii FLI Musk, Tegmark și Tallinn au dezbătut ideea unui AI mai inteligent decât oamenii. Cei mai mulți dintre participanții la discuții au spus că „superinteligența” va fi creată în viitor, iar jumătate dintre ei au privit cu ochi buni ideea.

În opinia lui Brakel, însă, ceea ce face FLI este asemănător cu activismul de mediu din perioada timpurie a mișcării. „Avem acum cel mai cald octombrie din toate timpurile. Ne facem griji despre asta azi, dar ne facem griji și despre impactul pe care îl va avea peste 80 de ani”.

„Există sincope de siguranță ale AI-ului astăzi – iar pe măsură ce aceste sisteme devin mai puternice, pericolele ar putea și ele să devină mai grave”, a spus Brakel.