Coreea de Sud a trimis la închisoare un bărbat pentru că a folosit inteligența artificială pentru a genera imagini sexuale cu copii, fiind un caz în premieră pentru instanțele din această țară, transmite CNN.
Un bărbat din Coreea de Sud a fost condamnat la închisoare pentru că a folosit inteligența artificială pentru a genera imagini cu conținut sexual cu minori, primul caz de acest gen din țară, în timp ce instanțele din întreaga lume se confruntă cu utilizarea noilor tehnologii în crearea de conținut sexual abuziv.Bărbatul al cărui nume nu a fost dezvăluit, în vârstă de 40 de ani, a fost condamnat luna aceasta la doi ani și jumătate de închisoare, potrivit Tribunalului Districtual Busan și Procuraturii din district.
El a creat aproximativ 360 de imagini generate de AI în aprilie, a declarat procuratura pentru CNN. Imaginile nu au fost distribuite și au fost confiscate de poliție.
Procurorii au susținut în timpul cazului că definiția materialului de exploatare sexuală ar trebui să includă descrieri ale comportamentelor sexuale ale „oamenilor virtuali” și nu doar aspectul copiilor reali.
Hotărârea a arătat că conținutul abuziv sexual poate include imagini realizate cu tehnologie „la nivel înalt”, care este suficient de realistă pentru a arăta exact cum arată copiii și minorii în realitate, a transmis procuratura.
Cazul vine în timp ce guvernele din întreaga lume se confruntă cu explozia industriei AI, cu impact de anvergură, de la drepturi de autor și proprietate intelectuală la securitate națională, confidențialitate personală și conținut explicit.
Mulți se întrec acum pentru a reglementa tehnologia, mai ales în cazuri precum sentința din Coreea de Sud care evidențiază modul în care AI poate fi folosită pentru a încălca autonomia și siguranța corporală a oamenilor, în special pentru femei și minori.
La începutul acestei luni, poliția din Spania a lansat o investigație după ce imagini cu fete minore au fost modificate cu AI și au fost distribuite. Într-un caz, un băiat a încercat să șantajeze una dintre fete folosind o imagine modificată astfel, în care apărea dezbrăcată, a declarat mama fetei pentru canalul de televiziune Canal Extremadura.
De ani de zile, deepfake-urile, videoclipuri false extrem de convingătoare realizate folosind inteligența artificială, au fost folosite pentru a pune figurile femeilor în videoclipuri pornografice adesea agresive, fără consimțământul acestora. Videoclipurile par adesea atât de reale încât poate fi greu pentru femeile victime să nege că nu sunt chiar ele.
Problema a fost adusă în discuție mai pe larg în februarie anul acesta, când s-a aflat că un cunoscut streamer de jocuri video a accesat videoclipuri deepfake ale unora dintre colegii săi de streaming.
„Încă de la început, persoana care a creat deepfake-uri a folosit AI pentru a face pornografie cu femei fără consimțământul lor”, a spus Samantha Cole, un reporter de la Vice’s Motherboard, care urmărește deepfake-urile încă de la începuturile lor, a declarat pentru CNN la acea vreme.
Platforma de streaming, Twitch, a răspuns la controversă prin înăsprirea politicilor sale, numind videoclipurile sexuale false că „încalcă dreptul la viață privată și sunt mai mult decât neplăcute”. Alte platforme majore își actualizează în mod similar regulile, TikTok adăugând restricții suplimentare privind partajarea deepfake AI, în martie.
Uniunea Europeană a devenit una dintre primele din lume care a stabilit reglementări privind modul în care companiile pot utiliza AI, în iunie, urmată de China în iulie. Și la începutul lunii septembrie, unii dintre cei mai mari lideri ai tehnologiei din Statele Unite, inclusiv Bill Gates, Elon Musk și Mark Zuckerberg s-au întâlnit la Washington pentru discuții legate de reglementarea AI, în timp ce Senatul se pregătește să elaboreze o legislație privind inteligența artificială.