„Ez a gyűlölet és harag egyfajta kifejezése a nők iránt” – megmutatta magát a mesterséges intelligencia rémisztő arca Dél-Koreában
Dél-Koreában több száz lányt szégyenítettek meg azzal, hogy az arcukat pornográf képekre másolták, amiket aztán körbe küldtek a Telegramon. A probléma túlmutat a deepfake-en, mert valójában a nyomasztó méretű szexizmus egyik tünete – és ezt talán nehezebb kezelni, mint felgöngyölíteni a kamufotók ügyét. The post „Ez a gyűlölet és harag egyfajta kifejezése a nők iránt” – megmutatta magát a mesterséges intelligencia rémisztő arca Dél-Koreában first appeared on 24.hu.
Képei és személyes adatai kiszivárogtak. Beszéljük meg!
– ez a Telegram-üzenet jelent meg augusztus 31-én Heejin telefonján egy névtelen feladótól. A dél-koreai egyetemista megnyitotta az üzenetet, és egy fotót látott magáról még kisiskolás korából. A levélben volt egy másik kép is, ami szintén ezt a fotót használta, de már egy szexuális aktus közben ábrázolta Heejint. Aztán sorra jöttek a képek, amelyeken egy éppen szexelő ismeretlen testére tették a fejét. A BBC-nek nyilatkozó Heejinen kívül – akinek természetesen nem ez az igazi neve – még több száz áldozat lehet érintett Dél-Korea és a világ eddigi legnagyobb deepfake-botrányában.
Nemcsak egyetemistákról van szó, tanárokról, katonákról is jelentek meg mestersége intelligencia által manipulált pornóképek a Telegramon. Ko Narin dél-koreai újságíró a nyomozásai során arra jutott, hogy középiskolások, sőt általános iskolások képeit is felhasználták és küldözgették a platformon. Talán ennek is köszönhető, hogy az utóbbi napokban újságírók váltak célpontokká, ami új szintre emelheti a botrányt.
Tizenévesek szexképeken
A legtöbb képet egy 220 ezer tagot számláló Telegram-csoportban küldték szét, de összességében több tucat csoport lehet érintett, köztük akad olyan, amelynek 400 ezer felhasználója volt. A csoportokban nemcsak küldözgették a képeket, de a tagokat is arra biztatták, hogy készítsenek hasonlókat. Narin a nyomozása során kiderítette, hogy több olyan csoport is van a Telegramon, ahol nőkről vagy éppen kislányokról osztanak meg mesterséges intelligencia által generált, hamis pornográf képeket. Az érintettek pontos számát még most is nehéz meghatározni, de annyit tudni, hogy nagy számban vannak köztük 16 éven aluliak, illetve az elkövetők zöme is tinédzser korú.
A Telegramon nem nagyon lehet megtalálni az elkövetőket, sokan álnéven használják, a beszélgetéseket pedig utólag törölni lehet, és van több olyan chatszoba is, amely titkos (vagy már bezárt, mióta a botrány kirobbant). Az elkövetők az áldozatok tudomása vagy beleegyezése nélkül használják fel a képeiket a közösségi médiából, de olyan is előfordult, hogy a környezetükben lévő nőkről készítettek képeket titokban.
A mostani támadássorozatban célponttá vált nők tehetetlenek voltak, a további potenciális áldozatok pedig elkezdték rohamtempóban törölni a profiljaikat vagy eltávolítani a fotóikat a közösségi oldalakról. Szintén nehezíti a probléma megoldását, hogy több áldozat szerint a hatóságok inkább azt tanácsolták nekik: felesleges feljelenteniük a tetteseket, mivel nem hajtottak végre bűncselekményt, hisz a képek hamisak. A dél-koreai rendőrség és a médiafelügyelet az óriási botrány hatására azonban végre elkezdett érdemben foglalkozni az üggyel.
A Telegram is érzi, hogy baj van
A Koreai Nemzeti Rendőrség augusztus végén jelentette be, hogy vizsgálatot indítanak a Telegram ellen a hamis, szexuális tartalmú képek terjedésének elősegítése miatt. Ez az első alkalom, hogy a dél-koreai bűnüldöző szervek nyomoznak a cég ellen, amelynek alapítóját, Pavel Durovot a múlt hónapban Franciaországban letartóztatták, és vádat emeltek ellene a platformon folytatott állítólagos illegális tevékenység miatt. A vád szerint Durov lehetővé tette, hogy a „bűnözők korlátozás nélkül használják az üzenetküldő alkalmazást”.
Az NPR megkereste a Telegramot, a platform szóvivője pedig azt közölte, hogy a cég eddig is „aktívan távolította el a Koreából jelentett tartalmakat, amelyek megsértették a szolgáltatási feltételeket, és ezt továbbra is megteszi.” Durov a Telegramon közzétett bejegyzésében azt állította: a vállalat „elkötelezett amellett, hogy a szabályozókkal együttműködve megtalálja a megfelelő egyensúlyt” a magánélet és a biztonság között, ugyanakkor elismerte, hogy a platformon „könnyebb lett a visszaélések elkövetése a bűnözők számára.”
A Telegram nem volt mindig ennyire segítőkész: egy 2019-ben kirobbant botrány során nem képeket generáltak, hanem nőket és gyerekeket kényszerítettek arra, hogy készítsenek és osszanak meg meztelen vagy pornográf képet magukról. Akkor az elkövetőt 42 év börtönre ítélték, a Telegramot viszont nem büntették meg az esetért – annak ellenére sem, hogy a platform semmilyen információt nem osztott meg a hatóságokkal a tettesről.
A dél-korai kormány médiafelügyeleti szerve közölte, hogy a Telegram most eleget tett a kérésnek, és kidobott 25, a bizottság által kijelölt deepfake-specialistát a platformról, ráadásul ez a szám még nőhet. A közlésük szerint idén január és július között közel 6500 megkeresés futott be hozzájuk, ez négyszer annyi, mint amennyi a tavalyi év azonos időszakában volt. A legfrissebb adatok szerint a dél-koreai rendőrség már 513 hamisított pornográf kép ügyében nyomoz, de ahogy emelkedik a szám, úgy érzi egyre több áldozat, hogy meg kell szólalnia.
Főleg tinédzserek az elkövetők is
A dél-koreai rendőrségen is jóval több hasonló bűncselekményt jelentettek be, mint a korábbi években. 2024 első 7 hónapjában 297-en fordultak a bűnüldöző szervekhez, 2023-ban egész évben 180 feljelentés érkezett, 2021-ben pedig még csak 156 volt ez a szám. A hatóságok az idén júliusig 178 gyanúsítottat vettek őrizetbe – közel 80 százalékuk tinédzser volt.
Az online szexuális bűncselekményekkel foglalkozó szakértők szerint a Telegramon elterjedt deepfake-képek készítői gyakran az általuk személyesen ismert nőket célozzák meg, nem pedig véletlenszerűen idegeneket. Ez pedig bőven meghaladja a magánélet megsértését – mondta a Koreai Kriminológiai és Igazságügyi Intézet kutatója.
Lényegében összeomlik a társas kapcsolatokba vetett bizalmuk
– mondta az áldozatokról Chang Dahye.
A kutató szerint ezek a bűncselekmények különböznek a „hagyományos” szexuális bűncselekményektől, mert itt többnyire a pénz vagy a harag miatt pécéznek ki valakit. Chang szerint sok férfi azért fogyasztotta ezeket a tartalmakat, mert örömét lelte a nők megalázásában.
Ez a gyűlölet és harag egyfajta kifejezése a nők iránt. A nők gúnyolásával és lealacsonyításával megerősítést kapnak egymástól
– mondja Chang. A kutató szerint sokszor azok váltak áldozattá, akiket személyesen is ért zaklatás.
A dél-koreai kormány csak most kezd érdemben foglalkozni az üggyel, a politikai vezetés eddig inkább csak elodázta a probléma megoldását. „Néhányan puszta csínynek tekintik, de nyilvánvalóan olyan bűncselekményről van szó, amely az anonimitás pajzsa alatt aknázza ki a technológiát” – mondta Jun Szogjol elnök augusztus végén, elismerve, hogy az áldozatok és az elkövetők közül is sokan kiskorúak.
Augusztus 30-án a dél-koreai kormány bejelentette: olyan jogszabályokat készít elő, amelyek kriminalizálják majd a deepfake birtoklását, megvásárlását és megtekintését Dél-Koreában.
A női jogi szervezetek azonban elkésettnek tartják a lépést, és rengeteg kritikával illetik az elnököt: nem kis részben neki tulajdonítják, hogy ennyire elfajult a helyzet, mivel mostanáig tétlenül nézte, ahogy a szexizmus elburjánzik az országban.
2020-ban az Igazságügyi Minisztérium digitális szexuális bűncselekményekkel foglalkozó munkacsoportja mintegy 60 jogszabály-módosítást javasolt, ezek közül azonban sokat még mindig nem fogadtak el, ráadásul a munkacsoportot – röviddel Jun Szogjol kormányának 2022-es beiktatása után – feloszlatták.
Jun Szogjolt azért is támadják, mert a hatalomra kerülésekor közölte: tervei szerint meg fogják szüntetni a Nemek Közötti Egyenlőségi és Családügyi Minisztériumot – méghozzá azért, mert szerinte a tárca „potenciális szexbűnözőkként” kezelte a férfiakat. Azt is állította, hogy Dél-Koreában nem létezik nemi alapú megkülönböztetés, és igazából a feminizmus okolható azért, hogy egyre kevesebb baba születik az országban. 2022 októberében több ezer ember özönlött Szöulba az ország minden részéről, hogy tiltakozzanak az elnök terve ellen.
Nincs fizikai érintkezés, nincs baj
Visszatérve a deepfake-botrányra: a jogvédő szervezetek szerint a laza jogi szabályozás miatt sokszor lehetetlen felelősségre vonni az elkövetőket, és még mindig nagy a szakadék aközött, hogy az áldozatok mit tekintenek kárnak, illetve a törvény mit szankcionál.
A hatóságok sincsenek felkészülve a deepfake-kel kapcsolatos bűncselekményekre, és ezt az adatok is alátámasztják. A rendőrség statisztikái szerint 2023-ban a deepfake-kel kapcsolatos esetek 48 százalékban jutottak el letartóztatásig, ami jóval kevesebb, mint az összes digitális zaklatással kapcsolatos letartóztatás. Az MBC dél-koreai műsorszolgáltató elemzése szerint, ha bíróság elé is állítják az elkövetőket, közülük minden második csupán felfüggesztett börtönbüntetést kap.
Chang szerint a jogrendszer még mindig küzd, hogy a digitális szexuális visszaélést súlyos bűncselekményként ismerje el, tényleges áldozatokkal.
Sok esetben a bírák is úgy gondolják, hogy a kár nem olyan súlyos, mint a közvetlen fizikai érintkezéssel járó szexuális erőszak esetében
– mondja. A szakértők szerint az is segíthetne, ha a deepfake technológiával előállított tartalmak birtoklását is illegálissá tennék.
„A dél-koreai bírák, ügyészek, rendőrök és törvényhozók – többségük férfi – nem veszik elég komolyan ezeket a bűncselekményeket. A rendőri segítséget kérő nőket gyakran elhajtják, újabb traumáknak teszik ki, sőt, ki is gúnyolják őket. A dél-koreai iskolákban alig van jelen a szexuális nevelés, amely segítene a fiataloknak megérteni, mennyire helytelen ez a magatartás” – mondta Heather Barr, a Human Rights Watch társigazgatója.
Világméretű a probléma
Hamarosan vélhetően más országokban is komolyan hozzányúlnak majd a vonatkozó szabályozáshoz.
A nemi alapú online erőszak egyre nagyobb probléma világszerte, de különösen elterjedt Dél-Koreában
– mondta Barr.
Hogy mennyire, arra az amerikai Security Hero kiberbiztonsági cég 2023 State of Deepfakes című tanulmánya is rámutat. A kutatás szerint a deepfake technológiával meghamisított videók száma 95 280 volt 2023-ban, ami 550 százalékos emelkedést jelent 2019-hez képest. Ezeknek a videóknak a 98 százaléka deepfake pornó vagy kép volt, és szinte mindegyik (99 százalék) nőket érintett.
A tanulmányból kiderül az is, mennyire könnyű összedobni egy kamuvideót. Egy hamisítást nem egészen 25 perc alatt meg lehet csinálni, egy 60 másodperces videót ráadásul ingyen össze lehet dobni, mindössze egy fotó kell hozzá az érintett személyről. Azt is írták, hogy a felhasználók 74 százaléka nem veszi észre, hogy éppen deepfake pornót fogyaszt, ami tovább nehezíti az ügyek felgöngyölítését.
Az sem segít az előrehaladásban, hogy bár a Nemek Közötti Egyenlőségi és Családügyi Minisztérium nem szűnt meg, a tárcavezetői poszt február óta betöltetlen, ami már az ENSZ-t is zavarja, a szervezet szorgalmazza is, hogy mielőbb nevezzenek ki valakit a minisztérium élére.
Az új miniszternek majd egy némileg megvágott büdzsével kell eredményt elérnie, ugyanis a tárca költségvetése az idén jelentősen csökkent, miután a dél-koreai kormány összehúzta a nadrágszíjat. De legalább már van némi előremozdulás: a megszorítások ellenére a kormány létrehozott egy rendkívüli munkacsoportot, hogy megerősítsék és támogassák a deepfake-bűncselekményekkel szembeni nyomozásokat, illetve növeljék az áldozatok támogatását.
A dél-koreai társadalomban gyökerező szexizmust kell kiirtani
A határozott fellépés vagy a szigorúbb jogi szabályozás sem feltétlenül elég ahhoz, hogy az ilyen vagy ehhez hasonló bűncselekményeket megelőzzék. Ahogy arról már volt szó, a női jogi szervezetek élesen bírálják az elnököt a szeximzus elburjánzása miatt, ami természetesen nem csak az ő felelőssége. A dél-koreai társadalomban a mai napig mélyen gyökerezik a nemi diszkrimináció annak ellenére, hogy gazdaságilag és kulturálisan is az egyik legerősebb ország a világon.
Dél-Koreában és Japánban – az OECD-országokban egyedüliként – nincs diszkriminációellenes törvény. Ezt a szabályozást szintén sürgeti az ENSZ Emberi Jogi Bizottsága – már 2014 óta. A szervezet szerint átfogó szabályozásra lenne szükség, hogy fellépjenek a társadalmi különbségek, a rasszizmus és az idegengyűlölet ellen.
Ezzel más problémákat is kezelni lehetne, hisz Dél-Korea régóta küzd a szexuális bűncselekmények ellen, beleértve az illegális filmezést, a nyíltan szexuális tartalmú képek nem konszenzusos terjesztését és a szexuális zsarolást.
K-pop és a deepfake
Az országban nagy az ellenállás a feminizmussal szemben is, ráadásul ez is csak erősödött az elmúlt években. Az antifeminista csoportok gyakran a „felvilágosult” K-pop bandákat bírálják, amelyek olyan könyveket ajánlanak és olyan szlogeneket hangoztatnak, amelyek a feminizmushoz köthetők.
Ez hozzájárul ahhoz, hogy a deepfake-botrányban jócskán érintettek az ország legfőbb kulturális exportcikkének képviselői, véleményvezérei. A már említett 2023 State of Deepfakes tanulmányban megállapították, hogy a deepfake bűncselekmények több mint fele a dél-koreaiakat célozza, főleg a híres embereket, énekeseket, színészeket, kiemelten a K-pop előadókat. Ezért a koreai popénekeseket, zenekarokat képviselő ügynökségek maguk is felveszik a harcot, gyűjtik a bizonyítékokat, aztán várják, mire jutnak velük a hatóságok.
A K-pop előadók érintettsége azért is problémás, mert ők a legfiatalabbakhoz is eljuthatnak, így mérgezve a következő generációkat. A következmények már most érezhetők, a Koreai Tanárok Szövetsége szerint a tinédzserek aránya az elkövetők és az áldozatok között azt jelenti, hogy a deepfake következményei már a dél-koreai iskolákban is érezhetők. Szerintük még azok a diákok és tanárok is is érzik, akiket nem érintett közvetlenül,
rendkívüli félelmet és szorongást tapasztalnak amiatt, hogy esetleg szexuális bűncselekményekre használják fel őket, vagy tudtuk nélkül online terjesztik a képeiket.
És arra sem lehet számítani, hogy majd az új, modern gondolkodású nemzedék változtat ezen. Beszédes a SisaIN dél-koreai hetilap 2019-es felmérésnek eredménye, amely szerint a 20 év körüli férfiak 62,3 százaléka nem hiszi el, hogy a feminizmus egy olyan mozgalom, amely a férfiak és a nők egyenlő státuszának elérését célozza; 78,9 százalék inkább azzal értett egyet, hogy a feminizmus a „női felsőbbrendűségről” szól.
The post „Ez a gyűlölet és harag egyfajta kifejezése a nők iránt” – megmutatta magát a mesterséges intelligencia rémisztő arca Dél-Koreában first appeared on 24.hu.
