Të shtunën e kaluar, një mesazh Telegram u shfaq në telefonin e Heejin nga një dërgues anonim. “Fotografitë dhe informacionet tuaja personale janë zbuluar. Le të diskutojmë.”

Teksa studentja e universitetit hyri në dhomën e bisedës për të lexuar mesazhin, ajo mori një foto të saj të realizuar disa vite më parë, ndërsa ishte ende në shkollë. Ajo u pasua nga një imazh i dytë duke përdorur të njëjtën foto, vetëm kjo ishte seksualisht eksplicite dhe false.

E tmerruar, Heejin, që nuk është emri i saj i vërtetë, nuk u përgjigj, por imazhet vazhdonin të vinin. Në të gjitha ato, fytyra e saj ishte ngjitur me një trup të përfshirë në një akt seksual, duke përdorur teknologji të sofistikuar deepfake.

Deepfakes, shumica e të cilave kombinojnë fytyrën e një personi të vërtetë me një trup të rremë, seksualisht të qartë, po krijohen gjithnjë e më shumë duke përdorur inteligjencën artificiale.

“Isha i ngurtësuar, u ndjeva kaq i vetëm”, tha Heejin për BBC.

Por ajo nuk ishte vetëm.

Dy ditë më parë, gazetarja koreano-jugore Ko Narin kishte publikuar atë që do të kthehej në skupën më të madhe të karrierës së saj. Kohët e fundit kishte dalë se policia po hetonte unaza pornografike të falsifikuara në dy nga universitetet kryesore të qarkut dhe zonja Ko ishte e bindur se duhet të kishte më shumë.

Ajo filloi të kërkonte në mediat sociale dhe zbuloi dhjetëra grupe bisedash në aplikacionin e mesazheve Telegram, ku përdoruesit shpërndanin foto të grave që njihnin dhe përdornin softuerin e AI për t'i kthyer ato në imazhe pornografike të rreme brenda disa sekondave.

“Çdo minutë njerëzit ngarkonin foto të vajzave që njihnin dhe kërkonin që ato të shndërroheshin në “deepfake”, - na tha zonja Ko.

Zonja Ko zbuloi se këto grupe nuk synonin vetëm studentët e universitetit. Kishte dhoma të dedikuara për shkolla të mesme specifike, madje edhe shkolla të mesme. Nëse do të krijohej shumë përmbajtje duke përdorur imazhet e një studenti të caktuar, asaj mund t'i jepet edhe dhoma e saj. Të emërtuara gjerësisht si "dhomat e poshtërimit" ose "dhomat e miqve të miqve", ato shpesh vijnë me kushte strikte hyrjeje.

Raporti i zonjës Ko në gazetën Hankyoreh ka tronditur Korenë e Jugut. Të hënën, policia njoftoi se po shqyrtonte hapjen e një hetimi për Telegram, pas drejtimit të autoriteteve në Francë, të cilët së fundmi akuzuan themeluesin rus të Telegram për krime në lidhje me aplikacionin. Qeveria është zotuar të sjellë dënime më të rrepta për ata që janë përfshirë dhe presidenti ka bërë thirrje që të rinjtë të arsimohen më mirë.

Telegram tha se "lufton në mënyrë aktive përmbajtjen e dëmshme në platformën e saj, duke përfshirë pornografinë e paligjshme", në një deklaratë të dhënë për BBC.

"Një proces sistematik dhe i organizuar"

BBC ka parë përshkrimet e një numri prej këtyre dhomave të bisedës. Njëri u bën thirrje anëtarëve të postojnë më shumë se katër foto të dikujt së bashku me emrin, moshën dhe zonën ku jetojnë.

“Isha e shokuar se sa sistematik dhe i organizuar ishte procesi,” tha znj. Ko. “Gjëja më e tmerrshme që zbulova ishte një grup për nxënës të mitur në një shkollë që kishte më shumë se 2000 anëtarë.”

Në ditët pas publikimit të artikullit të zonjës Ko, aktivistet e të drejtave të grave filluan të kontrollojnë gjithashtu Telegramin dhe të ndjekin udhëzimet.

Deri në fund të asaj jave, më shumë se 500 shkolla dhe universitete ishin identifikuar si objektiva. Numri aktual i prekur është ende për t'u përcaktuar, por shumë besohet se janë nën moshën 16 vjeç, që është mosha e pëlqimit të Koresë së Jugut. Një pjesë e madhe e autorëve të dyshuar janë vetë adoleshentë.

Heejin tha se të mësuarit për shkallën e krizës e kishte bërë ankthin e saj më keq, pasi ajo tani shqetësohej se sa njerëz mund të kishin parë falsifikimet e saj të thella. Fillimisht ajo fajësoi veten. "Nuk mund të ndaloja së menduari nëse kjo ndodhi sepse ngarkova fotot e mia në mediat sociale, a duhet të isha më i kujdesshëm?"

Shumë gra dhe adoleshente në të gjithë vendin që atëherë i kanë hequr fotot e tyre nga mediat sociale ose i kanë çaktivizuar fare llogaritë e tyre, të frikësuar se mund të shfrytëzohen më pas.

"Ne jemi të frustruar dhe të zemëruar që na duhet të censurojmë sjelljen tonë dhe përdorimin tonë të mediave sociale kur nuk kemi bërë asgjë të keqe," tha një student universiteti, Ah-eun, bashkëmoshatarët e të cilit janë shënjestruar.

Ah-eun tha se një viktimë në universitetin e saj iu tha nga policia që të mos shqetësohej për të ndjekur çështjen e saj pasi do të ishte shumë e vështirë për të kapur autorin dhe "nuk ishte vërtet një krim" pasi "fotot ishin të rreme".

Në zemër të këtij skandali është aplikacioni i mesazheve Telegram. Ndryshe nga faqet e internetit publike, të cilave autoritetet mund t'i qasen lehtësisht dhe më pas të kërkojnë heqjen e imazheve, Telegram është një aplikacion privat, i koduar i mesazheve.

Përdoruesit janë shpesh anonimë, dhomat mund të vendosen në modalitetin "sekret" dhe përmbajtja e tyre fshihet shpejt pa lënë gjurmë. Kjo e ka bërë atë një hapësirë ​​kryesore për lulëzimin e sjelljeve kriminale.

Javën e kaluar, politikanët dhe policia reaguan me forcë, duke premtuar se do të hetojnë këto krime dhe do të nxjerrin autorët para drejtësisë.

Të hënën, Agjencia Kombëtare e Policisë së Seulit njoftoi se do të kërkonte të hetonte Telegram mbi rolin e tij në mundësimin e shpërndarjes së imazheve të rreme pornografike të fëmijëve.

Themeluesi i aplikacionit, Pavel Durov, u akuzua në Francë javën e kaluar si bashkëpunëtor në një sërë krimesh që lidhen me aplikacionin, duke përfshirë mundësinë e ndarjes së pornografisë së fëmijëve.

Por aktivistët e të drejtave të grave akuzojnë autoritetet në Korenë e Jugut se kanë lejuar që abuzimi seksual në Telegram të ziejë i pakontrolluar për një kohë të gjatë, sepse Koreja është përballur me këtë krizë edhe më parë. Në vitin 2019, doli se një rrjet seksi po përdorte Telegramin për të detyruar gratë dhe fëmijët të krijonin dhe të shpërndanin imazhe seksuale të tyre.

Policia në atë kohë kërkoi ndihmë nga Telegram për hetimin e tyre, por aplikacioni i injoroi të shtatë kërkesat e tyre. Megjithëse drejtuesi i grupit u dënua përfundimisht me më shumë se 40 vjet burg, nuk u ndërmor asnjë masë kundër platformës, për shkak të frikës rreth censurës.

“Ata dënuan aktorët kryesorë, por përndryshe neglizhuan situatën dhe mendoj se kjo e ka përkeqësuar situatën,” tha zonja Ko.

Grupet e bisedave si këto po ofrojnë për të krijuar imazhe të rreme. Në fund vë në dukje se "nëse ju kërkoni që dikush të poshtërohet (të falsifikohet), ne do ta bëjmë këtë"

Park Jihyun, e cila, si një gazetare e re studente, zbuloi unazën e seksit në dhomën e N-të në vitin 2019, që atëherë është bërë një avokate politike për viktimat e krimeve seksuale dixhitale. Ajo tha se që kur shpërtheu skandali i deepfake, nxënësit dhe prindërit e kishin thirrur disa herë në ditë duke qarë.

“Ata e kanë parë shkollën e tyre në listën e shpërndarë në mediat sociale dhe janë të tmerruar.”

Zonja Park ka udhëhequr thirrjet që qeveria të rregullojë apo edhe të ndalojë aplikacionin në Korenë e Jugut. "Nëse këto kompani teknologjike nuk do të bashkëpunojnë me agjencitë e zbatimit të ligjit, atëherë shteti duhet t'i rregullojë ato për të mbrojtur qytetarët e tij," tha ajo.

Përpara se të shpërthente kjo krizë e fundit, Qendra e Avokimit për viktimat e Abuzimit Seksual në internet (ACOSAV) e Koresë së Jugut tashmë po vinte re një rritje të mprehtë në numrin e viktimave të mitur të pornografisë së rreme.

Në vitin 2023 ata këshilluan 86 viktima adoleshente. Kjo u rrit në 238 vetëm në tetë muajt e parë të këtij viti. Vetëm gjatë javës së kaluar, janë paraqitur edhe 64 viktima adoleshentë.

Një nga drejtuesit e qendrës, Park Seonghye, tha se gjatë javës së kaluar stafi i saj ishte përmbytur me telefonata dhe po punonte gjatë gjithë kohës. “Ka qenë një emergjencë në shkallë të plotë për ne, si një situatë lufte,” tha ajo.

"Me teknologjinë më të fundit të "deepfake", tani ka shumë më shumë pamje se sa ka qenë më parë, dhe ne jemi të shqetësuar se vetëm do të rritet."

Përveç këshillimit të viktimave, qendra gjurmon përmbajtjen e dëmshme dhe punon me platformat online për ta hequr atë. Zonja Park tha se kishte pasur disa raste kur Telegram kishte hequr përmbajtjen me kërkesën e tyre. "Pra, nuk është e pamundur," vuri në dukje ajo.

Në një deklaratë, Telegram i tha BBC-së se moderatorët e saj “monitorojnë në mënyrë proaktive pjesët publike të aplikacionit, përdorin mjete AI dhe pranojnë raportet e përdoruesve në mënyrë që të heqin miliona pjesë të përmbajtjes çdo ditë që shkelin kushtet e shërbimit të Telegram”.

Ndërsa organizatat për të drejtat e grave pranojnë se teknologjia e re e inteligjencës artificiale po e bën më të lehtë shfrytëzimin e viktimave, ata argumentojnë se kjo është vetëm forma më e fundit e mizogjinisë që shfaqet në internet në Korenë e Jugut.

Gratë e para iu nënshtruan valëve të abuzimit verbal në internet. Më pas erdhi epidemia e kamerave të spiunazhit, ku ata u filmuan fshehurazi duke përdorur tualete publike dhe dhoma zhveshjeje.

“Shkaku kryesor i kësaj është seksizmi strukturor dhe zgjidhja është barazia gjinore”, thuhet në një deklaratë të nënshkruar nga 84 grupe të grave.

Kjo është një kritikë e drejtpërdrejtë ndaj presidentit të vendit, Yoon Suk Yeol, i cili ka mohuar ekzistencën e seksizmit strukturor, ka shkurtuar fondet për grupet e mbështetjes së viktimave dhe ka shfuqizuar ministrinë e qeverisë për barazinë gjinore.

Lee Myung-hwa, i cili trajton shkelësit e rinj të seksit, u pajtua se edhe pse shpërthimi i abuzimit të rrejshëm mund të dukej i papritur, ai kishte kohë që fshihej nën sipërfaqe. “Për adoleshentët, “deepfakes” janë bërë pjesë e kulturës së tyre, ato shihen si lojë apo shaka”, tha këshilltari, i cili drejton Qendrën Kulturore Rinore Aha Seoul.

Zonja Lee tha se ishte thelbësore të edukoheshin të rinjtë, duke përmendur një studim që tregon se kur u thua shkelësve saktësisht se çfarë kanë bërë gabim, ata bëhen më të vetëdijshëm për atë që llogaritet si abuzim seksual, gjë që i ndalon ata të kryejnë përsëri shkelje.

Ndërkohë, qeveria ka thënë se do të rrisë dënimet penale të atyre që krijojnë dhe shpërndajnë imazhe të rreme, dhe gjithashtu do të ndëshkojë ata që shikojnë pornografinë.

Kjo vjen pas kritikave se nuk po ndëshkoheshin mjaft autorë. Një nga çështjet është se shumica e shkelësve janë adoleshentë, të cilët zakonisht gjykohen në gjykatat e të rinjve, ku marrin dënime më të buta.

Që nga ekspozimi i dhomave të bisedave, shumë prej tyre janë mbyllur, por ato të reja pothuajse me siguri do të zënë vendin e tyre. Tashmë është krijuar një dhomë poshtërimi për të shënjestruar gazetarët që mbulojnë këtë histori. Zonja Ko, e cila dha lajmin, tha se kjo i kishte dhënë asaj netë pa gjumë. "Unë vazhdoj të kontrolloj dhomën për të parë nëse fotografia ime është ngarkuar," tha ajo.

Një ankth i tillë është përhapur në pothuajse çdo vajzë adoleshente dhe grua të re në Korenë e Jugut. Ah-eun, studentja e universitetit, tha se kjo e kishte bërë atë të dyshonte për të njohurit e saj meshkuj.

“Tani nuk mund të jem i sigurt se njerëzit nuk do t'i kryejnë këto krime pas shpine, pa e ditur unë,” tha ajo. "Unë jam bërë hiper-vigjilent në të gjitha ndërveprimet e mia me njerëzit, gjë që nuk mund të jetë e mirë."./ BBC - Syri.Net