Јужна Кореја: Дипфејк порнографија уништава животе студенткиња

Претпрошле суботе, на Телеграму на Хиђинином телефону стигла је порука од анонимног пошиљаоца.

„Процуреле су твоје слике и лично подаци. Причајмо.&qуот;

Кад је ова студенткиња факултета прочитала поруку, стигла јој је њена фотографија снимљена пре неколико година, док је још ишла у школу.

Следила је друга - иста фотографија, само сексуално експлицитна, и лажна.

• Телеграм се извинио због лажног порнографског материјала
• Телеграм: „Дарк веб у вашем џепу“
• Кад те „дипфејкују&qуот;: „Налепили су моје лице на порно снимак&qуот;

Престрашена, Хиђин (није право име) није одговорила, али су слике и даље стизале.

На свима њима, њено лице је налепљено на тело које учествује у сексуалном чину, уз помоћ софистициране дипфејк технологије.

Дипфејкови, који у већини случајева комбинују лице праве особе са лажним, сексуално експлицитним телом, све се више праве уз помоћ вештачке интелигенције.

„Била сам скамењена, осећала сам се страшно усамљено&qуот;, каже Хиђин за ББЦ.

Али она није била усамљена.

Два дана раније, јужнокорејска новинарка Ко Нарин објавила је текст за који ће се испоставити да је највећа ексклузива у њеној каријери.

Недавно се показало да полиција води истрагу против криминалних мрежа дипфејк порнографије на два највећа универзитета у земљи, а Ко је била убеђена да тога мора бити још.

Почела је да претражује друштвене мреже и разоткрила десетине чет-група на Телеграму у којима корисници деле фотографије жена које познају и уз помоћ вештачке интелигенције претварају их у лажне порнографске слике у року од неколико секунди.

„Сваког минута људи су постављали нове слике девојака које познају и тражили да буду претворене и дипфејкове&qуот;, рекла нам је Ко.

Ко Нарин је открила да ове групе на зуб не узимају само универзитетске студенткиње.

Било је и четрумова посвећених конкретним средњим школама па чак и вишим разредима основне школе.

Ако би настало више садржаја уз помоћ слика неке конкретне ученице, она би чак могла да добије властиту „собу&qуот;.

Нашироко назване „собе за понижавање&qуот; или „собе за пријатељицине пријатељице&qуот;, оне често имају строга правила уласка.

Коин извештај у листу Нанкјорех шокирао је Јужну Кореју.

У прошли понедељак полиција је саопштила да разматра да покрене истрагу против Телеграма, следећи пример власти из Француске, које су недавно оптужиле руског оснивача за злочине повезане са апликацијом.

Влада се зарекла да ће увести строже казне за умешане, а председник је позвао на бољу едукацију младића.

Телеграм је рекао да се „активно бори против штетног садржаја на платформи, у шта спада и илегална порнографија&qуот; у саопштењу послатом ББЦ-ју.

„Системски и организовани процес&qуот;

ББЦ је имао увида у описе великог броја ових четрумова.

Један тражи од чланова да објаве више од четири фотографије некога заједно са његовим именом, годиштем и области у којој живи.

„Била сам шокирана колико је систематски и организован читав процес био&qуот;, каже Ко.

„Најстрашнија ствар коју сам открила била је група са малолетним ђацима једне школе која је имала више од 2.000 чланова.&qуот;

У данима након што је обављен Коин чланак, активисти борбе за права жена такође су почели да прочешљавају Телеграм и да следе трагове.

Крајем те недеље, открили су да су мете постали 500 школа и универзитета.

Тек треба да се утврди права бројка погођених, али верује се да су многи од њих млађи од 16 година, што је граница добровољног пристанка у Јужној Кореји.

Велики проценат осумњичених починилаца су и сами малолетни.

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Хиђин је рекла да је свест о размерама кризе само погоршала њену анксиозност, јер се сада она брине колико је много људи могло да види њене дипфејкове.

Испрва је кривила саму себе.

„Нисам могла да престанем да мислим о томе да ли се ово десило зато што сам објављивала слике на друштвеним мрежама, да ли је требало да будем опрезнија?&qуот;

Велики број жена и тинејџерки из читаве земље у међувремену је уклонио фотографије са друштвених мрежа или потпуно деактивирао налоге, уплашен да би оне могле бити злоупотребљене следеће.

„Незадовољне смо и бесне што морамо да цензуришемо наше понашање и нашу употребу друштвених мрежа кад нисмо ништа погрешиле&qуот;, рекла је студенткиња са универзитета Ахеун, чије су се колегинице нашле на мети.

Ахеун је рекла да је једној жртви на њеном универзитету полиција рекла да се не труди да води свој случај на суд јер ће бити сувише тешко ухватити починиоца и да то „заправо није злочин&qуот; јер су „фотографије лажне&qуот;.

У средишту овог скандала налази се апликација за размену порука по имену Телеграм.

Апликације је позната да има „попустљив став&qуот; према модерацији и оптужена је да годинама не ради довољно приликом надзора садржаја а посебно група.

То ју је учинило ударним местом за цветање криминалног понашања.

Прошле недеље су политичари и полиција енергично одговорили, обећавши истрагу ових злочина и привођење починилаца правди.

У понедељак је Национална полициска агенција саопштила да ће повести истрагу против Телеграма због његове улоге у омогућавању дељења лажних порнографских слика деце.

Оснивач апликације Павел Дуров је оптужен у Француској претпрошле недеље за саучешће у великом броју злочина повезаних са апликацијом, међу њима омогућавање и дељење дечје порнографије.

Али активисти борбе за права жена оптужују власти у Јужној Кореји да су предуго дозвољавале да сексуално злостављање неометано тиња на Телеграму, зато што се Кореја већ раније суочила са оваквом кризом.

Године 2019, откривено је да је сексуална мрежа користила Телеграм да приморава жене и децу на стварање и дељење сексуалног експлицитних слика себе.

Полиција је тада тражила од Телеграма да помогне у њиховој истрази, али је апликација игнорисала свих седам њихових захтева.

Иако је вођа банде на крају осуђен на више од 40 година затвора, ништа није предузето против саме платформе, због страха од оптужби за цензуру.

„Осудили су главне починиоце, али су иначе зажмурили над читавом ситуацијом, и мислим да је то сада погоршало све&qуот;, каже Ко.

Парк Џихјун, која је, као млада студенткиње журналистике, разоткрила сексуалну мрежу Нт-рум још 2019. године, у међувремену је постала политичка заступница жртава дигиталних сексуалних злочина.

Она каже да је од избијања новог дипфејка скандала ђаци и родитељи зову више пута дневно уплакани.

„Видели су њихови школу на списку дељених на друштвеним мрежама и сада су престрашени.&qуот;

Парк предводи позиве влади да регулише или чак забрани апликацију у Јужној Кореји.

„Ако ове технолошке компаније не буду сарађивале са службама за спровођење реда и закона, онда држава мора да их регулише да би заштитила грађане&qуот;, каже она.

Пре него што је ова најновија криза експлодирала, Заступнички центар Јужне Кореје за жртве сексуалног злостављања (АЦОСАВ) већ је примећивао нагао скок у броју малолетних жртава дипфејк порнографије.

Године 2023. они су саветовали 86 жртава тинејџерског узраста.

То је скочило на 238 у само првих осам месеци ове године.

Само протекле недеље, јавило се још 64 жртве тинејџерског узраста.

Једна од лидерки центра Парк Сеонгхје рекла је да је током протекле недеље њен тим био затрпан позивима и да је радио од јутра до мрака.

„Била је то за нас права ванредна ситуација, као ратно стање&qуот;, каже она.

„Уз најновију дипфејк технологију сада има много више снимака него што је то било пре, а ми се бринемо да ће се то само још погоршати.&qуот;

Поред пружања правне помоћи и савета жртвама, центар проналази штетан садржај и сарађује са онлајн платформама на њиховом уклањању.

Парк је рекла да је било неких случајева када је Телеграм уклонио садржај на њихов захтев.

„Тако да то није немогуће&qуот;, истакла је она.

У саопштењу, Телеграм је рекао за ББЦ да његови модератори „проактивно надзиру јавне делове апликације, користе алатке вештачке интелигенције и примају пријаве корисника да би уклонили милионе комада садржаја сваког дана који крше Телеграмове одредбе и услове&qуот;.

Иако организације за заштиту права жена признају да нова технологија вештачке интелигенције олакшава искоришћавање жртава, оне тврде да је то само најновији облик мизогиније који се одвија онлајн у Јужној Кореји.

Прво су жене биле изложене читавим таласима вербалног злостављања онлајн.

Онда је дошла епидемија шпијунских камера, када су оне у тајности биле снимане по јавним тоалетима и кабинама за пресвлачење.

„Узрочник овог структуралног сексизма и решење је родна равноправност&qуот;, стоји у саопштењу које су потписале 84 групе за заштиту права жена.

Ово је директна критика на рачун председника Јун Сук Јеола, који је негирао постојање структуралног сексизма, укинуо финансирање групама за подршку жртвама и распустио владино министарство за равноправност полова.

Ли Мјунгхва, која се бави младим сексуалним преступницима, слаже се да иако можда епидемија злостављања преко дипфејка делује као нагло, оно се одавно крило испод површине.

„За тинејџере, дипфејкови су постали део њихове културе, они их доживљавају као игрицу или неслану шалу&qуот;, рекла је ова саветница, која води Омладински културни центра Аха Сеул.

Ли је рекла да је од кључне важности да се едукују млади мушкарци, позивајући се на истраживање које показује да кад објасните преступницама у чему су тачно погрешили, они постају свесни тога шта све спада у сексуално злостављање, а то их онда спречава да понове преступ.

У међувремену, влада је рекла да ће појачати кривичне казне за оне који праве и деле дипфејк слике, а казниће чак и оне који гледају порнографију.

Ово је уследило након критика да није кажњено довољно починилаца.

Један од проблема је да су већина починилаца тинејџери, којима се обично суди на судовима за малолетнике, где добијају блаже казне.

Од разоткривања четрумова, многи од њих су били угашени, али ће нови скоро сигурно заузети њихово место.

Нове „собе за понижење&qуот; су већ отворене за новинаре који пишу о овој причи.

Ко, која је прва објавила вест, рекла је да јој је то донело „гомилу непроспаваних ноћи&qуот;.

„Упорно проверавам 'собу' да видим да ли су поставили моју слику&qуот;, каже она.

Таква анксиозност је захватила скоро сваку тинејџерку и младу жену у Јужној Кореји.

Ахеун, студенткиња, рекла је да је због свега почела с подозрењем да посматра све мушке познанике.

„Сада не могу више бити сигурна да људи неће чинити ове злочине иза мојих леђа, а да ја то не знам&qуот;, каже она.

„Постала сам хипер-опрезна и у свим контактима са људима, што не може бити добро.&qуот;

Додатно извештавање: Хосу Ли и Сунвук Ли

Пратите нас на Фејсбуку, Твитеру, Инстаграму, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на ббцнасрпском@ббц.цо.ук

(ББЦ Невс, 10.16.2024)