Корисник друштвених медија за ББЦ: 'Прљају ми мозак'

Шеснаестогодишњи Каи је 2022. са 16 година почео да скролује на свом телефону и "ниоткуда" су му препоручени видео-снимци тешких саобраћајних несрећа, монолози инфлуенсера с мизогиним ставовима и снимци туча, пише ББЦ.

У Даблину, Ендру Каунг је у то време радио као аналитичар за безбедност корисника ТикТока и испитао је који садржај у Великој Британији препоручују алгоритми апликације, укључујуц́и и 16-годишњаке. Открио је да се неким тинејџерима приказују постови насиља и порнографије и промовишу мизогинисти ставови, рекао је он за ББЦ. С друге страбе, тинејџеркама су препоручивани веома различити садржаји на основу њихових интересовања.

ТикТок и друге компаније друштвених медија користе алате АИ за уклањање велике вец́ине штетног садржаја и за слање сумњивог садржаја за преглед модераторима - људима. Али ти алати не могу да идентификују све.

Каунг каже да би сви видео снимци које АИ није уклонио с ТикТока, или их је послао модераторима, као и други које су модераторима пријавили корисници, били прегледани тек ако број број прегледа достигне одређени праг - једно време је то било више од 10.000.

Плашио се да то значи да су неки млади корисници изложени штетним видео-снимцима тим пре што им вец́ина великих компанија друштвених медија дозвољава да се пријаве већ са 13 година.

ТикТок каже да 99 одсто садржаја који уклања због кршења његових правила, уклоне АИ или модератори пре но што достигну 10.000 прегледа. Такође каже да истражује и видео-снимке с мање прегледа од тога.

Када је претходно, 2019-2020, радио у Мети која има Инстаграм и Фејсбук, Каунг каже да је постојао другачији проблем: иако је вец́ина видео-снимака уклањена или се слала модераторима помоц́у АИ алата, сајт се ипак ослањао на кориснике да пријаве проблематичне видео-снимке.

Каже да је у обе компаније изразио забринутост, али је наишао на нереаговање због страха од количине посла и трошкова, мада је касније било неких побољшања у ТикТок-у и у Мети, али каже да су млађи корисници, као што је Каи, ипак били у опасности.

Неколико бивших запослених у компанијама друштвених медија рекло је за ББЦ да су и они забринути као и Каунг и да имају сличног искуства с тим.

Алгоритми свих великих компанија друштвених медија ненамерно препоручују деци штетан садржај, каже британски регулатор Офцом за ББЦ.

"Компаније су затварале очи и третирале су децу као и одрасле", рекла Алмудена Лара, директорка Офцом за развој политике безбедности на мрежи.

ТикТок је рекао Би-Би-Сију да има "водец́а" безбедносна подешавања за тинејџере и да више од 40.000 људи ради на заштити корисника. Изјавили су да само ове године очекују да ц́е уложити "више од две милијарде долара у безбедност" и да превентивно, пре било какве пријаве, налазе 98 одсто садржаја који уклањају због кршења својих правила.

Мета која је власник Инстаграма и Фејсбука, каже да има више од 50 алата, ресурса и функција за пружање тинејџерима "позитивног искуства које одговара том узрасту".

Каи је за Би-Би-Си рекао да је покушао да користи један од Инстаграмових алата и сличан алат ТикТок-а да би означио да га не занима насилни или мизогини садржај, али и даље добија такав садржај.

"Кад једном добијеш слику у глави, не можеш да је избациш. То прља мозак, то остаје", рекао је он.

Девојкама истих година које он познаје, препоручени су видео-снимци о музици и шминки, а не о насиљу, каже он.

Каи каже да је приметио да су видео-снимци с милионима лајкова убедљиви за младе његових година, те је тако један од његових пријатеља, увучен у садржај контроверзног инфлуенсера, почео да прихвата мизогине ставове, те је дошло до тога да је морао да пријатељу објашњава о чему се ту ради.

По аналитичару Ендру Каунгу, "гориво" алгоритама је ангажовање, без обзира да ли је позитивно или негативно. То би делимично могло објаснити зашто нису радили Каиови напори да се понаша по алгоритмима.

Први корак за кориснике је да наведу интересовања када се региструју. Ендру каже да је део садржаја који су алгоритми првобитно сервирали, рецимо, 16-годишњаку, заснован на преференцијама других корисника сличног узраста на сличном месту.

Мада ТикТок каже да алгоритми не знају пол корисника, Ендру је рекао да интересовања тинејџера аутоматски доводе до поделе по родним линијама.

Тај бивши службеник ТикТок-а каже да би неки 16-годишњи дечаци могли бити одмах изложени насилном садржају јер су други тинејџери са сличним преференцијама изразили интересовање за ту врсту садржаја, чак и ако нису рекли и да их то привлачи, већ је сам програм само регистровао да проводе више времена на таквим видео-снимцима.

Он каже и да су интересовања која су многе тинејџерке навеле у профилима - "поп певачице, песме, шминка", сама по себи значила да им није препоручен насилни садржај.

Он каже да алгоритми користе "учење с појачањем" - системи вештачке интелигенције "уче" на основу покушаја и грешака и обучавају се да открију понашање по различитим видео-записима.

Ендру Каунг каже да су системи пројектовани тако да максимизирају ангажовање тиме што показују видео-снимке за које очекују да ц́е их корисник дуже гледати, коментарисати или лајковати - све да би се вратио по још.

Алгоритам који препоручује садржај на ТикТок-овој страници "За тебе", каже он, не прави увек разлику између штетног и нештетног садржаја.

По Ендрјуу, један од проблема који је идентификовао док је радио у ТикТоку био је тај што тимови укључени у обуку и кодирање тог алгоритма нису увек знали природу видео-записа које је програм препоручио.

"Они виде број гледалаца, године, тренд, што све произлази из веома апстрактних података", каже тај бивши аналитичар ТикТока.

Због тога су 2022. године он и његов колега одлучили да погледају које врсте видеа се препоручују низу корисника, укључујуц́и и неке 16-годишњаке и забринулии су се због насилног и штетног садржаја који се сервира тинејџерима, те су и предложили ТикТоку да ажурира свој систем модерирања.

Желели су да ТикТок јасно означи видео-снимке да би сви који тамо раде могли да виде зашто су штетни: екстремно насиље, злостављање, порнографија, и да ангажују више модератора специјализованих баш за те области. Ендру каже да су њихови предлози одбијени.

ТикТок каже да је у то време имао специјализоване модераторе и, како је та платформа расла, запошљавао их је све више. Такође је речено да је раздвојио различите врсте штетног садржаја за кјоје је задужио групе модератора.

Ендрју Каунг каже да је изнутра, у ТикТок-у и Мети, било тешко направити промене за које је мислио да су неопходне јер тиме "тражимо од приватне компаније чији је интерес да промовише своје производе, да се умери, као да од тигра тражите да не једе месо".

Он сматра да би животи деце и тинејџера били бољи када би престали да користе своје паметне телефоне.

Али за Каиа забрана телефона или друштвених медија за тинејџере није решење. Његов телефон је саставни део његовог живота, важан начин ц́аскања с пријатељима, за оријентацију напољу и за плац́ање.

Уместо тога, он жели да компаније друштвених медија више слушају шта тинејџери не желе да виде. Он жели да компаније учине ефикаснијим алате који омогуц́авају корисницима да то изразе.

"Осец́ам се као да компаније друштвених медија не поштују наше мишљење све док им то доноси новац",  рекао је Каи.

У Великој Британији, нови закон ц́е приморати компаније друштвених медија да провере узраст деце и зауставе сајтове који порнографију или друге штетне садржаје препоручују младима. Британски медијски регулатор Офцом је задужен да то спроведе.

Алмудена Лара, Офцом-ова директорка за развој политике безбедности на мрежи, каже да, иако су штетни садржаји који претежно погађају младе жене - видео-снимци последица поремец́аја у исхрани и самоповређивања, с правом били у центру пажње, али мање пажње су добили алгоритамски путеви који изазивају мржњу и насиље углавном међу дечацима и младиц́има.

"Мањина деце бива изложена најштетнијем садржају, али знамо да када једном будете изложени том штетном садржају, он постаје неизбежан", каже Лара.

Офцом каже да може да кажњава компаније и да може да покреће кривично гоњење ако оне не ураде довољно, али то ц́е ступити на снагу тек идуће, 2025. године.

(Бета, 02.09.2024)