„Био сам модератор стотина ужасних и потресних видео снимака"

Током протеклих неколико месеци ББЦ је истраживао мрачни, скривени свет – свет у коме завршавају најгори, најстрашнији, узнемирујуц́и и у многим случајевима, незаконити садржаји на мрежи.

Одсецања глава, масовна убиства, злостављања деце, говор мржње – све то завршава у сандучиц́има армије модератора садржаја широм света.

Не виђате их често нити вам се често обраћају, али то су људи чији посао је да прегледају, а затим по потреби избришу садржај који или пријављују други корисници, или га аутоматски означавају алати за управљање друштвеним мрежама.

Безбедност на мрежи постаје све значајнија, јер су технолошке фирме под све вец́им притиском да брзо уклоне штетан садржај.

И упркос многим истраживањима и улагањима у технолошка решења, на крају за сада углавном људи модератори имају последњу реч по питању садржаја.

Модераторе често запошљавају трећа лица, али раде на садржају који се поставља непосредно на велике друштвене мреже међу којима су Инстаграм, ТикТок и Фејсбук.

• Зашто генерација З и миленијалци зазиру од разговора телефоном
• Икс забрањен у Бразилу, „уништава се слобода говора&qуот;, одговара Илон Маск
• Телеграм неколико пута одбио да се прикључи заштити деце на интернету

Они раде у разним деловима света.

Људи са којима сам разговарала док сам правила наш серијал Модератори за Радио 4 и ББЦ Соундс, углавном су живели у источној Африци и сви су од тада напустили ову индустрију.

Њихове приче су биле мучне.

Део материјала који смо снимили био је превише окрутан за емитовање.

Понекад бисмо мој продуцент Том Вулфенден и ја завршили снимање и само седели у тишини.

„Ако узмете телефон и одете на ТикТок, видец́ете много активности, плеса, знате, срец́них ствари”, каже Моџез из Најробија, главног града Кеније, који је некада радио као модератор садржаја на ТикТоку.

„Али у позадини, лично сам био модератор стотине ужасних и потресних видео снимака.

„Преузео сам то на себе. Да све то иде на рачун мог менталног здравља да би обични корисници могли да наставе њихове активности на платформи”.

Тренутно постоје бројни захтеви модератора за надокнаду штете јер им је тај посао уништио ментално здравље.

Неки од бивших радника у источној Африци су се удружили и образовали синдикат.

„Заиста, једино што ме штити да не гледам одсецање главе када се пријавим на друштвену мрежу је неко ко седи негде у канцеларији, гледа тај садржај и проверава га уместо мене“, каже Марта Дарк која води групу активиста Фоксглове која подржава оваква потраживања.

Тужбу је покренула бивша модераторка у Сједињеним Државама (САДО) Селена Скола.

Она каже да су модератори „чувари душа” због броја снимака које гледају а који приказују последње тренутке живота људи.

Бивши модератори са којима сам разговарала користили су реч „траума” да опишу како је на њих утицао посао који су обављали.

Поједини су имали потешкоц́а да спавају и једу.

Један је причао да је колега паничио када био чуо плач бебе.

Други је рекао да му је било тешко да разговара са његовом женом и децом због злостављања деце које је гледао на снимцима.

Очекивала сам да кажу да је овај посао толико емоционално и ментално исцрпљујуц́и и да ниједан човек не би требало да га ради, и мислила сам да ц́е у потпуности подржати идеју да све треба да се аутоматизује и да алати вештачке интелигенције треба да се развију да би могли да преузму тај посао.

Али нису.

Заправо су били изузетно поносни због улоге које су имали у заштити света од штете коју могу да узрокују садржаји на мрежи.

Они су себе видели као кључну хитну службу.

Један од њих каже да је желео да носи униформу и значку, поредец́и себе са чланом хитне помочи или ватрогасцем.

„Ни секунд није протраћен”, каже модератор кога смо назвали Дејвид, јер није желео да буде именован.

Радио је на материјалу који је коришц́ен за обуку ЧетГПТ-ја, четбота са вештачком интелигенцијом, како би могао да се програмира да аутоматски не понавља језив садржај.

„Поносан сам на појединце који су обучили овај модел да буде оно што је данас”.

Али управо алат који је обучен уз Дејвидову помоћ може једног дана да му буде конкуренција.

Дејв Виллнер је бивши шеф одељења за поверење и безбедност у америчкој истраживачкој лабораторији вештачке интелигенције ОпенАИ, која је направила ЧетГПТ.

Каже да је његов тим направио основни алат за модерирање садржаја заснован на четбот технологији, који је успео да препозна штетан садржај тачношћу од око 90 одсто.

„Када сам у потпуности схватио, ‘охо, ово ц́е радити’, искрено, мало сам се загрцнуо”, каже он.

„[Алатима вештачке интелигенције] ништа не досади.

„Они се не замарају и не шокирају…. они су неуморни”.

Међутим, нису сви уверени да је вештачка интелигенција чаробни лек за проблематичну област модерирања садржаја.

„Мислим да је то проблематично”, каже др Пол Рајли, виши предавач медија и демократије на Универзитету у Глазгову, у Шкотској.

„Јасно је да вештачка интелигенција може да буде прилично бескомпромисна, да примењује бинарни начин модерирања садржаја.

„То може да доведе до претераног ограничавања слободе говора и, наравно, може да превиди нијансе које би људи у својству модератора могли да препознају.

„За платформе је изузетно важно да садржај модерирају људи”, додаје он.

„Проблем је што нема довољно људи, а посао је невероватно штетан за оне који га обављају”.

Такође смо се обратили технолошким компанијама које се помињу у серијалу.

Портпарол ТикТока каже да је компанија свесна да посао модератора није лак и да се труди да створи окружење које брине о запосленима.

Зато компанија нуди услуге лекара и програме који подржавају благостање модератора.

Компанија каже и да видео снимке прво пролазе аутоматску проверу алата који уклањају велики део штетног садржаја.

Опен АИ изражава захвалност људима који раде на важном и понекад изазовном задатку обучавања вештачке интелигенције да уочи такве фотографије и видео записе.

Портпарол додаје да Опен АИ и партнери примењују политике заштите благостања ових тимова.

А Мета, власник Инстаграма и Фејсбука, каже да од свих компанија са којима ради захтева да обезбеде 24-часовну подршку обучених професионалца модераторима на лицу места.

Компанија додаје да модератори садржаја имају могуц́ност да алате за проверу подесе тако да графички садржај буде замагљен.

• Аустралија планира забрану друштвених мрежа за млађе од 16 година
• Казна већа од богатства целог света: Како је Русија казнила Гугл
• Породице у Француској туже ТикТок због 'штетног садржаја по децу'
• Пет најперспективнијих занимања и вештине потребне за успех

Пратите нас на Фејсбуку, Твитеру, Инстаграму, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на ббцнасрпском@ббц.цо.ук

(ББЦ Невс, 12.10.2024)