„Bio sam moderator stotina užasnih i potresnih video snimaka"

Tokom proteklih nekoliko meseci BBC je istraživao mračni, skriveni svet – svet u kome završavaju najgori, najstrašniji, uznemirujući i u mnogim slučajevima, nezakoniti sadržaji na mreži.

Odsecanja glava, masovna ubistva, zlostavljanja dece, govor mržnje – sve to završava u sandučićima armije moderatora sadržaja širom sveta.

Ne viđate ih često niti vam se često obraćaju, ali to su ljudi čiji posao je da pregledaju, a zatim po potrebi izbrišu sadržaj koji ili prijavljuju drugi korisnici, ili ga automatski označavaju alati za upravljanje društvenim mrežama.

Bezbednost na mreži postaje sve značajnija, jer su tehnološke firme pod sve većim pritiskom da brzo uklone štetan sadržaj.

I uprkos mnogim istraživanjima i ulaganjima u tehnološka rešenja, na kraju za sada uglavnom ljudi moderatori imaju poslednju reč po pitanju sadržaja.

Moderatore često zapošljavaju treća lica, ali rade na sadržaju koji se postavlja neposredno na velike društvene mreže među kojima su Instagram, TikTok i Fejsbuk.

• Zašto generacija Z i milenijalci zaziru od razgovora telefonom
• Iks zabranjen u Brazilu, „uništava se sloboda govora", odgovara Ilon Mask
• Telegram nekoliko puta odbio da se priključi zaštiti dece na internetu

Oni rade u raznim delovima sveta.

Ljudi sa kojima sam razgovarala dok sam pravila naš serijal Moderatori za Radio 4 i BBC Sounds, uglavnom su živeli u istočnoj Africi i svi su od tada napustili ovu industriju.

Njihove priče su bile mučne.

Deo materijala koji smo snimili bio je previše okrutan za emitovanje.

Ponekad bismo moj producent Tom Vulfenden i ja završili snimanje i samo sedeli u tišini.

„Ako uzmete telefon i odete na TikTok, videćete mnogo aktivnosti, plesa, znate, srećnih stvari”, kaže Modžez iz Najrobija, glavnog grada Kenije, koji je nekada radio kao moderator sadržaja na TikToku.

„Ali u pozadini, lično sam bio moderator stotine užasnih i potresnih video snimaka.

„Preuzeo sam to na sebe. Da sve to ide na račun mog mentalnog zdravlja da bi obični korisnici mogli da nastave njihove aktivnosti na platformi”.

Trenutno postoje brojni zahtevi moderatora za nadoknadu štete jer im je taj posao uništio mentalno zdravlje.

Neki od bivših radnika u istočnoj Africi su se udružili i obrazovali sindikat.

„Zaista, jedino što me štiti da ne gledam odsecanje glave kada se prijavim na društvenu mrežu je neko ko sedi negde u kancelariji, gleda taj sadržaj i proverava ga umesto mene“, kaže Marta Dark koja vodi grupu aktivista Foxglove koja podržava ovakva potraživanja.

Tužbu je pokrenula bivša moderatorka u Sjedinjenim Državama (SADO) Selena Skola.

Ona kaže da su moderatori „čuvari duša” zbog broja snimaka koje gledaju a koji prikazuju poslednje trenutke života ljudi.

Bivši moderatori sa kojima sam razgovarala koristili su reč „trauma” da opišu kako je na njih uticao posao koji su obavljali.

Pojedini su imali poteškoća da spavaju i jedu.

Jedan je pričao da je kolega paničio kada bio čuo plač bebe.

Drugi je rekao da mu je bilo teško da razgovara sa njegovom ženom i decom zbog zlostavljanja dece koje je gledao na snimcima.

Očekivala sam da kažu da je ovaj posao toliko emocionalno i mentalno iscrpljujući i da nijedan čovek ne bi trebalo da ga radi, i mislila sam da će u potpunosti podržati ideju da sve treba da se automatizuje i da alati veštačke inteligencije treba da se razviju da bi mogli da preuzmu taj posao.

Ali nisu.

Zapravo su bili izuzetno ponosni zbog uloge koje su imali u zaštiti sveta od štete koju mogu da uzrokuju sadržaji na mreži.

Oni su sebe videli kao ključnu hitnu službu.

Jedan od njih kaže da je želeo da nosi uniformu i značku, poredeći sebe sa članom hitne pomoči ili vatrogascem.

„Ni sekund nije protraćen”, kaže moderator koga smo nazvali Dejvid, jer nije želeo da bude imenovan.

Radio je na materijalu koji je korišćen za obuku ČetGPT-ja, četbota sa veštačkom inteligencijom, kako bi mogao da se programira da automatski ne ponavlja jeziv sadržaj.

„Ponosan sam na pojedince koji su obučili ovaj model da bude ono što je danas”.

Ali upravo alat koji je obučen uz Dejvidovu pomoć može jednog dana da mu bude konkurencija.

Dejv Villner je bivši šef odeljenja za poverenje i bezbednost u američkoj istraživačkoj laboratoriji veštačke inteligencije OpenAI, koja je napravila ČetGPT.

Kaže da je njegov tim napravio osnovni alat za moderiranje sadržaja zasnovan na četbot tehnologiji, koji je uspeo da prepozna štetan sadržaj tačnošću od oko 90 odsto.

„Kada sam u potpunosti shvatio, ‘oho, ovo će raditi’, iskreno, malo sam se zagrcnuo”, kaže on.

„[Alatima veštačke inteligencije] ništa ne dosadi.

„Oni se ne zamaraju i ne šokiraju…. oni su neumorni”.

Međutim, nisu svi uvereni da je veštačka inteligencija čarobni lek za problematičnu oblast moderiranja sadržaja.

„Mislim da je to problematično”, kaže dr Pol Rajli, viši predavač medija i demokratije na Univerzitetu u Glazgovu, u Škotskoj.

„Jasno je da veštačka inteligencija može da bude prilično beskompromisna, da primenjuje binarni način moderiranja sadržaja.

„To može da dovede do preteranog ograničavanja slobode govora i, naravno, može da previdi nijanse koje bi ljudi u svojstvu moderatora mogli da prepoznaju.

„Za platforme je izuzetno važno da sadržaj moderiraju ljudi”, dodaje on.

„Problem je što nema dovoljno ljudi, a posao je neverovatno štetan za one koji ga obavljaju”.

Takođe smo se obratili tehnološkim kompanijama koje se pominju u serijalu.

Portparol TikToka kaže da je kompanija svesna da posao moderatora nije lak i da se trudi da stvori okruženje koje brine o zaposlenima.

Zato kompanija nudi usluge lekara i programe koji podržavaju blagostanje moderatora.

Kompanija kaže i da video snimke prvo prolaze automatsku proveru alata koji uklanjaju veliki deo štetnog sadržaja.

Open AI izražava zahvalnost ljudima koji rade na važnom i ponekad izazovnom zadatku obučavanja veštačke inteligencije da uoči takve fotografije i video zapise.

Portparol dodaje da Open AI i partneri primenjuju politike zaštite blagostanja ovih timova.

A Meta, vlasnik Instagrama i Fejsbuka, kaže da od svih kompanija sa kojima radi zahteva da obezbede 24-časovnu podršku obučenih profesionalca moderatorima na licu mesta.

Kompanija dodaje da moderatori sadržaja imaju mogućnost da alate za proveru podese tako da grafički sadržaj bude zamagljen.

• Australija planira zabranu društvenih mreža za mlađe od 16 godina
• Kazna veća od bogatstva celog sveta: Kako je Rusija kaznila Gugl
• Porodice u Francuskoj tuže TikTok zbog 'štetnog sadržaja po decu'
• Pet najperspektivnijih zanimanja i veštine potrebne za uspeh

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

(BBC News, 12.10.2024)