Banas ir depresija. Kaip dirba YouTube ir Facebook turinio moderatoriai

„Moderatoriai daro įtaką žodžio laisvei, politinei opozicijai, socialinėms normoms, naudotojų saugumui ir gyvenimo prasmės suvokimui“

Verge

Moderatoriai nuolat susiduria su kultūrinių skirtumų pasireiškimais ir dėl to neretai jie atsiduria aklavietėje. Kaip, tarkime, vaizdo įraše, kur juokaudami pešasi paaugliai, YouTube moderatorius privalo jį pašalinti, kadangi jame vaizduojami nepilnamečiai, užsiimantys prievarta pramogos dėlei, tačiau, antra vertus, Indijoje tokio amžiaus berniukai jau laikomi visiškai suaugusiais žmonėmis, todėl ten toks elgesys nebūtų laikomas nepriimtinu. Kaip tokiu atveju turėtų elgtis moderatorius? Dar vienas pavyzdys: moderatoriui draudžiama patvirtinti vaizdo įrašus su užfiksuotais narkotikų kartelių nusikaltimais Meksikoje, tačiau galima palikti politiniu pagrindu vykdomo smurto vaizdus Sirijoje ar Rusijoje. Pirmieji laikomi žiauriu turiniu, antrieji – politiškai reikšmingais. Kai kam toks sprendimas gali pasirodyti įžeidžiamas, juk Meksikoje narkotikų kartelių smurto problema – irgi tragedija ir nacionalinio masto problema.

2014 metais Dave'as Willneris (buvęs Facebook turinio politikos vadovas) ir Danas Kelmensonas Facebook inžinierius programuotojas) patentavo technologiją, gebančią išaiškinti potencialiai kenkėjišką veiklą internete. Jos naudojamame modelyje yra trys stadijos: piktavalių grupės nustatymas, su jais susijusių vartotojų identifikacija, ir kitų su jais bendraujančių grupių paieška ir analizė. Tarp automatizuotų moderacijos sistemų yra ir PhotoDNA (iš Microsoft), kuri automatiškai nustato, pašalina ir praneša apie atvaizduose esančią vaikų eksploataciją. Per ją pereina visi atvaizdai, įkraunami į tokias svetaines, kaip Facebook, Twitter ir Tumblr. Pagal tą patį principą dabar kuriama programa, atpažįstanti ekstremistinius atvaizdus.

Moderacijos procesas atrodo mums paslaptingas, nes interneto kompanijos sąmoningai jį slepia. Socialiniai tinklai niekada nepublikuoja vidinių savo turinio moderacijos instrukcijų, o esami ir buvę darbuotojai saistomi neskelbimo pasižadėjimais. Turinio moderacijos proceso lyderis dabar yra Pinterest. Jo svetainėje pateikiamos išsamios leidžiamo naudojimosi politikos taisyklės, papildytos vizualiais turinio pavyzdžiais, padedančiais naudotojams suprasti moderatorių darbo principus ir Pinterest turinio vertinimą.

Naudotojai pernelyg priprato suvokti save „interneto klientais, o juk būtent jie generuoja turinį ir aktyviai dalyvauja jo moderavime. Jie žymi vieną ar kitą dalyką kaip nepriimtiną. Kai kas, pavyzdžiui, dalyvauja Facebook vykstančioje counter speech kampanijoje ir padeda svetainei išaiškinti asmenis, propaguojančius ekstremizmą (tiesa, kai kurie pasisako prieš tokią praktiką, nes ji gali sukelti pavojų pačiam skundikui). Kai kurios platformos (kaip 4chan ar anksčiau Reddit) išvis nusimeta nuo savęs atsakomybę už turinį ir palieka tai naudotojų sąžinei. Beje, tai nieko gero neduoda – šiose svetainėse pilna šlykštaus turinio, pastebi Verge.

Анастасия Зырянова