Kdo maže naše příspěvky na Facebooku?

V České republice zatím neexistuje žádný zákon regulující obsah digitálních platforem. Soukromé firmy jako Facebook, Google, Twitter či YouTube s příspěvky a účty uživatelů nakládají na základě vlastních pravidel, a tedy je i podle libosti mažou. Platformy navíc nejsou v Česku odpovědné za protiprávní obsah nahraný uživateli.

Jak dokazuje nedávný návrh poslance Václava Klause mladšího, podle kterého by sociální sítě měly blokovat jen naprosté minimum uživatelských příspěvků, i v české veřejné debatě se objevují podněty k vyššímu dohledu nad tím, jakým způsobem velké digitální platformy nakládají se svým obsahem. Mají tedy čeští zákonodárci zasahovat do toho, jak platformy spravují svůj obsah? Zkoumali jsme, jak fungují současná pravidla regulující příspěvky na Facebooku.

Zuckerbergovo call centrum

Je to takové call centrum 21. století. Flexibilní brigáda vhodná pro studenty, kteří zde pracují za podprůměrný plat kolem tisíce euro měsíčně. Agentura zaměstnává i lidi na plný úvazek, pro které jsou každodenní směny sestávající z prohlížení několika stovek příspěvků, zobrazujících vše možné od odhalených hrudníků až po výzvy k zabíjení, obzvlášť vyčerpávající.

Facebook a jiné platformy dnes o většině příspěvků rozhodují zcela libovolně bez zásahů státních i nadstátních regulátorů, a stávají se tak soukromými arbitry toho, co miliardy lidí na síti vidí.

Tom, doktorand historie, pracuje v agentuře Arvato, kterou v Německu kontraktoval Facebook, aby pro něj zajistila mazání příspěvků. O své práci nesmí s novináři mluvit pod hrozbou výpovědi a finanční pokuty. Na otázku, kolik lidí ve společnosti pracuje, odpovídá, že neví – domnívá se, že v jeho agentuře je to asi pět set lidí. Kromě německých příspěvků se některá oddělení u něj ve firmě zabývají třeba i švédským či arabským obsahem. Neví o tom, že by v jeho firmě pracovali i nějací Češi.

Tom vysvětluje, že moderátoři pracující v jeho firmě musí mazat různé typy příspěvků, mezi které patří nenávistné projevy, násilí, nahota či spam. Před moderátory se dostávají příspěvky, které nahlásil uživatel Facebooku nebo vybrala umělá inteligence. Počítač například automaticky podtrhává nadávky nebo moderátory upozorňuje, že by si měli prohlédnout celé video. „Někdy mě ten systém štve. Třeba když nějaký úchyl sleduje děti, ale pečlivě vybírá slova tak, aby to moderátoři nemohli smazat. Nebo někdo někoho začne urážet, druhý se brání a útočník nám jej nahlásí, že používá vulgarity. To potom musíme příspěvky napadeného smazat,“ popisuje Tom.

„Jeden příspěvek posoudíte za 30 sekund až jednu minutu. Také se někdy musíte dívat na živá videa, to trvá třeba i pět minut. Na některých z nich se lidé sebepoškozují. Není lehké se na to dívat. Během osmihodinové směny k vám přijde 400 až 700 příspěvků, které musíte posoudit. To se ale nedá stihnout. Já sám jsem se nikdy nedostal přes 500. Nadřízení potom kontrolují třeba u 70 náhodných příspěvků, zda jste je posoudili správně. Pokud jste v práci efektivní, mažete rychle a správně, dostanete finanční odměnu,“ popisuje Tom podmínky svého zaměstnání.

Důležitá komunitní pravidla

Lidští moderátoři obsahu Facebooku se dělí na zaměstnance firmy v sídlech v kalifornském Menlo Parku a Dublinu a agenturní zaměstnance, jejichž počet chce firma do konce roku navýšit na 20 tisíc. Manažerka veřejné politiky Facebooku Siobhan Cumminskey spolupráci s agenturami zdůvodňuje hlavně flexibilitou jejich pracovní síly.

V Berlíně začala první agentura pro moderování obsahu fungovat v roce 2015, druhá funguje v Essenu od minulého roku. Kromě Německa Facebook v Evropě spolupracuje také s agenturami v Irsku a Španělsku. Podle Jana Scigiennyho z komunikačního týmu Facebooku firma přesné lokace agentur neudává, neboť by tím ohrozila bezpečnost zaměstnanců agenturních týmů. Odkazuje přitom na incident z letošního dubna, kdy žena v sanfranciské pobočce YouTube postřelila tři lidi.

Zaměstnanci agentur se zabývají primárně příspěvky porušujícími soukromá komunitní pravidla Facebooku. Ve zprávě o uplatňování svých komunitních pravidel firma uvádí, že na jejich základě celosvětově smazala či omezila přístup k 865 milionům příspěvků obsahujících grafické násilí, nahotu, teroristickou propagandu, nenávistnou řeč a spam (90 procent z nich přitom tvořil spam). Proces mazání těchto příspěvků je poměrně neprůhledný. Facebook neuvádí přesné počty odstraněných příspěvků pro jednotlivé země ani jejich konkrétní příklady. Jeho veřejná komunitní pravidla jsou podle kritiků často nejednoznačná a pro moderátory v praxi těžko uplatnitelná.

Kdo odpovídá za mazání příspěvků z České republiky? Žádná agentura na moderování obsahu zde nefunguje a na rozdíl od Googlu tu Facebook nemá ani svoje zastoupení. České příspěvky tak posuzují zaměstnanci v Dublinu a v externích agenturách jinde po světě. „Na posouzení mnohých typů příspěvků (třeba nahoty) není třeba zaměstnávat česky mluvící zaměstnance, protože jsou obecně rozpoznatelné. Naopak u nenávistných projevů je potřebujeme, protože je potřeba znát jazyk a kontext,“ vysvětluje Cumminskey. Kolik Čechů pro firmu pracuje, nedokáže říct.

Spolupráce s neziskovkami

V případě hrozby teroristické propagandy, nahoty, násilí a spamu valnou většinu nepovolených příspěvků detekují počítače. Naopak u nenávistného obsahu Facebook podle své zprávy automaticky zachytí pouze 38 procent příspěvků. Důležitou roli tak hrají sami uživatelé a především předvybraní zástupci neziskových organizací. Pro ně Facebook vytvořil speciální rozhraní, kde můžou nenávistné příspěvky nahlašovat. V České republice spolupracuje s Facebookem právnická organizace In Iustitia, která se zabývá prevencí násilí z nenávisti.

Ředitelka společnosti Klára Kalibová však dosavadní spoluprací s digitálními platformami kritizuje: „Platformy nás pravidelně zvou na školení o rozpoznávání nenávistných projevů, mnohem užitečnější by však byla přímá finanční podpora neziskových organizací a také obětí nenávistných zločinů z peněz digitálních platforem. Firmy však neposkytují žádnou skutečnou pomoc komunitám zasaženým nenávistnými příspěvky, a ani se nezapojují do trestních řízení proti šiřitelům nenávisti,“ říká.

Shiobah Cummiskey naopak popisuje spolupráci mezi platformami a neziskovým sektorem jako konstruktivní. Vysvětluje, že se se zástupci evropského neziskového sektoru setkává téměř každý měsíc na workshopech, kde si vyměňují informace o boji proti nezákonnému obsahu. Finanční podpora neziskovek podle ní probíhá hlavně prostřednictvím slev na kampaně na Facebooku, přímé peníze neziskovému sektoru firma neposkytuje.

Existující regulace

V Evropě zatím nejdále v regulaci digitálních platforem zašla německá vláda, která prosadila tzv. zákon NetzDG. Na úrovni EU zatím platí dobrovolný Kodex chování proti nezákonným nenávistným příspěvkům online, který připravila Evropská komise.

Iniciátoři těchto opatření své kroky vysvětlují jako snahu o minimální přizpůsobení pravidel digitálních platforem místnímu právu. „Kdo chce pracovat v Německu, musí respektovat místní právo. To dělají i jiné mezinárodní firmy,“ uvedl na konferenci No Hate More Speech More Law na pražské právnické fakultě náměstek spolkového ministra spravedlnosti a ochrany spotřebitele Christian Lange. Pomocí NetzDG podle něj německý stát dohlíží primárně na to, aby digitální platformy dodržovaly vlastní soukromá pravidla, která většinu nezákonných obsahů již vyjmenovávají.

Evropská komisařka pro spravedlnost, spotřebitele a rovnost žen a mužů Věra Jourová, jejíž kabinet připravil Kodex proti nenávistným projevům, dokument také chápe jako snahu prosazovat zákony, které už dávno platí i v offline světě. Soukromá pravidla digitálních platforem naopak ovlivňovat nechce. „Jedná se o soukromé firmy. Příspěvky na nich uveřejněné proto nejsou veřejná sféra, ale soukromoprávní prostor. Snaha regulovat jejich komunitní pravidla, jak to navrhuje třeba Václav Klaus mladší, by byla snahou znárodnit internet,“ vysvětluje Jourová.

Facebook a jiné platformy tak dnes o většině příspěvků rozhodují zcela libovolně bez zásahů státních i nadstátních regulátorů, a stávají se tak soukromými arbitry toho, co miliardy lidí na síti vidí. Riziko nové regulace požadující identifikaci a odstraňování dalších typů obsahu spočívá hlavně v tom, že rozhodovací pravomoci těchto platforem potenciálně ještě rozšíří. „Outsourcování odpovědnosti za mazání obsahu na firmy může vést k navyšování jejich moci nad internetovým obsahem, což je trochu bolehlav,“ tvrdí Jourová. Dodává však, že firmy jako Facebook či Google jsou produkty západní civilizace, a věří, že k moderování obsahu budou přistupovat zodpovědně. „Současný princip dobrovolnosti při posuzování většiny nezákonného obsahu chceme na evropské úrovni uchovat, dokud bude možné věřit manažerům velkých digitálních firem a dokud tyto firmy nebudou pokrývat celý trh. Pokud by tyto firmy jejich majitelé prodali třeba do autokratických států, byl by to určitě důvod k ostražitosti,“ uzavírá česká eurokomisařka.

Autorka pracuje v evropské sekci Úřadu vlády.