Jak zkrotit technologické obry a tlumit hrozby kapitalismu dohledu

Nové digitální předpisy EU si musí poradit s obchodním modelem kapitalismu dohledu. V sázce jsou práva uživatelů internetu i fungování naší společnosti.

Loni v prosinci navrhla Evropská komise nová pravidla pro digitální sféru – akt o digitálních službách a akt o digitálních trzích –, která mají ohlídat technologické giganty a zaručit dodržování lidských práv v online prostředí. Jde o obrovskou příležitost přetvořit digitální svět. Návrhy ale necílí dostatečně silně na obchodní model technologických korporací, který je postavený na dohledu.

Korporace z vytěžených osobních dat vytvářejí předpovědi týkající se všech aspektů našeho života a následně je využívají jako zdroj zisku.

Pokud se připojíte k internetu a získáváte informace online, je prakticky nemožné vyhnout se technologickým gigantům, jako jsou Google a Facebook. Svou moc ještě více utvrzují zasíťováním a lock-in efektem a posilují ji prostřednictvím překážek, které brání vstupu na trh menším subjektům. Daří se jim získávat převahu v jednom sektoru, aby opanovaly i jiné oblasti, degradují potenciální konkurenty a uplatňují strategie založené na tom, že odkoupí nebo pohřbí jiné služby.

Tyto rozsáhlé platformy si podmaňují náš digitální život a jejich obchodní modely postavené na invazivním dohledu a sledování každého našeho pohybu představují značné ohrožení lidských práv – včetně práva na soukromí, svobodu projevu a nediskriminaci.

Co je s internetem špatně

Zdraví digitálního prostoru v posledních letech upadá. Před dvěma lety při příležitosti třicátého výročí world wide webu jeho zakladatel Sir Tim Berners-Lee napsal o třech oblastech, které vedou ke špatnému fungování webu. Jsou jimi záměrné poškozující jednání (například trestné činy či online obtěžování), reklamní modely výnosů založené na „clickbaitech“ či šíření dezinformací a konečně polarizace a nekvalitnost online diskursu. Nedávno se vyjádřil, že potřebujeme sociální sítě, „na kterých se bude dít méně špatných věcí“.

Shoshana Zuboff, profesorka na Harvardově univerzitě a autorka knihy The Age of Surveillance Capitalism (Ve věku kapitalismu dohledu), v březnu debatovala po boku úhlavní nepřítelkyně nekontrolovaných technologických gigantů v EU Margrethe Vestager, která se jako výkonná místopředsedkyně Evropské komise věnuje otázkám připravenosti Evropy na digitální věk. Zuboff popsala, jak přední technologické korporace „vytvářejí bezprecedentní koncentraci vědění, což jim dává obrovskou moc“, a Vestager se vyjádřila k polarizaci, k níž technologické giganty přispívají.

Toto vědění a moc získávají díky obrovskému těžení osobních dat. Z těchto dat korporace vytvářejí předpovědi týkající se všech aspektů našeho života a následně je využívají jako zdroj zisku. S cílem ukazovat nám víc reklamy a navyšovat výnosy navrhují takové algoritmy, které maximalizují počet zhlédnutí, kliknutí, „lajků“ a sdílení, a tak nás drží u monitorů. Často tím umocňují šíření dezinformacípolarizaci a podporují nenávistné projevy, protože kontroverzní a senzacechtivý obsah má větší šanci vzbudit zájem.

Jak si Evropa poradí v digitální éře

Návrh aktu o digitálních službách určuje povinnosti pro poskytovatele zprostředkovatelských služeb, například poskytovatele internetového připojení, webhostingu a platformy sociálních médií, a to podle jejich charakteru, velikosti a dopadu na online ekosystém.

V první řadě zavádí jasnější pravidla, jak nakládat s nezákonným online obsahem, a stanovuje povinnosti týkající se moderace obsahu. Přestože ponechává výjimky pro zprostředkovatele online služeb, přináší nové povinnosti pro poskytovatele hostingu týkající se mechanismu odstranění potenciálně nezákonného obsahu po upozornění („notice and action“).

Dále stanovuje povinnosti týkající se transparentnosti. Online platformy zobrazující reklamu musí uživatelům zaručit, že bude možné v reálném čase rozpoznat reklamní sdělení, jeho zadavatele a dostatečné informace o parametrech cílení této reklamy. Kromě toho musí rozsáhlé online platformy (very large online platforms – VLOP), tzn. s dosahem přes čtyřicet pět milionů uživatelů v EU, zveřejnit své depozitáře inzerce.

Tyto rozsáhlé platformy také musí vyhodnotit významná systémová rizika vyplývající z fungování a užívání jejich služeb, a to včetně jakéhokoli negativního vlivu na základní práva. V souvislosti s tím mají povinnost zavést opatření na zmírnění rizik, například přizpůsobit moderaci obsahu nebo doporučovací systémy (algoritmy, které filtrují, jaký online obsah uvidíte) a omezit zobrazování reklam. Rovněž je vyžadováno vysvětlení podmínek a fungování doporučovacích systémů a možnost upravovat je, přičemž alespoň jedna varianta nebude založena na profilování.

Akt o digitálních trzích se zaměřuje na mocenskou nerovnováhu a neférové obchodní praktiky „strážců trhu“ neboli „gatekeeperů“ a otevírání platformových trhů. Určuje, co je a není možné pro poskytovatele zásadních platformových služeb (vyhledávače, sociální sítě, sdílení videí), které mají významný dopad na vnitřní trh, hrají roli gatekeeperů mezi firmami a koncovými uživateli a mají dlouhodobě stabilní pozici na trhu.

Musí například umožnit třetí straně – poskytovateli doplňkových služeb (jako identifikace či platba) přístup k témuž operačnímu systému a hardwarovým či softwarovým možnostem, jež má k dispozici gatekeeper. Kromě toho je gatekeeperům zakázáno kombinovat osobní data pocházející z různých zdrojů a registrovat uživatele k jiným službám, pokud tato konkrétní varianta nebyla uživateli předložena a odsouhlasena.

Systémová ohrožení

Tato pravidla představují dobrý začátek, ale nejdou dostatečně daleko na to, aby omezila systémová ohrožení lidských práv, které technologičtí giganti způsobují.

Pravidla týkající se mechanismu „notice and action“ znamenají, že poskytovatel může přijít o imunitu, která ho zprošťuje povinností, pokud nereaguje dostatečně rychle na výzvy k odstranění a zablokování nezákonného obsahu. To může platformy vybízet k tomu, aby raději odstraňovaly více obsahu, než je nutné, čímž mohou omezit svobodu vyjádření.

Když například uživatel lživě nahlásí určitý obsah jako údajně nezákonný, platforma může preventivně takový obsah stáhnout, aby se vyhnula potenciálním potížím. Příslušná opatření v souvislosti s „notice and action“ by bylo vhodné upravit tak, aby reflektovala princip, že na společnosti nelze delegovat odpovědnost rozhodčích při absenci soudního rozhodnutí a odvíjet od toho její odpovědnost.

Ačkoli je posílení transparentnosti u fungování platforem žádoucí, některé z povinností stanovených v aktu o digitálních službách už byly (přinejmenším částečně) zavedeny prostřednictvím dobrovolných iniciativ, jako jsou zprávy o transparentnosti nebo knihovny online inzerce, případně uzákoněny (například pravidla pro transparentnost online inzerce). Samotná nařízení týkající se transparentnosti každopádně nedostačují k tomu, aby vyřešila škody způsobené obchodním modelem platforem a jejich obtěžujícím profilováním.

Radikální proměna

Skutečně potřebujeme radikální proměnu dohledového modelu, který technologické korporace uplatňují. Prvním krokem by mohly být přísnější limity na cílenou reklamu založenou na zpracování osobních dat. Výsledkem by měl být posun k méně vtíravým formám, například k použití kontextové inzerce, která nevyžaduje sledování chování uživatelů – v souladu s výzvami Evropského parlamentu a EDPS (Evropského inspektora ochrany údajů). V tomtéž duchu by měl akt o digitálních službách zavést doporučovací systémy bez profilování jako standard, nikoli jen jako jednu z možností.

Povinnost rozsáhlých platforem řešit systémová rizika může znít průlomově, ale měla by se rozšířit a vztahovat i na to, že budou povinně a účinně dbát na dodržování lidských práv. To znamená, že je potřeba jejich porušování spojené s provozem a obchodním modelem platforem nejen identifikovat a zmírnit, ale zarazit a předcházet jim. Platformy musí nést odpovědnost, pokud způsobily újmu danou porušením lidských práv nebo k ní přispěly, případně jí svou nedbalostí nedokázaly zabránit.

Akt o digitálních trzích se až příliš zaměřuje na vztahy mezi online platformami a jejich uživateli z řad firem. Je třeba, aby více bral v potaz i koncové uživatele. Musí zavést povinnost pro gatekeepery zajistit meziplatformovou interoperabilitu. Tím uživatelům umožní komunikaci mezi různými zásadními službami a platformami, aniž by se museli u gatekeepera přihlašovat – tak by se trh skutečně otevřel a umožnil vznik alternativních platforem s takovými podmínkami, které budou lépe respektovat práva uživatelů.

Oba návrhy představují příležitost, jaká se dlouho nebude opakovat – můžeme digitálnímu vývoji vrátit správný směr. Pokud si chce EU skutečně poradit s nadměrnou mocí největších technologických korporací a zamezit porušování lidských práv, musí zaútočit na jejich aktuální podnikatelský model.

Autorka je poradkyně v oblasti práva a politik týkajících se technologií, ochrany dat a lidských práv v Amnesty International.

Z anglického originálu Taming the Big Tech Tiger, publikovaného na stránkách Social Europe přeložila Petra Jelínková. Český překlad vznikl ve spolupráci s Friedrich-Ebert-Stiftung v ČR.

 

Čtěte dále

Ochrana soukromí | Vaše údaje jsou u nás v bezpečí! OK Podrobné informace