Foto Fortune Global Forum, Flickr, CC BY-NC-ND 2.0
Po více než třech letech od vydání originálu má české publikum k dispozici sedmisetstránkový text, který je zásadní a důslednou obžalobou způsobu, jakým některé technologické firmy zpeněžují naše chování. V určitých kruzích již dnes kultovní knihu Věk kapitalismu dohledu. Boj o budoucnost lidstva u nové hranice moci americké profesorky Shoshany Zuboff vydalo v překladu Sylvy Ficové nakladatelství Argo ve své edici Crossover.
Jako by se Zuboff chtěla vysmát všem plytkým příspěvkům na sociálních sítích, které se čím dál více podobají reklamním sloganům, nenapsala knihu jen dlouhou, ale také náročnou. Čtenáře nešetří – hned na prvních stránkách se ostatně vyznává z lásky k autorům, jako jsou Durkheim, Marx, Arendtová či Adorno. Postupně se rozšiřující hřiště „kapitalismu dohledu“ vykolíkovala Zuboff již v řadě článků a esejů publikovaných průběžně od roku 2014. Až tato kniha, jejíž poznámkový aparát tvoří více než sto stránek, jí však dovoluje představit kapitalismus dohledu v historickém a zejména sociálním kontextu. Jaké jsou tedy klíčové myšlenky této kanonické práce a hlavně – kde je její místo v ideovém časoprostoru počínajícího roku 2023?
Nenápadný půvab behaviorálního přebytku
Pojem „kapitalismus dohledu“, jehož je Zuboff autorkou, se za pár let své existence překvapivě rychle prosadil, a často se tak můžeme setkat s jeho nepřesnou a svévolnou aplikací na téměř každou technologickou firmu, která pracuje s daty. Tomu se však Zuboff vzpírá: shromažďovat data o lidském chování za účelem zlepšení produktu či služby není nutně vstupenkou do pekla. Odsouzeníhodným se stává ve chvíli, kdy se část takových dat zabaví, prohlásí za soukromě vlastněný „behaviorální přebytek“ a pak se tato cenná surovina transformuje do „prediktivních produktů“, jejichž schopnost předpovídat, co se chystáte udělat, se dá velmi dobře zpeněžit.
Možná, že potřebujeme nalézt především schopnost žasnout: dá se začít čtením knih, o kterých dopředu nic nevíme, poznáváním lidí, které jsme si předem neprofízlovali na sociálních sítích, či poslechem neznámé hudby, kterou nám nedoporučí Spotify.
Největším takovým hříšníkem je Google, který se na scestí vydal v roce 2002. Právě tehdy začal masivně využívat do té doby ladem ležící data vzniklá čím dál populárnějším googlováním. A při pohledu na čísla viděl, že je to dobré… V roce 2002 byly čisté příjmy Googlu 347 milionů dolarů, v roce 2003 už 1,5 miliardy, rok poté 3,2 miliardy. Objev a praktické využití behaviorálního přebytku vedly k růstu o 3590 procent během čtyř let. O tento finanční úspěch se přitom nezasloužil žádný závratný objev, píle ani inovace, nýbrž prosté poznání, že sázka na chování uživatelů má mnohem větší hodnotu než uživatelé samotní. Cílená reklama, vypočítaná na základě našich každodenních virtuálních procházek, dotazů, snů a zálib, tvořila v roce 2016 téměř devadesát procent veškerých příjmů Googlu.
Zuboff přitom mnohokrát opakuje, že zpeněžení lidské zkušenosti nebylo nevyhnutelným vývojem, ale zkrátka rozhodnutím, které padlo v dané době a za daných okolností. I proto nepřičítá projevy kapitalismu dohledu všem technologickým firmám. Mezi lety 2012 až 2015 vedla rozhovory s dvaapadesáti vědci z devatenácti různých firem, na základě kterých upřela svoji pozornost zejména na Google, Facebook a Microsoft. Na milost tak Zuboff bere například Amazon či Apple, byť se u nich míra a způsob využití behaviorálního přebytku může kdykoliv změnit.
Trump a Cambridge Analytica
Zuboff v knize rozbíjí hned několik klišé. Za nesmyslný například označuje oblíbený slogan, dle kterého „pokud je produkt zadarmo, jsme my tím produktem“. Pro kapitalismus dohledu je podle Zuboff představa člověka coby produktu příliš ambiciózní. Lidská bytost je spíše redukována na líheň dat, ze kterých se opravdové produkty (algoritmy pro cílenou reklamu) vytváří. V byznysové rovnici kapitalismu dohledu něco tak zbytečného jako člověk zkrátka vůbec nefiguruje.
Obdobně mylná je dle Zuboff představa, podle které se technologičtí giganti rozpínají a bobtnají až na mocenskou úroveň státních útvarů. Poslední dvě dekády totiž spíše poukazují na prorůstání korporátních a vládních struktur, které je pro všechny zúčastněné výhodné. Podle profesora práva Jacka Balkina je to opět Google, který je schopen shromažďovat pro silové složky užitečné informace, jejichž agregaci jinak americká ústava brzdí. Bez Googlu by se patrně neobešla ani činnost Národní bezpečnostní agentury (NSA) či Pentagonu.
Obdobný sňatek z rozumu se podle Zuboff uskutečnil i v prezidentských volbách v roce 2008. „Skóre přesvědčování“, jež určovalo, jak lze toho kterého nerozhodnutého voliče ponouknout k volbě demokratického kandidáta, se zrodilo z „milostného románku“ Baracka Obamy a tehdejšího výkonného ředitele Googlu Erica Schmidta, který svoji roli neformálního Obamova poradce popsal jako důsledek „přirozeného vývoje“. „Koho budou lidé volit, jsme věděli dřív, než se rozhodli,“ svěřil se s důsledky tohoto přirozeného vývoje jeden z tehdejších Obamových poradců v knize, jejímž autorem je novinář Sasha Issenberg. Praktiky ovlivňující voličské rozhodování byly důsledně tajené – a není divu: když se o obdobných strategiích dozvěděla veřejnost o osm let později v souvislosti s kampaní Donalda Trumpa a společností Cambridge Analytica, byla z toho pořádná mela.
Erica Shmidta obecně Zuboff neváhá vykreslit jako zapřisáhlého „kapitalistu dohledu“, mimo jiné i pro bezskrupulóznost, se kterou dopředu ohlašoval snahu vytěžit data nejen ze světa virtuálního, ale i z toho fyzického. Na Světovém ekonomickém fóru v Davosu v roce 2015 vyjádřil své přesvědčení jasně: „Internet zmizí. Bude tolik IP adres, tolik zařízení, senzorů a věcí, se kterými interagujete, že ho ani nebudete vnímat. Pořád ale bude součástí vaší přítomnosti.“
Google mapy používat budeš
Jak vidno, před pár lety zbožné přání se pomalu plní. Zuboff však nezůstává jen u popisu procesu, kdy se překresluje v data i naše fyzická zkušenost. Přesvědčivě analyzuje naučené postupy a taktiky, kterými „dohledoví“ kapitalisté válcují jakékoliv ostrůvky odporu. Romantické popisy protestů proti google autíčkům, která se bez ptaní rozhodla vizuálně zabavit nejen podobu našich domů a ulic, ale také naše data vysosaná na dálku z nezabezpečených IP adres (jak se ukázalo ve slavné aféře Wi-Spy), se tak zpětně zdají směšné. Googlu prostě stačilo jen přečkat pár let občasného fňukání a odmlouvání, vydržet nějaké ty legislativní popotahovačky a úsměvné pokuty, a dosáhl svého: kdo není na jeho mapách, neexistuje.
Obdobně jsme dnes svědky nejen Schmidtem ohlášeného procesu „zchytření“ našich domácností, ve kterém se snaha behaviorálně vyvlastnit naši domácnost maskuje za prázdné pojmy, jako jsou efektivita či uživatelská zkušenost. V případě hry Pokémon Go se pak zase hrálo na to, jak je to pěkné, že se děti hýbou a skotačí po městě, přestože ono skotačení leckdy cíleně končilo u fastfoodových řetězců, ve kterých se Pokémoni za úplatu objevovali.
Podle Zuboff jde vždy o tentýž „vzorec dobývání“, srovnatelný se zjevením se Kryštofa Kolumba na březích Ameriky a postavený na ničím neobhájené, avšak za velkých fanfár ohlašované deklaraci: „Toto je budoucnost. Toto je chytré. Toto je efektivní!“ Prohlášení stvořená z ničeho, nežádající o svolení, nabízející přinejlepším jen cynické smlouvy o ochraně údajů, záměrně dlouhé, nejasné a nesrozumitelné. Jako u produktu značky Nest, k jehož zodpovědnému nákupu by člověk musel prostudovat zhruba tisíc smluv, jak zjistili právníci z Londýnské univerzity. „Padněte na kolena, nebo znehodnotíme váš nákup,“ píše Zuboff mezi řádky nevyřčený apel provázející všechny tyto takzvané smlouvy.
Zuboff nejenže odmítá srovnávat současný technologický vývoj s vynálezem knihtisku před šesti sty lety – podle ní se naopak ve vývoji vracíme zpět. Společenská dělba znalostí je totiž značně asymetrická a je v područí úzkého okruhu výpočetních specialistů zaměstnaných u soukromých firem, jejichž zájmy nemají zpravidla nic společného se skutečnými zájmy uživatelů.
Průmysl zničil přírodu, kapitalismus dohledu naši přirozenost
Operace kapitalismu dohledu zpochybňují naše právo na budoucnost, tedy právo jednat bez vlivu nelegitimních sil. A co víc, kapitalismus dohledu je pro společnost stejnou hrozbou, jako pro kapitalismus samotný. Jak se to mohlo stát? Lidé zabývající se reklamou či marketingem často tvrdí, že představa kapitalismu dohledu nepřináší nic třeskutě nového: určité snahy navigovat spotřebitele k nákupu či ovlivnit jeho politickou volbu zde přece byly vždy, mění se jen míra úspěšnosti. To může být pravda, stejně tak je ale pravda, že proti snahám ovlivnit takto invazivním způsobem naše myšlení a názory se vždy bojovalo. A například sedmdesátým létům minulého století nesahá intenzita dnešního boje za svobodný úsudek ani po kotníky.
Vhled do sedmdesátých let je patrně nejpůsobivější částí knihy. Důvodem je jistě to, že zde autorka nemluví z pozice v rešerších se brodící badatelky, nýbrž jako přímá účastnice dění. Shoshana Zuboff totiž tehdy studovala na Harvardu a byla v přímém kontaktu s americkým psychologem a harvardským profesorem B. F. Skinnerem, jehož kniha Za hranice svobody a důstojnosti se v roce 1971 stala mezinárodním bestsellerem. Vzbudila zároveň silné kontroverze – Skinner v knize totiž na základě pokusů s nadšením popisuje, jak lze modifikovat lidské chování, přičemž z principu odmítá myšlenku svobodné volby jako takovou. „Lidský materiál je proměnlivý,“ ohlašuje Skinner příchod radikálního behaviorismu založeného na operantním podmiňování. „Čtení pro fašisty,“ kontroval tehdy Noam Chomsky.
Kniha však nespadla z nebe a není tím jediným, co se na poli modifikace lidského chování ve společnosti v této době děje. Běží totiž zároveň vyšetřování senátního podvýboru pro ústavní práva, který si bere na paškál „celou řadu programů, jejichž cílem je předvídat, kontrolovat a modifikovat lidské chování“. Ty se objevily jako doprovodný jev studené války a vyvolaly paniku. Představu, že osobnost, identitu a vědomí svobodného jednání jednotlivce lze nahradit kontrolou zvenčí, společnost jednoznačně odmítla. Senátní podvýbor tak po důkladné analýze vydává v roce 1974 zprávu, v jejíž předmluvě se píše: „Když otcové zakladatelé vytvořili náš ústavní systém vlády, vycházeli ze své hluboké víry v nedotknutelnost jednotlivce. Chápali, že sebeurčení je zdrojem individuality a že individualita je hlavním pilířem svobody. V poslední době však technologie začaly vyvíjet nové metody ovládání chování, jež mohou měnit nejen jednání jednotlivce, ale i jeho osobnost a způsob myšlení.“
Zpráva tehdy přinesla závratné změny. Výzkum byl svázán novými etickými normami, prakticky se pak změny propsaly zejména do manuálů státních věznic a psychiatrických léčeben. Po popisu tohoto téměř půl století starého fenomenálního úspěchu občanské společnosti si tedy znovu položme onu otázku: jak se to mohlo stát? Jak to, že jen stěží hledáme vůbec slova pro popis míry, v jaké je naše chování ovlivňováno cílenými reklamami a sděleními? Odpověď tehdejší studentky a dnešní profesorky Zuboff je až mrazivě jednoduchá: nikdo zkrátka nečekal, že se manipulativních technik a snah chopí někdo jiný než státní struktury.
Právo na chybu jako základ bytí
Věk kapitalismu dohledu měl v době svého vydání spoustu příznivců a jako každé kvalitní dílo pochopitelně i spoustu kritiků. Jedním z nich je třeba kanadsko-britský novinář a sci-fi spisovatel Cory Doctorow. Podle něj se Zuboff ve svých tezích až příliš zaměřuje na magickou moc technologických udělátek a málo se věnuje například problematice monopolu – ten je přitom dle Doctorowa hlavním zdrojem moci harvardskou profesorkou tepaných společností. Doctorow má určitě pravdu v tom, že pudová lidská fascinace mocí dat může lehce zastínit důležitější problémy schované pod povrchem. Ostatně i někteří lidé z marketingového či IT sektoru přiznávají, že řeči o tom, co vše dokáže bájná umělá inteligence vyčíst z naší datové stopy, jsou často spíše zbožným přáním, které má s realitou, respektive s úspěšným prodejem produktů, jen pramálo společného.
Pokud už data máme a jsme schopni je analyzovat, ukazuje se navíc poslední dobou, že třeba reklama na chytrém telefonu je vzhledem k roztříštěné pozornosti a malému displeji vůbec nejméně účinná. Podle čerstvé studie Kantaru pak tvoří pětici nejpreferovanějších reklamních kanálů offline média – pro koncentrovaný přenos, a tedy účinek informace, jsou prostě nejlepší. Že digitální měřitelnost neznamená nutně mít informace o tom, co a zda vůbec má nějaký efekt, potvrdil v Česku třeba marketingový ředitel Plzeňského Prazdroje Roman Trzaskalik: „Je to trochu černá díra, kde se vždy nějaká čísla najdou, ale přitom to neznamená, že nás někam dovedou,“ uvedl pro časopis Marketing a media z ledna letošního roku.
Kritika způsobu, jakým Zuboff nahlíží na jmenované firmy, jejich schopnosti či postavení na trhu, je jistě legitimní, osobně však soudím, že zcela míjí klíčové poselství, jež opus Shoshany Zuboff přináší. To se přitom netýká ani technologií, ani dat, a už vůbec ne legislativy. Je jím volání po právu na budoucnost a po individuálním právu na chybu jako základním předpokladu lidské svobodné existence.
Po pandemii, kdy společnost akcelerovala svůj přesun do digitálu, totiž myšlenky kapitalismu dohledu již definitivně opustily své dosavadní stáje, ve kterých byly tak nějak v poklidu zaparkovány a ve kterých se daly popsat či alespoň nahlédnout. Vylétly ven a staly se součástí celospolečenského uvažování: v médiích, v komunitách, ale i v sociální sféře. Všude tam jsme čím dál častěji konfrontováni s neúprosným faktem („deklarací“, jak píše Zuboff), že čím více dat, tím pro nás lépe, protože se z nich „někdy“ dá „něco“ vyvodit. Paralelně pak pozorujeme i další proces, kdy přísaháme nejen na více dat, ale obecně na více „digitálu“, aniž bychom toto nové náboženství podrobovali důslednější kritice.
Začátek konce?
Možná, že tato slepá víra je tím, co nás ve výsledku svazuje a omezuje mnohem více než reálně zakoupený chytrý kartáček, který jsme si po několikáté zobrazené reklamě přece jen pořídili. V médiích zabraňuje dostat se na výsluní tématům, která nejsou vytažena z klobouku na základě statistických dat a analýz čtenosti – i v Česku totiž čtvrtina respondentů v nedávném výzkumu přiznala, že médium, ve kterém pracují, doporučuje každému čtenáři jiné články na základě dat, která o něm sbírají. Daty a algoritmy je v čím dál větší míře ovlivněna i audiovizuální tvorba: že to je v přímém rozporu s kreativitou a nevěstí to nic dobrého, přiznala v nedávném rozhovoru producentka HBO Tereza Polachová.
A mohli bychom pokračovat: dostupná data již nyní mávají naší důvěrou při zvažování, ke kterému se upíšeme doktorovi či do které školy pošleme dítě. Dopady ale můžou být mnohem horší: tisíce nizozemských rodin se před pár lety ocitlo v existenční krizi poté, co je systém „etnického profilování ze strany byrokratů, kteří se zaměřili na jména znějící zahraničně“ obvinil z údajného zneužívání dávek. Skandál tehdy vedl k demisi vlády a rozproudil živou společenskou diskuzi o tom, kam až bychom systémy automatického rozhodování měli pustit.
Ostatně byl to právě program automatického rozpoznávání textu, který před pár týdny zazářil i v Česku, když načas vyřadil z prezidentského klání Karla Diviše. Dle Nejvyššího správního soudu totiž program popletl třeba bez problému lidským okem čitelné příjmení Pflegerová, které přeložil jako „Peleserová“, datum 1986 pak přečetl jako 1989. A žádná manuální lidská kontrola nenásledovala – přestože měla.
Knihu Shoshany Zuboff je důležité číst právě dnes, na počátku roku 2023, kdy jsme svědky bezprecedentního tlaku ze strany úřadů na digitální molochy: padají pokuty, na úrovni Evropské unie se peče dlouho očekávaný Akt o umělé inteligenci, někteří komentátoři dokonce ohlašují začátek konce kapitalismu dohledu. Zdánlivě se tak naplňují slova Zuboff, dle kterých ve vztahu k digitálním technologiím „podléháme bubnování nevyhnutelnosti: jenže nevyhnutelné není nic“. Bude však tento legislativní tlak na zkrocení kapitalismu dohledu, který již dávno neztělesňuje jen hrstka firem, ale kterým je prodchnut a kontaminován veškerý život kolem nás, stačit? Nebo nás nadále bude chránit zase jen paranoia a úzkost, jak v knize autorka sarkasticky dodává?
Možná, že potřebujeme nalézt především schopnost žasnout: dá se začít čtením knih, o kterých dopředu nic nevíme, poznáváním lidí, které jsme si předem neprofízlovali na sociálních sítích, či poslechem neznámé hudby, kterou nám nedoporučí Spotify. Snad takový život v soukromém zákulisí, ve kterém na naše vědomí nebuší neustálé notifikace a dotěrné obsahy, nebude až moc velká nuda.
Autor pracuje v digitálněprávní organizaci Iuridicum Remedium.
Text vznikl v rámci projektu Digitální watchdog II. organizace Iuridicum Remedium. Projekt podpořila Nadace OSF v rámci programu Active Citizens Fund, financovaného z Fondů EHP a Norska.