Foto Tim Hipps
Vypadalo to, že v soutěži Georga Orwella nemůže získat hlavní cenu roku 2018 v kategorii „Praktické využití dystopického sci-fi v podmínkách pozdního kapitalismu“ nikdo jiný než Mark Zuckerbereger a Cambridge Analytica. Nečekaně se však do popředí probojovala Čínská lidová republika, která 1. května zakázala cestování letadlem devíti milionům obyvatel s nízkým ratingem v systému sociálního skóre Social Credit System (SCS), nazývaného také „systémem společenské důvěryhodnosti“. Zákaz létání je však jen jakési prenatální kopnutí nejtotalitnější vládní technologie v dějinách lidstva.
Konfucius s neoliberálním nádechem
Systém sociálního skóre je nejnovější čínský vynález, který představuje propojení státního dohledu a kontroly s možnostmi komerčních datových databází a zároveň funguje jako sociální portál. Big Brother potkává big data. Anglickému slovu „credit“ odpovídá čínské „sin-jong“ – 信用, jeden ze základních pojmů konfucianismu (sám Konfucius používal pojem sin – 信). Původně to znamenalo být uctivý, slušný, důvěryhodný. Postupně se ale význam rozšířil i na oblast financí a dnes sin-jong znamená také „zasluhující si půjčku“. Kreditní karta se čínsky řekne sin-jong-zheng – 信用证 čili „karta důvěry“.
Celý systém stojí na zásadě, že „cukr je lepší než bič“. Čína tak může ušetřit miliony na tajných službách: občané se budou pomocí svých smartphonů bedlivě sledovat sami. Kdyby se toho Foucault dožil, napsal by jistě knížku Dohlížet a odměňovat.
Oficiálním důvodem vzniku SCS je nedostatek důvěryhodnosti v rámci domácího hospodářství. Trh je plný pochybných firem, je zavalen padělky, a protože Čína byla ještě nedávno chudá a zaostávající země, celé tři čtvrtiny Číňanů nemají úvěrovou historii. Banky tedy nevědí, komu mohou půjčovat.
Systém sociálního skóre bude povinný pro všechny obyvatele Číny od roku 2020. V tuto chvíli běží pilotní programy spuštěné ve spolupráci s korporacemi: největší chatovací aplikací, největší platební aplikací, největší seznamkou, čínským ekvivalentem Uberu a dalšími. Propojování s informačními databázemi probíhá postupně, ale neúprosně.
Ztráta důvěryhodnosti
SCS přepočítává nejrůznější činy obyvatel na kredity a na jejich základě vystavuje každému veřejně viditelný „rating důvěryhodnosti“. Body lze získat za včasné placení účtů, charitativní činnost, třídění odpadu, nákup zboží, které dosvědčuje, že jste „zodpovědná osoba“ (například nákup plen), darování krve a také za přátele s vysokým ratingem. Ze všeho nejvíc to připomíná první díl třetí série seriálu Black Mirror.
Ztratit body naopak můžete za spáchání zločinu, přestupku či za udělení pokuty, za zpožděné platby, flákání se (např. celodenní hraní počítačových her), vystavení nepravdivých recenzí online nebo publikaci „fake news“ a „pomluv“ a ovšem za přátele s nízkým ratingem. O tom, co je fake news, rozhoduje pochopitelně vláda, přičemž mluvíme o autoritářském režimu, jehož prezident Si Ťin-pching, který je zároveň ústředním tajemníkem Komunistické strany Číny, z ústavy právě vyškrtl ustanovení omezující počet prezidentských období.
Váš rating SCS se má vliv i na vaše okolí. Když se chováte špatně (například moc často hrajete počítačové hry, zapletete se do potyčky někde ve vlaku nebo na síti kritizujete vládu), klesá nejen vaše hodnocení, ale spolu s ním i rating vašich přátel. Ti vás pak můžou nabádat k lepšímu chování nebo také jednoduše odstranit z přátel. S jedinci s nízkým ratingem se kamarádit nevyplatí.
SCS se projevuje i v běžném životě: občané s vysokým ratingem mají možnost získat levnou půjčku, můžou si bez kauce pronajmout byt, půjčit si auto a přespat v dobrém hotelu, ale také poslat děti na prestižní školu. Jejich profily jsou také viditelnější v seznamkách. Občanům s nízkým ratingem naproti tomu hrozí zákaz používání hromadné dopravy, jejich děti nemůžou studovat na dobré škole, mají problém získat bydlení nebo dostat půjčku… Jejich fotografie se navíc můžou objevit na „obrazovkách hanby“ na stránkách úřadů nebo přímo na ulici („Zde vidíte osoby, které přecházely na červenou“).
Některé z těchto „trestů“ fungují už řadu let, například blogger Liu Hu, který kritizuje režim, kvůli obvinění z „šíření drbů a pomluv“ přišel počátkem roku 2017 o právo létat letadlem, pořídit si nemovitost nebo získat půjčku. Nyní budou tresty padat automaticky pomocí algoritmů systému SCS. Ve shodě s oficiálním plánem je Systém sociálního skóre založený na principu „Ztráta důvěryhodnosti v jedné oblasti se projeví postihy ve všech ostatních“.
Gamifikovaná poslušnost
SCS připomíná RPG hru na bytí Číňanem, v níž se jednání hrdiny přepočítává na všeobecný bodový systém. Zavádění herních mechanismů do oblastí, které s hrami nijak nesouvisí, se nazývá gamifikace a je to jeden z nejvýraznějších trendů v produkci internetových služeb v Silicon Valley. Příznivci gamifikace tvrdí, že přidáním prvků z počítačových her, dodáme zábavnost i jinak nezábavným činnostem. Může to být fungování systému internetového bankovnictví (sbírej medaile za použití karty Maestro), ekologická jízda autem (pěstuj stromky na přístrojové desce), nebo rozhodnutí přestat kouřit (uzdrav své virtuální plíce).
Gamifikace se tedy zrodila ve slunečné Kalifornii jako trend prosazovaný síťovými marketéry. Zdá se však, že se stejně jako množství jiných kapitalistických inovací nejlépe prosazuje v podmínkách autoritářského režimu. Tady se netřeba trápit právy obyvatel na soukromí, ochranu osobních údajů ani rovností před zákonem zakotvenou v ústavě – a všechny tyhle západní vynálezy přece zavádění inovací příšerně zpomalují. Naopak bez nich lze místo gamifikace jednotlivých oblastí gamifikovat rovnou celý život.
Totální gamifikace znamená přinucení k totální poslušnosti, je to ale úplně jiná poslušnost než v klasickém totalitním systému. Celý systém stojí na zásadě, že „cukr je lepší než bič“. Udržovat si vysoký rating je koneckonců vzrušující zábava plná odměn. Čína tak může ušetřit miliony na tajných službách: občané se budou pomocí svých smartphonů bedlivě sledovat sami. Kdyby se toho Foucault dožil, napsal by jistě knížku Dohlížet a odměňovat.
Vzpoura lidských strojů (která nenastane)
Můj bratr měl kdysi během jízdy Uberem čelní srážku. Nikomu se nic vážného nestalo, ale auto bylo na padrť. Polámaný řidič smutně zíral na svůj vrak. Hned po jízdě bratr dostal zprávu, že „jízda skončila“. Moc nad tím nepřemýšlel a udělil řidiči pět hvězdiček, aby mu ještě víc neztrpčoval den. Tento příběh ukazuje, že i v systému, který se opírá o body a ratingy, může být hodnocení založené na něčem jiném než na kvalitě služby. Jinými slovy: systém, který život hodnotí, není totožný se životem samotným. A právě mezera mezi jedním a druhým tvoří prostor odporu.
Samozřejmě se určitě objeví „prokletí“ Číňané, kteří systém SCS vědomě odmítnou, smíří se s nízkým hodnocením a s ním spojenými restrikcemi a výměnou za to získají určitou osobní svobodu. Nepůjde ale o masovou vzpouru proti despotickému systému. Kdo si totiž může dovolit žít na okraji společnosti, bez bydlení nebo hromadné dopravy? Většina lidí se tudíž rozhodne nikoli pro odmítnutí celého systému, ale pro manévrování ve skulině mezi životem a hodnocením života, tedy pro klamání, obcházení a podvádění systému. Lidé si koupí počítačovou hru na účet svého dítěte, nikoli na svůj, v rámci možností si budou udělovat kladné recenze, aby tak získali levné body, na černém trhu s body důvěryhodnosti si budou kupovat falešné služby, na oficiálním kontu budou sdílet odkazy, které budou v souladu se stranickou linií, a na anonymním psát kritické názory atd.
Začnou závody. Na jedné straně tu budou stále inteligentnější algoritmy systému SCS, které budou vědět pořád víc a víc a které bude pořád těžší oklamat. Na straně druhé bude čínská společnost vymýšlet stále kreativnější způsoby, jak snadno získat další body, jak před systémem zatajit svoje slabiny a pochybení a jak si zachovat aspoň minimální volnost, a přitom neztratit „důvěryhodnost“.
Ale nenechme se oklamat, nehledě na odpor bude systém fungovat. Bude převádět nejrůznější jednání na jedinou abstraktní míru, čímž všechny donutí hrát hru na získávání bodů a změní každou chvíli života v boj o SCS rating. Pomocí měkkého nátlaku pomůže zadusit v zárodku všechny náznaky společenského odporu a dovede všechny občany k přijetí stavu spojujícího konformismus s konjukturalismem. Kromě toho tento systém prohloubí třídní nerovnosti: pro bohaté bude snadnější získat body, chudí naopak ztratí přístup k některým službám.
„Uf, jaké štěstí, že nežiju v Číně a nemusím věnovat každou chvíli snaze získat nějaké blbé body,“ myslí si jistě čtenář, který dočetl až sem. Připomeňme si ale, že my na Západě také máme systém, který nejrůznější skutky přepočítává na abstraktní body, bez nichž se nedá koupit letenka, pronajmout byt nebo poslat dítě na studia. Říkáme mu „peníze“.
Autor je filosof, kulturolog a spolupracovník portálu OKO.press.
Z polského originálu Big Brother spotyka Big Data. Oto najbardziej totalna technologia władzy w historii ludzkości, publikovaného na deníku Krytyka Polityczna, přeložila Marie Iljašenko. Překlad byl podpořen z prostředků MZV ČR.