Lidé, kteří v Evropě nebo Spojených státech varují, že by v blízké budoucnosti mohla data, která produkujeme svým čím dál tím častějším pohybem a intenzivnější interakcí v digitálním prostoru, být masivně zneužita k totalitní kontrole s reálnými důsledky pro naše životy, už si nemusí vymýšlet dystopické scénáře. Čína v červnu 2014 ohlásila plán od roku 2020 realizovat celoplošný digitální Systém sociálního hodnocení s povinnou účastí pro všechny své občany. Tento krok ztělesňuje změnu pohledu autoritářského státu na digitální technologie. Nejprve se technologií obával jako těžko kontrolovatelné oblasti, v níž by mohly vzniknout pro systém nebezpečné demokratizační tendence. Kvůli tomu také Čína tvrdě blokuje zapojení obyvatel do amerických globálně působících digitálních platforem, jako je Amazon, Facebook nebo Google, a povolila pouze vznik jejich čínských alternativ. Po čase ale pochopila, že jí naopak nabízejí jedinečnou možnost autoritářský systém upevnit. S různými metodami politicky motivovaného sledování, hodnocení a sankcionování svých občanů čínský režim experimentoval od svého ustavení podobně jako všechny ostatní autoritářské systémy. Digitální platformy se svými možnostmi sledování a více či méně subtilního řízení a především pak fascinující nekritické nadšení, s nímž je masa čínských obyvatel používá pro drtivou většinu svých interakcí a transakcí, posouvají možnosti politicky motivované disciplinace a represe na kvalitativně zcela novou úroveň.
Online drobné pro žebrající
K téměř každé globálně působící americké digitální platformě existuje čínský ekvivalent a stejně jako u jejich amerických protějšků je řada služeb a aplikací součástí větších koncernů. Osmi z nich udělila v roce 2015 čínská centrální banka licenci na vytvoření systémů pro posuzování kredibility lidí, primárně ve smyslu prověřování uživatelů ohledně jejich způsobilosti pro finanční a obchodní transakce. Nejvýznamnějším z nich se stala aplikace Sezam Credit patřící do portfolia čínské pojišťovny Ant Financial Services Group (AFSG). Ta je sama součástí rozvětveného převážně digitálního koncernu Alibaba, jehož důležitou větví je stejnojmenný internetový obchod konkurující Amazonu či eBayi.
Čína našla nebývale efektivní způsob kontroly a disciplinace lidí. Už ale nemá hrozivě represivní podobu, přichází spíše v hávu gamifikace, tedy v podobě připomínající spíše jakousi hru.
Pro hodnocení důvěryhodnosti Číňanů je nicméně stěžejní jiný produkt v portfoliu AFSG: aplikace AliPay. Někdy bývá nazývána superaplikací, protože integruje většinu ostatních služeb poskytovaných jinými platformami, ať už jde o online nákupy, sociální sítě, messenger, objednávku jídla nebo placenou spolujízdu. Předně však slouží k bleskovému bezhotovostnímu placení všech transakcí. Tento způsob placení se v Číně rozšířil tak rychle a masivně, že kromě běžného online nákupu oběda nebo cesty čínskou obdobou Uberu už není žádnou vzácností přispět skrze AliPay žebrákovi na ulici, a to s pomocí QR-kódu, který drží v ruce, nebo dát spropitné číšníkovi s kódem na tričku.
Aplikace pro rating uživatelů Sezam Credit funguje právě v systému AliPay. Člověku (ale také právnickým osobám) přisuzuje individuální skóre od 350 do 950 bodů na základě algoritmického hodnocení jeho chování v digitálním prostoru v pěti kategoriích. První tři jsou ještě pro zjišťování bonity celkem standardní – jedná se o historii půjček a jejich splácení, obecné zhodnocení schopnosti dostávat závazkům a osobní informace, například u fyzických osob o dosaženém vzdělání nebo zaměstnání. Poslední dvě kategorie pak tvoří „chování a preference“ a „mezilidské vztahy“.
Detailní vhled do toho, co všechno je v jednotlivých kategoriích do algoritmického přezkumu zahrnuto, není veřejný, jelikož ho Sezam Credit považuje za své obchodní tajemství. Reprezentanti firmy nicméně v rámci představení celého systému uvedli, že do předposlední kategorie se například může promítnout, co člověk nakupuje. Uživatel s předplatným několika počítačových her bude ohodnocen jako méně důvěryhodný než člověk opakovaně nakupující pleny – standardizovaný odhad velí, že rodič je zodpovědnější než závislý gamer. Co se poslední kategorie týče, předmětem hodnocení má být, do jaké míry uživatelé ve svých interakcích „šíří pozitivní energii“, kromě toho však je posuzována například také výše ratingu lidí, kterými se daní uživatelé obklopují.
Máš špatný rating? Na práci zapomeň
Účast v systému Sezam Credit je zatím dobrovolná. I tak se k ní ale dosud odhodlalo na 200 milionů čínských uživatelů. Firma argumentuje, že umožní přístup k půjčkám a dalším službám množství lidí, kteří z nich byli zatím vyloučeni, protože chyběl spolehlivý systém pro určování bonity. Mělo by se jednat především o chudší venkovské obyvatelstvo, za které se dosud neměl kdo zaručit a kterému chyběly doklady o platební disciplíně. Soudí se také, že na velkém, nepřehledném a z hlediska ochrany uživatelů z velké části neregulovaném čínském trhu by systém skutečně mohl přinést jisté zpřehlednění, a zlepšit tak situaci spotřebitelů i obchodníků, kteří jsou nyní nadprůměrně často obětmi různých podvodů nebo nesplacených dluhů.
Sezam Credit se snaží nalákat co nejvíce uživatelů odměnami za jejich ratingové pokroky. Za 600 bodů dosáhnou na půjčku v přepočtu ve výši asi 550 euro (utratit ji můžou samozřejmě jen na online shopu Alibaba), za 650 bodů na půjčení auta bez povinnosti složit kauci nebo na využití prioritní fronty při check-inu v hotelech nebo na pekingském letišti. Za 700 bodů mohou dostat žádost o vycestování do Singapuru bez povinnosti předkládat lustrační dokumenty, za 750 je v nabídce zrychlené řízení o schengenské vízum. Špatné skóre zatím není nikterak postihováno, přestože již bylo zřejmě alespoň částečně zohledněno, když v uplynulých čtyřech letech nemohlo přes šest milionů čínských občanů cestovat letadlem z důvodu spáchání „společenských přečinů“. Šéf Sezam Credit již také varoval, že systém je navržen tak, aby „nedůvěryhodným“ nedovoloval pronajmout si auto, půjčit si peníze nebo dokonce získat práci – přičemž poslední jmenované už překračuje obvyklý dosah přezkoumávání bonity.
Čínský stát zatím nezveřejnil podrobnosti svého plánu zavést do dvou let povinné hodnocení společenské kredibility svých občanů. Zmíněné udělení licencí v roce 2015 ale mělo vedle vytvoření potřebných systémů posuzování bonity pravděpodobně za cíl také to, aby platformy vyvinuly ratingové systémy, v masovém měřítku na ně nalákaly uživatele a vláda mohla sledovat, jak budou fungovat. Zdá se logické, že know-how a uživatelský dosah posléze budou využity právě pro státní hodnotící systém. Platformy oficiálně sice tuto domněnku odmítají, ale zřejmě není náhoda, že už teď jsou dobře hodnocení uživatelé odměňováni benefity, o nichž (zejména v případě těch nejhodnotnějších, jako je zrychlený přístup do vízového řízení) rozhoduje stát. Firmy nemají v čínském prostředí moc prostoru, jak se vůli vládnoucí strany vzepřít. Stávající podoba Sezam Credit je tedy dost pravděpodobně ochutnávkou toho, jak by mohl zanedlouho fungovat povinný státní kontrolní a hodnotící systém společenské důvěryhodnosti čínských občanů.
Gamifikace a represe
Není pochyb, že takové mapování a hodnocení uživatelů automaticky povede k tomu, že se mu lidé budou chtít přizpůsobit. Stoupne motivace nevyjadřovat se kriticky k čínskému systému a umravňovat lidi kolem sebe, jejichž hodnocení se promítá do hodnocení ostatních, anebo s nimi kontakty rovnou radši přerušit. Zdá se, že Čína našla nebývale efektivní způsob kontroly a disciplinace lidí. Už ale nemá hrozivě represivní podobu, přichází spíše v hávu gamifikace, tedy v podobě připomínající spíše jakousi hru. To zní uším Evropanů a Američanů s jejich představami o právu na sebeurčení a soukromí člověka jako hrozivá dystopie. Existují však lidé, podle nichž je to v důsledku systém, který je sice bez pochyby totalitní, nicméně alespoň o něco méně nahodilý a netransparentní než čínský režim současnosti.
Nemá smysl si nalhávat, že jsme od čínské situace nějak výrazně vzdáleni. Data o našem pohybu, preferencích a osobních vztazích často automaticky dáváme do rukou obřím koncernům za trochu toho uživatelského pohodlí a čím dál tím častěji se v rámci interakce v digitálním prostředí podrobujeme hodnocení buď navzájem, anebo jsme mu vystaveni jednostranně, ať už o tom víme, či ne. Sice se u nás zatím neschyluje k tomu, že by nad tím převzala kontrolu státní moc se svými sankčními možnostmi, objevuje se ale otázka, do jaké míry nás má uklidňovat, že je vše v rukou amerických globálně operujících koncernů, které se již dávno jakékoli demokratické politické moci vymkly. V posledku mohou naše chování ovlivňovat podobným způsobem jako státy a ani určitá forma totalitního dozoru není nemyslitelná. Nikde nakonec není psáno, že Orwellovým „Velkým bratrem“ musí být nutně stát. Rok 1984 už je koneckonců dávno za námi.
Autorka je politoložka.