Foto pxhere.com
Kvůli koronavirové epidemii se letos v Británii nekonalo tradiční centralizované testování studentů v rámci závěrečné zkoušky na středních školách. Takzvané A-levels letos nahradil výpočet známky, který provedl algoritmus zohledňující předchozí známky studentů i reputaci školy v rámci celonárodního zkoušení. Výsledky maturitních zkoušek generované počítačem ale přinesly pro spoustu studentů šok – jejich známky byly až o dva stupně nižší, než čekali. Jednalo se hlavně o ty z menších regionálních škol, které mají v kontextu celé země relativně nízký index. Ten srazil dolů i známky konkrétních studentů, kteří by jinak nejspíš uspěli na výbornou. Spousta z nich se kvůli známce nedostala na prestižní vysoké školy – pro algoritmus bylo jednoduše nepředstavitelné, že by na ně měli patřit studenti z regionů. A tak tam místo nich poslali absolventy soukromých škol.
Fiasko s letošními britskými maturitami není příklad z knihy Temné zítřky od Jamese Bridlea – kniha (New Dark Age) vyšla v originále už před třemi lety a britský esejista tak těžko mohl tušit, do jaké situace se dostaneme vinou koronakrize. Ale klidně by v jeho knize s podtitulem Technologie a konec budoucnosti mohl figurovat. Je totiž perfektním příkladem toho, jak snadno jsme vložili naše životy do rukou moderním technologiím a jak jsme následně zplakali nad výdělkem. Technologie nejsou neutrální, odrážejí naše myšlenkové stereotypy, které do nich vkládáme. A už vůbec nás neosvobozují od problémů – mnohem spíš vytvářejí nové, které ale nejsme schopni řešit tím samým typem uvažování, které je zrodily. Naše civilizace si tak pomalu utahuje smyčku závislosti na moderní technice, které přestáváme rozumět.
Na příkladech ze skladu Amazonu, kde jsou lidé nuceni „fungovat jako roboti, a přitom zůstat levnější než oni“, ukazuje Bridle, kam až může „komputační myšlení“ zajít. Přijali jsme metaforu světa podléhajícího strojové logice a sami jsme se stali obětí její nelidskosti.
Temné zítřky ale nejsou pamfletem proti moderní době a jejím nástrojům, nevolají po tom, abychom se vrátili zpátky na stromy. Kniha místo toho pozorně sleduje, jak jistý typ uvažování nad světem zrodil informačně-komunikační systém, v němž dnes žijeme a který při bližším ohledání začíná dostávat rysy nelidské dystopie. A také naznačuje, jak se tohoto modelu zbavit.
Ještě v devadesátých letech jsme hltali optimistické předpovědi o tom, jak nové komunikační technologie vyřeší všechny naše problémy. Místo utopie nás ale 21. století uvítalo společností dohledu s všudypřítomnými šmírovacími kamerami, krutými algoritmy rozhodujícími o našem životě a informačním balastem sociálních sítí, který nám zalepuje mozek jak cukrová vata a brání přemýšlet v kontextu. Ukázalo se, že technologie rozhodně neprodukují lepší svět. Informační systémy místo toho jen akcelerovaly růst nerovnosti, násilí, populismu a fundamentalismu. Temné zítřky vysvětlují, jak se to stalo. A že to nejspíš bylo nevyhnutelné.
Metafory přemýšlení
Příběh Temných zítřků začíná v poválečné éře, kdy se lidstvo rozhodlo vložit své naděje do počítačů. Kdesi mezi obrovskými výpočetními stroji, které zatím uměly jen velmi málo, se podle Bridlea zrodilo „komputační myšlení“ – způsob nahlížení na svět vycházející z matematické logiky, podle níž jsou všechny jevy přepsatelné do podoby rovnice, která i při změně jednotlivých parametrů vždy vygeneruje smysluplný výsledek. Jak počítače začaly provádět i obtížnější operace – od předpovědi počasí až po simulaci výbuchu vodíkové bomby –, ovládl tento typ myšlení celou společnost.
Zrovna počasí je ale přitom ukázkou toho, jak modely zaměňují pravděpodobnost za jistotu. Navíc v současné situaci proměny klimatu už rovnice meteorologů přestávají generovat smysluplné výsledky – ne že by byly jednoduše chybné, „porouchal“ se vnější svět, o němž jsme si mysleli, že ho máme navždy logicky podchycený.
James Bridle se zajímá o metafory, skrze něž přemýšlíme a s jejichž pomocí chrlíme další vynálezy, které nás oddělují od reality. Metafora světa, který lze vypočítat, patří mezi ty nejsilnější. Víra v komputaci je spojená s lineárním vnímáním času, přímky, v níž zdánlivě narůstá pokrok lidstva. Typickým příkladem tohoto myšlení je tzv. Moorův zákon, který údajně předvídá exponenciální růst výpočetního výkonu obvodů. Co začalo jako pouhá metafora, skončilo jako zdánlivě neměnný zákon, na nějž spoléhají výrobci tranzistorů a integrovaných obvodů. Je to ale jen iluze, které chceme věřit.
Ve skutečnosti jsou totiž dějiny nelineární, prakticky nečasové. Není v nich nic nutného ani nevyhnutelného. Tady Bridle používá termín z žargonu sci-fi spisovatelů: parostrojní čas. Ten popisuje moment, v němž se stane nějaká událost – nejčastěji tedy vynález, jenž ale vůbec nedává smysl, pokud přemýšlíme o dějinách jako o přímce. Nová kvalita nevzniká jako pouhý součet kvalit předchozích, místo toho je narušením našich rovnic.
Když zůstaneme vězet v pouhých kalkulacích, vysvětluje Bridel, nebudeme nikdy schopni pochopit naši současnou situaci jako něco unikátního a nedokážeme jednat tak, abychom odvrátili globální katastrofu spojenou s proměnou klimatu. Tady se Temné zítřky vědomě potkávají s apelem ekologicky zaměřeného filosofa Timothyho Mortona, který mluví o tzv. hyperobjektech, tedy věcech nebo událostech, které překračují naše zastaralé způsoby myšlení – například krize ekologického systému celé planety. „Problémy dneška nevyřešíme nástroji včerejška,“ konstatují Temné zítřky.
Umělá hloupost a moderní doba
Paralelním jevem k vývoji umělé inteligence je tzv. „umělá hloupost“. Sem spadají absurdní chyby a fatální omyly, které chrlí stroje, na něž jsme čím dál víc odkázáni. Díky nim vidíme praskliny ve zdánlivě bezproblémovém obrazu nádherné budoucnosti. Můžou to být úsměvné maličkosti jako webové stránky nabízející trička s divnými nápisy, které vygeneroval algoritmus („Zachovej klid a hodně znásilňuj“) nebo chybové hlášky automatů, kterými se baví členové facebookové skupiny Boring Dystopia II.
Zároveň to jsou ale i chyby ve velkém měřítku, jako je zmíněný algoritmus A-levels nadržující studentům z vyšších tříd. Důsledkem tohoto myšlení jsou ale třeba i konspirační teorie, které nabízejí jednoduché odpovědi na složité otázky a snadno se šíří sociálními sítěmi jako virus. Podle Bridlea jsou vedlejším produktem složitosti světa. Protože co vlastně dělat jiného než věřit hloupostem, když v iracionálním systému vedou i racionální kroky k něčemu nesmyslnému?
Na příkladech ze skladu Amazonu, kde jsou lidé nuceni „fungovat jako roboti, a přitom zůstat levnější než oni“, ukazuje Bridle, kam až může tento typ přemýšlení zajít. Přijali jsme metaforu světa podléhajícího strojové logice a sami jsme se stali obětí její nelidskosti. A hrozí, že skončíme rozdrceni v soukolí dokonale fungujících ozubených koleček jako Chaplinův hrdina v Moderní době.
Žijeme ve víře, že počítače činí svět jasnějším a efektivnějším, že snižují složitost nacházení lepších řešení. Ve skutečnosti je to ale naopak – napomáhají soustřeďovat moc a zvyšují nerovnost mezi lidmi. „Dějiny automatizace a komputačního vědění jsou dějinami soustředění moci do co nejmenšího počtu rukou,“ konstatuje Bridle další nezamýšlený důsledek evoluce technologií a přidává pichlavý bonmot: „Námitku politické pravice proti komunismu, že si všichni budeme muset kupovat zboží od jediného státního dodavatele, nahradila nutnost nakupovat všechno u Amazonu.“
Svět hroutící se pod tíhou vlastní filosofie
„Jsme už součástí krachu,“ píše v závěru Bridle a vyjmenovává jeho symptomy, jako jsou rostoucí nerovnost, kolaps národních států, vzestup ultrapravicových sil a národoveckých ideologií a naprostý rozklad životního prostřední. „Žádný z těchto jevů není přímým důsledkem technologického novátorství, ale všechny jsou plodem všeobecné neschopnosti vnímat širší, síťově provázané důsledky, v jednání jednotlivců a korporací, zrychlované neprůzračnou, technologicky umocněnou složitostí.“
Temný věk není úplně radostné čtení, ale zároveň je to velmi zábavná kniha. James Bridle suverénně snáší příklady z různých odvětví lidské činnosti – od urbanismu moderních datových center přes dějiny umělé inteligence až po bizarní youtubové kanály – a skládá mozaiku dnešního světa, který se hroutí pod nezamýšlenými důsledky své vlastní filosofie, jíž tak bezmezně uvěřil. Temné zítřky ale rozhodně nespřádají složitou teorii, síla této knihy je naopak v přístupnosti. Místo filosofických termínů si Bridle vystačí s vtipnými přirovnáními. Na textu je vidět, že je zkušeným publicistou, který chce čtenářovi pomoci pochopit.
„Jsme napojeni ke studnici vědění, ale nenaučili jsme se přemýšlet,“ konstatuje Bridle hořce a na několika místech knihy naznačuje, že víru v komputační logiku a její metafory by měly nahradit úplně jiné modely přemýšlení. O jednom píše nejčastěji: je to metafora sítě, v níž uvidíme vzájemnou propojenost jevů. Musíme se znovu naučit přemýšlet v souvislostech, vrátit se k tomu, co je lidské a vždy bylo jádrem vzdělanosti. „Složitost není stav, který musíme přemoct, ale lekce, z níž si máme vzít poučení,“ říká v závěru. Vysvětlujte to ale studentům, kterým algoritmus počítající známku z maturitní zkoušky vzal budoucnost.
Autor je hudební publicista a spisovatel.