Nejpozději od začátku roku 2015, kdy řada významných vědců a podnikatelů založila institut Future of Life, který následně uveřejnil otevřený dopis Výzkumné priority pro robustní a užitečnou umělou inteligenci, se téma umělé inteligence definitivně dostalo ze světa sci-fi románů do povědomí širší veřejnosti jako reálná společenská výzva. Signatáři výzvy dopis doprovodili varováním, že ignorování jimi uvedených priorit může mít pro lidstvo fatální důsledky, a to až po zotročení nebo dokonce vyhubení lidí roboty. Mezi těmi, od nichž varování zaznívá, patří teoretický fyzik Stephen Hawking, zakladatel Microsoftu Bill Gates, spoluzakladatel Applu Steve Wozniak nebo technopodnikatel ze Silicon Valley Elon Musk. Jsou to lidé, které lze těžko podezírat, že by se v tématu nevyznali nebo že by patřili k technopesimistům. Stále aktuálnější otevřený dopis mezitím podepsalo na 8 000 jejich kolegů.
Dokud jde jen o tahy ve hře go, nemá to dramatické důsledky. V okamžiku, kdy budou u samojezdících aut záviset lidské životy na tom, jestli počítač situaci vyhodnotí správně, bude situace o poznání závažnější.
Na vzniku umělé inteligence věda pracuje již desítky let, během kterých se častokrát dostala do slepé uličky. V poslední době je ale nejspíš konečně na správné cestě, a to zejména proto, že se masivně zvýšila kapacita počítačů a k dispozici je obrovské množství digitálních dat, kterými lze umělou inteligenci „nakrmit“. Američtí technologičtí giganti jako Facebook nebo Google navíc získali obrovské finanční prostředky, nesrovnatelné s veřejným financováním univerzitních výzkumných pracovišť, a mohou tak vývoj umělé inteligence financovat.
Když počítače blafují
V posledních měsících byly v této oblasti zaznamenány hned dva významné milníky. V březnu minulého roku počítač poprvé porazil člověka v tradiční asijské hře go, která je považována za nejkomplexnější hru vůbec – obsahuje totiž údajně více možností průběhu jedné partie, než kolik má vesmír atomů. Tahy nelze jen dopředu propočítávat jako u šachů, na to je jich prostě příliš. Při hře s desítkami černých a bílých kamenů je potřeba využívat také intuici. Ještě nedávno se očekávalo, že při současném vývoji umělé inteligence dojde k výhře počítače nad člověkem nejdříve za deset let. Vítězný přístroj AlphaGo firmy Deepmind, která je od roku 2013 součástí mateřského koncernu Google Alphabet, funguje na principu sítí, které napodobují neuronové sítě v mozku a provádějí takzvané hluboké učení (deep learning). AlphaGo, nakrmený daty o milionech odehraných partií, nejprve sehrál několik milionů partií sám se sebou. Z těchto informací si postupně odvodil pravidla hry, ideální tahy i strategie vedoucí k výhře. Člověka nakonec porazil obzvlášť nečekaným tahem – z tréninku znal všechny tahy, jakými lidé go hrají, a vsadil na ten, o němž věděl, že by ho žádný člověk neudělal. Vyplatilo se.
Začátkem letošního února pak počítač porazil člověka v pokeru. Ten sice nemá takové množství tahů jako go, hráč ale nikdy nemá úplné informace o stavu hry, jako když před sebou v šachách či v go vidí celou hrací plochu se všemi figurkami nebo kameny a jejich aktuální rozmístění. Program Libratus vyhrál se čtyřmi hráči ve 120 000 partiích skoro dva miliony dolarů, zatímco oni skončili v mínusu. Libratus funguje na podobném principu jako AlphaGo a obzvlášť dobře mu údajně jde blafování – věc, kterou by od přístroje donedávna málokdo čekal.
Obě tyto události dávají velkou šanci na další rychlý postup ve vývoji umělé inteligence. Existuje ale i řada skeptiků, kteří je ještě za žádné opravdové průlomy nepovažují. Upozorňují, že v obou případech jde pořád o velmi specifické situace s jasně danými pravidly, pro které zároveň existuje dostatečné množství dat k učení programů. V komplexnějších případech, jako je například silniční provoz (i samojezdící auta staví na principu hlubokého učení za pomocí „big data“), zatím programy ještě pravidelně selhávají a možná ještě dlouho budou. Nemluvě o skutečné umělé inteligenci, která by si dokázala poradit s jakoukoli nastalou situací.
Asimov a Čapek
Přesto se ke zmíněnému dopisu vědecké komunity vyzývajícímu k přijetí určitých pravidel pro vyvíjení a fungování umělé inteligence postupně připojují další iniciativy. Aktivní je nadále komunita vědců a vědkyň a lidí podnikajících v technologiích okolo Future of Life Institute. Začátkem ledna se jich tisícovka sešla na konferenci, ze které vzešlo 23 principů pro vývoj a užití umělé inteligence. Opírají se o zákony robotiky, které ve čtyřicátých letech 20. století vypracoval pro tehdy ještě imaginární roboty sci-fi spisovatel Isaac Asimov. V přijatých principech jde mimo jiné o to, aby lidé měli kontrolu nad tím, jakými informacemi o nich umělá inteligence disponuje, aby byla velmi přísně sledovaná každá autonomně se vyvíjející umělá inteligence a aby každé její rozhodnutí mohl člověk revidovat.
V Evropě se umělá inteligence dostala až do politických debat: na Asimova, ale i na Karla Čapka se ve své rezoluci k zacházení s umělou inteligencí odvolává i pracovní skupina právního výboru Evropského parlamentu. Dokument, který ukládá Evropské komisi vyvinout pravidla pro vývoj a užívání umělé inteligence, schválil výbor v lednu 2017. Dokument obsahuje také návrh charty jak pro vývojáře – mají například každého robota vybavit tlačítkem, kterým je možné ho vypnout nebo rovnou zničit (osamostatnění se robotů a vznik pudu sebezáchovy patří k největším obavám) – ale i pro uživatele. Těm má být zapovězeno roboty odcizit jejich původnímu účelu a přestavět je na zbraně.
Že se jedná o principy, které jsou zčásti relevantní již dnes, je nasnadě. Sice ještě neexistuje univerzální umělá inteligence, která by proti nám rozpoutala opravdovou válku, jak to známe ze sci-fi filmů, již nyní ale existují problémy s pochody samoučících se algoritmů. Nejsou totiž pro nikoho zpětně vysledovatelné. Zpracují obrovské množství dat a vyvodí z nich vlastní závěry. Dokud jde jen o tahy ve hře go, nemá to dramatické důsledky. V okamžiku, kdy budou u samojezdících aut záviset lidské životy na tom, jestli počítač situaci vyhodnotí správně, aniž by do jeho rozhodování mohl člověk jakkoli zasáhnout, bude situace o poznání závažnější.
Omezování samoučící se umělé inteligence se také snaží zabránit tomu, aby umělá inteligence reprodukovala nežádoucí vzorce ve společnosti. Umělá inteligence je totiž při svém učení se obrovskému množství dat rozpozná a uplatní při svém fungování stejně, jako se AlphaGo naučil imitovat člověka ve hře go. Zaznívá varování, že využíváním takové umělé inteligence se společnost může nepozorovaně stát ještě více sexistickou a rasistickou než kdykoli dřív. Malou ochutnávkou tohoto scénáře byl chatovací robot Microsoftu Tay, který po necelém dni učení se z konverzací na Twitteru například uctíval Adolfa Hitlera.
Plýtvání silami
Intenzivní a komplexní debatu o směřování umělé inteligence a přijetí etických a právních principů pro její vývoj a užívání tedy potřebujeme poměrně urgentně. V českém prostředí se však zatím v podstatě nevede, ačkoli se nás týká stejně jako kohokoli jiného ve vyspělém světě. Diskuze o robotech u nás mnoha lidem připadá tváří v tvář každodenním starostem stále příliš vzdálená. Takový postoj je do velké míry pochopitelný, ukazuje ale zase jednou velmi názorně, že zde máme systém, který fakticky znemožňuje podílet se na rozhodování o civilizačním směřování nejen naší společnosti. Zároveň se nám často vůbec nedaří rozpoznat zásadní témata, a tak plýtváme energií na celospolečenské debaty o Peroutkově ztraceném článku či na hysterii ohledně islámu, řada českých médií zase jako by si vytyčila za hlavní úkol škodolibou dokumentaci sebemenšího zaškobrtnutí Německa při integraci milionu válečných uprchlíků.
Pokud se u nás nějaké společenské debaty o technologickém vývoji vůbec vedou, pak se až na výjimky odehrávají v českém vakuu a soustředí se hlavně na technicistní aspekty, jako je zavádění rychlého internetu nebo digitalizace státní správy. To jsou věci jistě důležité, v celé problematice směřování společnosti v éře umělé inteligence ale opravdu jen velmi dílčí a druhořadé. Situaci české debaty pak výmluvně dokresluje fakt, že u nás jako vědecká disciplína v podstatě neexistuje sociologie či filosofie technologií. Naopak se množí názory, že místo podobných humanitních oborů budeme v budoucnu potřebovat především technicky vzdělané učně. Nebude divu, když nás s takovou umělá inteligence s přehledem převálcuje.
Autorka je politoložka.