Fotokoláž Alarm
V posledních týdnech vzbudilo ve veřejném digitálním prostoru rozruch několik fotografií. Byl to papež František oděný ve výrazné bílé péřovce a pak celá série obrazů, na kterých je bývalý americký prezident Donald Trump zatýkán či přímo ve vězení. Uvěřitelně vypadající fotografie vytvořil v současné době populární nástroj Midjourney. Ten, stejně jako další generátory poháněné „umělou inteligencí“, vytvoří obsah podle vašeho zadání na základě rozsáhlé databáze již existujících obrázků.
Příběhy vzniku obou fotografických souborů nemohou být odlišnější: zatímco „hiphopového papeže“ má na svědomí „stavební dělník na houbičkách“ (jak autora popsalo české Velitelství informačních a kybernetických sil), Trumpa ve vězení stvořil Elliot Higgins, nezávislý novinář a zakladatel sítě Bellingcat. „Myslel jsem, že to retweetne tak pět lidí,“ okomentoval tento odborník na dezinformace a ověřování faktů celou historku pro Washington Post. Fotografie od té doby viděly miliony lidí.
Technologie dramaticky pokročila a s nástroji, které vygenerují příslušný text, obraz či video, si může hrát každý.
O problémech, které přinesou takzvané deepfakes – tedy fotografie či videa, která jsou k nerozeznání od těch opravdových – se mluví posledních několik let. Ještě před rokem a půl přitom panoval poměrně klid: technologicky sice již tehdy bylo možné leccos, výsledky však stále nebyly zcela přesvědčivé, a hlavně: dosáhnout jich mohl jen někdo. Ani jedno už ale neplatí. Technologie dramaticky pokročila a s nástroji, které vygenerují příslušný text, obraz či video, si může hrát každý. Dávno také neplatí, že falešné materiály lze vytvořit pouze o slavných lidech, ke kterým existuje dostatek dat, jimiž je možné automatické generátory nakrmit. K vytvoření falešné fotografie, na které jste v libovolné sexuální pozici, věnujete se obskurnímu koníčku nebo třeba hajlujete, stačí bohatě sedm fotek. K vytvoření audio záznamu, na kterém popíráte holocaust či se přiznáváte ke smyšlenému zločinu, pak může stačit 30 vteřin nahrávky vašeho hlasu.
Dohady o tom, zda díky výše zmíněným nástrojům přijdou o práci jen animátoři, nebo i editoři a správci profilů na sociálních sítích, protentokrát nechme stranou. Pojďme se spíše podívat na dva „přínosy“, které současný stav patrně přinese a o kterých se příliš nemluví.
Sociální sítě přestanou plnit zpravodajskou funkci
Chtělo by se napsat, že k veškerému obsahu, na který nyní natrefíte na sociálních sítích, je teď třeba přistupovat ještě kritičtěji než dosud. To však není pravda – pravda je spíše taková, že právě v přímém přenosu sledujeme proces, kdy sociální sítě zcela přicházejí o poslední zbytky zpravodajského potenciálu (pokud kdy nějaký měly). I příspěvky od zavedených a důvěryhodných médií se totiž v proudu plném vygenerovaného balastu nutně mění ve zbytný datový odpad. Sebenaléhavější perfektně vyzdrojovaný příspěvek se do našeho povědomí zkrátka z pozice mezi papežem v rytmu hip hopu a Trumpem svírajícím mříže má jen pramalou šanci probojovat.
Není přitom důvod, aby se vývoj situace změnil. Právě ve chvíli, kdy sítě masivně zaplavuje obsah generovaný umělou inteligencí, zároveň firmy, které tyto sítě provozují, propouštějí desítky tisíc lidí – a často jde navíc o ty, kdo se dosud věnovali právě etice a umělé inteligenci. Sociální sítě se tak z jakéhosi virtuálního náměstí, ke kterému bývají někdy přirovnávány, definitivně mění ve zhalucinovaný nonstop bar. To nemusí být na škodu – ostatně i v nonstopu často přicházíme na podnětné myšlenky a i zde se odehrávají důležitá a pro život určující setkání (vlastně možná mnohem častěji než na těch pověstných náměstích).
Sociální sítě dál budou plnit důležitou funkci pro aktivisty, komunity, sousedské party či zahrádkáře. Tiskové konference, politická prohlášení a odkazy na vážně míněné eseje však na nich budeme vídat čím dál méně – stejně jako nejsme svědky akademických panelových diskuzí na karnevalech či masopustech. I v Česku potvrzuje odklon od sociálních sítí v poslední době čím dál více novinářů, naposledy třeba David Klimeš a Václav Moravec v prvním dílu podcastu Chyba systému.
Je to škoda? Ne. Bude jen potřeba vytvořit nové vztahy důvěry – se zpravodajskými médii, knihovnami, školami. Právě tito aktéři dostávají s nástupem generátorů strojové reality příležitost opět hrát ve společnosti důležitou roli a podílet se na aktivním popisu a vysvětlování toho, jakým způsobem funguje svět kolem nás. Nebude to obnášet nové formy komunikace, ale spíše návrat k těm starým, fyzickým. Pouze taková setkání budou v uměle vygenerované krajině znovu důvěryhodná.
Zatímco oslavujeme průměrnost, roste digitální dystopie
Posledních pár let čekal digitální trh na to, co bude ta „další velká věc“, na které půjde vydělat. Hodně se sázelo na technologii blockchainu a zejména pak na s tím související NFT (non-fungible token). Kupovat si digitální umělecké dílo, které je zároveň veřejně online k dispozici, však širší veřejnost vyhodnotila jako holý nesmysl a idea se příliš neujala. Poté, co lidé v rámci pandemie trpěli na online výuce či předstírali přítomnost na pracovních callech, není divu, že nikoho nenadchla ani poblouzněná idea Zuckerbergova metaversa.
A pak to přišlo: bum! Dáme lidem k dispozici nástroje, se kterými budou moci generovat špatné pohádky, ošklivé knižní obálky, umělé porno, jehož hlavním cílem je někoho dehonestovat nebo třeba crowdfundingové kampaně, ve kterých umělá inteligence radí uspořádat soutěž ve focení bezdomovců. To by je mohlo bavit! Povedlo se: a nastaly nezřízené hody ve vytváření audiovizuálních a textových průměrností.
Zatímco si však doma hrajeme na kreativce, venku za okny se veřejný prostor proměňuje v digitální dystopii. I při tomto procesu přitom hraje hlavní roli takzvaná umělá inteligence. Systémy strojového učení totiž vedle vytváření nových obsahů (doprovázených autorskoprávními spory) umožňují také existenci čím dál populárnějších kamerových systémů na rozpoznávání tváří.
Tyto systémy, spojované zejména se sledováním společnosti v Číně, měl významně zkrotit Akt o umělé inteligenci, který se již několik let peče v Evropské unii. Bylo by to na místě: dosud totiž s podobnými systémy bojovala ve vyčerpávajících bitvách jen občanská společnost. Ta slavila dílčí úspěchy v Itálii (ale i ve Švýcarsku či v Srbsku), kde se lokálnímu rozmístění těchto kamerových systémů umožňujících automatizované rozpoznání jednotlivců povedlo zabránit. Ve Francii však již aktivistická hnutí neuspěla a v rámci blížící se olympiády zde biometrické sledování veřejných prostranství dostalo nedávno částečně zelenou. Na území Evropy jde o vůbec první výrazný precedens, který nás přibližuje k tolik obávanému čínskému režimu.
V Česku jsou kamery na rozpoznávání tváře aktivně a oficiálně používány pouze na Letišti Václava Havla. Podle naší organizace Iuridicum Remedium je toto použití nelegální, na naši stížnost však Úřad pro ochranu osobních údajů ani po roce a půl nezareagoval. Mezitím dochází k postupné legitimizaci podobných systémů. V Brně slouží podobné kamery k počítaní cyklistů, ve vybraných obchodech COOP pak podobné systémy automaticky hlásí případné krádeže.
V těchto případech se sice tvůrci zaštiťují tím, že nesbírají žádná osobní data, zpráva pro veřejnost je však zřejmá: nasazovat podobné systémy do našich každodenních životů je v pořádku. V mediální krajině se pak v posledních týdnech doslova roztrhl pytel s placenými články, které biometrické sledování vychvalují zcela otevřeně: firma Fingera slibuje dokonalý přehled o tom, kolik času zaměstnanci tráví na pracovišti, přičemž za hlavní výhodu považuje detekci živosti: tedy schopnost biometrického systému rozlišit skutečnou osobu od fotografie, videa nebo masky, a zabránit tak pokusům o podvody s docházkou. Pan Šotek z Minolty si zase libuje, že jejich kamery poskytují provozovatelům obchodů data o tom, jak staří a jakého pohlaví jsou lidé, kteří u nich nakupují. V případě průmyslových areálů pak kamery ohlídají, že se nikdo netoulá…
Vzájemné vykrácení
Jak ale safra souvisí kamery na rozpoznávání tváří s generátory nesmyslů, říkáte si? Jednoduše. Akt o umělé inteligenci totiž s tak bouřlivým vývojem, kterého jsme právě svědky, jednoduše nepočítal a systémy umělé inteligence, které generují a do informačního prostoru vrhají nový a nový datový odpad, jsou v chystané legislativě nepokryté. Jak prohlásil v nedávném článku Reuters Daniel Leufer z lidskoprávní organizace Access Now, nové systémy znamenají pro chystanou regulaci skutečnou výzvu a jen zesložiťují již tak náročné vyvažování mezi lidskými právy a technologickým rozvojem. Výzva je to dokonce až taková, že by se dva roky chystaný akt slibující omezení biometrického sledování ve veřejném prostoru mohlo povést neschválit. Již za rok nás totiž čekají evropské volby, které představují poměrně konkrétní deadline – a zároveň zcela zamíchají kartami, se kterými se v rámci vyjednávání nyní hraje.
Co bude prakticky znamenat případné odsunutí schváleníAktu o umělé inteligenci do dalších let, je zatím těžké predikovat. „Technologičtí giganti si zabetonují své oligopoly, posílí lobby a bude ještě těžší něco prosadit. Nicméně také bude zvolen nový Evropský parlament a Komise a je možné, že se tam mnoho tváří obmění, a s nimi tedy i energie věci měnit,“ komentuje možnosti vývoje europoslankyně za Českou pirátskou stranu Markéta Gregorová. Že by akt bylo lepší odložit, navrhoval již v listopadu loňského roku v otevřeném dopise Svaz průmyslu ČR.
Zda z případného odložení legislativního balíku o umělé inteligenci, který je svého druhu největší na světě, budou profitovat spíše byznysoví hráči, či lidská práva nás všech, ukáže čas. V záloze je nicméně ještě jedna varianta: a sice ta, že generátory libovolných obrázků a videí hrozbu biometrického sledování neutralizují: v době, kdy bude jakýkoliv audiovizuální záznam možné označit za výtvor umělé inteligence, bude totiž zároveň možné jakýkoliv kamerový záznam označit za podvrh…
Autor pracuje v organizaci Iuridicum Remedium.