Upevní mluvící přístroje monopoly technologických koncernů?


Blíží se nová éra přístrojů ovládaných lidskou řečí. Fascinující technologický vynález ale skrývá řadu nebezpečí.

Není pochyb o tom, že technologickou inovací, která za poslední dekády nejvíce proměnila životy lidí a nepřímo i širší fungování společnosti, byl chytrý telefon. Po stolních počítačích a laptopech se stal se svým charakteristickým dotykovým displejem novým rozhraním pro přístup k již existujícím digitálním službám. Dal ale také vzniknout službám novým, zejména aplikacím. Sběr nejrůznějších informací o uživatelích jejich prostřednictvím zase významně přispěl k nástupu fenoménu big data a analýzy dat, díky níž se řada virtuálních služeb zlepšuje a personalizuje a jež slouží také k rozvoji umělé inteligence. Všechny tyto technologické změny výrazně zamíchaly ekonomickými mocenskými poměry, když přinesly bezprecedentní vzestup amerických digitálních koncernů poskytujících tyto služby.

Další zářez Amazonu

Nyní řada pozorovatelů odhaduje, že stojíme na prahu podobně rozsáhlých změn, a to v důsledku nástupu ovládání digitálních technologií pomocí řeči. Po ťukání povelů do chytrých telefonů se řeč zřejmě velmi brzy stane novým rozhraním pro naši komunikaci s technikou a pohyb ve virtuálním prostoru. Ovládání řečí je považováno za daleko intuitivnější a interakci až třikrát zrychluje. Je umožněno propojením několika dílčích technologických pokroků – vedle citlivých mikrofonů na straně hardwaru se jedná především o vznik cloudových úložišť obrovského množství dat a také samoučících se algoritmů, které umí audionahrávku v cloudu převést do digitálního textu a z jeho analýzy si dovodit význam řečeného. S pomocí mikroprogramů, tzv. botů, najdou v úložišti či jinde na internetu odpověď na danou otázku nebo na internetu či v zařízení samotném splní zadaný úkol (např. objednávku v internetovém obchodě či spuštění aplikace). Uživatele pak umí o výsledku informovat v lidské řeči na jeho zařízení.

Podceňování mocenských ambicí mezinárodních koncernů a jistého totalitního rozměru jejich aktivit je ve státě s tak čerstvou totalitní zkušeností jen těžko pochopitelné.

S tímto fenoménem máme zatím co dočinění především v případě řečí ovladatelných asistentů v klasických rozhraních, jako je Siri v iPhonech nebo Cortana v přístrojích s operačními systémy Microsoftu. Jejich doménou jsou odpovědi na jednoduché otázky, a ani to ještě nezvládají dokonale. O vedení plnohodnotné konverzace zatím nemůže být řeč. Převratnost celého fenoménu nicméně již předznamenává přístroj Echo od Amazonu, na kterém funguje asistenční program Alexa. Echo vypadá jako malý reproduktor a kromě zabudovaných mikrofonů pro příjem mluvené řeči nedává jinou možnost, jak s ním komunikovat. Dokáže ale po zadání příkazu formou mluveného pokynu samostatně vykonat spoustu věcí, které dosud vykonáváme klikáním a psaním pokynů v množství různých programů – vyhledat a přednést předpověď počasí, objednat něco v internetovém obchodě Amazonu nebo třeba začít předčítat knihu, kterou má člověk staženou do čtečky. Nejjistěji se zatím Alexa pohybuje ve službách Amazonu, koncern ale neustále rozšiřuje počet jiných poskytovatelů služeb, kteří by Alexe umožnili přístup do svých systémů, respektive ji naučili potřebné dovednosti, aby mohla na mluvený pokyn zprostředkovávat i jejich služby. A tak si třeba její němečtí uživatelé už mohou nechat vyhledat spojení v síti berlínské MHD, protože dopravní podnik Alexu naučil vyhledávat ve svých jízdních řádech.

Budoucnost se však zřejmě bude ubírat ještě jiným směrem – jazykoví asistenti jako Echo budou propojení nejen s webovými stránkami a aplikacemi, jako v případě berlínského dopravního podniku, ale i s chytrými přístroji a zařízeními denní potřeby, kterých je kolem nás čím dál více. Myslitelná začíná být situace, kdy člověk v práci zadá pokyn: „Alexo, zjisti, jestli mám doma ve své chytré ledničce ještě mléko, a pokud ne, online mi ho do večera objednej.“ Nebo na služební cestě Alexe z hotelu dokonce uloží: „Spoj se s chytrým zubním kartáčkem syna a zjisti, zda si nezapomněl vyčistit před spaním zuby, a pokud ano, připomeň mu to.“ Jazykoví asistenti možná budou zabudováni přímo do chytrých přístrojů, což je představitelné zejména u aut. Automobilka Daimler za tímto účelem už navázala strategické partnerství s Googlem, který má na trhu přístroj Google Home podobný Echu od Amazonu.

Válka o digitální monopol

Tento vývoj bude mít celkem jistě dalekosáhlé a částečně nepředvídatelné důsledky – nové technologie vždy mění chování člověka i fungování společnosti. Něco nicméně předjímat lze. Bez pochyby dojde k dalšímu převratu v mocenských vztazích na trhu. Zcela jistě dojde k upevnění konkurenční pozice amerických internetových gigantů vůči tradičním průmyslovým koncernům. V automobilovém průmyslu se již nyní odehrává velký boj o byznysové modely budoucnosti. Vývojem bezpilotních aut a nových schémat sdílení do něj zasahují společnosti jako Google nebo Uber. Ohrožují tak klasické automobilky, které jsou zdrojem konkurenceschopnosti a pracovních míst především v Evropě. Pokud se stane jazykové ovládání neodmyslitelnou součástí běžných výrobků, budou tyto koncerny dále vyvíjet na tradiční průmyslová odvětví tlak a dostanou možnost diktovat si podmínky spolupráce, protože drží potřebné know-how.

Ovládání řečí ale výrazně mění podmínky fungování i pro samotné internetové giganty – celá řada z nich kupříkladu nejvíce vydělává na reklamě, která se ukazuje na jejich webových stránkách, respektive v jejich aplikacích. Jak půjde reklama začlenit do řečového rozhraní? Strpí uživatelé, když Alexa čas od času zahlásí nějaký reklamní slogan? To zatím zůstává otázkou. Jde zejména o současnou výsadní pozici Googlu, jehož byznysový model stojí na příjmech z reklamy nejvíc a zároveň je novým vývojem ohrožen nejvážněji.

V současné době, kdy je bránou na internet ještě pořád hlavně internetový prohlížeč, může člověk stále využívat různé služby paralelně – a vedle Amazonu prostě občas nakoupí na eBay nebo Aukru. Jakmile bude do digitálního prostoru vstupovat prostřednictvím Alexy od Amazonu, může si být celkem jistý, že ho ke konkurenci navádět nebude, možná ho k ní ani nepustí. Jedná se tedy vlastně jen o další etapu kapitalistické expanze těchto firem a boje o co nejdokonalejší monopoly, jak ho výstižně popsal Nick Srnicek ve své knize Kapitalismus platforem. Kdo ovládá rozhraní, a pokud možno znemožní lidem přístup k jiným rozhraním, je vítěz. Příkladem je Google, který v chytrých telefonech se svým operačním systémem Android předinstaloval celou řadu vlastních neodstranitelných služeb.

O krůček blíž k technologické totalitě

S přístroji se schopností nahrávat cokoli řečeného ve svém okolí a samostatně to analyticky zpracovat se pojí samozřejmě také velké riziko zneužití. Koncerny se většinou brání tím, že se nahrávání spouští buď až po cíleném zapnutí nebo po zaznění spouštěcího hesla, obavy tím ale příliš nemírní. Zejména proto, že za stávající situace jsou podle pravidel užívání většiny ze služeb nahraná data jejich majetkem. Dalším aspektem, který potenciálně omezuje svobodu uživatelů a vydává je ještě více napospas koncernům a jejich netransparentním algoritmům, je změna způsobu, jakým se člověk s pomocí řečí ovládaných asistentů dobírá ke kýženým výsledkům nebo digitálním úkonům.

Ačkoli již nyní například o pořadí výsledků při hledání na Googlu rozhodoval netransparentní algoritmus, mohli si uživatelé projít několik stránek výsledků a rozhodnout se pro ten, který se jim nejlépe hodil. Tato možnost novým způsobem ovládání zřejmě z velké části odpadne. Alexa dost možná prostě přečte jeden výsledek hledání bez toho, aby člověk věděl, jak přesně k němu přišla. Není vyloučeno, že přesně v tom bude nakonec náhrada za ušlé zisky z reklamy – zatímco Google vám na předních místech nabídl sponzorované odkazy, Alexa vám je rovnou nabídne jako jedinou a nejlepší volbu, protože bude mít jen omezenou možnost jich nabídnout více. Technologický totalitarismus, před kterým již nějakou dobu varuje řada různých pozorovatelů, se tak opět zdá o něco blíže realitě.

A tak i zde platí, že je potřeba potenciální negativní vlivy nové technologie co nejlépe předjímat a snažit se na ni politicky reagovat, aby se minimalizovala rizika, která přináší. Německé ministerstvo hospodářství a energetiky kupříkladu vypracovalo Bílou knihu Digitálních platforem, kde diskutuje různé možnosti reforem kartelového práva, aby lépe reagovalo na digitální monopoly, nebo přemýšlí, jak je třeba v nové situaci zajistit datovou suverenitu uživatelů. U nás je veřejná debata o společenských důsledcích zavádění nových technologií oproti zahraničí dlouhodobě opožděná a kromě toho také velmi nekritická. Podceňování mocenských ambicí mezinárodních koncernů a jistého totalitního rozměru jejich aktivit je ve státě s tak čerstvou totalitní zkušeností přitom jen těžko pochopitelné. Až paranoidním způsobem se u nás omezení svobody větří v jakékoli, byť i jednoznačně smysluplné činnosti státu, zatímco mnoho daleko problematičtějších aktivit byznysu se schvaluje. Měli bychom napřít síly, aby nás rozmach řečí ovládaných přístrojů nezastihl nepřipravené – abychom věděli, jak jejich fungování upravit ku prospěchu jednotlivců i celku společnosti.

Autorka je politoložka.

 

A2LARM