Foto Flickr, Creative Commons, CC BY 2.0
Málokdo v posledních dnech neslyšel o ChatGPT, chatovacím programu, který nás posouvá o podstatný krok blíž k tomu, jak si představujeme umělou inteligenci. Hovorově se tak sice už nyní říká sofistikovanějším automatizovaným systémům, ty ale ve skutečnosti stejně jako ChatGPT pořád fungují „pouze“ na bázi strojového učení. To znamená, že se na obrovském množství dat učí rozpoznávat vzorce, a potom je napodobují. Světu kolem sebe tak v pravém slova smyslu nerozumí, jejich fungování zůstává striktně mechanické.
ChatGPT ale s pomocí této technologie nyní dosáhl úrovně, která mechaničnost velmi zdařile zastírá. Se svými uživateli interaguje rychle a přesvědčivě, nezvládne jen vést obyčejnou konverzaci, ale dokáže i plnit všemožné písemné úkoly, a to až takové náročnosti, že z různých koutů světa přicházejí zkazky o tom, jak obstál třeba i ve vysoce odborných profesních zkouškách, a to tak, že to dokonce vzbuzovalo dojem invence a kreativity. Jím generované texty nejsou jen věcně správné, ale dokáže jim propůjčit i odpovídající formát a tón.
Nástroj samotný byl zveřejněn již loni na podzim a prozatím si ho každý může online vyzkoušet zadarmo. Nyní se o něm mluví více, protože se rýsuje jeho první praktické využití. Krátce po sobě oznámily Microsoft i Google, že technologii využijí ve svých vyhledávačích, přičemž u Microsoftu půjde přímo o technologii ChatGPT, jejíž podíly vlastní. Google mu bude konkurovat se svou vlastní technologií Bard AI, která funguje na stejném, tzv. generativním principu. Microsoft má pak postupně v plánu zavést nástroj také do svých officových produktů, kde si pro ně skutečně lze představit velmi široké uplatnění.
Ztráta autonomie a výběru
To, že obě firmy bojují o své pozice v rámci dní, ukazuje na asi nejzávažnější potenciál, který technologie skýtá. Není totiž vyloučeno, že se právě teď rozhoduje o tom, která z velkých technologických firem se nakonec zmocní přístupu ke zbytku ostatních informací a služeb, jež budou dostupné online. Ty nyní máme možnost využívat víceméně napřímo dle vlastního uvážení, ať už rovnou návštěvou konkrétního webu, nebo zprostředkovaněji výběrem z nabídky vyhledávače nebo za použití námi zvolené aplikace. Technologičtí giganti dlouhodobě bojují o to, aby se vloudili ještě před tento krok relativně autonomního výběru internetového obsahu, jak jasnozřivě předpovídal teoretik digitality Nick Srnicek ve své knize Kapitalismus platforem. Před pár lety se mluvilo o tom, že by toho mohli dosáhnout skrze asistenční systémy ovládané řečí, jako jsou Alexa nebo Siri, nakonec se to ale nestalo, protože ty se mezi uživateli nestaly dostatečně populárními, jak by bylo potřeba.
Rozmanitý a pořád ještě relativně decentralizovaný ekosystém webových stránek a jednotlivých digitálních aplikací může poměrně rychle zaniknout ve prospěch jednoho poskytovatele, který všechny informace a služby dokáže integrovat do jednoho rozhraní.
Technologie generativního vyhledávání nás nyní znovu staví před stejné riziko. Rozmanitý a pořád ještě relativně decentralizovaný ekosystém webových stránek a jednotlivých digitálních aplikací může poměrně rychle zaniknout ve prospěch jednoho poskytovatele, který všechny informace a služby dokáže integrovat do jednoho rozhraní. Rozměr moci, kterou by tím tento poskytovatel získal, dost dobře nelze přecenit, de facto by se stal internetem jako takovým. Ze zkušenosti s dosavadním vývojem internetu se přitom příliš nedá spoléhat na uvědomělé uživatele, kteří by něco takového z principu odmítli.
Nemůžeme spoléhat na to, že by si sami spočítali, co získají na uživatelském pohodlí a jak draze to bude vykoupeno ztrátou autonomie vybírat si z obsahů internetu individuálně, přestože i to je dnes už výrazně omezeno. Pokud bude nabídka dostatečně atraktivní, má navzdory problémům, které nám to přinese, potenciál se poměrně rychle prosadit, a to nejen díky uživatelům, kteří oceňují pohodlí, ale i kvůli zastaralým a těžkopádným představám kartelového práva o tom, jak vzniká nebezpečná koncentrace tržní moci. Je zřejmé, že jsou vůči rychlým digitálním inovacím v podstatě bezmocné.
Revoluce ve vzdělání i na trhu práce?
Lze se zatím jen domýšlet, jak bude takový internet konkrétně vypadat. Samozřejmě se nabízí otázka, jakou bude mít někdo vůbec motivaci tvořit obsah, který pak bude uživatelům dostupný jen ve směsi dalších obsahů, jako by obrazně řečeno vylezl z mlýnku na maso. Další otazníky se týkají autorských práv a odpovědnosti za správnost, ale i etičnost obsahu. Již dlouho se ví, že algoritmy učící se na velkých množstvích dat, si z nich přebírají jako pravidla pro své fungování i vzorce, které se jinak snažíme systematicky odstraňovat, zejména pak různé formy diskriminace. Vzhledem k tomu, jak obrovské množství dat je k učení složitějších automatizovaných systémů potřeba, se tato data nedají dost dobře korigovat. A i kdyby to bylo možné, není jasné, kdo a podle jakých kritérií by to měl dělat.
Tyto otázky jsou každopádně relevantní už v tuto chvíli, kdy máme k podobné integraci internetu prostřednictvím nové technologie ještě daleko. Kromě těchto otázek vzbuzuje aktuální vývoj samozřejmě i úvahy, které musí napadnout i laické pozorovatele. Jedna z nich se týká výzev pro systém vzdělávání, pro který je nyní zejména v jeho vyšších stupních stěžejní kontrola dosažených znalostí a kompetencí formou samostatně vypracovaných odborných textů. Zde se nabízí dva protichůdné přístupy. První vychází z toho, že samostatné písemné práce jsou nenahraditelné, a je tudíž potřeba využívání podobných technologií důsledně potírat. Je myslitelné, že se časem najde i způsob, jak to dělat právě s pomocí technologie, podobně jako na plagiátorství nyní reagují antiplagiátorské softwary.
Druhý přístup bude naopak existenci technologie akceptovat, a to včetně toho, co bude muset člověk do budoucna sám ovládat a k čemu bude technologii využívat. Dvě zajímavé myšlenky v tomto ohledu zazněly od vysokoškolských pedagogů v nedávné analýze německého týdeníku Spiegel. Jeden poznamenal, že by se snahou o potírání takto důležitých technologií pedagogové naprosto znemožnili. Druhá zase o celé věci přemýšlí tak, že přinejmenším část písemných prací vlastně vzniká samoúčelem kontroly studijního pokroku, protože dosud nebylo možné ho sledovat individuálněji a průběžněji. Právě to by ale nová generace chatovacích botů teď mohla umožnit. Provázela by každého jednotlivého studujícího kurikulem a zaznamenávala by jeho vývoj a dosažení požadované úrovně kompetence pro potřeby hodnocení.
Ohrožení pak samozřejmě nová technologie přináší také všem těm, kteří se dosud rešerším informací a generováním textů věnovali profesně. Mluví se jednak o novinářích a jiných tvůrcích obsahů, ale také o literátech a v neposlední řadě různých převážně administrativních nebo „repetitivně odborných“ (jako protiklad ke kreativně odborným) profesích, jako jsou nižší pozice v justici a jim podobné. Není to žádný šok, v zásadě se přesně taková vlna automatizace již delší dobu očekávala a koneckonců už před časem začala. Například nástroje typu překladače DeepL dosáhly takové kvality, že přinejmenším texty bez vysokých literárních ambic už přeloží natolik spolehlivě, že jsou překladatelé potřeba spíše na vychytání občasných chyb než na vlastní překlad.
V úhrnu může být dotčených lidí poměrně hodně a o práci mohou přijít relativně rychle. Za stávající situace to spíš vypadá, že trh práce jako celek si s tím střednědobě poradí dobře. Koneckonců mu v úhrnu aktuálně lidé spíše chybí, než že by hrozila vysoká nezaměstnanost. Půjde tak spíš o smysluplnou integraci dotčených jednotlivců, kteří mají díky poměrně vysoké kvalifikaci slušné šance uchytit se jinak. Přesto k potížím může docházet, například u starších lidí, a stávající sociální systém na delší, strukturální nezaměstnanost není připraven. Vláda tuto skutečnost navíc plánovaným zkrácením doby pro pobírání podpory ještě zhoršuje. Je také potřeba sledovat strukturu těch, kteří budou touto vlnou automatizace zasažení. Odhaduje se, že by to neproporčně mohly být ženy, které v jednoduchých, administrativních pozicích pracují častěji než muži. Jejich byť dočasná nezaměstnanost má – stejně jako ta mužská – svá specifika, která je nutné podchytit.
Obecně by bylo dobré nenechat se prozatím ne úplně dramatickými vyhlídkami ukolébat a přemýšlet také o systémovějších reakcích. Koneckonců po letech nejistoty, zda k průlomu vůbec někdy dojde, se k němu schyluje i na poli autonomního řízení, což může dopad na zaměstnanost rychle znásobit. Stejně tak není ani zdaleka odvrácena hrozba ekonomické recese, či eskalace válečného konfliktu na Ukrajině s nedozírnými důsledky pro světové hospodářství. Na pořadu dne by tak s nástupem ChatGPT měly být znovu principiální debaty o podobě práce v budoucnosti. Obrácenou mincí nezaměstnanosti je koneckonců nárůst produktivity, čímž se mohou otevírat dveře radikálnějším utopiím – od zkracování pracovního týdne až po přerod ve společnost postpráce či zeleného nerůstu.
Digitální technologie přináší zvýšenou spotřebu energie
Tím se však dostáváme k důležité otázce, zda se nová technologie dá označit za „zelenou“. Uhlíková stopa mnoha digitálních technologií, prominentně kryptoměn a streamovacích služeb, ale i většiny dalších, je masivní. Zároveň ale obvykle není také tím hlavním, o čem se v souvislosti s nimi hovoří. Již u jednodušších samoučících algoritmů byla spotřeba energie enormní, u sofistikovanějších systémů se tudíž dá počítat s dalším nárůstem. Technologické firmy se sice snaží postupně přecházet na obnovitelné zdroje energie, objem spotřebované energie se ale neustále zvyšuje a proces tedy neprobíhá dostatečně rychle. Podobně jako u debat o práci se tak i zde nová technologie zařazuje do širší a fundamentálnější diskuse o podobě světa.
Celkově stojíme ještě na začátku a moc netušíme, co všechno pro nás bude ChatGPT a jemu příbuzné technologie vlastně znamenat. Kromě přesvědčivých a oslnivých úspěchů internetem nakonec koluje i řada protichůdných příkladů dokládajících jeho naprosté selhání. Kromě toho, zda se dalším postupným učením během používání časem propracuje k solidní spolehlivosti (ať už to vzhledem ke způsobu fungování znamená cokoli), jde – jako nakonec u všech technologií – také o to, zda se pro jeho využití najdou výdělečné způsoby a zda uživatelé technologii vůbec přijmou. Na jednom z toho už ztroskotala celá řada technologií minulosti.
Jde o hodně a vývoj může být rychlý. Vyplatí se proto mít všechny různé dimenze dopadů rozvoje této technologie na zřeteli a vést o nich společenskou debatu, i kdyby vývoj nakonec zůstal za očekáváním. Co si v ní vydiskutujeme ohledně moci technologií a ekonomiky nad našimi životy, podoby práce nebo klimatu, se nám koneckonců neztratí.
Autorka je politoložka.