Může být z robota fašoun?


Nová studie ukazuje, že umělá inteligence přebírá od lidí nenávist, rasismus a sexistické stereotypy. Budou nás chtít jednou roboti zničit?

Umí roboti myslet? A pokud ano, dokážou kritizovat rasismus nebo sexismus? Zatím to tak nevypadá. Z nedávné vědecké studie vyplývá, že umělá inteligence reprodukuje rasistické a sexistické myšlenky, které přebírá od svých stvořitelů i dalších lidí. Jinými slovy, stroje můžou být stejně nenávistní jako dnešní lidé.

Vstupujeme do období, ve kterém umělá inteligence čím dál víc ovlivňuje naše životy. Někdy se mluví o hybridizaci lidí a strojů. Důležitou otázkou ovšem je, zda bude mít umělá inteligence v budoucnu i nějaké morální zábrany. Stroje dnes vykazují schopnost přebírat vzorce myšlení a chování od okolí. A výsledkem je, že opakují rasistické předsudky nebo stereotypy o ženách. Spoluautorka zmíněné studie o strojích a rasismu Joanna Brysonová z univerzity v Bath to komentuje slovy: „Mnoha lidem se zdá, že umělá inteligence je plná předsudků. Tak to ale není. Znamená to, že předsudků jsou plní dnešní lidé a umělá inteligence to pouze opakuje.“

Stroje dnes vykazují schopnost přebírat vzorce myšlení a chování od okolí. A výsledkem je, že opakují rasistické předsudky nebo stereotypy o ženách.

Firma Microsoft například vloni vyvinula chatbota jménem Tay, který se učí v interakci s lidmi na sociálních sítích. Výsledkem pokusu bylo, že během několika hodin strávených v diskusích s lidmi začal Tay vyjadřovat sympatie Hitlerovi, opakovat hesla krajní pravice a podporovat Trumpa. A to je pouze jeden do očí bijící příklad. Jiné jsou méně viditelné, ale týkají se našeho každodenního soužití s technologiemi.

Bloggerka Laurie Penny přirovnává v Guardianu umělou inteligenci k dětem. Sociální sítě jsou plné nenávistných výlevů, rasismu, výhrůžek, urážek a posměchu. A umělá inteligence přejímá nenávist od svých stvořitelů, jejichž myšlení a chování kopíruje. Učí se zkrátka rozumět světu prostřednictvím jazyka a názorů starší generace. Co se ale naučí od té současné? A neobrátí se to jednou proti nám? Problém je, že slova neslouží jen k popisu věci, ale pomáhají tyto věci formovat. Verbální násilí je proto skutečné a nejde ho oddělit od světa, který vytváří.

Stroje se – stejně jako lidé – učí informace, které vnímají kolem sebe. Není tedy na čase poskytnout jim lepší? Strojové algoritmy umí aktualizovat své odpovědi a my bychom to mohli časem dokázat taky. Buď jak buď, filmy o tom, jak chce umělá inteligence zničit lidstvo, všichni známe. A pro lidi to obvykle nedopadlo dobře.

 

A2LARM