„Jste si jisti, že to byl omyl?“ „Takže to funguje!“ „Jenom osmadvacet?“ Tak vtipkují uživatelé Twitteru o výsledcích testu nástroje pro rozpoznávání tváří Rekognition, který provedla organizace American Civil Liberties Union (ACLU). Kontroverzní technologie nedávno uvedená Amazonem, jehož zaměstnanci a akcionáři spolu s akademiky, občanskoprávními skupinami a významnou částí veřejnosti protestují proti snaze společnosti prodat software policejním oddělením a vládním agenturám, chybně identifikovala 28 členů Kongresu jako lidi, kteří v minulosti spáchali zločin. Test porovnával veřejné fotky všech 535 zákonodárců s databází 25 tisíc portrétů lidí, kteří měli problém se zákonem.
Za pozornost stojí také skutečnost, že téměř čtyřicet procent identifikovaných tvoří lidé s jinou než bílou barvou pleti (včetně například lídra bojů za občanská práva Johna Lewise), třebaže jejich zastoupení v Kongresu je jen dvacetiprocentní. Tento problém se nezřídka objevuje u řady podobných rozpoznávacích systémů a největší chybovost byla zaznamenána u nebělošských žen. Kongres by se měl podle ACLU připojit k výzvě volající po tom, aby bezpečnostní složky technologii rozpoznávání tváří nepoužívaly.
Congressional Black Caucus, interní kongresová organizace tvořená afroamerickými zákonodárci, nedávno v otevřeném dopisu prezidentovi a výkonnému řediteli Amazonu Jeffu Bezosovi vyjádřila obavy z „nezamýšlených negativních následků“ používání technologie pro Afroameričany, nezdokumentované imigranty či protestující. Zpráva varuje před chybovostí identifikačních systémů a zmiňuje nedávný případ, během nějž v San Francisku policie zastavila, spoutala a donutila klečet černošskou seniorku, protože systém podle poznávací značky chybně identifikoval její auto jako kradené.
Podle vyjádření Amazonu jsou nepřesnosti důsledkem neodpovídajícího nastavení. Test ACLU proběhl při výchozím osmdesátiprocentním nastavení obličejové shody, Amazon by v případě používání bezpečnostními složkami doporučil minimálně 95 procent, píše The Verge. Amazon se ale podle ACLU nestará o to, k jakému účelu bude software použit. Organizace navíc už v květnu informovala o tom, že některé složky – konkrétně policie v Orlandu na Floridě a ve Washington County v Oregonu – už Rekognition používají.
K testu se již vyjádřili někteří z identifikovaných členů Kongresu: „Jste si jisti, že to Amazon neřeší s Donaldem Trumpem, Tuckerem Carlsonem a Breitbartem? Protože ti si také myslí, že všichni Latinos jsou zločinci,“ okomentoval výsledky pro BuzzFeed News Luis Gutiérrez. „Tato technologie stále není připravena k použití. Rizika ohrožující základní svobody Američanů zatím převažují na výhodami,“ říká Tom Garrett.