Nemám co skrývat. Evropská komise si jde pro vaše zprávy

Posíláte zprávu kamarádovi, partnerce, třídnímu či pracovnímu kolektivu. Přes rameno vám kouká nenápadná osoba: „Pokračujte, nenechte se rušit,“ říká s úsměvem. Je přitom úplně jedno, jestli pro komunikaci používáte Gmail, WhatsApp nebo šifrované kanály jako Signal. Zhruba tak nějak by mohl vypadat svět on-line komunikace, projde-li návrh Evropské komise známý jako CSAM (Child Sexual Abuse Regulation), kritiky však záhy překřtěný na přiléhavější „ChatControl“.

Jak se vůbec návrh, který by ve jménu pátrání po známkách pohlavního zneužívání dětí vedl k prolomení šifrované komunikace, dostal na jednací stoly a proč by bylo fajn, aby se z těchto stolů co nejrychleji odporoučel? O tom je první ze série článků Nemám co skrývat, ve které vedle aktuálních hrozeb pro soukromí představíme i praktické tipy a triky, jak mít digitální komunikaci pod kontrolou. Věříme, že v současném světě, kde se rychle zhmotňují dříve nereálné náměty ze sci-fi knížek, se budou podobná doporučení hodit!

Kdo šifruje, znásilňuje děti

Na úvod si ve stručnosti připomeňme, co je to vlastně šifrovaná komunikace. Zjednodušeně řečeno, komunikace je šifrována proto, aby naše zprávy v kyberprostoru nečetl nikdo další. I šifrovanou komunikaci však může zpravidla číst a analyzovat správce serveru (činí tak například oblíbený Gmail i většina cloudových služeb). Teprve tzv. koncové šifrování zaručí, že si zprávu přečte skutečně jen zamýšlený příjemce a že do ní během její cesty kyberprostorem nebude nikdo nezvaný nakukovat.

Podle Evropské komise není použití bezpečné komunikace v zásadě ničím jiným než průvodním jevem zločinu.

Jakýmsi zlatým standardem takové komunikace je v současné době aplikace Signal. V kombinaci s možností nastavení mizejících zpráv je tato aplikace oblíbeným nástrojem novinářů a novinářek, kteří potřebují bezpečný kanál pro komunikaci se svými zdroji či s týmem, se kterým pracují například na kritických článcích týkajících se vlády. Signal je ale oblíbený i mezi aktivistickými kolektivy (například těmi, které aktuálně upozorňují na klimatickou krizi) či politickou opozicí. Ti všichni mohou být již nyní trnem v oku státu či jeho bezpečnostním složkám; ti všichni jsou však zároveň nedílnou součástí demokratického systému a veřejné diskuze.

Potřebu bezpečné komunikace však může pocítit kdokoliv další: každý, kdo si nevystačí s oblíbeným argumentem „já přece nemám co skrývat“. Tento okřídlený argument však funguje jen do chvíle, než zjistíte, že zrovna váš názor, vaše chování či váš koníček se ocitl na černé listině platné legislativy, která se průběžně mění a jež doznává změny zejména po volbách, kdy se znovu rozdají karty. Že vás obsah vaší komunikace či data o vyhledávání mohou dostat velmi rychle na lavici obžalovaných, seznaly překvapené americké ženy po nedávném zrušení precedentu Roe vs. Wade, který zajišťoval právo na interrupci (o tématu psala na Alarmu před rokem Magdalena Dušková).

Zdá se však, že podle Evropské komise není použití bezpečné komunikace v zásadě ničím jiným než průvodním jevem zločinu. Již v červenci 2020 píše Komise v dokumentu „Strategie EU pro účinnější boj proti pohlavnímu zneužívání dětí“ hned na straně 2 o šifrované komunikaci jako o nástroji, který umožňuje skrytě provozovat trestnou činnost související s pohlavním zneužíváním dětí a znemožňuje identifikovat pachatele. Dokument následně navrhuje zapojení soukromých společností do boje proti pohlavnímu zneužívání dětí – poskytovatelé provozující nejrůznější aplikace a platformy pro komunikaci by aktivně odhalovaly a hlásily stopy dětské pornografie. Zdůrazněno v tomto materiálu nicméně je, že jakékoliv řešení musí zajišťovat jak ochranu dětí před tímto typem společensky nebezpečného jednání, tak i důvěrnost elektronických komunikací, respektive právo na soukromí všech uživatelů. Na koncepční dokument navazuje Strategie EU pro práva dítěte z března 2021. Zde se však již proporcionalitou a mírou zásahu do práva na soukromí nikdo netrápí a zmíněna není…

Technický i společenský nesmysl

Konečně v květnu 2022 jako legislativní podklad pro Strategiemi identifikované cíle představuje Komise návrh „Nařízení, kterým se stanoví pravidla pro předcházení pohlavnímu zneužívání dětí a boj proti němu“. Návrh počítá se zřízením Centrální úřední autority v podobě Evropského střediska pro prevenci a potírání pohlavního zneužívání dětí, především ale rozvíjí myšlenku skenování komunikovaného obsahu.

Fungovat by to mělo jednoduše: obsah komunikace bude porovnán s databází obsahu, který již byl identifikován jako škodlivý. Nařízení operuje také s požadavkem skenování textového obsahu a hledání náznaků tzv. groomingu, kdy je navázán vztah s dítětem či mladistvým s cílem sexuálního či jiného zneužití. Poskytovatelé by pak měli povinnost hlásit jakékoliv zachycené zneužití zmíněnému Evropskému středisku.

Smělý plán vyvolal pochopitelně zděšení mezi odbornou i laickou veřejností. Hitparáda TOP 4 protiargumentů vypadá následovně:

• Z hlediska technického se celý plán plošného skenování jeví jako neproveditelný, aniž by bylo radikálně a invazivně narušeno soukromí. S nápadem zachycovat automatizovaně pornografický obsah narazila již v roce 2018 síť Tumblr. O tři roky později ke stejnému závěru dospěla společnost Apple. „Jak si mohou být uživatelé jisti, že nástroj pro jeden typ sledování nebyl naprogramován pro sledování jiného obsahu, například politické činnosti?“ obhajoval ztroskotání plánu ředitel společnosti pro ochranu soukromí a ochranu dětí Erik Neuenschwander v nedávném článku pro Forbes. Snaha číst zprávy, aniž by někdo měl dojem, že mu čtete zprávy, je zkrátka neřešitelným rébusem.
• Celý plán je značně nekonformní s rozsudkem Soudního dvora Evropské unie ve věci data retention, kdy soud odmítl plošné a nerozlišující uchovávání provozních a lokalizačních údajů. V Česku jsou mimochodem v rozporu s tímto rozhodnutím nadále půl roku uchovávána metadata od telefonních operátorů o tom, kdo si s kým volal, kdo se kde pohyboval a kde se připojoval k internetu. V případě ChatControl by nešlo jen o zásah do „dat o datech“, ale přímo do vlastních dat v podobě obsahu komunikace.
• Podobně jako například systémy na rozpoznávání tváří a další nástroje postavené na principech strojového učení, i algoritmy užité v rámci ChatControl by pochopitelně vyhodnocovaly část obsahu špatně. Otevřený dopis akademiků upozornil i na problém young-looking adults, kdy by vás váš mladistvý vzhled mohl dostat do problémů. Do problémů by se ale mohly paradoxně dostat i samotné děti, které má přitom návrh chránit. Právě tzv. self-generated obsah je totiž dle Internet Watch Foundation exponenciálně vzestupnou kategorií zejména v posledních letech. U nás se tomuto tématu věnovalo třeba Centrum prevence rizikové virtuální komunikace při Univerzitě Palackého v roce 2017. Na výzkumném vzorku téměř pěti tisíc českých dětí dospěla studie k závěru, že „sexting ve formě rozesílání vlastních intimních fotografií provozuje 15,37 % českých dětí“. Dle výzkumu z roku 2022 provozoval sexting každý sedmý mladistvý.
• Zdaleka největším nebezpečím je ale vznik takzvaných „zadních vrátek“: v případě, že by vznikl přístup k dosud šifrované komunikaci, není do budoucna těžké domyslet, jak by tato zadní vrátka byla využita. Nejdříve se možná budou využívat pro hledání dětské pornografie a pak třeba pro hledání těch, kdo nesouhlasí s klimatickou politikou státu, či těch, kdo nosí růžové oblečení. „Fundamentálním problémem zadních vrátek je to, že nelze ohlídat, kdo jimi projde,“ píše trefně ve starším textu americká organizace Center for Democracy & Technology.

Bitva čísel, jejíž výsledek se brzy dozvíme

I Evropská komise pochopitelně vysílá do argumentační bitvy čísla a studie. Ve svém emotivním videu operuje s nahlášenými 85 miliony fotek a videí z celého světa z roku 2021, jejichž obsahem bylo dětské zneužívání. V jen pár měsíců starém prohlášení pak předvádí frontální útok na soukromí jako takové: na základě výzkumu tvrdí, že podle 96 procent evropské veřejnosti je schopnost odhalit zneužívání dětí stejně důležitá nebo důležitější než právo na soukromí na internetu. Celých 83 procent lidí by pak bylo pro, aby poskytovatelé detekovali CSAM a grooming i v případě, že služby používají end-to-end šifrování.

Proti číslům Eurobarometru (což je, ehm, průzkumný nástroj Evropské komise) pak stojí třeba výzkum EDRi a Pirátské strany, dle kterého by se 80 procent mladých lidí ve věku 13 až 17 let ze 13 členských států EU necítilo dobře, kdyby se mělo s vědomím plošného sledování digitální komunikace věnovat v kyberprostoru politickému aktivismu či například zkoumat svou sexualitu.

Je nesporné, že ke zneužívání dětí a šíření dětské pornografie na internetu dochází. Řada přeživších sexuálního zneužití i organizací věnující se ochraně práv dětí se však spolu s IT odborníky, ale i některými vládami a subjekty Evropské unie shodují, že plošné sledování není správnou cestou, jak problém řešit. Mnohem lepší by byla plošná prevence, a to nejen mezi dětmi, ale zejména mezi rodiči. Jak totiž potvrdil i nedávný český výzkum, fotky s nahými dětmi na internet často nahrávají právě oni (konkrétně 6,7 procenta oslovených rodičů veřejně on-line sdílelo fotografie, na nichž bylo dítě částečně nahé a byl zřetelný jeho obličej). Podle mluvčího policejního prezidia Ondřeje Moravčíka je Česko sdílením fotek dětí ve světě nechvalně vyhlášené. „Téměř nikde na světě ženy tak ochotně nesdílejí fotografie svých malých dětí, jako tomu je v České republice,“ prohlásil nedávno pro iRozhlas.cz.

To, která čísla skutečně kopírují společenské konání a náladu, se asi nedozvíme nikdy. Co se však dozvíme velmi brzy, je pozice, kterou k chystanému nařízení zaujímají jednotlivé členské státy. Již na konci tohoto září by totiž měla své stanovisko vyjevit Rada Evropské unie, která zájmy států reprezentuje. Postoj Rady pak bude klíčový pro následující jednání v rámci trialogu.

V praxi je za českou pozici zodpovědné ministerstvo vnitra. Jeho zástupkyně z odboru prevence kriminality se k tématu vyjádřila letos v květnu na kulatém stolu v Poslanecké sněmovně. Na obhajobu ChatControl mimo jiné řekla: „Já v případě, že jdu nakupovat kamkoliv do obchodu, jsem taky pod nějakým kamerovým systémem a každý mě vidí. Úplně stejně v tom on-line prostoru – pokud se tam chovám tak, jak se chovat mám, tak to pro mě nemusí být ohrožující problém či situace.“

Nezbývá než doufat, že ministerstvo vnitra bude k návrhu o něco kritičtější a z velmi omezeného argumentačního rámce „nemám co skrývat“ se mu podaří vykročit.

Autor pracuje v organizaci Iuridicum Remedium.

Článek vznikl v rámci projektu Nemám co skrývat, financovaného asociací European Digital Rights (EDRi).