Boj proti šíření dětského porna online má trhliny. Facebook by mohl sledovat i ‚běžný‘ sexting lidí

4 měsíce starý 27

Evropský parlament povolil digitálním platformám jako Google nebo Facebook sledovat komunikaci jejich uživatelů. Opatření určené k boji s dětskou pornografií ale může zasáhnout soukromí všech.

Praha 5:00 18. července 2021

Tereza Těžká během natáčení dokumentu V síti | Foto: Milan Jaroš | Zdroj: Aerofilms

Evropští zákonodárci minulé úterý schválili výjimku ze směrnice o online soukromí. Nově mohou digitální platformy jako Google nebo Facebook automaticky monitorovat komunikaci mezi uživateli a vyhledávat v ní informace o sexuálním zneužívání dětí.

Kromě fotografií nebo videí mohou firmy vyhledávat v komunikaci známky takzvaného kybergroomingu: jde o případy, kdy dospělý navazuje online kontakt s dítětem a snaží se z něj následně vylákat materiály sexuálního charakteru nebo ho přesvědčit k osobní schůzce.

Zastánci monitoringu argumentují tím, že online zneužívání dětí představuje masivní problém. Facebook loni smazal dvacet milionů souborů s dětskou pornografií. Druhá v počtu zaznamenaných incidentů byla společnost Google, která americkým orgánům poskytla přes 500 tisíc hlášení (ta se týkala i uživatelů mimo Spojené státy).

Samotné číselné srovnání nicméně může být zavádějící, často totiž jde o případy opakovaných nahrání jedné a té samé fotky či videa. V případě Facebooku a Instagramu tvořila přibližně polovinu všech oznámení šestice videí.

O aplikaci Tečka a o výjimce od Evropského parlamentu pro sledování emailů kvůli dětské pornografii

Právě Facebook čelil v minulosti kritice, protože pro sdílení problematického materiálu sloužily jeho uzavřené skupiny, ve kterých si uživatelé vyměňovali fotky nebo videa. Podobně využívali i facebookový messenger.

Pro automatické rozpoznávání médií zachycujících zneužívání dětí vyvinula společnost Microsoft databázi PhotoDNA, která shromažďuje digitální otisky dříve zachycených souborů. Provozovatelé služeb tak mohou teoreticky každou fotografii či video automaticky přepočítat na takový digitální otisk a v databázi jej zkusit vyhledat. Pokud je výsledek pozitivní, je jisté, že jde o dětskou pornografii. Tu pak mohou smazat, případně ohlásit policii.

Slabinou tohoto přístupu je, že stačí obrázek mírně upravit, například oříznout okraje, a digitální otisk se nenávratně změní. Automatickou kontrolou potom projde. To samé pak platí u nového obsahu, který ještě nikdo jako dětskou pornografii nevyhodnotil.

Většina je špatně

Evropský parlament proto předpokládá, že se nově na vyhledávání zakázaného obsahu bude podílet umělá inteligence, které z fotografie nebo třeba z kontextu komunikace dovodí, že jde pravděpodobně o nelegální obsah. Konečné posouzení ale zůstane na lidských moderátorech.

Právě to je ale podle europoslance za Zelené Patricka Breyera problém, protože podle něj „automatické nástroje ohlašují v 86 procentech případů nerelevantní obsah.“ Pro algoritmy je těžké rozeznat, jestli je na odhalené fotografii nezletilé dítě, nebo plnoletý člověk. I legální a dobrovolný sexting mezi dospělými tak v některých případech bude muset kontrolovat zaměstnanec soukromé firmy, případně policista.

Je tedy pravděpodobné, že se pachatelé trestné činnosti i běžní občané dbající na své soukromí přesunou na platformy, které šifrují obsah zpráv už u jednotlivých uživatelů. V takovém případě totiž nemá k jejich obsahu přístup ani samotný provozovatel služby. Mezi ty patří i aplikace WhatsApp, kterou rovněž provozuje Facebook.

Plány společnosti zavést koncové šifrování pro své další služby v loňském roce narazily právě na obavy ze zneužívání dětí. Ze stejného důvodu čelí kritice i WhatsApp.

Šifrování přitom představuje z pohledu bezpečnostních složek problém: sice komplikuje odhalování a sledování nelegální komunikace, na druhé straně ale chrání soukromí uživatelů. A to právě i dětí.

Navíc není možné šifrování jednoduše oslabit jen v některých případech. Podle kryptologa Tomáše Rosy každé úmyslné oslabení šifrování povede k tomu, že ho zneužijí zločinci nebo nedemokratické státy.

Přednáška kryptologa Tomáše Rosy na semináři v Poslanecké sněmovně

Facebook proto pod tlakem národních států hledá způsob, jak monitorovat zašifrovaný obsah. Jednou z možností je, že každá aplikace WhatsApp bude obsahovat modul, který bude hledat nelegální obsah ve zprávách ještě před jejich zašifrováním.

Pokud ho odhalí, zašle nezašifrovaný vzorek na servery firmy. Následně pak, například na příkaz policie, přidá do takto odhalené komunikace skrytého třetího účastníka, kterým budou přímo bezpečnostní složky.

Platí tedy, že ač samotný šifrovací algoritmus může být kvalitní, záleží i na tom, jak přesně funguje aplikace, která ho využívá.

Čína jako vzor

Takové kroky ale současná výjimka schválená europarlamentem nepokrývá, i proto je její platnost omezená nejdéle do konce roku 2025. Do té doby by státy EU měly schválit novelu nařízení o soukromí online, která by na současné otázky měla reagovat.

Nicméně není zřejmé, jak jednotlivé státy případně vynutí nějakou formu kontroly šifrované komunikace. Samotné nasazení šifrování není přehnaně složitý úkol, a tak vždy budou existovat aplikace, jejichž odposlech bude prakticky nemožný.

Možné řešení ukazují nedemokratické země jako Čína. Výrobce počítačů a mobilních telefonů Apple se sice prezentuje jako ochránce soukromí, v případě čínských zákazníků ale v souladu s požadavkem komunistické vlády blokuje instalaci aplikací, které pomáhají obcházet státní cenzuru. Týká se to i totalitního Běloruska, Kolumbie, Egypta, Kazachstánu nebo třeba Saudské Arábie.

Právě technické monopoly tak představují efektivní nástroj, jak kontrolovat komunikaci. Výrobci telefonů, respektive mobilních operačních systémů, mohou přidat funkce, které odposlech komunikace umožní, případně ze svých obchodů smazat aplikace, které s bezpečnostními složkami nespolupracují.

Evropští i američtí zákonodárci sice prohlašují, že chtějí výsadní postavení technických gigantů jako Google, Apple nebo Facebook omezit, nicméně zájem bezpečnostní složek může být přesně opačný. S menším množstvím velkých firem snadněji vyjednají podmínky, za kterých se dostanou k obsahu komunikace jejich uživatelů.

Do jisté míry se to děje již dnes. Například Apple vzdal plány na šifrování uživatelských záloh po nátlaku FBI, které by to zkomplikovalo některá vyšetřování. A zavedení plošného šifrování na Facebooku zase kritizují investoři, kteří se bojí případného zásahu zákonodárců.

Jan Cibulka

Zdroj