Před dvěma roky byl v Evropské komisi přijat prozatímní zákon, který by poskytovatelům chatovaích služeb povoloval plošnou kontrolu komunikace jejich uživatelů pro odhalování distribuce dětské pornografie. Pokud jsou obrázek či zpráva vyhodnoceny jako podezřelé, jejich obsah je následně sdílen se zaměstnanci a policií pro další vyšetřování. Platnost tohoto zákona končí rokem 2024.

Rok po přijetí, v roce 2022, byl představen nový návrh zákona, který by tuto praktiku učinil povinnou pro všechny zprávy, videa, obrázky, emaily, hlasové hovory, soukromá cloudová úložiště jako iCloud či Google Drive i videohovory. Povinná kontrola by byla omezena na části služby, kde bude identifikován vyšší risk zneužívání dětí – například určité chatovací skupiny, věk uživatelů nebo jejich lokace. Dobrovolná kontrola je stále možná a provozovatelům silně doporučena. Povinnost by měly také pouze komerční služby.

Naše vláda bude o stanovisku k návrhu hlasovat během následujících týdnů.

Ochrana dětí a jejich práv je samozřejmě důležitá. Návrh nicméně může, stejně jako kdyby pošta měla povinnost otevírat všechny dopisy, mít fatální následky;

• Anonymita na Internetu by se stala prakticky nemožnou. Na roušce anonymity však pro svou ochranu závisí spousta lidí, u kterých by informace o jejich identitě mohla znamenat jistou smrt. Dle návrhu by ale běžné komunikační služby měly povinnost ověřit věk - a tedy i identitu - svých uživatelů.

• Soukromá komunikace by byla prakticky nemožná. Obsah komunikace absolutní většiny občanů EU by byl automaticky a plošně analyzován. Nedávná kauza programu Pegasus ukázala, že zájem o takové informace má leckdo, v EU například německá policie, vláda Viktora Orbána a polská PiS.

  Zaměstnanci americké NSA již v roce 2014 zneužívali svého přístupu k informacím pro prohlížení a sdílení nahých fotek cizích lidí. EUROPOL, celoevropská policejní agentura, zmínila zájem o využití již zavedeného skenování komunikace pro rozpoznávání jiných zločinů.

  Narozdíl od již přijatého prozatímního zákona tento návrh zahrnuje i bezpečně šifrované platformy jako WhatsApp a Signal. Tyto služby by měly povinnost kontrolovat zprávy na straně zařízení uživatele a z něj odesílat hlášení.

  Právní názory navíc ukázaly, že plošná analýza komunikace bez jakéhokoliv důvodného podezření je neslučitelná s Listinou základních práv EU.

• Soukromé soubory by byly bez podezření prohledávány. Cloudové služby jako Google Drive, iCloud a OneDrive by měly povinnost kontrolovat a případně nahlašovat soubory svých zákazníků, i pokud je s nikým nesdíleli.

• Zločinci už dávno využívají služby mimo vliv EU. Technologicky zdatní občané budou vždy mít způsoby kontaktu s ostatními mimo oči velkého bratra. Běžní lidé, které by tento zákon nejvíc ovlivnil, však ne.

  Velká část dětské pornografie není sdílena vůbec a zůstane na úložišti pachatele. Ta, která se na Internet dostane, nemá původ v běžných zprávách, ale například na uzavřených fórech, kde jsou soubory šifrovány heslem známým jen několika lidem. Může trvat roky, než se dostane do oběhu a detekční program má první šanci ji rozpoznat. Informace o původu jsou v tu chvíli dlouho pryč.

• Mnoho hlášení je mylných, přesto ale může vést k následkům. Umělá inteligence a jiné programy určené na ropoznávání nelegálního obsahu vytváří vysoká množství mylných hlášení, které přinejmenším přetěžují vyšetřovatele a odvádí pozornost od skutečných zločinců. Podle švýcarské policie je až 86% hlášení nepoužitelných. S policií jsou sdíleny například fotky miminek a dětí na dovolené, nebo sexting mladých lidí.

V první řadě musí být řešení proporcionální k problému. Přestože si od plošné kontroly zpráv někteří slibují konečné řešení problému zneužívání dětí online, bohužel jím nebude a nemůže být. Máme ale jiné a potenciálně efektivnější způsoby, jak s velmi reálným zneužíváním dětí bojovat;

• Z pohledu čistě technických řešení existují vcelku dobré příklady. Apple – byť jejich implementace plošné kontroly zpráv v roce 2020 selhala – ponechal funkci, kde v komunikaci dětí při detekci možné pornografie automaticky zprávu prvotně zablokuje a dá dítěti všechny důležité informace o tom, co dělat v případě nebezpečí, možnost okamžitě kontaktovat rodiče, nebo případně komunikaci utnout. Všechno probíhá na zařízení a Apple k šifrovaným datům přístup nikdy nedostane.
• Zajistit efektivní a jednoduché mechanismy nahlašování zpráv. Pokud dítě či jakýkoli jiný uživatel nahlásí velkému provozovateli zprávu - zejména v případech, kde se týká citlivých témat jako sexuálního zneužívání - je důležité, aby na druhém konci zkušený zaměstnanec zhodnotil situaci, informovat nahlašovatele o výsledku a případně poskytl informace o možných dalších krocích.
• Provádět cílená vyšetřování. Ve spoustě případů může trvat měsíce až roky, než se policie dostane ke konkrétnímu hlášení. Většina automatických hlášení přichází ze zdrojů jako Facebook a Instagram, kde, i když je hlášení relevantní, většinou obsahuje roky starý, dlouze cirkulovaný materiál, kde bohužel skutečného pachatele ani oběť už není možné dohledat. Pokud se dětská pornografie dostane na Internet, většinou se prvně objeví na různých uzavřených darknetových sítích, které zákon nikdy nebude mít schopnost ovlivnit. Soustředění policejních sil na vyšetřování právě těchto cílů by bylo mnohem efektivnější, mělo větší šanci zachránit aktivně zneužívané děti a dopadnout samotného pachatele.
• Soustředit se na skutečnou prevenci. Organizace chránící potenciální oběti fungují dobře. Česká Linka Bezpečí velice efektivně řeší tisíce případů ročně, ne všechny země však mají takové štěstí – často se potýkají s nedostatkem kapacity a prostředků. Oragnizace pomáhající potenciálním násilníkům zlepšit svůj mentální stav taky stojí za zmínku, předejít zneužití je vždy lepší, než řešit jeho existenci.
• Informovat děti o tom, jak se v případě zneužívání chovat, i jak ho vůbec rozpoznat. Podobou interaktivních programů na školách, workshopů i například otevřených diskuzí by děti měly být informovány o tom, co a jak dělat, když se cítí zneužívány. Tato témata jsou na školách žalostně zanedbávána, důsledkem může být vcelku časté zneužívání, nejčastěji např. grooming. Zejména v online prostředí, kde se kdokoli může vyádávat za kohokoliv.
• K řadě kroků musí dojít i na národní úrovni. V České republice máme naprosto nedostačující legislativu. Zákon umožňuje vyhodnotit situaci tak, že dítě sexuální aktivity provozuje dobrovolně. Pak se nejedná o znásilnění, ale o sexuální zneužití dítěte, na které se vztahují mírnější tresty. 86 % pachatelů sexuálního zneužití nezletilých odchází od soudu s podmínkou.