Paulita Paupel, która kieruje europejskim oddziałem organizacji zajmującej się branżą dla dorosłych Free Speech Coalition, mówi, że represje mają niepokojący wpływ na ludzi i ich zdolność do udostępniania treści online. „Ludzie uciekają z kraju” — mówi Paupel. „Większość głównych twórców treści już zmieniła swoje miejsce zamieszkania w innych krajach europejskich, głównie w Austrii, Szwajcarii i na Cyprze”. Inni zmienili swoje strategie marketingowe, aby uniknąć Twittera (wpływając na to, ile pieniędzy mogą zarobić), a osoby nowe w branży mogą być zniechęcone do rozpoczynania kariery, mówi Paupel. „Dotyczy to głównie twórców LGBTQI+ i BIPOC”.
Internet jest oczywiście zalany pornografią — od Reddita, Snapchata i Twittera po OnlyFans, PornHub i xVideos — z milionami ludzi na całym świecie zaangażowanych w tę branżę. W skali globalnej to wielki biznes, generujący miliardy dolarów rocznie. Podczas gdy na całym świecie dochodzi do rozpraw z pornografią, Niemcy wydają się mieć szczególnie silną markę egzekwowania prawa w świecie zachodnim, mimo że są jednym z największych konsumentów pornografii.
„Niemcy najbardziej agresywnie podchodzą do tłumienia mowy” — mówi Mike Stabile, rzecznik amerykańskiej Koalicji Wolnego Słowa. „Myślę, że Niemcy były najbardziej agresywne w tym dążeniu, zarówno pod względem zakresu swoich praw, jak i egzekwowania”.
Nadzór AI
Od 2019 r. niemieckie organy regulacyjne ds. mediów opracowują, a następnie wykorzystują system sztucznej inteligencji do wykrywania treści internetowych, które mogą naruszać przepisy krajowe. System sztucznej inteligencji, nazwany KIVI, został opracowany przez organ ds. mediów w Nadrenii Północnej-Westfalii wraz z prywatną firmą z siedzibą w Berlinie i jest obecnie używany przez wszystkie organy ds. mediów w całych Niemczech.
KIVI jest reklamowany jako zdolny do skanowania publicznych postów w siedmiu mediach społecznościowych i aplikacjach do przesyłania wiadomości – w tym na Twitterze, YouTube, TikTok, Telegram i VK (rosyjska wersja Facebooka) – a także na stronach internetowych w otwartym Internecie. Facebook i Instagram Meta, które zabraniają nagości, nie są obecnie skanowane. Według opisu narzędzia w Nadrenii Północnej-Westfalii może ono sprawdzać 10 000 stron dziennie. Wkrótce po tym, jak władze zaczęły korzystać z KIVI, stwierdzono, że wykrywanie przez władze „szybko wzrosło”.
Rzecznik urzędu ds. mediów w Nadrenii Północnej-Westfalii mówi, że od 2021 r. organ ten wykrył prawie 5000 „naruszeń”. System wyszukuje problematyczne treści, wyszukując z góry określone niemieckie słowa kluczowe i linki, a władze twierdzą, że wykorzystuje kombinację rozpoznawania obrazu i rozpoznawania tekstu w celu wykrycia „pozytywnych” wyników.
Ella Jakubowska, starszy doradca ds. polityki w organizacji non-profit European Digital Rights (EDRi) zajmującej się prawami obywatelskimi, mówi, że prawa człowieka są zagrożone, gdy firmy Big Tech lub rządy zajmują się moderacją treści. „Ale pomysł podmiotów państwowych kontrolujących to, co robimy i czego nie widzimy w Internecie, wydaje się sam w sobie bardzo niepokojący” – mówi Jakubowska.
KIVI szuka wielu rodzajów treści, w tym ekstremizmu politycznego i negowania Holokaustu, przemocy i pornografii. Jednak „naruszenia” związane z pornografią znajdują się na szczycie listy, z 1944 incydentami zgłoszonymi w ciągu ostatnich dwóch lat, zgodnie z danymi udostępnionymi przez urząd ds. mediów w Nadrenii Północnej-Westfalii. Rzecznik mówi, że system sygnalizuje potencjalne naruszenia prawa, a następnie śledczy badają wyniki i decydują, czy należy podjąć jakieś działania. „KIVI chroni pracowników przed nagłym i nieoczekiwanym narażeniem na stresujące treści” — mówi Plass z władz Berlina.
