Jej koleżanka zobaczyła nagranie na TikToku i pomyślała: „Ta dziewczyna wygląda zupełnie jak Gosia”. Ale coś się nie zgadzało.
Córkę Marzeny zaczęły męczyć ostre bóle brzucha. Kilka razy czuła się tak źle, że nie poszła do szkoły. W końcu kobieta uznała, że potrzebna jest rada lekarza. — Michaśka się bardzo opierała. Mówiła, że to nic takiego, że pewnie jej przejdzie. Ale dała się namówić. Rodzinny wysłał nas do ginekologa, sugerując, że to może być problem z jajnikami — opowiada.
Córka wpadła w histerię. Marzena myślała: ma 16 lat, to będzie jej pierwsze takie badanie, pewnie się stresuje. Im bliżej było do wizyty, tym częściej Michalina prosiła: „Mamo, odwołaj to, już mi lepiej”. — W końcu pękła i przyznała, że symulowała te bóle. Chciała uniknąć szkoły. Gdy zapytałam czemu, pokazała mi ekran telefonu, a mnie zmroziło — wyznaje kobieta.
Na wyświetlaczu zobaczyła nagą Michalinę, klęczącą przed zwróconym tyłem do aparatu mężczyzną. Córka zaczęła natychmiast tłumaczyć, że to tak naprawdę nie ona, że jeszcze nigdy nie uprawiała seksu, że ktoś ze szkoły musiał to zrobić i teraz rozsyła tę i inne podobne „fotografie” jej rówieśnikom. Pisząc przy tym, że „Michalina to k*rwisko”.
— Nie miałam wątpliwości, że to trzeba natychmiast zatrzymać. Tylko kompletnie nie wiedziałam jak — mówi Marzena. Córka wytłumaczyła jej, że zgłaszanie konta, z którego były wysyłane stworzone przy pomocy AI obrazy, nic nie dawało. Zaraz powstawało kolejne.
Niszczenie przyszłości
Marzena zgłosiła sprawę w szkole córki. — Umówiłam się z dyrektorką liceum. Pokazałam jej wszystko. Te zdjęcia, wiadomości, screeny. Ona też była wstrząśnięta — opowiada. — Obiecała, że znajdzie osobę, która za tym stoi. Wytypowała kilkoro „podejrzanych” i przeprowadziła z nimi rozmowy. W końcu trafiła. To był chłopak z równoległej klasy.
Doszło do spotkania z jego rodzicami. Marzena siedziała naprzeciwko nich. Widziała, że są kompletnie rozbici. Przepraszali, tłumaczyli, że syn „nie zdawał sobie sprawy”. Prosili, żeby nie zawiadamiać żadnych służb, bo to zniszczyłoby mu przyszłość. Dyrektorka oznajmiła, że zawiesi go w prawach ucznia. A rodzice obiecali, że będzie miał szlaban na telefon.
Marzena zgodziła się na taki układ, ale tylko dlatego, że Michalina też prosiła ją, by sprawy nie rozdmuchiwać. Miała już dość, chciała spokoju. — Pytałam, czy chce zmienić szkołę, powiedziała, że nie. Że to byłby tylko dodatkowy stres, że bałaby się, że w kolejnej stanie się coś podobnego — wyznaje.
Jej córka się zmieniła. Stała się cicha, wycofana. Pojawiły się problemy ze snem. Mówiła, że boi się, że ktoś jeszcze ma te zdjęcia, że na nie patrzy. Marzena zapisała ją na terapię.
Michalina powoli wraca do siebie. W tym roku zdaje maturę, cieszy się, że pójdzie na studia. Marzena jest dumna, że córka chce iść na medycynę, ale jednocześnie bardzo się o nią boi. Ma wyrzuty sumienia, że nie zachowała się odpowiednio, myśli, że może źle zrobiła, odpuszczając w tamtej sprawie. Czasem czuje, że sama powinna pójść po pomoc do psychoterapeuty. — Świat, w którym przyszło żyć młodym, jest przerażający. A ja czuję się wobec tego bezsilna — kwituje.
Nie da się tego zatrzymać
Firma Sensity AI, zajmująca się zwalczaniem i wykrywaniem deepfake’ów, szacowała w 2021 r., że nawet 90 proc. z nich zawiera treści erotyczne. Do tego ogólna liczba fałszywych zdjęć i wideo drastycznie rośnie. Jak podaje agenda ONZ zajmująca się równością płci, liczba samych deepfake’owych filmów dostępnych online wzrosła między rokiem 2019 a 2023 o 550 proc.
Psychoterapeutka Zuzanna Butryn tłumaczy, że dla psychiki nie ma większego znaczenia, że to był materiał wygenerowany. Znaczenie ma to, że inni mogli go zobaczyć i uznać za prawdziwy. — Reakcja emocjonalna jest bardzo podobna jak w przypadku rzeczywistego naruszenia — mówi.
Wyjaśnia, że w części przypadków rozwijają się objawy depresyjne: obniżony nastrój, poczucie bezradności, utrata energii. Pojawia się przekonanie, że „nie da się tego zatrzymać”. — Zdarza się, że takie doświadczenie ma charakter traumatyczny. Wtedy możemy mówić o objawach zbliżonych do PTSD: natrętnych wspomnieniach, unikaniu, ciągłym poczuciu zagrożenia — podkreśla psychoterapeutka.
Deepfake — niezależnie od tego, czy ma charakter seksualny, czy nie — obniża też zaufanie do ludzi. Butryn zauważa, że w czasach, gdy rośnie liczba takich przypadków, wstawianie samemu zwykłych zdjęć czy filmów może generować stres. Szczególnie narażone na negatywne skutki są nastolatki oraz osoby, dla których obecność w sieci jest częścią pracy zarobkowej.
Zupełnie jak ona
Jej koleżanka zobaczyła nagranie na TikToku i pomyślała: „Ta dziewczyna wygląda zupełnie jak Gosia”. Ale coś się nie zgadzało — przecież Gosia w życiu nie reklamowałaby niesprawdzonych suplementów, które rzekomo mają moc leczenia każdej przypadłości. — Kiedy dostałam od niej wiadomość, byłam w szoku — mówi Gosia. Jest farmaceutką, w social mediach edukuje na temat cukrzycy i tego, jak żyć zdrowiej. Przykłada dużą wagę do tego, co publikuje, bo chce pomagać, nie szkodzić.
Okazało się, że filmy, na których „wychwalała” wątpliwy produkt, krążą nie tylko po TikToku, ale też Instagramie, Facebooku i YouTubie. Ktoś wykorzystał publikowane przez nią treści i stworzył wideo, na którym mówi rzeczy zupełnie niezgodne nie tylko z jej osobistymi przekonaniami, ale też z nauką.
Chociaż zauważała, że ruch ust się nie zgadza, że zęby wyglądają dziwnie, to była przekonana, że wiele osób może się nabrać. — Nawet moja mama była zdezorientowana — podkreśla Gosia. Dodaje, że główną grupę jej odbiorców na YouTubie stanowią osoby starsze, mniej uwrażliwione na zmiany technologiczne. Obawia się, że część z nich — ze względu na zaufanie do niej — mogła uwierzyć w moc suplementów, które rzekomo reklamowała.
Bezowocna walka
Gosia postanowiła, że ze względu na swoich odbiorców, ale też własną wiarygodność zawodową, musi coś z tym zrobić. Zaczęła od zgłaszania sfabrykowanych filmów na platformach. Zadowalająco zareagował właściwie tylko YouTube, który usunął film. TikTok wysyłał automatyczny komunikat, że treści nie naruszają zasad społeczności.
Kobieta odezwała się też do firmy, której produkty były promowane w ten sposób. Dowiedziała się, że oni za to nie odpowiadają — współpracują z ludźmi, którzy sprzedają produkty i otrzymują za to prowizję. Twierdzili, że nie są w stanie zidentyfikować, kto konkretnie stworzył profile, na których wykorzystywano wizerunek Gosi i innych ekspertów.
Poszła na policję. Mimo że miała masę screenów, usłyszała, że nic nie da się zrobić, jeśli nikt jej bezpośrednio nie groził. — Najbardziej uderzyło mnie to, że ta sprawa nie została nawet formalnie odnotowana. Nikt nie spisał moich danych, nie powstał żaden ślad — mówi.
Organizacje walczące z cyberprzestępstwami też rozkładały ręce. Radzono, by zgłaszała materiały bezpośrednio do platform, czyli żeby wróciła do punktu wyjścia. — Towarzyszyło mi głównie wkurzenie i czułam bezradność wobec tych deepfake’ów — przyznaje. Jest zła, bo walka zajęła jej dużo cennego czasu i okazała się bezowocna. Chciałaby, żeby prawo w końcu zaczęło nadążać za rzeczywistością, w jakiej żyjemy.
Presja i silne reakcje
Specjalista do spraw uczenia maszynowego w NASK Michał Koźbiał mówi, że żeby deepfake „jakoś wyglądał”, tak naprawdę wystarczy już jedno zdjęcie. Choć oczywiście im więcej materiałów źródłowych, tym bardziej wiarygodny efekt.
Ekspert podpowiada, na co zwracać uwagę, jeśli mamy wątpliwość, czy oglądany przez nas materiał jest prawdziwy. — Jeśli jest bardzo emocjonalny, wywołuje silne reakcje, to już powinno zapalić lampkę ostrzegawczą — mówi.
Częste jest też nienaturalne powoływanie się na własny autorytet — ktoś zaczyna np. od przedstawienia się: „Jestem XYZ i jestem szanowanym, docenianym dziennikarzem”. Warto też zwracać uwagę na to, czy dana osoba w ogóle mogłaby coś takiego powiedzieć. Lekarz nie powinien reklamować leków, polityk — inwestycji finansowych. Jeśli do tego film czy zdjęcie są opublikowane na małym, nieznanym profilu — prawdopodobnie mamy do czynienia z oszustwem.
Dobrze się również przyjrzeć, czy na wideo nie ma zaburzeń: rozmycia wokół ust, nienaturalnych ruchów, lekkiego „drgania” obrazu oraz czy tło jest spójne. — Podpowiedzią jest też nienaturalny akcent, zmiany barwy głosu w trakcie wypowiedzi — zaznacza ekspert.
Wyścig zbrojeń
Niestety, w Polsce nie ma jeszcze jednoznacznych regulacji dotyczących deepfake’ów. Przy tym, jak tłumaczy Koźbiał, duże platformy nie są transparentne co do swoich zasad. Bywa, że nieodpowiednio reagują na zgłoszenia. W wielu przypadkach są one analizowane automatycznie przez algorytmy. Jeśli materiał już wcześniej „przeszedł” przez system i nic się w nim nie zmieniło, może zostać ponownie uznany za zgodny z zasadami. Choć jednocześnie niektóre platformy pracują nad usprawnianiem metod wyłapywania deepfake’ów,
Do tego twórcy narzędzi do generowania treści wprowadzają różne zabezpieczenia, np. znaki wodne albo fingerprinting. — Zabezpieczenia te są często niewidoczne dla ludzkiego oka, ale łatwe do sprawdzenia przy użyciu programu. Problem polega na tym, że jeśli ktoś działa w złej wierze, i tak to obejdzie — stwierdza ekspert.
Dodatkowo oszuści stosują różne techniki, które mają utrudnić rozpoznanie oszustwa, np. szumy czy nakładki wideo. Koźbiał nazywa obecną sytuację „wyścigiem zbrojeń” — jedni tworzą coraz nowsze zagrożenia, drudzy coraz lepsze zabezpieczenia.
Tłumaczy, że osoba, która została wykorzystana do stworzenia deepfake’a, nie jest jednak całkowicie bezbronna. Można powołać się na tzw. prawo do zapomnienia i żądać usunięcia materiału, można też wykorzystać przepisy RODO, bo wizerunek jest daną osobową.
W przypadku oszustw w grę wchodzi kodeks karny, a przy treściach o charakterze seksualnym — również przepisy dotyczące naruszenia intymności seksualnej. Chociaż to, na ile takie działanie będzie skuteczne, zależy od konkretnego przypadku.
Czułam się osaczona
Kinga tworzy erotyczne zdjęcia, które za opłatą można zobaczyć na jednej z platform dla dorosłych lub wysyła je bezpośrednio klientom. Jeden z nich postanowił to wykorzystać. Z pomocą AI tworzył dziesiątki filmów pornograficznych, w których „występowała” Kinga. W materiałach stawiał ją często w roli ofiary skrajnej przemocy seksualnej.
— To były rzeczy, których w życiu bym nie nagrała. Czułam się osaczona, gdy wysyłał mi je, jeden za drugim, chociaż mówiłam mu, żeby przestał — opowiada. Jej stanowcze „nie życzę sobie” tylko go rozsierdziło. Zaczął jej grozić, że rozpowszechni filmy. Wyobraziła sobie, że będzie się musiała tłumaczyć z czegoś, czego nie zrobiła.
Przeszło jej przez głowę, żeby zawiadomić policję. Obawiała się jednak, że spotka się z dodatkowym zawstydzaniem i jej sprawa nie zostanie potraktowana poważnie. Tym bardziej że miała już rozczarowujące doświadczenia z funkcjonariuszami. Zdarzyło się, że kiedy siedziała ze znajomymi w parku, podszedł do nich jakiś mężczyzna i się obnażył. Kinga zrobiła zdjęcia, nagrała wideo. Poszła z tym na komisariat. Funkcjonariusze obrócili to w żart, dopytywali, „czy miał dużego”.
Poczucie siły
Postawiła na inne rozwiązanie. Mężczyzna na wszystkich platformach używał tego samego nicku. Do tego miał otwarte profile, a na nich zdjęcia z żoną. Zapytała, czy ma ją poinformować, o jego zachowaniu. To go natychmiast uspokoiło. Od tego czasu nie dostała od niego żadnej wiadomości.
— Wiem, jakie ryzyka wiążą się z tym, że wrzucam do sieci tak wiele materiałów. To jednak nie zmniejsza nieprzyjemnych odczuć, gdy ktoś tworzy przemocowe narracje na twój temat — mówi. Dodaje, że wiele jej koleżanek z branży też przeżyło coś podobnego. I gdy opowiedziała im o swoim doświadczeniu, dostała ogromne wsparcie.
Cała sytuacja — chociaż stresująca — dała jej też poczucie siły. Zobaczyła, że może liczyć na społeczność, którą ma dookoła siebie. I okazało się, że była w stanie odwrócić sytuację. — On chciał, żebym się bała, żebym straciła grunt pod nogami. A skończyło się tak, że to ja go przestraszyłam — mówi.