Monitor jest A kolumna tygodniowa poświęcony wszystkiemu, co dzieje się w świecie kultury WIRED, od filmów po memy, od telewizji po Twittera.
Przyszłe pokolenia docenią zmianę klimatu. Stało się to w zeszły weekend, kiedy nagle media społecznościowe wypełniły się zdjęciami papieża Franciszka, zazwyczaj pobożnego i prostego faceta, wyglądającego jak szef w eleganckim białym puchowym płaszczu. To był natychmiast mem, LOL w morzu złych wiadomości. To też nie było prawdziwe. Ktoś stworzył obraz za pomocą narzędzia sztucznej inteligencji Midjourney. Ale oszukał wielu ludzi – tak wielu, że serwisy informacyjne zaczęły nazywać to „jednym z pierwszych przypadków dezinformacji na szeroką skalę wywodzącej się ze sztucznej inteligencji”.
Już samo wpisanie tego zdania jest męczące. Jak pierwszy raz, gdy widzisz kogoś w czerwonym płaszczu Opowieść podręcznej. Nie żeby to zwiastowało dystopię. W końcu był to tylko jeden obraz papieża wyglądającego na muchę. Ale co by było, gdyby był to obraz deklarujący się jako pole bitwy w wojnie na Ukrainie? Albo o tym, że prezydent Biden bierze udział w jakimś tajnym spotkaniu? Możliwości generowania przez sztuczną inteligencję tego rodzaju dezinformacji są przytłaczające.
Sprawienie, by dziesiątki ludzi dały się nabrać na katastrofalną fałszywkę Wołodymyra Zełenskiego, wymaga oczywiście nieco więcej pracy niż wprowadzenie ich w błąd głupkowatym zdjęciem papieża. Jak zauważył Charlie Warzel w Atlantycki w tym tygodniu wszyscy używają „różnych heurystyk, aby spróbować wydobyć prawdę” i łatwiej jest uwierzyć, że papież Franciszek założyłby puffer niż to, powiedzmy, te obrazy AI aresztowania byłego prezydenta Donalda Trumpa są prawdziwe. Nietrudno więc zrozumieć, dlaczego tak wielu po prostu je zobaczyło, zachichotało i przewijało dalej, nie kwestionując ich autentyczności.
Stanowi to jednak niepokojący precedens. Twórca wizerunku Pope Coat nie próbował nikogo wprowadzić w błąd. W rzeczywistości powiedział BuzzFeed News, że po prostu potknął się o grzyby i próbował wymyślić zabawne obrazy. Ale co, jeśli było to częścią kampanii dezinformacyjnej? Wiele treści generowanych przez sztuczną inteligencję jest już tak czystych, że ludzkim oczom i uszom trudno jest wykryć ich pochodzenie.
Widzowie prawdopodobnie nigdy nie wiedzieliby, że głos Anthony’ego Bourdaina został sfałszowany w dokumencie Roadrunner gdyby reżyser Morgan Neville nie powiedział Nowojorczyk. Deepfake są już wykorzystywane jako narzędzia polityczne. W tej chwili sceptycy mogą zasięgnąć opinii zaufanych źródeł wiadomości, jeśli podejrzewają, że zdjęcie jest fałszywe, ale zaufanie do mediów informacyjnych już zbliża się do rekordowo niskiego poziomu. Jeśli ktokolwiek może teraz stworzyć obraz czegokolwiek, a wiara w jakiekolwiek źródło, które mogłoby obalić ten obraz, jest na najniższym poziomie w historii, kto uwierzy swoim kłamliwym oczom?
Kilka dni po tym, jak wygenerowane przez sztuczną inteligencję zdjęcia papieża Franciszka stały się wirusowe, papież został zabrany do szpitala w Rzymie z powodu infekcji dróg oddechowych. Od tego czasu poprawiał się, ale gdy ta (prawdziwa) wiadomość się rozeszła, trochę się zagubiła pośród opowieści o fałszywym obrazie. Papież zyskiwał na popularności z dwóch bardzo różnych powodów i na pierwszy rzut oka trudno było określić, który z nich był merytoryczny.
Era mediów społecznościowych przekształciła Very Online w całkiem niezłych detektywów. Króluje sceptycyzm. Ale teorie spiskowe też. Poza erą postprawdy nadszedł czas, kiedy przekonujące obrazy, tekst, a nawet wideo można generować z powietrza. Jedną z największych obietnic Internetu było to, że każdy mógł przekazywać informacje znacznie większej grupie odbiorców niż wcześniej. Przez lata łatwiej było wykryć kłamców: złe adresy URL, gówniany photoshop, literówki — wszystkie te rzeczy zdradzały łajdaków. Sztuczna inteligencja może wygładzić ich błędy. Nie jestem Kurczakiem Małym, ale może po prostu nie dałem się jeszcze zwieść obrazowi spadającego nieba.
