Pierwszy raz rozmawiamy, Joep Meindertsma nie jest w dobrym miejscu. Ze łzami w oczach opisuje rozmowę, w której ostrzegał swoją siostrzenicę przed ryzykiem, jakie sztuczna inteligencja może spowodować upadek społeczeństwa. Później dostała ataku paniki. „Płaczę co drugi dzień”, mówi, rozmawiając przez Zoom ze swojego domu w holenderskim mieście Utrecht. „Za każdym razem, gdy żegnam się z rodzicami lub przyjaciółmi, wydaje mi się, że to może być ostatni raz”.
Meindertsma, który ma 31 lat i jest współwłaścicielem firmy bazodanowej, sztuczną inteligencją interesuje się od kilku lat. Ale naprawdę zaczął się martwić zagrożeniem, jakie technologia może stanowić dla ludzkości, kiedy Open AI wypuściło w marcu swój najnowszy model językowy, GPT-4. Od tamtej pory obserwował niesamowity sukces chatbota ChatGPT — opartego najpierw na GPT-3, a następnie GPT-4 — pokazując światu, jak daleko posunęła się sztuczna inteligencja, a firmy Big Tech ścigają się, by nadrobić zaległości. Widział też pionierów, takich jak Geoffrey Hinton, tak zwany ojciec chrzestny sztucznej inteligencji, ostrzegających przed niebezpieczeństwami związanymi z systemami, które pomogli stworzyć. „Możliwości sztucznej inteligencji rozwijają się znacznie szybciej, niż praktycznie ktokolwiek przewidywał” — mówi Meindertsma. „Ryzykujemy upadek społeczny. Grozi nam wyginięcie ludzkości”.
Na miesiąc przed naszą rozmową Meindertsma przestał chodzić do pracy. Był tak pochłonięty ideą, że sztuczna inteligencja zamierza zniszczyć ludzką cywilizację, że starał się myśleć o czymkolwiek innym. Czuł, że musi coś zrobić, aby zapobiec katastrofie. Wkrótce potem założył Pause AI, oddolną grupę protestacyjną, która prowadzi kampanię na rzecz, jak sama nazwa wskazuje, zatrzymania rozwoju sztucznej inteligencji. Od tego czasu zgromadził niewielką grupę zwolenników, którzy organizowali protesty w Brukseli, Londynie, San Francisco i Melbourne. Te demonstracje były małe – mniej niż 10 osób za każdym razem – ale Meindertsma zawierał przyjaźnie na wysokich stanowiskach. Mówi, że już został zaproszony na rozmowę z urzędnikami zarówno w holenderskim parlamencie, jak iw Komisji Europejskiej.
Pomysł, że sztuczna inteligencja może zniszczyć ludzkość, brzmi ekstremalnie. Ale jest to pomysł, który zyskuje na popularności zarówno w sektorze technologicznym, jak iw głównym nurcie polityki. Hinton zrezygnował ze swojej roli w Google w maju i rozpoczął globalną rundę wywiadów, w których poruszył widmo ludzi, którzy nie są już w stanie kontrolować sztucznej inteligencji w miarę postępu technologicznego. W tym samym miesiącu liderzy branży — w tym dyrektorzy generalni laboratoriów sztucznej inteligencji Google DeepMind, OpenAI i Anthropic — podpisali list potwierdzający „ryzyko wyginięcia”, a premier Wielkiej Brytanii Rishi Sunak został pierwszym szefem rządu, który publicznie przyznał, że również wierzy w że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości.
Meindertsma i jego zwolennicy dają wgląd w to, jak te ostrzeżenia sączą się przez społeczeństwo, tworząc nowe zjawisko lęku przed sztuczną inteligencją i dając młodszemu pokoleniu – z którego wielu już jest głęboko zaniepokojonych zmianami klimatycznymi – nowy powód do paniki o przyszłość. Ankieta przeprowadzona przez ankietera YouGov wykazała, że odsetek osób obawiających się, że sztuczna inteligencja doprowadzi do apokalipsy, gwałtownie wzrósł w ciągu ostatniego roku. Hinton zaprzecza, że chce, aby rozwój sztucznej inteligencji został zatrzymany, tymczasowo lub na czas nieokreślony. Ale jego publiczne wypowiedzi na temat ryzyka, jakie sztuczna inteligencja stanowi dla ludzkości, zaowocowały grupą młodych ludzi, którzy uważają, że nie ma innego wyboru.
Do różnych ludzi, „ryzyko egzystencjalne” oznacza różne rzeczy. „Głównym scenariuszem, który mnie osobiście martwi, jest zapaść społeczna spowodowana hakerstwem na dużą skalę” — mówi Meindertsma, wyjaśniając, że jest zaniepokojony wykorzystaniem sztucznej inteligencji do tworzenia taniej i dostępnej broni cybernetycznej, która mogłaby zostać wykorzystana przez przestępców do „skutecznego usuwania cały internet”. Jest to scenariusz, który zdaniem ekspertów jest bardzo mało prawdopodobny. Ale Meindertsma nadal martwi się odpornością usług bankowych i dystrybucji żywności. „Ludzie nie będą mogli znaleźć jedzenia w mieście. Ludzie będą walczyć – mówi. „Myślę, że wiele miliardów umrze”.
