Papież przeciw „władcom AI”. Znalazł się na kursie kolizyjnym

I tak oto po roku pierwszy papież z Ameryki podzielił się ze światem swoimi przemyśleniami na temat największego amerykańskiego wynalazku naszych czasów, czyli sztucznej inteligencji. Oczywiście AI to dzieło nie tylko samych Amerykanów, ale to właśnie oni wyczuli wagę tej technologii i inwestują w nią najwięcej. Mało tego, od ponad roku, pod rządami administracji Donalda Trumpa, AI stała się nie tylko zwykłą technologią, ale narzędziem dominacji ekonomicznej, dyplomatycznej i wojskowej. Wszystko to wprost zapisano w Narodowej Strategii AI przygotowanej w Białym Domu, zresztą przez człowieka ze środowiska AI. David Sacks to nie tylko bliski znajomy Elona Muska czy Petera Thiela, ale wczesny inwestor stojący za takimi spółkami jak Facebook, Uber, SpaceX, Palantir czy Airbnb.

Jedno z głównych założeń amerykańskiej strategii AI brzmi: kto z nami, ten używa naszego pakietu AI. A kto go nie chce, ten nie jest sojusznikiem. Za tymi mocarstwowymi planami idą inwestycje liczone w setkach miliardów dolarów w centra danych, które obsłużą sojuszników Ameryki i dadzą jej przewagę technologiczną nieosiągalną dla innych. Całości dopełnia mariaż AI z Pentagonem: prace nad autonomiczną bronią sterowaną sztuczną inteligencją. Szef spółki Palantir Alex Karp podkreśla, że AI już teraz daje USA przewagę na polu walki i jest dumny, że tworzy technologię do lepszego zabijania wrogów Ameryki.

Co na to wszystko pierwszy amerykański papież? W encyklice „Magnifica Humanitas” kreśli dwie wizje rozwoju technologii: budowa wieży Babel, symbolu pychy, który miał sięgnąć nieba, i wspólnotową odbudowę murów Jerozolimy opisaną w Księdze Nehemiasza. I jasno wskazuje, które podejście jest złe, a które właściwe.

Oto co Leon XIV pisze o wieży Babel: „Przedsięwzięcie wydaje się imponujące: jeden język, jedna technologia, jeden kierunek. Projekt ten kryje w sobie jednak wielką zasadzkę: jest to dzieło pomyślane bez odniesienia do Boga, wsparte jednolitością, która usuwa różnorodność i która — zamiast komunii — wybiera uniformizację”.

A tak podsumowuje odbudowę murów Jerozolimy: „miasto odradza się nie dzięki inicjatywie pojedynczej osoby, lecz przez wspólną odpowiedzialność całego ludu: kapłanów, rzemieślników, naczelników rodów, kobiet i młodzieży. Jest to dzieło, które ma w centrum Boga i odbudowuje więzi jeszcze wcześniej niż kamienie. W ten sposób dawna Jerozolima odnajduje na nowo wspólny język: nie język jednolitości, lecz komunii; harmonię, która rodzi się wówczas, gdy każdy przyjmuje swoją część odpowiedzialności, a cały lud uznaje, że jego siła pochodzi od Pana”.

Pułapki technologii

Co istotne, Leon XIV podkreśla wyraźnie, że technologia jako taka nie jest zła. Złe może być dopiero jej niewłaściwe wykorzystanie. „Techniki samej w sobie nie należy uważać za siłę przeciwstawną osobie ludzkiej (…). Rozwój technologiczny w ciągu wieków przyczyniał się do znacznej poprawy warunków życia ludzkości; zarazem jednak każdy etap postępu ukazywał także dwuznaczne oblicze narzędzi mogących wyrządzać szkody, jeśli nie są ukierunkowane ku dobru” — pisze.

Leon XIV w kilku akapitach streszcza najważniejsze zagrożenia, jakie kryją się w rozwoju technologii bez refleksji i bez „fundamentu dobra” wynikającego z nauki Kościoła.

Po pierwsze, człowiek jest ułomny i kruchy. Lepiej się z tym pogodzić, niż ulegać „iluzji techniki, która obiecuje wyzwolić nas od wszelkiej kruchości”. Groźne są też modele ekonomiczne sprzyjające wzrostowi nierówności. „Kościół przypomina — głosem pokornym, lecz stanowczym — że prawdziwe spełnienie nie rodzi się z usuwania ludzkiej kruchości, lecz z harmonijnego wzrastania: tam, gdzie wolność i odpowiedzialność splatają się ze wzajemną troską i prawdziwą solidarnością, a postęp mierzy się godnością każdego człowieka i dobrem narodów”.

Po drugie, technologia nie może nikogo wykluczać z udziału w życiu społecznym. „Każdemu przypadnie jego odcinek muru: uczonym i badaczom, przedsiębiorcom i pracownikom, wychowawcom i prawodawcom, społeczeństwu obywatelskiemu, ruchom społecznym i wspólnotom wiary”.

Po trzecie wreszcie, nowe narzędzia wzmacniają nasze słowa w sposób dotychczas niespotykany, dlatego trzeba rozważnie używać języka: „Unikajmy słów, które upokarzają albo przeciwstawiają jednych drugim. Wybierajmy jasność, która oświeca, a także szczerość, która otwiera drogi. Nie ulegajmy naiwnym uniesieniom i nie podsycajmy jałowych lęków”. Chyba nie da się prościej przestrzec przed używaniem internetowego hejtu.

Prawo i dekoncentracja

Technika potrafi „sprowadzić stworzenie do przedmiotu eksploatacji, a osoby do trybików systemu, który ma być coraz bardziej wydajny” i ta zasada dotyczy także najnowszych technologii: sztucznej inteligencji, nauk kognitywnych, nanotechnologii, robotyki i biotechnologii, które „ze względu na swoją moc mogą pełnić funkcję akceleratora paradygmatu technokratycznego i dlatego potrzebują nowych ram duchowych, etycznych i politycznych”.

Jak zatem zapobiec złemu wykorzystaniu nowych technologii? „Konieczne jest przyjęcie odpowiednich narzędzi normatywnych, zdolnych strzec sprawiedliwości i ograniczać wypaczające skutki władzy technologicznej” — pisze papież.

Ale samo prawo to za mało. Leon XIV zwraca też uwagę na nadmierną koncentrację nowych narzędzi w rękach cyfrowych oligarchów: „w wielu przypadkach w kontekście cyfrowym kontrola nad platformami, infrastrukturami, danymi i mocą obliczeniową nie należy do państw, lecz do wielkich podmiotów gospodarczych i technologicznych, które de facto ustalają warunki dostępu, zasady widoczności treści, a nawet same możliwości uczestnictwa. Kiedy władza o takim zasięgu koncentruje się w nielicznych rękach, ma tendencję do stawania się nieprzejrzystą i wymykania się kontroli publicznej, a zarazem wzrasta ryzyko wypaczonego rozwoju, który rodzi nowe zależności, wykluczenia, manipulacje i nierówności”.

Manowce sztucznej inteligencji

Główny temat rozważań Leona XIV, czyli sztuczna inteligencja, nie powinna być mylona z inteligencją ludzką. Współczesne systemy AI szybkością przetwarzania danych potrafią przewyższyć ludzki mózg. „Mogą naśladować języki, zachowania i oceny, mogą symulować empatię albo zrozumienie, ale nie rozumieją tego, co wytwarzają, ponieważ nie żyją w sferze afektywnej, relacyjnej i duchowej, w których człowiek staje się mądry”.

Owszem, AI się „uczy”, ale nie jest to proces kształcenia, jaki kojarzymy z rozwojem człowieka: „Nie jest to doświadczenie kogoś, kto pozwala kształtować się życiu i wzrasta w czasie poprzez dokonywanie wyborów, popełnianie błędów, przebaczanie i wierność; jest to raczej statystyczne dostosowanie na podstawie danych i informacji zwrotnych, które może być bardzo skuteczne, ale nie oznacza wewnętrznego wzrostu”.

Leon XIV tłumaczy też ułudę relacji z botami AI: „Sztuczne naśladowanie pozytywnej komunikacji ludzkiej — słów rady, empatii, przyjaźni, miłości — może być satysfakcjonujące, a nawet użyteczne, ale niewystarczająco świadomych użytkowników może wprowadzać w błąd i stwarzać złudzenie, że pozostają oni w relacji z autentycznym podmiotem osobowym. Gdy słowo jest symulowane, nie buduje relacji, lecz jedynie jej pozór”. Pamiętamy, jak wiele wzburzenia w sieci wywołało niedawne wyznanie Olgi Tokarczuk, że do swojej asystentki AI zwraca się „kochana”.

Papież nie zapomniał też o ekologicznych konsekwencjach stosowania botów AI do wszystkiego: „Obecne systemy AI wymagają wielkich ilości energii i wody, w sposób znaczący wpływają na emisję dwutlenku węgla i intensywnie zużywają zasoby. Wraz ze wzrostem złożoności, zwłaszcza w przypadku wielkich modeli językowych, rosną także potrzeby w zakresie mocy obliczeniowej (…). Dlatego niezbędne jest rozwijanie bardziej zrównoważonych rozwiązań technologicznych w celu zmniejszenia wpływu na środowisko i ochrony naszego wspólnego domu”.

Nade wszystko głowę Leona XIV zaprząta jednak moralna strona systemów AI: „nie możemy uważać AI za moralnie neutralną. W rzeczywistości każde urządzenie techniczne niesie z sobą wybory i priorytety: to, co mierzy, to, co ignoruje, to, co optymalizuje, a także sposób, w jaki klasyfikuje osoby i sytuacje (…). Dlatego rozeznawanie etyczne nie może ograniczać się do pytania, czy używamy danego systemu do celu dobrego czy złego, lecz musi także pytać, jak został on zaprojektowany i jaka wizja osoby oraz społeczeństwa została wpisana w dane i modele, które nim kierują”.

I tu papież wzywa do odpowiedzialności i poddawania kontroli twórców systemów AI, tak by ich technologia „szanowała godność ludzką i rzeczywiście służyła dobru wspólnemu”. Leon XIV zastrzega, że „domagać się roztropności, wnikliwej weryfikacji, a niekiedy nawet spowolnienia we wdrażaniu sztucznej inteligencji nie znaczy być przeciwnikiem postępu, lecz wyrażać odpowiedzialną troskę o rodzinę ludzką”.

Papież dostrzega nawet problem źródeł danych używanych do szkolenia AI: „własność danych nie może być powierzona wyłącznie podmiotom prywatnym, lecz musi zostać poddana regulacjom. Dane są owocem wkładu wielu osób i nie mogą być sprzedawane ani powierzane nielicznym”. Dlatego konieczne są odpowiednie ramy prawne, w których powinna się rozwijać ta nowa technologia. „W przeciwnym razie zmiana będzie zarządzana wyłącznie przez logikę technokratyczną i przedstawiana jako konieczna oraz nieuchronna, kończąc się narzucaniem reguł dyktowanych przez tych, którzy posiadają dane, infrastrukturę i zdolności obliczeniowe”.

Leon XIV sięga tu po szczególne słowo: „rozbroić”. „Rozbroić AI znaczy wyrwać ją z logiki zbrojnej rywalizacji, która dzisiaj nie jest już wyłącznie militarna, lecz także ekonomiczna i poznawcza. Jest to wyścig do stworzenia najsprawniejszego algorytmu i najszerszego zbioru danych po to, by utrwalić przewagę geopolityczną lub handlową nad wszystkimi innymi. Rozbroić znaczy zerwać tę równoznaczność między potęgą techniczną a prawem do rządzenia. Rozbroić nie znaczy wyrzec się technologii, lecz nie dopuścić, by zapanowała nad tym, co ludzkie. Znaczy wyzwolić ją spod monopoli, uczynić ją przedmiotem debaty i sprzeciwu, a tym samym przestrzenią przyjazną ludziom, przywracając ją wielości ludzkich kultur i form życia (…). Sztuczna inteligencja jest już środowiskiem, w którym jesteśmy zanurzeni, i władzą, z którą musimy się liczyć. Dlatego nie wystarczy jej regulować: trzeba ją rozbroić i uczynić przyjazną”.

Konflikt z Trumpem i technooligarchią

Takie postawienie problemu AI stawia Watykan na kursie kolizyjnym z dużą częścią Doliny Krzemowej i administracji Donalda Trumpa. Spór prezydenta USA z Leonem XIV trwa już od dłuższego czasu. Wbrew oczekiwaniom Trumpa, papież nie ma ochoty być „człowiekiem MAGA” na watykańskim tronie. Leon XIV nie boi się krytykować prezydenta USA. Czasami aluzyjnie, a czasami wprost, jak w kwietniu, kiedy krytykował go za rozpętanie wojny z Iranem. Krytyka koncentracji władzy nad AI w rękach oligarchów, którzy chodzą na pasku Trumpa, też doprowadzi pewnie do spięć z Białym Domem, który będzie bronił „władców AI”.

Ale co ciekawe, podczas prezentacji encykliki papieżowi towarzyszył Christopher Olah, współzałożyciel firmy Anthropic, właściciela popularnego modelu językowego Claude. Drugi z założycieli Anthropica, Dario Amodei, współtworzył wcześniej i pracował dla OpenAI, czyli właściciela ChataGPT. I odszedł z firmy Sama Altmana, uznając, że rozwijany tam model językowy pozbawiony jest odpowiednich zabezpieczeń. Claude rozwija się zgodnie z własną „konstytucją”, w której zapisano także zasady postępowania przy rozmaitych dylematach moralnych. Kilka miesięcy temu Anthropic poróżnił się z Pentagonem w kwestii wykorzystania swojego modelu językowego do prac nad autonomiczną bronią. Departament Wojny opublikował wtedy „wilczy bilet” dla Anthropica, uznając jego obecność w wojskowych łańcuchach dostaw za zagrożenie dla bezpieczeństwa państwa.

Pytanie, czy tamten sprzeciw Anthropica wobec militarnego zastosowania AI wynika z przesłanek zawartych w encyklice Leona XIV, czy z innych powodów. Karen Hao, autorka książki „Imperium sztucznej inteligencji”, w niedawnej rozmowie z „Newsweekiem” tłumaczyła: „Amodei też jest jastrzębiem i to od dawna. A po tej awanturze ludzie są przekonani, że to gołąbek pokoju. Dla mnie twórca Open AI Sam Altman i Dario Amodei to dwie strony tej samej monety. Trochę jakby powiedzieć, że Anthropic to czysty węgiel, choć wszyscy wiemy, że coś takiego jak czysty węgiel nie istnieje”.