Sztuczna inteligencja może nam pomóc podejmować lepsze decyzje albo nawet całkowicie nas w tym wyręczyć. Autonomiczni agenci AI niosą ze sobą jednak poważne zagrożenia, które mogą zaprzepaścić wiele korzyści, jakie oferuje ta technologia.
Więcej ciekawych historii przeczytasz na stronie głównej „Newsweeka”
Dziękujemy, że jesteś z nami!
Foto: Newsweek
„Agenci AI” nadchodzą, czy jesteśmy na to gotowi, czy nie. Trudno jeszcze dokładnie określić, kiedy modele AI będą w stanie autonomicznie wchodzić w interakcje z platformami cyfrowymi, innymi narzędziami czy nawet z ludźmi. Nie ma jednak wątpliwości, że pojawienie się tych rozwiązań będzie zmianą przełomową. Pytanie: na lepsze czy na gorsze?
Mimo licznych dyskusji (i szumu medialnego) wokół agentów AI, wiele kluczowych pytań pozostaje bez odpowiedzi. Najważniejsze z nich brzmi: Jakiego typu agentów AI chce rozwijać branża technologiczna?
Modele są zróżnicowane i wiążą się z nimi odmienne implikacje. W koncepcji „AI jako doradca” agenci sztucznej inteligencji mieliby oferować rekomendacje dostosowane do indywidualnych potrzeb człowieka, pozostawiając mu pełną decyzyjność. W modelu „autonomicznej AI” agenci podejmowaliby decyzje za człowieka. A to różnica fundamentalna o dalekosiężnych konsekwencjach.
Każdego dnia ludzie podejmują setki decyzji. Część z nich ma istotny wpływ na ich karierę, szczęście czy ogólną jakość życia. Wiele opiera się na niedoskonałych danych i w dużym stopniu na intuicji, emocjach, instynkcie lub impulsach. Jak ujął to filozof David Hume: „Rozum jest i powinien być jedynie niewolnikiem namiętności”. Przy większości decyzji ludzie nie stosują systematycznego rozumowania i nie zwracają należnej uwagi na wszystkie konsekwencje swoich wyborów, ale – jak zaznaczył Hume, pisząc, że rozum „powinien być” niewolnikiem uczuć – taki stan rzeczy nie jest wcale zły. Właśnie to czyni nas ludźmi. Pasja odzwierciedla cel i może być kluczowa, żebyśmy mogli radzić sobie w tym skomplikowanym świecie.
Dzięki doradcom AI, dostarczającym spersonalizowanych, kontekstowo trafnych informacji, ludzie mogliby podejmować dużo lepsze decyzje, zachowując przy tym ich osobiste motywacje. Ale co złego w tym, gdyby autonomiczna AI po prostu podejmowała decyzję za nas? Pozwoliłoby to zaoszczędzić czas, wyeliminować błędy i jeszcze bardziej usprawnić proces decyzyjny.
Taka perspektywa kryje jednak poważne wady. Po pierwsze, ludzka sprawczość ma kluczowe znaczenie dla naszego rozwoju i procesu uczenia się. Sam akt podejmowania decyzji i rozważania ich konsekwencji – nawet jeśli oparty na danych od sztucznej inteligencji – umacnia nasze poczucie celu i autonomii. Istotą ludzkich działań nie jest gromadzenie i przetwarzanie danych, lecz dokonywanie odkryć. A to doświadczenie może być dla nas coraz rzadsze, kiedy wszystkie decyzje powierzymy agentom AI.
Co więcej, jeśli branża technologiczna skoncentruje się głównie na rozwoju autonomicznych agentów AI, wzrośnie prawdopodobieństwo, że maszyny przejmą znaczną część zadań, które aktualnie wykonują ludzie, ograniczając ilość dostępnych dla nich miejsc pracy. Inaczej mówiąc, jeśli sztuczna inteligencja stanie się przede wszystkim narzędziem przyspieszających automatyzację, wszelkie nadzieje na dobrobyt współdzielony przez całą ludzkość przepadną.
Najważniejsze jednak jest to, że istnieje zasadnicza różnica między agentem AI działającym w imieniu człowieka a człowiekiem działającym samodzielnie. Wiele interakcji międzyludzkich zawiera elementy zarówno współpracy, jak i konfliktu. Przykład: firma dostarcza komponenty lub usługi innemu przedsiębiorstwu. Jeśli są one wartościowe dla odbiorcy, transakcja jest korzystna dla obu stron (i zazwyczaj również dla całego społeczeństwa).
Na ostateczny wynik takich negocjacji często mają wpływ także obowiązujące normy (np. uczciwe podejście do biznesu), instytucje (np. umowy, które generują koszty w przypadku ich naruszenia) oraz siły rynkowe (np. sytuacja, gdy sprzedawca ma innego potencjalnego klienta). Ale wyobraźmy sobie, że kupujący ma reputację osoby całkowicie bezkompromisowej, odmawiającej zaakceptowania czegokolwiek poza najniższą możliwą ceną. Jeśli nie ma innych chętnych, sprzedający może zostać zmuszony do zaakceptowania tak niskiej oferty.
Na szczęście w naszych codziennych transakcjach tak bezkompromisowe postawy są rzadkością. Jest to częściowo spowodowane tym, że dobra reputacja popłaca, ale co ważniejsze, większość ludzi nie ma charakteru ani aspiracji do działania w tak agresywny sposób. Ale teraz wyobraźmy sobie, że kupujący ma autonomicznego agenta AI, który nie dba o społeczne konwenanse i ma nieludzko „stalowe nerwy”. Sztuczną inteligencję można wyszkolić tak, aby zawsze przyjmowała bezkompromisową postawę, a kontrahent po drugiej stronie nie będzie miał szans na rozwiązania korzystniejsze dla obu partnerów. Tymczasem w świecie „AI jako doradcy” model może wciąż sugerować nieugiętą postawę, ale ostateczną decyzję podejmuje człowiek.
W najbliższej przyszłości autonomiczni agenci mogą przyczynić się do wzrostu nierówności na świecie, w sytuacji gdy tylko wybrane firmy i poszczególne osoby będą miały dostęp do wysoce sprawnych, wiarygodnych i zawziętych modeli AI. Ale nawet gdyby ostatecznie zdobyliby je wszyscy, świat nie zmieniłby się na lepsze. Przeciwnie, nasze społeczeństwa zostaną poddane skutkom „zagrywek na wyniszczenie”, w których agenci AI doprowadzają każdy konflikt na skraj przepaści.
Takie konfrontacje są z natury ryzykowne. Podobnie jak w „grze w cykora” (ang. chicken game), w której dwa samochody przyspieszają, jadąc na czołowe zderzenie, aby zobaczyć, kto pierwszy skręci. Zawsze istnieje możliwość, że żadna ze stron nie ustąpi. Gdy tak się stanie, obaj kierowcy „wygrywają” – i obaj giną.
Sztuczna inteligencja, którą nauczymy wygrywać w „cykora”, nigdy nie skręci. AI może być dobrym doradcą dla ludzi – dostarczać przydatnych i wiarygodnych informacji w czasie rzeczywistym, ale świat autonomicznych agentów AI prawdopodobnie spowoduje wiele nowych problemów, jednocześnie zaprzepaszczając wiele korzyści, jakie może przynieść ta technologia.
***
Daron Acemoglu będzie mówcą Impact’26 i czwartym noblistą, który wystąpi na scenie Impact.
Daron Acemoglu jest laureatem Nagrody Nobla w dziedzinie ekonomii w 2024 roku i profesorem ekonomii w Instytucie Technologicznym w Massachusetts (MIT). Jest współautorem (wraz z Jamesem A. Robinsonem) książki „Dlaczego narody przegrywają: Źródła władzy, dobrobytu i ubóstwa” (Zysk i S-ka, 2024) oraz współautorem (wraz z Simonem Johnsonem) książki „Władza i postęp: Tysiącletnia walka o technologię i dobrobyt” (Zysk i S-ka, 2025).
Tekst pierwotnie ukazał się na łamach Project Syndicate 28.03.2025
