Modele językowe zdolne przełamać każde cyberzabezpieczenie mogą budzić strach. Ale Ameryka ma je jako pierwsza i może uodpornić się na przyszłe ataki przeciwników.
Agencje cyberwywiadu sojuszu Five Eyes, czyli USA, Wielkiej Brytanii, Kanady, Australii i Nowej Zelandiii, wydały wspólne ostrzeżenie, podkreślające coraz większe obawy wobec szybkiego postępu w dziedzinie sztucznej inteligencji. Najbardziej zaawansowane modele AI zmienią ofensywne i defensywne zdolności cybernetyczne, i to w ciągu najbliższych miesięcy, ostrzegają wywiady.
Ostrzeżenie wiązało się z obawami wywołanymi przez ujawnione niedawno możliwości modelu językowego Mythos firmy Anthropic, który w pewnych sytuacjach był w stanie przeniknąć do części najbardziej strzeżonych sieci Agencji Bezpieczeństwa Narodowego (NSA).
Włos się jeży na głowie. Publiczny dostęp do Mythos 5 i Fable 5, dwóch najbardziej zaawansowanych modeli Anthropica, został zawieszony, kiedy Biały Dom powołał się na obawy o bezpieczeństwo narodowe, bo kto wie co by się stało, gdyby takie narzędzia trafiły w obce ręce.
Obawy są zrozumiałe. Nastroje w Waszyngtonie i na Zachodzie są bliskie paniki. Ale na sprawę można spojrzeć zupełnie inaczej i dojść do wniosku, że to w Moskwie i Pekinie powinni zadrżeć bardziej niż w Waszyngtonie: te potężne narzędzia to strategiczny dar, który wciąż pewnie dzierżą Amerykanie.
Asymetria sprzyja Ameryce
Anne Neuberger przez cztery lata była zastępcą doradcy ds. bezpieczeństwa narodowego Białego Domu i zajmowała się cyberbezpieczeństwem oraz nowymi technologiami. Dziś jest partnerem w funduszu inwestycyjnym Andreessen Horowitz.
— Sztuczna inteligencja to technologia podwójnego zastosowania — mówi „Newsweekowi” Neuberger, która spędziła ponad dekadę na wysokich stanowiskach w NSA i Pentagonie. — Pomaga naszym przeciwnikom i nam. Pomaga w ataku i obronie — dodaje. — Zwiększa naszą przewagę, zwłaszcza w gromadzeniu informacji wywiadowczych — to przewaga tego, kto wykonuje pierwszy ruch i ma możliwość dostosowywania modeli do wykorzystania w tajnych misjach. Przede wszystkim przewagę daje posiadanie fizycznej infrastruktury obliczeniowej i ludzi, którzy szkolą te modele.
W większości panicznych wypowiedzi brakuje głównego argumentu Neuberger. — Uważam, że asymetria polegająca na tym, że są to modele amerykańskie, działa na naszą korzyść, o ile wykorzystujemy je zarówno do ataku, jak i obrony — mówi. — Dzięki nim możemy uzyskać wgląd w przyszłość. Wtedy jest mniej prawdopodobne, że zostaniemy zaskoczeni postępami w dziedzinie sztucznej inteligencji przeciwnika. Specjaliści od bezpieczeństwa narodowego nazywają to „strategiczną niespodzianką”.
Stany Zjednoczone korzystają z przywileju: kraj, który zbuduje niebezpieczny model, jako pierwszy boleśnie odkrywa własne słabości. Nie jest to może przyjemne, bo odkrycia bywają żenujące, za to niezwykle cenne, bo każda potwierdzona dziura w amerykańskiej infrastrukturze to szansa odebrana wrogowi. Praktyczną logikę tego podejścia pokazuje projekt Glasswing firmy Anthropic, w którym firmom prywatnym (Amazon Web Services, Apple, Google, JPMorgan Chase, Microsoft, Nvidia) udostępniono model Mythos, by mogły wykryć błędy w swych systemach i je naprawić. Mythos Preview wykrył zagrożenia w kodzie open source. Jak wynika z analizy, tylko w projektach open source był na dobrej drodze do zidentyfikowania prawie 3900 luk o wysokim lub krytycznym znaczeniu. Anthropic poinformował również, że Mythos Preview wykrył istniejącą od 27 lat dziurę w OpenBSD, systemie operacyjnym znanym z wysokiego poziomu bezpieczeństwa.
Nie wszyscy są przekonani. Bruce Schneier, dziennikarz zajmujący się bezpieczeństwem, uważa Glasswing za „zagrywkę PR”, zauważając, że badacze odtworzyli niektóre ustalenia Mythos za pomocą tańszych, publicznie dostępnych modeli. Ale ten sceptycyzm nie obala samej tezy. Wątpliwości dotyczą apokaliptycznej wizji, nie strategii. Nawet wyolbrzymione zagrożenie to wciąż argument za tym, by wykonać pierwszy ruch.
Korzyści ofensywne są również oczywiste. Neuberger uważa, że modele szkolone i działające w kraju „podlegają naszym prawom i regułom bezpieczeństwa (np. mniej może nas niepokoić perspektywa umieszczania »tylnych furtek« podczas szkolenia)”. — Możemy je wykorzystywać szybciej, w tym w tajnych misjach, a także dają realną siłę nacisku w ustalaniu globalnych standardów bezpieczeństwa — wyjaśnia.
„Nie w ciągu tygodni, ale godzin”
Senator Mark Warner, demokrata z Wirginii i wiceprzewodniczący senackiej komisji ds. wywiadu, jasno przedstawia obawy Amerykanów. W „The Economist” wyjawił, że gen. Joshua Rudd, szef NSA i amerykańskich cyberwojsk, powiedział mu, że Mythos „włamał się do prawie wszystkich naszych tajnych systemów nie w ciągu tygodni, ale godzin”. Później doprecyzowano, że ów incydent stanowił symulację ataku cybernetycznego, kiedy zespoły zazwyczaj od razu dostawały wstępny dostęp do odizolowanej od świata zewnętrznego tajnej sieci, którą miały testować.
Oznacza to, że Mythos nie wkroczył z marszu do najtajniejszych amerykańskich systemów. Został użyty w autoryzowanym teście amerykańskiej obrony przeprowadzonym przez samych Amerykanów, aby wykryć awarię, zanim zrobi to przeciwnik.
Brytyjski Instytut Bezpieczeństwa AI poinformował, że Claude Mythos Preview jako pierwszy testowany model ukończył 32-etapową symulację ataku na sieć korporacyjną, kończąc trzy z 10 prób i uzyskując średnią 22 z 32 kroków. W tym samym raporcie stwierdzono, że w symulacji nie było aktywnych obrońców ani narzędzi obronnych, więc wyniki nie dowodzą, że Mythos może pokonać dobrze chronioną sieć.
Oddech Chin na plecach
Neuberger jest zbyt ostrożna, by posunąć się do triumfalizmu. Podkreśla, że jest granica między modelami frontowymi, takimi jak Claude czy OpenAI, a szerszym rynkiem, na którym tańsze modele mogą szybko się rozprzestrzeniać, nawet jeśli mają mniejsze możliwości. — Darmowe modele, które są wystarczająco dobre i oferują realne możliwości, spotkają się z dużym zainteresowaniem. A tu Chińczycy radzą sobie całkiem dobrze — mówi.
Jej obawy dotyczące chińskich modeli otwartych mają zarówno charakter techniczny, jak i polityczny. — Brakuje transparentności, jeśli chodzi o dane, na których trenowane są modele, a odpowiedzi uzyskiwane z tych modeli różnią się, kiedy dotyczą kwestii politycznie drażliwych dla Chin — wylicza Neuberger.
USA mają przewagę, ale Chiny „nie są daleko w tyle” — pisze Michael Horowitz z Rady Stosunków Zagranicznych, który zauważa, że najnowszy chiński model DeepSeek odstaje od amerykańskich modeli frontowych o od trzech do sześciu miesięcy. Horowitz twierdzi jednak, że to zawodny miernik. W grze o dominację w dziedzinie sztucznej inteligencji chodzi o to, kto lepiej upowszechni swoje modele, a w tej kwestii Chiny są groźne, stawiając na otwarte modele, które są duże, tanie i przeznaczone do masowego wdrożenia za ułamek ceny produktów amerykańskich.
Amerykańskie modele frontowe mają realną przewagę, ale działają na rynku, który zalewany jest przez Chińczyków. Anthropic oskarżył DeepSeek o wysysanie swoich modeli Claude’a za pośrednictwem około 24 tys. fałszywych kont, które żerują na amerykańskim potencjale, zamiast go budować. DeepSeek zaprzecza, by niewłaściwie wykorzystywał dane. Posiadanie najlepszego narzędzia nie daje aż takiej przewagi, kiedy rywal po cichu może skopiować to, co to narzędzie robi.
W dziedzinie modeli frontowych obsługujących kodowanie, mających zastosowania wywiadowcze i wojskowe, USA najwyraźniej mają przewagę, a Neuberger uważa, że mogą one dać „amerykańskiemu wojsku i wywiadowi przewagę, jeśli zostaną przyjęte i wdrożone”. Owo „jeśli” mówi wszystko: niewykorzystana przewaga to przewaga zmarnowana.
Prywatna przewaga
Demokracje często sięgają po narzędzia ofensywne szybciej niż po systemy defensywne, a Neuberger uważa to opóźnienie za zagrożenie. Jej zdaniem w cyberprzestrzeni rząd USA celowo trzyma się z daleka od sieci prywatnych, ponieważ „nie chcemy, aby rząd je monitorował, choć autorytarne kraje, takie jak Chiny i Iran, monitorują sieci krajowe”.
Amerykański model ma praktyczne ograniczenia, bo infrastruktura krytyczna jest głównie w rękach prywatnych. — Dopiero niedawno zaczęliśmy wymagać minimalnego cyberbezpieczeństwa dla sieci krytycznych i nie mamy hakerów, którzy pracowaliby dla rządu, broniąc tak ważnych miejsc jak sieć wodociągowa czy energetyczna — tłumaczy Neuberger. — Trudno nam doprowadzić do tego, by sektor prywatny szybko wdrażał sztuczną inteligencję do cyberobrony.
Zdaniem Neuberger AI to „pierwsza prawdziwie zaawansowana technologia, która ma realny wpływ na wywiad i działania wojenne, stworzona i wdrożona przez sektor prywatny”. — To, że amerykański ekosystem innowacji stworzył doskonałe modele językowe, stanowi źródło siły — mówi. — Ale fakt, że są one w rękach prywatnych, oznacza, że rząd USA zmaga się ze złożonym problemem. Chcemy, aby amerykańskie modele były szeroko stosowane na całym świecie. Chcemy, aby świat działał w oparciu o amerykańską technologię — bo chcemy, aby korzystał z modeli, którym może zaufać i które odzwierciedlają nasze demokratyczne wartości.
Ostrożność Anthropica wobec modelu Mythos należy traktować poważnie. Firma stwierdziła, że w rządowym rozporządzeniu zawieszającym dostęp do najnowszych modeli powołano się na organy bezpieczeństwa narodowego, ale nie podano szczegółów. Zdaniem Anthropica obawy dotyczą metody obejścia zabezpieczeń Fable 5. Firma poinformowała również, że przez tysiące godzin wspólnie z rządem USA, brytyjskim Instytutem Bezpieczeństwa AI, prywatnymi podmiotami zewnętrznymi i wewnętrznymi zespołami próbowała złamać zabezpieczenia Fable, ale żaden tester nie znalazł uniwersalnej furtki.
Najważniejsza jest dyscyplina przy korzystaniu z tej technologii: tajne kanały testowe, wymogi bezpieczeństwa dla modeli, szybkie ujawnianie luk w zabezpieczeniach, jasne zasady audytu i surowe ograniczenia prawne dotyczące inwigilacji w kraju.
Czas ucieka
Przewaga Ameryki może nie trwać długo. Brytyjski Instytut Bezpieczeństwa AI, który przeanalizował Mythos, odkrył kilka tygodni później, że GPT-5.5 od OpenAI dorównał mu w tym samym 32-etapowym ataku. Sam Anthropic ostrzega, że w ciągu 6-12 miesięcy konkurencyjne laboratoria będą testować modele klasy Mythos, niektóre potencjalnie bez żadnych zabezpieczeń.
Jedna z analiz przygotowanych przez projekt Russia Matters na Harvardzie podważa argument o amerykańskiej przewadze: względnym zwycięzcą w rozpowszechnianiu AI może być Rosja, bo istniejący tam ekosystem kryminalnych pośredników i hakerów powiązanych z państwem wydaje się wręcz stworzony do ofensywnego wykorzystania takiej szansy. Przewaga mierzona w miesiącach to nadal przewaga — ale tylko dla tego, kto ją wykorzysta.
Komunikat ostrzegawczy Five Eyes słusznie podkreśla kwestię czasu. Z powodu AI kurczy się czas między odkryciem luki a jej wykorzystaniem, ale też ta technologia daje obrońcom narzędzia do wcześniejszego wykrywania luk, poprawy jakości oprogramowania, monitorowania nietypowych zachowań i możliwość szybszego reagowania.
Najostrzejsze stwierdzenie agencji wywiadowczych należy odczytywać jako strategię, a nie jako krytykę: „Przeciwnicy już wykorzystują AI, aby działać szybciej i skuteczniej. Obrońcy muszą zrobić to samo”.
Mythos to ostrzeżenie. Ale to także narzędzie. Jeśli model frontowy potrafi ujawnić słabości w amerykańskich systemach, może też potencjalnie pomóc w ich odnalezieniu w systemach przeciwnika, zbudowanych w tajemnicy, pod presją sankcji, w warunkach korupcji i słabszej odpowiedzialności sektora prywatnego. Skoro Ameryka dysponuje najlepszymi narzędziami, ma szansę najpierw się uodpornić, a potem szybciej atakować. — W wyścigu zbrojeń podwodnych każdy postęp w amerykańskiej technologii stealth zwiększał również monitorowanie niewidzialności przez przeciwnika. To była ciągła gra. Przewaga sztucznej inteligencji będzie rozgrywana w ten sam sposób: atak i obrona będą szły łeb w łeb. Wygra ten kraj, który będzie najszybszy — wyjaśnia Neuberger.
Zagrożenie jest realne, ale nie ma co panikować. Ameryka być może zbudowała coś, czemu rywale jeszcze nie są w stanie dorównać, a także znalazła luki, zanim zdołał je wykorzystać przeciwnik.
Ryzyko polega na tym, że Ameryka może jak zwykle zainwestować więcej w atak, a zaniedba obronę: to jakby wyszkolić najlepszego na świecie włamywacza i zapomnieć o zamku we własnych drzwiach.
Tekst pochodzi z serwisu Newsweek.com. Tytuł od redakcji „Newsweek Polska”