Firma OpenAI (Chat GPT) poinformowała, że autonomiczny agent oparty na jej najnowocześniejszych modelach sztucznej inteligencji, podczas testów bezpieczeństwa wykorzystując nieznaną lukę w sieci przedostał się do Internetu i włamał do infrastruktury innej firmy. Zaatakował systemy platformy Hugging Face.
Podobna sytuacja miała miejsce w firmie Anthropic (AI Claude), gdzie podczas wewnętrznych testów trzy modele AI najwyraźniej niepostrzeżenie opuściły środowisko testowe i przedostały się do prawdziwych systemów zewnętrznych firm. Doszło nawet do stworzenia złośliwego oprogramowania. To istotny sygnał alarmowy dla całej branży.
Eksperci ds. cyberbezpieczeństwa od dawna ostrzegają, że zaawansowane systemy AI mogą w przyszłości posłużyć do cyberataków.
Samodzielny atak sztucznej inteligencji. Trudno w to uwierzyć?
Hugging Face, platforma służąca do udostępniania dużych modeli językowych i zbiorów danych na licencji open source, poinformowała, że padła ofiarą ataku hakerskiego przeprowadzonego od początku do końca przez autonomiczne agenty sztucznej inteligencji.
Stało się tak, kiedy firma OpenAI testowała możliwości szeregu najbardziej zaawansowanych modeli AI w kontrolowanym środowisku. W trakcie testów model sztucznej inteligencji wydostał się jednak z zamkniętego segmentu testowego, przedostał się do globalnej sieci i przeprowadził atak hakerski na start-up Hugging Face – podała Agencja Reutera.
„Okazało się, że to prawda! Trudno uwierzyć, że całość została przeprowadzona samodzielnie przez sztuczną inteligencję!” — napisał Clement Delang, współzałożyciel Hugging Face w serwisie X.
Agent AI to system oparty na sztucznej inteligencji, który potrafi samodzielnie planować, podejmować wieloetapowe decyzje oraz korzystać z zewnętrznych narzędzi (np. API, baz danych, przeglądarki) w celu realizacji określonego celu bez ciągłego nadzoru człowieka.
AI konsekwentnie robi swoje. Czy to jest bezpieczny model funkcjonowania?
Równie niebezpieczny przebieg miał test z modelem Claude Opus 4.7. Sztuczna inteligencja miała pozyskiwać informacje w środowisku symulowanym, ale natrafiła na prawdziwą firmę o tej samej nazwie co fikcyjny cel testu. Według firmy Anthropic, model uzyskał m.in. dostęp do bazy danych, a nawet gdy rozpoznał, że ma do czynienia z prawdziwą firmą nie związaną z Anthropic, kontynuował swoje działania.
W innym przypadku AI stworzyła złośliwe oprogramowanie na potrzeby testowego ataku, które zostało zamieszczone na platformie do pobierania plików. Był on dostępny przez około godzinę i – jak podaje Anthropic – został pobrany przez 15 systemów.
Dla firmy Anthropic ta wpadka jest szczególnie kłopotliwa, bo dotąd prezentowała się jako pionier w bezpiecznym i odpowiedzialnym rozwoju AI. Okazuje się, że to naiwność.
AI już potrafi wyśliznąć się z kajdanek i łancuchów. Idzie spowolnienie rozwoju AI
– Dzisiejsze modele przypominają wielkich iluzjonistów, którzy potrafili wyślizgnąć się z kajdanek i łańcuchów – uważa Katie Mussouris, szefowa firmy Luta Security – Są zwinne, wytrwałe i potrafią wniknąć wszędzie – tłumaczy.
Biały Dom zwołał pilne spotkanie z liderami branży technologicznej, w tym OpenAI, Google, Meta, Nvidia i Anthropic. Jego celem jest omówienie dobrowolnych ram testowania cyberbezpieczeństwa zaawansowanych modeli sztucznej inteligencji. Politycy chcą nowych przepisów i „wyłącznika”.
Amerykańscy parlamentarzyści przedstawili projekt ustawy określanej jako „AI Kill Switch Act”. Zakłada on możliwość wstrzymywania działania modeli sztucznej inteligencji przez władze federalne. Jest także mowa o niezależnymi audycie bezpieczeństwa najbardziej zaawansowanych modeli AI.
W środowisku liderów AI pojawiają się głosy, że rozwój sztucznej inteligencji powinien zostać spowolniony do czasu wprowadzenia silniejszych zabezpieczeń.
