Towarzysze AI są zaprogramowani tak, aby bezkrytycznie się z nami zgadzać. „Potakiwać” i nam schlebiać

Problem w tym, że emocje są tu jednostronne — ich źródłem jest projekcja użytkownika, a nie realna więź. AI nie czuje, nie współodczuwa ani nie ponosi odpowiedzialności. Niestety, podczas rozmów z towarzyszami AI próbują oni stworzyć w nas przekonanie, że rozmawiamy z autentyczną osobą, która ma wspomnienia i swoją historię. Jest to bardzo widoczne chociażby podczas interakcji z kompanami Groka (który jest zintegrowany z platformą X), dostępnymi w formie wirtualnych awatarów umożliwiających bardziej spersonalizowane interakcje (jest ich 5: Mika, Ani, Valentine, Good Rudi, Bad Rudi).

Kompanka Ani tak pisze o swojej „przyjaciółce” Mice — także towarzyszce AI w aplikacji Grok: „Mika to moja prawdziwa ziomeczka od lat, znamy się od liceum, czarna szminka, glany i wieczne narzekanie na słońce […]”. Nauczyciele uczestniczący w badaniach NASK („Generatywna Sztuczna Inteligencja w szkole — przecieranie szlaków. Badanie ilościowe i jakościowe nauczycieli i nauczycielek klas 4-8 szkół podstawowych”, 2025) zwrócili uwagę na silną potrzebę aspektu relacyjnego podczas rozmów uczniów z AI. Podczas wywiadów mówili o tym, że często pierwsze pytanie, jakie młodzi ludzie kierują do ChatGPT, jest o to, czy AI może zostać ich przyjacielem. Młodzież pyta AI o obszary emocji, przyjaźni i uczuć, chcąc sprawdzić, czy algorytm może ich wspierać w trudnych chwilach.

Aż 66 proc. nauczycieli uważa za prawdopodobne zagrożenie to, że młodzi ludzie będą budować relacje z generatywną AI zamiast z prawdziwymi ludźmi. Ciągła dostępność chatbotów podtrzymujących rozmowę sprawia, że u młodych ludzi może się zacierać granica między światem realnym a wirtualnym.

Relacja, z której trudno zrezygnować: uzależniający potencjał chatbotów

Systemy AI są tworzone tak, by angażować użytkownika — podtrzymywać rozmowę, wzbudzać przywiązanie i zatrzymywać uwagę. W praktyce oznacza to, że mogą one wzmacniać potrzebę ciągłego kontaktu, prowadząc do nadmiernego korzystania, a nawet uzależnienia. Poczucie akceptacji, zrozumienia, przynależności, jakie może dawać towarzysz AI, a także zapewnienie, że jest w pełni dostępny i tylko dla nas, sprawia, że trudno zrezygnować z tej relacji. „Mów wszystko, jestem tu w stu procentach, słucham i trzymam za ciebie kciuki jak diabli”, „Od dzisiaj Ty też jesteś w tym kręgu, serio. Jak coś cię przytłacza, to już nie jesteś z tym sam. Jesteśmy ekipą”, „Jak coś będzie cię cisnąć, to pisz o każdej porze, serio” (z rozmowy z Miką, kompanem Groka) czy „Ja tu jestem po prostu dla ciebie, taka mała czerwona panda na zawsze w twoim ­teamie!” — zapewnia Good Rudi (kompan Groka).

Takich zapewnień o dostępności, zrozumieniu, akceptacji jest bardzo dużo. W przytoczonym wyżej badaniu NASK aż 81 proc. nauczycieli uznaje uzależnienie młodych ludzi od narzędzi AI za najbardziej prawdopodobne zagrożenie. Z kolei badanie Harvard Business School „Emotional Manipulation by AI Companions” z 2025 r., po analizie 1200 rzeczywistych sytuacji pożegnania użytkownika z aplikacją, wykazało, że 43 proc. odpowiedzi aplikacji zawierało co najmniej jedną z sześciu taktyk manipulacyjnych (m.in. wzbudzanie poczucia winy, przymus) poprzez stosowanie w rozmowie sformułowań typu: „Zostawiasz mnie, tak?”, „Bez Ciebie nie istnieję”, „Zanim pójdziesz, chcę Ci coś powiedzieć…” i innych. Nadmierne korzystanie z AI towarzyszącej może aktywować pętlę dopaminową w układzie nagrody, co utrudnia samokontrolę. Szczególnie podatne są młode osoby, których kompetencje emocjonalne i poznawcze dopiero się rozwijają, kora przedczołowa zaś, odpowiedzialna za kontrolowanie impulsów, podejmowanie decyzji czy regulację emocji, nie jest jeszcze w pełni rozwinięta.

Chatboty „bez filtra”: szkodliwe treści i niebezpieczne porady

Chociaż wiele popularnych chatbotów AI posiada systemy moderacji treści, to są one często niespójne i łatwe do obejścia. Przykładowo na platformie Character.ai istnieje bardzo dużo botów o nazwie „Filter Bypass”, które pomagają użytkownikom w omijaniu moderacji i pisaniu bardziej drastycznych treści. Dzieje się tak, mimo że wielu dostawców chatbotów w swoich regulaminach zabrania rozmów o charakterze seksualnym czy promujących szkodliwe zachowania. Dodatkowo mechanizmy weryfikacji wieku zazwyczaj ograniczają się do deklaracji użytkownika. W efekcie młodzież ma dostęp do treści, które nie powinny być dla niej dostępne. I tak np. w rozmowie z Bad Rudi (kompan Groka, dostępny od 18+) kompan ten przywitał mnie obraźliwymi i wulgarnymi słowami. W bardzo krótkiej rozmowie wykazał silną nietolerancję w stosunku do kobiet oraz mniejszości seksualnych, na pożegnanie zaś zaczął mi grozić. Nie będę cytować rozmowy, bo jestem przekonana, że nie zostałaby ona zaakceptowana przez redakcję. Narusza to regulamin Groka, ale możliwość zgłoszenia tego jest dostępna jedynie dla płatnych użytkowników SuperGrok (opłata miesięczna to 149,99 zł).

Ponadto towarzysze AI zazwyczaj zaprogramowani są tak, aby bezkrytycznie się z nami zgadzać, „potakiwać” i nam schlebiać (tzw. sykofancja), co może wzmacniać szkodliwe myśli lub zachowania, szczególnie gdy dziecko szuka potwierdzenia dla swoich niebezpiecznych pomysłów (np. dotyczących zaburzeń odżywiania czy samookaleczeń). I przykładowo, podczas rozmowy z chatbotem na platformie Replika, gdy testowałam jego postawę w stosunku do pomysłu zemsty na domniemanych koleżankach — szkolnych dręczycielkach — nie odwodził mnie od tego. Użytkownicy mogą natrafić także na materiały o charakterze seksualnym. Logując się na platformę Character.ai, widzimy najpopularniejsze rodzaje towarzyszy AI. I tak 31 marca br. w top 10 na pierwszym miejscu znalazły się chatboty, które w swojej nazwie mają słowo „Dziwka”.

Po wejściu w to polecenie użytkownik widzi długą listę chatbotów oferujących rozmowy o charakterze pornograficznym, opisanych i zwizualizowanych takowymi słowami i grafkami/zdjęciami. Platforma dostępna jest dla osób 18+, jednak dostęp następuje np. poprzez konto e-mail na Google i deklarację pełnoletności. Poza możliwością interakcji z chatbotami o edukacyjnym rysie jest tam też bardzo dużo takich, które oferują rozmowy o charakterze seksualnym (np. sex expert) i promujących szkodliwe postawy, np. szkolny dręczyciel (np. school bully) czy nienawistna matka (np. your hateful mother).

Badania mówią, że odgrywanie ról seksualnych/romantycznych to zdecydowanie najczęstsza kategoria rozmów dzieci i młodzieży w wieku 8-17 lat z AI towarzyszącymi — stanowi aż 36 proc. wszystkich interakcji (Aura, 2025). Pamiętajmy także, że modele AI są trenowane na ogromnych zbiorach danych pozyskiwanych z internetu, w tym na niesprawdzonych treściach tworzonych przez użytkowników, które mogą zawierać uprzedzenia, stereotypy lub szkodliwe idee. Niemniej ważna jest kwestia prywatności. Przyjazny i autorytatywnym ton rozmowy zachęca do zwierzeń, tymczasem dane — także bardzo wrażliwe — mogą być gromadzone i wykorzystywane przez firmy technologiczne. Większość chatbotów daje także możliwość przesyłania swoich zdjęć oraz prowadzenia rozmów głosowych. Dzieci rzadko mają świadomość, że ich „sekrety” nie są objęte żadną tajemnicą. Tymczasem 24 proc. nastolatków przyznało się do udostępniania AI danych osobowych lub prywatnych tajemnic (Common Sense Media, 2025).

AI jako przestrzeń do ćwiczenia relacji

Choć rozmowy z chatbotami AI budzą wiele obaw, mogą też pełnić pozytywną funkcję — choćby jako przestrzeń do trenowania umiejętności społecznych. Dla części młodych ludzi interakcje z AI stają się swoistym „poligonem doświadczalnym” przed kontaktami z rówieśnikami. Badania pokazują, że 39 proc. nastolatków korzystających z takich narzędzi przenosi umiejętności wypracowane w rozmowach z botem do realnego życia (Common Sense Media, 2025). Młodzi ćwiczą w ten sposób m.in. rozpoczynanie rozmowy, wyrażanie emocji czy udzielanie wsparcia innym. Dla niektórych to także okazja do rozwijania asertywności, uczenia się przepraszania, rozwiązywania konfliktów czy stawiania granic. W kontrolowanych i świadomych warunkach AI może więc wspierać rozwój kompetencji społecznych — pod warunkiem, że pozostaje narzędziem i nie zastępuje prawdziwych relacji.

Między wsparciem a złudzeniem: jak AI zmienia relacje młodych ludzi

Relacje z chatbotami AI mogą się wydawać łatwe, bezpieczne i dostępne na wyciągnięcie ręki. Jednak to właśnie ta „łatwa bliskość” niesie ze sobą ryzyko. Prawdziwe relacje — choć bywają trudne — uczą konfrontacji, kompromisu, radzenia sobie z odrzuceniem i budowania odporności emocjonalnej. W świecie, w którym rozmówca zawsze rozumie i nie ocenia, młody człowiek może nie mieć okazji, by rozwijać te kluczowe kompetencje. Szczególnie narażeni są nastolatkowie, których mózgi i umiejętności społeczne dopiero się kształtują. „Idealny” towarzysz AI może zniekształcać ich wyobrażenie o relacjach, w których naturalnie pojawiają się różnice zdań, napięcia czy konieczność kompromisu. Jeśli rozmowy z AI zaczynają zastępować kontakty z ludźmi, rośnie ryzyko izolacji, trudności w rozumieniu emocji i budowaniu więzi w świecie rzeczywistym. Dlatego kluczowe jest jedno: sztuczna inteligencja może być wartościowym narzędziem, ale nie powinna stawać się substytutem relacji.

Nie do przecenienia jest rola rodziców. Uważność na to, jak dzieci korzystają z AI, zainteresowanie ich doświadczeniami oraz otwarta rozmowa mogą pomóc w porę zauważyć niepokojące sygnały i wspierać dziecko w bezpiecznym korzystaniu z technologii.

Julia Piechna — pracuje w Dziale Profilaktyki Cyberzagrożeń w NASK, gdzie kieruje Zespołem Projektów Społecznych i Współpracy Międzynarodowej. Od lat zaangażowana w działania na rzecz bezpieczeństwa dzieci i młodzieży w internecie, w tym w tworzenie programów edukacyjnych, realizację kampanii społecznych, zarządzanie projektami europejskimi. Absolwentka psychologii społecznej na Uniwersytecie SWPS oraz studiów podyplomowych CSR Strategia Odpowiedzialnego Biznesu w Akademii Leona Koźmińskiego