Sztuczna inteligencja to w rękach pedofilów niebezpieczne narzędzie. Raport NASK

Szczególne zagrożenie stanowią chatboty, które pozwalają sprawcom przemocy symulować relacje z dziećmi, a tym samym uczyć się skuteczniej je uwodzić i nimi manipulować. Przestępcy wykorzystują komunikatory, jednorazowe linki, hasła, zamknięte grupy - nie tylko do przekazywania wytworzonych przy pomocy AI nielegalnych materiałach, ale także do informowania o sposobach ich generowania - wynika z najnowszego raportu NASK.

Posłuchaj audycji Trójki:

• News Albo Fake News

Tylko w 2025 roku do zespołu Dyżurnet.pl, zajmującego się monitorowaniem i usuwaniem treści nielegalnych i szkodliwych w internecie, wpłynęło ponad 17 tys. zgłoszeń o podejrzanych publikacjach, w tym ponad 9 tys. przedstawiających seksualne wykorzystanie dziecka, tzw. CSAM (child sexual abuse materials).

To dzieje się za ścianą

Zdecydowana większość materiałów CSAM produkowana jest przez sprawców przemocy, ale 18 proc. przez same dzieci. Jak podkreślają eksperci NASK, możemy to rozpoznać po specyficznym układzie ręki na zdjęciu - wskazującym na to, że jest to tzw. selfie albo po tym, że zdjęcia czy filmy robione są w pokoju nastolatka. - Samodzielnie nie oznacza jednak dobrowolnie - podkreśla Martyna Różycka, kierowniczka Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl, NASK i wyjaśnia, że często młodzi ludzie padają ofiarami manipulacji mającej na celu wyłudzenie materiałów o charakterze intymnym a w kolejnym kroku - szantażu prowadzącego do dostarczenia kolejnych takich treści. - Dziecko najczęściej nie rozumie sytuacji, w której się znalazło, nie zawsze potrafi poprosić o pomoc - przyznaje ekspertka i zaznacza, że w związku z tym powinniśmy podejmować bardzo szeroko zakrojone działania profilaktyczne. Uczyć najmłodszych na co powinny zwracać uwagę w komunikacji w sieci, uczulać na niewłaściwe zachowania.  

Trudno dziwić się dzieciom, że wpadają w sidła przestępców seksualnych, skoro zdarza się to także osobom dorosłym. - Bardzo łatwo wchodzimy w relacje romantyczne. Wydaje nam się, że piszemy z osobą nieznajomą i dzięki temu jesteśmy w stanie przekazać ten swój intymny wizerunek w seksualnym kontekście. Natomiast po drugiej stronie może być ktoś, komu zależy wyłącznie na pozyskaniu pieniędzy, kto będzie nas szantażować - wyjaśnia Martyna Różycka. - Jeśli patrzymy na manipulację z zewnątrz albo w retrospekcji, to wydaje nam się, że nie powinniśmy jej ulec. Natomiast ona tak właśnie działa. Jeśli nie znamy dobrze jej mechanizmów, bardzo łatwo nam stracić poczucie kontroli i w nią wejść - dodaje.

Przemoc powszednieje i powszechnieje

- Dane, którymi dysponujemy to tylko wierzchołek góry lodowej - przyznaje Martyna Różycka.  - Z jednej strony dzieci niechętnie mówią o swoich doświadczeniach, ze względu na poczucie wstydu, które im towarzyszy. Z drugiej - otrzymanie zdjęcia przedstawiającego męskie genitalia jest tak powszechne, że nastolatki często przechodzą nad tym do porządku dziennego, uznając to za koszt korzystania z internetu. Przestają to zauważać i zgłaszać, w pewnym sensie staje się to dla nich normalnym zjawiskiem - podkreśla ekspertka. - To powszednieje i powszechnieje i dzieci nie czują, że padają ofiarami przemocy na tle seksualnym - dodaje.

Co zrobić, gdy przemoc dotknie nasze dziecko?

Niezwłocznie raportować do Dyżurnet.pl? Zgłosić na policję? - Przede wszystkim zaopiekować się dzieckiem. Jeśli przychodzi do nas w sytuacji kryzysowej, w pierwszej kolejności powinniśmy zadbać o jego bezpieczeństwo. Wyjaśnić, co dokładnie się wydarzyło i nazwać tę sytuację. Zaznaczyć, że z jednej strony takie rzeczy się zdarzają i podkreślić, że absolutnie nie powinny mieć one miejsca - czyli powinien być bardzo wyraźny sprzeciw z naszej strony, budujący poczucie wartości dziecka, pokazujący mu, że ma prawo się nie zgodzić na określone treści, ma prawo powiedzieć nie i ma prawo wymagać, aby druga strona to uszanowała - wyjaśnia Martyna Różycka. - W dalszej kolejności decydujemy, czy zgłaszamy te osobę do platformy, czy idziemy z tym na policję. Natomiast bardzo ważne jest, aby nie zlekceważyć tej sprawy i starać się wzmacniać dziecko - dodaje ekspertka. - Nie zapominajmy, że trzeba mieć w sobie dużo odwagi, aby powiedzieć o tak wstydliwych sprawach - podkreśla.

Jak zapobiegać?

Warto zadbać o to, żeby platformy czy usługi, z których korzysta dziecko były dostosowane do jego wieku. Dobrze jest zmienić ustawienia prywatności, aby jego profil nie był publiczny. To ograniczy osoby, które mogą do niego pisać do tych znajdujących się na liście znajomych. Wszystkiego jednak kontrolować się nie da. - Im młodsze dziecko, tym bardziej restrykcyjne powinny być zasady, które przyświecają nam w internecie - czyli po pierwsze dzieci nie korzystają z serwisów, usług, produktów, które nie zostały przez nas zaakceptowane - wymienia Martyna Różycka. - Zwracajmy uwagę, na publikowane tam materiały, bo może lepiej jest skorzystać z serwisu, który ma zamknięty katalog treści, jak np. YouTube for Kids - dodaje.

- Im dziecko jest starsze, tym bardziej możemy rozluźniać mechanizmy kontroli na rzecz systematycznej profilaktyki, częstych rozmów, ale też pozwalania dziecku na wędrówki po internecie. W przypadku nowych miejsc zaglądajmy jednak dziecku przez ramię, poznawajmy je razem, odwiedzajmy je sami, abyśmy wiedzieli, co można tam znaleźć - mówi Martyna Różycka.

Zdaniem ekspertki, w przypadku dużo starszych dzieci, sprawdzi się regularna rozmowa i uwrażliwianie młodego człowieka na potencjalne zagrożenia w sieci. - Pytajmy nasze nastolatki, co myślą na dany temat. To pozwala im konfrontować się z sytuacjami, które mają miejsce na zewnątrz - wspólnie budujmy świat poza internetem. To jest szalenie ważne, aby dziecko miało prawdziwych znajomych, przyjaciół, którzy w sytuacji kryzysowej być może będą w stanie mu pomóc, którzy pokażą mu inny punkt widzenia, będą odskocznia od świata online - tłumaczy ekspertka NASK.

Warto też zwracać uwagę na treści, które publikujemy i które dzieci publikują na swoich portalach społecznościowych. - Pokazujmy, jakie nasze dzieci są mądre, a nie jakie są ładne - podkreśla Martyna Różycka.

Treści nielegalne i szkodliwe można zgłaszać przez formularz znajdujący się na stronie internetowej Dyżurnet.pl, adres meilowy dyzurnet@dyzurnet.pl albo aplikację mobilną mObywatel. Zgłoszenia są anonimowe. Dyżurnet.pl odradza wyszukiwanie tego typu treści samodzielnie, z powodu ryzyka konsekwencji karnych wynikających z uzyskania do nich dostępu.  

Rozmawiała Magdalena Hejna