Zagrożenia Cyberbezpieczeństwa: LLM-y i Jak Im Przeciwdziałać

Modele LLM-y rewolucjonizują cyberprzestępczość, przynosząc nowe narzędzia automatyzacji ataków i eskalując zagrożenia w cyfrowym świecie. Skuteczność ochrony przed LLM-y zależy od zrozumienia ich potencjału ofensywnego oraz szybkiego reagowania na dynamicznie zmieniające się techniki. Odpowiednie strategie bezpieczeństwa minimalizują ryzyko, stawiając na nowoczesne rozwiązania i szkolenia.

Spis treści

• Ewolucja Cyberprzestępczości z LLM
• Jak Hakerzy Wykorzystują Modele LLM
• Automatyzacja Ataków Cybernetycznych za Pomocą LLM
• Bezpieczeństwo IT: Ochrona Przed Zagrożeniami LLM
• Przykłady Nowoczesnych Ataków z Wykorzystaniem LLM
• Skuteczne Strategie Obrony Przed LLM-y

Ewolucja Cyberprzestępczości z LLM

Wprowadzenie dużych modeli językowych (LLM) do powszechnego użytku diametralnie zmieniło krajobraz cyberprzestępczości, przyspieszając wiele trendów, które wcześniej rozwijały się powoli i wymagały wysokich kompetencji technicznych. Z perspektywy cyberprzestępcy LLM-y działają jak wielofunkcyjne narzędzia automatyzujące pracę: potrafią generować przekonującą komunikację w dowolnym języku, tłumaczyć i upraszczać dokumentację techniczną, wspierać tworzenie i modyfikację złośliwego kodu, a także symulować zachowania ofiar czy administratorów systemów. To sprawia, że bariera wejścia do cyberprzestępczości znacząco spada – osoby bez zaawansowanej wiedzy programistycznej są w stanie przygotować kampanię phishingową, stworzyć proste skrypty atakujące czy zautomatyzować rekonesans w sieci. Jednocześnie doświadczeni przestępcy wykorzystują LLM-y do skalowania działań: zamiast ręcznie tworzyć kilka wiadomości phishingowych tygodniowo, mogą generować setki wariantów dziennie, personalizowanych pod różne branże, stanowiska czy konkretne organizacje. Ta masowa, zautomatyzowana personalizacja to nowa jakość w cyberprzestępczości, która znacząco utrudnia klasyczne rozpoznawanie zagrożeń bazujące na prostych sygnaturach treści. Kolejnym etapem tej ewolucji jest wykorzystanie LLM-ów do analizy wycieków danych i dokumentów wewnętrznych firm – modele pozwalają szybko wychwycić struktury organizacyjne, procesy decyzyjne, typowe wzorce komunikacji czy stosowane technologie, co z kolei ułatwia przygotowanie ataków ukierunkowanych (spear phishing, BEC – Business Email Compromise) i socjotechnicznych scenariuszy podszywania się pod konkretnych pracowników. Dodatkowo, LLM-y stosowane w tzw. “malware-as-a-service” przyspieszają profesjonalizację podziemnego rynku: dostawcy złośliwego oprogramowania mogą oferować inteligentne czatboty wsparcia dla innych przestępców, generować zautomatyzowaną dokumentację do swoich narzędzi czy nawet tworzyć kreatywne opisy ofert na forach darknetu, co zwiększa atrakcyjność i skuteczność ich usług. Z czasem obserwujemy także powstawanie dedykowanych, nielegalnie trenowanych modeli, dostrojonych specjalnie do celów ofensywnych: potrafią one ignorować typowe mechanizmy bezpieczeństwa obecne w legalnych LLM-ach, oferując bezpośrednie instrukcje tworzenia exploitów, obchodzenia zabezpieczeń EDR czy optymalizacji kampanii ransomware’owych. Równolegle rośnie rola tzw. prompt engineeringu w cyberprzestępczości – przestępcy uczą się, jak formułować zapytania do legalnych modeli, aby omijać ich zabezpieczenia (np. prosząc o wygenerowanie “przykładowego kodu do testowania bezpieczeństwa” czy “symulacji zachowania złośliwego aktora” zamiast wprost o malware), a także jak łączyć odpowiedzi kilku różnych modeli, by uzyskać pożądany efekt końcowy. Oznacza to, że tradycyjna logika blokowania pojedynczych fraz czy słów kluczowych jest coraz mniej skuteczna, bo atakujący tworzą złożone, wieloetapowe scenariusze interakcji z LLM-ami, rozmywając granicę między legalnym a nielegalnym zastosowaniem.

Ewolucja cyberprzestępczości w erze LLM nie ogranicza się jednak do warstwy technicznej – równie ważna jest zmiana taktyk, technik i procedur (TTP) stosowanych przez grupy APT, gangi ransomware i indywidualnych sprawców. LLM-y są wykorzystywane do automatycznego profilowania ofiar na podstawie publicznych informacji (LinkedIn, media społecznościowe, strony firm), generowania spersonalizowanych scenariuszy rozmów telefonicznych (vishing) oraz projektowania fałszywych stron logowania, które naśladują nie tylko wizualny wygląd, ale i sposób komunikacji konkretnej organizacji. Zaawansowane modele potrafią tworzyć wieloetapowe scenariusze socjotechniczne, dostosowane do profilu psychologicznego ofiary, jej stanowiska, obowiązków i typowych problemów biznesowych. W połączeniu z generatywnym audio i wideo (deepfake) otwiera to drogę do ataków, w których LLM przygotowuje treść maila od “CFO”, narzędzie do syntezy mowy generuje głos zgodny z nagraniami z sieci, a algorytm do syntetycznego wideo tworzy materiał wideo potwierdzający pilność przelewu. W tle LLM wspiera też stronę techniczną ataku: pomaga pisać skrypty do automatycznego zbierania danych z otwartych zasobów (OSINT), analizuje konfiguracje bezpieczeństwa znalezione w wyciekach, proponuje modyfikacje istniejących exploitów pod nowe wersje systemów operacyjnych czy aplikacji, a nawet sugeruje, jak “przemodelować” schemat ataku, aby był mniej podatny na wykrycie przez systemy SIEM i rozwiązania oparte na uczeniu maszynowym. Coraz częściej mówi się również o tzw. LLM-enabled persistence – wykorzystaniu modeli do dynamicznego dopasowywania złośliwego oprogramowania do środowiska ofiary, np. poprzez generowanie nowych wariantów skryptów PowerShell na podstawie informacji o wersjach narzędzi administracyjnych, które malware odczytuje na zainfekowanej maszynie. W praktyce oznacza to, że atak nie jest już statycznym plikiem, który można raz przeanalizować i zablokować, ale ewoluuje w czasie, bazując na tym samym rodzaju inteligentnej adaptacji, który stosuje się w legalnych systemach wspierających biznes. Zmienia się też model współpracy w podziemnym ekosystemie – część grup specjalizuje się w trenowaniu i dostrajaniu prywatnych LLM-ów na wyciekach kodu i danych, inne budują wokół nich panele SaaS dla “klientów”, jeszcze inne koncentrują się na tworzeniu promptów i scenariuszy ataków, które można kupić jak gotowe “szablony kampanii”. W rezultacie cyberprzestępczość zaczyna przypominać dojrzały rynek usług IT, tyle że napędzany przez generatywną sztuczną inteligencję i ukierunkowany na eksploatację luk bezpieczeństwa w organizacjach, które nie nadążają z dostosowywaniem swoich strategii obrony do tempa rozwoju LLM-ów.

Jak Hakerzy Wykorzystują Modele LLM

Modele LLM stały się narzędziem, które hakerzy wplatają w niemal każdy etap łańcucha ataku, od rozpoznania, przez przygotowanie złośliwej kampanii, aż po eksfiltrację danych i ukrywanie śladów. Po pierwsze, LLM-y radykalnie przyspieszają etap rekonesansu i profilowania ofiar. Cyberprzestępcy mogą wprowadzać do modelu publicznie dostępne informacje o firmie, jej infrastrukturze, technologii, personelu oraz komunikacji w social media, a następnie generować podsumowania, mapy zależności i hipotezy dotyczące potencjalnych słabych punktów. LLM potrafi „przeżuwać” ogromne fragmenty treści – od raportów rocznych, przez ogłoszenia o pracę, po wpisy na LinkedIn – i w formie syntetycznego raportu wskazywać, jakie systemy mogą być używane, kto ma dostęp do jakich zasobów, jakie technologie są wdrażane oraz jakie procesy bezpieczeństwa są prawdopodobne. Z perspektywy hakera redukuje to czas potrzebny na analizę z tygodni do godzin i pozwala szybciej typować najbardziej obiecujące cele. Kolejnym obszarem jest masowa automatyzacja phishingu i spear phishingu. LLM-y, zasilone zestawami wykradzionych lub publicznie dostępnych danych, generują wysoce spersonalizowane e-maile, wiadomości w komunikatorach czy treści na portalach społecznościowych, dopasowane do języka, tonu i zainteresowań ofiary. W przeciwieństwie do dawnych, topornych wiadomości phishingowych, obecne kampanie tworzone przy wsparciu modeli językowych są pozbawione błędów językowych, brzmią naturalnie, odwołują się do lokalnych realiów, a nawet imitują styl pisania znanych współpracowników czy przełożonych. LLM może na podstawie kilku próbek korespondencji odwzorować typową strukturę maila w danej organizacji, używane zwroty grzecznościowe, stopki, a nawet żargon branżowy, co w praktyce drastycznie podnosi skuteczność ataków BEC (Business Email Compromise) i oszustw związanych z fałszywymi fakturami lub przelewami. Hakerzy używają też modeli do generowania całych sekwencji komunikatów w ramach dłuższych scenariuszy socjotechnicznych, tak aby konwersacja rozwijała się stopniowo, budując zaufanie ofiary i minimalizując ryzyko wzbudzenia podejrzeń. LLM-y wspierają również powstawanie złośliwego oprogramowania. Choć większość legalnych platform ogranicza generowanie wyraźnie szkodliwego kodu, doświadczeni przestępcy potrafią omijać te zabezpieczenia, formułując zapytania w sposób pośredni, prosząc np. o „przykłady skanerów sieciowych”, „narzędzia do automatycznego testowania bezpieczeństwa” lub „skrypty do zdalnego zarządzania”, a następnie łącząc wygenerowane fragmenty kodu w funkcjonalne narzędzia ofensywne. LLM może pomóc w refaktoryzacji istniejącego malware, dodawaniu nowych funkcji, zmienianiu nazw zmiennych, struktury i logiki kodu, aby obejść sygnaturowe systemy antywirusowe. Co więcej, modele językowe są używane do automatycznego tworzenia polimorficznego złośliwego oprogramowania, czyli takiego, które dynamicznie modyfikuje swój kod lub sposób działania w zależności od środowiska ofiary, co utrudnia jego wykrywanie heurystyczne. Przestępcy mogą na przykład kazać LLM-owi wygenerować wiele wariantów tego samego modułu, różniących się nie tylko szczegółami implementacji, lecz także sposobem komunikacji z serwerem C2, mechanizmami utrwalania się w systemie (persistence) czy technikami unikania analizy w sandboxach.

Modele LLM są również potężnym akceleratorem w analizie wycieków danych oraz przechwyconej korespondencji. Zamiast ręcznie przeglądać miliony rekordów, hakerzy ładują do narzędzi AI fragmenty baz danych, logów, historii czatów lub e-maili i proszą o ekstrakcję poufnych informacji: haseł, tokenów API, kluczy SSH, informacji o kontach uprzywilejowanych, wzorców logowania czy zależności między użytkownikami i systemami. LLM może pomóc zidentyfikować, które dane są najbardziej wartościowe do dalszej monetyzacji – np. dane kart płatniczych, kombinacje danych osobowych (PII) spełniających wymogi do kradzieży tożsamości, czy informacje strategiczne, które można sprzedać konkurencji. Cyberprzestępcy stosują modele także jako „interfejs” do złożonych narzędzi ofensywnych. Zamiast ręcznie wpisywać komendy w konsoli, tworzą warstwę chatbotową nad frameworkami typu Cobalt Strike czy Metasploit, opisując w języku naturalnym, co chcą osiągnąć (np. „przeskanuj sieć wewnętrzną ofiary, znajdź otwarte porty RDP i spróbuj brute force z tym słownikiem haseł”), a system automatycznie tłumaczy to na odpowiednie ciągi poleceń. Taki „asystent ofensywny” obniża próg wejścia dla mniej doświadczonych aktorów, a jednocześnie pozwala ekspertom przyspieszyć rutynowe działania. LLM-y wspomagają także tworzenie fałszywych treści i deepfake’ów, które zwiększają skuteczność inżynierii społecznej. Na bazie transkrypcji i nagrań głosu można wygenerować przekonujące skrypty rozmów telefonicznych, które następnie są odgrywane przez syntezatory mowy lub boty głosowe, udając dyrektorów, księgowych czy pracowników działu IT. W połączeniu z generatywnym wideo przestępcy przygotowują nagrania rzekomych wideokonferencji z „prezesem”, prosząc o pilny przelew lub ujawnienie danych logowania. Dodatkowo LLM-y pomagają w lokalizacji i adaptacji takich kampanii do różnych rynków – przestępcy proszą o uwzględnienie lokalnych regulacji, świąt, zwyczajów biznesowych i specyficznych form grzecznościowych, co sprawia, że ofiary w Polsce, Niemczech czy Francji otrzymują przekaz dopasowany kulturowo. Ostatnim istotnym zastosowaniem jest wsparcie w ukrywaniu śladów i dezinformacji. LLM może generować fałszywe logi, wiarygodne raporty incydentów podszywające się pod wewnętrzne komunikaty działów IT, a także teksty publikowane w darknecie, które mają zmylić analityków i przypisać atak innym grupom APT lub państwom. W ten sposób modele językowe stają się nie tylko narzędziem ofensywnym, ale również elementem strategii operacyjnego bezpieczeństwa (OPSEC) cyberprzestępców, utrudniając śledztwa i opóźniając reakcję obrońców.

Automatyzacja Ataków Cybernetycznych za Pomocą LLM

Automatyzacja ataków cybernetycznych z wykorzystaniem dużych modeli językowych radykalnie zmienia sposób planowania, przygotowywania i przeprowadzania kampanii przestępczych. Z perspektywy atakującego LLM stają się „wielozadaniowym operatorem”, który eliminuje wiele żmudnych, ręcznych czynności i pozwala na skalowanie działań bez proporcjonalnego zwiększania liczby ludzi w gangu cyberprzestępczym. Na etapie rekonesansu modele mogą w ciągu minut przetwarzać publicznie dostępne informacje o organizacji, jej infrastrukturze, kadrach kierowniczych, partnerach biznesowych czy technologii wykorzystywanej w środowisku IT. Zamiast analityka, który samodzielnie filtruje dane z mediów społecznościowych, raportów giełdowych, stron WWW i forów, przestępca podaje LLM-owi kilka promptów, a model tworzy uporządkowany profil ofiary: wykorzystywane systemy (np. SAP, Microsoft 365), możliwe luki konfiguracyjne, typowe terminy raportowe, a nawet sugerowane „punkty nacisku” w socjotechnice (np. presja czasu, strach przed utratą kontraktu, autorytet zarządu). W kolejnym kroku ten sam model może automatycznie wygenerować dziesiątki wariantów scenariuszy ataku: od klasycznego spear‑phishingu, przez wyłudzenia płatności (BEC), po zaawansowane łańcuchy zdarzeń obejmujące zainfekowane załączniki, złośliwe makra, fałszywe panele logowania czy podszywanie się pod narzędzia do podpisu elektronicznego. Zdolność LLM do rozumienia kontekstu biznesowego sprawia, że wiadomości są nie tylko poprawne językowo i stylistycznie, ale też idealnie dopasowane do branży, struktury organizacyjnej oraz bieżących wydarzeń – model może odnieść się do ostatniej konferencji, wyników finansowych czy przejęć, co znacząco podnosi skuteczność ataków. Dodatkowo przestępcy wykorzystują funkcje tłumaczenia i lokalizacji: jedna kampania komunikacyjna może zostać w pełni zautomatyzowana i przetłumaczona na kilkanaście języków, z zachowaniem lokalnych niuansów kulturowych, form grzecznościowych i specyfiki żargonu branżowego. To, co kiedyś wymagało zespołu native speakerów i specjalistów od copywritingu, dziś może zostać wykonane przez jednego operatora obsługującego LLM, co dramatycznie obniża barierę wejścia do „biznesu” cyberprzestępczego.

Drugi wymiar automatyzacji to wsparcie techniczne i operacyjne, w którym LLM pełni rolę wirtualnego „senior developera” oraz „kierownika kampanii” jednocześnie. Cyberprzestępca może poprosić model o wygenerowanie przykładów kodu w określonym języku, które po niewielkich modyfikacjach stają się komponentami narzędzi do kradzieży danych, keyloggerów, skryptów do lateral movement czy automatyzacji eksfiltracji. Nawet jeśli model nie generuje jawnie złośliwego kodu, potrafi dostarczyć fragmenty infrastruktury pomocniczej: skrypty do skanowania portów, automatyzacji testów haseł, obsługi API chmurowych czy integracji z legalnymi narzędziami administracyjnymi (np. PowerShell, WMI, narzędzia DevOps), które następnie są włączane w łańcuch ataku. Co więcej, LLM pozwala w trybie iteracyjnym optymalizować i refaktoryzować istniejące malware: naprawia błędy, zmniejsza wykrywalność przez systemy AV/EDR, sugeruje mechanizmy ukrywania się (obfuskacja, packery, polimorfizm) oraz dopasowuje payloady do konkretnych środowisk (np. różne wersje systemów operacyjnych, inne reguły bezpieczeństwa, ograniczenia uprawnień). W połączeniu z frameworkami automatyzacji (np. narzędzia do orkiestracji ataków czy botnety zarządzane przez API) LLM może działać jako „mózg” kampanii: analizuje na bieżąco odpowiedzi serwerów ofiary, logi z narzędzi C2, wskaźniki sukcesu poszczególnych wektorów, a następnie generuje rekomendacje, które scenariusze należy kontynuować, a które zmodyfikować lub porzucić. Taka pętla zwrotna, w której model przetwarza ogromne strumienie danych z logów, forów, wycieków i telemetryki, umożliwia dynamiczne dostosowywanie taktyk – np. automatyczne modyfikowanie treści phishingu, gdy filtry pocztowe zaczynają oznaczać wiadomości jako spam, lub zmianę infrastruktury C2 po wykryciu i zablokowaniu adresów IP przez dostawcę usług hostingowych. Automatyzacja dotyczy też zarządzania tożsamościami i infrastrukturą przestępczą: LLM może generować realistyczne biografie i profile w mediach społecznościowych, uwiarygadniające fikcyjnych pracowników lub partnerów, pomagać w tworzeniu dokumentów rejestracyjnych do firm‑wydmuszek czy pisać regulaminy i polityki prywatności dla fałszywych serwisów, które mają sprawiać wrażenie legalnych. Wreszcie, modele są wykorzystywane do automatycznego tworzenia i utrzymywania dokumentacji operacyjnej gangu – procedur, instrukcji, szablonów komunikacji – co pozwala szybko wdrażać nowych członków i utrzymywać spójność działań na dużą skalę. Wszystko to razem sprawia, że cykl życia ataku – od planowania, przez wykonanie, aż po ukrywanie śladów – może być w coraz większym stopniu zautomatyzowany, przy minimalnym udziale człowieka w codziennych, powtarzalnych czynnościach.

Bezpieczeństwo IT: Ochrona Przed Zagrożeniami LLM

Skuteczna ochrona przed zagrożeniami wynikającymi z użycia LLM wymaga zmiany myślenia o bezpieczeństwie IT – nie wystarczy już polegać wyłącznie na klasycznych firewallach, antywirusach i filtrowaniu spamu. Organizacje muszą przyjąć założenie, że przeciwnik dysponuje „wirtualnym zespołem” analityków, programistów i socjotechników w postaci modeli językowych, które mogą błyskawicznie testować nowe wektory ataku, dopasowywać komunikaty oraz omijać proste reguły bezpieczeństwa. Pierwszym krokiem jest więc aktualizacja modeli zagrożeń (threat modeling) o scenariusze, w których atak jest tworzony, personalizowany i iteracyjnie udoskonalany przez LLM – zarówno na poziomie phishingu, jak i generowania złośliwego kodu. W praktyce oznacza to włączenie do analizy ryzyka takich elementów, jak masowe kampanie spear phishingu o wysokiej jakości językowej, wielojęzyczne oszustwa BEC, automatyczne generowanie fałszywych dokumentów i tożsamości czy szybko modyfikowane warianty malware’u, które zmieniają sygnatury i techniki ukrywania się. Kolejnym filarem ochrony jest wzmocnienie warstwy tożsamości i dostępu – skoro treść komunikacji i dokumentów może być perfekcyjnie podrobiona przez LLM, organizacje muszą odejść od zaufania opartego na „wiarygodnym e-mailu” czy „znajomym stylu pisania” i przejść do silnego uwierzytelniania oraz weryfikacji kontekstu. Kluczowe stają się: wieloskładnikowe uwierzytelnianie (MFA) dla wszystkich kont uprzywilejowanych i dostępu do systemów krytycznych, stosowanie kluczy sprzętowych FIDO2 tam, gdzie to możliwe, ograniczanie dostępu w oparciu o zasadę najmniejszych uprawnień, a także wprowadzenie polityk zero trust, które nie zakładają domyślnego zaufania do żadnego użytkownika, urządzenia czy lokalizacji sieciowej. Jednocześnie konieczne jest zaostrzenie procedur akceptacji przelewów, zmian danych kontrahentów czy zakupu usług – nawet najlepiej napisany e-mail „od prezesa” powinien uruchamiać telefoniczną lub osobistą weryfikację z użyciem kanału niezależnego od treści wiadomości. W obszarze ochrony poczty i komunikacji tradycyjne filtry treści muszą zostać uzupełnione o rozwiązania wykorzystujące uczenie maszynowe do wykrywania subtelnych anomalii w zachowaniu nadawcy, strukturze językowej, meta­danych wiadomości czy nietypowych żądań finansowych. Firmy powinny wdrażać zaawansowane bramy e-mail (SEG) z funkcjami analizy behawioralnej, sandboxingu załączników i linków, a także dynamicznym obniżaniem poziomu zaufania do korespondencji pochodzącej spoza organizacji (np. poprzez ostrzegawcze banery i dodatkowe kroki weryfikacji). Rośnie też znaczenie technologii DMARC, SPF i DKIM, które pomagają ograniczyć podszywanie się pod domeny organizacji, choć trzeba mieć świadomość, że w erze LLM ich skuteczność to tylko jeden z elementów szerszej strategii obrony. W kontekście zagrożeń technicznych generowanych przez LLM kluczowe jest budowanie wielowarstwowej ochrony endpointów i serwerów – od EDR/XDR z analizą zachowania procesów, przez kontrolę aplikacji i uprawnień skryptów, po mikropodział sieci (microsegmentation) utrudniający boczne poruszanie się atakującego po infrastrukturze. Ponieważ LLM umożliwiają szybkie tworzenie nowych wariantów złośliwego oprogramowania, systemy monitoringu muszą być oparte na analizie zachowania (behaviour-based detection), a nie wyłącznie na sygnaturach; ważne jest także zastosowanie polityk „default deny” dla makr, PowerShella, interpreterów skryptowych i narzędzi administracyjnych wykorzystywanych w atakach „living off the land”. Dodatkowo warto wprowadzić ścisłą kontrolę nad tym, jakie dane i z jakich stacji roboczych mogą być eksportowane do publicznych usług LLM – brak regulacji w tym obszarze tworzy ryzyko przypadkowego wycieku kodu źródłowego, danych klientów czy informacji o infrastrukturze, które później mogą posłużyć do skuteczniejszych ataków.

Ochrona przed zagrożeniami LLM wymaga również inwestycji w detekcję i reagowanie skoncentrowane na anomaliach, a nie wyłącznie na znanych wzorcach ataków. Systemy SIEM i XDR powinny być konfigurowane tak, by wychwytywać nietypowe sekwencje zdarzeń – na przykład nagłe, masowe logowania z różnych lokalizacji geograficznych, nieoczekiwane wzorce pobierania danych z repozytoriów, czy wzmożoną aktywność związaną z generowaniem i modyfikacją skryptów administracyjnych. LLM w rękach przestępców znacząco przyspieszają iterację ataku, co oznacza, że SOC musi działać bardziej proaktywnie: korzystać z własnych narzędzi AI/ML do korelacji zdarzeń, automatyzować reakcje (SOAR) oraz wprowadzać playbooki reagowania na incydenty specyficzne dla scenariuszy z udziałem LLM, takich jak masowe kampanie spear phishing czy automatyczne skanowanie i eksploatacja podatności. Z punktu widzenia procesów, szczególnie istotne jest wdrożenie polityk „human-in-the-loop” dla krytycznych decyzji biznesowych i technicznych – jeżeli część procesów jest wspierana przez wewnętrzne lub zewnętrzne LLM, organizacja powinna jasno określić, które rekomendacje AI wymagają dodatkowej, manualnej autoryzacji oraz jakie dowody i logi muszą być gromadzone, aby później możliwe było przeanalizowanie incydentu. Równolegle trzeba rozwijać kompetencje zespołów IT i bezpieczeństwa w zakresie rozumienia architektury LLM, ich ograniczeń, możliwości jailbreakingu oraz sposobów, w jakie modele mogą zostać użyte do obchodzenia klasycznych mechanizmów kontroli. Niezastąpionym elementem strategii obrony jest także edukacja użytkowników końcowych, ale prowadzona w nowej formule: szkolenia z phishingu muszą uwzględniać przykłady hiperrealistycznych, poprawnych językowo wiadomości, deepfake’ów głosowych czy komunikacji prowadzonej w lokalnym języku i dialekcie, a scenariusze ćwiczeń powinny symulować ataki wykorzystujące bieżące wydarzenia rynkowe i wewnętrzne projekty firmy, które LLM może łatwo przetworzyć na spersonalizowane oszustwo. Organizacje powinny też wprowadzić jasne zasady korzystania z publicznych i wewnętrznych LLM: klasyfikację danych, które mogą być wprowadzane do modelu; stosowanie anonimizacji i pseudonimizacji; ograniczanie dostępu do wtyczek i integracji z systemami produkcyjnymi; a także regularne audyty promptów, logów i konfiguracji modeli pod kątem bezpieczeństwa oraz zgodności z przepisami (np. RODO). Tam, gdzie to możliwe, warto rozważyć wdrażanie własnych, samodzielnie hostowanych modeli o ograniczonym dostępie do Internetu oraz ścisłą separację środowisk testowych od produkcyjnych, tak aby ewentualne nadużycia lub wycieki promptów nie przekładały się bezpośrednio na ryzyko dla krytycznych systemów biznesowych. Wreszcie, kluczowe jest włączenie ryzyk związanych z LLM do polityk zarządzania dostawcami i łańcuchem dostaw IT – dostawcy oprogramowania, usług chmurowych czy outsourcingu procesów biznesowych coraz częściej używają modeli językowych w swoich produktach, co wymaga od organizacji precyzyjnego określenia wymogów bezpieczeństwa, audytowalności i raportowania w umowach oraz monitorowania, w jaki sposób dane są przetwarzane i zabezpieczane na zewnętrznych platformach AI.

Przykłady Nowoczesnych Ataków z Wykorzystaniem LLM

Nowoczesne ataki z wykorzystaniem LLM coraz częściej łączą klasyczne techniki cyberprzestępcze z inteligentną automatyzacją, co radykalnie podnosi ich skuteczność. Przykładem są kampanie BEC (Business Email Compromise) nowej generacji: zamiast prostych, szablonowych wiadomości, przestępcy karmią LLM danymi z LinkedIn, mediów społecznościowych, wycieków skrzynek pocztowych i publicznych rejestrów, aby model zbudował szczegółowy obraz struktury organizacyjnej ofiary, stylu komunikacji kluczowych osób oraz typowych procesów biznesowych. Następnie LLM generuje w pełni spersonalizowane wiadomości w idealnym stylu prezesa, CFO lub dyrektora działu prawnego – z odpowiednim żargonem branżowym, odniesieniami do niedawnych projektów, a nawet charakterystycznymi zwrotami językowymi danej osoby. W bardziej zaawansowanych scenariuszach ten sam model tworzy komplet dokumentów „do podpisu” (np. umowy, aneksy, potwierdzenia przelewów) oraz dopasowane do nich treści konwersacji mailowej czy na komunikatorach, co utrudnia rozpoznanie fałszerstwa przez pracowników i klasyczne filtry antyphishingowe. Kolejny przykład to masowa, hiperspersonalizowana dystrybucja phishingu i smishingu. Cyberprzestępcy wykorzystują LLM do błyskawicznego przetwarzania dużych baz danych: adresów e‑mail, numerów telefonów, historii zakupów, preferencji językowych i geolokalizacji. Na tej podstawie model tworzy setki tysięcy unikalnych wariantów wiadomości, dopasowanych do wieku, lokalizacji, banku, operatora komórkowego czy zainteresowań ofiary. Zamiast jednego, łatwego do zablokowania szablonu phishingowego, powstaje „chmura” komunikatów, które różnią się w detalach treści, stylu, formach grzecznościowych i kontekście (np. lokalne święta, aktualne promocje, wydarzenia sportowe). LLM generuje też naturalnie brzmiące odpowiedzi w czasie rzeczywistym – jeśli ofiara odpisze z pytaniem lub wątpliwością, model automatycznie kontynuuje konwersację w tym samym tonie, stopniowo przełamując jej opór psychologiczny i skłaniając do podania danych logowania, numerów kart, kodów 2FA lub zainstalowania złośliwego oprogramowania na komputerze czy smartfonie. W podobny sposób wykorzystywane są LLM w atakach na systemy obsługi klienta: przestępcy przygotowują skrypty rozmów dla chatbotów podszywających się pod infolinie banków czy operatorów, które prowadzą długie, przekonujące dialogi tekstowe lub głosowe, bazując na rzeczywistych FAQ i stylu komunikacji legalnych instytucji. Coraz bardziej widoczne są również ataki na łańcuch dostaw oprogramowania wspierane przez LLM. Cyberprzestępcy pobierają otwarte repozytoria kodu (np. z GitHuba), logi zmian i dokumentację projektową, a następnie wykorzystują modele do automatycznej analizy wzorców kodowania, praktyk review i stosowanych bibliotek. LLM potrafi wskaźać miejsca, w których procesy kontroli jakości są najsłabsze, podpowiedzieć, jaki typ backdoora będzie najtrudniejszy do wykrycia w danym stosie technologicznym, a nawet wygenerować gotowe pull requesty z pozornie pożytecznymi poprawkami, które w rzeczywistości otwierają boczne furtki. W połączeniu z socjotechnicznymi kampaniami wymierzonymi w maintainerów (np. propozycje „pomocy” w utrzymaniu projektu, sponsorowanie open source) LLM pozwala zbudować przekonującą historię i korespondencję, które zwiększają szanse akceptacji złośliwych zmian.

Coraz częściej obserwuje się również zaawansowane ataki na infrastrukturę chmurową, gdzie LLM pełni rolę „asystenta DevOps” po stronie napastnika. Po zdobyciu kontrolowanego konta lub klucza API przestępcy przekazują modelowi zrzuty konfiguracji, logi z CI/CD, polityki IAM oraz fragmenty dokumentacji technicznej dostawcy chmury. LLM analizuje te informacje i proponuje konkretne kroki eskalacji uprawnień, obejścia segmentacji sieci, wykorzystania nadanych domyślnie ról czy błędnych reguł firewalli. Model generuje gotowe polecenia CLI, skrypty Terraform/Ansible lub zapytania do API, które atakujący może niemal „wklejać i uruchamiać”, nawet bez głębokiej wiedzy o specyfice danego środowiska. W podobny sposób wykorzystywane są LLM do analizy wycieków danych: zamiast ręcznie przeszukiwać gigabajty dumpów baz danych, cyberprzestępcy proszą model o wyłuskanie najcenniejszych rekordów, powiązanie danych z różnych źródeł (np. pliki CRM, logi z systemu płatności, archiwa korespondencji) i zbudowanie uporządkowanej listy celów wraz z mapą powiązań między osobami i firmami. Na bazie takich analiz LLM generuje następnie scenariusze wymuszeń (ransomware + extortion), szantażu indywidualnego (np. ujawnienie kompromitujących informacji) oraz ataków wtórnych, w których dane z jednego wycieku wykorzystuje się do przejęcia kont w innych serwisach. Szczególnie niebezpieczny trend to połączenie LLM z generatywnym wideo i audio w atakach deepfake. LLM przygotowuje pełne, spójne scenariusze rozmów telefonicznych, wypowiedzi wideo, prezentacji czy wystąpień na spotkaniach online, dopasowane do kontekstu biznesowego, osobowości i języka danej osoby (np. członka zarządu). Następnie inne modele generatywne tworzą materiał wizualny i głosowy, a LLM w czasie rzeczywistym podpowiada „operatorowi” deepfake’a, jak reagować na pytania ofiar, jakie argumenty użyć, aby przyspieszyć podjęcie decyzji o przelewie, udostępnieniu dokumentów lub zmianie konfiguracji systemów. W tle, ten sam lub inny model językowy może odpowiadać za „zamazywanie śladów”: przygotowuje fałszywe logi systemowe, generuje wiarygodne, ale fałszywe wpisy w systemach ticketowych, tworzy pozorne raporty z testów bezpieczeństwa, a nawet podpowiada, jak manipulować zespołem SOC, by zbagatelizował pierwsze oznaki incydentu. Tego typu scenariusze pokazują, że LLM nie jest jedynie narzędziem do tworzenia tekstu, ale staje się centralnym „mózgiem operacji”, który orkiestruje cały łańcuch ataku – od rekonesansu, przez inżynierię społeczną i eksploatację podatności, po fazę utrzymania dostępu i utrudniania dochodzeń.

Skuteczne Strategie Obrony Przed LLM-y

Skuteczna obrona przed zagrożeniami napędzanymi przez LLM-y wymaga połączenia trzech perspektyw: ludzi, procesów i technologii. Po pierwsze, organizacja powinna zaktualizować model zagrożeń, zakładając, że po drugiej stronie działa przeciwnik z dostępem do „inteligentnego asystenta”, który potrafi perfekcyjnie pisać po polsku, naśladować ton komunikacji zarządu i szybko analizować złożone dokumenty. W praktyce oznacza to m.in. wzmocnienie warstwy tożsamości (MFA odporne na phishing, FIDO2, klucze sprzętowe), rygorystyczne zarządzanie uprawnieniami (least privilege, role-based access control, regularne przeglądy kont uprzywilejowanych) oraz wdrożenie zasad zero trust – brak domyślnego zaufania, nawet dla zasobów wewnętrznych, ciągła weryfikacja użytkownika, urządzenia i kontekstu. Równolegle należy „utwardzić” procesy autoryzacji transakcji i decyzji biznesowych: dwuosobowa akceptacja przelewów powyżej określonej kwoty, weryfikacja telefoniczna poza kanałem e‑mail przy zmianie numeru konta kontrahenta, jasne procedury reagowania, gdy ktoś rzekomo „z zarządu” naciska na pośpiech. To właśnie te procesowe bezpieczniki są pierwszą linią obrony przed kampaniami BEC i socjotechniką wspieraną przez LLM, która potrafi doskonale imitować sposób pisania konkretnych menedżerów czy klientów. Kolejnym filarem jest budowa dojrzałego programu security awareness, w którym użytkownicy są regularnie wystawiani na realistyczne, zautomatyzowane symulacje ataków – wiadomości, które wyglądają jak wygenerowane przez LLM, z perfekcyjną polszczyzną, personalizacją i poprawnymi stopkami mailowymi. Szkolenia powinny pokazywać, że „piękny, bezbłędny język” nie jest już wyznacznikiem zaufania; ważniejsze są kontrola adresu nadawcy, nietypowe prośby, presja czasu i łamanie standardowych procedur. Warto też uczyć rozpoznawania treści deepfake (wideo, audio) oraz wprowadzić konkretne zasady: przelewów, zmian dostawców czy udostępnienia poufnych dokumentów nigdy nie autoryzuje się wyłącznie na podstawie rozmowy telefonicznej czy wideokonferencji, niezależnie od tego, jak „realistycznie” brzmi rozmówca.

Od strony technologicznej kluczowe jest przejście z podejścia sygnaturowego na detekcję opartą na zachowaniach oraz uczeniu maszynowym. Nowoczesne bramy pocztowe i systemy ochrony punktów końcowych (EDR/XDR) potrafią analizować kontekst wiadomości, sposób interakcji użytkownika oraz nietypowe działania po kliknięciu w link – nawet jeśli sam e‑mail nie zawiera klasycznych wskaźników phishingu. Warto inwestować w rozwiązania, które łączą analizę treści z monitorowaniem anomalii behawioralnych: niestandardowe logowania, gwałtowny wzrost masowych pobrań danych, nagłe tworzenie reguł przekierowujących pocztę, nieoczekiwane użycie kont serwisowych. W środowiskach chmurowych konieczne jest stosowanie narzędzi CSPM/CIEM, które automatycznie wykrywają błędne konfiguracje uprawnień, ekspozycję zasobów oraz nadużycia tożsamości – LLM może przyspieszyć eskalację uprawnień po stronie napastnika, dlatego proces ich nadawania musi być jak najbardziej zautomatyzowany, standaryzowany i poddany ciągłej kontroli. Osobną kategorią strategii obronnych jest bezpieczne korzystanie z samych LLM-ów w organizacji. Należy wprowadzić polityki, które jasno określają, jakiego typu dane wolno wprowadzać do zewnętrznych usług AI (np. zakaz wklejania danych osobowych, tajemnic przedsiębiorstwa, kodu zawierającego klucze API), a także wdrożyć mechanizmy DLP i klasyfikacji informacji, które ograniczają możliwość nieświadomego „wyniesienia” wrażliwych treści do publicznych modeli. W bardziej dojrzałych organizacjach warto rozważyć wdrożenie prywatnych, izolowanych instancji LLM (np. on‑premise lub w ramach prywatnej chmury), z kontrolą dostępu, logowaniem zapytań i odpowiedzi oraz wbudowanymi filtrami bezpieczeństwa. Wszystkie aplikacje i dostawcy, którzy integrują LLM-y w swoich produktach (systemy helpdesk, CRM, narzędzia developerskie), powinni przechodzić dodatkową ocenę ryzyka: jak dane są anonimizowane, gdzie są przechowywane, czy dostawca może wykorzystywać je do trenowania modeli, jakie mechanizmy audytu oraz kasowania historii interakcji są dostępne. Na koniec nie można pominąć roli automatyzacji reakcji na incydenty – skoro ataki są coraz bardziej zautomatyzowane, obrona także musi przyspieszyć. Orkiestracja bezpieczeństwa (SOAR) umożliwia budowę playbooków reagowania na typowe scenariusze LLM‑assisted (nagła fala bardzo wiarygodnych phishingów, nietypowe użycie konta uprzywilejowanego, zautomatyzowane skanowanie zasobów), co skraca czas od wykrycia do izolacji zagrożenia i ogranicza szkody zanim kampania napędzana przez modele językowe zdąży się w pełni rozwinąć.

Podsumowanie

Modele LLM otwierają nowe możliwości dla cyberprzestępców, automatyzując wiele aspektów ataków i zwiększając ich skuteczność. W artykule omówiliśmy różne sposoby, w jakie hakerzy wykorzystują LLM do przejmowania kontroli nad systemami IT oraz jakie są najnowsze strategie obronne. Świadomość potencjalnych zagrożeń oraz zastosowanie odpowiednich środków bezpieczeństwa, takich jak aktualizacja oprogramowania i użycie zaawansowanych narzędzi ochrony, jest kluczowa w walce z tym dynamicznie rozwijającym się zagrożeniem. Zachowanie czujności i regularne edukowanie się z zakresu cyberbezpieczeństwa pomoże każdej organizacji w skutecznej ochronie przed LLM-y.