Pracownik zobaczył dyrektora na ekranie i zrobił przelewy na 25,6 mln dolarów. To był deepfake

W deepfakach podrabiane są głosy szefów lub nawet całe spotkanie wideo. Nowe badanie pokazuje skalę niewiedzy, a eksperci wskazują procedury chroniące firmy.

Na ekranie pracownik widział dyrektora finansowego i kilku współpracowników. Słyszał ich głosy, obserwował twarze, uczestniczył w wideokonferencji. Po spotkaniu wykonał 15 przelewów o łącznej wartości 25,6 mln dolarów. Dopiero później wyszło na jaw, że osoby, którym zaufał, zostały cyfrowo podrobione. Sprawę opisał Interpol jako jeden z najpoważniejszych przykładów oszustwa z użyciem syntetycznych mediów.[1]

W Polsce 9 proc. uczestników nowego badania zadeklarowało, że na służbowym sprzęcie zetknęło się z próbą podszycia pod współpracownika lub kontrahenta za pomocą sklonowanego głosu albo wizerunku. Jednocześnie 57 proc. nie zna pojęcia deepfake.[2] Problem firm nie zaczyna się więc od niedoskonałości generatorów. Zaczyna się w chwili, gdy twarz i głos nadal traktujemy jak dowód tożsamości.

Wideokonferencja, na której fałsz wyglądał jak zespół

Ofiara opisanego przez Interpol oszustwa początkowo miała wątpliwości. Prośba o poufny przelew wydawała się nietypowa. Podejrzenia osłabły jednak, gdy podczas rozmowy zobaczyła nie jedną, lecz kilka znajomych osób. Syntetyczne twarze, głosy i zachowanie uczestników stworzyły wrażenie prawdziwego firmowego spotkania. Autorytet przełożonego został wzmocniony obecnością grupy.[1]

Przestępca nie musi przygotować filmu bez skazy. Wystarczy, że połączy kilka elementów, którym pracownik zwykle ufa: firmowy komunikator, nazwisko menedżera, znajomy sposób mówienia, pośpiech, tajemnicę i polecenie finansowe. Deepfake staje się wtedy częścią klasycznej socjotechniki. Nie zastępuje oszustwa. Zwiększa jego wiarygodność.

Właśnie dlatego zagrożenie nie dotyczy wyłącznie polityków i celebrytów. Publicznie dostępne wywiady, webinary, nagrania konferencji oraz filmy z mediów społecznościowych dostarczają próbek obrazu i głosu. Im bardziej widoczny w sieci jest prezes, dyrektor finansowy, handlowiec albo ekspert firmy, tym więcej materiału może zebrać napastnik.

Co to jest deepfake?

Deepfake nie jest nazwą każdej nieprawdziwej treści utworzonej przy komputerze. Unijny AI Act definiuje go jako obraz, dźwięk lub film wygenerowany albo zmanipulowany przez sztuczną inteligencję, który przypomina istniejącą osobę, obiekt, miejsce, podmiot lub wydarzenie i może fałszywie uchodzić za autentyczny.[3]

W praktyce pojęcie obejmuje kilka różnych technik. Algorytm może podmienić twarz, dopasować ruch ust do nowej wypowiedzi, przenieść mimikę z jednej osoby na drugą, sklonować głos albo wygenerować całe zdarzenie, które nigdy nie miało miejsca. Fałszywy e-mail napisany przez model językowy jest syntetyczną treścią, ale sam w sobie nie musi być deepfake'em. Podobnie zwykły fotomontaż wykonany bez użycia AI pozostaje manipulacją, choć nie spełnia definicji z AI Act.

Rozróżnienie ma znaczenie w sporze Rafała Brzoski z Metą. W części oszukańczych reklam wykorzystano technikę lip-sync: podrobiony głos zsynchronizowano z ruchem ust przedsiębiorcy, aby wyglądało, że poleca fałszywą inwestycję. NASK zakwalifikował te nagrania jako deepfake.[4] Najnowsza grafika, pokazująca postać z twarzą Brzoski w szlafroku i kajdankach, jest bez wątpienia spreparowanym materiałem. Bez analizy pliku nie da się jednak uczciwie przesądzić, czy powstała przy użyciu generatywnej AI, czy innej techniki edycji.

57 proc. badanych nie zna terminu. To nie jest wynik dla wszystkich Polaków

Informacja prasowa ESET i DAGMA Bezpieczeństwo IT opiera się na trzeciej edycji raportu „Cyberportret polskiego biznesu 2026”. Badanie przeprowadził w marcu 2026 roku instytut ARC Rynek i Opinia. W ankiecie internetowej CAWI uczestniczyło 1026 osób pracujących przy komputerze co najmniej trzy dni w tygodniu. Próba obejmowała także ekspertów cyberbezpieczeństwa z firm zatrudniających minimum dziesięć osób.[2]

W tej grupie:

• - 57 proc. nie wiedziało, co oznacza pojęcie deepfake; .[2]
• - 70 proc. nie było w pełni przekonanych, że potrafiłoby odróżnić materiał wygenerowany przez AI od prawdziwego;
• - 23 proc. zadeklarowało, że zostało oszukanych przez sfałszowane materiały;
• - 9 proc. zetknęło się na sprzęcie służbowym z próbą podszycia pod współpracownika lub kontrahenta za pomocą sklonowanego głosu albo obrazu;
• - 57 proc. obawiało się kradzieży tożsamości przy użyciu ataków wspieranych przez AI

Liczby trzeba opisywać precyzyjnie. Nie jest to sondaż całej dorosłej populacji ani wszystkich zatrudnionych, lecz osób regularnie pracujących przy komputerze. Sformułowanie „23 proc. zostało oszukanych” nie pozwala też bez kwestionariusza ustalić, czy respondenci uwierzyli w fałszywą treść, ujawnili dane, czy ponieśli stratę finansową. Materiał prasowy nie rozdziela tych sytuacji.

Autorzy wskazują ponadto, że rok wcześniej pojęcia deepfake nie znało 58 proc. ankietowanych. Różnica wynosi zaledwie jeden punkt procentowy. Bez informacji o błędzie oszacowania i teście istotności nie można uznać jej za rzeczywistą poprawę. Równie dobrze może być wahaniem próby. Uzasadniony wniosek jest węższy: w dwóch kolejnych edycjach ponad połowa badanych pracowników nie znała terminu.

Człowiek rozpoznaje deepfake niewiele lepiej niż przy rzucie monetą

Nieznajomość nazwy to tylko część kłopotu. Można wiedzieć, czym jest deepfake, a mimo to go nie wykryć. Alexander Diel i współautorzy przeanalizowali 56 badań obejmujących łącznie 86 155 uczestników. Średnia skuteczność rozpoznawania fałszywych materiałów wyniosła 55,54 proc., a przedział ufności obejmował poziom przypadku. Ludzie lepiej identyfikowali treści prawdziwe niż syntetyczne.[5]

Inne badanie, przeprowadzone w Stanach Zjednoczonych na grupie 2016 osób, celowo nie uprzedzało uczestników, że część oglądanych filmów może być spreparowana. Trafność odpowiedzi wyniosła 51 proc. Badani radzili sobie więc niemal tak, jakby zgadywali. Wyniki zależały również od cech osoby oglądającej i postaci przedstawionej w nagraniu.[6]

To podważa popularną poradę, aby po prostu uważnie patrzeć na usta, zęby, dłonie i cienie. Takie ślady nadal bywają pomocne. NASK wskazuje również na nienaturalną intonację, brak płynności, błędy językowe, niezgodność gestów z wypowiedzią i filtry maskujące niedoskonałości obrazu.[7] Brak tych usterek nie dowodzi jednak autentyczności. Generatory zmieniają się szybciej niż listy charakterystycznych błędów.

Nie ma też jednego programu, który rozwiązuje problem. W benchmarku Deepfake-Eval-2024 sprawdzono współczesne nagrania, dźwięki i obrazy z 88 serwisów oraz 52 języków. Wyniki czołowych otwartych detektorów gwałtownie spadły w porównaniu ze starszymi, laboratoryjnymi zestawami testowymi: wskaźnik AUC obniżył się o około 45-50 proc., zależnie od rodzaju materiału. Autorzy przedstawili pracę jako preprint, więc wynik wymaga dalszej oceny naukowej. Dobrze pokazuje jednak znany problem: system nauczony na wczorajszych fałszerstwach może nie rozpoznać techniki, która pojawiła się dziś.[8]

Jak wygląda atak deepfake na firmę

Najskuteczniejsza operacja nie zaczyna się od generatora, lecz od rozpoznania celu. Przestępcy zbierają nagrania osoby, pod którą chcą się podszyć, poznają strukturę przedsiębiorstwa, nazwiska pracowników i sposób komunikacji. Informacji dostarczają profile zawodowe, strona spółki, transmisje konferencji, rejestry publiczne, przejęta skrzynka pocztowa albo wcześniejszy phishing.

Następnie pojawia się pretekst. Może nim być pilna faktura, poufne przejęcie, zmiana rachunku bankowego kontrahenta, awaria systemu płatności, prośba o kod uwierzytelniający lub telefon od członka zarządu. Fałszywy głos albo obraz ma zamknąć ostatnią lukę w historii: skoro pracownik widzi szefa i słyszy jego ton, polecenie wydaje się potwierdzone.

Ostrzeżeniem jest nie sama jakość nagrania, lecz zmiana normalnego procesu. Napastnik chce ominąć drugą akceptację, przyspieszyć przelew, przenieść rozmowę do innego komunikatora, zmienić numer rachunku bez dokumentów albo utrzymać zadanie w tajemnicy. Presja czasu i autorytet są bardziej użyteczne niż perfekcyjna animacja.

Procedura jest skuteczniejsza niż wzrok i słuch

Firma nie powinna wymagać od księgowej, asystenta czy handlowca, aby zostali ekspertami kryminalistyki cyfrowej. Ich zadaniem ma być uruchomienie procedury, gdy pojawia się nietypowa prośba. To ważna zmiana: pracownik nie musi udowodnić, że rozmawia z deepfake'em. Wystarczy, że nie potwierdzi tożsamości nadawcy niezależnym sposobem.

Podstawowy zestaw zabezpieczeń obejmuje:

• 1. Oddzielny kanał potwierdzenia. Prośbę o przelew, ujawnienie danych, zmianę rachunku lub reset dostępu trzeba zweryfikować telefonicznie albo osobiście. Numer należy wziąć z firmowego katalogu lub wcześniejszej, sprawdzonej dokumentacji, a nie z wiadomości przesłanej przez osobę wydającą polecenie.
• 2. Dwie osoby przy operacji podwyższonego ryzyka. Nowy odbiorca, nietypowa kwota, pilny przelew i zmiana danych kontrahenta powinny wymagać niezależnej akceptacji. Głos prezesa podczas wideokonferencji nie może znosić tej zasady.
• 3. Brak wyjątków dla kierownictwa. Procedura traci sens, jeżeli można ją ominąć hasłem „zarząd już zatwierdził” albo „to sprawa poufna”. Im wyższy autorytet nadawcy i większa presja, tym dokładniej trzeba sprawdzić dyspozycję.
• 4. Uwierzytelnianie wieloskładnikowe i ograniczone uprawnienia. MFA nie rozpozna podrobionego głosu, ale utrudni przejęcie poczty oraz komunikatora. Limity transakcyjne i rozdzielenie ról ograniczą szkodę, gdy socjotechnika zadziała.
• 5. Ćwiczenia oparte na decyzji, nie na zgadywaniu. Szkolenie powinno symulować telefon od przełożonego, spotkanie wideo i zmianę numeru konta. Pracownik ma przećwiczyć przerwanie rozmowy, weryfikację w katalogu oraz eskalację, zamiast wyłącznie szukać artefaktów na twarzy.
• 6. Szybka reakcja po błędzie. Po podejrzanej dyspozycji należy wstrzymać operację, skontaktować się z bankiem, zabezpieczyć konta i zachować oryginalne wiadomości, pliki oraz dane połączenia. Materiału nie powinno się ponownie kompresować ani przerabiać, ponieważ może to zniszczyć część śladów przydatnych w analizie.[1]

FBI zaleca firmom potwierdzanie dyspozycji płatniczych osobiście lub przez telefon, szczególnie gdy zmienia się rachunek albo sposób rozliczenia. To reguła wypracowana przy oszustwach typu business email compromise, ale pozostaje skuteczna również wtedy, gdy do fałszywego e-maila przestępcy dodają syntetyczny głos i obraz.[9]

AI Act każe oznaczać deepfake'i, ale oszust nie doda etykiety

Od 2 sierpnia 2026 roku stosuje się art. 50 unijnego AI Act. Dostawcy systemów generujących lub modyfikujących obraz, dźwięk, film i tekst mają zapewnić techniczne, możliwe do odczytu maszynowego oznaczenia pochodzenia. Ograniczony wyjątek dotyczy systemów wprowadzonych na rynek przed tą datą: obowiązek technicznego znakowania ich treści zacznie być egzekwowany 2 grudnia 2026 roku. Podmioty zawodowo wykorzystujące system AI do publikacji deepfake'u muszą ujawnić odbiorcy, że materiał został wygenerowany albo zmanipulowany. Dla utworów wyraźnie artystycznych, satyrycznych i fikcyjnych przewidziano łagodniejszy sposób oznaczenia, który nie powinien przeszkadzać w odbiorze dzieła.[3][10]

Przepis może uporządkować działalność legalnych twórców, agencji, reklamodawców i platform. Nie jest jednak systemem uwierzytelniania rozmówcy. Przestępca nie oznaczy fałszywego polecenia przelewu tylko dlatego, że wymaga tego rozporządzenie. Metadane mogą też zostać usunięte podczas kopiowania pliku albo publikacji w serwisie, który ich nie zachowuje.

Etykieta jest więc dodatkową informacją, nie certyfikatem prawdy. Jej obecność ostrzega, że materiał powstał przy udziale AI. Brak oznaczenia nie potwierdza autentyczności. Unijny kodeks praktyk ma poprawić znakowanie i odczytywanie takich danych, ale przystąpienie do niego jest dobrowolne, choć same obowiązki z art. 50 pozostają wiążące.[10]

Głos przestał być "podpisem"

Spór Brzoski z Metą unaocznił publiczną stronę problemu: znana twarz może posłużyć do reklamy fałszywej inwestycji. Dla przedsiębiorstw groźniejsza bywa sytuacja mniej widowiskowa. Nie ma miliona wyświetleń. Jest jedna rozmowa, jeden pracownik z uprawnieniami i jeden przelew.

„Zbliżamy się do momentu, gdy głos rozmówcy po drugiej stronie telefonu może być cyfrowym klonem” - ostrzega Dawid Koziorowski z DAGMA Bezpieczeństwo IT.[2]

Ten moment już nadszedł. Obroną nie może być zapewnienie, że pracownicy rozpoznają fałszywy ton albo źle wygenerowane zęby. Skuteczny system zakłada coś przeciwnego: obraz i dźwięk mogą wyglądać prawdziwie. Dopiero drugi kanał, druga osoba i niezmienna procedura zamieniają podejrzenie w kontrolę.

Źródła:

[1] INTERPOL, Beyond Illusions: Unmasking the Threat of Synthetic Media for Law Enforcement, czerwiec 2024, 15-16, 

[2] ESET i DAGMA Bezpieczeństwo IT, „Co 4. polski pracownik oszukany przez fałszywe materiały AI. Wiedza o deepfake stoi w miejscu od roku - czy pomoże AI Act?”, 12 sierpnia 2026, badanie ARC Rynek i Opinia, CAWI, N = 1026, 

[3] Parlament Europejski i Rada Unii Europejskiej, Rozporządzenie (UE) 2024/1689 z 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, art. 3 pkt 60 i art. 50, Dz.U. UE L, 2024/1689, 

[4] NASK, „NASK ostrzega: rośnie liczba oszustw deepfake wykorzystujących wizerunki znanych osób”, 17 maja 2024, 

[5] Alexander Diel, Tania Lalgi, Isabel Carolin Schröter, Karl F. MacDorman, Martin Teufel i Alexander Bäuerle, „Human Performance in Detecting Deepfakes: A Systematic Review and Meta-Analysis of 56 Papers”, Computers in Human Behavior Reports 16 (2024): 100538.

[6] Juniper Lovato i in., „Diverse Misinformation: Impacts of Human Biases on Detection of Deepfakes on Networks”, npj Complexity 1 (2024): 5.

[7] NASK, „Usta, głos, treść, tło. Umiesz rozpoznać deepfake? Sprawdź! Pomogą ci w tym eksperci NASK”, 15 stycznia 2025.

[8] Nuria Alina Chandra i in., „Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024”, arXiv, 4 marca 2025.

[9] Federal Bureau of Investigation, „Business Email Compromise”, dostęp 20 sierpnia 2026.

[10] Komisja Europejska, „Transparency Obligations under Article 50 of the AI Act”, 24 lipca 2026, „Code of Practice on Transparency of AI-Generated Content”, 31 lipca 2026, https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content.

Pobierz ebook "Książka o Egipcie, jakiego nie pokazują wycieczki. Śladami starożytnych królowych i polskich archeologów"