Strażnicy AI: w świecie wykrywania oszustw, gdzie stawką jest wysoka stawka

Jest 2 w nocy w centrum dowodzenia cyberbezpieczeństwem Western Union, a Maya Patel nie mrugnęła od kilku godzin. Trzy nietypowe wzorce transakcji zostały właśnie oznaczone przez system wykrywania oszustw AI firmy. Fala przelewów pieniężnych z kont w Nebrasce na Ukrainę, wszystkie tuż poniżej progu raportowania. Zbyt podobne, aby były zbiegiem okoliczności, zbyt idealne, aby były losowe.
„To już trzeci raz w tym tygodniu” – mruczy Maya, stukając w klawiaturę z wyćwiczoną precyzją. Za nią ogromne ekrany wyświetlają kolorowe wizualizacje globalnych przepływów transakcji. Jej asystent AI już sporządził raport, podświetlając podejrzane wzorce na czerwono. Lata temu zajęłoby to zespołowi analityków kilka dni. Teraz dzieje się to w ciągu kilku sekund.

Jesteśmy świadkami cichej wojny — prowadzonej nie przy użyciu broni i bomb, ale algorytmów i danych. Ponieważ transakcje cyfrowe stały się kręgosłupem naszej gospodarki, oszustwa finansowe ewoluowały od prymitywnych oszustw do wyrafinowanych ataków organizowanych przez międzynarodowe syndykaty przestępcze i hakerów sponsorowanych przez państwo.
Tylko w 2023 roku oszustwa kosztowały światową gospodarkę ponad 5,5 biliona dolarów. Pole bitwy jest wszędzie: transakcje kartami kredytowymi, wnioski o pożyczki, roszczenia ubezpieczeniowe i coraz częściej giełdy kryptowalut.
„Większość ludzi nie zdaje sobie sprawy, że są chronieni przez sztuczną inteligencję za każdym razem, gdy przesuwają swoją kartę” — mówi dr Raj Sharma, główny naukowiec ds. danych w Mastercard. „Systemy, które zbudowaliśmy, analizują ponad 75 miliardów transakcji rocznie, podejmując w ułamku sekundy decyzje o zatwierdzeniu lub odrzuceniu. I stają się coraz mądrzejsze każdego dnia”.
Siedzę w centrum technologicznym Mastercard w Nowym Jorku, gdzie dr Sharma pokazuje mi wizualizacje ich sieci neuronowych w pracy. Wyświetlacze przypominają mi konstelacje, w których jasne węzły rozświetlają się, gdy z morza danych wyłaniają się wzory.

Tradycyjne wykrywanie oszustw opierało się na sztywnych regułach: jeśli transakcja spełnia określone kryteria, należy ją oznaczyć do sprawdzenia. Jednak wyrafinowani oszuści szybko nauczyli się oszukiwać te systemy.
„Reguły są jak zamki” — wyjaśnia Sarah Chen, była specjalistka ds. cyberprzestępczości w FBI, która obecnie prowadzi własną firmę konsultingową ds. bezpieczeństwa. „Gdy ktoś zrozumie, jak działają, może je otworzyć. Potrzebowaliśmy zamka, który stale zmienia swój mechanizm”.
Wkracza uczenie maszynowe. Zamiast przestrzegać wyraźnych reguł, nowoczesne systemy AI uczą się na podstawie wzorców historycznych, identyfikując subtelne korelacje, których analitycy mogliby nie zauważyć.
W siedzibie firmy przetwarzającej płatności Stripe w San Francisco pokazano mi demonstrację ich systemu wykrywania oszustw. Zespół wprowadza do niego serię transakcji, niektóre legalne, niektóre oszukańcze. AI nie tylko wykrywa oczywiste sygnały ostrzegawcze — zauważa, że oszukańcze transakcje często pochodzą z kont utworzonych w weekendy lub mają tendencję do nieco innych wzorców pisania podczas wprowadzania informacji.
„Ludzie to istoty przyzwyczajenia” — mówi Miguel Gonzalez, dyrektor ds. ryzyka w Stripe. „Nawet najbardziej ostrożni oszuści pozostawiają wzorce. Nasze systemy potrafią wykrywać rytmy uderzeń w klawisze, ruchy myszy, a nawet sposób, w jaki ktoś porusza się po stronie internetowej. Te behawioralne dane biometryczne są niemal niemożliwe do idealnego naśladowania”.

Pomimo cudu technologii, ludzkie doświadczenie pozostaje kluczowe. W centrum zarządzania ryzykiem PayPal w Omaha analitycy przeglądają przypadki oznaczone przez systemy AI, dostarczając informacji zwrotnych, które pomagają algorytmom się rozwijać.
„AI jest naszą pierwszą linią obrony, ale nie jest nieomylna” — mówi Jennifer Wu, starsza analityczka ds. oszustw. „Czasami legalne transakcje wyglądają podejrzanie, a czasami oszustwo jest tak nowe, że system nigdy wcześniej czegoś takiego nie widział. Potrzebujemy ludzkiej oceny, aby podjąć ostateczną decyzję w tych skrajnych przypadkach”.
To hybrydowe podejście — łączące moc obliczeniową AI z ludzką intuicją — okazało się niezwykle skuteczne. Visa informuje, że ich system wykrywania oszustw oparty na AI pomógł zapobiec próbom oszustw o wartości szacowanej na 25 miliardów dolarów w samym ubiegłym roku.

W miarę jak systemy wykrywania stają się bardziej wyrafinowane, tak samo ataki. Oszuści sami wykorzystują teraz sztuczną inteligencję, tworząc deepfake'i, aby ominąć systemy uwierzytelniania głosowego lub generując syntetyczne tożsamości, które mogą przejść kontrole weryfikacyjne.
„To wyścig zbrojeń” — wzdycha dr Emily Rosenberg, badaczka cyberbezpieczeństwa w MIT. „Za każdym razem, gdy opracowujemy lepsze zabezpieczenia, oni opracowują lepsze ataki. Zaletą jest to, że defensywna sztuczna inteligencja może uczyć się na podstawie milionów legalnych transakcji, podczas gdy oszuści mają ograniczone dane do wykorzystania”.
Patrzę, jak demonstruje nowy typ ataku — generatywną sieć przeciwstawną (GAN), która tworzy fikcyjne, ale wiarygodne wzorce korzystania z kart kredytowych. System jest niepokojąco skuteczny, ale nadal uruchamia pewne alarmy w nowoczesnych systemach wykrywania.

Techniki zapoczątkowane w wykrywaniu oszustw finansowych są obecnie stosowane w różnych branżach. Firmy ubezpieczeniowe używają podobnych systemów AI do oznaczania podejrzanych roszczeń. Platformy e-commerce wykorzystują je do wykrywania fałszywych recenzji i podrobionych produktów. Agencje rządowe wykorzystują je do identyfikowania oszustw podatkowych i oszustw związanych ze świadczeniami.
W firmie ubezpieczeniowej Anthem systemy AI skanują miliony roszczeń dziennie, szukając wzorców, które mogą wskazywać na oszukańcze praktyki rozliczeniowe stosowane przez dostawców usług opieki zdrowotnej.
„Oszustwa w opiece zdrowotnej kosztują amerykańskich podatników około 300 miliardów dolarów rocznie” — mówi mi dr Marcus Johnson, dyrektor ds. analityki w Anthem. „Nasze systemy pomogły zidentyfikować kilka zorganizowanych grup oszustów działających w wielu stanach. W jednym przypadku znaleźliśmy sieć klinik wystawiających rachunki za procedury, które nigdy nie zostały wykonane, co potencjalnie pozwoliło zaoszczędzić setki milionów dolarów na oszukańczych roszczeniach”.

Skuteczność tych systemów wiąże się z drażliwymi pytaniami dotyczącymi prywatności. Więcej danych oznacza lepsze wykrywanie oszustw, ale także większe ryzyko nadużyć.
„Zawsze istnieje napięcie między bezpieczeństwem a prywatnością” — przyznaje Elena Vasiliev, obrończyni prywatności, która wcześniej pracowała nad systemami wykrywania oszustw w American Express. „Te same techniki, które pozwalają wykryć oszustwa, można również wykorzystać do nadzoru. Musimy uważać na to, ile informacji zbieramy i jak je wykorzystujemy”.
Niektóre firmy badają techniki, takie jak uczenie federacyjne, które umożliwia trenowanie modeli AI w wielu źródłach danych bez centralizowania poufnych informacji. Inne inwestują w szyfrowanie homomorficzne, które umożliwia analizę zaszyfrowanych danych bez ich wcześniejszego odszyfrowania.

Gdy o świcie opuszczam centrum dowodzenia Western Union, Maya Patel skutecznie zablokowała podejrzane transakcje i złożyła raport do jednostki ds. cyberprzestępczości FBI. System zaktualizował już swoje modele, aby rozpoznawać ten konkretny schemat oszustwa.
Następnym krokiem w wykrywaniu oszustw są komputery kwantowe i wyjaśnialna sztuczna inteligencja — systemy, które nie tylko potrafią wykrywać oszustwa, ale także jasno wyjaśniać, dlaczego oznaczyły daną transakcję. Ta przejrzystość będzie kluczowa, gdy zaostrzą się przepisy dotyczące podejmowania decyzji przez sztuczną inteligencję.
„Dziesięć lat temu nadrabialiśmy zaległości” — mówi mi Maya, gdy idziemy do windy. „Teraz zaczynamy wyprzedzać oszustów. Ale to nie jest bitwa, którą kiedykolwiek całkowicie wygramy. Dopóki można zarobić pieniądze, ludzie będą próbowali oszukać system”.
Zatrzymuje się, zanim doda: „Dobrą wiadomością jest to, że nasze narzędzia są z dnia na dzień coraz lepsze. I w przeciwieństwie do oszustów możemy dzielić się informacjami w całej branży. Każdy atak wzmacnia nas wszystkich”.
W miarę jak transakcje cyfrowe będą rosły pod względem wolumenu i złożoności, ta niewidzialna tarcza ochronna AI będzie stawać się coraz ważniejsza. Następnym razem, gdy firma obsługująca Twoją kartę kredytową wyśle SMS-a z prośbą o weryfikację nietypowego zakupu, pamiętaj: to tylko widoczny wierzchołek góry lodowej technologii, która po cichu chroni Twoje finanse przez całą dobę.
Czy systemy wykrywania oszustw oparte na AI ostatecznie sprawią, że oszustwa finansowe staną się przeszłością? Czy też zawsze będziemy uwięzieni w tej cyfrowej grze w kotka i myszkę, z coraz bardziej wyrafinowanymi atakami i obroną? Jedno jest pewne — przyszłość bezpieczeństwa finansowego będzie kształtowana zarówno przez linie kodu, jak i przez ludzi, którzy je piszą.