Boj dobré a zlé umělé inteligence

Éra složitého padělání dokladů je zřejmě definitivně za námi. Co dříve vyžadovalo hodiny práce zkušeného grafika, dnes zvládne umělá inteligence během několika vteřin. Generativní AI se stává mocným nástrojem nejen v rukou poctivých uživatelů, ale i těch, kteří mají nekalé úmysly. „Umělá inteligence během několika sekund vytvoří falešné průkazy totožnosti, bankovní výpisy nebo účty za služby,“ varuje v rozhovoru Joe Lemonnier, ředitel produktového marketingu českého startupu Resistant AI.

Jak se v posledních letech vyvinuly hrozby související s finančními podvody s nástupem generativní umělé inteligence a jakou roli hraje Resistant AI v této nové éře?

Generativní umělá inteligence se využívá různými způsoby k urychlení podvodných taktik, například k vytváření důvěryhodnějších podvodných zpráv. Jedním z nejzajímavějších aspektů je však její použití při tvorbě falešných finančních dokumentů, a co je ještě významnější, její schopnost umožnit i lidem bez znalostí programování automatizovat procesy a masivně škálovat jejich tvorbu.

Představte si situaci, kdy někdo vezme stovky identit, které získal z úniku dat, nahraje je do tabulky a pomocí automatizace vytvoří během několika sekund falešné občanské průkazy, bankovní výpisy nebo účty za služby pro každou z nich. Resistant AI Documents byl vyvinut speciálně pro odhalování takových padělků.

Vaše řešení slibují automatickou identifikaci padělků a podezřelých transakcí. Můžete technicky přiblížit, jak vaše AI modely dokáží rozpoznávat sofistikované padělky dokumentů, které by lidskému oku mohly snadno uniknout?

Padělané PDF dokumenty nebo obrázky mohou být pouhým okem prakticky neviditelné, a to díky nástrojům, které jsou dnes snadno dostupné každému. Druhou výzvou je velká rozmanitost typů dokumentů, které mohou být padělány. Resistant AI využívá více než 500 různých modelů pro analýzu dokumentů, přičemž většina z nich se zaměřuje na univerzální typologie padělků.

Nejjednodušším příkladem by mohly být nekonzistentní fonty, ale naše analýza jde mnohem hlouběji. Díky tomu dokážeme odhalit podvody i na dokumentech, které jsme nikdy předtím neviděli. Navíc mapujeme způsoby, jakým vydavatelé vytvářejí své dokumenty, což nám umožňuje porovnat například výpis vypadající jako od Airbank s jeho skutečnou podobou. 

Nakonec porovnáváme všechny dokumenty dohromady, abychom odhalili pokusy o opakované použití dokumentů nebo využití šablon nalezených online. Důležité je, že nečteme obsah – nezajímá nás, co jednotlivá slova znamenají, ale jak jsou vytvořena. Díky tomu zachováváme soukromí a jsme jazykově nezávislí, takže dokážeme ověřit jakýkoliv dokument odkudkoliv na světě během několika sekund.

S rozvojem generativní AI a dalších pokročilých technologií se objevují obavy, že stejné nástroje mohou být využity i podvodníky k vytváření sofistikovanějších útoků. Jak se jako společnost stavíte k tomuto paradoxu, kdy vyvíjíte AI proti hrozbám, které mohou být samy posíleny pomocí AI?

Tento paradox řešíme tím, že ho přijímáme. Naším sloganem je, že na boj se špatnou AI potřebujete dobrou AI. S tím, jak se podvody s dokumenty stávají neviditelnými pro lidské oko, je důležité využít AI, aby čelila této hrozbě. Nemyslíme si však, že by lidé měli být z tohoto procesu vyřazeni. Počítače jsou dobré v tom, co lidem nejde a naopak. Pokud jde o detekci známých podvodů, zde AI opravdu exceluje, protože dokáže zpracovat obrovské objemy dat způsobem, jakým to lidé nedokážou. AI může analyzovat příchozí dokumenty a odhalovat opakující se vzorce znovu a znovu způsobem, který je pro lidi nemožný. Pokud byste se o to pokusili s lidskými týmy pro řízení rizik, brzy by vyhořely. AI by však měla být využívána k tomu, aby odhalila skutečně inovativní a složité problémy, které mohou řešit pouze lidé díky své nadřazené kognitivní a kreativní inteligenci.

Pro mnoho běžných uživatelů je AI stále tajemný black box, který jim odpovídá na otázky nebo generuje obrázky podle zadání. Jak dokáže takový uživatel pracovat s vaší umělou inteligencí? Mám si ji představit jako chatbota?

Interakce s naší AI je jednoduchá: uživatelé si mohou otevřít rozhraní a jednoduše přetáhnout dokumenty do něj (případně přes naše API, které je na zhruba 14 řádků kódu).

Nejsme však klon ChatGPT. Dnešní svět často mluví o AI, jako by šlo o jednotný fenomén. Ve skutečnosti ale existuje mnoho různých forem umělé inteligence. Náš přístup na tom staví: využíváme mnoho různých modelů, které spolupracují a vytvářejí jakési „moudro algoritmického davu“ na základě jejich verdiktů. Každý model vypracuje výstup a společně dají dohromady podrobný příběh daného dokumentu týmům zabývajícím se riziky a podvody. U nás neexistuje žádný black box—nežádáme vás, abyste nám slepě důvěřovali, místo toho vám ukazujeme, jak jsme k výsledkům dospěli.

Pracujete s českými dodavateli? Co vám na nich vyhovuje? A jsou nějak oproti zahraničním firmám jiní?

Z bezpečnostních důvodů spolupracujeme pouze s omezeným počtem dodavatelů. Jedním z českých dodavatelů, se kterým úzce spolupracujeme, je KOALA42, která nám pomáhá s tvorbou webového rozhraní našeho produktu. Jsme specialisté na AI, takže naše rozhraní bylo původně vnímáno jen jako demonstrační nástroj.

Ve skutečnosti se ale stalo jedním z nejoblíbenějších způsobů, jak lidé využívají naši službu – protože nevyžaduje žádnou složitou implementaci a umožňuje snadné přetahování dokumentů. Práce, kterou jsme odvedli společně s KOALA42, je hlavním důvodem, proč naši zákazníci nejvíce oceňují naše řešení. Díky tomu se detekce pomocí AI stává pro uživatele konkrétní a umožňuje jim na vlastní oči vidět věci, které dříve neviděli.

Jakými metrikami měříte úspěšnost vaší umělé inteligence při odhalování podvodů? Můžete uvést nějaká konkrétní čísla, která demonstrují efektivitu vašich nástrojů?

Na tuto problematiku se díváme z několika různých úhlů. Prvním je měření toho, kolik dodatečných podvodů dokážeme v libovolné datové sadě odhalit. Byli jsme schopni detekovat až třikrát více podvodů, než o kterých zákazník věděl, takže nárůst v odhaleních může být obrovský – a v případě půjček nebo pojistných událostí to může znamenat významné finanční úspory.

Dalším důležitým ukazatelem je rychlost rozhodování. Pokud musíte ručně přezkoumávat dokument, abyste zjistili, zda je pravý – pokud musíte kontaktovat původního vydavatele dokumentu a čekat na jeho odpověď – může trvat dlouho, než učiníte finální rozhodnutí. To je čas, během kterého vaši poctiví zákazníci čekají, než budou moci využít vaše služby. Když byste mohli rozhodnout během několika sekund, o kolik produktivnější byste mohli být? O kolik více obchodů byste mohli uzavřít?

A nakonec je tu přesnost. Ale nejen v tom smyslu, zda máme pravdu nebo se mýlíme ohledně podvodu. Každá finanční instituce má jiný přístup k riziku. Některé jsou ochotné podstoupit větší riziko, jiné méně. Proto přizpůsobujeme náš systém jejich ochotě riskovat, aby verdikty pro každý jednotlivý dokument odpovídaly jejich požadavkům na riziko. A jsme schopni to dělat s přesností 99,2 %. Jsme v tom tak dobří, že někteří naši zákazníci dokonce znemožnili svým týmům přepisovat verdikty naší AI, protože opakovaně zjistili, že jsme měli pravdu a oni se mýlili. Nyní tedy eskalace probíhá přes jejich manažery.

Podařilo se vám během vaší činnosti odhalit nějaký podvod, který jste museli řešit s policií?

Několikrát, a spolupracujeme s různými složkami – ale z důvodu ochrany soukromí nemůžeme sdílet podrobnosti. Největší výzvou v tomto ohledu je snadná dostupnost falešných dokumentů, které lze najít online jednoduchým vyhledáváním na Googlu. Tyto stránky fungují v mnoha jurisdikcích, často v oblastech, kam se policie snadno nedostane, a i kdyby mohla, zločinci mají připravené záložní stránky pod různými názvy, které jsou již aktivní a funkční.