Jak podvodníci využívají umělou inteligenci k podvádění amerických rodin

Letos v říjnu spustil Bitdefender celostátní kampaň s názvem They Wear Our Faces (Oni nosí naše tváře), která odhaluje, jak podvodníci zneužívají důvěru a vztahy pomocí umělé inteligence k podvádění a vydávání se za jinou osobu.

Kampaň upozorňuje na rostoucí krizi ve Spojených státech, kde technologie deepfake a personalizované podvody rychle dominují mainstreamu zločinců. Kampaň They Wear Our Faces dramatizací toho, jak mohou zločinci klonovat hlasy, napodobovat obličeje a vydávat se za své blízké, zpochybňuje stigma, které nesou oběti – a otevírá diskusi o tom, co ochrana skutečně znamená v době podvodů poháněných umělou inteligencí.

Proč je to důležité

Spojené státy se staly hlavním světovým lovištěm podvodníků. Federální obchodní komise (FTC) uvádí, že jen Američané se v roce 2024 podíleli na hlášených ztrátách způsobených podvody ve výši více než 12,5 miliardy dolarů, což je dramatický nárůst oproti předchozím letům.

Na rozdíl od většiny ostatních zemí podvody v USA využívají všechny možné kanály – e-mail, SMS, sociální média a dokonce i zdánlivě legitimní digitální reklamy. Pro americké spotřebitele nebylo nikdy obtížnější rozlišovat mezi skutečnými nabídkami a podvodnými nabídkami.

Co odhaluje telemetrie Bitdefenderu

Data společnosti Bitdefender to potvrzují. Mezi březnem a zářím 2025 Spojené státy obdržely téměř 37% globálního spamu, což z nich činí hlavní cílovou skupinu na světě. V rámci těchto e-mailů bylo 45% globálního spamu, který Američané obdrželi, podvodných nebo škodlivých. Hlavní hrozby, které Bitdefender Antispam Lab označil, byly podvody, jako je phishing účtů a financí, podvody s platbami předem, pokusy o vydírání a dokonce i podvody při seznamování. Nejčastěji vydávané značky odrážejí každodenní služby, na které se Američané spoléhají: Microsoft (18%), Costco (14%), Amazon (12%), American Express (10%) a DocuSign (10%) patřily mezi nejčastější návnady používané k oklamání uživatelů, aby klikli na škodlivé odkazy nebo sdíleli citlivá data.

SMS podvody: Rostoucí problém spotřebitelů ve Spojených státech

Na vzestupu jsou také SMS podvody. Telemetrie Bitdefenderu ukazuje, že 10% uživatelů v USA obdrželo v posledních dvou měsících alespoň jeden SMS podvod. SMS podvody ve Spojených státech jsou obzvláště nebezpečné kvůli jejich pokročilé úrovni personalizace a sofistikovanosti . Zatímco podvody v Evropě nebo Kanadě se často spoléhají na zjevné vydávání se za jinou značku a přímé pokusy o krádež údajů o kartě, kampaně ve Spojených státech často napodobují legitimní agresivní marketingové taktiky tak přesvědčivě, že i opatrní uživatelé mohou mít problém rozeznat rozdíl. Podvodníci používají k upoutání pozornosti náhodné domény, naléhavé výzvy k akci a dokonce i jméno příjemce v textové zprávě , čímž stírají hranici mezi skutečnou propagací a pokusem o podvod. Tento zvýšený realismus činí SMS podvody cílené na americké spotřebitele jedinečně klamavými a hůře odhalitelnými. Mezi nejčastěji nahlášená témata mezi srpnem a zářím 2025 patří:

• Finance (26%)
• Vláda (14%)
• Zábava (11%)
• Zdravotní péče (9%)
• Pojištění (5%)
• Doručení (3%)
• Oznámení o výhrách (3%)

Mezi příklady patří naléhavá oznámení, jako například:

Napodobováním oficiálních programů, finančních institucí nebo naléhavých upozornění na ceny tyto SMS podvody stírají hranici mezi legitimním marketingem a kriminální manipulací, takže je obzvláště obtížné odhalit.

Více než e-mail a SMS: Podvodné kampaně posílené umělou inteligencí

Společnost Bitdefender Labs také sledovala podvodné a malwarové kampaně zaměřené na USA, které využívají umělou inteligenci a sociální inženýrství. Vyšetřování společnosti Bitdefender odhalilo:

• Škodlivé reklamní kampaně na platformě Meta, které distribuovaly pokročilý malware kradející kryptoměny uživatelům systému Android.
• Zbraněné reklamy na Facebooku zneužívají kryptoměnové značky ve vícestupňových malwarových kampaních.
• Sofistikované podvody s náborem na LinkedInu provozované skupinou Lazarus Group.
• Falešné reklamní kampaně na Facebooku vydávající se za Bitwarden, kombinující zneužívání značky s distribucí malwaru.

Jak umělá inteligence změnila podvodný byznys

Umělá inteligence zásadně změnila ekonomiku podvodů. Co dříve vyžadovalo týmy podvodníků a týdny přípravy, lze nyní provést během několika minut pomocí volně dostupných nástrojů. Stručně řečeno, umělá inteligence činí podvody rychlejšími, levnějšími a přesvědčivějšími.

Nedávné incidenty ukazují, jak nebezpečné se staly podvody poháněné umělou inteligencí:

• FBI nedávno varovala, že podvodníci se v rámci koordinovaných podvodných kampaní vydávali za americké úředníky pomocí technologie deepfake.
• Podle společnosti Bitdefender Labs útočníci také využívali lékařské experty generované umělou inteligencí v deepfake videích k propagaci falešných léčebných postupů a podvodů ve zdravotnictví.
• V Hongkongu zločinci použili falešný videohovor s finančním ředitelem, aby oklamali společnost a přiměli ji převést na její účty více než 25 milionů dolarů.

Výzkum společnosti Bitdefender zdokumentoval další podobné zneužívání, včetně deepfake videí Donalda Trumpa a Elona Muska v opakujících se formátech „podcastů“, které často propagují falešné investice do kryptoměn. Podvodníci také staví na starých podvodech s „rozdáváním“ a lstí lákají oběti k zaslání kryptoměny nebo předání osobních údajů výměnou za falešné odměny.

Nedávný případ vyšetřovaný společností Bitdefender toto riziko ilustruje: oběti obdržely e-mail od falešné investiční služby XDEX Investments, v němž se tvrdilo, že ze starého „plánu Infinity BTC“ vydělaly přes 2,99 BTC. Podvodná stránka lákala uživatele k přihlášení pomocí dočasných přihlašovacích údajů a vyzývala je k vyplnění formuláře KYC (Know Your Customer), který požadoval nejen osobní údaje, ale také selfie s průkazem totožnosti vydaným vládou.

Tato taktika je obzvláště nebezpečná v kontextu podvodů s využitím umělé inteligence a deepfake impersonací. Jakmile zločinci získají taková biometrická data – vysoce kvalitní fotografii obličeje vedle oficiálních dokumentů – mohou být použita k podnícení podvodů s impersonací, generování deepfakeů nebo obcházení systémů rozpoznávání obličeje. Podvodníci v podstatě lstí lákají oběti, aby jim poskytly perfektní surovinu pro další generaci podvodů řízených umělou inteligencí.

Zároveň se stále objevují další podvodné trendy poháněné umělou inteligencí. V USA společnost Bitdefender nahlásila podvodnou kampaň využívající fotografie generované umělou inteligencí a emocionální reklamní texty používané při „uzavření prodeje“, kde falešné webové stránky vytvářejí naléhavost ohledně mizejících obchodů. Díky umělé inteligenci mohou i kyberzločinci, kteří nemluví anglicky, bez námahy generovat propracovaný anglický obsah, díky čemuž jsou jejich podvody přesvědčivější než kdy dříve.

Zde je příklad, jak snadné je vytvořit deepfake video z jediného snímku obrazovky:

Nosí naše tváře: Od masových útoků k vydávání se za nás

Další fáze podvodů jde nad rámec masových útoků. Podvodníci stále častěji přijímají vysoce personalizované formy vydávání se za jinou osobu a využívají právě to, co nás dělá lidmi – naše tváře, naše hlasy a naše vztahy.

Podvody s klonováním hlasu nyní napodobují hlasy dětí nebo příbuzných, aby požadovaly okamžité platby. Videa generovaná umělou inteligencí využívají ukradené fotografie ze sociálních médií k vytváření přesvědčivých romantických nebo investičních nabídek. V některých případech se biometrické údaje, jako jsou obličeje nebo hlasy, získávají z phishingových kampaní, aby se podpořily budoucí deepfake podvody.

Podvodné akce v nouzi také ukazují, jak zničující může být tato emocionální manipulace. Oběti mohou obdržet hovor, e-mail nebo zprávu na sociálních sítích od někoho, kdo tvrdí, že je členem rodiny v nouzi, údajně zatčeným, hospitalizovaným nebo zasaženým nějakou katastrofou. Podvodník poskytne přesvědčivé podrobnosti, jako jsou jména příbuzných nebo informace o škole, aby si vybudoval důvěryhodnost.

Jedna verze se zaměřuje na rodiče vysokoškoláků. Podvodník tvrdí, že jejich dítě bylo zatčeno a že musí okamžitě poslat peníze na kauci přes Venmo nebo PayPal. Aby paniku zvýšil, může dokonce poslat SMS s falešnou fotografií a varovat, že student bude uvězněn spolu s nebezpečnými zločinci, pokud platba nebude odeslána okamžitě. Vyděšení rodiče vyhoví, jen aby později zjistili, že příběh byl vymyšlený.

Další běžnou variantou je „podvod s prarodiči“, kdy podvodníci kontaktují starší dospělé a předstírají, že jsou vnuci, kteří naléhavě potřebují peníze. Někdy je schéma obrácené, podvodník se vydává za prarodiče a prosí o pomoc. V obou případech je prosba tak přesvědčivá, že oběti okamžitě posílají peníze v domnění, že zachraňují svého blízkého.

Toto je realita kampaně Bitdefenderu s názvem „They Wear Our Faces“ (Nesou naše tváře): podvody dnes nekradou jen peníze – kradou důvěru. A v zemi, kde více než polovina dospělých stále viní oběti podvodů, toto stigma zločincům jen pomáhá prosperovat.

Jak rozpoznat deepfake: Rychlý kontrolní seznam pro rodiny

Deepfake je stále těžší odhalit, ale většina z nich stále zanechává jemné stopy. Pokud si všimnete jednoho nebo více z těchto varovných signálů, zastavte se a ověřte si to, než uvěříte tomu, co vidíte nebo slyšíte:

1. Zpoždění synchronizace rtů – Hlas a pohyby rtů se zcela neshodují, vykazuje mírné zpoždění nebo úplný nesoulad.
2. Nesoulad mezi zvukem a videem – Zvuk neodpovídá obrazu nebo se detaily v zvuku i videu zdají být rozmazané.
3. Podivné pohyby očí – Mrkání je příliš časté nebo příliš vzácné, pohled vypadá ztuhlý nebo se oči nepřirozeně pohybují.
4. Vizuální artefakty – Rozmazané okraje, příliš hladká pleť, nepřirozené stíny/odlesky nebo zkreslení pozadí.
5. Nepřirozený hlas – robotický tón, zvláštní pauzy, nepravidelný rytmus, zvláštní přízvuk nebo přehnané přednesy.
6. Špatná kvalita – šum v pozadí, drobné závady nebo přerušení obrazu a zvuku.
7. Omezená mimika – Obličej vypadá ztuhle nebo repetitivní, snaží se projevit přirozené emoce.
8. Nekonzistentnost detailů – šperky, oblečení, zuby nebo doplňky se mezi jednotlivými záběry objevují a mizí.

Ochrana rodin ve věku podvodů s umělou inteligencí

Dobrou zprávou je, že rodiny mohou podniknout kroky k zajištění většího bezpečí:

• Pozastavit a ověřit: Zavolejte zpět z důvěryhodného čísla, ne z toho, které vás kontaktovalo.
• Domluvte se v rodině na „bezpečných slovech“ pro potvrzení nouzových situací.
• Dávejte si pozor na pocit naléhavosti: Podvodníci se spoléhají na nátlak a paniku.
• Dávejte si pozor na indicie o deepfake: Hledejte nesourodý zvuk, nepřirozené pohyby obličeje nebo nekonzistentní detaily.

Technologie také může pomoci. Bitdefender nabízí komplexní bezpečnostní sady, které chrání rodiny napříč více vrstvami a zastavují podvody dříve, než se k vám dostanou. Ať už jde o detekci podvodů v e-mailech, filtrování škodlivých odkazů nebo nástroje založené na umělé inteligenci, jako je Bitdefender Scamio a Bitdefender Link Checker, Bitdefender vás chrání před podvodným obsahem na platformách, kde se podvody šíří nejvíce. Pro mobilní uživatele s Androidem Bitdefender také zahrnuje funkce blokování hovorů, které pomáhají předcházet podvodům přes telefon, jako jsou robotické hovory a pokusy o vydávání se za jinou osobu, jež jsou běžným vstupním bodem pro podvodníky cílící na rodiny v USA.

S rodinnými plány Bitdefender mohou domácnosti pokrýt všechna zařízení pod jednou střechou, kombinujíc ochranu soukromí, monitorování identity a ochranu před podvody v jednom, snadno spravovatelném balíčku.

Protože dnes už ochrana před podvody nespočívá jen v zastavení virů – jde o ochranu důvěry. Pro další informace nás neváhejte kontaktovat.

Zdroj: Bitdefender