AI jako útočník: phishing, deepfaky a nové kybernetické hrozby
Umělá inteligence je dnes všude. Pomáhá psát texty, analyzovat data, překládat, programovat, odpovídat zákazníkům a zrychlovat práci. Každá silná technologie má ale i druhou stranu. To, co pomáhá běžným lidem a firmám, může pomáhat také útočníkům.
Právě v oblasti AI kybernetické bezpečnosti je to stále viditelnější. Útočník už nemusí být génius, který celé dny hledá chyby v systémech. Často mu stačí něco jednoduššího: přesvědčit člověka, aby klikl na odkaz, zadal heslo, zaplatil fakturu, otevřel přílohu nebo prozradil jednorázový kód.
Proto phishing zůstává jedním z nejsnazších způsobů, jak se dostat k penězům, účtům, datům nebo firemním systémům. AI phishing je přesvědčivější, lépe škálovatelný a hůř rozpoznatelný.
Tento článek berte jako pilířový průvodce sérií o AI a kybernetických hrozbách. Detailnější návody rozebírají AI phishing, deepfake podvody a vishing, AI a OSINT, Mythos, Aardvark a AI hledání zranitelností, AI jako obranu a ochranu dětí online.
Proč je phishing stále tak účinný
Phishing funguje proto, že primárně neútočí na technologii. Útočí na člověka.
Útočník nemusí prolomit firewall, když dokáže přesvědčit zaměstnance, aby mu sám předal přihlašovací údaje. Nemusí hledat složitou zranitelnost v systému, když někdo otevře škodlivou přílohu. Nemusí hacknout banku, když dokáže člověka vyděsit, že jeho účet bude zablokovaný.
Phishing využívá emoce: strach, zvědavost, stres, časový tlak a důvěru v autoritu. Typické zprávy vypadají například takto:
- "Vaši zásilku se nepodařilo doručit. Klikněte zde."
- "Váš účet bude do 24 hodin zablokován."
- "Prosím, urgentně uhraď tuto fakturu."
- "Potřebuji ověřovací kód, řešíme incident."
- "Tady je dokument k dnešní schůzce."
Dříve šel phishing často poznat podle špatné gramatiky, podivného překladu nebo neprofesionálního vzhledu. Dnes to už neplatí. AI dokáže psát přirozeně česky, slovensky, německy i anglicky, přizpůsobit tón konkrétní firmě a vytvořit zprávu, která působí jako běžná pracovní komunikace.
Praktický checklist najdete v navazujícím článku Co je AI phishing a jak ho rozpoznat.
Jak AI posiluje sociální inženýrství
Sociální inženýrství znamená, že útočník manipuluje člověka, ne systém. Snaží se vyvolat důvěru a dostat oběť do situace, kde jedná rychle a bez ověření.
AI v tom pomáhá ve třech hlavních oblastech.
Za prvé zlepšuje jazyk. Útočník může napsat zprávu česky, anglicky, německy nebo slovensky bez toho, aby daný jazyk ovládal. Text může znít formálně, přátelsky, manažersky nebo technicky - přesně podle cílové osoby.
Za druhé zlepšuje personalizaci. Útočník si může projít LinkedIn, firemní web, tiskové zprávy, pracovní pozice, komentáře na sociálních sítích a veřejné dokumenty. AI mu z těchto informací pomůže vytvořit konkrétní příběh. Například: "Ahoj Petře, viděl jsem, že řešíte nový projekt pro klienta v logistice. Posílám aktualizovaný návrh smlouvy."
Za třetí zlepšuje škálování. Dříve bylo náročné připravit stovky kvalitních personalizovaných zpráv. Dnes to může být otázka minut. Útočníci mohou rychle vytvářet kampaně pro různé firmy, oddělení, jazyky a pracovní role.
Výsledkem je méně náhodného spamu a více přesvědčivých zpráv, které zapadnou do běžné práce.
Deepfaky a falešné hlasové hovory
Dalším velkým rizikem jsou deepfake podvody. Deepfake je uměle vytvořený nebo upravený obraz, video nebo hlas, který se tváří jako skutečný člověk. Prakticky to znamená, že už nemůžeme automaticky věřit tomu, že když někoho slyšíme nebo vidíme na obrazovce, je to opravdu on.
Největší riziko dnes představují hlasové podvody, často označované jako vishing. Útočník může napodobit hlas šéfa, kolegy, člena rodiny nebo zákazníka. Krátká ukázka hlasu z videa, podcastu, online meetingu nebo sociálních sítí může moderním nástrojům stačit k vytvoření velmi přesvědčivé napodobeniny.
Představte si situaci: finanční oddělení dostane telefonát. Hlas zní jako ředitel. Říká, že je na cestě, nemá čas vysvětlovat detaily a je nutné okamžitě zaplatit fakturu. Nebo HR oddělení dostane zprávu od "zaměstnance", který žádá změnu čísla účtu pro výplatu. Nebo rodiči zavolá "dítě", že má problém a potřebuje rychle poslat peníze.
To už není sci-fi. Takto AI posouvá podvody z textových zpráv do hlasové a video manipulace.
Varovné signály a postup ověření najdete v samostatném návodu deepfake podvody a vishing.
OSINT: útočníci používají informace, které sami zveřejňujeme
OSINT znamená získávání informací z veřejně dostupných zdrojů. Zní to technicky, ale v praxi jde o věci, které vidíme každý den: LinkedIn profily, firemní weby, fotografie z konferencí, seznamy zaměstnanců, pracovní inzeráty, veřejné registry, sociální sítě nebo komentáře pod příspěvky.
Pro útočníka jsou tyto informace velmi cenné. Dokáže zjistit, kdo je CEO, kdo řeší finance, kdo má na starosti IT, jaké dodavatele firma používá, jaké technologie hledá v pracovních nabídkách a kdy má tým konferenci nebo dovolenou.
AI tyto útržky spojí do přesvědčivého pretextu. Už to není obecný e-mail typu "vážený zákazníku". Je to zpráva, která zná jméno, kontext, projekt, pozici a jazyk firmy.
Kybernetická bezpečnost proto nezačíná až u antiviru. Začíná také u toho, co o sobě a firmě veřejně sdílíme.
Praktické dopady rozebírá článek AI a OSINT: jak útočníci využívají veřejné informace.
Autonomní hledání zranitelností: Aardvark, Mythos a nová realita
AI mění i techničtější část kybernetické bezpečnosti. Nové modely dokážou číst kód, hledat podezřelé vzory, testovat chyby a navrhovat opravy. To je velká pomoc pro obránce, vývojáře a bezpečnostní týmy.
Příkladem je Aardvark, později spojovaný s Codex Security, představený jako agentický bezpečnostní výzkumník. Jeho úkolem je analyzovat zdrojový kód, hledat zranitelnosti v softwaru, ověřovat je a navrhovat opravy.
Dalším příkladem je Mythos Preview, který ukázal silné schopnosti v hledání a validaci zranitelností. Pro obránce je to dobrá zpráva, protože podobné nástroje mohou zrychlit odhalování chyb dřív, než je někdo zneužije. Zároveň je to varování: pokud AI pomáhá obraně, podobné schopnosti budou chtít zneužít i útočníci.
Běžný člověk nemusí rozumět detailům exploitů, kernelů nebo paměťových chyb. Důležitý je princip: čas mezi objevením chyby a jejím možným zneužitím se zkracuje. Firmy proto nemohou odkládat aktualizace, bezpečnostní kontroly a monitoring na "někdy později".
Technické pokračování najdete v článku Mythos, Aardvark a AI hledání zranitelností.
AI jako obrana: silný nástroj, rizikový soudce
Umělá inteligence ale není jen hrozba. Je také silný obranný nástroj. Umí pomáhat filtrovat phishing, odhalovat podezřelé chování, sumarizovat incidenty, analyzovat logy, kontrolovat konfigurace a pomáhat bezpečnostním týmům reagovat rychleji.
Problém není AI samotná. Problém je slepá důvěra.
AI může pomoci, ale neměla by být jediným rozhodčím. Bezpečnost stále potřebuje lidský dohled, pravidla, ověřování, vícefaktorové přihlašování, zálohy, aktualizace a zdravou míru podezřívavosti.
Obrannou perspektivu popisuje navazující článek AI jako obrana v kybernetické bezpečnosti.
Jak se chránit v praxi
Nejlepší ochrana není jedna zázračná aplikace. Je to kombinace jednoduchých návyků a technických opatření.
Začněte těmito kroky:
- Ověřujte urgentní požadavky jiným kanálem. Pokud někdo žádá rychlé zaplacení faktury, zavolejte mu na známé číslo, ne na číslo uvedené v podezřelé zprávě.
- Používejte vícefaktorové ověření. Ideálně přes aplikaci nebo bezpečnostní klíč, nejen přes SMS.
- Neklikejte na odkazy ve zprávách bez přemýšlení. Přihlaste se raději přímo přes oficiální stránku.
- Školte lidi pravidelně, ne jednou ročně. AI phishing se mění rychle a trénink musí být praktický.
- Nastavte firemní pravidla pro platby, změny účtů a citlivé údaje. Žádný urgentní požadavek by neměl obejít kontrolu.
- Aktualizujte systémy a aplikace. S rozvojem AI nástrojů pro hledání zranitelností bude rychlost oprav stále důležitější.
- Sledujte, co zveřejňujete. Méně veřejných detailů znamená méně munice pro útočníky.
Závěr: AI nezměnila cíl útoků. Změnila jejich kvalitu
Cíl útočníků zůstává stejný: peníze, data, přístupy a důvěra. Změnily se nástroje. Phishing je přesvědčivější, deepfake hlas zní reálněji, OSINT je rychlejší a hledání zranitelností je stále více automatizované.
Dobrá zpráva je, že obrana nemusí být komplikovaná. Většinu útoků lze výrazně ztížit kombinací zdravého rozumu, ověřování, MFA, školení, aktualizací a jasných interních pravidel.
Kybernetická bezpečnost dnes není jen o IT. Je o důvěře. V době umělé inteligence platí jednoduché pravidlo: důvěřuj, ale ověřuj.