Když už nejde poznat, co je skutečné: „kolaps důvěry“ jako nový kyber trend
„Nevěřte všemu, co slyšíte.“ Tahle věta už dávno neplatí jen pro internetové řetězové e-maily. V době generativní AI začíná mít úplně nový význam – a možná se stává jedním z největších bezpečnostních problémů současnosti.
Kybernetické útoky se totiž mění. Dlouhé roky byla hlavním strašákem malware, ransomware nebo zneužité zranitelnosti. Dnes ale vzniká nový trend, který bezpečnostní experti začínají označovat jako „kolaps důvěry“. Nejde už jen o to, že útočník pronikne do systému. Stále častěji jde o to, že nebude možné poznat, co je skutečné.
AI dnes dokáže během několika minut vytvořit věrohodný hlas, video i identitu člověka. To, co ještě před pár lety působilo jako sci-fi, se pomalu stává běžnou součástí kybernetických útoků. Útočník už nemusí posílat podezřelý e-mail plný chyb. Může zavolat hlasem vašeho kolegy, pozvat vás na falešný Teams call nebo poslat video, které působí naprosto autenticky.
Firmy po celém světě už řeší případy, kdy zaměstnanci naletěli na AI generovaný hlas manažera a poslali peníze na podvodný účet. Jinde útočníci vytvářejí falešné profily uchazečů o práci, kteří ve skutečnosti vůbec neexistují. Objevují se také případy AI generovaných identit na LinkedInu, které několik měsíců budují důvěru, komunikují s lidmi a teprve později se zapojí do útoku nebo průmyslové špionáže.
Právě důvěra se tak začíná stávat novým bezpečnostním perimetrem. Dříve firmy chránily hlavně servery, zařízení nebo účty. Dnes musí chránit i samotnou schopnost lidí rozpoznat realitu od manipulace.
To je zároveň důvod, proč tento trend přesahuje klasickou kyberbezpečnost. Nejde jen o technologie, ale také o psychologii, firemní kulturu a lidské chování. Útočníci totiž stále méně útočí na systémy a stále více na lidské rozhodování. AI jim v tom navíc dramaticky pomáhá – dokáže analyzovat sociální sítě, napodobit styl komunikace nebo vytvořit personalizovanou manipulaci ve velkém měřítku.
Velkou výzvou bude i to, že lidé postupně začnou zpochybňovat úplně všechno. Když lze vytvořit falešný hlas nebo video během několika minut, co bude ještě považováno za důkaz? Bude stačit telefonát od kolegy? Videohovor? Hlasové potvrzení? Nebo už bude potřeba ověřovat každou citlivou komunikaci jiným kanálem?
Právě v tom spočívá největší riziko „kolapsu důvěry“. Nejde jen o jednotlivé podvody. Jde o prostředí, ve kterém si lidé přestávají být jistí, čemu mohou věřit. A to může mít dopad nejen na bezpečnost firem, ale i na fungování společnosti jako celku.
Kyberbezpečnost tak možná vstupuje do nové éry. Éry, kde největším problémem nebude škodlivý kód, ale ztráta jistoty, že to, co vidíme nebo slyšíme, je skutečné.
