KYBEZ

Zazpívat si hlasem oblíbeného interpreta, nadabovat filmovou scénu nebo si vyzkoušet, jak by zněl vlastní hlas v jiné podobě. Aplikace využívající umělou inteligenci otevírají nové možnosti zábavy a kreativity. S jejich rostoucí popularitou se však objevuje i méně viditelná hrozba. Hlasové nahrávky totiž mohou posloužit k vytvoření digitální kopie hlasu, kterou lze následně zneužít k podvodům nebo vydávání se za jinou osobu.

Zábava, která může mít nečekané důsledky

Technologie umělé inteligence dnes umožňují pracovat s lidským hlasem způsobem, který byl ještě před několika lety obtížně představitelný. Uživatelé mohou během několika okamžiků upravit svůj hlas, vytvořit vlastní dabing nebo prostřednictvím AI nazpívat známou skladbu.

Některé aplikace přitom vyžadují nahrání hlasového vzorku, na jehož základě dokážou vytvořit syntetický hlas zachovávající charakteristické rysy původního mluvčího. Právě zde vzniká otázka, co se s poskytnutou nahrávkou dále děje.

Zatímco důvěryhodné služby mohou hlasová data zpracovávat pouze pro požadovaný účel a podle jasně stanovených podmínek, u jiných nemusí mít uživatel dostatečný přehled o jejich uchovávání, dalším využití nebo možnostech odstranění. Samotné nahrání hlasu přitom automaticky neznamená jeho zneužití. Riziko však roste ve chvíli, kdy se hlasové záznamy dostanou do nepovolaných rukou nebo jsou využity bez souhlasu jejich majitele.

Ke klonování hlasu může stačit krátká nahrávka

Technologie označovaná jako AI voice cloning dokáže na základě hlasového vzorku vytvořit syntetickou podobu lidského hlasu. Moderní modely umělé inteligence přitom napodobují nejen jeho barvu, ale také intonaci, tempo řeči a další charakteristické vlastnosti.

Výsledkem může být nahrávka, ve které člověk zdánlivě pronáší věty, které ve skutečnosti nikdy neřekl.

Na nedostatečné zabezpečení některých nástrojů upozornila v březnu 2025 americká spotřebitelská organizace Consumer Reports. Při testování šesti služeb pro klonování hlasu výzkumníci zjistili, že čtyři z nich umožňovaly vytvořit kopii cizího hlasu bez technického ověření souhlasu jeho majitele. K vytvoření hlasového klonu bylo možné využít i veřejně dostupné nahrávky.

Nejde tedy pouze o riziko spojené s aplikacemi, do kterých uživatelé dobrovolně nahrávají svůj hlas. Potenciálním zdrojem mohou být také veřejná videa, rozhovory, podcasty nebo příspěvky na sociálních sítích.

Poznáme ještě, kdo skutečně mluví?

Jedním z největších problémů hlasových deepfake technologií je jejich rostoucí přesvědčivost. Lidé jsou zvyklí spojovat známý hlas s konkrétní osobou, což útočníkům poskytuje prostor pro manipulaci.

Při porovnávání skutečného hlasu s jeho digitální kopií navíc účastníci přibližně v 80 % případů vyhodnotili oba hlasy jako patřící stejné osobě.

Spoléhat se pouze na to, že podvodný hlas člověk bezpečně rozpozná podle sluchu, proto přestává být spolehlivou strategií.

Když hlas důvěryhodné osoby využije útočník

Zneužití hlasového klonování může mít různé podoby. Jedním z příkladů jsou podvodné telefonáty, při kterých se útočník vydává za rodinného příslušníka a žádá o okamžité zaslání peněz. Známý hlas v kombinaci s naléhavou situací může výrazně zvýšit důvěryhodnost podvodu.

Podobný princip lze využít také ve firemním prostředí. Zaměstnanec například obdrží hlasovou zprávu, která zdánlivě pochází od jednatele společnosti. Ten požaduje urgentní provedení platby, zaslání důvěrných dokumentů nebo sdělení přístupových údajů. Útočník přitom nemusí překonávat technické zabezpečení informačních systémů. Místo toho se zaměřuje na lidský faktor a využívá důvěru zaměstnance v hlas osoby, kterou zná.

Hlasové deepfaky tak představují další nástroj sociálního inženýrství, který může doplňovat phishing, podvodné telefonáty nebo útoky typu Business Email Compromise (BEC).

Jak chránit svůj hlas i firemní informace?

Základem ochrany není úplné odmítání aplikací využívajících umělou inteligenci, ale informované rozhodování o tom, jaká data jim uživatelé poskytují.

Před nahráním vlastního hlasu je vhodné ověřit provozovatele služby, její zásady ochrany osobních údajů a podmínky využívání nahrávek. Důležité je také zjistit, zda služba uchovává původní záznamy, vytváří hlasové modely a umožňuje jejich odstranění.

Ve firemním prostředí by organizace neměly považovat samotný hlas volajícího za dostatečné potvrzení identity. Zejména u finančních transakcí, změn platebních údajů nebo předávání citlivých informací je důležité zavést nezávislé ověřování požadavků.

Podezřelé instrukce by zaměstnanci měli potvrzovat prostřednictvím předem známého telefonního čísla nebo jiného důvěryhodného komunikačního kanálu. Součástí prevence by mělo být také pravidelné vzdělávání zaměstnanců v oblasti nových forem sociálního inženýrství.

Důvěryhodný hlas už nemusí znamenat důvěryhodnou osobu

Umělá inteligence přináší do práce s hlasem nové možnosti, které mají své legitimní využití v kreativním průmyslu, vzdělávání i podnikání. Stejné technologie však mohou být zneužity k napodobování identity a manipulaci.

Hlas, který jsme dlouho vnímali jako jednoznačný znak konkrétní osoby, se tak stává dalším digitálním prvkem, jehož pravost nelze automaticky předpokládat.

V době, kdy může umělá inteligence přesvědčivě napodobit lidský hlas, už nestačí pouze poznat, kdo mluví. Stále důležitější je ověřit, zda s námi skutečně komunikuje osoba, za kterou se vydává.