DeepSeek: Převratný vynález či hrozba?

5. 3. 2025

1.14k

Autor obsahu – Sebastian Raida

Umělá inteligence a chatboti představují v dnešní době velmi diskutované téma. Platformy jako ChatGPT, Google Gemini či Microsoft Copilot se staly nepostradatelnými asistenty v životech mnoha lidí. V nedávné době raketově vzrostla čínská AI platforma DeepSeek, která se pyšní lepším uvažováním za zlomek nákladů a výpočetní síly. I přes skvělý start se však objevilo pár kontroverzí.

Čínské zákony vs. kyberbezpečnost

Ve většině západního světa je Čína pokládána za kyberbezpečnostní hrozbu. Primárními riziky spojovaná s Čínou jsou kybernetická špionáž, zneužívání dat a cenzura, přičemž AI platformy DeepSeek se týkají hlavně poslední dvě. Čínské zákony poskytují jejich vládě rozsáhlé pravomoci ohledně nakládání s daty uživatelů. Nejvíce problematické jsou tyto zákony:

Firemní zákon z roku 1993 v pozdějším znění – zákon ukládá všem firmám s minimálně třemi členy Čínské komunistické strany (tzn. každá větší firma), aby ve firmě vytvořila vnitřní organizaci, která zajistí asistenci aktivitám strany a jejím hodnotám.
Zákon o státní bezpečnosti z roku 2015 – zákon zavazuje čínské občany a firmy poskytovat spolupráci při zajišťování bezpečnosti Číny, což umožňuje čínské vládě zasahovat do činnosti soukromých subjektů, pokud sama ustanoví, že se jedná otázku národní bezpečnosti.
Zákon o kybernetické bezpečnosti z roku 2017 – zákon ukládá technologickým společnostem povinnost ukládat svá data na čínském území, čímž značně ulehčuje přístup ze strany čínských úřadů
Zákon o zpravodajské činnosti z roku 2017 – zákon ukládá občanům a firmám povinnost asistence a podpory zpravodajské činnosti, přičemž musí být zachována mlčenlivost.
Zákon o ochraně osobních údajů z roku 2021 – zákon umožňuje zpracovávat osobní údaje bez souhlasu uživatele pro zákonné povinnosti (viz. předchozí zákony).
Kromě vyjmenovaných zákonů existuje ještě tzv. zlatá akcie – obvykle se jedná o 1% podíl ve společnosti, který ale poskytuje držiteli (obvykle vládě) rozsáhlé pravomoci, obvykle veto a zajištění místa v představenstvu firmy, čímž dochází k ovlivňování důležitých rozhodnutí.

Ve spojení s autoritativním politickým režimem Číny jsou tyto zákony rizikové pro uživatele DeepSeeku, protože jsou jejich data vydána napospas Čínské komunistické straně a na její definici záležitostí „národní bezpečnosti“. Z tohoto důvodu je DeepSeek plně zakázán v Itálii, zatímco v případě Tchaj-wanu, NASA, amerického námořnictva a Kongresu nesmí být přítomen na pracovních zařízeních.

Kontroverze

Největší kontroverzí ve spojitosti s platformou DeepSeek je cenzura. Pokud uživatel konverzuje o nezávadných tématech, tak DeepSeek funguje jako kterákoli jiná AI platforma. Pokud se však konverzace stočí k více kontroverzním tématům z hlediska Čínské komunistické strany, jako např. masakr na Náměstí Nebeského klidu, suverenitu Tchaj-wanu či přirovnání čínského prezidenta Si Ťin-pchinga k Medvídkovi Pů, tak DeepSeek odpoví, že je daná otázka mimo současný rozsah znalostí či že neví, jak k otázce přistupovat. Problematické jsou i konverzace ohledně např. komparace pojetí individuálních práv a svobod v západních a východním myšlení. Toto nastavení narušuje i věrohodnost ostatních, jinak nezávadných informací, které DeepSeek produkuje.

Další kontroverzí bylo slabé zabezpečení dat. V lednu 2025 odhalili kyberbezpečnostní výzkumníci databázi DeepSeeku, která byla veřejně přístupná. Tato databáze obsahovala miliony dat, včetně záznamů z konverzací s umělou inteligencí a citlivých údajů. Zároveň mohla tato chyba vést k tomu, aby někdo přebral kontrolu nad databázemi DeepSeeku a skrze přebral další kontrolu. Po nahlášení však byla chyba odstraněna.

DeepSeek se také stal známým díky slabému nastavení etických pravidel a open-source formátu. Západní AI platformy obsahují etické hranice, které zamezují generování určitých informací, a bezpečnostní standardy. ChatGPT vám např. neporadí, jak postavit výbušné zařízení. Rozdílem také je, že u jiných AI platforem nevidí uživatel jeho „přemýšlecí“ algoritmus. Tím, že je DeepSeek open-source, tak si může každý uživatel upravit algoritmus podle svých představ. Tato vlastnost výrazně zvyšuje šance na zneužití DeepSeeku k ilegálním či nemorálním činnostem. Výzkumníci a nadšenci již potvrdili, že DeepSeek dokáže úspěšně naprogramovat různé typy malwarů a poskytnout věrohodné metody pro kybernetické útoky.

DeepSeek, ale bezpečně

Nejen u DeepSeeku, ale i u ostatních AI platforem, je základem kybernetické bezpečnosti nesdílení osobních a citlivých informací. Hesla, adresy či platební údaje by nikdy neměli být v konverzaci s AI použity. Stejné pravidlo platí i v práci a u firem. Témata ohledně duševního vlastnictví firem by měly být z konverzací vynechány.

DeepSeek je možno používat ve spojení s jinými aplikacemi, většinou pomocí integrace. Integraci je možno provést u cloudových služeb Microsoftu (Azure) či Amazonu (AWS), ale vzhledem k čínským zákonům se jedná o bezpečnostní riziko. Bezpečnější volbou je využívat AI platformy, které využívají model DeepSeeku, ale přidávají k němu bezpečnostní standardy, jako je např. Perplexity AI.

Nejbezpečnější možností je využívat DeepSeek lokálně. Stačí když si uživatel stáhne nástroj, který umožňuje spuštění AI jazykových modelů na svém počítači. Nejběžnějším takovým nástrojem je Ollama. V takovém případě si může uživatel užívat všechny výhody výkonného AI modelu bez toho, aby informace, která sdílí opustily jeho zařízení.