Varování: produkty DeepSeek představují riziko pro univerzitní prostředí
Kyberbezpečnostní tým MU varuje před riziky spojenými s používáním AI nástrojů společnosti DeepSeek. Na základě varování NÚKIB, nedoporučujeme používat produkty společnosti DeepSeek – a to ani pro pracovní či osobní účely. Zadávání informací do jazykových modelů (např. AI chatbot) může závažně ohrozit data v univerzitním prostředí.
15. 7. 2025
Varování
O co jde?
Varování NÚKIB má preventivní charakter – upozorňuje na dlouhodobá rizika spojená s produkty DeepSeek, nikoli na konkrétní incident. Níže najdete souhrn klíčových zjištění, podrobnosti najdete v oficiálním varování [1].
- Legislativa: produkty DeepSeek podléhají čínským zákonům, které firmám ukládají povinnost spolupracovat se státními orgány (čínská vláda a Komunistická strana Číny), včetně zpravodajských služeb.
- Sběr dat: společnost DeepSeek shromažďuje veškerý obsah zadaný uživatelem, údaje o uživateli a o zařízení, ze kterého je služba využívána – například region, časová zóna, jazyk, operační systém, model zařízení a další technické parametry.
- Ukládání dat: informace jsou odesílány na servery v Číně, DeepSeek nespecifikuje, jak dlouho jsou uchovávány, a zda jsou mazány. Podle dostupných informací dochází k jejich přenosu na servery firem Huawei a China Mobile, které jsou sankcionovány partnery České republiky [2].
- Technické zranitelnosti: mobilní aplikace DeepSeek pro iOS a Android – využívá slabé šifrování, vypíná bezpečnostní funkce, odesílá údaje nešifrovaně a umožňuje tzv. fingerprinting. To vše zvyšuje riziko sledování, neoprávněné manipulace s informacemi nebo jejich zneužití.
Fingerprinting je podrobné sledování technických parametrů zařízení (např. model telefonu, verze systému, jazyk, časová zóna), které může vést k jednoznačné identifikaci konkrétního uživatele.
Upozornění
Varování NÚKIB se nevztahuje na open-source jazykové modely DeepSeek, pokud jsou provozovány čistě lokálně bez možnosti komunikace se servery společnosti. V praxi však může i lokální model odesílat HTTP požadavky, a tedy představovat riziko úniku dat, pokud není aktivně zablokována jeho externí komunikace (např. pomocí síťových pravidel nebo DNS filtrů).
Tyto obavy nejsou jen teoretické...
DeepSeek a bezpečnost? Problém se opakuje. V lednu 2025 totiž čelil DeepSeek útoku, při kterém útočníci získali přístup k milionům záznamů o uživatelích. Šlo zejména o historii jejich konverzací, přístupové údaje, API klíče atd. Firma pozastavila nové registrace, ale brzy se ukázalo, že data byla volně dostupná na internetu, bez jakéhokoli zabezpečení [3].
Česká vláda koncem května 2025 oficiálně označila Čínu za odpovědnou za kybernetickou špionážní kampaň proti Ministerstvu zahraničí. Útočníci podle zjištění získali přístup k tisícům e-mailů, včetně těch z období českého předsednictví EU. To jasně ukazuje, jak reálná a aktuální hrozba ze strany čínských státních struktur může být – a proč je využívání nástrojů, které podléhají jejich vlivu, bezpečnostním rizikem [4].
Co dělat?
Nejen na základě uvedených důvodů výše, zdůrazňujeme, že je žádoucí se jejich používání vyhnout. Je nutné si uvědomit důsledky, a proto uvádíme několik konkrétních situací, které mohou při používání nastat:
- Nechtěné zveřejnění citlivých informací: uživatel vloží do DeepSeeku neveřejnou interní strategii s cílem jejího shrnutí. Kvůli slabému zabezpečení je obsah uložen na nezabezpečených serverech a zpřístupněn třetím stranám.
- Ztráta kontroly nad přístupovými údaji: vývojář testuje API a do promptu zadá přístupové tokeny – tyto údaje mohou být uloženy, odeslány na servery v Číně a potenciálně zneužity.
- Riziko porušení důvěrnosti a předpisů: manažer požádá DeepSeek o překlad dokumentu obsahujícího osobní údaje – informace jsou uloženy na serverech mimo EU, bez záruky smazání nebo s vidinou zneužití pro útok.
- Profilování zaměstnanců: DeepSeek sbírá technické údaje o zařízení, chování uživatele i obsahu dotazů. U pracovníků ve strategických pozicích to může vést k jejich de-anonymizaci a cílenému sledování.
Závěr
Kombinace čínské legislativy, sběru a přenosu dat a technických zranitelností ukazuje na vysokou míru rizika. Další problém představují i vazby na sankcionované subjekty. Produkty nejsou vhodné pro práci v citlivém akademickém prostředí. Místo toho lze využít Microsoft Copilot, který je dostupný všem zaměstnancům a studentům MU v rámci jejich účtu M365 [5] (zpracování dat je v tomto případě smluvně ošetřeno).
Vše důležité o kyberbezpečnosti na Masarykově univerzitě najdete vždy na security.muni.cz.