DeepSeek sbírá více informací, než bychom čekali, varuje Antivirus. Na co si dát pozor?
Model umělé inteligence DeepSeek opanoval internetové debaty. Čínský konkurent Chatu GPT má být levnější a v některých případech i výkonnější než jeho západní protějšky. Jak je na tom ale s bezpečností?
Čtěte také
DeepSeek je aplikace, ale v osekané verzi si ho můžeme spusit i přímo na počítači. „Jelikož to ale vyžaduje trochu více počítačových dovedností, většina lidí využívá právě webovou verzi nebo mobilní aplikaci,“ popisuje redaktorka Jana Magdoňová.
Na první pohled oboje funguje stejně jako americký ChatGPT – můžeme si s modelem psát a on odpovídá. „Samozřejmě trpí stejnými neduhy jako ostatní nástroje. Odpovědi nemusí být pravdivé, ani nemusí dávat smysl. Zkrátka tvoří pravděpodobně vypadající text, to ale neznamená, že je správný,“ doplňuje redaktor Jan Cibulka.
Svěřit data?
Pokud jde o informace, které bychom sami nechtěli dobrovolně zveřejnit, do DeepSeeku určitě nepatří. „Dnes už víme, že po technické stránce je jeho mobilní aplikace i webová verze až překvapivě děravá. Navíc sbírá víc informací, než bychom čekali. Aktuální analýza společnosti NowSecure ukázala, že mobilní aplikace DeepSeek pro iPhony sbírá informace o telefonu.“
Tak třeba jméno telefonu, které si lidé nastavují. Stejně tak aplikace sbírá další technické identifikátory, kterým může telefon jednoznačně identifikovat. „Tyhle informace potom posílá do Číny a u části z nich se ani neobtěžuje je pořádně zašifrovat.“
Hlavní zásadou je, že bychom do podobných nástrojů umělé inteligence neměli zadávat nic citlivého
Jelikož Čína je komunistická diktatura, tak tam samozřejmě neplatí ochrana soukromí, kterou známe z Evropy. „Data o uživatelích aplikace DeepSeek navíc končí na serverech, které patří společnosti Bytedance. Tu známe kvůli jiné čínské aplikaci, TikToku.“
Před tím, že by se citlivé informace neměly dostávat k čínským firmám a jmenovitě pak právě TikToku, varoval i český Národní úřad pro kybernetickou a informační bezpečnost.
Pozor na mobilní aplikaci
Čtěte také
Není tedy lepší se DeepSeeku vyhnout obloukem a raději ho ani nezkoušet?
„Rozhodně bychom radili se vyhnout jeho mobilní aplikaci. Ta je schopná z mobilního telefonu získat dost informací o uživateli. Pokud si někdo bude chtít hrát s jeho webovou verzí, pak by neměl do stránky zadávat nic, co by nechtěl zveřejnit.“
Na přelomu měsíce se totiž výzkumníkům z bezpečnostní společnosti Wiz podařilo najít jednu z databází společnosti DeepSeek otevřenou bez jakéhokoli přihlášení veřejně na internetu. „Kdokoli se tak mohl dostat třeba právě k tomu, na co se lidé při používání nástroje ptali.“
Žádné citlivé informace
Není proto lepší používat jen modely umělé inteligence vyvinuté na Západě? Podle Cibulky to není rozhodující faktor, protože většina velkých modelů vzniká ve Spojených státech, kde je taky ochrana soukromí nižší než v Evropě.
„Standard technického zabezpečení je u nich asi vyšší, to ale neznamená, že nesbírají a neukládají informace o tom, na co se lidé modelu ptají. Není proto možné vyloučit, že tyto informace někdy v budoucnu utečou,“ upozorňuje.
Čtěte také
Proto platí hlavní zásada: do všech takových nástrojů umělé inteligence nezadávat nic citlivého. „Platí to i v případě firemních dokumentů a dat, u kterých máte jako zaměstnanec stanovenou mlčenlivost,“ zdůrazňuje Magdoňová.
V budoucnu by tento problém možná mohla vyřešit optimalizace generativních jazykových modelů, tak aby mohly běžet přímo na našich mobilech nebo počítačích a data se nikam neodesílala. „Dnes takové modely již existují, ale nejsou tak výkonné, aby byly doopravdy užitečné,“ uzavírá Cibulka.
Související
-
DeepSeek způsobil paniku. Celý sektor je pod tlakem, pořád hledáme využití, kritizuje novinář
Možná lepší, asi levnější. Chatovací aplikace společnosti DeepSeek znejistěla konkurenci a ohromila svět. Jenže je z Číny. A to může být problém.
-
Polední publicistika: Nedůvěra vůči slovenské vládě. Přijímačky nanečisto. Nástup čínské AI DeepSeek
Jaké jsou argumenty opozice pro konec Ficova kabinetu? Co přináší čínský asistent umělé inteligence DeepSeek a proč jeho nástup otřásl americkým technologickým sektorem?
-
Analytik: Čínský chatovací robot DeepSeek překvapil podobně jako Sputnik. Obezřetnost je namístě
„Jen blázen a dítě věří čínským datům. Na druhé straně nemůžeme popřít, že DeepSeek přinesl celou řadu technologických inovací," vysvětluje datový analytik Josef Šlerka.
Více z pořadu
E-shop Českého rozhlasu
Přijměte pozvání na úsměvný doušek moudré člověčiny.
František Novotný, moderátor


Setkání s Karlem Čapkem
Literární fikce, pokus přiblížit literární nadsázkou spisovatele, filozofa, ale hlavně člověka Karla Čapka trochu jinou formou.
Zprávy z iROZHLAS.cz
-
Černochová chce od července zvýšit vojákům výplaty o několik tisíc. Metnar kritizuje načasování
-
Havlíček: Tlačme, až obchodně vydírejme KHNP, jsou to naše peníze. ‚Jak na tureckém trhu,‘ reaguje Vlček
-
Hokejisté Komety Brno zvítězili na ledě Karlových Varů 1:0, po šesti letech postoupili do semifinále
-
Ferrari v reakci na Trumpova cla zdraží své vozy v USA. Cena některých modelů vzroste i o milion korun