Jen 15 vteřin nahraného hlasu stačí k tomu, aby software vytvořil jeho kopii, a zneužití. Vědci řeší, jak falšování zabránit

15. duben 2023

Ukrást se dá téměř cokoliv, dokonce i lidský hlas. Upozorňují na to brněnští vědci z Vysokého učení technického. Ve svých výzkumech dokázali, že k nasimulování hlasu podvodníkům stačí jen pár vteřin záznamu. Vědci proto řeší, jak takovému falšování zabránit. A varují před tím, že nemůžeme věřit všemu, co slyšíme na internetu nebo v telefonu.

„To jsem nahrál a teď si tím modelem necháme zpracovat změnu,“ s Antonem Fircem, doktorandem na Ústavu inteligentních systémů na Vysokém učení technickém, sedíme u malého notebooku a právě zkoušíme napodobit můj hlas.

„Tímto hlasem by to mělo znít, toto je váš hlas. A teď uslyšíme výsledek,“ popisuje Anton Firc.

Čím více nahrávky, tím propracovanější

Pouští mi, co software vytvořil za necelou minutu. Rozhodně to není geniální. Ale slyšíme větu, kterou jsem ve skutečnosti vůbec neřekl.

Čtěte také

„Tohle byl samozřejmě, řekněme, naivní scénář, velmi rychle zpracovaný, samozřejmě tomu odpovídá i ta kvalita. Kdyby si někdo dal tu práci, shromáždil 20 minut vaší řeči, byl by schopný trošku dotrénovat model, výsledek bude o mnoho lepší,“ připouští.

Takže ve chvíli, kdy jsou v rozhlasovém online archivu hodiny záznamů s mým hlasem, navíc v dobré kvalitě, by bylo napodobení o dost věrohodnější.

Pohrát si s řečí 

Vědec Anton Firc vysvětluje, jak podobné systémy fungují: „Jsou to algoritmy, které se používají pro syntézu řeči. Konkrétně v tomto případě, že si někdo udělá krátkou nahrávku, potom je schopný napodobit váš hlas, tak to je zásluha speciálního přístupu ve strojovém učení, tedy one shot nebo zero shot learning.“

Brněnští experti téma zkoumají několik let. A zmapovali už hlasové podvody, které se staly v zahraničí.

„První útoky byly tak dva tři roky zpátky, byl jeden hovor, kdy v rámci nějaké firmy měli nastavené procesy, že CEO zavolá ekonomce a pouze přes telefon potvrdí velkou částku, ta pak odejde. Toho využil útočník, který znal prostředí té firmy a provedl falešný hovor. Reálný útok, kdy se tohoto využilo, se stal v Řecku,“ říká mi Kamil Malinka, který tady na VUT působí jako odborný asistent.

Budou ještě lepší! 

Vědci vidí hrozbu do budoucna. Kvůli stále lepším a lepším technologiím totiž budou dokonalejší i hlasové systémy.

„A navíc se nám to zrychluje. Poměrně brzo můžeme být ve stavu, kdy si takto zapnu nějaký filtr v Teams nebo na podobné platformě, zapnu si jiný hlas a zvuk a můžu se krásně vydávat za vás. Teď ty technologie ještě nejsou realtimové,“ upozorňuje na možnost, že by se při online hovorech měnil hlas v reálném čase.

Čtěte také

„Je potřeba být obezřetnější při tom, co děláte. To znamená, když vám volá babička, že ji někdo drží a potřebujete někam poslat půl milionu korun, tak je potřeba zavěsit, zavolat babičce, babičko jsi to ty? A podobně. To znamená takové ty běžné mechanismy, které jste schopni aplikovat, když o tom víte. Ukazujeme, že dopady jsou poměrně velké. Naše úloha je de facto zpomalit trošku negativní dopady,“ vypočítává Karel Malinka, jak je možné se proti takovým podvodům bránit. 

Takže vy se vlastně snažíte o tom, aby ukrást hlas nebylo tak jednoduché a aby to nešlo?

„Ano, to je velmi hezky řečeno ve zkratce,“ dodává Anton Firc.

Brněnští vědci proto hledají způsoby, jak upravené hlasy co nejsnadněji odhalit.

V zahraničí existují případy, kdy dokázali útočníci s upraveným hlasem například převézt peníze z firemních účtů. Jakub Vinčálek z Policejního prezidia, který se kyberbezpečností zabývá, neví o žádném podobném případu v ČR. To ale neznamená, že k němu nedošlo, možná jen nebyl oznámen Policii ČR.

Obecně jsou technické prostředky napřed a jsou zneužívány pachateli trestné činnosti, do budoucna se očekává, že se stanou i v Česku.

Preventivní rady: používat kritické myšlení, být podezřívavý a ověřovat si informace, vždy v online prostředí pochybovat.

Kyberpodvody jsou strukturované podobně jako v běžném životě, převažující formy podvodného jednání: falešné sms, navolávání, reverzní inzertní podvody, podvody z lásky.

Další druhy kriminality (běžné řadu let): mravnostní trestná činnost, autorskoprávní delikty nebo čistá počítačová kriminality čili hacking.

Dlouhodobý nárůst, v roce 2022 – 18 500 skutků, objasněnost 15 %.

autoři: Ondřej Vaňura , aka
Spustit audio

Související