Neděle 5. července 2020Den slovanských věrozvěstů Cyrila a Metoděje 26 °C polojasno Předplatné LN
Lidovky.cz > Byznys > Firmy a trhy

Potíže pro Apple, Google a Amazon: virtuální asistenti reagují i na příkazy, které člověk neslyší

Výrobky Apple jsou tradičně vybaveny hlasem ovládanou asistentkou Siri. | na serveru Lidovky.cz | aktuální zprávy Výrobky Apple jsou tradičně vybaveny hlasem ovládanou asistentkou Siri. | foto: Apple

NEW YORK Hlasem ovládané asistenty, jakými jsou Siri od firmy Apple, Alexa vyvinutá Amazonem nebo Google Assistant, lze aktivovat pro člověka prakticky nerozeznatelnými příkazy skrytými v hudbě či záznamu mluveného slova. Vyplývá to z nedávno zveřejněného výzkumu badatelů z Kalifornské univerzity v Berkeley, na který ve čtvrtek upozornil deník The New York Times (NYT). Pomocí metody použité v laboratoři by mohla nepovolaná osoba za někoho jiného zaslat peníze, odemknout dveře nebo nakoupit na internetu.

S neslyšitelnými pokyny pro chytré asistenty podle NYT vědci ve Spojených státech a Číně úspěšně experimentují už dva roky. Podařilo se jim tak aktivovat systémy umělé inteligence v chytrých telefonech a domácích asistentech, které pak například vytočily určité číslo nebo otevřely webovou stránku. Týmu amerických studentů se pak v roce 2016 podařilo příkazy vmísit do takzvaného bílého šumu vysílaného z reproduktoru.

Vědci z Berkeley ale tvrdí, že dosáhli ještě pokročilejší úrovně, když instrukce zakomponovali do nahrávek hudby či mluveného slova. „Takže zatímco lidský posluchač slyší hrát orchestr nebo někoho mluvit, přístroj Amazon Echo může dostávat instrukci, aby něco přidal na váš nákupní seznam,“ vysvětluje NYT.

„Chtěli jsme se přesvědčit, zda to můžeme udělat ještě nenápadněji,“ popsal motivaci k novému výzkumu jeden z jeho autorů a doktorand oboru počítačové bezpečnosti Nicholas Carlini.

Se svými kolegy při pokusech využil rozdílu mezi způsoby rozpoznávání řeči u lidí a u strojů. Použité audiosoubory dokázali vědci upravit tak, že vyrušili zvuky, které měl systém umělé inteligence slyšet, a nahradili je takovými, které vedly k jinému strojovému přepisu, zatímco pro člověka byla změna takřka neznatelná.

Zjištění podle NYT ukazují zranitelnost současných chytrých technologií, přestože činí velký pokrok. Nebezpečí podobných manipulací zvyšují odhady, podle nichž počet zařízení s virtuálními pomocníky do roku 2021 převýší celosvětovou populaci lidí, nebo že ve stejném časovém horizontu bude mít alespoň jednoho digitálního domácího asistenta polovina amerických domácností.

Podle Carliniho zatím nic nenasvědčuje tomu, že by se postupy popsané v novém článku dostaly mimo světové laboratoře. Dodal ale, že je pouze otázkou času, než je někdo začne zneužívat. „Můj předpoklad je takový, že lidé s nekalými úmysly už platí lidi, aby dělali to, co dělám já,“ podotkl Carlini.

Na podzim může přijít katastrofa, varuje bývalý viceguvernér centrální banky

ilustrační snímek | na serveru Lidovky.cz | aktuální zprávy

Premium Patří mezi nejtalentovanější a nejznámější ekonomy v Česku. V pouhých 32 letech se stal viceguvernérem České národní...

Velké srovnání cen zubařských zákroků. V regionech se liší i o tisíce

ilustrační snímek | na serveru Lidovky.cz | aktuální zprávy

Premium Stomatologie je už léta oborem, v němž pacienti musí hodně platit. Pomalu se to ale mění. Akutní péče je díky větší...

Radit lidem, aby během pandemie seděli doma, byla chyba, říká Pavel Pafko

ilustrační snímek | na serveru Lidovky.cz | aktuální zprávy

Premium Zdůrazňuje, že není žádný king, ani se nepovažuje za mimořádně talentovaného. Pavel Pafko prý jen pracoval víc než...

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!