Nové techniky manipulace  Nevěřte vlastním očím

Stojíme na počátku etapy, kdy téměř každý majitel laptopu a běžné kamery je s pomocí prepřipravených algoritmů schopen dle libosti manipulovat audiovizuální obsahy.

Co mají společného herci Paul Walker z Rychle a zběsile 7 a Carrie Fisherová z Rogue One (A Star Wars Story)? Ani jeden z nich nehrál ve scénách, ve kterých je diváci mohli vidět. Když se dotáčelo 350 záběrů do prvního zmiňovaného filmu, Walker už nebyl mezi živými. A v případě Rogue One byla 60-letá herečka přesvědčená, že ve filmu byly využity její staré záběry. Až pak jí vysvětlili, že se jednalo o počítačově generovaný obraz.

Zvláštní efekty se ve filmových studiích využívají již desítky let, ale donedávna byly úpravy obrazu a zvuku nákladné, náročné a vyhrazené expertům. Technologický pokrok nyní dává tyto nástroje do rukou každému pokročilému uživateli počítače. Například programátor může využít bezplatnou softwarovou knihovnu TensorFlow, vytvořit si vlastní malou umělou inteligenci a pak s její pomocí nahradit obličej pornoherečky obličejem izraelské hvězdy Wonder Woman. To udělal jeden z uživatelů diskusního fóra Reddit s přezdívkou „Deepfakes“. Z toho pak vzešel název pro úpravy obrazu a zvuku pomocí umělé inteligence. Právě vstupujeme do nové éry, kdy téměř každý uživatel notebooku a standardní kamery bude díky přístupnosti předpřipravených algoritmů moci manipulovat audiovizuální obsahy.

Nové techniky manipulace

Software FakeApp umožňuje vyměnit obličej v části filmu. K tomu je potřeba zhruba 500 portrétních fotografií dané osoby, na jejichž základě se umělá inteligence „učí“, jak daný člověk vypadá. Poté je tato aplikace schopná rozpoznat obličej na dalších fotografiích nebo upravit fotografii jiného člověka takovým způsobem, aby byly zachovány vlastnosti obličeje vzoru. V roce 2016 firma Adobe přišla s VoCo, což je systém pro úpravu zvuku, s jehož pomocí lze vytvořit libovolnou promluvu.

Samoučící se algoritmy už umějí třeba vytvářet trojrozměrné modely obličeje na základě 2D záběrů, samy měnit zdroj světla a stíny na fotografiích, automaticky přidávat odpovídající zvuk na základě analýzy filmového obrazu a dokonce vytvořit obraz na základě popisu (ačkoliv ještě nedokonale). Vědecký projekt Face2Face ukazuje, jak lze nahradit jeden obličej druhým při živém vystoupení. Ještě to není tak jednoduché, jako obsluha aplikace pro chytrý telefon, ale časem určitě bude. Podle výzkumu Pega až 77 procent spotřebitelů využívá služby nebo zařízení pracující s algoritmy umělé inteligence, ačkoliv o tom více než polovina z nich neví.

V každém řetězci nul a jedniček lze snadno provádět změny, které nevidíme. To znamená, že nejrozšířenější způsob zveřejňování informací – pomocí obrazu – se stal náchylnější vůči manipulaci.

Podle průzkumu Eurobarometru týkajícího se používá médií v roce 2017 sledovalo 84 procent obyvatel Evropy televizi každý den nebo téměř každý den – to je o 2 procentní body více než v roce 2016. Televize už přešla na digitální vysílání, a podle odborníků budou programy stále více interaktivní, tedy digitální. V každém řetězci nul a jedniček lze snadno provádět změny, které nevidíme. To znamená, že nejrozšířenější způsob zveřejňování informací – pomocí obrazu – se stal náchylnější vůči manipulaci. Jediným způsobem komunikace, který nelze zmanipulovat, se stává rozhovor tváří v tvář.

Další nástroj pro manipulátory

Nová technologie se dostala k uživatelům, tedy také ke zločincům, teroristům nebo politickým manipulátorům. Na portálu BuzzFeed byl zveřejněn film, v němž Barack Obama varuje před deep fakes. V druhé části videa je zřejmé, že bývalý prezident se natáčení vůbec neúčastnil a jeho ústy pohybuje komik Jordan Peele.

Ještě donedávna byla videa považována za nezvratné důkazy, jakožto něco syrového, nepřetvořeného. Nyní může být film stejně nepravdivý jako několik vět na Facebooku – a lidé na to nejsou připravení.

Vždyť falešné zprávy již v textové podobě umějí otřást veřejným míněním. V dubnu 2013 hackeři převzali kontrolu nad twitterovým účtem tiskové agentury Associated Press a zveřejnili následující příspěvek: „Čerstvá zpráva: Dvě exploze v Bílém domě, Barack Obama je raněný“. O dvě minuty později akciové kurzy společností na burze v New Yorku klesly o 136 miliard dolarů. V Barmě byly příspěvky na Facebooku spoluzodpovědné za pogromy proti Rohingům. A teď si vezměte, že videím a nahrávkám věříme značně více. Donedávna byly považovány za nezvratné důkazy, jakožto něco syrového, nepřetvořeného. Nyní může být film stejně nepravdivý jako několik vět na Facebooku – a lidé na to nejsou připravení. Výzkumy Univerzity ve Warwicku prokázaly, že 30 procent pozměněných obrazů divák není schopen rozpoznat.

Představte si, že dva dny před parlamentními volbami bude politik, který je známý svou poctivostí, natočen, jak přijímá úplatek. Ověření, zda je film původní, a zveřejnění informace, že se jedná o podvod, bude možné až po volbách. Zvukové nahrávky kompromitující politiky unikají v každém státě, a nyní to mohou být i nahrávky falešné. Experti na veřejnou bezpečnost upozorňují, že největším rizikem je pozměňování skutečných nahrávek, videí nebo dokumentů.

Ztráta důvěry k video a audio nahrávkám bude mít velké důsledky. V soudnictví se stane problematické posuzování důkazního materiálu, a novináři budou muset provádět prověřování pravosti materiálů. Moderní technologie v rukou nedemokratických režimů jim pomohou udržet se u moci, jelikož umožňují šířit přesvědčivé, ačkoliv zmanipulované obrazy, a cenzurovaná média jistě veřejnosti neřeknou, že se jedná o podvod.

Zlá nebo hodná umělá inteligence?

Vlády, byznys a vědci již zapojují algoritmy umělé inteligence do rozpoznávání manipulací, které produkují jiné algoritmy. Existuje naděje, že kryptografie, tedy šifrování komunikačních kanálů, omezí zásahy do živých přenosů. Pracuje se na rozšířeních do internetových prohlížečů určených pro běžné uživatele, ty budou označovat potenciálně pozměněné fotografie nebo videa na webových stránkách.

Vlády zvažují omezení dostupnosti nebo možností nástrojů pro editaci videa a audia. Jedním z příkladů je Francie, která omezila retušování fotografií modelek na obálkách módních časopisů, za účelem boje s anorexií, Dále mezinárodní dohoda výrobců kopírek, kteří blokují kopírování bankovek. Řešením může být uzákonění zodpovědnosti digitálních platforem za publikování pozměněného obsahu, což zajisté povede k vytvoření automatických systémů analýzy obsahu. Experti diskutují o využití blockchainu – technologie, na níž jsou založeny kryptoměny – pro ověřování obsahu na Internetu. Mělo by se jednat o digitální vodoznak obsahující informace o autorovi obsahu. Nejdůležitější je však kritický přístup příjemce. Pokud v nás video vzbuzuje silné emoce, jedná se o první varovný signál, protože o to obvykle manipulátorům jde.

november 2018