PRAVDA A LOŽ
NEVERTE VŠETKÉMU, ČO VIDÍTE

Viete čo majú spoločné Paul Walker z „Fast & Furious 7“ a Carrie Fisher z „Rogue One: A Star Wars Story“? Obidvaja sa objavili v scénach, ktoré vôbec nenakrútili. V čase, keď vzniklo 350 dodatočných scén s Paulom Walkerom, už nebol nažive, a svojho času šesťdesiatročná Carrie Fischer bola presvedčená o tom, že filmári použili jej staré zábery. Až neskôr sa dozvedela, že dodatočné zábery vznikali na počítači.

Von Michał Zieliński, Polityka Insight

Hoci sa špeciálne efekty vo filmovom priemysle využívajú už celé desaťročia, až donedávna sa dodatočné zmeny v obraze a zvuku považovali za drahý a náročný úkon, patriaci výlučne do rúk špecialistov. Vďaka technologickému pokroku môžu s porovnateľnými technológiami od istej doby narábať aj pokročilí používatelia počítačov. A tak môžu programátori využiť napríklad otvorenú softvérovú knižnicu pre umelú inteligenciu TensorFlow a hlavu izraelskej predstaviteľky Wonder Woman Gal Gadotovej vložiť do erotického videa presne tak, ako to urobil „deepfakes“, používateľ platformy Reddit, podľa ktorého fenomén manipulácie audiovizuálnych obsahov prostredníctvom umelej inteligencie dostal svoje meno. Stojíme na počiatku novej éry, v ktorej je bezmála každý majiteľ laptopu a obyčajnej kamery schopný vďaka predpripraveným algoritmom zneužiť audiovizuálne obsahy, ako sa mu zapáči.

NOVÉ SPÔSOBY MANIPULÁCIE

Pomocou softvéru FakeApp sa dajú ľubovoľne zamieňať tváre vo filmoch. Potrebujeme k tomu zhruba 500 snímok tváre jednej osoby, prostredníctvom ktorých sa využívaná umelá inteligencia „naučí“, ako táto osoba vyzerá. Aplikácia následne dokáže rozpoznať tvár danej osoby na iných obrázkoch alebo ju preniesť do videozáznamu, na ktorom je iná osoba. Spoločnosť Adobe predstavila v roku 2016 softvér VoCo, pomocou ktorého sa dajú ľubovoľne meniť rečové nahrávky. Deep-learningové algoritmy dokážu na základe bežných fotografií vytvoriť už aj trojrozmerné modely tváre, meniť zdroj svetla a tiene na fotografiách, filmové snímky automaticky podfarbiť vhodnými zvukmi a dokonca, aj keď stále ešte trošku neobratne, zhotovovať obrázky na základe opisu.

Výskumný projekt Face2Face ukazuje, ako sa dajú v reálnom čase prenášať črty tváre jedného človeka na druhého. Istotne je iba otázkou času, pokým táto metóda nebude k dispozícii aj v našich smartfónoch. Podľa štúdie softvérovej spoločnosti Pegasystems 77 percent spotrebiteľov už používa služby a zariadenia, v ktorých sa využíva umelá inteligencia, pričom viac ako polovica z nich bez toho, že by o tom vedela. Podľa prieskumu týkajúceho sa využívania médií v Európskej únii v rámci Eurobarometra 2017 sleduje televíziu denne, respektíve skoro každý deň 84 percent Európanov, čo predstavuje o 2 percentá menej, ako tomu bolo v roku 2016. Digitalizácia televízie je v plnom prúde a podľa názovu odborníkov budú mať televízne programy čoraz interaktívnejší charakter. Avšak každý rad núl a jednotiek sa dá zmeniť jednoducho bez toho, že by sme si to všimli. Znamená to, že najobľúbenejšie médium audiovizuálneho šírenia informácií sa stalo dostupnejším na manipulovanie. Ako jediný komunikačný kanál, ktorý nemožno zneužiť, slúži komunikácia tvárou v tvár..

NOVÉ MOŽNOSTI PRE ZNEUŽÍVATEĽOV

Nové technológie si nachádzajú uplatnenie všade – aj medzi zločincami, teroristami či demagógmi. Internetový portál BuzzFeed uverejnil v roku 2018 video, v ktorom Barack Obama varoval pred nástupom deepfakes. Až z druhej časti tohto videa je jasné, že v ňom vôbec nevystupuje Obama ale americký herec Jordan Peele, ktorý za bývalého amerického prezidenta hovorí.


Aj fake news, ktoré majú iba podobu textu, sú schopné otriasť verejnou mienkou. V apríli 2013 napadli hackeri twittrový účet americkej informačnej agentúry Associated Press a zverejnili tweet v znení: „Naliehavé: dva výbuchy v Bielom dome, Barack Obama je zranený“. Vyvolali tak šok dokonca aj na burze: počas dvoch minút prišli americké akcie o hodnotu vo výške 136 miliárd eur. A v Mjanmarsku sa nenávistné posty na Facebooku spolupodieľali na etnických čistkách na menšine Rohingov.. A predsa je naša dôvera vo video a audionahrávky podstatne väčšia: ešte donedávna boli považované za nespochybniteľné dôkazy, ktoré sa nedajú falšovať. Dnes už ale môže byť video rovnako nepravdivé ako správa na Facebooku. Používatelia na to však nie sú pripravení. Pri experimente realizovanom na Univerzite vo Warwicku jeho účastníci nedokázali ako podvrh identifikovať 30 percent z predložených falšovaných obrázkov.

Ako možný scenár si teda predstavme nasledujúci príklad: dva dni pred parlamentnými voľbami sa objaví video zachytávajúce politika, ktorý je považovaný za obzvlášť čestného, pri prijímaní úplatku. Dôkaz o tom, že video bolo iba podvrhom, môže pokojne prísť až po voľbách. Kompromitujúce zvukové nahrávky sa momentálne objavujú po celom svete, pričom nie je možné vylúčiť, že ide o podvrhnuté nahrávky. Bezpečnostní experti poukazujú na to, že najväčšie riziko vzniká pri autentických nahrávkach a dokumentoch, ktoré môžu byť dodatočne sfalšované.

Strata dôveryhodnosti obrazových a zvukových dokumentov bude mať ďalekosiahle následky. Právne posudzovanie dôkazov bude čoraz náročnejšie. Žurnalisti budú musieť dôsledne preskúmať pravosť akýchkoľvek dokumentov. A nedemokratické režimy budú nové technické možnosti využívať k tomu, aby sa vďaka stále presvedčivejšiemu falšovaniu obrazu, ako aj cenzúre v mediálnom priestore udržali pri moci.

DOBRÁ VS. ZLÁ UMELÁ INTELIGENCIA

Vlády, hospodárske podniky a výskumné ústavy už využívajú deep-learningové algoritmy, aby podvrhy odhalili. Existuje nádej, že falšovaniu autentických snímok sa bude dať zamedziť pomocou kryptografických metód na kódovanie signálov. Softvérové spoločnosti už tiež pracujú na rozšírených možnostiach prehliadačov, ktoré by v budúcnosti priemerných používateľov internetu mohli upozorniť na falšované videá a fotografie.

Vlády niektorých krajín už tiež uvažujú nad zavedením obmedzení prístupu k programom na spracovanie audio a videonahrávok, prípadne ohraničením ich možností. Francúzsko v záujme ochrany mládeže pred anorexiou zaviedlo povinnosť označovať retušované fotografie modeliek. Aj poprední výrobcovia tlačiarní a kopírovacej techniky inštalujú do svojich zariadení mechanizmus, ktorý znemožňuje kopírovanie bankoviek. Ďalší krok predpokladá rozšírenie mediálneho práva týkajúceho sa tlače aj na oblasť sociálnych sietí, čo by umožnilo stíhať internetové koncerny za šírenie falošných správ. Takéto opatrenie by istotne viedlo k rozvoju automatizovaných analytických systémov.

Z tohto dôvodu odborníci aktuálne diskutujú o možnom nasadení technológie blockchain – technického základu kryptomien – na autorizovanie online obsahov. Znamenalo by to zavedenie digitálneho vodoznaku, ktorý obsahuje informácie o autorovi daného príspevku.Tým najdôležitejším však naďalej zostáva rozvoj kritického postoja adresátov. Akonáhle si všimneme, že video v nás vyvoláva silné emócie, treba sa mať obzvlášť na pozore, pretože zvyčajne práve to býva hlavným zámerom manipulácie.