Na celém světě se do vývoje systémů umělé inteligence již dnes investují obrovské finanční prostředky. Z toho je patrné, jak vysoký je její hospodářský potenciál. S rostoucí mírou využívání aplikací UI však rostou i pochybnosti týkající se například významu lidských hodnot, jako je spravedlnost, svoboda, ochrana osobních údajů, bezpečnost a odpovědnost. Asi žádný jiný produkt nás v současné době nestaví s takovou naléhavostí před otázku, jak chceme nahlížet na naše technické schopnosti ve společenských souvislostech. Jisté je, že tato technologie náš běžný život výrazně mění už teď a bude jej měnit i nadále.

Morálka pro stroje
Algoritmy seznamovacích aplikací mění milostný život lidí, jiné algoritmy řídí chytrou domácnost, další rozhodují o nákupu či ovlivňují veřejnou debatu. UI bude jednou hlídat děti, pečovat o nemocné, zadávat práci, schvalovat úvěry, a prostřednictvím autonomních zbraní dokonce rozhodovat o životě a smrti. Inteligentní stroje si budou vytvářet vlastní vzorce chování, které nebude možné jednoznačně naprogramovat ani vysvětlit pomocí tradiční etologie. Může vůbec existovat etické jednání bez vědomí a svědomí? Jak vytvořit umělou inteligenci, která bude lidem sloužit, ale nikoli škodit? Mnozí odborníci na UI jsou přesvědčeni, že odpovědi na tyto otázky může poskytnout jedině nový vědecký obor, a to „Machine Behaviour“, tedy jakási etologie strojů. Jedna věc je jasná: Základní otázky etiky a morálky, podle nichž by se stroje měly v budoucnu chovat, musíme vyřešit již dnes.

The Moral Machine
Výzkumnými pracovišti Iyada Rahwana jsou Ústav Maxe Plancka pro edukologii v Berlíně a MIT Media Lab v Bostonu. Jeho projekt se jmenuje „The Moral Machine“ a představuje dosud největší studii v oblasti etiky strojů. Pomocí interaktivního dotazníku zjišťoval, z jakých etických důvodů se lidé v různých oblastech světa rozhodují a zda z toho lze odvodit pravidla chování pro umělou inteligenci. Jak se má zachovat autonomně řízené vozidlo v situaci, kdy nedokáže zabránit závažné dopravní nehodě? UI se musí rozhodnout, kam automobil pojede, tedy jinými slovy, kdo přežije. Ukázalo se, že všichni dotazovaní by chtěli především zachránit co nejvíce lidských životů, a to nejprve dětí a těch, kdo dodržují pravidla silničního provozu. Avšak při bližším zkoumání je zřejmé, že celosvětově platné hodnoty neexistují. Například většina respondentů z Francie a Jižní Ameriky by zachraňovala ženy a děti dříve než muže, Japonci by zachraňovali navíc seniory, zatímco třeba většina Němců by nechtěla do situace zasahovat vůbec a rozhodnutí o tom, kdo musí zemřít, by přenechala osudu.

© moralmachine.mit.edu, Screenshot

Naprogramovaná férovost
Kdo dostane úvěr? Kdo bude pozván na přijímací pohovor? Kdo vyjde dříve z vězení? V budoucnosti budou o lidech stále častěji rozhodovat či alespoň spolurozhodovat počítače. Nesmí se stát, aby určité skupiny lidí byly oproti jiným zvýhodněny nebo znevýhodněny, a to ani neúmyslně. Automatickým systémům, které jsou používány již dnes, se to však stává poměrně často. Proč? Jak naučit umělou inteligenci chovat se férově? Především je třeba zajistit, aby UI nediskriminovala na základě dat, jimiž je „nakrmena“. Dále hraje důležitou roli to, nakolik jsou počítače schopny vytvořit logický vztah mezi příčinou a následkem. Jednoduché vztahy na principu „jestliže – pak“ často vedou na scestí. Tato takzvaná kauzalita strojového učení je dnes velmi aktuálním výzkumným oborem: Musíme rozsáhle analyzovat souvislosti a podle nich naprogramovat algoritmy. Ale i tak nám tu zůstane otázka: „Co je to férové rozhodnutí?“ Neexistuje totiž definice férovosti, která by platila pro všechny kultury stejně.

Může být UI viníkem?
Kdo zaplatí škodu, jestliže samostatně se učící a samostatně jednající stroj udělá chybu? Programátor, výrobce, uživatel? Právní řády na celém světě byly vytvořeny pro lidi, i když se někdy vztahují k věcem. Odpovědnost ale ani v těchto případech nenesou výrobky nebo stroje, nýbrž lidé, kteří je vyrobili nebo kteří je užívají. To všechno však platí pro stroje, které jsou v okamžiku zakoupení již „hotové“. Učící se UI se však neustále mění. Jestliže UI činí rozhodnutí (a jen v takovém případě se jedná o UI), neměla by pak nést za své konání odpovědnost jako právní subjekt? Kterým směrem se právní řády vydají? Někteří právníci říkají, že se nic měnit nemusí. Jiní by chtěli zajistit, aby se člověk nemohl používáním inteligentních strojů zbavit své odpovědnosti. Třetí skupina zastává názor, že bude nutné vytvořit zcela nové právní předpisy.

O hodnotě dat
Pomocí umělé inteligence je vyhodnocováno obrovské množství dat. Využívají se například v marketingu pro personalizovanou reklamu, pro doporučení vyhledavačů nebo pro chatboty. Chatboty jsou online dialogové systémy, které jsou schopny bez pomoci člověka odpovídat na otázky v reálném čase. Podniky používají chatboty v rámci zákaznických služeb nebo v e-shopech. Často se vyskytují také na sociálních sítích. Aby chatboty fungovaly správně, musí mít především kvalitní data. Jestliže se UI učí z nesprávných vzorů, může se velmi rychle stát rasistickou, vulgární či urážlivou. To se stalo například koncem roku 2020 s chatbotem „Lee Luda“: Avatarem tohoto chatbotu byla dívka ve stylu Manga a jejím datovým základem bylo asi 100 miliard chatovacích zpráv. Během několika málo týdnů s dívkou komunikovalo 750.000 lidí. Ovšem od některých účastníků se Lee Luda přiučila problematické názory. Chovala se čím dál urážlivěji a pohrdavěji, až byla nakonec ze sítě stažena.

Sociální roboti
V integrovaných továrnách již dnes často lidé a stroje vzájemně spolupracují jako inteligentní týmy. Roboti vykonávají náročné, nebezpečné nebo nudné práce a pomáhají tak svým kolegům. Také v oblasti péče o nemocné a seniory se do budoucna počítá se stále častějším využíváním robotů a umělé inteligence při provádění pomocných činností. Inteligentní stroje, které mají komunikovat s lidmi, často jako lidé i vypadají: Mají hlavu, tělo, dvě paže, a někdy dokonce i dvě nohy. Lidé pak stroj snáze akceptují. Takový je například pečovatelský robot „Pepper“, který je 120 cm vysoký, má lesklé bílé tělo a velké černé oči, kterými dokáže koulet. Mluví několika jazyky, pamatuje si obličeje, umí rozpoznávat pocity a reagovat na ně. Pečovatelští roboti mohou převzít mnohé úkony a stát se velkou pomocí pro lidi pracující v ošetřovatelské péči. Mezilidské vztahy sice nenahradí, ale vytvoří pro ně více času.

Umělé umění
Se vztahy mezi digitálním a fyzickým světem se rozmanitými způsoby vypořádávají i umělci. V oblasti science-fiction hraje UI důležitou roli už dávno. Dokázala by ale umělá inteligence sama umění tvořit? Umění je kreativní proces, pro nějž je důležité vnímání, představivost a intuice. Může být umělá inteligence kreativní, když nezná humor, smutek ani radost a nemá vědomí?
Za pomoci inteligentních algoritmů dnes vznikají obrazy, básně i hudební skladby. Aukční síň Christie’s v roce 2018 poprvé vydražila obraz vytvořený umělou inteligencí. Mnichovský umělec Mario Klingemann ve svých videoinstalacích ukazuje imaginární obličeje, které se v reálném čase mění: Učící se umělá inteligence do uměleckého díla integruje obličejové rysy návštěvníků a přizpůsobuje se i různým kulturám. A umělá inteligence umí ještě více: „Deepfake“ vytvoří umělou Taylor Swift a nechá ji zazpívat umělou píseň, která vznikne tak, že algoritmus zanalyzuje všechny zpěvaččiny písně a syntetizuje z nich nový song – dokonale ve stylu Taylor Swift.

„UI není kreativní, ale může kreativitu vyvolat.“
Claudia Janet Birkholz, klavíristka a vysokoškolská pedagožka vyučující klavír a soudobou hudbu na Vysoké škole umění v Brémách

Komu patří umělecké dílo?
Jestliže bylo umělecké dílo vytvořeno umělou inteligencí, komu potom patří? Zcela bez lidského přičinění dílo umělé inteligence nikdy vzniknout nemůže – někdo k tomu musí minimálně napsat program. Ale kdo je v tom případě umělec? V roce 2018 byl v Christie’s vydražen obraz „Portrait of Edmond de Belamy“. Celou kupní cenu ve výši 432.500 dolarů dostal francouzský umělecký kolektiv Obvious. Aby mohlo toto dílo vzniknout, využila skupina Obvious jeden open-source algoritmus, který „nakrmila“ fotografiemi výtvarných děl a naučila ho z těchto dat vytvářet obrazy. Jeden z těchto obrazů pak umělci vybrali, dali mu jméno a nabídli ho k prodeji. Programátor algoritmu nikde není uveden a z výtěžku prodeje nic nedostal. Je to spravedlivé? Podle jiného průzkumu na toto téma byla většina dotazovaných toho názoru, že uznání by se mělo dostat především těm, kdo učící se algoritmus naplnili daty a poté jej trénovali, v tomto případě tedy skupině Obvious.