AI v Africe  Jaká vypadá budoucnost feministické umělé inteligence?

Vlády všech zemí Afriky rychle zavádějí neotřelé, nové technologie. Tyto platformy často pořizují od zahraničních dodavatelů na základě pochybných výběrových řízení. Celý kontinent se potýká s invazí umělé inteligence ze zahraničí a má-li být digitální budoucnost inkluzivní a etická, musí se mobilizovat feministická hnutí.

Data a na nich závislé systémy se staly nepostradatelnými nástroji zpochybňování moci a uplatňování sociálního vlivu v komunitách. Přehlížené skupiny obyvatel jsou však z procesů návrhu, kdy se určuje, jak se data budou využívat (a zneužívat), často vyloučeny.
 
Data jsou nezbytná pro porozumění, plánování a stanovování cílů. Neovlivňují však jen různá hnutí, ale i technologie organizující digitální prostory a stále častěji také algoritmy, které dnes ovlivňují naše životy. Data se vytvářejí, zpracovávají a interpretují na základě nerovných mocenských vztahů, hrozí tedy, že se stávající represivní a diskriminační normy, ať už jde o kolonialismus, rasismus, třídní diskriminaci či patriarchát, budou i nadále reprodukovat.
 
Chceme-li dosáhnout skutečné datové spravedlnosti, obrovské objemy stále rostoucího množství dat musí být zpracovávány inkluzivními datovými postupy a zároveň je třeba uvědomit si potenciální digitální agresi, kterou s sebou produkce dat přináší – především možné zneužití údajů, možné epistemické násilí i možnou algoritmickou diskriminaci.
 
Socioložka Ruha Benjamin ve své knize Race after Technology (Zápas o technologie) popisuje, jak se technologie pod rouškou historických předsudků, podjatosti a nerovností tváří jako objektivní, aby mohly omezovat černošská a hispánská těla. Jako příklad uvádí iniciativu s názvem Beauty AI– vůbec první soutěž krásy posuzovanou roboty. Jak se dalo očekávat, přestože soutěž využila „nejpokročilejší technologii strojového učení“, téměř všech 44 vítězek v různých kategoriích byly bělošky. Jak píše autorka: „Krása záleží na vkusu cvičeného algoritmu.“ Přestože jde o triviální příklad, kniha uvádí i mnohem hanebnější případy využití softwaru při policejním dohledu, ve vězeňství a v oblasti poskytování sociálních dávek. Africké země nové technologie zavádějí rychle, ovšem za jakou cenu? | Foto: Slim Emcee via Unsplash

Africký feminismus, technologie a role umění

Podle feministických vědkyň je důležité si uvědomit, že technologie a gender se vzájemně nevylučují, ale vznikají v „koprodukci“. Vztah mezi nimi neexistuje ve vzduchoprázdnu: technologie jsou utvářeny prostředím, ve kterém existují, a jsou regulovány také sociálními strukturami, jež ovlivňují genderové vztahy. Díky tomuto vztahu koprodukce se navzájem navíc neustále mění a tento proces nekončí jen produkcí technologií, ale týká se také designu, využití technologií a obsahu, který přinášejí. Proto se technologie a gender navzájem dynamicky ovlivňují.
 
Odpovědnost za úsilí o spravedlivou a rovnou společnost chápou a přebírají zejména africké feministky. Feministická hnutí a hnutí za práva žen v celé Africe se od tradičních hnutí na Západě či na severní polokouli výrazně liší. V rámci afrického feministického myšlení existuje mnoho feminismů i oblastí, jež mohou mít své vlastní, lokalizované rámce i řadu společných rysů. Bereme-li v úvahu intersekcionalitu i další feministické teoretické rámce, je důležité pochopit, jak k utváření offline i online prostorů společnost pod rouškou patriarchátu využívá právo, tradice, sílu, rituály, zvyky, vzdělávání, jazyk i práce.
 
Africký feminismus vnímá jako radikálně transformativní činy umění a lásku. Jak uvádí Minna Salami ve svém díle 7 key issues in African feminist thought (Sedm klíčových témat afrického feministického hnutí), „africké feministické hnutí inspiruje představa, že láska a spravedlnost se doplňují s revolucí a změnou. Soustředí se na uzdravení a smíření a trvá na tom, že jazyk afrického ženství je z hlediska jeho celosvětového postavení jazykem, jenž může transformovat společnost do té míry, aby zaručovala sexuální, rasovou, duchovní, psychologickou a sociální rovnost.“ Umění má schopnost překonávat zažitou hantýrku a zaměřit naši pozornost na „AI governance“ – správu věcí veřejných využívající umělou inteligenci.
 
Moje organizace Pollicy získala v roce 2019 ocenění Creative Media Award od tvůrce internetových aplikací Mozzila, jehož cílem je podpořit umění a neziskové projekty osvětlující roli umělé inteligence v šíření dezinformací. Díky tomuto ocenění jsme vytvořili a představili hru Choose Your Own Fake News (Vyber si své vlastní fake news), v níž mohou uživatelé v roli jedné ze tří postav z východní Afriky procházet a zkoumat dezinformace a fake news. Společnost Mozilla od té doby své úsilí zdvojnásobila a nedávno vyhlásila ocenění 2020 Creative Media Awards zaměřené na technology, umělce a producenty médií, kteří mohou optikou černošské zkušenosti poukázat na to, jak se umělá inteligence protíná s online médii a pravdou i na to, jaké má dopady. Organizace Pollicy vytvořila webovou hru s názvem „Choose Your Own Fake News“ | © @neemascribbles

Datová spravedlnost a transparentnost 

Vlády všech zemí Afriky rychle zavádějí neotřelé, nové technologie. Tyto platformy často pořizují od zahraničních dodavatelů v pochybných výběrových řízeních, přičemž transparentnost fungování algoritmů a jejich využití v budoucnosti je malá až nulová. Abeba Birhane v článku s názvem Algorithmic Colonization of Africa (Algoritmická kolonizace Afriky) na řadě případů ilustruje, jak rychlý nárůst zásahů umělé inteligence připomíná dobu koloniálního vykořisťování. Uvádí například systémy rozpoznávání obličejů v Zimbabwe a v Ugandě, kořistnické poskytování mikropůjček v Keni a diskriminační národní systémy biometrické identifikace, jež se objevily po celém kontinentu.
 
Sílí také názor, že data potřebujeme i přesnějšímu stanovení cílů žen a dalších marginalizovaných skupin obyvatel a k tomu, abychom se mohli bránit agresi vůči feministickým požadavkům. Zvláště důležité je to v situaci, kdy vlády a partneři rozvojové spolupráce reagují na pandemii onemocnění COVID-19 a chystají se rozhodovat i o tom, jak se bude navrhovat a poskytovat zdravotní, sociální a psychosociální podpora pro ženy a další zranitelné skupiny. Má-li se prosadit spíše proaktivní než reaktivní přístup a mají-li se rámce pro zavádění správy využívající umělou inteligenci rozvíjet s ohledem na genderovou otázku a se zaměřením na péči a bezpečnost, je třeba podpořit zásadní debatu feministických organizací a ženských skupin v Africe o systémech umělé inteligence. Neema Iyer | © Neema Iyer
 
Feministická hnutí mají obrovskou příležitost působit na pomezí genderu, technologií, výzkumu a umění, a poukázat tak na sílící vliv umělé inteligence v našem každodenním životě. Problémy se správou využívající umělou inteligenci (AI governance) se často nechávají na technolozích, feministický pohled je však nezbytný k tomu, abychom společně mohli vytvářet inkluzivní a etickou digitální budoucnost, kde budou vítány všechny skupiny a skončí diskriminační a škodlivé postupy, které k softwaru tradičně patří. Musíme mít pravomoc klást ty správné otázky a kriticky přemýšlet o tom, jak může budoucnost s jinou umělou inteligencí a jinými modely datovými modely pro správu věcí veřejných vypadat, a to dnes, zítra i v daleké budoucnosti.

Tento článek je součástí Kulturtechniken 4.0, internetového projektu Goethe-Institutu v Austrálii, který se zabývá průniky umělé inteligence a tradičních kulturních technik.