ЖЗ қоғамда
Ғалымдар жасанды зиятқа (ЖЗ) қоғам өмірінің барлық салаларында пайдалануын күтуге болатын негізгі технология ретінде қарайды. ЖЗ көптеген адамдар өмірінің сапасын жақсарта алады және жаөандық мәселелерді, мысалы, климаттың һзегруі немесе денсаулық сақтау саласындағы сыни жағдаяттар сияқтыларды, шешуге көмектесуі мүмкін.
Қазіргі күнде бүкіл әлемде ЖЗ жүйелерін әзірлеуге өте көп ақша бөлінеді. Бұл ЖЗ экономикалық әлеуеті қаншалықты жоғары екендігін көрсетеді. Бңрақ ЖЗ пайдалану салалары кеңеюіне байланысты әділдік, еркіндік, деректерді қорғау, қауіпсіздік және жауапкершілік сияқты адами құндылықтардың маңыздылығына алаңдушылық өсіп келеді. Қазіргі кезде қоғам тұрғысынан біздің техникалық мүмкіндіктерімізге қандай болуын қалайтымызз туралы бізге соншалықты анық және жан-жақты сұрақ қоятын басқа ұандай баолса да әзірлеме жоқ шығар. Осы технология біздің күнделікті өмірімізді терең өзгерткені және бұны жасауын жалғастыратыны күмәнсіз.
Машиналарға арналған мораль
Алгоритмдер танысуларға арналған қосымшалардың көмегімен көптеген адамдардың жеке өмірлерін өзгертеді, «ақылды үйді» басқарады, сатып алу туралы шешім қабылдайды және қоғамдық пікірталастарға әсер етеді. ЖЗ балалар туралы қам жейді, сырқаттарға күтім жасайды, жұмыс беретін және кредит беретін болады, сонымен қатар автономды қарудың көмегімен өмір немесе өлім туралы шешім қабылдайтын болады. Зияткерлік машиналар мінез-құлықтың һздерінің үлгілерін жасап шығарады, олар не анық бағдарланбайды, не мінез-құлық туралы дәстүрлі ғылыммен түсіндірілмейді. Этикалық әрекетті санасыз және ар-ұятсыз елестетіп көруге болады ма? Сонда адамдарға зиян келтірмей, тек қан оларға қызмет етететін ЖЗ қалай әзірлеуге болады? ЖЗ бойынша көптеген сарапшылар бұл сұрақтарға тек қана зерттеуліедің жаңа саласы жауап береді деп м сенімді: «Машиналардың мінез-құлқы», машиналар мінез-құлқын зерттеу. Қалай болса да, бір нәрсе ғана анық: болашақта машиналар өздерін лайықты түрде ұстауы үшін біз бүгін этика мен моральдің түбегейлі сұрақтарын шешу қажетпіз.
Моральді машина
Ияд Рахван Макс ПланкҚоғамының Берлиндегі Адам даму институтында және Бостондағы МТИ Медиа-зертханасында зерттеулер жүргізеді. Оның «Моральді машина» жобасы бүгінгі күні машиналық этика саласындағы ең ірі зерттеу болып табылады. Интерактивті сауалнама әлемнің әртүрлі өңірлерінде соларға сәйкес шешім қабылдайтын этикалық себебптерді және осының негізінде ЖЗ-ға арналған мінез-өқлық ережелерін дайындауға болатынын зерттейді. Егер күрделі апатты бодырмауға бомаса, онда автономды басқаруы бар автомобиль өзін қалай ұстауы тиіс? ЖЗ машинаны қайда бағыттау керек екендігін – және де, осылайша, кім тірі қалатынын шешуі тиіс. Осылай екен: барлық респонденттер мүмкіндігінше көп адам өмірін, ең алдымен балаларды және жол жүру ережелерін сақтайтындарды құтқарғылары келеді. Бірақ үңіле қарап байқағанда, жаһанды рұқсат етілген мәндер жоұ екендігі анық болады. Сөйтіп, Франция мен Оңтүстік Америкадан келген қатысушылар, еркектерге қарағанда, әйелдер мен балаларды құтқаруды артығырақ көруші еді, жапондықтар сонымен қатар егде адамдарды, ал немістердің көбі араласуды қаламайды және кім өлетінін «тағдырға» шешуге мүмкіндік береді екен.
Ранга Йогешвар Еуропа, АҚШ пен Қытайдағы жасанды зият саласындағы зерттеулердің жедел нүктелері бойынша саяхаттайды. Сонымен қатар ол Ияд Рахванға барып шығады, сонда оған «Моральді машина» жобасының мәнісін түсініреді (с TC 38:06).
Әділдікке бағдарланған
Кім кредит алады? Сұхбаттасуға кім шақырылатын болады? Түрмеден мерзімнен бұрын кім шығады? Болашақта компьютерлер адамдарға қатысты шешімдерді жиі (көмектесетін) қабылдайтын болады. Адамдардың жеке топтарына, басқалармен салыстырғанда, жақсырақ немесе нашарлау қарауға болмайды – тіпті абайсыз болса да. Бүл пайдаланылатын автоматтандырылған жүйелермен үнемі орын алып отырады. Неге? Және де ЖЗ өзін әділ ұстауға қалай үйрене алады? Алдымен ЖЗ оны «қоректендіретін» деректер негізінде кемсітпейтініне көз жеткізу қажет. Бұған қоса, компьютерлер себеп пен салдар арасында маңызды байланысты анықтау деңгейі үлкен маңызы бар болады. Қарапайым импликация жолдан жиі адастырады. Машиналық оқытудың себептілігі деп аталатын нәрсе зерттеулердің озық саласы болып табылады:өзара байланыстарды тынымсыз еңбектеніп талдап, алгоритмдерге бағдарламалау қажет. Бірақ бір сұрақ қалады: «Әділ шешім деген не?». Өйткені барлық мәдениеттер үшін бірдей әділ болатын әділдіктің анықтамасы жоқ.
ЖЗ кінәліге айналуы мүмкін бе?
Өздігінен оқитын және әрекет ететін машиналар қате жасағанда зазалды кім өтейді? Бағдарламаушылар, өндірушілер, пайдаланушылар? Бүкіл әлемдегі құқықтық жүйелер адамдар үшін құрылған, тіпті олардың кейбіреулері заттарға қатысты болса да. Бірақ бұл жағдайда өнімдер немесе машиналар емес, оларды өндіретін немесе пайдаланатын адамдар жауапты болады. Алайда осының бәрі сатып алған сәтте «дайын» болған машиналарға қатысты. Оқып білім алатын ЖЗ, екінші тараптан, үнемі өзгереді. Егер ЖЗ шешім қабылдаса – тек сонда ғаны бұл ЖЗ – ол құқық субъектісі ретінде өз әрекеттері үшін жауапты болу қажет емес пе? Құқытық жүйелер қай бағытта дамитын болады? Кейбір заңгерлер ештеңе өзгермеуі тиіс деп айтады. Екіншілері зияткерлік машиналарды пайдаланғанда өзінің жауапкершілігінен бас тарту мүмкіндігі болмауына қол жеткізуді қалайды. Үшінші топ мүлде жаңа заңнаманы әзірлеу керек деп нандырады.
Деркетердің құндылығы туралы
ЖЗ көмегімен деректердің орасан зор көлемдері талданады. Мысалы, олар маркетингте нақты клиентке бағдарланған жарнама үшін, іздеу жүйелерінің ұсынымдары үшін немесе сондай-ақ чат-боттар үшін пайдаланылады. Бұл онлайндық диалогтық жүйелер, олар адамның қатысуынсыз сұрақтарға нақты уақыт режимінде жауап қайтарады. Компаниялар чат-боттарды клиенттерге қызмет көрсету үшін немесе интернет дүкендерде пайдаланады, бірақ сонымен қатар олар әлеуметтік желілерде жиі пайда болады. Бірақ чат-боттар дұрыс жұмыс істеуі үшін деректер жақсы сапалы болуы тиіс.. Егер ЖЗ «дұрыс емес» түптұлғалардан үйренетін болса, ол дөрекі және тіл тигізуші нәсілшілге жылдам айналуы мүмкін. Мысалы, осындай жағдай 2020 ж. «Lee Luda»-мен орын алды: осы чат-боттың аватары болып бойжеткен-манга табылады, оның дерекқоры шамамен 100 миллиард ауызекі сөз құрайды. Бірнеше апта бойы 750 000 адам «Lee Luda»-мен қатынасады. Бірақ кейбір қатысушылардан Ли күмәнді нанымдарды іліп алады. Ол, адамға қатысты жек көрушілік білдіріп,үсті-үстіне көбейтіп, қорлайды, ақырында оны желіден шығарып тастайды.
Әлеуметтік роботтар
Желіге біріктірілген кәсіпорындарда адам мен машина зияткерлік команда ретінде жұмыс істеп жүр. Роботтар ауыр, қауіпті немесе қызықсыз міндеттерге кіріседі және осылай әріптестеріне көмектеседі. Болашақта роботтар мен ЖЗ сырқат және егде адамдарға күтім жасауда жиі көмек көрсететін болады. Адамдармен қатынасатын болатын зияткерлік машиналар да адамдар сияқты көрінеді: оларда бас, дене, екі қол және тіпті екі аяқ бар. Онда машина адамдармен жақсырақ қабылданатын болады– мысалы, үлкен қара ашық көздері мен жылтыр ақ денесі бар «Pepper» сияқты, 1,20-метрлік кішкентай робот-санитар. Ол бірнеше тілде сөйлейді, адам жүзін есте сақтауы мүмкін, эмоцияларды ажыратады және оларға әрекет етеді. Робот-санитарлар көптеген міндеттерді орындауды өздеріне алып, санитарлар болып жұмыс істейтін адамдарға көмектесуі мүмкін. Олар тұлғааралық қатынастарды алмастыра алмайды– бірақ олар үшін көбірек уақыт қамтамасыз етуі мүмкін.
Жасанды өнер
Өнер қызметкерлері цифрлық және физикалық әлем арасындағы өзара қатынас мәселесін әртүрлі шешеді. ЖЗ көптен бері ғылыми фанастикада маңызды рөл атқарады. Бірақ ЖЗ өзі өнер құрастыра алады ма? Өнер – бұл жасампаздық процесс, онда қабылдау, елестету және сезгіштік маңызды. ЖЗ жасампаз болуы мүмкін бе, егер ол әзіл-сықақты түсінбесе, қайғы мен қуанышты білмесе және оның сана-сезімі болмаса?
Бүгін зияткерлік алгоритмдердің көмегімен суреттер жасалады, өлеңдер жазылады және музыкалық шығармалар шығарылады. «Christie’s» аукциондық үйі алғашқы рет 2018 жылы ЖЗ жасаған суретті сауда-саттыққа қояды. Мюнхен суретшісі таңғажайып беттерді бейнеинсталляцияларда көрсетеді, олар нақты уақыт режимінде өзгеріп отырады: білім алушы ЖЗ келушілердің бет келбеттерін көркем туындыда біріктіреді және солай әртүрлі мәдениттерге бейімделеді. Ал «Deepfake» пайдалана отырып, ЖЗ жасанды жаратылған Тейлор Свифтты жасанды жазылған ән айтуға мәжбүрлейді . Бұл үшін алгоритм әншінің барлық әндерін талдайды және жаңа композицияны жинақтайды – дәл Тейлор Свифт стилінде.
«ЖЗ жасампаз болып табылмайды – ЖЗ жасампаздыққа бастамашылық етуі мүмкін».
Пианиношы және Бремен өнер университетіндегі фортепиано мен заманауи музыка оқытушысы Клаудия Джанет Биркхольц
Өнер шығармалары кімге тиесілі?
Егер ЖЗ өнер туындыларын шығара алтын болса, онда олар кімге тиесілі болады екен? ЖЗ өнері толығымен адамның араласуынсыз ешқашан жалауы мүмкін емес – тым болмаса әлдебіреу ол үшін бағдарлама жазып беруі қажет емес пе.Сонда туындының авторы болып кім табылады? 2018 жылы «Christie’s» акуциондық үйі аукционға « Эдмона де Белами портреты» деген суретті шығарады. Сатып алудың 432 500 АҚШ долллар көлеміндегі бүкіл құны Obvious француз арт-тобына табыс етілетін болады. Суретті жасау үшін Obvious ашық бастапқы коды бар алгоритмді суреттердің фотографияларымен «тамақтандырады» және осы деректердің негізінде оны суреттер жасауға үйретеді. Суретшілер бір суретті таңдайды, оған өздері атау береді және сауда-саттыққа қояды. Алгоритм бағдарламалаушысы аталмайды және л сатылымнан ештеңе алмайды. Бұл әділ ме? Сауалнамаға сәйкес, респондентттердің көбі
сіңірген еңбек ең алдымен оқыту алгоритмдеріне деректерді ұсынытындарға және оларды үйрететіндерге – осылайша, бұл жағдайда, Obvious-қа тиесілі деп санайды.
Машиналарға арналған мораль
Алгоритмдер танысуларға арналған қосымшалардың көмегімен көптеген адамдардың жеке өмірлерін өзгертеді, «ақылды үйді» басқарады, сатып алу туралы шешім қабылдайды және қоғамдық пікірталастарға әсер етеді. ЖЗ балалар туралы қам жейді, сырқаттарға күтім жасайды, жұмыс беретін және кредит беретін болады, сонымен қатар автономды қарудың көмегімен өмір немесе өлім туралы шешім қабылдайтын болады. Зияткерлік машиналар мінез-құлықтың һздерінің үлгілерін жасап шығарады, олар не анық бағдарланбайды, не мінез-құлық туралы дәстүрлі ғылыммен түсіндірілмейді. Этикалық әрекетті санасыз және ар-ұятсыз елестетіп көруге болады ма? Сонда адамдарға зиян келтірмей, тек қан оларға қызмет етететін ЖЗ қалай әзірлеуге болады? ЖЗ бойынша көптеген сарапшылар бұл сұрақтарға тек қана зерттеуліедің жаңа саласы жауап береді деп м сенімді: «Машиналардың мінез-құлқы», машиналар мінез-құлқын зерттеу. Қалай болса да, бір нәрсе ғана анық: болашақта машиналар өздерін лайықты түрде ұстауы үшін біз бүгін этика мен моральдің түбегейлі сұрақтарын шешу қажетпіз.
Моральді машина
Ияд Рахван Макс ПланкҚоғамының Берлиндегі Адам даму институтында және Бостондағы МТИ Медиа-зертханасында зерттеулер жүргізеді. Оның «Моральді машина» жобасы бүгінгі күні машиналық этика саласындағы ең ірі зерттеу болып табылады. Интерактивті сауалнама әлемнің әртүрлі өңірлерінде соларға сәйкес шешім қабылдайтын этикалық себебптерді және осының негізінде ЖЗ-ға арналған мінез-өқлық ережелерін дайындауға болатынын зерттейді. Егер күрделі апатты бодырмауға бомаса, онда автономды басқаруы бар автомобиль өзін қалай ұстауы тиіс? ЖЗ машинаны қайда бағыттау керек екендігін – және де, осылайша, кім тірі қалатынын шешуі тиіс. Осылай екен: барлық респонденттер мүмкіндігінше көп адам өмірін, ең алдымен балаларды және жол жүру ережелерін сақтайтындарды құтқарғылары келеді. Бірақ үңіле қарап байқағанда, жаһанды рұқсат етілген мәндер жоұ екендігі анық болады. Сөйтіп, Франция мен Оңтүстік Америкадан келген қатысушылар, еркектерге қарағанда, әйелдер мен балаларды құтқаруды артығырақ көруші еді, жапондықтар сонымен қатар егде адамдарды, ал немістердің көбі араласуды қаламайды және кім өлетінін «тағдырға» шешуге мүмкіндік береді екен.
Ранга Йогешвар Еуропа, АҚШ пен Қытайдағы жасанды зият саласындағы зерттеулердің жедел нүктелері бойынша саяхаттайды. Сонымен қатар ол Ияд Рахванға барып шығады, сонда оған «Моральді машина» жобасының мәнісін түсініреді (с TC 38:06).
Әділдікке бағдарланған
Кім кредит алады? Сұхбаттасуға кім шақырылатын болады? Түрмеден мерзімнен бұрын кім шығады? Болашақта компьютерлер адамдарға қатысты шешімдерді жиі (көмектесетін) қабылдайтын болады. Адамдардың жеке топтарына, басқалармен салыстырғанда, жақсырақ немесе нашарлау қарауға болмайды – тіпті абайсыз болса да. Бүл пайдаланылатын автоматтандырылған жүйелермен үнемі орын алып отырады. Неге? Және де ЖЗ өзін әділ ұстауға қалай үйрене алады? Алдымен ЖЗ оны «қоректендіретін» деректер негізінде кемсітпейтініне көз жеткізу қажет. Бұған қоса, компьютерлер себеп пен салдар арасында маңызды байланысты анықтау деңгейі үлкен маңызы бар болады. Қарапайым импликация жолдан жиі адастырады. Машиналық оқытудың себептілігі деп аталатын нәрсе зерттеулердің озық саласы болып табылады:өзара байланыстарды тынымсыз еңбектеніп талдап, алгоритмдерге бағдарламалау қажет. Бірақ бір сұрақ қалады: «Әділ шешім деген не?». Өйткені барлық мәдениеттер үшін бірдей әділ болатын әділдіктің анықтамасы жоқ.
ЖЗ кінәліге айналуы мүмкін бе?
Өздігінен оқитын және әрекет ететін машиналар қате жасағанда зазалды кім өтейді? Бағдарламаушылар, өндірушілер, пайдаланушылар? Бүкіл әлемдегі құқықтық жүйелер адамдар үшін құрылған, тіпті олардың кейбіреулері заттарға қатысты болса да. Бірақ бұл жағдайда өнімдер немесе машиналар емес, оларды өндіретін немесе пайдаланатын адамдар жауапты болады. Алайда осының бәрі сатып алған сәтте «дайын» болған машиналарға қатысты. Оқып білім алатын ЖЗ, екінші тараптан, үнемі өзгереді. Егер ЖЗ шешім қабылдаса – тек сонда ғаны бұл ЖЗ – ол құқық субъектісі ретінде өз әрекеттері үшін жауапты болу қажет емес пе? Құқытық жүйелер қай бағытта дамитын болады? Кейбір заңгерлер ештеңе өзгермеуі тиіс деп айтады. Екіншілері зияткерлік машиналарды пайдаланғанда өзінің жауапкершілігінен бас тарту мүмкіндігі болмауына қол жеткізуді қалайды. Үшінші топ мүлде жаңа заңнаманы әзірлеу керек деп нандырады.
Деркетердің құндылығы туралы
ЖЗ көмегімен деректердің орасан зор көлемдері талданады. Мысалы, олар маркетингте нақты клиентке бағдарланған жарнама үшін, іздеу жүйелерінің ұсынымдары үшін немесе сондай-ақ чат-боттар үшін пайдаланылады. Бұл онлайндық диалогтық жүйелер, олар адамның қатысуынсыз сұрақтарға нақты уақыт режимінде жауап қайтарады. Компаниялар чат-боттарды клиенттерге қызмет көрсету үшін немесе интернет дүкендерде пайдаланады, бірақ сонымен қатар олар әлеуметтік желілерде жиі пайда болады. Бірақ чат-боттар дұрыс жұмыс істеуі үшін деректер жақсы сапалы болуы тиіс.. Егер ЖЗ «дұрыс емес» түптұлғалардан үйренетін болса, ол дөрекі және тіл тигізуші нәсілшілге жылдам айналуы мүмкін. Мысалы, осындай жағдай 2020 ж. «Lee Luda»-мен орын алды: осы чат-боттың аватары болып бойжеткен-манга табылады, оның дерекқоры шамамен 100 миллиард ауызекі сөз құрайды. Бірнеше апта бойы 750 000 адам «Lee Luda»-мен қатынасады. Бірақ кейбір қатысушылардан Ли күмәнді нанымдарды іліп алады. Ол, адамға қатысты жек көрушілік білдіріп,үсті-үстіне көбейтіп, қорлайды, ақырында оны желіден шығарып тастайды.
Әлеуметтік роботтар
Желіге біріктірілген кәсіпорындарда адам мен машина зияткерлік команда ретінде жұмыс істеп жүр. Роботтар ауыр, қауіпті немесе қызықсыз міндеттерге кіріседі және осылай әріптестеріне көмектеседі. Болашақта роботтар мен ЖЗ сырқат және егде адамдарға күтім жасауда жиі көмек көрсететін болады. Адамдармен қатынасатын болатын зияткерлік машиналар да адамдар сияқты көрінеді: оларда бас, дене, екі қол және тіпті екі аяқ бар. Онда машина адамдармен жақсырақ қабылданатын болады– мысалы, үлкен қара ашық көздері мен жылтыр ақ денесі бар «Pepper» сияқты, 1,20-метрлік кішкентай робот-санитар. Ол бірнеше тілде сөйлейді, адам жүзін есте сақтауы мүмкін, эмоцияларды ажыратады және оларға әрекет етеді. Робот-санитарлар көптеген міндеттерді орындауды өздеріне алып, санитарлар болып жұмыс істейтін адамдарға көмектесуі мүмкін. Олар тұлғааралық қатынастарды алмастыра алмайды– бірақ олар үшін көбірек уақыт қамтамасыз етуі мүмкін.
Жасанды өнер
Өнер қызметкерлері цифрлық және физикалық әлем арасындағы өзара қатынас мәселесін әртүрлі шешеді. ЖЗ көптен бері ғылыми фанастикада маңызды рөл атқарады. Бірақ ЖЗ өзі өнер құрастыра алады ма? Өнер – бұл жасампаздық процесс, онда қабылдау, елестету және сезгіштік маңызды. ЖЗ жасампаз болуы мүмкін бе, егер ол әзіл-сықақты түсінбесе, қайғы мен қуанышты білмесе және оның сана-сезімі болмаса?
Бүгін зияткерлік алгоритмдердің көмегімен суреттер жасалады, өлеңдер жазылады және музыкалық шығармалар шығарылады. «Christie’s» аукциондық үйі алғашқы рет 2018 жылы ЖЗ жасаған суретті сауда-саттыққа қояды. Мюнхен суретшісі таңғажайып беттерді бейнеинсталляцияларда көрсетеді, олар нақты уақыт режимінде өзгеріп отырады: білім алушы ЖЗ келушілердің бет келбеттерін көркем туындыда біріктіреді және солай әртүрлі мәдениттерге бейімделеді. Ал «Deepfake» пайдалана отырып, ЖЗ жасанды жаратылған Тейлор Свифтты жасанды жазылған ән айтуға мәжбүрлейді . Бұл үшін алгоритм әншінің барлық әндерін талдайды және жаңа композицияны жинақтайды – дәл Тейлор Свифт стилінде.
«ЖЗ жасампаз болып табылмайды – ЖЗ жасампаздыққа бастамашылық етуі мүмкін».
Пианиношы және Бремен өнер университетіндегі фортепиано мен заманауи музыка оқытушысы Клаудия Джанет Биркхольц
Өнер шығармалары кімге тиесілі?
Егер ЖЗ өнер туындыларын шығара алтын болса, онда олар кімге тиесілі болады екен? ЖЗ өнері толығымен адамның араласуынсыз ешқашан жалауы мүмкін емес – тым болмаса әлдебіреу ол үшін бағдарлама жазып беруі қажет емес пе.Сонда туындының авторы болып кім табылады? 2018 жылы «Christie’s» акуциондық үйі аукционға « Эдмона де Белами портреты» деген суретті шығарады. Сатып алудың 432 500 АҚШ долллар көлеміндегі бүкіл құны Obvious француз арт-тобына табыс етілетін болады. Суретті жасау үшін Obvious ашық бастапқы коды бар алгоритмді суреттердің фотографияларымен «тамақтандырады» және осы деректердің негізінде оны суреттер жасауға үйретеді. Суретшілер бір суретті таңдайды, оған өздері атау береді және сауда-саттыққа қояды. Алгоритм бағдарламалаушысы аталмайды және л сатылымнан ештеңе алмайды. Бұл әділ ме? Сауалнамаға сәйкес, респондентттердің көбі
сіңірген еңбек ең алдымен оқыту алгоритмдеріне деректерді ұсынытындарға және оларды үйрететіндерге – осылайша, бұл жағдайда, Obvious-қа тиесілі деп санайды.
Ынтымақтастық жөніндегі серіктес
|
|
