Во всем мире сегодня уже выделяются очень большие деньги на разработку систем ИИ. Это показывает, насколько высок экономический потенциал ИИ. Однако по мере увеличения областей применения ИИ растет и озабоченность, например, важностью таких человеческих ценностей, как справедливость, свобода, защита данных, безопасность и ответственность. Едва ли какая-либо другая разработка в настоящее время так ясно и всесторонне ставит перед нами вопрос о том, какими мы хотим видеть наши технические возможности в контексте общества. Несомненно то, что эта технология уже глубоко изменила нашу повседневную жизнь и будет продолжать это делать.

Мораль для машин
Алгоритмы меняют личную жизнь многих людей с помощью приложений для знакомств, управляют «умным домом», принимают решения о покупках и влияют на общественные дискуссии. ИИ будет заботиться о детях, ухаживать за больными, предоставлять работу и выдавать кредиты, а также принимать решения о жизни и смерти при помощи автономного оружия. Интеллектуальные машины выработают свои собственные модели поведения, которые не могут быть ни четко программируемыми, ни объяснены традиционной наукой о поведении. Но мыслимо ли вообще этическое действие без сознания и совести? Как же разработать ИИ, который будет служить людям, а не вредить им? Многие эксперты по ИИ убеждены, что ответить на эти вопросы может только новая область исследований: «Поведение машин», исследование поведения машин. В любом случае, ясно одно: мы должны решить принципиальные вопросы этики и морали сегодня, чтобы в будущем машины вели себя соответствующим образом.

Моральная машина
Ияд Рахван проводит исследования в Институте развития человека Общества Макса Планка в Берлине и в Медиа-лаборатории МТИ в Бостоне. Его проект «Моральная машина» является крупнейшим на сегодняшний день исследованием в области машинной этики. Интерактивный опрос исследует этические причины, по которым люди в разных регионах мира принимают решения, и можно ли на основе этого разработать правила поведения для ИИ. Как должен вести себя автомобиль с автономным управлением, если серьезную аварию невозможно предотвратить? ИИ должен решить, куда направить машину – и, таким образом, кто выживет. Оказывается: все респонденты хотят спасти как можно больше человеческих жизней, в первую очередь детей и тех, кто соблюдает правила дорожного движения. Но при ближайшем рассмотрении становится ясно, что глобально допустимых значений не существует. Так участники из Франции и Южной Америки предпочли бы спасать скорее женщин и детей, чем мужчин, японцы также пожилых людей, а большинство немцев не хотят вмешиваться и позволяют «судьбе» решать, кто должен умереть.

© moralmachine.mit.edu, скриншот

Ранга Йогешвар путешествует по горячим точкам исследований в области искусственного интеллекта в Европе, США и Китае. При этом он посещает также Ияда Рахвана, и ему объясняют суть проекта «Моральная машина» (с TC 38:06).

Запрограммирован на справедливость
Кто получит кредит? Кто будет приглашен на собеседование? Кто досрочно выйдет из тюрьмы? В будущем компьютеры будут все чаще (помогать) принимать решения, касающиеся людей. К отдельным группам людей нельзя относиться лучше или хуже, чем к другим – даже непреднамеренно. Это постоянно происходит с автоматизированными системами, которые уже используются. Почему? И как ИИ может научиться вести себя справедливо? Сначала необходимо убедиться, что ИИ не дискриминирует на основе данных, которыми его «кормят». Более того, степень, в которой компьютеры могут установить значимую связь между причиной и следствием, имеет большое значение. Простая импликация часто сбивает с пути. Эта так называемая причинность машинного обучения является очень актуальной областью исследований: необходимо кропотливо анализировать взаимосвязи и программировать в алгоритмы. Но, наконец, остается вопрос: «Что такое справедливое решение?». Потому что не существует определения справедливости, которое было бы одинаково справедливо для всех культур.

Может ли ИИ стать виновным?
Кто оплачивает ущерб, когда самостоятельно обучающиеся и действующие машины совершают ошибки? Программисты, производители, пользователи? Правовые системы во всем мире созданы для людей, даже если некоторые из них относятся к вещам. Однако в этом случае ответственность несут не продукты или машины, а люди, которые их производят или используют. Но все это относится к машинам, которые «готовы» на момент покупки. Обучающийся ИИ, с другой стороны, постоянно меняется. Если ИИ принимает решения – и только тогда это ИИ – разве он не должен нести ответственность за свои действия как субъект права? В каком направлении будут развиваться правовые системы? Некоторые юристы говорят, что ничего не должно меняться. Другие хотят добиться, чтобы, используя интеллектуальные машины, не было возможности отказаться от своей ответственности. Третья группа утверждает, что необходимо разработать совершенно новое законодательство.

О ценности данных
С помощью ИИ анализируются огромные объемы данных. Они используются, например, в маркетинге для рекламы, ориентированной на конкретного клиента, для рекомендаций поисковых систем или также чат-ботов. Это онлайновые диалоговые системы, которые отвечают на вопросы в режиме реального времени без участия человека. Компании используют чат-ботов для обслуживания клиентов или в интернет-магазинах, но они также часто появляются в социальных сетях. Однако, чтобы чат-боты работали правильно, данные должны быть хорошего качества. Если ИИ учится на «неправильных» прототипах, он может быстро стать расистом, грубым и оскорбительным. Такое случилось, например, в конце 2020 г. с «Lee Luda»: аватаром этого чат-бота является девушка-манга, ее база данных составляет около 100 миллиардов разговорных высказываний. В течение нескольких недель 750 000 человек общаются с «Lee Luda». Но от некоторых участников Ли усваивает сомнительные убеждения. Она ведет себя все более оскорбительно, выражая презрение по отношению к человеку, и в конце концов ее удаляют из сети.

Социальные роботы
На предприятиях, объединенных в сеть, человек и машина уже работают вместе как интеллектуальная команда. Роботы берутся за тяжелые, опасные или скучные задачи и тем самым помогают своим коллегам. В будущем роботы и ИИ также будут все чаще оказывать помощь в уходе за больными и пожилыми людьми. Интеллектуальные машины, которые должны общаться с людьми, часто тоже выглядят как люди: у них есть голова, туловище, две руки и иногда даже две ноги. Тогда машина будет лучше восприниматься людьми – как, например, «Pepper», 1,20-метровый маленький робот-санитар с большими черными широко раскрытыми глазами и блестящим белым туловищем. Он говорит на нескольких языках, может запоминать лица, распознавать эмоции и реагировать на них. Роботы-санитары могут взять на себя выполнение многих задач и тем самым помочь людям, работающим санитарами. Они не могут заменить межличностные отношения – но могут обеспечить больше времени для них.

Искусственное искусство
Работники искусства по-разному решают проблему взаимоотношений между цифровым и физическим миром. ИИ уже давно играет важную роль в научной фантастике. Но может ли ИИ сам создавать искусство? Искусство – это креативный процесс, в котором важны восприятие, воображение и интуиция. Может ли ИИ быть креативным, если он не понимает юмора, не знает печали и радости и не имеет сознания?
С помощью интеллектуальных алгоритмов сегодня создаются картины, пишутся стихи и сочиняются музыкальные произведения. Аукционный дом «Christie’s» впервые в 2018 году выставит на торги картину, созданную ИИ. Мюнхенский художник Марио Клингеманн показывает фантастические лица в видеоинсталляциях, которые меняются в режиме реального времени: обучающийся ИИ интегрирует черты лица посетителей в художественное произведение и таким образом адаптируется к различным культурам. А используя «Deepfake», ИИ заставляет искусственно созданную Тейлор Свифт петь искусственно созданную песню. Для этого алгоритм анализирует все песни певицы и синтезирует новую композицию – точно в стиле Тейлор Свифт.

«ИИ не является креативным – ИИ может инициировать креативность».
Пианистка и преподаватель фортепиано и современной музыки в Бременском университете искусств Клаудия Джанет Биркхольц

Кому принадлежит произведение искусства?
Если ИИ может создавать произведения искусства, кому тогда они принадлежат? Искусство ИИ никогда не может быть создано полностью без вмешательства человека – по крайней мере, кто-то должен был написать для него программу. Так кто же является автором произведения? В 2018 году аукционный дом «Christie’s» выставил на аукцион картину «Портрет Эдмона де Белами». Вся стоимость покупки в размере 432 500 $ будет передана французской арт-группе Obvious. Чтобы создать картину, Obvious «кормит» алгоритм с открытым исходным кодом фотографиями картин и обучает его создавать изображения на основе этих данных. Художники выбирают одну из картин, дают ей свое название и выставляют на продажу. Программист алгоритма не назван, и он ничего не получает от продажи. Разве это справедливо? Согласно опросу, большинство респондентов считают, что заслуга в первую очередь должна принадлежать тем, кто предоставляет алгоритмам обучения данные и обучает их – таким образом, в данном случае, Obvious

© Obvious (группа)