Образование
Кое-что для изучения

Что молодым людям нужно знать об искусственном интеллекте (ИИ), чтобы использовать его ответственно? Стефани Хэнки, соучредитель неправительственной организации Tactical Tech, рассказывает о своем опыте работы с молодым цифровым поколением и о том, что образовательные учреждения и гражданское общество должны вместе продвигать цифровую грамотность.

Харальд Вилленброк

Г-жа Хэнки, на Неделе искусственного интеллекта EUNIC в декабре 2020 года вы сказали, что целью Tactical Tech является «подвести молодых людей к такому подходу к технологиям, который был бы не слишком восторженным, но и не слишком мрачным». Чего именно вы хотите достичь с таким подходом?
 
Мы хотим поощрять критическое мышление относительно технологий и искусственного интеллекта. Если мы слишком оптимистично настроены и переоцениваем способность технологий решать проблемы, а также наоборот, если мы слишком негативно и подозрительно настроены, то есть полагаем, что они могут разрушить наш образ жизни, — тогда мы не в состоянии реалистично и вдумчиво работать над реальными вызовами технологического развития. В Tactical Tech мы считаем, что сложный путь между этими крайностями на самом деле более плодотворен и интересен. Технологии иногда прекрасны, а иногда ужасны; иногда они решают проблемы, а иногда только усугубляют ситуацию. Мы должны рассматривать обе крайности, если мы хотим разработать этичные и справедливые технологии, которые служат обществу. 
 
Когда в начале этого века была основана компания Tactical Tech, многие с оптимизмом смотрели на цифровые технологии. Они рассматривались как уравновешивающая сила, способная продвигать демократию и общественный дискурс. Оказалось, что это не так. Почему?  
 
Технологии, основывающиеся на данных, которые доминируют сегодня, в основном направлены на увеличение благосостояния обозримого количества компаний. Они не были разработаны для социальных целей. Технологии определялись такими моделями, как рекламный бизнес, а также поведенческим или эмоциональным профилированием и алгоритмами внимания. Но технологии не просто находятся под влиянием этих бизнес-моделей, они также отражают идеалы и ценности нашего времени, такие как поведение потребителей, индивидуализм, эффективность и масштабируемость. Кроме того, они были созданы для идеального, архетипического и стандартизованного мира, спроектированного на чертежной доске, который по своей сложности не имеет ничего общего с реальным миром. 
 
Можете ли вы объяснить различия более подробно? 
 
Многие из этих технологий были разработаны для особых пользовательских сценариев, для воображаемых идеальных людей, жизней и сценариев, которые имеют мало общего с хаосом и сложностью реального мира. В частности, это означает, что компания разрабатывает WhatsApp, например, для того, чтобы люди могли общаться, не задумываясь; и трудно сказать, по наивности или небрежности, — что люди могут также использовать его для политических манипуляций или разжигания ненависти. Или кто-то разрабатывает платформу для передачи видео в реальном времени, чтобы можно было транслировать вечеринки по случаю дня рождения, и упускает из виду тот факт, что с большой вероятностью в ней может транслироваться преступное поведение и акты насилия. К сожалению, мы убедились, что это именно то, что может случиться.
 
Относится ли это также к ИИ и машинному обучению (МО)? 
 
Да, это та же проблема. Наиболее распространенные методы проектирования и разработки программного обеспечения в корне ошибочны. Есть две основные проблемы. Одна, как упоминалось ранее, заключается в том, что они были созданы для идеального мира, а не для реального мира. Например, для машинного обучения бесчисленные алгоритмы используют искаженные данные, включая сексистский и женоненавистнический контент. Они усиливают это искажение в результатах. Второй момент: технологии разрабатывались для индивидуальных пользователей/пользовательниц, а нам действительно нужны подходы для «общества-пользователя». Пока мы не преодолеем эти две проблемы, мы будем повторять и усугублять одни и те же ошибки снова и снова.
 
Чтобы вызвать дискуссию и повысить осведомленность о влиянии технологий на нашу повседневную жизнь, Tactical Tech изобрела творческие форматы, такие как «Стеклянная комната» (Glass Room). Этот выставочный зал выглядит как Apple Store, а его сотрудников называют «ингениями» - намек на «гениев» (англ: “genius“) в Apple. Ничего, собственно, не продается. Эта интерактивная выставка призвана отразить влияние и проблемы, связанные с техническими достижениями, и показать возможные подходы. К настоящему времени масштабные выставки «Стеклянная комната» были организованы в Берлине, Нью-Йорке, Лондоне и Сан-Франциско. Вместе со стихийными мероприятиями в школах, библиотеках и выставках они привлекли более 168 000 посетителей. Почему вы выбрали этот необычный формат?

Такой формат позволил нам привлечь самых разных людей к обсуждению того, как технологии меняют нашу жизнь. Мы используем визуальный и эстетический язык, используемый для продажи сложных технологий, чтобы говорить о том, что с ними не так - это простой и эффективный инструмент. Мы думали, что это важно для того, чтобы пробудить интерес обычных людей и заставить их подключиться к темам. 
 
Какие впечатления от «Стеклянной комнаты» были самыми захватывающими?
 
Что было особенно удивительно, так это круг людей, которых выставка заинтересовала, и то, насколько тесно они связаны друг с другом с точки зрения содержания. Мы обнаружили, что у каждого есть причина задуматься о том, как технологии влияют на их жизнь: от старшеклассников до пенсионеров, от Сан-Франциско и Сеула до Судана. Интерактивная выставка „The Glass Room“ должна вдохновить людей на обсуждение того, как технологии меняют нашу жизнь. | Фото: © David Mirzoeff / Tachtical Tech Что вы узнали из работы с молодыми людьми об их отношениях с цифровыми технологиями, социальными сетями и потенциальными рисками?
 
Мы все еще находимся в самом начале нашей работы, но мы уже определили две важные вещи. Первая: Молодые люди действительно хорошо умеют пользоваться технологиями, но это не значит, что они понимают, как технологии работают. И им обычно не предлагают никаких возможностей основательно в этом разобраться. Вторая: Их очень интересует, как технологии связаны с окружающим их миром и с социальными дебатами. Но это до сих пор еще не вошло в их способ знакомства с миром или его познания. Когда они изучают политику, демократию, окружающую среду или географию в школе, цифровые технологии не учитываются — ни их влияние на настоящее, ни на будущее. Есть много возможностей для улучшения. Tactical Tech надеется, что сможет сделать это в ближайшие годы, благодаря процессу, который мы развиваем вместе с молодежью, и работая с учреждениями культуры, существующими сообществами и педагогами.  
 
Согласно их собственным утверждениям, цель Tactical Tech не в том, чтобы «рассказывать молодым людям, что правильно, а что неправильно, а в том, чтобы помочь им найти свой собственный путь». Что это значит применительно к ИИ? 
 
Нам нужно начать с передачи знаний и понимания того, как работают эти технологии и почему они так работают. Нам также необходимо обеспечить прозрачность в отношении того, когда и как ИИ и машинное обучение используются в системах и сервисах, которыми пользуются молодые люди. Например, молодой человек должен знать, что алгоритм оценивает его экзамены или что машинное обучение используется, чтобы привлечь его внимание его во время компьютерных игр и знать, как это работает. Только тогда молодые люди смогут осмысленно реагировать и принимать собственные решения по поводу того, с чем они согласны, а с чем нет. Мы также должны дать им возможность участвовать в дискуссии, а не просто быть протекционистами.  
 
Что для вас означает компетентность в области ИИ? 
 
Компетентность в области ИИ —  это сложный термин. Было бы разумнее говорить о цифровой компетенции. Для меня это понимание того, как работают технологии, независимо от того, какие конкретные технологии вы используете, чтобы иметь возможность принимать обоснованные решения. Это также касается эффективного реагирования на проблемы, с которыми вы сталкиваетесь, и, при необходимости, даже привлечения компаний и правительств к ответственности. В частности, компетентность в области ИИ — это то, что мы не можем просто навязать пользователям. Правительства, государственные учреждения, исследователи, а также гражданское общество, должны взять на себя ответственность, даже если они сами еще не обладают компетенцией в области ИИ. В противном случае они не смогут принимать правильные решения за других. Мне бы хотелось, чтобы пользователи больше знали об ИИ и понимали, как это связано с прозрачностью тех, кто его развивает и создает.
 
Кто должен взять на себя ответственность за обучение молодых людей обращению с ИИ - государственные учреждения, такие как школы и университеты, частные инициативы, такие как Tactical Tech, или кто-то еще?
 
Я думаю, нам нужна комбинация из всех вместе. Каждая из этих групп обладает разными навыками, которые необходимы нам, чтобы помочь молодым людям справиться с этой огромной задачей. Tactical Tech может специализироваться на разработке независимых, доступных и своевременных информационных материалов, ориентированных на молодежь. С другой стороны, школы, культурные учреждения и библиотеки гораздо лучше подходят для работы с такими материалами, а также для их адаптации, локализации и распространения. Идеальным мы считаем сотрудничество между всеми этими подразделениями. Однако взаимное обучение является наиболее важным и, возможно, самым сильным методом, и поэтому оно должно быть стержнем этих инициатив.
 
Все ли эти учреждения готовы и оснащены для того, чтобы взять на себя такую ​​роль? 
 
Если школы, библиотеки, культурные учреждения, общественные группы и молодежные группы работают с нужными специалистами, то есть с людьми, которые являются экспертами в демистификации технологий, и сосредоточены на совместной разработке материалов и проведении взаимного обучения, тогда они, на мой взгляд, имеют хорошие возможности для работы с молодежью и ознакомления их с этими темами. Конечно, необходимо сделать гораздо больше, от творческих программ до создания плана обучения. Это широкое поле для будущих инноваций. Tactical Tech надеется стать их главным катализатором.
 
Какие серьезные риски, связанные с искусственным интеллектом, по вашему мнению, молодые люди, не осознают чаще всего? 
 
Я думаю, что было бы опрометчиво говорить о том, что молодые люди не замечают проблем, связанных с ИИ, потому что я не думаю, что они должным образом ознакомлены с этой темой. Мы еще не полностью изучили плюсы и минусы, возможности и проблемы, но я думаю, что этим стоит заняться.
 
Принимая во внимание растущее влияние цифровых технологий, видите ли вы также риск того, что разрыв между молодыми людьми по уровню доходов может увеличиться, прежде всего из-за различных возможностей покупки самого современного оборудования?
 
Это хороший вопрос, и логично предположить, что так оно и будет. Напротив, наше исследование смартфонов как жизненно важного средства снабжения показало, что технологии также важны для людей, находящихся в затруднительном положении. Молодые люди из менее привилегированных слоев населения часто вкладывают значительные средства в свое оборудование, поскольку оно необходимо для их доступа к остальному миру. Эти устройства в значительной степени помогают им избежать бедности или несправедливости.
 
Может ли ИИ помочь людям лучше учиться и лучше понимать, как мы учимся?  
 
Однозначно. Но для того, чтобы это было действительно эффективно, ИИ нужно много данных о каждом отдельном ученике. Есть так много проблем, которые нужно решить заранее. К ним относятся предвзятость, профилирование, конфиденциальность, образовательные потоки, стигматизация, определенные типы обучения, которые являются приоритетными в системе образования, и многие другие предположения. Все это осложняется вопросом о том, как учителя, родители и опекуны могут использовать эти идеи в процессе обучения, и какое давление это может оказать на учащихся. Я не думаю, что даже самый продвинутый искусственный интеллект в мире может нам в этом помочь. При разработке этих систем нам необходимо учитывать, как эти технологии влияют на сценарии реальной жизни с участием реальных молодых людей, а не просто использовать идеализированные модели решения проблем. Недавно скандалы с онлайн-экзаменами показали, какой стресс это создает для студентов. Нам также необходимо понимать проблемы, которые технологии, основанные на данных, вызывают в учебных ситуациях. далеких от идеала. Некоторые из проблем, о которых я упомянула, связаны с характером данных, а другие — с природой системы образования. Последние необходимо исправить, иначе технологии будут просто внедрены в неисправную систему.
 
Какое отношение к ИИ и МО вы хотели бы сформировать у своих детей?
 У меня двое детей, и они оба достаточно взрослые, чтобы заниматься темой ИИ и МО. Я пытаюсь помочь им понять, как технологии влияют на их мир, опыт и жизнь других. Технологии — не изолированная тема, они часть нашей жизни. И хотим мы того или нет, мы должны принять вездесущность технологий, если мы хотим их понять и эффективно использовать. Очень важно, чтобы молодые люди понимали, что технологии отражают и укрепляют наши социальные и политические ценности. И важно выбрать подход к обучению, который подчеркивает все подводные камни и все компромиссы. Только тогда мы сможем поддержать молодежь в развитии осмысленного отношения к ИИ и машинному обучению.