Разработка рекомендации об этических аспектах искусственного интеллекта

Искусственный интеллект и человек

В настоящее время искусственный интеллект (ИИ) играет важную роль в жизни миллиардов людей. Порой незаметно, но нередко с глубокими последствиями, новейшие технологии преображают наши общества и заставляют задуматься о том, что значит быть «человеком».

Искусственный интеллект может оказать поддержку миллионам учащихся в получении полного среднего образования, обеспечить дополнительные 3,3 миллиона рабочих мест и, что более важно, помочь решить проблемы, связанные с распространением и последствиями пандемии COVID-19. Помимо множества преимуществ, ИИ порождает также риски и вызовы, обусловленные злонамеренным использованием этих технологий, а также углубляющимся неравенством между странами.

Нам необходимы международные и национальные стратегии и нормативные базы с целью обеспечения использования этих новейших технологий на благо всего человечества.

Нам нужен ориентированный на человека искусственный интеллект. ИИ должен служить интересам людей, а не наоборот.

ЮНЕСКО выступает с предложением о разработке всеобъемлющего глобального нормативного акта, призванного обеспечить искусственному интеллекту прочную этическую основу, которая будет не только защищать, но и содействовать соблюдению прав человека и уважению человеческого достоинства. После своего принятия этот документ станет этическим ориентиром и глобальной нормативной основой, позволяющей обеспечить соблюдение принципа верховенства права в цифровом мире.

Пять вещей, которые необходимо знать об ИИ

Искусственный интеллект подтвердил свою значимость в борьбе с пандемией COVID-19 

Системы ИИ способствуют замедлению экономических последствий кризиса благодаря применению цифровых платформ. Они также позволяет исследователям обрабатывать огромные массивы данных в поисках вакцины или средств лечения. ИИ принимает участие в сдерживании распространения вируса с помощью технологий тестирования и отслеживания. Тем не менее, по мере того, как люди предоставляют доступ к своим данным, использование ИИ во время пандемии COVID-19 вновь вызвало озабоченность в отношении обеспечения конфиденциальности, защиты данных и их использования в иных целях, нежели отслеживание вируса.

Рост, обусловленный искусственным интеллектом, скорее всего, будет крайне неравномерным 

К 2022 добавленная стоимость от применения ИИ может составить почти 4 триллиона долларов США. К 2030 году ожидается наибольший экономический рост в Китае и Северной Америке, на долю которых придется 70% глобального экономического воздействия ИИ. Динамика распределения преимуществ ИИ по принципу «победитель получает все» требует строгого регулирования: концентрация систем искусственного интеллекта в руках всего нескольких стран с высоким уровнем дохода может оставить развивающиеся страны далеко позади.  Эти страны не смогут воспользоваться возможностями технологий ИИ или получат от них очень незначительную выгоду и, что более важно, не будут обладать правами собственности на такие технологии.

ИИ способствует дальнейшему увеличению гендерного разрыва

Только 22 % специалистов по искусственному интеллекту – женщины. Ввиду недопредставленности женщин в этой отрасли технологии ИИ воспроизводят существующие гендерные предрассудки и стереотипы. Неслучайно виртуальные помощники, такие как Siri, Alexa или Cortana, по умолчанию являются «женщинами». Подчинение, а иногда и покорность, которую они выражают, является примером того, как ИИ может (продолжать) распространять гендерные предрассудки в наших обществах.   

ИИ может служить важным инструментом для решения проблем, связанных с изменением климата и окружающей средой

По мере того, как планета продолжает нагреваться, последствия изменения климата лишь усугубляются. Благодаря сбору и анализу данных модели, использующие возможности ИИ, могут, например, способствовать улучшению управления экосистемами и восстановлению среды обитания, что крайне важно для замедления темпов сокращения численности популяций рыбы и диких животных. Тем не менее, извлечение данных потребляет почти 10 % мировой энергии. Таким образом, необходимо также решить проблему высокого энергопотребления ИИ и связанного с этим воздействия на уровень выбросов углекислого газа.

Искусственный интеллект не может быть «зоной беззакония»

Искусственный интеллект уже присутствует в нашей жизни. Он влияет на наши решения и может ввести человека в заблуждение, заставив сделать неверный выбор. Таким образом, существует острая необходимость восполнить пробелы в законодательстве в области разработки и использования искусственного интеллекта. В первую очередь необходимо согласовать и утвердить перечень всеобщих ценностей, а также правила, которые должны соблюдаться. В мире существует множество норм и руководящих принципов в области ИИ, но их применение происходит неравномерно, и ни один из этих документов не является по-настоящему глобальным. Искусственный интеллект носит глобальный характер, поэтому для его регулирования необходим глобальный инструмент.

Рекомендация

ЮНЕСКО приступила к двухлетнему процессу разработки первого глобального нормативного документа об этических аспектах искусственного интеллекта в соответствии с решением, принятым в ходе 40-й сессии Генеральной конференции ЮНЕСКО в ноябре 2019 года.

В 2020 году основное внимание будет уделено подготовке проекта текста рекомендации при содействии специальной группы экспертов. Этот всеобъемлющий и междисциплинарный процесс будет включать в себя консультации с широким кругом заинтересованных сторон. Такой подход крайне важен для обеспечения максимальной инклюзивности проекта документа.

К концу 2020 года и в 2021 году основное внимание будет уделено межправительственному процессу и переговорам по проекту документа с целью подготовки окончательного варианта рекомендации для ее принятия Генеральной конференцией ЮНЕСКО на ее 41-й сессии в конце 2021 г.

Работа над рекомендацией основана на предварительном исследовании, проведенном Всемирной комиссией ЮНЕСКО по этике научных знаний и технологий (КОМЕСТ). В этом исследовании подчеркивается, что в настоящее время ни один глобальный инструмент не охватывает все области, которые определяют развитие и применение ИИ в рамках подхода, ориентированного на человека.

Специальная группа экспертов

24 известных специалиста, обладающие междисциплинарными и плюралистическими экспертными знаниями в области этики искусственного интеллекта, вошли в состав специальной группы экспертов в марте 2020 года.

Эта группа подготовит первый проект документа с учетом различных аспектов, включая окружающую среду и потребности стран Глобального Юга.  

• Состав специальной группы экспертов
• ЮНЕСКО назначает международную группу экспертов для разработки глобальных рекомендаций по этике искусственного интеллекта

Удаленная деятельность специальной группы экспертов (март-сентябрь 2020 года)

В связи с чрезвычайными обстоятельствами, вызванными COVID-19, с конца марта до начала мая 2020 года специальная группа экспертов (СГЭ) провела первую фазу своей работы удаленно. 

Рабочий документ предоставил им справочную информацию и послужил в качестве отправной точки для обсуждений.

• Рабочий документ: На пути к разработке текста рекомендации по этике искусственного интеллекта

Разбившись на рабочие группы, эксперты работали удаленно более шести недель. Деятельность этих групп координировали шесть членов СГЭ: Роберт Кроплевски, Джули Овоно Ассевини, Голестан (Салли) Радван, Эмма Рутткамп-Блум, Питер-Пол Вербеек и И Цзен.

С 20 по 24 апреля 2020 года также проходили виртуальные дискуссии. В них приняли участие более 40 наблюдателей от государств-членов, а также представители Организации Объединенных Наций и других межправительственных организаций. Участники представили группе экспертов свои письменные комментарии. В результате этого в мае 2020 года был подготовлен первый вариант проекта текста Рекомендации, который с конца июня по начало августа 2020 года был предметом широких многосторонних консультаций.

С середины августа до начала сентября СГЭ рассмотрела полученные в ходе процесса многочисленных консультаций замечания, а с 31 августа по 4 сентября 2020 года СГЭ провела витуальное совещание с целью пересмотра первого варианта проекта текста. Более 100 наблюдателей от 43 государств-членов, ООН и других межправительственных организаций и НПО приняли участие в качестве в дискуссии. 

Окончательный проект рекомендации был подготовлен специальной группой экспертов 7 сентября 2020 года. 

• Первоначальный вариант проекта рекомендации об этических аспектах искусственного интеллекта,
  также доступен на английском, французском и испанском языках.

Президиум СГЭ

Специальная группа экспертов дистанционно избрала из своего состава Президиум: 

Председатель: г-жа Эмма Рутткамп-Блум

Докладчик: Сан Ук И

Заместители председателя:             

• г-жа Констанца Гомес-Монт
• г-жа Ирена Нестерова
• г-жа Голестан (Салли) Радван
• г-н Питер-Пол Вербеек

Последующие шаги

В сентября 2020 года предварительный доклад и первый проект Рекомендации были направлены государствам-членам для получения их письменных замечаний, которые должны быть представлены не позднее 31 декабря 2020 года. Эти замечания будут приняты во внимание Генеральным директором при подготовке заключительного документа по этике искусственного интеллекта.

Заключительный доклад будет содержать один или несколько проектов текстов рекомендации. Он будет направлен государствам-членам и представлен специальному комитету правительственных экспертов (категория II), который будет созван в 2021 г. (ожидается, что две сессии состоятся в апреле и июне 2021 г.).

После этого, специальный комитет примет решение по окончательному проекту рекомендации, который будет представлен Генеральной конференции ЮНЕСКО в конце 2021 года.