Этические аспекты искусственного интеллекта
With its unique mandate, UNESCO has led the international effort to ensure that science and technology develop with strong ethical guardrails for decades.
Be it on genetic research, climate change, or scientific research, UNESCO has delivered global standards to maximize the benefits of the scientific discoveries, while minimizing the downside risks, ensuring they contribute to a more inclusive, sustainable, and peaceful world. It has also identified frontier challenges in areas such as the ethics of neurotechnology, on climate engineering, and the internet of things.
Искусственный интеллект играет важную роль в жизни миллиардов людей. Порой незаметно, но нередко с глубокими последствиями, новейшие технологии преображают наши общества и заставляют задуматься о том, что значит быть человеком.
ИИ может помочь миллионам учащихся в получении среднего образования, заполнить дополнительные 3,3 миллиона рабочих мест и, что более актуально, помочь нам справиться с распространением и последствиями пандемии COVID-19. Наряду с многочисленными преимуществами эти технологии также несут в себе риски и проблемы, связанные с негативными последствиями злонамеренного использования технологий или углубления неравенства и разрыва.
Искусственный интеллект играет важную роль в жизни миллиардов людей. Порой незаметно, но нередко с глубокими последствиями, новейшие технологии преображают наши общества и заставляют задуматься о том, что значит быть человеком.
ИИ может помочь миллионам учащихся в получении среднего образования, заполнить дополнительные 3,3 миллиона рабочих мест и, что более актуально, помочь нам справиться с распространением и последствиями пандемии COVID-19. Наряду с многочисленными преимуществами эти технологии также несут в себе риски и проблемы, связанные с негативными последствиями злонамеренного использования технологий или углубления неравенства и разрыва.
Что нам необходимо?
- Международная и национальная политика и нормативно-правовая база для обеспечения того, чтобы эти новые технологии приносили пользу всему человечеству.
ИИ, ориентированный на интересы человека.
In no other field is the ethical compass more relevant than in artificial intelligence. These general-purpose technologies are re-shaping the way we work, interact, and live. The world is set to change at a pace not seen since the deployment of the printing press six centuries ago. AI technology brings major benefits in many areas, but without the ethical guardrails, it risks reproducing real world biases and discrimination, fueling divisions and threatening fundamental human rights and freedoms.
Actionable Policies
Key policy areas make clear arenas where Member States can make strides towards responsible developments in AI
While values and principles are crucial to establishing a basis for any ethical AI framework, recent movements in AI ethics have emphasised the need to move beyond high-level principles and toward practical strategies.
The Recommendation does just this by setting out eleven key areas for policy actions.
Women4Ethical AI expert platform to advance gender equality
UNESCO's Women4Ethical AI is a new collaborative platform to support governments and companies’ efforts to ensure that women are represented equally in both the design and deployment of AI. The platform’s members will also contribute to the advancement of all the ethical provisions in the Recommendation on Ethics of AI.
At a time when digital technologies are reshaping everyday life, women are under-represented in the research and design of these technologies, Their needs and experiences are also overlooked by designers, and the data used to train AI is often biased against women and girls.
Today, globally, women and girls are 25% less likely than men to know how to leverage digital technology for basic purposes, 4 times less likely to know how to programme computers and 13 times less likely to file for an ICT patent.
Only 20% of employees in technical roles in machine learning companies, 12% of artificial intelligence researchers globally and 6% of professional software developers are women.
The platform unites 17 leading female experts from academia, civil society, the private sector and regulatory bodies, from around the world. They will share research and contribute to a repository of good practices. The platform will drive progress on non-discriminatory algorithms and data sources, and incentivize girls, women and under-represented groups to participate in AI.
Women4Ethical AI expert platform to advance gender equality
UNESCO's Women4Ethical AI is a new collaborative platform to support governments and companies’ efforts to ensure that women are represented equally in both the design and deployment of AI. The platform’s members will also contribute to the advancement of all the ethical provisions in the Recommendation on Ethics of AI.
At a time when digital technologies are reshaping everyday life, women are under-represented in the research and design of these technologies, Their needs and experiences are also overlooked by designers, and the data used to train AI is often biased against women and girls.
Today, globally, women and girls are 25% less likely than men to know how to leverage digital technology for basic purposes, 4 times less likely to know how to programme computers and 13 times less likely to file for an ICT patent.
Only 20% of employees in technical roles in machine learning companies, 12% of artificial intelligence researchers globally and 6% of professional software developers are women.
The platform unites 17 leading female experts from academia, civil society, the private sector and regulatory bodies, from around the world. They will share research and contribute to a repository of good practices. The platform will drive progress on non-discriminatory algorithms and data sources, and incentivize girls, women and under-represented groups to participate in AI.
Идеи и истории
Что необходимо знать об ИИ
ИИ доказал свою ценность в борьбе с пандемией COVID-19
ИИ способствует замедлению экономического воздействия кризиса с помощью цифровых платформ. Он также помогает исследователям обрабатывать огромные объемы данных в гонке по поиску вакцины или лечения. ИИ участвует в сдерживании распространения вируса с помощью технологий тестирования и отслеживания. Тем не менее, поскольку люди предоставляют доступ к своим данным, использование ИИ во время пандемии вновь вызвало озабоченность в отношении конфиденциальности, защиты и использования данных, которые выходят за рамки потребностей отслеживания вирусов.
Рост, обусловленный ИИ, скорее всего, будет крайне неравномерным
Ожидается, что к 2022 году искусственный интеллект создаст около 4 триллионов долларов США добавленной стоимости. К 2030 году наибольшие экономические выгоды ожидаются в Китае и Северной Америке, на которые придется 70% глобального экономического воздействия ИИ. ИИ имеет динамику «победитель получает все», которую необходимо регулировать: концентрация ИИ в руках нескольких стран с высоким уровнем дохода, скорее всего, оставит развивающиеся страны далеко позади. Последние не будут извлекать или получат лишь незначительную пользу из технологий ИИ и не будут владеть такими технологиями.
Более того
ИИ способствует увеличению существующего гендерного разрыва
Только 22% всех специалистов в сфере ИИ — женщины. Поскольку они недостаточно представлены в отрасли, гендерные предубеждения и стереотипы воспроизводятся в технологиях искусственного интеллекта. Не случайно виртуальные личные помощники, такие как Siri, Alexa или Cortana, по умолчанию имеют «женские» голоса. Выражаемое ими раболепие и иногда покорность являются примером того, как ИИ может (продолжает) усиливать и распространять гендерные предрассудки в нашем обществе.
ИИ может стать мощным инструментом для решения проблем изменения климата и окружающей среды
По мере того как планета продолжает нагреваться, последствия изменения климата усугубляются. Путем сбора и анализа данных модели на базе ИИ могут, например, способствовать улучшению управления экосистемами и восстановлению среды обитания, что имеет важное значение для уменьшения сокращения популяций рыб и диких животных. При этом извлечение данных потребляет почти 10% энергии во всем мире. Поэтому крайне важно также решить проблему высокого энергопотребления ИИ и последующего влияния на выбросы углерода.
ИИ не может быть зоной без закона
ИИ уже присутствует в нашей жизни, направляя наш выбор, часто таким образом, который может быть вредоносным. В отрасли существуют законодательные пробелы, которые необходимо быстро заполнить. Первым шагом является достижение согласия в отношении того, какие именно ценности должны быть закреплены и какие правила должны соблюдаться. Существует множество рамочных основ и руководящих принципов, но они применяются неравномерно, и ни один из них не является подлинно глобальным. ИИ используется в глобальном масштабе, поэтому нам необходим глобальный инструмент для его регулирования.
Примеры этических дилемм
Другие публикации
Как обеспечить верховенство закона в цифровом мире?
В этом видео Габриэла Рамос, заместитель Генерального директора ЮНЕСКО по социальным и гуманитарным наукам, объясняет, как новые технологии преобразуют мир и нашу повседневную жизнь прежде невообразимым образом. Глобальная пандемия еще больше ускорила применение технологий ИИ: от приложений для отслеживания до цифровых платформ для обеспечения непрерывности преподавания и обучения миллионов учащихся. В какой степени можно доверять ИИ? Кто должен нести ответственность, если алгоритм дискриминирует или проявляет предвзятость? Как мы можем обеспечить справедливое распределение экономических выгод от ИИ, а не усиление растущего социального неравенства? ЮНЕСКО находится в авангарде крупнейшего диалога между правительствами, гражданским обществом и частным сектором по созданию прочной основы для верховенства права в цифровом мире.
Эволюция рекомендации
Рекомендация об этических аспектах искусственного интеллекта
Процесс вкратце
24 ноября 2021 года Рекомендация об этических аспектах искусственного интеллекта была принята в ходе 41-й сессии Генеральной конференцией ЮНЕСКО.
ЮНЕСКО приступила к двухлетнему процессу разработки этого первого глобального нормативного документа по этическим аспектам искусственного интеллекта в виде Рекомендации в соответствии с решением 40-й сессии Генеральной конференции в ноябре 2019 года.
В 2020 году основное внимание было уделено подготовке проекта текста Рекомендации при содействии Специальной группы экспертов (СГЭ). Этот этап включал в себя инклюзивные и междисциплинарные консультации с широким кругом заинтересованных сторон. Эти широкомасштабные консультации были чрезвычайно важны для обеспечения того, чтобы текст был максимально инклюзивным.
Ближе к концу 2020 года и в 2021 году основное внимание было уделено межправительственному процессу и переговорам по проекту текста с целью подготовки окончательного варианта Рекомендации для возможного принятия в ходе 41-й сессии Генеральной конференцией ЮНЕСКО в конце 2021 года.
Работа ЮНЕСКО над Рекомендацией основывается на предварительном исследовании этических аспектов искусственного интеллекта, проведенном Всемирной комиссией ЮНЕСКО по этике научных знаний и технологий (КОМЕСТ). В этом исследовании подчеркивается, что в настоящее время ни один глобальный документ не охватывает все области, которые определяют развитие и применение искусственного интеллекта с учетом интересов человека.
Подготовка проекта текста Рекомендации
Специальная группа экспертов
Генеральный директор ЮНЕСКО назначила 24 известных специалиста с междисциплинарным и плюралистическим опытом в области этики искусственного интеллекта для формирования Специальной группы экспертов (СГЭ) в марте 2020 года.
Этой группе было поручено подготовить проект глобального документа по установлению стандартов в форме Рекомендации ЮНЕСКО с должным учетом различных аспектов, включая окружающую среду и потребности стран Глобального Юга.
Президиум СГЭ
СГЭ также избрала свой Президиум, используя онлайн процедуры:
Председатель: г-жа Эмма Рутткамп-Блум
Докладчик: г-н Сан Ук И
Заместители Председателя:
- г-жа Констанца Гомес-Монт
- г-жа Ирена Нестерова
- г-жа Голестан (Салли) Радван
- г-н Питер-Пол Вербек
См. также
Первое виртуальное заседание Специальной группы экспертов (март-май 2020 года)
В связи с исключительными обстоятельствами, вызванными пандемией COVID-19, СГЭ провела первый этап своей работы практически с конца марта по начало мая 2020 года.
Рабочий документ предоставил им справочную информацию в качестве отправной точки для размышлений.
СГЭ работала в течение шести недель в рабочих группах, которые координировались шестью ее членами: Роберт Кроплевски, Джули Овоно Ассевини, Голестан (Салли) Радван, Эмма Рутткамп-Блум, Питер-Пол Вербик и Йи Цзэн.
Виртуальные обсуждения также проходили с 20 по 24 апреля 2020 года. В них приняли участие более 40 наблюдателей от государств-членов, ООН и других межправительственных организаций, которые предоставили СГЭ письменные комментарии. В результате СГЭ подготовила первую версию проекта текста Рекомендации в мае 2020 года, которая стала предметом широких консультаций с участием многих заинтересованных сторон в период с конца июня по начало августа 2020 года.
Второе виртуальное заседание Специальной группы экспертов (сентябрь 2020 года)
СГЭ приступила к рассмотрению отзывов, полученных в ходе процесса многосторонних консультаций в середине августа и провела виртуальное заседание с 31 августа по 4 сентября 2020 года для пересмотра первой версии проекта текста. В течение этой недели более 100 наблюдателей от 43 государств-членов, Организации Объединенных Наций и других межправительственных органов, а также НПО зарегистрировались для наблюдения за работой совещания.
Кульминацией этой работы стала доработка первого проекта Рекомендации СГЭ 7 сентября 2020 года.
- Ознакомиться с первым проектом Рекомендации
также доступен на русском, китайском, французском и испанском языках
Многосторонний процесс консультаций
Первая версия проекта текста Рекомендации по этическим аспектам искусственного интеллекта, подготовленная Специальной группой экспертов (СГЭ) в мае 2020 года, претерпела существенные изменения после обширного процесса онлайн-консультаций с участием многих заинтересованных сторон в период с конца июня по начало августа 2020 года. Эти консультации сыграли решающую роль в разработке всеобъемлющего, инклюзивного и плюралистического проекта текста, в котором будут отражены интересы, проблемы и мнения различных заинтересованных сторон, вовлеченных в ИИ.
Партнеры из разных стран мира совместно с ЮНЕСКО организовали этот процесс консультаций на основе трех компонентов:
- Публичные онлайн-консультации;
- Региональные и субрегиональные виртуальные консультации, организованные совместно с принимающими странами/учреждениями во всех регионах ЮНЕСКО;
- Открытые рабочие совещания с участием многих заинтересованных сторон и граждан в 25 странах мира при поддержке различных канадских партнеров и под руководством Лаборатории Мила и Алгора (Монреальский университет).
Консультации по первому варианту проекта Рекомендации были также проведены с системой Организации Объединенных Наций с помощью Комитета высокого уровня по программам (КВУП), что привело к внесению общесистемного вклада Организации Объединенных Наций в деятельность СГЭ.
Разнообразие точек зрения, выявленных в ходе консультаций, было учтено СГЭ при пересмотре первого варианта проекта текста с 31 августа по 4 сентября 2020 года.
Межправительственный процесс и переговоры
Предварительный доклад и первый проект Рекомендации были направлены государствам-членам в сентябре 2020 года для получения их письменных комментариев к 31 декабря 2020 года. Эти письменные комментарии были приняты во внимание Генеральным директором при подготовке ее окончательного доклада по Рекомендации.
Окончательный доклад, содержащий проект текста Рекомендации, был разослан государствам-членам и представлен Специальному комитету правительственных экспертов (Категория II). Заседание специального комитета проходило в два этапа: первый — с 26 по 30 апреля 2021 года, второй — с 21 по 25 июня 2021 года. Межсессионные консультации также были организованы в период с 1 по 18 июня 2021 года (12 дней).
После нескольких месяцев конструктивного диалога и переговоров представители государств-членов ЮНЕСКО согласовали проект текста амбициозной и широкомасштабной новой модели этической разработки и внедрения искусственного интеллекта.
- Ознакомиться с проектом текста (на англ.), также доступен на французском языке
- Подробнее о межправительственных переговорах