Участники Глобальной конференции ЮНЕСКО по искусственному интеллекту призывают к управлению искусственным интеллектом на правовой основе

В рамках Глобальной конференции ЮНЕСКО «Принципы ИИ: в направлении гуманистического подхода», 4 марта в штаб-квартире Организации, был достигнут четкий консенсус в отношении необходимости обеспечения ориентированного на человека управления искусственным интеллектом (ИИ).

Открывая конференцию, Генеральный директор ЮНЕСКО Одрэ Азуле сказала: «Проблемы, связанные с искусственным интеллектом, не являются технологическими. Они касаются нашей собственной человечности, поднимают научные, политические, философские и этические вопросы».

Г-жа Азуле заявила, что «пришло время определить этические принципы, которые должны служить основой для этого технологического прорыва; обеспечить служение ИИ коллективному выбору, основанному на гуманистических ценностях».

Ссылаясь на работу ЮНЕСКО в области искусственного интеллекта, Генеральный директор объявила, что «теперь мы сможем работать на основе первого доклада Всемирной комиссии по этике научных знаний и технологий (КОМЕСТ). Этот новый доклад, посвященный искусственному интеллекту, несомненно, окажет важную научную поддержку размышлениям и инициативам государств-членов».

Анхель Гуррия, генеральный секретарь Организации экономического сотрудничества и развития (ОЭСР), говорил о необходимости сотрудничества для обеспечения того, чтобы ИИ стал движущей силой всеобъемлющего и устойчивого роста. «Мы должны всё сделать правильно, потому что, хотя ИИ и внушает оптимизм, он также вызывает беспокойство и этические проблемы».

Г-н Гуррия говорил о необходимости сотрудничать с ЮНЕСКО в рамках согласованных усилий, направленных на то, чтобы «сделать ИИ менее искусственным и более интеллектуальным».

В течение всего дня ученые, представители межправительственных организаций, министры правительств, представители частного сектора, члены технического сообщества, СМИ, академические круги и гражданское общество призывали к разработке этических принципов управления ИИ на основе прозрачности и подотчетности. Они подчеркнули необходимость открытых данных, учитывающих конфиденциальность. Они также подчеркнули важность данных, выходящих за рамки информации, традиционно собираемой государственными службами, поскольку они служат основой для прогнозов и решений, которые уже позволяют ИИ вносить вклад, например, в лечение болезней, управление водными ресурсами и планирование сельского хозяйства.

Однако, несколько участников указали, что в виду отсутствия нейтральных баз данных, для того, чтобы технологии служили человечеству, необходимо использование действительно репрезентативных и всеобщих данных, что представляется проблематичным, учитывая, что половина населения мира остается не подключенной к Интернету.

Седрик Виллани, лауреат Филдсовской премии по математике и член французского парламента, говорил о необходимости сохранения человеческого суверенитета перед алгоритмами и геополитического суверенитета перед лицом нынешнего соревнования по развитию ИИ. Говоря о проблеме разработки ИИ для достижения общечеловеческих целей, г-н Виллани предупредил: «Нам грозит опасность, если мы не справимся с этой задачей».

Бунми Банджо, управляющий директор Kuvora Inc, предостерег от попадания в «ловушку эффективности», не принимая во внимание то, что справедливо и добросовестно, поскольку принятые сегодня решения будут влиять на человечество на десятилетия вперед.

Впрочем, ораторы указали и на медлительность международных инструментов установления стандартов, которые исторически следовали за технологическими инновациями, а не предвидели их, что именно сейчас требуется в отношении ИИ.

В то время как все выступавшие подчеркивали необходимость разработки принципов для ИИ, Фабрицио Хохшильд Драммонд, помощник Генерального секретаря по стратегической координации, член канцелярии Генерального секретаря Организации Объединенных Наций, предупредил, что «нынешнее предпочтение необязательным международным соглашениям, является этапом перехода от сотрудничества к конкуренции. Это делает более притягательными договоры, не имеющие обязательной силы. Но мы не можем полагаться на то, что все будут действовать правильно. […] Если мы позволим невидимой руке рынка действовать свободно, то мы получим полезные приложения ИИ, но наша конфиденциальность будет подорвана, а неравенство будет расти, что будет способствовать поляризации наших обществ», – заявил он.

Данная конференция является частью серии мероприятий ЮНЕСКО, посвященных искусственному интеллекту. Она послужила продолжением дискуссии об этике новых технологий и искусственного интеллекта «Будущее технологий: надежда или страх?» (22 января) и Форума по искусственному интеллекту в Африке (12 и 13 декабря 2018 года). ЮНЕСКО планирует провести в Пекине крупное мероприятие по искусственному интеллекту и образованию для изучения новых технологий искусственного интеллекта и инновационных методов использования искусственного интеллекта в образовании в партнерстве с правительством Китайской Народной Республики (16-18 мая).

****

Контакт для СМИ: Рони Амелан -  r.amelan@unesco.org; +33 (0) 1 45 68 16 50

* Расширенная рабочая группа КОМЕСТ по этике и ИИ завершила предварительное исследование этики ИИ, в котором рекомендуется разработка нормативного документа для установления стандартов в этой области. Это исследование будет представлено Исполнительному совету ЮНЕСКО в апреле в качестве введения к диалогу с государствами-членами, целью которого является достижение прогресса в разработке нового нормативного документа.