广角

奥德蕾·阿祖莱：充分施展人工智能的潜力

cou_03-18_dg_itw_01.jpg

人类与人工智能之间合作的象征。

人工智能可以帮助人类解决许多严峻的社会问题。但与此同时，人工智能也给人类提出了一系列复杂的挑战，特别是在伦理、人权和安全方面。目前还没有适用于所有人工智能开发和应用的国际伦理规范框架，国际监管工具必不可少。

奥德蕾·阿祖莱（联合国教科文组织总干事）；雅斯米娜·萨波瓦担任采访

教科文组织为何会关注人工智能？

专家们一致认为，人类即将迈入新的时代。人工智能将以难以想象的程度改变我们的生活。这种转变已经显现，它正在影响人类生活的方方面面。人工智能广泛应用于卫生、教育、文化、安全和国防等领域，相关研究近年来大幅增加。脸书、苹果、微软、谷歌和亚马逊等互联网巨头以及许多国家投入重金开发人工智能，积极参与这场“第四次工业革命”。

在这个不断变化的时代，联合国教科文组织需要发挥重要作用。首先，人工智能应用直接涉及本组织的专业领域。人工智能将从根本上改变教育。教学工具、学习方式、知识获取和教师培训都将发生翻天覆地的变化。

在这个自动化程度日益加深的世界，人们需要掌握怎样的技能才能不断发展前进，这个问题将越来越重要。

人工智能已广泛应用于文化领域，例如在伊拉克的摩苏尔古城，我们将三维成像技术用于遗产修复工作。在科学领域，特别是在环境计划和水下研究方面，我们采用三维成像技术对浮游生物的图像进行分类，对各类鲸鱼和海鸟进行自动检测和统计调查。传播和信息同样直接依赖于人工智能的进步。联合国教科文组织必须引导各方反思人工智能在教育、文化、科学、传播和信息领域的利与弊。

您认为存在哪些风险？

总的说来，人工智能可以为实现《2030 年议程》所确定的目标创造绝佳的机会，但这意味着必须立刻着手解决随之而来的伦理问题。机会在于，人工智能应用可以帮助我们更快地实现可持续发展目标，途径包括改善风险评估；提升预测准确性，加速知识分享；在教育、卫生、生态、城市建设和创意产业等领域提出创新解决方案；以及提高生活水准，增进民众福祉。但由于自动化和数字化会造成新的失衡，人工智能也会带来威胁。人工智能可能会降低文化产业的多样性，干扰劳动力市场，让人丧失职业安全感，而且能否获取这些新技术会成为扩大个体差距的新因素。

教科文组织在这方面亦可发挥作用，向会员国提供支持，努力减少在获取知识和研究成果上的不平等。技术鸿沟可能会对社会不平等现象产生乘数效应。教科文组织必须帮助会员国适应新情况，并获取技术知识。

请您具体说说联合国教科文组织将如何提供这项帮助。

会员国面临的挑战之一是需要同时具备精密、先进的工程材料和充足的人力资源（科学家和工程师）。联合国教科文组织可以通过科技和创新（STI）教育与培训中心、全球科技和创新政策工具观察站（GO-SPIN）以及国际基础科学计划（IBSP）提供这方面的支持，并协助缩小国家之间的差距。

人工智能在教育领域提出了哪些挑战？联合国教科文组织将如何应对？

教育无疑是本组织的重点领域，当前的技术革命再次产生了正负两方面的影响。

基于人工智能的教育软件已被用于分散教学和个性化教学，可以为学生提供课程建议，甚至可以授予认证。但这些技术价格不菲，大多数人无法获取，贫富差距有可能进一步扩大。

可持续发展目标2030年教育指导委员会负责监测实现可持续发展目标4（教育）的进展情况，联合国教科文组织在该委员会中起协调作用，因而非常适合领导这项工作，确定人工智能对全纳教育可以做出哪些贡献，并评估人工智能对未来学习的潜在影响。

我们优先开展的工作之一将是推动开放提供人工智能工具，鼓励当地积极创新。

为了让子孙后代能够了解人工智能开创的新的工作环境，并为此作好准备，还需要落实以科学、技术、工程和数学为重点的反思教育方案，同时还必须突出发展人文学科，重视哲学和伦理方面的素养。

人工智能与哲学或伦理之间存在怎样的关系？

如今的中小学生在长大以后，必将面临在我们今天看来不可思议的各种问题。这些机器日益复杂，自主性不断增强，在某种程度上甚至已开始挑战人类身份，因而很难充分预测其发展。所以，道德伦理、人文社会科学知识将与形式科学知识同样重要。人工智能系统中也可能存在某些偏见，包括性别偏见。要消除偏见，必须增强系统透明度并树立牢固的伦理原则。

为什么很难预测人工智能的未来发展？

人工智能领域的发展日新月异，而规范这一领域所需的法律、社会和伦理环境却发展得非常缓慢。人类可以在多大程度上允许机器拥有自主权和决策权？一旦发生事故，由谁来负责？由谁来决定在“培训”期间赋予机器哪些价值观？这些问题以及其他很多问题至今仍未得到解答。

例如，我们注意到，由于文本数据会反映出日常文化中存在的刻板印象，用普通语言编写的算法已然带有偏见。如果机器表现出歧视性、种族主义或敌对行为，我们怎么能不担心呢？

让人担忧的问题还有很多，包括互联网上的隐私保护和定向广告，表达自由和审查算法，自动化新闻和信息垄断，等等。

即便人工智能领域的基础研究在很大程度上是为了增进人类福祉，但也总会在有意无意之间出现偏差。因此，务必要确保这项技术的发展遵守严谨的伦理标准。

联合国教科文组织在这方面能做些什么？

要想充分利用人工智能为世界带来的多种可能性，我们必须确保人工智能为人类服务，尊重人类的尊严和人权。

然而，目前还没有适用于所有人工智能开发和应用的国际伦理规范框架。

联合国教科文组织作为一个独特的全球论坛，在制订与生物伦理及科技伦理有关的国际文书*方面拥有20多年的经验。本组织下设的两个咨询机构致力于解决这些问题，可以提供专业知识，它们分别是：世界科学知识与技术伦理委员会（COMEST）和国际生物伦理委员会（IBC）。

我们有责任引导各方开展一场发人深省的全民辩论。不是讨论技术，而是探讨伦理，以便在步入新时代时，能够保持清醒和理智，坚守我们的价值观，按照会员国的意愿，为确定全球基本伦理原则创造条件。