人工智能伦理
With its unique mandate, UNESCO has led the international effort to ensure that science and technology develop with strong ethical guardrails for decades.
Be it on genetic research, climate change, or scientific research, UNESCO has delivered global standards to maximize the benefits of the scientific discoveries, while minimizing the downside risks, ensuring they contribute to a more inclusive, sustainable, and peaceful world. It has also identified frontier challenges in areas such as the ethics of neurotechnology, on climate engineering, and the internet of things.
现如今，人工智能已进入数十亿人的生活。尽管其影响有时不为人所察觉，却会产生深远后果——它正在改变人类社会、挑战人类的内涵。
人工智能可以千百万学生完成中等教育提供支持，并带来额外的330万个工作岗位。更关键的是，它可以帮助我们应对新冠肺炎疫情及其产生的负面影响。虽然人工智能益处繁多，但恶意使用也给我们带来了风险和挑战，加深不平等和分歧。
现如今，人工智能已进入数十亿人的生活。尽管其影响有时不为人所察觉，却会产生深远后果——它正在改变人类社会、挑战人类的内涵。
人工智能可以千百万学生完成中等教育提供支持，并带来额外的330万个工作岗位。更关键的是，它可以帮助我们应对新冠肺炎疫情及其产生的负面影响。虽然人工智能益处繁多，但恶意使用也给我们带来了风险和挑战，加深不平等和分歧。
我们需要什么？
- 国际、国家层面的政策和监管框架，以确保这些新兴技术造福全人类。
以人为本的人工智能。人工智能必须为人类的更大利益服务，而不是反其道而行之。
In no other field is the ethical compass more relevant than in artificial intelligence. These general-purpose technologies are re-shaping the way we work, interact, and live. The world is set to change at a pace not seen since the deployment of the printing press six centuries ago. AI technology brings major benefits in many areas, but without the ethical guardrails, it risks reproducing real world biases and discrimination, fueling divisions and threatening fundamental human rights and freedoms.
Actionable Policies
Key policy areas make clear arenas where Member States can make strides towards responsible developments in AI
While values and principles are crucial to establishing a basis for any ethical AI framework, recent movements in AI ethics have emphasised the need to move beyond high-level principles and toward practical strategies.
The Recommendation does just this by setting out eleven key areas for policy actions.
Women4Ethical AI expert platform to advance gender equality
UNESCO's Women4Ethical AI is a new collaborative platform to support governments and companies’ efforts to ensure that women are represented equally in both the design and deployment of AI. The platform’s members will also contribute to the advancement of all the ethical provisions in the Recommendation on Ethics of AI.
At a time when digital technologies are reshaping everyday life, women are under-represented in the research and design of these technologies, Their needs and experiences are also overlooked by designers, and the data used to train AI is often biased against women and girls.
Today, globally, women and girls are 25% less likely than men to know how to leverage digital technology for basic purposes, 4 times less likely to know how to programme computers and 13 times less likely to file for an ICT patent.
Only 20% of employees in technical roles in machine learning companies, 12% of artificial intelligence researchers globally and 6% of professional software developers are women.
The platform unites 17 leading female experts from academia, civil society, the private sector and regulatory bodies, from around the world. They will share research and contribute to a repository of good practices. The platform will drive progress on non-discriminatory algorithms and data sources, and incentivize girls, women and under-represented groups to participate in AI.
Women4Ethical AI expert platform to advance gender equality
UNESCO's Women4Ethical AI is a new collaborative platform to support governments and companies’ efforts to ensure that women are represented equally in both the design and deployment of AI. The platform’s members will also contribute to the advancement of all the ethical provisions in the Recommendation on Ethics of AI.
At a time when digital technologies are reshaping everyday life, women are under-represented in the research and design of these technologies, Their needs and experiences are also overlooked by designers, and the data used to train AI is often biased against women and girls.
Today, globally, women and girls are 25% less likely than men to know how to leverage digital technology for basic purposes, 4 times less likely to know how to programme computers and 13 times less likely to file for an ICT patent.
Only 20% of employees in technical roles in machine learning companies, 12% of artificial intelligence researchers globally and 6% of professional software developers are women.
The platform unites 17 leading female experts from academia, civil society, the private sector and regulatory bodies, from around the world. They will share research and contribute to a repository of good practices. The platform will drive progress on non-discriminatory algorithms and data sources, and incentivize girls, women and under-represented groups to participate in AI.
关于人工智能，你需要了解的事
人工智能已在新冠疫情防控中证明其价值
通过数字平台，人工智能协助减缓危机造成的经济影响。它还帮助争分夺秒研发疫苗和治疗方法的研究人员处理大量数据。人工智能通过测试、跟踪和追踪技术来切断病毒传播。然而，由于人们需要越来越多地开放个人数据，人工智能在这场疫情期间的使用重新引发了人们对隐私、数据保护以及在病毒追踪之外使用数据的担忧。
人工智能驱动的增长可能极不平等
到2022年，人工智能预计创造近4万亿美元的附加值。到2030年，预计中国和北美将获得最大的经济收益，占人工智能全球经济影响的70%。人工智能存在“赢家通吃”的态势，需要加以规范：如果人工智能集中在少数高收入国家，则很可能把发展中国家远远甩在后面。后者将不能从人工智能技术中获益或获益甚微，并且缺乏对此类技术的所有权。
此外
人工智能会拉大现有性别差距
仅22%的人工智能从业者是女性。由于女性在行业中的代表性不足，性别偏见和刻板印象正被复制到人工智能技术中。Siri、Alexa或Cortana等虚拟个人助理被默认为“女性”形象并非巧合。它们所表现出的服从性和顺从性，正是人工智能如何（继续）强化和传播我们社会中的性别偏见的一个例子。
人工智能可成为解决气候变化和环境问题的有力工具
随着地球持续变暖，气候变化的影响正在加剧。通过收集和分析数据，由人工智能驱动的模型可以帮助改善生态系统管理和生境恢复，这对缓解鱼类和野生动物数量的下降至关重要。于此同时，数据采集消耗了全球近10％的能源。因此，解决人工智能的高能耗以及由此带来的碳排放影响也至关重要。
人工智能不能成为法律禁区
人工智能已进入我们的生活，指导我们做出选择，但所用方式往往可能造成有害影响。人工智能行业存在一些立法真空亟需填补。第一步是要商定应该提倡哪些具体的价值观，需要执行哪些规则。目前诸多框架和准则并存，但其执行参差不齐，且没有一个框架或准则真正具有全球性。人工智能是全球性的，这就是为什么我们需要一个全球性的工具来监管它。
更多出版物
如何在数字世界建立法治？
在这段视频中，联合国教科文组织社会和人文科学助理总干事拉莫斯（Gabriela Ramos）解释了新技术如何以从前无法想象的方式，改变世界和我们的日常生活。新冠疫情进一步加速了人工智能技术的应用：从跟踪个人行程的应用程序，到能确保千百万学生教育连贯性的数字平台。人工智能值得多大程度的信任？如果一个算法表现出歧视或偏见，谁来承担责任？如何才能确保人工智能相关经济利益得到公正分配，而不是扩大日益严重的社会不平等？教科文组织置身政府、民间社会、私营部门之间最广泛对话的前沿，为数字世界的法治奠定坚实的基础。
建议书的诞生
《人工智能伦理问题建议书》
建议书诞生过程
2021年11月24日，教科文组织大会第41届会议通过《人工智能伦理问题建议书》。
在2019年11月召开的联合国教科文组织大会第40届会议作出决定后，教科文组织历经2年的工作，以建议书的形式拟定第一份关于人工智能伦理的全球准则性文书。
2020年的工作重点是在特设专家组（AHEG）的协助下编写建议书的文本草案。这一阶段包括与众多不同的利益攸关方进行广泛的多学科协商。这些协商对于确保草案文本尽可能全面极为重要。
在2020年底和2021年，工作重点是政府间进程和草案文本磋商，确定建议书的最终版本，供2021年底教科文组织大会第41届会议通过。
教科文组织关于该建议书的工作以教科文组织世界科学知识与技术伦理委员会（COMEST）开展的关于人工智能伦理问题的初步研究为基础。这项研究强调，在指导人工智能按照以人为本的方式发展和应用方面，目前还没有一份全球性文书涵盖所有领域。
编写建议书文本草案
特设专家组
2020年3月，教科文组织总干事任命24名在人工智能伦理方面具有多学科和多元化专业知识的知名专家成立特设专家组（AHEG）。
该小组的任务是以教科文组织建议书的形式拟定一份全球准则性文书草案。文本需充分考虑到各方面问题，包括环境和全球发展中国家的需求。
特设专家组主席团
特设专家组还依托线上程序选举出其主席团，名单如下：
主席：布洛姆女士（Emma Ruttkamp-Bloem）
报告员：李尚郁先生（Sang Wook Yi）
副主席：
- 蒙特女士（Constanza Gomez Mont）
- 涅斯捷罗娃女士（Irena Nesterova）
- 拉德万女士（Golestan (Sally) Radwan）
- 维贝克先生（Peter-Paul Verbeek）
另见
- 教科文组织任命国际专家小组起草全球人工智能伦理建议书 (2020年3月11日)
特设专家组第一次线上会议（2020年3月至5月）
由于新冠疫情造成的特殊情况，特设专家组从2020年3月底到5月初于线上开展了其第一阶段的工作。
下列工作文件为特设专家组提供相关背景资料，以供思考。
特设专家组在6名成员的协调下，以工作小组的形式于线上工作6周。这6名成员为：克罗普莱夫斯基（Robert Kroplewski）、阿塞维尼（Julie Owono Assevini）、拉德万（Golestan（Sally）Radwan）、布洛姆（Emma Ruttkamp-Bloem）、维贝克（Peter-Paul Verbeek）和曾毅。
专家组还在2020年4月20-24日举行线上讨论。来自成员国、联合国和其他政府间实体的40多名观察员出席讨论，并向特设专家组提供书面意见。据此，专家组在2020年5月编写出建议书草案的第一版，并于2020年6月底至8月初进行广泛的多方利益相关者咨询。
特设专家组第二次线上会议（2020年9月）
专家组从8月中旬开始整理咨询中收到的反馈意见，并于8月31日-9月4日召开会议，以修订文本草案的第一版。在这一周时间里，来自43个会员国、联合国和其他政府间实体以及非政府组织的100多名观察员注册观察会议。
专家组最终在2020年9月7日完成建议书初稿定稿。
- 阅读人工智能伦理问题建议书草案文本初稿 或其英文、法文、俄文和西班牙文版本
多方利益相关者咨询程序
特设专家组（AHEG）于2020年5月完成《人工智能伦理问题建议书》草案初稿编写，该文件在2020年6月底至8月初进行广泛的在线多方利益相关者协商，并取得实质性进展。这些磋商对于制定全面、包容和多元化的文本草案至关重要，使它能涵盖参与人工智能的各个利益相关者的利益、关切和观点。
来自世界各地的合作伙伴与教科文组织一起，根据以下3个方面组织这一磋商过程：
- 公开在线咨询；
- 与教科文组织所有区域的会员国/机构共同组织的区域和次区域在线磋商；
- 由蒙特利尔大学Mila实验室和Algora实验室牵头、加拿大各种合作伙伴支持，在全球25个国家/地区举行的开放式、多方利益相关者和公民审议研讨会。
通过方案问题高级别委员会（HLCP），特设专家组与联合国系统就建议书草案初稿进行磋商，联合国系统为特设专家组建言献策。
特设专家组在2020年8月31日-9月4日修订草案第一版，考虑磋商期间收集到的多样化建议。
政府间进程和谈判
该建议书的初步报告和初稿已于2020年9月提交各会员国，以供其在2020年12月31日前提出书面意见。总干事在编写关于该建议书的最终报告时考虑这些书面意见。
载有建议书文本草案的最终报告已传达给各会员国，并提交给政府专家特别委员会（第II类）。特别委员会会议分2个阶段举行，第一阶段为2021年4月26-30日，第二阶段为2021年6月21-25日。在2021年6月1-18日期间，还组织了2次会议间磋商（为期12天）。
经过几个月的建设性对话和谈判，来自教科文组织成员国的代表已经就宏大、广泛的人工智能伦理发展及部署的新蓝图草案达成一致。
- 阅读草案, 也可查阅法语版本
- 关于政府间谈判的更多信息