Ética de la inteligencia artificial
With its unique mandate, UNESCO has led the international effort to ensure that science and technology develop with strong ethical guardrails for decades.
Be it on genetic research, climate change, or scientific research, UNESCO has delivered global standards to maximize the benefits of the scientific discoveries, while minimizing the downside risks, ensuring they contribute to a more inclusive, sustainable, and peaceful world. It has also identified frontier challenges in areas such as the ethics of neurotechnology, on climate engineering, and the internet of things.
Hoy en día, la inteligencia artificial (IA) desempeña un papel en la vida de miles de millones de personas. A veces inadvertida, pero a menudo con profundas consecuencias, transforma nuestras sociedades y desafía lo que significa ser humano.
La IA puede brindar apoyo a millones de estudiantes para completar la educación secundaria, cubrir 3,3 millones de puestos de trabajo adicionales y, de manera más urgente, ayudarnos a hacer frente a la propagación y las consecuencias de la pandemia de COVID-19. Junto con múltiples ventajas, estas tecnologías también generan riesgos y desafíos a la baja, derivados del uso malicioso de la tecnología o la profundización de las desigualdades y divisiones.
Hoy en día, la inteligencia artificial (IA) desempeña un papel en la vida de miles de millones de personas. A veces inadvertida, pero a menudo con profundas consecuencias, transforma nuestras sociedades y desafía lo que significa ser humano.
La IA puede brindar apoyo a millones de estudiantes para completar la educación secundaria, cubrir 3,3 millones de puestos de trabajo adicionales y, de manera más urgente, ayudarnos a hacer frente a la propagación y las consecuencias de la pandemia de COVID-19. Junto con múltiples ventajas, estas tecnologías también generan riesgos y desafíos a la baja, derivados del uso malicioso de la tecnología o la profundización de las desigualdades y divisiones.
¿Qué necesitamos?
- Políticas internacionales y nacionales, así como marcos regulatorios para garantizar que estas tecnologías emergentes beneficien a la humanidad en su conjunto.
- Una IA centrada en el ser humano. La IA debe estar al servicio de los intereses de los ciudadanos, y no al revés.
Actionable Policies
Key policy areas make clear arenas where Member States can make strides towards responsible developments in AI
While values and principles are crucial to establishing a basis for any ethical AI framework, recent movements in AI ethics have emphasised the need to move beyond high-level principles and toward practical strategies.
The Recommendation does just this by setting out eleven key areas for policy actions.
Women4Ethical AI expert platform to advance gender equality
UNESCO's Women4Ethical AI is a new collaborative platform to support governments and companies’ efforts to ensure that women are represented equally in both the design and deployment of AI. The platform’s members will also contribute to the advancement of all the ethical provisions in the Recommendation on Ethics of AI.
At a time when digital technologies are reshaping everyday life, women are under-represented in the research and design of these technologies, Their needs and experiences are also overlooked by designers, and the data used to train AI is often biased against women and girls.
Today, globally, women and girls are 25% less likely than men to know how to leverage digital technology for basic purposes, 4 times less likely to know how to programme computers and 13 times less likely to file for an ICT patent.
Only 20% of employees in technical roles in machine learning companies, 12% of artificial intelligence researchers globally and 6% of professional software developers are women.
The platform unites 17 leading female experts from academia, civil society, the private sector and regulatory bodies, from around the world. They will share research and contribute to a repository of good practices. The platform will drive progress on non-discriminatory algorithms and data sources, and incentivize girls, women and under-represented groups to participate in AI.
Noticias
Eventos
Cosas que debes saber sobre la IA
La IA ha demostrado su valor para hacer frente a la pandemia de COVID-19
Contribuye a frenar el impacto económico de la crisis a través de las plataformas digitales. También ayuda a los investigadores a procesar grandes cantidades de datos en la carrera por encontrar una vacuna o un tratamiento. La IA ha participado en la contención de la propagación del virus a través de tecnologías de prueba, seguimiento y localización. Sin embargo, a medida que las personas dan acceso a sus datos, el uso de la IA durante esta pandemia ha reabierto las preocupaciones con respecto a la privacidad, la protección de datos y el uso de datos más allá de las necesidades de seguimiento de virus.
Es probable que el crecimiento impulsado por la IA sea muy desigual
Se espera que la IA genere casi 4 billones de dólares estadounidenses en valor agregado para 2022. Para 2030, se espera que las ganancias económicas sean más fuertes en China y América del Norte, lo que representa el 70 % del impacto económico global de la IA. La IA tiene una dinámica de “el ganador se lo lleva todo” que debe regularse: la concentración de la IA en manos de unos pocos países de altos ingresos probablemente dejará muy atrás a los países en desarrollo. Estos últimos no se beneficiarán o se beneficiarán muy poco de las tecnologías de IA y carecerán de propiedad de tales tecnologías.
Y lo que es más
La IA contribuye a agrandar las brechas de género existentes
Solo el 22 % de todos los profesionales de IA son mujeres. Debido a que están subrepresentadas en la industria, los sesgos de género y los estereotipos se reproducen en las tecnologías de IA. No es casualidad que los asistentes personales virtuales como Siri, Alexa o Cortana sean “mujeres” por defecto. El servilismo y, a veces, la sumisión que expresan son un ejemplo de cómo la IA puede (continuar) reforzando y propagando los prejuicios de género en nuestras sociedades.
La IA puede ser una herramienta poderosa para abordar el cambio climático y los problemas ambientales
A medida que el planeta continúa calentándose, los impactos del cambio climático empeoran. Los modelos potenciados por la IA podrían, por ejemplo, ayudar a mejorar la gestión de los ecosistemas y la restauración de los hábitats, algo esencial para disminuir el declive de las poblaciones de peces y fauna silvestre. Dicho esto, la extracción de datos consume casi el 10 % de la energía a nivel mundial. Por lo tanto, también es esencial abordar el alto consumo de energía de la IA y el consiguiente impacto en la emisión de carbono.
La IA no puede ser una zona sin ley
La IA ya está en nuestras vidas, dirigiendo nuestras elecciones, a menudo de maneras que pueden ser dañinas. Hay algunos vacíos legislativos en la industria que deben llenarse rápidamente. El primer paso es llegar a un acuerdo sobre los valores que deben consagrarse y las reglas deben aplicarse. Existen muchos marcos y directrices, pero se aplican de forma desigual y ninguno es verdaderamente global. La IA es global, por lo que necesitamos un instrumento global que la regule.
Ejemplos de dilemas éticos
Más publicaciones
¿Cómo construir el estado de derecho en el mundo digital?
En este video, Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, explica cómo las nuevas tecnologías transforman el mundo y nuestra vida cotidiana, de formas antes inimaginables. La pandemia mundial ha acelerado aún más la aplicación de la tecnología de IA: desde aplicaciones de seguimiento y rastreo hasta plataformas digitales para garantizar la continuidad de la enseñanza y el aprendizaje de millones de estudiantes. ¿Hasta qué punto se puede confiar en la IA? ¿Quién debe ser considerado responsable si un algoritmo discrimina o presenta sesgos? ¿Cómo podemos garantizar que los beneficios económicos de la IA se distribuyan de manera justa, en lugar de amplificar la creciente desigualdad social? La UNESCO está a la vanguardia del diálogo más grande entre los gobiernos, la sociedad civil y el sector privado para construir una base sólida para el estado de derecho en el mundo digital.
Evolución de la Recomendación
Recomendación sobre la Ética de la Inteligencia Artificial
El proceso en un vistazo
El 24 de noviembre de 2021, la Conferencia General de la UNESCO adoptó la Recomendación sobre la Ética de la Inteligencia Artificial en su 41.ª sesión.
La UNESCO se embarcó en un proceso de dos años para elaborar este primer instrumento normativo mundial sobre la Ética de la Inteligencia Artificial en forma de recomendación, tras la decisión de su Conferencia General en su 40.ª reunión en noviembre de 2019.
En 2020, la atención se centró en preparar el proyecto de texto de la Recomendación con la asistencia de un Grupo De Expertos Ad Hoc (AHEG). Esta fase incluyó consultas inclusivas y multidisciplinarias con una amplia gama de partes interesadas. Estas amplias consultas fueron extremadamente importantes para garantizar que el texto fuera lo más inclusivo posible.
Hacia finales de 2020 y en 2021, la atención se centró en un proceso intergubernamental y negociaciones sobre el proyecto de texto para producir una versión final de la Recomendación para su posible adopción por la Conferencia General de la UNESCO en su 41.ª sesión a finales de 2021.
El trabajo de la UNESCO sobre la Recomendación se basa en el estudio preliminar sobre la Ética de la Inteligencia Artificial de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO. Este estudio enfatiza que actualmente ningún instrumento global cubre todos los campos que guían el desarrollo y la aplicación de la IA en un enfoque centrado en el ser humano.
La UNESCO desea reconocer a los socios que han contribuido y apoyado el proceso de elaboración de la Recomendación sobre la Ética de la Inteligencia Artificial.
Elaboración de un proyecto de texto sobre la Recomendación
Grupo de Expertos Ad Hoc
24 especialistas de renombre con experiencia multidisciplinaria y pluralista en la Ética de la Inteligencia Artificial para formar un Grupo de Expertos Ad Hoc (AHEG), en marzo de 2020.
Este grupo se encargó de producir un borrador del instrumento de establecimiento de estándares globales, en forma de una Recomendación de la UNESCO, con la debida consideración de varias dimensiones, incluido el medio ambiente y las necesidades del sur global.
Mesa AHEG
El AHEG también eligió su Mesa, utilizando procedimientos en línea, de la siguiente manera:
Presidenta: Ms Emma Ruttkamp-Bloem
Relator: Mr Sang Wook Yi
Vicepresidentes:
- Sra. Constanza Gomez Mont
- Sra. Irena Nesterova
- Sra. Golestan (Sally) Radwan
- Sr Peter-Paul Verbeek
Ver también
Primera reunión virtual del Grupo de Expertos Ad Hoc (de marzo a mayo de 2020)
Due to the exceptional circumstances posed by the COVID-19 pandemic, the AHEG conducted the first phase of its work virtually from the end of March until the beginning of May 2020.
A working document provided them with background information as a starting point in their reflections.
The AHEG worked virtually over six weeks in working groups that were coordinated by six of its members: Robert Kroplewski, Julie Owono Assevini, Golestan (Sally) Radwan, Emma Ruttkamp-Bloem, Peter-Paul Verbeek, and Yi Zeng.
Virtual discussions also took place from 20 to 24 April 2020. They were attended by more than 40 observers from Member States, and UN and other intergovernmental entities who provided the AHEG with written comments. This resulted in the first version of the Recommendation’s draft text prepared by the AHEG in May 2020, and which was subjected to an extensive multi-stakeholder consultation process from the end of June to early August 2020.
Segunda Reunión Virtual del Grupo de Expertos Ad Hoc (septiembre 2020)
The AHEG started reviewing the feedback received during the multi-stakeholder consultation process from mid-August and met virtually from 31 August to 4 September 2020 to revise the first version of the draft text. During this week, more than 100 observers from 43 Member States, and from UN and other intergovernmental entities, as well as NGOs registered to observe the meeting.
This work culminated in the finalization of a first draft of the Recommendation by the AHEG on 7 September 2020.
- Read the first draft of the Recommendation
also available in Chinese, French, Russian and Spanish
Proceso de Consulta de Múltiples Partes Interesadas
La primera versión del proyecto de texto sobre la Recomendación sobre la Ética de la Inteligencia Artificial preparada por el Grupo de Expertos Ad Hoc (AHEG) en mayo de 2020 evolucionó sustancialmente después de un extenso proceso de consulta en línea de múltiples partes interesadas desde finales de junio hasta principios de agosto. 2020. Estas consultas fueron cruciales en el desarrollo de un borrador de texto integral, inclusivo y pluralista que captará los intereses, preocupaciones y puntos de vista de varias partes interesadas involucradas en la IA.
Socios de todo el mundo se reunieron con la UNESCO para organizar este proceso de consulta basado en tres componentes:
- Consulta pública en línea;
- Consultas virtuales regionales y subregionales coorganizadas con países anfitriones/instituciones en todas las regiones de la UNESCO;
- Talleres de deliberación abiertos, de múltiples partes interesadas y ciudadanos en 25 países de todo el mundo con el apoyo de varios socios canadienses y dirigidos por Mila y Algora Lab (Université de Montréal).
También se llevó a cabo una consulta sobre la primera versión del proyecto de recomendación con el sistema de las Naciones Unidas a través del Comité de Programas de Alto Nivel (HLCP), lo que resultó en una contribución de todo el sistema de las Naciones Unidas al AHEG .
El AHEG tuvo en cuenta la diversidad de perspectivas recopiladas durante las consultas al revisar la primera versión del borrador del 31 de agosto al 4 de septiembre de 2020 .
Proceso y Negociaciones Intergubernamentales
El informe preliminar y el primer borrador de la recomendación se transmitieron a los Estados miembros en septiembre de 2020, para sus comentarios por escrito antes del 31 de diciembre de 2020. La directora general tuvo en cuenta estos comentarios escritos al preparar su informe final sobre la Recomendación.
El informe final que contenía un proyecto de texto para la Recomendación fue comunicado a los Estados miembros y presentado a un comité especial de expertos gubernamentales (Categoría II). La reunión del comité especial se llevó a cabo en dos fases, la primera del 26 al 30 de abril de 2021 y la segunda del 21 al 25 de junio de 2021. También se organizaron consultas entre sesiones en el período del 1 al 18 de junio de 2021 (12 días).
Después de meses de diálogo constructivo y negociación, los representantes de los estados miembros de la UNESCO acordaron el proyecto de texto de una nueva plantilla ambiciosa y de amplio alcance para el desarrollo ético y el despliegue de la Inteligencia Artificial.
- Lea el borrador del texto (en inglés), también disponible en francés
- Más información sobre las negociaciones intergubernamentales (en inglés)
Descubre nuestros recursos
