<
 
 
 
 
×
>
You are viewing an archived web page, collected at the request of United Nations Educational, Scientific and Cultural Organization (UNESCO) using Archive-It. This page was captured on 23:06:36 Dec 26, 2021, and is part of the UNESCO collection. The information on this web page may be out of date. See All versions of this archived page.
Loading media information hide
News

Expertos en inteligencia artificial y formuladores de políticas debaten sobre la inclusión en el desarrollo de políticas en Inteligencia artificial

26/10/2021

Un enfoque centrado en el ser humano para el diseño de marcos jurídicos y regulatorios es central a la hora de garantizar que los sistemas de IA respeten los derechos humanos.
 

Los procesos inclusivos y participativos ayudan a movilizar la inteligencia colectiva de las comunidades, para garantizar que las voces y preocupaciones de los grupos desfavorecidos sean escuchadas y sean partícipes de la toma de decisiones fundamentales.

La UNESCO y la Fundación para la Innovación de Políticas (llamada en inglés i4Policy) llevaron a cabo una serie de talleres con expertos en IA y responsables políticos de diferentes partes del mundo para intercambiar ideas sobre la inclusión y participación en el desarrollo de políticas de IA.

El diseño de políticas de IA debe basarse en el ser humano

Durante los talleres, se hizo hincapié en los efectos de la IA en los derechos humanos y las libertades fundamentales. Para Jake Okechukwu Effoduh, abogado y activista nigeriano, “la tecnología no es neutral. Puede promover o transgredir los derechos humanos”. Añadió que, "ahora, el despliegue y el uso de la IA afecta una amplia gama de garantías de los derechos humanos". Por ejemplo, si bien el uso de tecnología de reconocimiento facial en público puede ser necesario por razones de seguridad, también puede afectar la democracia al restar espacio para la protesta, según Jibu Elias, líder de investigación de INDIAai.

Como tal, los formuladores de políticas deben enfocarse en aspectos que conciernen los derechos humanos al diseñar las políticas de IA, añadió Wanda Muñoz, experta independiente en políticas públicas y derechos humanos de México. Además de los responsables de la formulación de políticas, otros actores de la sociedad tienen un papel que desempeñar. “Para guiar la intervención legislativa, los científicos deben esforzarse en brindar una imagen comprensible sobre el impacto de la tecnología. La sociedad civil y los medios de comunicación son cruciales para la legitimación de la tecnología porque pueden influir en la toma de conciencia pública y su aceptación”, dijo Effoduh.

El diseño de la política de IA debe ser inclusivo

Una consideración de primer orden en el diseño de políticas de IA que pueden excluir de beneficiarse de su uso a algunas comunidades es la subrepresentación de grupos tecnológicamente desconectados. Para cerrar la brecha digital, debería “crearse un lenguaje mutuo, para la comprensión de la IA”, dijo la Dra. Katherina E. Höne, quien dirige la investigación en la Fundación Diplo, que capacita a diplomáticos en temas de política tecnológica. Actualmente, no existe una definición estable de IA o lenguaje técnico común, lo que dificulta lograr un entendimiento común, según Alexander Heußner del Ministerio Federal de Educación e Investigación en Alemania (BMBF).

Eddan Katz, un investigador con sede en EE.UU., remarcó que "la diversidad de los conjuntos de datos es de importancia primordial y debemos considerar los debates sobre políticas de IA como una oportunidad para lograr que la diversidad sea inherente a la ética en la tecnología". Sin embargo, lograr la diversidad y la inclusión en el diseño de políticas de IA no es una tarea fácil. Isidora Edwards, asesora de la Subsecretaría de Economía del Ministerio de Economía, Fomento y Turismo de Chile, destacó como otro desafío las “ineficiencias gubernamentales y las diferentes agendas políticas”.

Al abordar estos problemas, los expertos advirtieron sobre los formulismos frente a la inclusión.

La inclusión no es solo participación, sino también compromiso, representación y empoderamiento de grupos y poblaciones discapacitados y no representados.

Jake Okechukwu Effoduh, abogado y activista nigeriano

Necesitamos identificar líderes defensores comunitarios para comunicarnos de manera efectiva con los grupos subrepresentados, comprender sus perspectivas y empoderarlos.

Natalie Pang, Centro Trusted Internet and Community de Singapur

El diseño de políticas de IA debe impulsarse por las múltiples partes interesadas

A la luz del marco ROAM de la UNESCO (Derechos, Apertura, Acceso y Múltiples Partes Interesadas), que destaca el enfoque de las múltiples partes interesadas como un aspecto central para la gobernanza adaptativa y la colaboración, los grupos de expertos también discutieron los procesos participativos para la política de IA. “Es necesario un enfoque de múltiples partes interesadas porque conduce a la igualdad en el ecosistema de IA donde los flujos de datos están protegidos”, dijo Philip Sauerbaum, responsable de políticas de digitalización de la Comisión Europea.

José Gustavo Sampaio Gontijo, Director del Departamento de Ciencia, Tecnología e Innovación Digital de Brasil, señaló que “por ahora, la IA en sí es solo una secuencia de códigos que dependen completamente del ingreso de datos. Por lo tanto, el desafío para los formuladores de políticas es garantizar el acceso a datos abiertos y la toma de responsabilidad". Por ejemplo, en Brasil, los datos de salud que están anonimizados podrían recopilarse y usarse para capacitar a los proveedores de atención médica, poniéndolos a disposición del público para que los innovadores de IA mejoren el diseño de aplicaciones de telemedicina basadas en la IA.

José Antonio Guridi, del Ministerio de Economía de Chile, señaló que “el enfoque de múltiples partes interesadas puede ser un proceso educativo en sí mismo”. Un enfoque de múltiples partes interesadas permite que las diferentes partes se reúnan y aprendan al intercambiar perspectivas relativas a la IA.

Ningún país tiene una fórmula mágica. Es importante para nosotros que incluyamos en el proceso el aprendizaje y el intercambio entre países.

Kim Schulte, coordinador regional, Africa FAIR Forward

El camino por delante

Se recopilarán las ideas de estos talleres para orientar a los responsables políticos de procesos participativos en el diseño de políticas de IA. Responderá a las necesidades de asesoramiento sobre políticas y creación de capacidades según lo indiquen los Estados Miembros en la Encuesta de evaluación de necesidades en África. Esta guía se presentará en la sesión del Foro de Gobernanza de Internet de 2021 el 8 de diciembre.