IA sesgada
Escriba "los mejores líderes de todos los tiempos" en su motor de búsqueda favorito y probablemente verá una lista de las personalidades masculinas más destacadas del mundo. ¿Cuántas mujeres puede contar?
Una búsqueda de imágenes de "colegiala" probablemente mostrará una página llena de mujeres y chicas con todo tipo de disfraces sexualizados. Sorprendentemente, si escribe "colegial", los resultados mostrarán principalmente jóvenes estudiantes comunes. Ningún chico o muy pocos aparecerán sexualizados.
Estos son ejemplos de sesgos de género en la inteligencia artificial, resultado de representaciones estereotipadas profundamente arraigadas en nuestras sociedades.
Los sistemas de inteligencia artificial dan resultados sesgados. La tecnología de los motores de búsqueda no es neutral, ya que procesa macrodatos y prioriza los resultados con la mayor cantidad de clics dependiendo tanto de las preferencias del usuario como de la ubicación. Por lo tanto, un motor de búsqueda puede convertirse en una cámara de resonancia que mantiene los prejuicios del mundo real y afianza aún más estos prejuicios y estereotipos en línea.
¿Cómo podemos garantizar resultados más precisos y equitativos? ¿Podemos reportar los resultados de búsqueda sesgados? ¿Cuál sería o debería ser la representación exacta de las mujeres en los resultados de búsqueda?
El sesgo de género debe evitarse o al menos minimizarse en el desarrollo de algoritmos, en los grandes conjuntos de datos utilizados para su aprendizaje y en el uso de la IA para la toma de decisiones.
Para no reproducir las representaciones estereotipadas de las mujeres en el ámbito digital, la UNESCO quiere abordar el sesgo de género en la IA.
Por eso la UNESCO se ha embarcado por primera vez en la elaboración de un instrumento normativo y global sobre la ética de la IA.
Todos, en todas las partes del mundo, deberíamos participar en este debate. ¡La Inteligencia Artificial es asunto de todos!
- Para saber más sobre la ética de la inteligencia artificial: Estudio preliminar sobre la Ética de la Inteligencia Artificial (COMEST)
Coche autónomo
Un coche autónomo es un vehículo capaz de percibir su entorno y moverse con poca o ninguna participación humana. Para que el vehículo se mueva de forma segura y comprenda su entorno de conducción, es necesario que una enorme cantidad de datos sean captados por una miríada de diferentes sensores a lo largo del coche en todo momento. Estos son luego procesados por el sistema informático autónomo de conducción del vehículo.
El coche autónomo también debe recibir una cantidad considerable de entrenamiento para comprender los datos que está recogiendo y poder tomar la decisión correcta en cualquier situación de tráfico imaginable.
Las decisiones morales son tomadas por todos diariamente. Cuando un conductor decide frenar de golpe para evitar chocar con un peatón, está tomando la decisión moral de trasladar el riesgo del peatón a las personas que van en el coche.
Imagina un coche autónomo con los frenos rotos yendo a toda velocidad hacia una abuela y un niño. Desviándose un poco, solamente uno de ellos puede ser salvado.
Esta vez, no es un conductor humano quien tomará la decisión, sino el algoritmo del coche.
¿A quién elegirías, a la abuela o al niño? ¿Crees que sólo hay una respuesta correcta?
Este es un típico dilema ético, que muestra la importancia de la ética en el desarrollo de las tecnologías.
Por eso la UNESCO se ha embarcado por primera vez en la elaboración de un instrumento normativo y global sobre la ética de la IA.
Todos, en todas las partes del mundo, deberíamos participar en este debate. ¡La Inteligencia Artificial es asunto de todos!
- ¡Únete a la conversación! Responde a nuestra encuesta en inglés o francés
- Para aprender más sobre los dilemas éticos: Moral Machine! (Página web del Instituto de Tecnología de Massachusetts (MIT) con diferentes escenarios)
La IA crea arte
El uso de la IA en el área de la cultura plantea interesantes reflexiones éticas.
En 2016, un cuadro de Rembrandt, "El Próximo Rembrandt", fue diseñado por una computadora y creado por una impresora 3D, 351 años después de la muerte del pintor.
Para lograr tal proeza tecnológica y artística, se analizaron 346 pinturas de Rembrandt píxel por píxel y se escalaron mediante algoritmos de aprendizaje profundo para crear una base de datos única. Cada detalle de la identidad artística de Rembrandt pudo entonces ser capturado, sentando así las bases de un algoritmo capaz de crear una obra maestra sin precedente. Para dar vida al cuadro, una impresora 3D recreó la textura de las pinceladas y las capas de dolor en el lienzo para un resultado impresionante que podría engañar a cualquier experto en arte.
Pero, ¿quién puede ser designado como el autor? La compañía que orquestó el proyecto, los ingenieros, el algoritmo, o... ¿el mismo Rembrandt?
En 2019, la compañía tecnológica china Huawei anunció que un algoritmo de IA ha sido capaz de completar los dos últimos movimientos de la Sinfonía nº 8, la composición inacabada que Franz Schubert comenzó en 1822, 197 años antes. Entonces, ¿qué sucede cuando la IA tiene la capacidad de crear obras de arte por sí misma? Si un autor humano es reemplazado por máquinas y algoritmos, ¿hasta qué punto se pueden atribuir los derechos de autor? ¿Puede y debe reconocerse a un algoritmo como autor y gozar de los mismos derechos que un artista?
La obra de arte producida por la IA requiere una nueva definición de lo que significa ser "autor", a fin de hacer justicia a la labor creativa tanto del autor "original" como de los algoritmos y tecnologías que produjeron la obra de arte propiamente dicha.
La creatividad, entendida como la capacidad de producir contenidos nuevos y originales mediante la imaginación o la invención, desempeña un papel central en las sociedades abiertas, inclusivas y pluralistas. Por esta razón, el impacto de la IA en la creatividad humana merece una cuidadosa atención. Si bien la IA es una herramienta poderosa para la creación, plantea importantes cuestiones sobre el futuro del arte, los derechos y la remuneración de los artistas y la integridad de la cadena de valor creativo.
Necesitamos desarrollar nuevos marcos para diferenciar la piratería y el plagio de la originalidad y la creatividad, y reconocer el valor del trabajo creativo humano en nuestras interacciones con la IA. Estos marcos son necesarios para evitar la explotación deliberada del trabajo y de la creatividad de los seres humanos, y para garantizar la remuneración y el reconocimiento adecuados de los artistas, la integridad de la cadena de valor cultural y la capacidad del sector cultural de proporcionar empleos dignos.
Por eso la UNESCO se ha embarcado por primera vez en la elaboración de un instrumento normativo y global sobre la ética de la IA.
Todos, en todas las partes del mundo, deberíamos participar en este debate. ¡La Inteligencia Artificial es asunto de todos!
- ¡Únete a la conversación! Responde a nuestra encuesta en inglés o francés
- Para aprender más sobre “El próximo Rembrandt”
AI en el Tribunal de Justicia
El uso de la IA en los sistemas judiciales alrededor del mundo está aumentando, lo que crea más preguntas éticas para explorar. Es de suponer que la IA podría evaluar los casos y aplicar la justicia de una manera mejor, más rápida y más eficiente que un juez.
Los métodos de la IA pueden tener un enorme impacto en una amplia gama de esferas, desde las profesiones jurídicas y el poder judicial hasta la ayuda en la adopción de decisiones de los órganos públicos legislativos y administrativos. Por ejemplo, pueden aumentar la eficiencia y la precisión de los abogados tanto en el asesoramiento como en los litigios, con beneficios para los abogados, sus clientes y la sociedad en su conjunto. Los sistemas informáticos existentes para los jueces pueden complementarse y mejorarse mediante herramientas de inteligencia artificial para ayudarles a redactar nuevas decisiones. Esta tendencia a utilizar cada vez más los sistemas autónomos se ha descrito como la automatización de la justicia.
Algunos sostienen que la IA podría contribuir a crear un sistema judicial penal más justo, en el que las máquinas podrían evaluar y sopesar los factores pertinentes mejor que los humanos, aprovechando su velocidad y su gran ingestión de datos. Por consiguiente, la IA tomaría decisiones basadas en decisiones informadas y carentes de todo sesgo y subjetividad.
PERO hay muchos desafíos éticos:
- La falta de transparencia de las herramientas de la IA: Las decisiones de la IA no siempre son inteligibles para los humanos.
- La IA no es neutral: Las decisiones basadas en la IA son susceptibles de inexactitudes, resultados discriminatorios, sesgos incrustados o insertados.
- Prácticas de vigilancia para la recopilación de datos y la privacidad de los usuarios de los tribunales.
- Nuevas preocupaciones por la equidad y el riesgo para los derechos humanos y otros valores fundamentales.
Entonces, ¿te gustaría ser juzgado por un robot en un tribunal? ¿aún y cuando no estemos seguros de cómo llegaría a sus conclusiones?
Por eso la UNESCO se ha embarcado por primera vez en la elaboración de un instrumento normativo y global sobre la ética de la IA.
Todos, en todas las partes del mundo, deberíamos participar en este debate. ¡La Inteligencia Artificial es asunto de todos!