La inteligencia artificial (IA) recién está en sus comienzos, “su nivel de razonamiento es muy superficial, ni siquiera es equivalente al de una rana”, estima Yoshua Bengio, una de las celebridades mundiales del aprendizaje profundo (deep learning). Sin embargo, ya plantea graves problemas de monopolización y de distribución no equitativa, que sólo podrán ser resueltos a escala mundial. Es necesaria una coordinación internacional en materia de desarrollo de la IA.
Entrevista a Yoshua Bengio realizada por Jasmina Šopova
Desde hace unos cinco años, se observa un verdadero entusiasmo por la investigación básica en materia de IA de parte de algunos gigantes de la informática, que invierten en ella sumas considerables. ¿Cómo se explica este fenómeno?
La respuesta es muy sencilla. La ciencia alcanzó, en materia de IA, un nivel de madurez que la hace de gran utilidad para las empresas. La acumulación de macrodatos (big data) y la mayor capacidad de procesamiento facilitan el desarrollo de nuevos productos de IA, que mañana serán aún más rentables que hoy.
En la actualidad, cuando hacemos búsquedas en Internet, somos asaltados constantemente por anuncios focalizados –y esta publicidad es la que mantiene a empresas como Facebook, Amazon, YouTube, etc.–. De momento, los productos de IA representan sólo una parte muy pequeña del mercado, pero los economistas prevén que dentro de unos diez años alcanzarán hasta un 15% de la producción total de bienes. Es enorme.
La IA permitirá, por consiguiente, que esas empresas vendan más, se enriquezcan y sean capaces de remunerar mejor aún a los investigadores que contratan. Al aumentar su clientela, aumenta también la cantidad de datos a los que tienen acceso. Y esos datos son una verdadera mina de oro que hace que el sistema sea aún más eficaz.
Todo esto crea un círculo virtuoso para esas empresas, que además es malsano para la sociedad. Este tipo de concentración de poder puede tener un impacto negativo tanto en la democracia como en la economía. Favorece a las grandes empresas y disminuye la capacidad para introducirse en el mercado de las empresas jóvenes, aun cuando tengan mejores productos que ofrecer.
Debemos fomentar una mayor diversidad en el mundo económico asociado a la IA y evitar una situación de monopolio.
Pero el monopolio ya se está instalando, ¿cómo evitarlo?
A través de leyes antimonopolios. La historia nos enseña que esas leyes pueden ser eficaces contra el exceso de poder de algunas empresas. Acordémonos de Standard Oil en Estados Unidos, que compraba a sus competidores para monopolizar el mercado del petróleo, o de Hollywood, que poseía, hasta mediados del siglo XX, el 70% de las salas de cine e imponía su ley sobre la distribución de películas. Las condenas a esas empresas y a algunas otras contribuyeron a reequilibrar los mercados.
Creo que una regulación apropiada de la publicidad puede contribuir en gran medida a impedir la creación de monopolios en el ámbito de la investigación en materia de IA. De algún modo, somos todos prisioneros de la publicidad y a menudo nos olvidamos que podríamos tomar una decisión colectiva para reglamentarla, de modo que no resulte nefasta para la sociedad.
Además, los servicios prestados por las grandes empresas privadas como Google o Facebook, podrían muy bien ser públicos, como por ejemplo, la televisión, que presta un servicio similar.
Usted decidió no trabajar en el sector privado, ¿es cierto?
Sí, quiero mantenerme neutral. Mi proyecto es desarrollar una ciencia que sea accesible a todos y no sólo a algunos accionistas. Quisiera que la investigación se realice de modo tal que abarque las aplicaciones más útiles para la humanidad y no necesariamente las más rentables para la economía.
A su vez, traté de crear en la Universidad de Montreal, donde trabajo, un ecosistema común y mutuamente beneficioso para la investigación y la industria. Varios laboratorios privados que se instalaron en la capital quebequense colaboran con nosotros. Algunos investigadores de la industria están empleados como profesores adjuntos en la universidad y contribuyen a la formación de los estudiantes. Las empresas hacen donaciones a las universidades dejándoles total libertad para elegir en qué áreas de investigación las van a invertir.
¿Cuál es la proporción de investigadores que trabaja actualmente en el ámbito académico?
A juzgar por la comunidad que frecuento en las grandes conferencias internacionales, diría que es aproximadamente la mitad. Hace cinco años, prácticamente todos los investigadores en IA trabajaban en el ámbito académico.
Las empresas privadas contratan talentos del mundo entero. ¿Contribuye esto a la fuga de cerebros en los países menos desarrollados?
Es inevitable. Por este motivo, debemos reflexionar colectivamente sobre los medios de hacer que los países más pobres se beneficien de los resultados más recientes de la investigación, pero también crear centros de investigación en sus universidades. En África, por ejemplo, cada vez más instituciones académicas ofrecen programas de capacitación en materia de IA y se organizan cursos de verano que han demostrado ser de gran utilidad.
Existe además una gran variedad de cursos, tutoriales y códigos disponibles en línea en forma gratuita. Conozco a muchos jóvenes que se formaron gracias a Internet. Por lo tanto, también es necesario buscar las mejores formas de ayudarlos a formarse por sí mismos.
Algunos países invierten mucho en la investigación en IA, especialmente Canadá.
En efecto, Canadá decidió financiar no sólo la investigación básica y ayudar a la creación de empresas emergentes, sino también invertir en la reflexión colectiva y en la investigación en ciencias humanas, para poder evaluar el impacto social de la IA.
Por iniciativa de la Universidad de Montreal, el 3 de noviembre de 2017 comenzó un debate con miras a la elaboración de la Declaración de Montreal para un desarrollo responsable de la IA. Esta iniciativa tiene como principal objetivo establecer orientaciones éticas en el desarrollo de la IA a escala nacional. En la primera etapa de este largo proceso, que invita al público en general a debatir con expertos y responsables políticos, se identificaron siete valores: bienestar, autonomía, justicia, vida privada, conocimiento, democracia y responsabilidad.
¿En qué punto está esta reflexión a escala internacional?
Tengo entendido que no existe ningún tratado internacional que rija la investigación en materia de IA. Sin embargo, se trata de desafíos internacionales y, sin coordinación a escala internacional, no lograremos avanzar en la dirección correcta.
En primer lugar, habría que sensibilizar al público en general y a los responsables políticos con respecto a los desafíos de la IA. En algunas partes del mundo, los investigadores ya alertaron sobre los principales problemas y los medios y el público en general han reaccionado. Son las primeras etapas que deberán permitirnos una concertación política más amplia, mundial, sobre los problemas que plantea esta disciplina, especialmente en materia de ética, medioambiente y seguridad.
