Innovaciones de la inteligencia artificial para afrontar problemáticas sociales

La inteligencia artificial sirve para resolver, entre otros, dos de los más arduos problemas actuales: la proliferación de bulos y rumores en la información y las intromisiones en la vida privada de los ciudadanos. La sociedad Factmata recurre a la inteligencia artificial para contrarrestar la desinformación y la firma D-ID para proteger la identidad de las personas contra los sistemas de reconocimiento facial. Las tecnologías de vanguardia de estas dos empresas figuraron entre las diez seleccionadas en todo el mundo por el Observatorio Netexplo para su presentación en el Foro 2019, que tuvo lugar en abril pasado en la Sede de la UNESCO.

Directores generales y cofundadores respectivos de las sociedades Factmata, radicada en Londres, y D-ID, con sedes en Tel Aviv (Israel) y Palo Alto (California, EE.UU.), Dhruv Ghulati y Gil Perry informan de estas innovaciones a los lectores de El Correo.

Dhruv Ghulati y Gil Perry responden a la preguntas de Shiraz Sidhva

Dhruv Ghulati: Contrarrestar los bulos (fake news)

¿Por qué ha fundado una firma de inteligencia artificial para combatir la desinformación? ¿No cree usted que se trata de una tarea tan titánica como luchar contra la corrupción?

Desde luego no es una labor sencilla, pero si uno no quiere limitarse a establecer una empresa de medianas dimensiones y desea cambiar el mundo tiene que afrontar los problemas globales mediante la creación de una tecnología susceptible de repercutir en todas las personas y lugares del mundo. Factmata, nuestra corporación, elabora algoritmos esclarecedores para tratar de resolver el problema de la desinformación en línea y crear un ecosistema mediático de mejor calidad.

Para que los usuarios de la Red tengan una idea detallada de la calidad, seguridad y credibilidad de cualquier fragmento de un contenido publicado en línea, el sistema de puntuación de Factmata lo asimila y lee inteligentemente, aplicando para su clasificación nueve criterios que incluyen la incitación al odio, la orientación política y el sexismo. Su clasificación es imparcial y esclarecedora gracias a la intervención de una red exclusiva de expertos idóneos para evaluar cada contenido.

Nuestro objetivo es crear un nuevo sistema universal para clasificar la calidad de los contenidos publicados en línea, a fin de implantarlo en navegadores, buscadores y otros dispositivos cibernéticos, como las plataformas mercantiles digitales que a menudo facilitan, mediante subastas en tiempo real, la compraventa de inventarios de publicidad de medios de comunicación e información procedentes de múltiples redes publicitarias. Esto garantizará una mejor clasificación y cotización del periodismo de calidad y, por ende, una desvalorización de los contenidos de escasa credibilidad y seguridad.

¿Qué diferencia hay entre Factmata y otros programas informáticos, por ejemplo el que usa Facebook?

Nuestra tecnología puede llegar a ser más precisa gracias a que recurrimos exclusivamente a grupos de expertos para elaborar nuestro programa informático, lo que nos permite utilizar el conjunto de datos de capacitación cuyo mantenimiento es difícil y consume mucho tiempo, en vez de utilizar otros conjuntos de datos abiertos a los que cualquiera puede tener acceso. Mantener estos datos es muy complicado y toma mucho tiempo. Hemos descubierto cómo obtenerlos de manera menos costosa y más eficaz que los demás, haciendo que los usuarios participen en el proceso.

¿Quiénes son sus usuarios principales?

Ciudadanos corrientes que desean recurrir a los instrumentos que ofrecemos para poner a prueba su espíritu crítico, y también marcas comerciales y gobiernos que tratan de asegurarse de que pueden vigilar a quienes difunden rumores nocivos para la salud pública, o propalan bulos que pueden desbaratar el lanzamiento de un producto o una campaña de publicidad.

Para eliminar esos bulos y rumores, ¿cree usted que la inteligencia artificial es más eficaz que la humana?

La inteligencia humana es más eficaz con gran diferencia. Sin embargo, no es posible multiplicar el número de personas susceptibles de desempeñar esa tarea. Los algoritmos implantados en numerosos ordenadores pueden escanear millones de elementos de contenido por segundo y detectar los bulos, mientras que no es posible aumentar el número de seres humanos y ponerlos a filtrar ese enorme volumen de datos sin que pronto se fatiguen. Por lo tanto, la solución es utilizar simultáneamente los recursos humanos disponibles y la inteligencia artificial.

¿Pueden burlar la inteligencia artificial los piratas informáticos y los propaladores de bulos y rumores? 

Van a intentarlo sin duda, pero lo más importante para nosotros es que cuando traten de burlar el sistema les resulte cada vez más difícil. La calidad de un sistema permite superar muy pronto la piraterías y los fraudes de quienes son capaces de burlarlo. Así estamos actuando contra los correos basura electrónicos y así tratamos la mayoría de los problemas relacionados con la seguridad cibernética.

Cara al futuro, lo fundamental es que seamos capaces de subsistir y financiarnos durante el tiempo necesario para consolidar nuestra tecnología básica y disponer de una clientela que nos preste su apoyo. Creo que con el correr del tiempo y trabajando de firme atajaremos el problema de los bulos y rumores, mientras que otros muchos renunciarán en el camino a alcanzar este objetivo.

---------------------------------------------------------------------------------------------------------------------

Gil Perry: Imposibilitar el reconocimiento facial  

Usted hizo su servicio militar en la unidad de élite “8200” del ejército de Israel. ¿Qué le incitó luego a crear un programa informático destinado a proteger la identidad de las personas contra los sistemas cibernéticos de reconocimiento facial?

La idea nos vino a un grupo de soldados durante el servicio, porque entonces éramos ya muy conscientes de los peligros que entrañaban esos sistemas para la protección de la identidad y intimidad de los ciudadanos. A nosotros, los militares, no se nos permitía por ejemplo publicar fotos de nuestros rostros en las redes sociales, debido a la posibilidad de ser reconocidos. Cuando me licencié del ejército decidí profundizar mis conocimientos sobre esta cuestión, estudiando la visión por computadora y el procesamiento de imágenes computacionales, así como trabajando varios años en este ámbito especializado. Luego, hace unos dos años y medio, fundé con Sella Blondheim y Eliran Kota, la sociedad D-ID y entre los tres empezamos a concebir uno de los algoritmos más complejos e innovadores que existen para proteger las fotografías contra las técnicas de reconocimiento facial. Este algoritmo es la piedra angular de D-ID.

La cibernética ha convertido nuestros rostros en una contraseña, de ahí que sea preciso protegerlos porque las personas no pueden cambiar de cara como se cambian las contraseñas. Por eso hemos creado una inteligencia artificial que modifica de manera imperceptible para el ojo humano las imágenes de las caras de las personas, impidiendo así que los algoritmos de reconocimiento facial las identifiquen. Esto permite a la gente archivar, compartir y utilizar sus fotos personales sin temor a que los sistemas automatizados de reconocimiento facial las recuperen, descifren y hagan mal uso de ellas.

¿Qué importancia tiene protegerse contra el reconocimiento facial y qué riesgos entraña no usar un programa informático para contrarrestarlo?

Primero, cabe señalar que los sistemas de reconocimiento se están implantando por doquier y que su comercialización se halla en pleno auge. En segundo lugar, podemos observar que estamos asediados por cámaras de televisión en circuito cerrado en toda clase de lugares como espacios públicos, tiendas y medios de transporte, a lo que viene a añadirse el uso prácticamente universal de los teléfonos personales inteligentes para tomar fotografías y filmar vídeos. En tercer y último lugar, hay que decir que el resultado de todo esto es que se pueden encontrar fotos de nuestros rostros en todas partes: redes sociales, servidores de empresas, bases de datos gubernamentales, etc. Todo eso hace que cualquiera pueda identificar a una persona, seguirle la pista y usurpar su identidad.

La tecnología de reconocimiento facial se puede usar para catalogar las conductas personales de los ciudadanos o informarse sobre el estado de la cuenta bancaria de un pariente, vecino o conocido. En algunos países, uno puede fotografiar al azar a cualquier persona en la calle y recurrir al reconocimiento facial para fisgar hasta en los más mínimos detalles de su vida. Es sabido que esta tecnología se ha utilizado para acosar a minorías y participantes en manifestaciones. En los Estados Unidos y otros países se recurre a ella, por ejemplo, para saber la edad, el sexo, el origen étnico y el grado de satisfacción de los clientes de las tiendas, así como muchos otros datos privados.

En resumidas cuentas, creo que proteger la intimidad es una cuestión que nos atañe a todos y D-ID tiene una solución para ayudarnos a salvaguardarla.

El algoritmo exclusivo de D-ID combina un procesamiento puntero de imágenes con técnicas de aprendizaje profundo, gracias a las cuales las máquinas reconocen por sí mismas elementos complejos tales como rostros, cuerpos humanos, etc. Esa combinación permite sintetizar de nuevo cualquier imagen en una versión protegida mediante una operación extremadamente difícil de realizar para la que hoy en día, en nuestra opinión, solamente nosotros somos capaces de proporcionar la tecnología adecuada.

¿Es previsible que el algoritmo de D-ID pueda causarles a ustedes problemas con los organismos gubernamentales que recurren masivamente a la tecnología del reconocimiento facial?

No es previsible. Al contrario, los gobiernos y los órganos legislativos están promoviendo una mayor y mejor reglamentación para proteger la intimidad y esto concuerda con nuestro punto de vista.

¿Sus clientes son personas que desean proteger su identidad?

Hoy en día, vendemos principalmente nuestra tecnología a sociedades que la utilizan para preservar las bases de datos empresariales que contienen imágenes de sus ejecutivos, empleados y clientes.

También buscamos clientes entre los centros educativos, a fin de que los docentes y alumnos puedan publicar y compartir en línea imágenes que salvaguarden su intimidad. A medida que nuestra tecnología progrese esperamos poder ofrecer el algoritmo D-ID al público en general mediante soluciones específicas para aparatos personales, de tal manera que sea automáticamente inidentificable cualquier imagen captada por el teléfono inteligente, la cámara fotográfica o la videocámara de otra persona.

Foto: Fabian Albertini