Identity

Uno de los principios que la UNESCO puso de relieve en su Recomendación sobre la ética de la inteligencia artificial, fue el de la transparencia de los sistemas de IA, que "tiene como objetivo proporcionar información adecuada a los respectivos destinatarios para permitir su comprensión y fomentar la confianza".

Joe Biden, presidente de Estados Unidos, firmó una orden ejecutiva para regular el desarrollo de la inteligencia artificial, en la que se hace notar que la transparencia de los sistemas de IA es esencial para la sociedad.

Por su parte, la ley de IA de la UE hace mención específica a este principio al hablar de los requisitos de transparencia para la IA generativa, entre los que destaca "revelar que el contenido ha sido generado por IA".

Las empresas que han creado los modelos generativos de IA con mayor uso, cumplen este requisito a pesar de no haber leyes que les obliguen: cuando a ChatGPT se le pregunta si es una IA, o el contexto puede llevar a confusión al usuario, este bot se identifica como tal, y advierte en ese sentido:

[....] soy una IA desarrollada por OpenAI, diseñada para ayudar con una amplia gama de tareas, como responder preguntas, generar texto, y mucho más [...]

Todos sabemos que ChatGPT es una IA, pero no es la única. ¿Puedo crear un chat que se haga pasar por humano? Sin ningún problema. Interactuar con bots inteligentes en redes sociales, servicios de atención al cliente, etc., ya es algo frecuente, hacerlo sin saber que se está hablando con una IA puede ser peligroso.

La estafa mediante suplantación de identidad a través de la clonación de voz con IA es un tipo de fraude creciente. También tenemos los casos de falso secuestro en que se usa la voz de un ser querido generada por IA para pedir un rescate. 

Hemos sido testigos de cómo la IA puede generar imágenes y vídeos con rostros que no corresponden al contexto que les rodea, y de los múltiples problemas que esto trae consigo. No sólo nos estamos refieriendo a Taylor Swift, que también, sino a los y las adolescentes que son objeto de violencia sexual mediante la publicación de imáges y vídeos en los que parecen ser los protagonistas. 

En una reciente entrevista con EFE el filósofo Daniel Dennet dice: "La civilización depende de la confianza y cuando se es capaz de fabricar gente falsa, la confianza se evapora. [...] Tendremos que legislar para convertir la falsificación de personas en un delito más grave que falsificar dinero. [...] He acuñado un término (para la IA): arma de engaño masivo. Tal vez sea más peligrosa que las armas de destrucción masiva".

Que todo lo producido por IA sea reconocible es algo imprescindible si queremos convivir con esta tecnología de manera segura y saludable: la IA es una herramienta muy poderosa, su identificación puede ser una de las claves para nuestra protección. Quizá por ahí tenía que haber comenzado Asimov cuando ideó las leyes de la robótica: "Un robot siempre se identificará como tal".