Innovar o proteger

Sócrates advertía que la escritura debilitaría la memoria humana porque la gente ya no dependería del conocimiento oral. Fue tachado de alarmista, pero en cierto sentido tenía razón: con el tiempo, la oralidad perdió peso como método de transmisión de conocimiento y hoy dependemos de dispositivos para recordar información, incluidos los libros en papel.

La imprenta llegó en el siglo XV y transformó radicalmente la sociedad al hacer accesible el conocimiento a un público mucho más amplio. Esta innovación no solo permitió la reproducción masiva de textos, sino que también rompió el monopolio del saber que antes ejercían instituciones eclesiásticas y aristocráticas. Al difundir ideas, cuestionar dogmas y facilitar el debate público, la imprenta se erigió como un motor de cambio social, sentando las bases para movimientos reformistas y democrático. 

Aunque la escritura debilitó la memoria humana, la imprenta democratizó el acceso al conocimiento. La tecnología y sus productos no son algo bueno o malo en sí mismo, pero sí que abre múltiples puertas, unas provocan efectos muy positivos para todos y otras efectos terribles: qué puertas atravesemos y qué otras dejemos bien cerradas es nuestra responsabilidad. 

Si bien la evolución tecnológica afecta profundamente los cimientos de nuestra convivencia, como demuestra el ejemplo de la imprenta, la transformación digital lo hace además a un ritmo vertiginoso, sin que a las sociedades y sus estructuras les dé tiempo a adaptarse, ni tampoco a los individuos que las componen.  Los efectos de la tecnología sobre las personas se acumulan sin que pueda darse un proceso de adaptación, generando estrés y disrupción social: lo que Alvin Toffler llamó "shock del futuro".

Y de este modo, y a la velocidad de la luz, nos hemos encontrado de frente con la IA. No se trata de algo disruptivo a la altura de internet, o de los primeros microprocesadores, sino de algo de mucho mas calado que afecta a la esencia misma del ser humano: la inteligencia, la creatividad y, cómo no, el habla. Este "encontronazo" tecnológico promete ser algo muy diferente a todo lo que ha acontecido desde que el ser humano usó por primera vez un palo o una piedra. 

Yuval Noah Harari, autor de Sapiens, aborda en su último libro, Nexus, las aventuras y desventuras de la informacion a lo largo de la historia del ser humano. En esta obra Harari habla sobre la capacidad de la IA para manipular, distorsionar o reconfigurar la comunicación: él lo llama "hackear el lenguaje". Para Harari, el lenguaje no es meramente un instrumento de intercambio de información, sino el medio sobre el que se construyen y sostienen los debates democráticos. Si los algoritmos logran alterar esta conversación (por ejemplo, mediante bots que imitan interacciones humanas o generando una "falsa intimidad") se corre el riesgo de controlar la narrativa pública. El resultado es doble: se pierde tiempo en debates vacíos y se expone información personal que puede ser utilizada para fines manipuladores. 

El filósofo Daniel Dennet también subrayó el año pasado, un par de meses antes de su muerte, los riesgos que la IA puede generar para la democracia. En una entrevista de febrero del año pasado, Dennett advirtió sobre la creación de identidades falsas y la propagación de desinformación, señalando que “la tecnología es demasiado buena para crear identidades falsas; si llegamos a ese punto, la confianza se evaporará, y nuestra capacidad de tomar decisiones informadas se verá mermada de forma irreversible.”

La manipulación del lenguaje y la creación de falsedades amenazan la integridad del debate público, y la Unión Europea intenta poner freno a eso y otros muchos posibles efectos nocivos de la IA mediante un reglamento (RIA), marcando un hito en la protección de nuestros derechos digitales y democráticos. El pasado 2 de febrero entraron en vigor los Capítulos I y II del RIA, en los que se establecen límites claros para el uso de la IA, prohibiendo expresamente técnicas subliminales o manipuladoras que busquen alterar de forma sustancial el comportamiento humano. Esta normativa también intenta evitar que se exploten vulnerabilidades específicas (como aquellas derivadas de la edad, discapacidad o situación económica) y que se utilicen sistemas de clasificación que puedan generar desinformación o discriminación.

En esencia, el RIA se propone salvaguardar el derecho a una información veraz y a una comunicación transparente, de modo que la tecnología sirva a la ciudadanía y no se convierta en un instrumento de control. Sin embargo ahora surgen muchas preguntas. ¿Será suficiente esta legislación para contrarrestar los riesgos que advierten Harari o Dennett, y garantizar que la democracia no se vea socavada por la manipulación digital? ¿Limita esta normativa la innovación o crea un marco de seguridad y confianza que la impulsa de manera responsable y sostenible?

China y Estados Unidos parecen tener una estrategia muy definida en materia tecnológica y avanzan a toda velocidad, sin dejarse frenar por marcos legislativos restrictivos o por una participación ciudadana robusta. En ambos casos, el impulso por la innovación se traduce en un enfoque en el que la regulación y el escrutinio democrático quedan en segundo plano, mientras se persigue el liderazgo tecnológico a cualquier costo. Esto implica que, tanto en el modelo chino, con un fuerte control estatal, como en el estadounidense, donde el dinamismo del sector privado prevalece, no hay temor a los riesgos de la manipulación o a la erosión de los valores democráticos, lo que permite un avance casi ininterrumpido en la carrera por la supremacía digital.

Europa se sitúa en una posición intermedia, ni completamente inmersa en el frenesí de la innovación desenfrenada ni totalmente al margen, optando por un enfoque cauteloso. Sin embargo, al mantenerse en ese limbo corre el riesgo de no comprometerse ni con la agilidad de los modelos de China o Estados Unidos, ni con la seguridad que podría ofrecer una regulación más firme. Este enfoque intermedio, si bien busca equilibrar los extremos, genera incertidumbre y plantea otro riesgo: quedar atrapados en la inacción y en la incapacidad de responder eficazmente a los desafíos tecnológicos actuales.