IAnigma

La tecnología se desarrolla de una manera concreta, con un sesgo concreto. Ahí entra en juego la economía, la ideología, la moral y otros factores que hacen que se busquen soluciones a unos problemas y a otros no tanto. E incluso que las soluciones sean unas mientras que otras posibles se desechan. No por menos viables, sino por no cuadrar con los ámbitos vigentes que acabo de mencionar. No estamos ante una tecnología neutral, sino ante una muy interesada. Y esto no es nuevo. Es así desde que en la Edad del Bronce, o del Hierro, el metal fue el diferenciador entre ganadores y derrotados. No ha cambiado en esencia, ni va a cambiar. El bronce era un diferencial de fuerza, sí. Pero era replicable. Podías aprender a fundirlo, podías robar el mineral, podías comprarle la espada al enemigo. Tardabas una generación, pero se cerraba la brecha. Lo mismo con la imprenta, con el telar, con el motor. La ventaja tecnológica ha sido históricamente una ventaja temporal. Lo de ahora no funciona ...

Desde hace muchos años me gusta practicar caligrafía. También le cogí el gusto a intentar hacer alguna que otra acuarela. Y también he hecho cerámica. No soy experto en ninguna de estas cosas, en absoluto, pero de vez en cuando me pongo y hago cualquier cosa, sin valor en sí. Y para mí hacerlo es importante. Estas cosas tienen una carga terapéutica, o metafísica, o qué sé yo. Y no solo porque me hagan fluir (en el sentido del libro  Flow) , o en el sentido del mindfulness, o quizá de la arteterapia, sino porque además hago algo con las manos. Mi cerebro, mi mano, la tinta, la plumilla, el pincel. Todos esos elementos físicos, tangibles, solo funcionan si yo los activo. Ese fuerte componente manual. Ese componente de que yo soy la magia que los pone en acción. Y además sale imperfecto. Hay que practicarlo, y practicarlo, y nunca es perfecto. Siempre tiene algo humano. Pero incluso cuando sale algo que me gusta, no es por perfecto, sino porque en ello puedo reconocer la mano huma...

 A una chica de veintitrés años que trabaja en una tienda de ropa en el centro le enseñan un lunes por la mañana el informe del cliente misterioso, que es esa persona que la empresa manda a comprar fingiendo ser un cliente cualquiera para luego puntuar cómo la han atendido, y en el apartado de trato hay un ocho sobre diez y una frase escrita a mano que dice que la sonrisa no le llega a los ojos. Ojo con lo que se le está reprochando ahí, porque no es que no sonriera; sonrió, saludó, acompañó al probador, dobló la ropa que el señor dejó del revés. Lo que se le reprocha es que se le notaba que estaba sonriendo, o sea, que por debajo de la sonrisa no había nada, y que el cliente lo captó. Y a partir de ese lunes ella sabe una cosa que el contrato no dice en ninguna parte: que lo que le pagan no es la sonrisa, es la sinceridad. Eso lo explicó hace más de cuarenta años Arlie Russell Hochschild, socióloga estadounidense, en un libro de 1983 que se llama The Managed Heart , que podríamo...

A una ingeniera de treinta y cuatro años le dan un ascenso un jueves por la tarde. Se lo comunican en un despacho, le dan la mano, le dicen que se lo merece. Y esa misma noche está en la cama a las dos de la mañana, sin poder dormir, repasando por qué se lo han dado a ella. Piensa si fue por el proyecto de Lisboa, que salió bien, o si fue porque cae bien y se lleva bien con todo el mundo. Piensa si el director la propuso convencido o si simplemente tocaba. Y en algún momento de esa noche piensa una cosa muy concreta, que es que ahora ya solo falta que alguien se dé cuenta. Al día siguiente se lo cuenta a su jefa tomando un café, medio en broma, como se cuentan estas cosas. Y su jefa, que la aprecia de verdad y que no tiene ninguna mala intención, por la tarde le manda un enlace. Es un artículo sobre el síndrome de la impostora. Ella lo lee, se reconoce en casi todo, y siente al principio un alivio grande, porque resulta que lo que le pasa tiene nombre y le pasa a mucha gente. Pero lue...

Martin Heidegger, en su ensayo La pregunta por la técnica (1954), sostiene que la tecnología no es solo un conjunto de herramientas o máquinas que utilizamos para hacer la vida más fácil, sino una forma de ver y entender el mundo. Todo lo que nos rodea (desde la naturaleza hasta los propios seres humanos) se transforma en un simple recurso disponible, algo que existe solo en la medida en que pueda ser usado, almacenado o explotado. Perdemos, así, la capacidad de percibir las cosas en su riqueza propia, en su ser más allá de su utilidad inmediata.  La IA, los algoritmos o la vigilancia digital convierten a las personas en mercancía, en datos y en consumidores predecibles: la advertencia de Heidegger va cobrando con el tiempo aún más sentido.  ¿Cómo condicionan nuestros propios dispositivos, algoritmos y redes digitales la forma en que pensamos, sentimos y actuamos?  ¿Nos servimos de la tecnología o, por el contrario, nos hemos convertido en sus sirvientes? La tecnología s...

Sócrates advertía que la escritura debilitaría la memoria humana porque la gente ya no dependería del conocimiento oral. Fue tachado de alarmista, pero en cierto sentido tenía razón: con el tiempo, la oralidad perdió peso como método de transmisión de conocimiento y hoy dependemos de dispositivos para recordar información, incluidos los libros en papel. La imprenta llegó en el siglo XV y transformó radicalmente la sociedad al hacer accesible el conocimiento a un público mucho más amplio. Esta innovación no solo permitió la reproducción masiva de textos, sino que también rompió el monopolio del saber que antes ejercían instituciones eclesiásticas y aristocráticas. Al difundir ideas, cuestionar dogmas y facilitar el debate público, la imprenta se erigió como un motor de cambio social, sentando las bases para movimientos reformistas y democrático.  Aunque la escritura debilitó la memoria humana, la imprenta democratizó el acceso al conocimiento. La tecnología y sus productos no s...

El trabajo  Li et al. (2024)  tiene como objetivo principal presentar una recopilación y análisis de la literatura científica centrada en la interacción entre humano y modelos de lenguaje grande (LLM). Seleccionaron aquellos artículos que examinaban cómo las personas interactúan con LLMs (como ChatGPT, Claude, Gemini, etc.), que además incluyeran al menos un estudio con usuarios reales, y que abordaran estas interacciones de manera general sin enfocarse en casos específicos. En este estudio los autores lograron, entre otras cosas, identificar, clasificar y organizar más de 100 artículos según la forma de interacción humano-LLM que analizaba cada uno de ellos. Para ello se apollaron en una clasificación de cuatro patrones de interacción básicos entre humanos y LLM:  Herramienta de procesamiento:  el LLM realiza tareas específicas y dirigidas, en ningún caso creativas, y el humano toma la mayoría de las decisiones. Por ejemplo, buscar en documentos información específi...

Continuación de  Cocreación responsable El verdadero potencial de los LLM emerge cuando los conceptualizamos no como simples herramientas de automatización, sino como amplificadores de las capacidades humanas. Esta distinción es fundamental para comprender su papel en los procesos creativos y productivos. La tendencia generalizada a buscar en los LLM una solución rápida para incrementar la productividad, no sólo es una perspectiva completamente falsa sino que resulta contraproducente. El valor real de estas herramientas radica en su capacidad para mejorar la calidad de nuestro trabajo, no necesariamente su velocidad. La diferencia no es trivial: mientras la productividad se mide en cantidad de output, la mejora cualitativa implica un refinamiento del pensamiento, la creatividad y la precisión. Hay estrategias para trascender la visión puramente productivista y adoptar un enfoque más realista y enriquecedor de los LLM. Este cambio de perspectiva nos permite despojar a estas herrami...

Mientras celebramos los avances significativos que se están logrando mediante la colaboración entre humanos y LLM, existe un riesgo latente de que la delegación progresiva de la creatividad y la innovación a estos sistemas conduzca a una homogeneización del pensamiento creativo y a su paulatina atrofia en el ser humano ( Rebelión en el imperio de la IA ) . La verdadera innovación, aquella que produce saltos paradigmáticos y revoluciona campos enteros del conocimiento, surge de características inherentemente humanas: nuestra capacidad de experimentar emociones, de sufrir, de cuestionar lo establecido y de realizar conexiones aparentemente ilógicas que conducen a descubrimientos revolucionarios. El desafío actual no radica en elegir entre el desarrollo tecnológico y la creatividad humana, no hay elección posible ante lo inevitable, sino en desarrollar un marco de trabajo que permita aprovechar el potencial de los LLM mientras preservamos y potenciamos las capacidades únicas de la mente...

En mi anterior artículo  Domínguez, J. (2024)  examiné la creciente brecha que se está abriendo entre las expectativas iniciales (tanto positivas como negativas) depositadas en la IA y su desarrollo real. Por ejemplo, si bien las empresas están realizando fuertes inversiones para sacar partido a estas tecnologías, no están obteniendo los beneficios que esperaban. Esta disparidad se está viendo ampliada por diversos factores, pero es el de los sesgos el que resulta más destacable. En este sentido  Comín, D. (2024)  anticipa: "[...] los sesgos potenciales de los algoritmos que son la base de todas las aplicaciones de IA crearán resistencia al desarrollo de aplicaciones y frenarán la repercusión potencial de la IA en la economía". La presencia de sesgos en los resultados generados por esta tecnología no debería sorprendernos. Son una consecuencia lógica de la naturaleza de los datos de entrenamiento empleados en el desarrollo de estos sistemas. La calidad, diversidad y ...

"La IA se está convirtiendo en una fuerza con gran impacto tanto en el mundo laboral como en el económico". Con esa entrada parece que hablamos de largas colas de desempleados en las oficinas de empleo, que han sido sustituidos exitosamente por herramientas movidas por esta tecnología, e importantes empresas que, aun reduciendo drásticamente su mano de obra, están obteniendo pingües beneficios gracias a dichas herramientas. Es lo que todos esperábamos que sucediera, y que lo hiciera de manera virulenta y cruel. Sin embargo, la adopción generalizada de la IA parece no estar produciendo los efectos que se esperaban. Si bien es posible que se estén perdiendo empleos y que se pierdan muchos más en el futuro, lo realmente significativo es que a fecha de hoy los trabajadores están teniendo que esforzarse más para utilizar la IA. Por otro lado, aunque las empresas están implementándola extensamente, no están obteniendo los beneficios previstos.  Según el informe FMI (2024) la IA es...

En febrero de 2023, en plena viralidad del fenómeno ChatGPT, Stephen Wolfram presentó un extenso artículo sobre el funcionamiento de esta herramienta titulado What Is ChatGPT Doing … and Why Does It Work?  (¿Qué está haciendo ChatGPT... y por qué funciona?). Con este trabajo, además de introducirnos en multitud de conceptos clave para comprender los GPT (Generative Pre-trained Transformer), refrenda la tesis central del libro "A New Kind of Science" (ver  Gestionando riesgos de la IA generativa - Parte 1: Los sistemas complejos ): "un gran número de elementos computacionales simples pueden hacer cosas extraordinarias e inesperadas". ChatGPT parece un sistema poco prometedor. Se trata de una simple red neuronal alimentada con grandes cantidades de texto de internet, libros y otras fuentes. A partir de un texto dado sopesará cuál es la siguiente palabra con mayor probabilidad de aparecer según el sentido del conjunto: y esto lo hará recursivamente hasta que dé por com...

Muchas organizaciones están adoptando la IA generativa para asistir a algunos de sus procesos. En la mayoría de los casos, esta adopción se está llevando a cabo de la manera habitual, es decir, del mismo modo que se haría con cualquier otra tecnología. Aunque pueda parecer que la implementación exitosa de la IA generativa requiere lo mismo que cualquier otra transformación digital, esta tecnología tiene una serie de características muy particulares que la hacen especial: conocerlas no garantiza nada, pero sí puede darnos pistas a la hora de gestionar los riesgos. En su libro "A New Kind of Science" (Un Nuevo Tipo de Ciencia) publicado en 2002,  Stephen Wolfram  presentó una original teoría con el propósito de facilitar una comprensión más profunda de la complejidad de la naturaleza. Esta complejidad podría ser explicada mediante reglas y patrones computacionales muy simples que se combinan entre sí. Aunque el concepto de "emergencia" es muy anterior a Wolfram, éste ...