IAnigma

El trabajo  Li et al. (2024)  tiene como objetivo principal presentar una recopilación y análisis de la literatura científica centrada en la interacción entre humano y modelos de lenguaje grande (LLM). Seleccionaron aquellos artículos que examinaban cómo las personas interactúan con LLMs (como ChatGPT, Claude, Gemini, etc.), que además incluyeran al menos un estudio con usuarios reales, y que abordaran estas interacciones de manera general sin enfocarse en casos específicos. En este estudio los autores lograron, entre otras cosas, identificar, clasificar y organizar más de 100 artículos según la forma de interacción humano-LLM que analizaba cada uno de ellos. Para ello se apollaron en una clasificación de cuatro patrones de interacción básicos entre humanos y LLM:  Herramienta de procesamiento:  el LLM realiza tareas específicas y dirigidas, en ningún caso creativas, y el humano toma la mayoría de las decisiones. Por ejemplo, buscar en documentos información específi...

Continuación de  Cocreación responsable El verdadero potencial de los LLM emerge cuando los conceptualizamos no como simples herramientas de automatización, sino como amplificadores de las capacidades humanas. Esta distinción es fundamental para comprender su papel en los procesos creativos y productivos. La tendencia generalizada a buscar en los LLM una solución rápida para incrementar la productividad, no sólo es una perspectiva completamente falsa sino que resulta contraproducente. El valor real de estas herramientas radica en su capacidad para mejorar la calidad de nuestro trabajo, no necesariamente su velocidad. La diferencia no es trivial: mientras la productividad se mide en cantidad de output, la mejora cualitativa implica un refinamiento del pensamiento, la creatividad y la precisión. Hay estrategias para trascender la visión puramente productivista y adoptar un enfoque más realista y enriquecedor de los LLM. Este cambio de perspectiva nos permite despojar a estas herrami...

Mientras celebramos los avances significativos que se están logrando mediante la colaboración entre humanos y LLM, existe un riesgo latente de que la delegación progresiva de la creatividad y la innovación a estos sistemas conduzca a una homogeneización del pensamiento creativo y a su paulatina atrofia en el ser humano ( Rebelión en el imperio de la IA ) . La verdadera innovación, aquella que produce saltos paradigmáticos y revoluciona campos enteros del conocimiento, surge de características inherentemente humanas: nuestra capacidad de experimentar emociones, de sufrir, de cuestionar lo establecido y de realizar conexiones aparentemente ilógicas que conducen a descubrimientos revolucionarios. El desafío actual no radica en elegir entre el desarrollo tecnológico y la creatividad humana, no hay elección posible ante lo inevitable, sino en desarrollar un marco de trabajo que permita aprovechar el potencial de los LLM mientras preservamos y potenciamos las capacidades únicas de la mente...

En mi anterior artículo  Domínguez, J. (2024)  examiné la creciente brecha que se está abriendo entre las expectativas iniciales (tanto positivas como negativas) depositadas en la IA y su desarrollo real. Por ejemplo, si bien las empresas están realizando fuertes inversiones para sacar partido a estas tecnologías, no están obteniendo los beneficios que esperaban. Esta disparidad se está viendo ampliada por diversos factores, pero es el de los sesgos el que resulta más destacable. En este sentido  Comín, D. (2024)  anticipa: "[...] los sesgos potenciales de los algoritmos que son la base de todas las aplicaciones de IA crearán resistencia al desarrollo de aplicaciones y frenarán la repercusión potencial de la IA en la economía". La presencia de sesgos en los resultados generados por esta tecnología no debería sorprendernos. Son una consecuencia lógica de la naturaleza de los datos de entrenamiento empleados en el desarrollo de estos sistemas. La calidad, diversidad y ...

"La IA se está convirtiendo en una fuerza con gran impacto tanto en el mundo laboral como en el económico". Con esa entrada parece que hablamos de largas colas de desempleados en las oficinas de empleo, que han sido sustituidos exitosamente por herramientas movidas por esta tecnología, e importantes empresas que, aun reduciendo drásticamente su mano de obra, están obteniendo pingües beneficios gracias a dichas herramientas. Es lo que todos esperábamos que sucediera, y que lo hiciera de manera virulenta y cruel. Sin embargo, la adopción generalizada de la IA parece no estar produciendo los efectos que se esperaban. Si bien es posible que se estén perdiendo empleos y que se pierdan muchos más en el futuro, lo realmente significativo es que a fecha de hoy los trabajadores están teniendo que esforzarse más para utilizar la IA. Por otro lado, aunque las empresas están implementándola extensamente, no están obteniendo los beneficios previstos.  Según el informe FMI (2024) la IA es...

En febrero de 2023, en plena viralidad del fenómeno ChatGPT, Stephen Wolfram presentó un extenso artículo sobre el funcionamiento de esta herramienta titulado What Is ChatGPT Doing … and Why Does It Work?  (¿Qué está haciendo ChatGPT... y por qué funciona?). Con este trabajo, además de introducirnos en multitud de conceptos clave para comprender los GPT (Generative Pre-trained Transformer), refrenda la tesis central del libro "A New Kind of Science" (ver  Gestionando riesgos de la IA generativa - Parte 1: Los sistemas complejos ): "un gran número de elementos computacionales simples pueden hacer cosas extraordinarias e inesperadas". ChatGPT parece un sistema poco prometedor. Se trata de una simple red neuronal alimentada con grandes cantidades de texto de internet, libros y otras fuentes. A partir de un texto dado sopesará cuál es la siguiente palabra con mayor probabilidad de aparecer según el sentido del conjunto: y esto lo hará recursivamente hasta que dé por com...

Muchas organizaciones están adoptando la IA generativa para asistir a algunos de sus procesos. En la mayoría de los casos, esta adopción se está llevando a cabo de la manera habitual, es decir, del mismo modo que se haría con cualquier otra tecnología. Aunque pueda parecer que la implementación exitosa de la IA generativa requiere lo mismo que cualquier otra transformación digital, esta tecnología tiene una serie de características muy particulares que la hacen especial: conocerlas no garantiza nada, pero sí puede darnos pistas a la hora de gestionar los riesgos. En su libro "A New Kind of Science" (Un Nuevo Tipo de Ciencia) publicado en 2002,  Stephen Wolfram  presentó una original teoría con el propósito de facilitar una comprensión más profunda de la complejidad de la naturaleza. Esta complejidad podría ser explicada mediante reglas y patrones computacionales muy simples que se combinan entre sí. Aunque el concepto de "emergencia" es muy anterior a Wolfram, éste ...

Lo que vamos a tratar en este artículo recuerda lejanamente al escándalo de Volkswagen en 2015. La compañía alemana fue acusada de instalar un software en millones de vehículos diésel para engañar a los reguladores de emisiones. Este software detectaba cuándo el automóvil estaba siendo sometido a pruebas de emisiones en un laboratorio. Durante estas pruebas, el software activaba un modo de funcionamiento que reducía las emisiones de óxidos de nitrógeno para cumplir con los estándares regulatorios. El caso no nos ha venido a la cabeza sin más: la IA se ha convertido en una prioridad para numerosas industrias, y esto deja el terreno abonado para que aflore la picaresca. Esta tecnología atrae clientes, y quién nos libra de que en pos de la supuesta reducción de costes que conlleva no caigamos en el todo vale. Es fácil, por ejemplo, prometer una reducción de costes con el uso de IA generativa para crear ciertos productos o servicios; sin embargo, la realidad es que habitualmente, la obtenc...

La relación entre ética y rentabilidad es un tema controvertido. La búsqueda de las empresas por maximizar sus ganancias suele entrar en conflicto con principios éticos y morales. Este dilema es más agudo en ciertas industrias, como por ejemplo la farmacéutica, donde la presión por la rentabilidad tiende a desatender áreas especialmente sensibles, como por ejemplo la salud de los consumidores, o invertir en negocios más lucrativos en detrimento de otros que podrían tener un mayor impacto social pero menor retorno financiero.  Sin embargo, después de visto  el caso de Amazon  nos inclinamos a pensar que lo ético y lo rentable pueden ir de la mano, y el  Grupo de expertos de alto nivel sobre inteligencia artificial de la Comisión Europea  (AI HLEG) está convencido de que es así. Este grupo fue constituido por la Comisión para que la asesoraran sobre estrategia en lo concerniente a la IA. El primer trabajo que realizaron fue la elaboración de unas  directrices...

Un artículo de The Washington Post de mayo de 2023 advierte que cada vez se crean más contenidos en Internet gracias a los generadores de texto impulsados por IA. Noticias y libros, entre otros, generados con herramientas como ChatGPT o Gemini ya inundaban hace casi un año nuestro entorno digital, y no digital. A pesar de lo que pueda pensarse, todo esto está suponiendo cuantiosas pérdidas para grandes compañías: algunas de ellas han comenzado a tomar medidas. A partir de septiembre del año pasado Amazon comenzó a establecer requisitos para los creadores de Kindle Direct Publishing (KDP), y así intentar contener la inundación de libros generados con IA que estaba sufriendo su tienda, con el consiguiente aumento de la necesidad de espacio (dinero), la dificultad de los lectores para encontrar lo que desean (dinero) y la pérdida de confianza de estos ante la proliferación de obras carentes de originalidad, calidad y veracidad (dinero). El 6 de septiembre la compañía fundada por Jeff Bez...

No es buena práctica pasar a una IA los datos personales de clientes, alumnos o pacientes, y menos aún si son menores. Sin embargo, este tipo de herramientas pueden ser muy poderosas analizando información sin necesidad de que seamos científicos de datos. Y aquí es donde nos encontramos con una "encrucijada", como le gusta decir a ChatGPT. Las herramientas que podemos encontrar por la web tienen unas políticas de privacidad muy laxas en sus versiones gratuitas, a veces también incluso en las no gratuitas, y aquellas que están impulsadas con IA no son una excepción. Es nuestra responsabilid cuidar de que los datos que tenemos a nuestro cargo estén correctamente custodiados, y más aún cuando no esté muy claro qué hará con ellos el agente con el que los compartimos. Cualquiera pensaría que quizá podría compartirse dicha información con estas herramientas si se recaba el consentimiento de los interesados. Sin embargo, este consentimiento debería contener, entre otras cosas, cuále...

Uno de los principios que la UNESCO puso de relieve en su Recomendación sobre la ética de la inteligencia artificial , fue el de la transparencia de los sistemas de IA, que "tiene como objetivo proporcionar información adecuada a los respectivos destinatarios para permitir su comprensión y fomentar la confianza". Joe Biden, presidente de Estados Unidos, firmó una  orden ejecutiva  para regular el desarrollo de la inteligencia artificial, en la que se hace notar que la transparencia de los sistemas de IA es esencial para la sociedad. Por su parte,  la ley de IA de la UE  hace mención específica a este principio al hablar de los requisitos de transparencia para la IA generativa, entre los que destaca "revelar que el contenido ha sido generado por IA". Las empresas que han creado los modelos generativos de IA con mayor uso, cumplen este requisito a pesar de no haber leyes que les obliguen: cuando a ChatGPT se le pregunta si es una IA, o el contexto puede llevar a c...

Un estudio reciente realizado por investigadores de la Universidad de Pekin concluye que el uso de la IA conversacional puede impactar negativamente en la creatividad de los usuarios. En el estudio se comprobó que ChatGPT puede impulsar la creatividad, sin embargo, este efecto no se mantiene una vez que la herramienta ya no está disponible. También se observó que "el uso de ChatGPT en tareas creativas resultó en contenidos cada vez más homogeneizados, y este efecto de homogeneización persistió incluso cuando ChatGPT estaba ausente".  Esto no es algo que este estudio haya descubierto de manera sorpresiva; muchos de los contenidos que hemos consumido en el último año están profundamente afectados por la IA generativa, de manera notablemente uniformadora. Si nos centramos en la generación de textos, por ejemplo, podremos identificar fácilmente un léxico "chatgptiano" que incluye palabras como "crucial", "desafío", "resonar", "intriga...

Entender la importancia del contexto cuando se interactúa con una IA conversacional es garantía de una experiencia enriquecedora y satisfactoria. El contexto no solo informa a la IA sobre el tema de conversación actual, sino que también le proporciona pistas sobre la intención detrás de nuestras palabras. Si preguntamos sobre el clima sin proporcionar información sobre la región o la localidad, dará una respuesta general y poco útil. Sin embargo, si preguntamos: "¿Cuál será el clima mañana en Madrid?", estamos dando un contexto específico que permite a la IA proporcionar una respuesta mucho más precisa. El contexto no necesita ser extenso o complicado; a veces, unas pocas frases bien pensadas son suficientes para guiar dirección correcta. Lo esencial es tener claro qué queremos obtener de la interacción antes de empezar. Esta claridad nos ayudará a proporcionar el contexto necesario para que la IA comprenda mejor nuestra solicitud. Durante una conversación, el contexto incluy...

Haz clic para oir una visualización guiada Generación del texto para la visualización guiada:  Microsoft Copilot   Generación de voz a partir de texto:  ElevenLabs  (Emily) Programación de animación:  P5js   Generación de código P5js:  ChatGPT Plus   Grabación de animación:  OBS Studio   Generación de música:  Loudly   Montaje:  Canva   La meditación, esa práctica milenaria que ha sabido reinventarse para satisfacer las demandas de nuestro acelerado mundo contemporáneo, encuentra en las visualizaciones un poderoso aliado. Esta técnica, que consiste en dirigir la mente hacia imágenes serenas y detalladas, tiene el poder de transportar al practicante a un oasis de calma y concentración profunda.  Pero su valor va más allá de ofrecer un refugio mental ante el ajetreo cotidiano: las visualizaciones para la meditación han demostrado proporcionar beneficios tangibles para la salud mental. Entre estos se i...