La hora de los grafos: agentes y conocimiento

Los grafos son un recurso matemático e informático descritos y utilizados desde hace muchísimos años, tanto como forma de recoger información y ontologías, como para el guiado de ciertos algoritmos.

Los grafos han estado ahí y se han seguido explicando y utilizando durante años y años y así hasta hasta la actualidad.

Pero en estos momentos están ganando una enorme relevancia en lo que viene a ser la punta de lanza tecnológica actual: los agentes de inteligencia artificial. 

Grafos: recordatorio muy básico

Aunque asumo que la mayoría de los lectores de este blog conocen, al menos aproximadamente, lo que es un grafo, lo recuerdo brevemente: un grafo es un formalismo para representar entidades o conceptos y las relaciones entre ellos.

Dibujo de un grafo no dirigido.
Fuente: Wikimedia

Desde un punto de vista visual, los grafos constan de unos nodos que representan las entidades o conceptos y que se suelen representar como círculos, y de unos arcos o aristas ('edges') que representan las relaciones entre los nodos y que se suelen representar como líneas.

Existen grafos dirigidos en que existe alguna forma de orden en las relaciones entre los nodos, y grafos no dirigidos en que no existe ningún tipo de orden en las relaciones. A la hora de representarlos gráficamente, los arcos terminan en una punta de flecha indicando la dirección.

 

Las memorias externas en agentes y chatbots generativos

Las aplicaciones basadas en grandes modelos de lenguaje, y particularmente los agentes de IA, deben utilizar mecanismos para volcar y/o recuperar información: las memorias. Esa información puede ser generada por el propio agente durante su trabajo (y en ese sentido, el nombre de memoria alcanza su plena significación) o, en otros casos, es información externa, una base de conocimiento o fuente de conocimiento.

Este tipo de aplicaciones utilizan varios mecanismos técnicos para implementar esas memorias (algo de lo que quizá valga la pena que comente en este blog) pero, cuando hablamos de bases de conocimiento, la técnica reina es RAG ('Retrieval Augmented Generation').

Bases de datos vectoriales y RAG

RAG utiliza dos elementos técnicos relevantes.

Por un lado, tenemos una capacidad fundamental de los sistemas generativos, que consiste en generar para tokens, documentos, etcétera lo que se denominan 'embeddings', unos vectores de alta dimensión que, de manera indirecta, contienen información semántica. Digo indirecta porque no es que marquen realmente un significado estricto y 'anclado ('grounded'), pero sí la cercanía o lejanía semántica entre aquellos conceptos que representan.

Por otro, tenemos las bases de datos vectoriales un tipo de base de datos NoSQL especializada en trabajar, precisamente, con vectores, y que es donde se almacenan y recuperan los 'embeddings'.

Cuando queremos añadir, por ejemplo, un documento PDF a una base de conocimiento, éste se trocea (en los denominados 'chunks') y para cada 'chunk' se genera su 'embedding'. Estos 'embedings' se almacenan en una base de datos vectorial.

Cuando queremos recuperar conocimiento ligado a alguna temática (con frecuencia expresada como 'prompt'), creamos un 'embedding' que represente ese 'prompt' y buscamos en la base de datos vectoriales, los vectores que sean 'cercanos semánticamente'. Para cada uno de esos 'embeddings' recuperados se accede a su 'chunk' y ¡voila! ya tenemos conocimiento relacionado con lo que nos interesa

Las limitaciones de RAG

En el libro 'Agentic GraphRAG: Integrating Knowledge Graphs, Reasoning, and Agency for Enterprise AI' de Anthony Alcaraz y Sam Julien se nos explica que RAG funciona muy bien para recuperación de información ligada a una consulta pero que, sin embargo, no funciona tan bien cuando de lo que se trata es de trabajar con razonamientos complejos y datos densos o especializados.

Y, precisamente, ese razonamiento complejo es lo que esperamos que hagan muchos agentes.

Los autores, concretando más, nos señalan las siguientes limitaciones de RAG:

• Gaps semánticos: En ocasiones la representación semántica mediante 'embeddings' de un texto (un 'chunk') no siempre está suficientemente cercana al 'embedding' de la consulta pese a que, objetivamente, el verdadero conocimiento necesario sí está en el texto original


• Compromisos de granularidad: Es necesario adoptar compromisos entre la cantidad de información o el nivel de información que representamos en un 'embedding', típicamente, si actuar en el nivel documento completo o en el nivel 'chunk' e, incluso, el tamaño de esos 'chunks'. Según la decisión de granularidad adoptada, el comportamiento puede resultar mejor o no en ciertos casos.


• Limitaciones en razonamiento: El razonamiento suele requerir coordinar varios conocimientos o contenidos que pueden estar contenidos en 'chunks' diferentes y representados por 'embedding' diferentes. Eso complica el acceso al conocimiento necesario y no siempre funciona correctamente.


• Amnesia contextual: En general la representación mediante vectores es estática y sin ningún tipo de referencia temporal. Los 'embeddings' están congelados y si se produce una evolución, pero los vectores originales siguen en la base de datos, el agente puede encontrarse con información obsoleta.


• Gap de asociatividad: Los sistemas RAG no son capaces de expresar relaciones transitivas o construir cadenas lógicas cuando enlaza conocimientos contenidos en 'chunks' diferentes.

Los grafos como alternativa

Ante este panorama, están ganando fuerza los grafos, y en concreto los denominados grafos de conocimiento ('Knowledge Graphs'), como alternativa o complemento de los sistemas RAG.

Los grafos son capaces de aportar esa interrelación entre conceptos, esas relaciones transitivas, esa perspectiva evolutiva o temporal, etc que los agentes necesitan y que no encuentran bien resueltas en RAG. 

Por ello, al auge de los agentes, le está acompañando el auge de los grafos de conocimiento. No voy a profundizar más ahora pero, en próximos posts, hablaré algo más de estos grafos de conocimiento y su uso en agentes y aplicaciones basadas en modelos frontera.

Los grafos como representación del conocimiento

No me resisto, no obstante, antes de finalizar el artículo, a hacer referencia a mi artículo anterior 'El retorno de la representación de conocimiento' en que hablaba de cómo una disciplina muy presente en la inteligencia artificial clásica, es decir en la inteligencia artificial simbólica, como era la representación del conocimiento, se había perdido con la expansión de la inteligencia artificial basada en datos ('machine learning') y especialmente el enfoque conexionista ('deep learning') estaba experimentando un cierto resurgir.

Pues bien, quizá el exponente más relevante, aunque aún emergente, de ese retorno de la representación del conocimiento, sean estos grafos, como de alguna forma ya transmiten en su propio nombre: grafos de conocimiento. 

Conclusiones

La explosión de la inteligencia artificial agéntica, está implicando el recuperar planteamientos anteriores para dotarles de conocimiento y contexto. Eso supone el retorno de la representación del conocimiento y, en particular, al auge de los gafos de conocimiento. 

El retorno de la representación del conocimiento

Cuando la inteligencia artificial era aún una disciplina bastante joven, existía una especie de subdisciplina que era capital en aquellos tiempos y que se presentaba como anexo necesario en cualquier discurso o estudio sobre la inteligencia artificial: la representación del conocimiento ('knowledge representation').

Sin embargo, con el auge del enfoque basado en datos, el 'machine learning', que ahora domina, especialmente bajo la variante 'deep learning', en la inteligencia artificial moderna esta subdisciplina de la representación del conocimiento, desapareció casi completamente de la práctica de la inteligencia artificial y absolutamente del discurso público.

Y, sin embargo, de forma quizá inesperada y sin meter ningún ruido, me da la sensación de que la representación de conocimiento vuelve a ser importante y seguramente lo va a ser más. No se la denomina así (al menos yo no he escuchado ni leído recientemente el término 'representación del conocimiento') pero está cada vez más presente y el auge de los agentes parece impulsarla.

Representación del conocimiento

Repasando una referencia muy antigua de un libro que en seguida citaré, podemos entender la representación del conocimiento como:

una serie de formalismos capaces de recoger de forma estructurada información acerca del mundo.

Esa información la queremos no como un mero almacén, sino como una base en que se apoya la inferencia en los algoritmos de la inteligencia artificial.

Mis primeros encuentros con la representación del conocimiento

Decía que en los primeros tiempos de la inteligencia artificial el tema de la representación del conocimiento era fundamental. Y lo ilustro con dos detalles anecdóticos.

La primera formación que recibí sobre inteligencia artificial tuvo lugar, nada más y nada menos, que en 1987, al apuntarme a un curso voluntario sobre el lenguaje LISP (entonces muy en boga en el campo de la inteligencia artificial) que ofreció la entonces ETS Ingenieros Industriales de Gijón, hoy rebautizada como Escuela Politénica de Ingeniería de Gijón donde yo cursaba mis estudios de ingeniería industrial. Y ¿Cómo se titulaba el curso? Pues su título era 'Introducción al LISP y a la representación del conocimiento'. Realmente, el curso fue sobre LISP sin más...pero es muy sintomático que en el título apareciese el término 'representación del conocimiento'.

Unos pocos años más tarde, ya en Madrid, y haciendo cursos de doctorado en la Escuela de Ingenieros Industriales de Madrid dentro del marco de un programa titulado 'Control de procesos e inteligencia artificial', adquirí algunos de los libros que constaban en la bibliografía recomendada. 

El más importante era la segunda edición de 'Inteligencia Artificial' de Elaine Rich y Kevin Knight, un libro de cerca de setecientas páginas que me devoré y que, de las tres partes que constaba, una (de algo más de doscientas páginas páginas) estaba dedicada a la representación del conocimiento. 

La otra referencia está completamente dedicada a la representación del conocimiento: el libro 'Knowledge representation' de Han Reichgelt y es la fuente de donde he extraído una especie de definición del campo de la representación del conocimiento.

La representación del conocimiento tradicional

Es importante entender que en la 'era dorada' de la representación del conocimiento, estábamos inmersos en la denominada inteligencia artificial simbólica, muy orientada a hacia la aplicación de la lógica trabajando sobre representaciones de aspectos del mundo (los símbolos). 

De esta época, quizá  la más alta realización de la inteligencia artificial fuesen los sistemas expertos, unas soluciones que recogían en una denominada base de conocimiento, los datos objetivos y las heurísticas fruto de la experiencia de expertos humanos en el tratamiento de un cierto problema. A partir de esa base de conocimiento, y ante una situación nueva, el motor de inferencia aplicaba reglas que solían encadenar heurísticas y que, eventualmente, resolvían el problema. Evidentemente, para conformar esas bases de conocimiento había que decidir cómo representar el conocimiento, de manera que fuese fiel a la realidad y que, además, se pudiese utilizar de manera eficaz en el proceso de inferencia.

En aquella época, las técnicas fundamentales de representación del conocimiento eran cosas como la lógica de predicados ('predicate logic'), reglas de producción ('production rules'), las redes semánticas ('semantic nets') o los marcos ('frames').

El machine learning y el conocimiento implícito

Y entonces llegó el auge del 'machine learning'.

Ante la dificultad (por desconocimiento o por escala del problema) para conseguir de los humanos un buen conocimiento, no solo fáctico o descriptivo, sino también operativo (es decir, realización de inferencias o resolución de problemas) el campo de la inteligencia artificial viró hacia los enfoques basados en datos.

En estos enfoques (el 'machine learning') renunciamos a proporcionarle a los algoritmos el conocimiento explícito y, a cambio, le enseñamos cómo debe aprender a adquirir ese conocimiento (algoritmos de aprendizaje) y le proporcionamos montañas de datos para que, a partir de ellos, detecte los patrones subyacentes, aprenda y adquiera el conocimiento.

Al renunciar a proporcionarle al algoritmo el conocimiento explícito, estamos eliminando la representación del conocimiento. Y el algoritmo, una vez entrenado, tampoco nos proporciona ese conocimiento explícito en forma de representación del conocimiento.

El conocimiento, que de alguna manera sigue estando presente, lo está de manera implícita, diluida entre los miles o millones de parámetros del modelo, pero no lo representamos explícitamente y, desde luego, no usamos símbolos. Es la desaparición de la representación del conocimiento (que, por cierto, está en la raíz de muchas de las problemáticas de explicabilidad de los algoritmos).

Quizá, en nichos concretos todavía se mantuvieran algunos aspectos de la representación del conocimiento. Así, por ejemplo, las ontologías del lenguaje humano, usadas en el procesamiento del lenguaje natural (NLP, 'Natural Language Processing') en tareas como la desambiguación del sentido de palabras (WSD, 'Word Sense Disambiguation') puede considerarse una forma de representación del conocimiento.

El conocimiento en los grandes modelos de lenguaje

Y llegamos a los grandes modelos de lenguaje que dominan el panorama de la inteligencia artificial actual.

Los grandes modelos de lenguaje (LLM, 'Large Language Model') están conformados todos ellos por redes neuronales y, por tanto, se realizan con base en 'deep learning', es decir, una forma particular de 'machine learning'. Y, por tanto, no utilizan una representación de conocimiento explícita. El conocimiento está, de nuevo, diluido entre sus millones de parámetros.

Suelo insistir en clases y charlas en que sí tienen conocimiento. Tienen conocimiento estructural (morfológico y semántico) del lenguaje humano, tienen conocimiento semántico y tienen conocimiento del mundo, todo ello, en gran medida, debido a la magia de los 'embeddings' y a un entrenamiento absolutamente masivo en datos. Pero, de nuevo, se trata de un conocimiento implícito, indirecto, no representado.

Y, sin embargo...

Las nuevas representaciones del conocimiento

Y, sin embargo, cada vez más las aplicaciones basadas en grandes modelos de lenguaje, comenzando por los copilotos y chatbots generativos y siguiendo por los agentes, incorporan mecanismos que creo que pueden entenderse como una nueva forma de representación del conocimiento.

Empezando por lo más sencillo, y quizá todavía algo discutible, sabemos que chatbots generativos como ChatGPT o Claude, no responde únicamente al 'prompt' del usuario sino que incorporan información de contexto. Un contexto que proviene, entre otras cosas, de las preguntas y respuestas anteriores de la conversación.  Pues bien, aunque bastante  poco estructurado, y representado de manera fundamentalmente textual, ese contexto incorpora una especie de conocimiento de corto plazo. Y a esto se une, por ejemplo, el mecanismo de memorias en que se resumen elementos de conocimiento que el chatbot ha adquirido sobre el usuario. De nuevo, es un conocimiento expresado de forma muy básica, mediante texto, pero conocimiento al fin y al cabo y representado de manera explícita.

Igualmente, ahora que se han puesto de moda las skills, podemos decir que las skills, una especie de prompts reutilizables que marcan cómo realizar una tarea, no dejan de ser una forma de conocimiento, de carácter fundamentalmente procedimental eso si, que aporta un usuario para indicar cómo realizar una labor concreta.

En el caso de usar RAG ('Retrieval Augmented Generatión'), creamos unos almacenes vectoriales en que, precisamente, introducimos conocimiento, normalmente a partir de documentos. De nuevo, la representación es sencilla: 'chunks' de texto (en que hemos subdidivido, por ejemplo, un documento PDF) acompañado de su vector 'embedding' que posibilita la búsqueda semántica.  De hecho, podemos hablar con bastante propiedad de que esos almacenes vectoriales actúan como bases de conocimiento, por lo que esos 'chunks' de texto con su embedding correspondiente no deja de ser otra forma no muy estructurada de representar el conocimiento.

Pero quizá, lo que más nos retorna a la disciplina de la representación del conocimiento, y lo que más me ha inspirado para escribir este post, es el auge de los grafos, especialmente en el campo de los agentes. No voy a profundizar aquí en ello porque próximamente publicaré varios posts sobre grafos pero, es una técnica en auge y que proporciona un conocimiento, bastante estructurado y, de hecho, se suele hablar de grafos de conocimiento ('knowledge graphs').

Aunque creo que mecanismos como el contexto, las memorias, las skills o los almacenes vectoriales de RAG pueden ser consideradas formas de representación de conocimiento, entendería que hubiese quien no los considerase como tales.

Pero, en el caso de los grafos, veo clarísimo que es una forma de representación de conocimiento 'de primera división', de carácter simbólico y en el mismo estilo que las técnicas que dominaron la representación del conocimiento cuando la inteligencia artificial era, precisamente, simbólica. 

Y si los agentes son un tema en fuerte auge, y los grafos son un tema también en auge que los acompaña, creo que, en efecto, asistimos al retorno de la representación del conocimiento.

Conclusiones

Acompañando a la antigua inteligencia artificial simbólica, existían, y eran muy importantes, las técnicas de la denominada representación del conocimiento. Con el auge del machine learning y el 'deep learning' esa representación del conocimiento prácticamente desapareció, quedando todo el conocimiento implícito en los parámetros del modelo, pero sin representación explícita.

Si embargo, las modernas aplicaciones basadas en grandes modelos de lenguaje, particularmente los chatbots generativos y, sobre todo, los agentes,  incorporan técnicas como el contexto, las memorias o los almacenes vectoriales que, aunque de manera algo desestructurada , se las puede  considerar formas de representación de conocimiento.

Y, sobre todo, la eclosión de los grafos de conocimiento alrededor de los agentes, suponen, creo, el espaldarazo definitivo a ese retorno de la representación el conocimiento.

El machine learning como fenomenología y la renuncia al conocimiento

El último post de este blog, el titulado ''Lingüistas frente a inteligencia artificial' comentaba cómo, en las primeras épocas del procesamiento del lenguaje natural, los algoritmos se basaban mucho en conocimiento lingüístico, en reglas de ese campo y, por tanto, se precisaba de la participación de lingüistas. Y cómo, sin embargo, con la evolución tecnológica del campo, con su apoyo en modelos estadísticos y, más aún, con modelos procedentes del deep learning, se prescindía de esas reglas a priori, de ese conocimiento de los lingüistas haciendo, en su lugar, que los propios modelos, durante su entrenamiento, aprendiesen los patrones y modelos subyacentes al lenguaje, con lo que se ponía en cuestión el papel de los lingüistas.

Este post es, en cierto sentido, una continuación o, más bien, una generalización del anterior, aunque en este caso lo voy a conectar con la ciencia y, sobre todo, con la filosofía.

Eso de la fenomenología

Y en efecto, utilizo, espero que de una manera no demasiado forzada, el término fenomenología procedente tanto del campo de la filosofía y que me he encontrado con cierta frecuencia en lecturas, por ejemplo, de roboética

Edmund Husserl

Investigando un poquito para este post, descubro que, aunque el término fenomenología se ha utilizado frecuentemente en filosofía (y no siempre en el mismo sentido), quien le dio relevancia y quien, podemos decir, dio forma a la manera más generalizada de entender el término, fue el filósofo Edmund Husserl, maestro, por cierto, de Heidegger, uno de los filósofos que trabajo la filosofía de la tecnología (o la técnica). 

Como ocurre con la filosofía alemana de la época, la verdad es que el tratamiento parece abstracto y complejo pero, intentando encontrar su esencia y expresarla de manera sencilla, y además de una manera que justifique cómo la utilizo en este post, he entresacado este párrafo procedente de la entrada sobre fenomenología en Wikipedia. donde, tras hacer constar que no todos los filósofos tienen una visión unitaria del concepto, lo que sí sucede es que:

todos los fenomenólogos comparten la búsqueda de un conocimiento que apela exclusivamente a la experiencia evidente, carente de hipotetización y modelos conceptuales del mundo

Y no pude, o no quise, dejar de consultar a ChatGPT pero 'rogándole' que explicase el término de forma muy sencilla... y esto es parte de lo que 'me dijo'

La fenomenología en filosofía se puede explicar de forma muy sencilla como el estudio de cómo experimentamos el mundo. Es decir, no se enfoca en cómo son las cosas en sí mismas, sino en cómo se nos aparecen o se nos presentan en la conciencia.

Estos dos párrafos recogen lo que quiero decir con fenomenología, pero, y dado que es un término también utilizado en el mundo de la ciencia, entresaco, también de Wikipedia, este parrafito:

El término fenomenología se utiliza para describir un cuerpo de conocimiento que relaciona entre sí distintas observaciones empíricas de fenómenos, de forma consistente con la teoría fundamental, pero que no se deriva directamente de la misma.

En el fondo, y espero no estar desacertado, con el término fenomenología quiero referirme al fijarse en las manifestaciones externas de objetos y entidades prescindiendo de intentar explicar su naturaleza o leyes internas. Sólo la manifestaciones externas.

IA simbólica versus machine learning

La inteligencia artificial simbólica se apoyaba en la representación explícita del conocimiento del dominio de que se tratase, y de reglas, a veces heurísticas, que gobernaban ese dominio. Así se hacía en los otrora exitosos y hoy casi olvidados sistemas expertos.

Así se hacia, en el fondo, con el procesamiento de lenguaje natural y la lingüística computacional en sus primeras fases, tal y como exponía en el post anterior.

Pero el machine learning, el paradigma dominante de la inteligencia artificial actual, no intenta tener un conocimiento a priori de un dominio. Lo que se hace es, durante el entrenamiento, darle datos, digamos que darle 'ejemplos', al algoritmo, para que sea él propio algoritmo el que descubra los patrones y leyes subyacentes. Pero que los descubra por sí mismo, sin que ningún humano, 'le explique' qué leyes rigen el dominio. Es más, con mucha frecuencia el humano no conoce realmente cuáles son esas leyes. Aún más, con cierta frecuencia está fuera del alcance humano entender completamente las leyes que el algoritmo descubre.

Machine learning y fenomenología

Así las cosas, podemos decir que, cuando usamos machine learning, y muy especialmente cuando hablamos de los grandes modelos de deep learning, especialísimamente los grandes modelos de lenguaje o los modelos fundacionales, nos fijamos en el dominio, por ejemplo el lenguaje, pero 'pasamos' de sus leyes y de su naturaleza y nos fijamos sólo en cómo se manifiesta (en libros o páginas web, por ejemplo). 

Es decir, prescindimos de formular hipótesis o modelos conceptuales y, en su lugar, observamos empíricamente' (bueno, nosotros no, el algoritmo) el dominio sobre el que trabajamos.

¿No es ese un enfoque fenomenológico? 

Una posible renuncia al conocimiento

Bueno, más allá de si realmente hablar de fenomenología en el caso que lo hago es acertado o no, de si estoy forzando el término o no, de si lo estoy entendiendo bien o no, lo que es indudable es que, cuando usamos los algoritmos más avanzados de machine learning, no partimos de leyes y modelos a priori, sino de manifestaciones (datos) de lo que aspiramos a modelar.

Y no es sólo que no partamos de leyes, es que con mucha frecuencia, y esto es 'parte de la gracia' del machine learning, ni siquiera las conocemos. Y, aún más, dado que los modelos de deep learning modernos son muy grandes, muy poco intuitivos, y muy alejados, 'en su razonamiento', del razonamiento consciente humano, realmente cuando el modelo de deep learning ha acabado su labor de aprendizaje, cuando ese  modelo ha encontrado ya el modelo del dominio, nosotros, los humanos, seguimos sin conocer cuáles son las leyes que rigen ese dominio.

Es decir, no aportamos conocimiento del dominio antes del entrenamiento y nos quedamos sin entender el modelo final que abstrae con éxito el modelo.

En cierto modo, hemos renunciado al conocimiento y nos conformamos con el modelo y el algoritmo lo adquieran de alguna manera, aunque no la entendamos, y luego hagan predicciones correctas o proporcionen respuestas correctas.

Hemos renunciado al conocimiento.

Y sin embargo...

Bueno, o no.

Es cierto que, en muchos casos, adoptamos una visión práctica y priorizamos simplemente el que el modelo sea útil, que nos aporte soluciones, que funcione. Sólo eso. No conocimiento.

Pero también es cierto que los resultados obtenidos en un modelo nos pueden hacer intuir, o más que intuir, cómo es el fenómeno real que hay detrás.

También es cierto que, por ejemplo, las soluciones analíticas, nos pueden ayudar a entender mejor nuestro negocio o a los mercados.

También es cierto que los chatbots basados en modelos fundacionales, como ChatGPT nos ayudan, y mucho, a precisamente trabajar en el ámbito del conocimiento, sirviéndonos como copilotos en tareas de aprendizaje o análisis.

También es cierto, en fin, que los modelos de machine learning nos pueden ayudar a entender los propios procesos cognitivos humanos y la naturaleza de nuestro cerebro, nuestro pensamiento y nuestro aprendizaje y ese es un campo real de investigación.

Aunque, en cierto sentido, en machine learning se adopta ese enfoque fenomenológico, y metodológicamente renunciamos a trabajar con las leyes que rigen un cierto campo, eso no debe ser, no tiene por qué ser, una barrera para nuestra propia adquisición de conocimiento. 

Está en nuestras manos adquirir más y más conocimiento con y sin machine learning. Y eso no hay tecnología, metodología ni corriente filosófica que pueda, ni quiera, impedírnoslo.

Conclusiones

La forma de hacer inteligencia artificial en el caso del machine learning, renuncia a aportar a priori un conocimiento interno del dominio o modelo a tratar, sino que es el algoritmo quien lo descubre. Eso sí, una vez descubierto, es difícil de entender a para los humanos.

Aún así, podemos y debemos enriquecer nuestro conocimiento y las herramientas de machine learning en el fondo nos ayudan a ello.

Lejos de convertirse en una renuncia, pueden ser un gran facilitador.

IA generativa y la ventaja de los expertos y el conocimiento

Cuando vemos los grandes avances de la inteligencia artificial, muy especialmente la generativa, y cuando asombramos con sus grandes avances, su capacidad para sustituir al ser humano en tareas netamente cognitivas, de pensamiento y conocimiento, tareas que hasta hace no tanto pensábamos que eran exclusivas del ser humano, es justo hacerse preguntas, muchas preguntas.

¿El fin del pensamiento humano?

Cabe preguntarse, en efecto si, definitivamente, el conocimiento y capacidad de pensamiento humanos son habilidades en retroceso, si en un futuro ya muy próximo, las máquinas nos sustituirán a la hora de pensar y conocer y no necesitaremos hacerlo nosotros.

Cabe preguntarse si las futuras generaciones sabrán menos, conocerán menos, razonarán menos, porque lo hayan delegado todo en una inteligencia artificial cada vez más potente, más generalista y más accesible.

Incluso cabe preguntarse cómo nos afectará en el corto plazo.

¿El conocimiento o la capacidad de razonar han dejado de ser diferenciales? ¿Han dejado de ser valiosos? ¿Van a desaparecer, incluso?

Una pregunta sin respuesta

Para ser sincero, creo que son preguntas para las que, en el fondo, no tenemos una respuesta completa ni segura al menos a medio y largo plazo.

Pienso que sí, que algo nos afectará, que delegaremos en la inteligencia artificial cada vez más tareas cognitivas o de conocimiento. Que lo haremos de la misma forma que cada vez sabemos menos de un lugar a otro sin la ayuda de Google Maps, Waze o similares. De la misma forma que cada vez recordamos menos números de teléfono. De la misma forma que cada vez más, en lugar de buscar datos o informaciones en libros u otras personas, lo hacemos en un buscador, en un Perplexity o en un ChatGPT en una suerte de externalización de la que ya hablé en el post 'ChatGPT y la externalización de capacidades cognitivas. ¿Debemos preocuparnos?'.

Pero no tengo claro hasta dónde vamos a llegar en ello (calculo que bastante lejos) y, sobre todo, cómo nos va a afectar cognitivamente, a nuestra capacidad de pensar, razonar y recordar. 

Y tampoco tengo cien por cien claro qué debemos hacer en cuanto a educación y en cuanto a desarrollo personal pero, preventivamente, y también por vocación, prefiero seguir cuidando mi cerebro, mi conocimiento y mi capacidad de razonar.

Una luz de esperanza: la ventaja de los expertos

Pero, por si nos asusta la posibilidad de que el conocimiento y el 'expertise' se conviertan en irrelevantes, e incluso que desaparezcan, aquí traigo una pequeña lucecita de esperanza. Una lucecita que me he encontrado leyendo el recientemente publicado libro 'Superagency: What Could Possibly Go Right with Our AI Future' de Reid Hoffman y Greg Beato. 

En él hay un momento en que, hablando del uso de los LLM ('Large Language Models'), los autores mencionan a Ethan Mollick, profesor de Wharton y su post "Latent Expertise: Everyone is in R&D" en substack. Y de él extraen lo siguiente cita:

Experts thus have many advantages. They are better able to see through LLM errors and hallucinations; they are better judges of AI output in their area of interest; they are better able to instruct the AI to do the required job; and they have the opportunity for more trial and error. That lets them unlock the latent expertise within LLMs in ways that others could not.

Lo que Mollick nos dice es que sí, que el conocimiento sigue siendo valioso, que aunque se use un LLM (entiendo que está pensando básicamente en un chatbot basado en LLM), el conocimiento y la pericia de los expertos les permite extraer mucho más valor del LLM y detectar las posibles inconsistencias o alucinaciones de los modelos.

Creo, además, que va mucho más allá que esto va mucho más del mero uso de buenas técnicas de 'prompt engineering', creo que se refiere a conocimiento auténtico, de dominio científico, técnico o de lo que sea.

Una forma sencilla de comprobar esto, es usar una herramienta generativa orientada a imágenes como un Midjourney o un Stable Diffusion, o incluso una orientada a música como Suno. Personalmente he percibido cómo me siento de 'torpe' con estas herramientas, no por el uso en sí, que es casi tan sencillo y accesible como el de cualquier otra. Lo que me falta, en el caso de las imágenes, son conocimientos de arte, de diseño gráfico, de fotografía, de tratamiento de imágenes, de saber describir, de una forma precisa, lo que quiero obtener, casi diría, no sólo describirlo, sino saber qué quiero obtener realmente. Y lo mismo ocurre con la música: carezco de conocimientos musicales suficientes como para describir estilos musicales o técnicas que no conozco. Y por ello, de momento me contento con 'prompts' sencillos o con copiar 'prompts' cuyo resultado me gusta

De la misma forma, parece razonable pensar que, quizá, el 'expertise' es importante en el uso de los modelos de lenguaje.

Lo que no está tan claro es si, como se dice en el lenguaje de la estrategia empresarial, esa ventaja competitiva es sostenible a largo plazo o si sólo es un transitorio mientras la inteligencia artificial avanza más y más.

Conclusiones

La inteligencia artificial, en especial la generativa, desafía nuestro conocimiento y razonamiento y nos hace preguntarnos hasta qué punto ese conocimiento y razonamiento son valiosos y si lo seguirán siendo en el futuro. Y nos hace cuestionarnos sobre qué debemos hacer entonces con nuestra educación y nuestro desarrollo cognitivo.

A corto plazo parece que todavía, el conocimiento, el razonamiento y la experiencia, son cualidades valiosas y diferenciales.

A largo plazo, no lo veo tan claro pero, preventivamente y como opción, prefiero seguir cuidando y desarrollando mi mente, y aconsejaría al lector hacer lo mismo.

Intentando centrar el pensamiento computacional

Se suele decir, probablemente con razón, que una de las cualidades que deberíamos desarrollar, uno de los elementos que debería estar presente en la educación de nuestros jóvenes, es el pensamiento computacional.

Y creo que es cierto, pero ¿Qué es eso exactamente?

Pensamiento computacional

Bueno, lo cierto es que no parece existir una delimitación clara de qué es realmente eso del pensamiento computacional o al menos yo no la he encontrado.

De una forma vaga, podríamos decir que es un forma de pensamiento similar a la que se utiliza para la definición de lógicas y algoritmos en el mundo de la computación.

El valor, creo, de ese pensamiento computacional es doble.

En primera instancia, nos prepara, precisamente, para hacer ese diseño de programas informáticos, ya sea mediante codificación directa o mediante herramientas de más alto nivel como acoge la filosofía 'Low-Code' o 'No-code'.

A pesar de esa innegable utilidad, en realidad es casi un aspecto secundario. Lo que, realmente, creo que es mucho más importante que eso, y que justifica la propuesta de incluir de forma generalizada en la educación, es que moldea la mente y una manera de pensar que nos ayuda a enfrentarnos de manera muy efectiva a problemas de cualquier tipo, no necesariamente en computación, no necesariamente siquiera del mundo técnico y de la ingeniería, sino también problemáticas propias de las ciencias sociales o las humanidades y también del día a día.

Pero dicho esto, y a pesar de que estoy convencido de ello, lo cierto es que resulta paradójicamente complejo delimitar en qué consiste exactamente eso del pensamiento computacional (aunque probablemente, quien haya hecho 'con sus propias manos' desarrollo software, lo tenga intuitivamente bastante claro).

Hace ya un tiempo, traje a este blog en el post titulado 'Sobre el pensamiento computacional', la propuesta de Conrad Wolfram con una propuesta.

La propuesta de Daniela Rus

Leyendo el libro 'The Heart and the Chip: Our Bright Future with Robots' de Daniela Rus, directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, me encuentro con una nueva propuesta, la verdad que bastante diferente, acerca de lo que caracteriza el pensamiento computacional.

En concreto, Rus destaca cuatro elementos, a saber:

• Descomposición: descomposición de los problemas en subproblemas, piezas resolubles.


• Modularización: división de un sistema en módulos, o componentes, cada uno de los cuales realiza una función definida y que son capaces, tanto de operar independientemente como formando parte de un sistema mayor.


• Abstracción: eliminación de detalles y generalización de los atributos relacionados con una tarea.


• Composición: Proceso de recombinar dos o más problemas.

La propuesta de Daniela Rus incide mucho en la descomposición en elementos, tanto en un nivel más lógico como subproblemas, como en un nivel más operativo, incluso técnico, en módulos o componentes. Creo intuir en la propuesta de Rus la experiencia en el mundo hardware y de los sistemas hardware/software, muy comprensible dada sus especialización en robótica.

Algunos elementos más de mi cosecha

Aunque valiosa, y más viniendo de quien viene, creo que la propuesta de Rus se queda bastante corta para explicar el pensamiento computacional.

Aunque confieso y aviso que no lo he pensado mucho, sino que es un 'bote pronto', echo de menos cosas que, al menos en mi experiencia, son muy importantes.

Por un lado la aplicación continua de una lógica rigurosa y muy exacta, sin la más mínima ambigüedad. Siempre suelo decir que 'los ordenadores son tontos'. En programación, especialmente en la programación más tradicional, hay que ser muy rigurosos, muy exactos en las instrucciones que se dan. Si no se hace así, el programa falla y a veces de la manera más inesperada. Esa lógica rigurosa y sin ambigüedad supone un notable esfuerzo al principio pero también es una forma fantástica de moldear el pensamiento. Y es algo que, y que me perdonen los afectados, echo muy en falta en la manera de razonar de incluso grandísimos intelectuales en campos propios de las humanidades y ciencias sociales.

Me resulta difícil darle un nombre, pero otra característica típica del pensamiento computacional es lo que voy a denominar 'encaje en bloques constructivos limitados'. ¿A qué me refiero? Bueno, pues que los entornos de programación el número de instrucciones (en lenguajes de programación tradicionales) o, en general, el número de herramientas o bloques constructivos disponibles para resolver el problema están acotados, son finitos y relativamente escasos. Y con esas instrucciones o con esos bloques, tienes que ser capaz de realizar el sistema o el software con la funcionalidad deseada o requerida. Se trata de nuevo de un ejercicio en ocasiones difícil pero muy creativo y desafiante, y que moldea extraordinariamente bien la mente en ese luchar por encontrar cómo usar las herramientas disponibles para resolver un problema, esa resolución de problemas con herramientas o bloques constructivos acotados.

Y, aunque eso sí lo indica Daniela Rus, profundizaría más en la abstracción, la traslación de los elementos de la vida real, tanto físicos como intangibles, a modelos conceptuales tanto en el campo de los datos y sus relaciones como las lógicas de proceso o transformación de datos. En mi experiencia, tanto docente, como de mera ayuda a profesionales más jóvenes, siempre he visto que esa abstracción es algo que cuesta muchísimo, especialmente cuando no se procede de disciplinas científicas e, incluso cuando, simplemente, no se ha trabajado y practicado con software. Pero, de nuevo, conseguir esa capacidad de abstracción es intelectualmente potentísimo.

Es posible que si lo pienso más se me ocurran más características, pero de momento lo dejo aquí.

Conclusiones

El pensamiento computacional, aunque hay bastante coincidencia en su interés, y necesidad de traslación a todos los ámbitos educativos como una capacidad casi nuclear es, sin embargo, algo vagamente definido, al menos hasta donde me ha sido dado ver.

En este post hemos visto la propuesta de Daniela Rus que he complementado con unas aportaciones propias fruto de mi experiencia y reflexión, aunque ésta última algo precipitada.

Buscar la verdad en la tecnología

No, no voy a pretender una especie de divinización de la tecnología que la convierta en fuente única de la verdad. 

No se trata de eso.

Tampoco voy a despreciar otros puntos de vista interesantes y necesarios para alcanzar esa 'verdad', fuentes como la filosofía, la ética, la antropología, la sociología, la psicología, el derecho,  y, en general, aquellas disciplinas que, no sé si con total fortuna, nos hemos acostumbrado a denominar 'humanidades'.

¿A qué me estoy refiriendo, entonces?

La tecnología como pregunta

El avance vertiginoso de la tecnología nos ofrece cosas sorprendentes, como vemos por ejemplo últimamente con la inteligencia artificial generativa, transforma negocios y sectores y transforma nuestras propias costumbres y formas de relacionarnos, transforma, en fin, la propia sociedad.

Es fuente por tanto indudable de avance y progreso, pero también nos crea interrogantes e incluso justas preocupaciones.

Nos preocupamos por el efecto psicológico y relacional que el uso excesivo, por ejemplo, de redes sociales y móviles pueda producir. Nos preocupamos por el uso de los datos que se generan y que se refieren no sólo a información comercial o transaccional, sino también a información personal de cada uno de nosotros. Nos preocupamos por los sesgos que el uso algorítmico puede generar o en confiar demasiado en la toma automatizada de decisiones por máquinas y algoritmos que no siempre entendemos bien cómo 'razonan'.

La búsqueda de respuestas

Y ante esos interrogantes, buscamos puntos de referencia, buscamos guías y buscamos respuestas, una búsqueda que, todo hay que decirlo, no siempre se encuentra exenta de puro temor no siempre racional, y de cierta resistencia al cambio.

Y para encontrar respuestas, se torna la mirada cada vez más a las disciplinas agrupadas bajo el paraguas del término de 'humanidades'. 

Buscamos respuestas y referencias en la psicología, en la antropología y en la sociología.

Y buscamos respuestas, sobre todo, en la filosofía y, particularmente en la ética. 

Y, además, buscamos traducir esas respuestas en normativas aseguradoras y parcialmente tranquilizadoras para lo cual acudimos, lógicamente, al derecho.

Y es lógico actuar así, y es correcto, y está muy bien (salvo lo del temor injustificado y la resistencia al cambio, claro).

Pero no es suficiente.

La tecnología como respuesta

Nos olvidamos con frecuencia, especialmente desde algunas miradas estrechas o monodimensionales, de la que puede ser, en muchos casos, la principal fuente de la verdad: la propia tecnología.

De nuevo, ¿a qué me estoy refiriendo?

Pues estoy, en el fondo, haciendo la enésima apuesta por el rigor y conocimiento,  por el verdadero entendimiento, en este caso de la propia tecnología que nos cuestiona, nos preocupa o, incluso, nos asusta.

Una apuesta que implica estudiar esa tecnología, entender por qué se producen esos efectos que nos preocupan e, incluso, qué puede hacer la propia tecnología para evitar algunos de sus efectos indeseables.

Por poner algún ejemplo, nos preocupamos, de manera bastante justificada por cierto, de los sesgos que se producen en los algoritmos de machine learning, pero cuando el análisis es simplista y ausente de conocimiento, puede dar la impresión de la existencia de voluntades oscuras en los algoritmos o en los desarrolladores que los crean y apostar por pura normativa y control, o por la corrección por personas de los resultados del algoritmo, tema este último que, en mi opinión, corre el riesgo de introducir sesgos aún peores e incluso arbitrariedad. Un adecuado entendimiento de los mecanismos por los que se producen los sesgos, nos hará entender que salvo quizá contadísimas excepciones, no existen voluntades oscuras ocultas sino una herencia de datos inadecuada o una mala praxis en el muestreo de datos o en el entrenamiento, y que, en general, a las empresas creadoras o usuarias de esos algoritmos no les interesa para nada que existan esos sesgos, que son las primeras interesadas en evitarlos y, sobre todo, sobre todo, que existen muchas soluciones que proceden de la propia metodología y de la propia tecnología para evitar esos sesgos.

Cuando nos preocupamos justamente de nuestra privacidad y del uso de nuestros datos, conviene recordar que, aparte de las absolutamente necesarias protecciones legales y normativas, existen mecanismos técnicos como las técnicas de anonimización, que ayudan a utilizar datos, tan útiles y necesarios, protegiendo así la privacidad de las personas, siempre que las instituciones que hacen uso de esos datos tengan la voluntad de realmente no hacer un mal uso de ellos.

Cuando al buscar, justificadamente, la explicabilidad de los algoritmos de inteligencia artificial usados para decisiones complejas y sensibles, al preocuparnos, con razón, por no entender del todo (o en absoluto) cómo un algoritmo ha llegado a sus conclusiones, un entendimiento superficial del problema puede conducirnos a pensar en cosas fantasiosas como una suerte de libre albedrío de los algoritmos (que no existe, claro) o a un temor excesivo que nos lleve a exigir explicabilidad en todo momento y algoritmo, cosa innecesaria y muy negativa para la innovación y desarrollo tecnológico y económico. Un entendimiento del funcionamiento de los algoritmos, nos eliminará cualquier tipo de veleidad sobre libre albedrío y ayudará también, creo, a centrar cuándo exigir la explicabilidad y cuándo no. Es más, es posible que la propia investigación en algoritmia conduzca a algoritmos dotados de explicabilidad o que sepan dar explicaciones entendible y plausibles del 'razonamiento' de otros algoritmos. Aunque sin resultados todavía demasiado notables, al menos en mi percepción, existe mucho trabajo serio en ese campo y en tratar de dar una respuesta tecnológica al problema de la explicabilidad.

Cuando nos sorprendemos, y con razón, con las capacidades de los sistemas de procesamiento de lenguaje natural como GPT3 o LaMDA o la gran novedad de las últimas semanas como ChatGPT, cuando las espectaculares capacidades de estos sistemas nos hacen creer en un pensamiento de las máquinas e, incluso, hablar en algún momento de excentricidad, de consciencia, un entendimiento del funcionamiento básico de este tipo de algoritmos, nos haría comprender hasta qué punto su naturaleza es de tipo, digamos, probabilista, hasta qué punto están vacíos de todo tipo de verdadero entendimiento y aún más de consciencia. 

Cuando nos asustamos por aspectos más futuristas como la inteligencia artificial general, la singularidad y una eventual rebelión de las máquinas, un conocimiento del estado actual de la algoritmia, te hace comprender hasta qué punto esa situación, caso de ser posible, está lejos, muy lejos, al menos desde el punto de vista técnico (no me pronuncio en lo temporal), de la situación actual.

Y así un largo etcétera. 

Entender la tecnología de verdad, tratar de las problemáticas asociadas a la misma basándonos en conocimiento, no en especulaciones o en retransmisión acrítica de mensajes escuchados a terceros, hará que desterremos muchos falsos problemas nacidos de la fantasía o incluso la manipulación y también, y quizá esto sea aún mejor, que una parte, no toda pero una parte de las soluciones a las problemáticas quela tecnología haya podido crear, las podemos encontrar en la propia tecnología.

Conclusión: buscar la verdad en la tecnología

No deberíamos temer a la tecnología sino conocerla.

Conocerla nos evitará fantasías y temores infundados, nos ayudará a encontrar las mejores estrategias para la resolución de los problemas que pueda traer consigo e, incluso, en ocasiones, la misma tecnología nos aportará esas soluciones que necesitamos.

Por tanto, a la hora de buscar la verdad,  y sin despreciar la aportación de las disciplinas humanísticas, no nos olvidemos de buscar la verdad en la propia tecnología.

La transformación digital y la pereza de los directivos

¿Por qué les cuesta tanto a los directivos pensar en tecnología cuando se habla de transformación digital?

¿Por qué se quedan sólo con lo que de transformación hay en el término transformación digital y se olvidan del segundo elemento de la ecuación: digital?

Conocimiento y tecnología

Es un tema recurrente en este blog, en mis charlas, en las clases que imparto sobre tecnología y/o transformación digital y en mi primer libro 'La Carrera Digital': insistir en la importancia de la tecnología y la importancia del conocimiento. 

Suelo explicar que la transformación digital es una forma de responder a las oportunidades y amenazas que genera la existencia de las tecnologías digitales.

Insisto en que la tecnología es la materia prima con que se hace una transformación digital, que es imprescindible, pues, su conocimiento si queremos adoptar decisiones juiciosas sobre estrategia y sobre implementación. 

Explico que, cuando hablo de conocimiento, no lo entiendo como en el mismo nivel para un directivo que para un mando intermedio, que para un jefe de proyecto, que para un arquitecto o un desarrollador. Pero que, cada uno en su nivel y función, deben, sin duda, conocer la tecnología.

Sí, también los directivos.

¿Cómo, si no, van a identificar las oportunidades o riesgos que les ofrece? ¿Cómo, si no, van a definir una estrategia digital? ¿Cómo, si no, van a saber qué les puede aportar la tecnología a su negocio? ¿Cómo, si no, van a evitar caer presa de las ansias comerciales de fabricantes de tecnología o de consultoras o integradores que quieren hacer su propio negocio vendiendo e implantando tecnología? ¿Cómo, si no, van a identificar cuando, quizá su propio equipo, les propone iniciativas que a lo mejor están más guiadas por el gusto tecnológico que por el verdadero impacto en el negocio y la empresa?

Los mensajes engañosos sobre transformación digital

No ayuda a los directivos, eso es cierto, los mensajes que les hacen llegar muchas consultoras y presuntos gurús.

Hay muchos mensajes que minimizan y banalizan el papel de la tecnología en la transformación digital. Mensajes que les dicen que la transformación digital va de estrategia y no de tecnología. O que va de personas y no de tecnología. O que de lo que se trata es de orientarse al cliente.

Cierto que la transformación digital va, también, de estrategia, pero de cómo la tecnología apoya o redefine esa estrategia. 

Cierto que la transformación digital va, también, de personas, del liderazgo para ejecutar una transformación digital (que significa, por cierto, implantar tecnología), de cómo esa implantación de tecnología afecta a las personas (insisto, la implantación de tecnología) y de las necesarias acciones de gestión del cambio...que deben acompañar a la implantación de tecnología. 

Y cierto que la transformación digital puede ayudar a una mejor orientación a cliente...mediante el uso de la tecnología adecuada, claro. Pero, directivo, te pregunto: ¿es que no estabas ya orientado al cliente antes de pensar en transformación digital? ¿No? Sorprendente...

El olvido de la tecnología

Y esos mensajes erróneos y engañosos sobre transformación digital, ayudan a que los directivos sientan que se pueden desentender de la tecnología, y refuercen dos eventuales vicios directicos en relación a la tecnología: la prepotencia y la pereza.

La prepotencia de los directivos

Cuando hablo de prepotencia de los directivos, en relación con la tecnología, me refiero a ese mirar a la tecnología un poco por encima del hombro, un poco como a algo inferior y no merecedor de su dedicación y su precioso tiempo.

Parece como si la tecnología, su implantación, su gestión fuese una labor de bajo nivel, de baja cualificación, que hacen 'l@s chic@s' de TI o de Operaciones pero que el directivo puede dar por supuestas y desentenderse de ellas, salvo cuando falla, claro, o para un seguimiento de alto nivel. Y que su precioso tiempo debe concentrarse en tareas de más 'glamour', más presuntamente directivas, y que tengan que ver con lo financiero o lo comercial.

Creo que, en el fondo, esa prepotencia, esconde o intenta justificar muchas veces, de forma consciente o inconsciente, la pereza, la pereza de los directivos frente a la tecnología 

La pereza de los directivos

Es importante conocer la tecnología.

Si, también por parte de los directivos.

Pero el conocimiento de la tecnología, de la tecnología digital en este caso, es difícil, exige tiempo y esfuerzo. Y más teniendo en cuenta que son muchas las tecnologías incluidas dentro de lo digital, que algunas de ellas (por ejemplo, la inteligencia artificial o blockchain) son complejas, y que además están en continua y rápida evolución, o sea que no es tan fácil mantenerse al día. Y, claro, adquirir el conocimiento de la tecnología supone un esfuerzo. Y da pereza.

A eso se suma, que con frecuencia, y por un mero efecto generacional, los directivos actuales carecen de formación en tecnología digital, con lo que parten de bastante atrás, y la tarea de entender la tecnología se les hace más ardua, más cuesta arriba.

 Y, claro, si a eso se suman los mensajes de presuntos gurús diciéndoles que no se preocupen, que la transformación digital no va de tecnología sino de estrategia, de personas o de clientes, los directivos ya tienen una fantástica coartada para la pereza...reforzada por su propia prepotencia.

Son mensajes sencillo y fáciles de comprar. 

¿Que la transformación digital va de estrategia? ¡Qué bien! ¡Eso sí que lo entiendo! Si yo hago planes estratégicos. Si yo soy un líder visionario. Si además tengo un gabinete de estrategia. ¡Qué bien! ¡Ya entiendo de transformación digital! ¿La tecnología? Para 'l@s chic@s de TI...

¿Que la transformación digital va de personas? ¡Qué bien! Eso sí que lo entiendo. Pero si yo mismo soy un líder. Si ya hemos hecho planes de formación y comunicación otras veces. Si yo promuevo una cultura 'guay'. ¡Qué bien! ¡Ya sé de transformación digital! ¿La tecnología? Para 'l@s chic@s de TI...

¿Que la transformación digital va de centrarse en el cliente? ¡Qué bien! ¡Eso sí que lo entiendo! ¡Si hablo con mis grandes clientes con frecuencia! ¡Si soy super-sensible a los clientes!¡Ya entiendo la transformación digital! ¿La tecnología? Para 'l@s chic@s de TI...

Pereza.

Pereza que roza la incompetencia.

Pereza peligrosa.

Conclusión: vencer la pereza

Sé que en este mensaje nado a contracorriente.

Sé que son muchos los presuntos gurús que seguirán diciendo que la transformación digital va de estrategias y no de tecnología, que va de personas y no de tecnología, que va de centrarse en el cliente y no de tecnología.

Y sé que muchos, muchísimos directivos, preferirán escuchar ese mensaje que en el fondo les tranquiliza, que halaga su prepotencia y justifica su pereza ante la tecnología.

Pero, si eres un directivo, y me lees, y quieres creerme, hazme caso: esfuérzate en que tú y tu organización sepáis de tecnología, esfuérzate en entender lo que te puede ofrecer, sus implicaciones y su gestión.

Y serás un  mejor líder transformador y estarás más capacitado para definir, impulsar y gestionar una transformación digital

Olvídate de la prepotencia y vence la pereza.

Y créeme, si lo haces, tu estrategia, las personas de tu organización y tus clientes lo agradecerán.

La inteligencia artificial y el realismo mágico

Realismo mágico: Movimiento literario hispanoamericano surgido a mediados del siglo XX que se caracteriza por la inclusión de elementos fantásticos en la narración, con lo que se pretende profundizar en la realidad a través de lo mágico que hay en ella.

Oxford Languages

Diríase que, en ocasiones, más ocasiones de las convenientes y casi razonables, el relato que se hace de la inteligencia artificial y la robótica tiene un algo de realismo mágico, una mezcla casi indistinguible de elementos reales y fantásticos pero narrados como si fuesen ciertos, tangibles, realidad pura y dura.

Abunda, por desgracia, el discurso que, intencionadamente o no, ignora la realidad de la inteligencia artificial y la robótica para comunicarla como una suerte de narración fantástica, ciencia-ficción o realismo mágico, bañada con frecuencia en distopía.

Nada tienen de malo la fantasía, la ciencia-ficción y mucho menos el realismo mágico. Por el realismo mágico han transitado  autores tan reputados como Gabriel García Márquez, Juan Rulfo, Gunter Grass o Haruki Murakami, por mencionar algunos, incluso no hispanoamericanos. Y en el realismo mágico parecen encuadrarse algunas de las obras de mi adorado paisano Alejandro Casona.

Amo la literatura casi tanto como la tecnología y la inteligencia artificial.

Pero cada una tiene su momento.

Si estás en una empresa, haciendo un plan de transformación digital, o de robotización, o de cualquier otra suerte de aplicación de tecnología cognitiva, por favor, estúdiala bien, sé consciente de sus posibilidades reales y actuales, de sus beneficios y sus riesgos, de sus costes y su eficiencia, y decide racional e informadamente en consecuencia. Hablamos de negocio. No es el momento de la ciencia-ficción, la fantasía ni la magia. Es el momento del conocimiento, el análisis y el rigor.

Si eres un jurista o legislador, si te preocupan, por ejemplo, la privacidad de los datos, o la explicabilidad de los algoritmos, o si te traen de cabeza las posibles consecuencias en el empleo de la automatización o si, tal vez, eres de los que estudian la eventual fiscalidad sobre robots, por favor, preocúpate, antes de legislar nada, de entender en profundidad la naturaleza de aquello que legislas. Entiende con claridad y profundidad  el objeto de tu posible norma. Hablamos de leyes. No es el momento de la ciencia-ficción, la fantasía ni la magia. Es el momento del conocimiento, el análisis y el rigor.

Si eres, quizá, un filósofo, o antropólogo o tienes un carácter humanista de alguna manera y te preocupan los aspectos éticos de la inteligencia artificial, por favor, antes de juzgar y lanzar teorías, antes de 'filosofar' o debatir 'en vacío', preocúpate de entender el fenómeno sobre el que debates, sobre su verdadera naturaleza, su verdadero alcance y sus verdaderas implicaciones. No moralices sobre leyendas.  Hablamos de ética y moral. No es el momento de la ciencia-ficción, la fantasía ni la magia. Es el momento del conocimiento, el análisis y el rigor.

Y no pienses, ni por un momento, que resultan aburridos el conocimiento, el análisis y el rigor. Es interesante, motivador y casi inspirador el análisis profundo, el alcanzar conclusiones y certezas y el aplicarlas en la práctica para conseguir mejores resultados de negocio, mejores leyes o saludables recomendaciones éticas. Créeme, anida en todas esas actividades, no sólo dignidad y utilidad, sino también alegría, armonía e incluso belleza.

Pero si, simplemente, eres humano, y si ahora estás tal vez en tu casa, quizá de vacaciones o de fin de semana, o si estás a punto de echarte una siesta o quizá de irte a la cama tras un largo y duro día de trabajo... ahora sí, ahora es el momento de dejarse ir y permitir volar a la imaginación, ahora puede ser un excelente momento para la ciencia ficción, para la fantasía y para el realismo mágico. Relájate y disfruta.

¿Te recomiendo algo?

Lee, por ejemplo, el relato 'La máquina que ganó la guerra' de Isaac Asimov. Pocas veces habrás visto una ciencia-ficción más realista. O, mejor incluso, sumérgete en el teatro de Alejandro Casona. Lee 'La dama del alba' y verás lo que es el realismo mágico y entenderás, quizá, por qué todas las noches de San Juan, tuiteo la frase 'Esta noche todos los ríos del mundo llevan una gota del Jordán' y te garantizo, sobre todo, que encontraras belleza, una enorme belleza.

Tres barreras para el trabajo multidisciplinar en interacción robot-humano.

Aunque parece existir una tendencia creciente a la colaboración interdisciplinar, a hibridar el conocimiento tecnológico, especialmente en materias como la robótica y la inteligencia artificial, con las disciplinas humanísticas o las ciencias sociales, lo cierto es que esa colaboración no siempre es sencilla.

Existen diferencia de intereses, de métodos, de formas de entender el trabajo y, probablemente, un acusado desconocimiento mutuo entre las diferentes disciplinas, especialmente si provienen de campos del saber muy diferentes.

Estoy intentando profundizar en el campo de la interacción humano-robot y en los denominados robots sociales, una área de investigación netamente multidisciplinar donde se dan cita ingenieros, científicos sociales, psicólogos, etc y como parte de ese empeño estoy leyendo el libro 'Human-Robot Interaction. An introduction' de Christoph Bartnek, Tony Belpaeme, Firedrike Eyssel, Takayudi Kanda, Merel Keijsers y Selma Sabanovic.

En el primer capítulo los autores destacan el carácter multidisciplinar de la materia y al hacerlo no eluden el citar las dificultades de esa colaboración. En concreto, plantean el tema hablándonos de tres grandes colectivos: los ingenieros, los científicos (especialmente científicos de ciencias sociales) y los que denomina diseñadores. Y dividiendo un poco el foco e intereses de estos colectivos, identifican tres grandes barreras:

• Foco: En esta dimensión se habla de si el foco del trabajo se centra en la tecnología,caso fundamentalmente de los ingenieros, o en el lado humano (que predomina en científicos sociales y diseñadores).


• Conocimiento: Se trata, quizá, de una distinción más sutil. Se refieren los autores a que en el caso de ingenieros y científicos el conocimiento es explícito y se suele manifestar en forma de publicaciones, artículos, conferencias, etc mientras que, en el caso de los diseñadores, el conocimiento es más intuitivo y por tanto implícito, menos manifiesto.


• Actitud ante la realidad: Finalmente, en esta barrera observan los autores una dicotomía entre una actitud más centrada en entender el mundo, propia de los científicos, frente a una actitud más de transformación de ese mundo hacia unos objetivos deseables, que domina en ingenieros y diseñadores.

Creo que, probablemente, en el trabajo multidisciplinar nos podemos encontrar alguna barrera más (insistiría, por ejemplo, en el simple desconocimiento) pero resulta interesante esta tipología de barreras identificadas, además, por personas que las viven en primera persona en su trabajo.

No quisiera de todas formas, dejar de advertir sobre la evidente simplificación que este tipo de clasificaciones suponen y con el serie peligro de caer en tópicos a veces burdos. Personalmente, siempre me han molestado un poco los tópicos simplistas y muchas veces injustos con que se caracteriza  los ingenieros, especialmente desde áreas humanísticas. Y no quisiera caer en ellos.

Al final, las personas son personas, no ingenieros, científicos o diseñadores y, por tanto, sus intereses y actitudes pueden diferir, ampliar y superar aquellos que en teoría caracterizan a 'su grupo' y muy especialmente si se trata de personas con vocación por un área de trabajo inherentemente multidisciplinar como puede ser la interacción humano-robot y los robots sociales.

En cualquier caso, es evidente que visto como grupos, las diferencias de conocimientos, intereses y actitudes existen y, sin caer en tópicos,  se deben tener en cuenta en grupos de trabajo multidisciplinares.

Simples y superficiales: ¿el conocimiento era esto?

Estamos en la era del conocimiento. Eso se supone. En eso confío. Y casi, casi, eso creo. 

Pero asoman algunos nubarrones en ese horizonte intelectual.

Vivimos en una era de altísima exposición a información. El alcance de internet, la omnipresencia de los smartphone y la explosión de las redes sociales y otros medios digitales, hacen que nos veamos a expuestos a un incesante flujo de información y de estímulos.

Eso podría llevarnos, eso nos debería llevar, a un mayor conocimiento. Es cierto que la información no es directamente conocimiento. Que para que se produzca el conocimiento tienen que existir un cierto procesamiento, una cierta digestión intelectual que obtenga conclusiones, ideas y directrices de futuro de esa exposición. Pero a más información parece que deberíamos generar más conocimiento ¿no?

Bueno, no del todo. Si la digestión no es buena, tal vez la información no genere conocimiento. Y parece que, en efecto, tenemos un cierto empacho, que el atracón de información no nos sienta del todo bien.

Superficiales

Hace ya unos años, Nicholas Carr denunciaba en su libro 'Superficiales' cómo la exposición a mensajes breves pero muy numerosos, está haciendo que nuestros cerebros y todo nuestro sistema cognitivo se adapten a la nueva situación. Y esa adaptación hace que, si, seamos capaces de procesar más mensajes y con cierta simultaneidad. Pero, a cambio, parece que perdemos capacidad para la concentración, para la reflexión, para la lectura profunda, para el flujo. Superficiales. Nos volvemos superficiales. No parece que esa sea una buena noticia de cara al conocimiento...

Simples

Estoy leyendo ahora mismo el libro 'Lo imprevisible' de la periodista Marta García Aller. Bastante al principio del libro, menciona una cita de Alvin Toffler en 'El shock del futuro' quien afirmaba que la saturación de información podría activar en las personas mecanismos de defensa, unos mecanismos de defensa que supondrían que, ante la imposibilidad de digerir tanta información, las personas optasen por la simplificación, como única forma de poder comprender el mundo. Pero esa simplificación podría suponer una reafirmación de prejuicios.

Alvin Toffler hacia ese planteamiento hace ya muchos años, nada menos que en 1970, pero cuando uno observa ciertas 'conversaciones' que se producen en twitter, cuando se contemplan fenómenos de exacerbación de extremismos y populismos en ámbitos sobre todo políticos, cuando se leen tantos y tantos eslóganes, cuando se nos ofrecen imágenes de revisionismos históricos absurdos, cuando se contempla tanto comportamiento simplista, uno tiende a pensar que el aviso de Alvin Toffler era acertado y que nos estamos volviendo simples. Simples. Nos volvemos simples. Eso tampoco parece una buena noticia para el conocimiento...

La sociedad del verdadero conocimiento

Simples y superficiales. ¿De verdad el conocimiento era esto?

Quiero pensar que no. Quiero creer que, por un lado, el beneficio de tanto dato y tanta información, los frutos que podemos obtener de su conocimiento y análisis superan con mucho algunos defectos y sesgos que se pudieran producir por el camino. Y quiero pensar que la abundancia de información, debería ser un signo de transparencia y libertad y que, también en la esfera social y política, los beneficios de la abundancia de información superan con creces, a los, espero, puntuales sesgos y extremismos.

Eso espero, pero tampoco estoy seguro. Y, en cualquier caso, conseguir esos beneficios y eliminar la superficialidad y el simplismo, implica responsabilidad y esfuerzo.

A nivel individual deberíamos, por un lado, esforzarnos en acceder a información con diferentes puntos de vista, adquirir distancia y cierta neutralidad y ejercer el juicio crítico. Y deberíamos también esforzarnos en adquirir conocimiento tranquilo por otros medios, mediante las lecturas profundas u otras actividades de concentración y desarrollo intelectual.

Y a nivel social y público, deberíamos buscar mecanismos que favoreciesen la moderación, la verdad y ese mismo juicio crítico. Aunque debo confesar, que esto no tengo claro del todo cómo se debería hacer.

Simples y superficiales.

No, El conocimiento no es eso. Y la sociedad del conocimiento no puede ser eso.

Mientras pensamos o promovemos una acción social de mayor calado, esforcémonos, al menos, por la responsabilidad individual, por nuestro propio desarrollo, por nuestro propio conocimiento.

'Postureo' ágil

La moda es un arma de doble filo.

Y no me refiero a la moda que afecta a nuestro modo de vestir, a las canciones que escuchamos o la forma en que nos peinamos. Me refiero a la moda que afecta a tecnologías y metodologías en el mundo de los negocios.

Una moda que hace que una cierta tecnología o disciplina empiece a aparecer de forma abundante, incansable, casi cansina, en artículos, white papers, eventos profesionales, posts y tuits. Una moda que, en el ámbito de la tecnología, la podemos contemplar hoy en día, por ejemplo, en todo lo que rodea a la inteligencia artificial o a blockchain.

Y una moda que en el ámbito de las metodologías o disciplinas de gestión la podemos encontrar, por ejemplo, en el entorno ágil (Agile).

La moda tiene su parte positiva. Hace que esa tecnología o disciplina sea conocida por el gran público (aunque probablemente no entendida), aumenta su visibilidad y posibilidades comerciales y, quizá mas interesante, aumenta su capacidad de atraer inversiones y talento.

Sin embargo, existe otra cara de la moneda. La moda hace que la tecnología o disciplina se explique mal, se la deforme, por ignorancia o interés, con frecuencia alejándola de su verdadero significado, estado y capacidad actuales. Peor aún, la moda puede hacer que se adopte una tecnología o una disciplina sin saber muy bien por qué y si tiene sentido, sólo porque es lo que se supone que hay que hacer, lo que dicen los expertos, lo que se dice que todo el mundo hace... aunque no se sepa muy bien ni por qué ni para qué.

Y eso lleva a consecuencias, la menor de las cuales puede ser la decepción, y la mayor pérdidas económicas y quizá competitivas o de empleo.

Es tan frecuente el fenómeno que, por ejemplo, en el ámbito tecnológico, esa dinámica ha sido caracterizada por Gartner en su famoso 'Hype cycle' con su también famosa 'cresta de las expectativas infladas' y su famoso 'valle de la desilusión'.

En el ámbito de las metodologías o disciplinas de gestión, está de moda, a pesar de su ya avanzada edad, la filosofía Agile. Y, claro, como está de moda, todas las empresas que quieren 'fardar' de modernas e innovadoras, adoptan o dicen adoptar ese enfoque Agile. Y adoptar Agile está muy bien si se ha entendido el porqué surge, qué tipo de problemáticas aborda, cuándo es interesante y cómo se implementa correctamente.

Lo peligroso es adoptar Agile porque está de moda, o porque, erróneamente, su nombre nos hace pensar que es una disciplina que nos hace ir rápido. Lo peligroso es adoptar Agile sin conocimiento ni rigor, como un mero 'postureo'.

Aunque no usando esta palabra coloquial, en esa línea va la advertencia que Alonso Álvarez, Sara Aguilera, Susana Jurado y Míquel Rodríguez lanzan en su libro  'La empresa ágil'. cuando hablando de Scrum, el framework Agile más popular, nos dicen:

El principal riesgo de Scrum es que se convierta en un modo de dar un "barniz ágil" a una actividad predictiva o tradicional, consiguiendo lo peor de ambos mundos.

Y no es advertencia baladí. Sucede, vaya que si sucede...

En mi libro 'La Carrera Digital' apuesto decididamente por el conocimiento y el método y bajo el paraguas de estos atributos abordo, respectivamente, la parte de tecnología y la de gestión que caracterizan a la transformación digital. El conocimiento de la tecnología, de sus fundamentos y de lo que puede aportar a nuestro negocio. Y el método para la aplicación seria de disciplinas de gestión especialmente en el ámbito del análisis estratégico y la dirección de proyectos. Y conocimiento y método los agrupo a su vez bajo la idea fuerza del rigor. 

Un rigor que resulta imprescindible para aplicar adecuadamente la tecnología y gestionarla como conviene. Un rigor que es el contrapeso de la moda. Un rigor que sirve para seleccionar con criterio las mejores opciones tecnológicas y a gestionar con fundamento su implantación. Un rigor que, en fin, nos pone a salvo del 'postureo'.