Tres grafos para un agente

Aunque quizá de forma poco visible para el gran público, quizá sin ocupar titulares ni muchos comentarios (al menos que yo haya percibido), parece que el uso de grafos de conocimiento ('knowledge graphs') ocupa un papel cada vez mayor en la arquitectura de los agentes de inteligencia artificial.

Y, parece que, a falta de uno, los agentes tienden a utilizar hasta tres grafos diferentes con misiones diferentes.

Veamos.

La necesidad de una representación del conocimiento

En el post 'El retorno de la representación del conocimiento' comentaba cómo en la inteligencia artificial clásica, la simbólica, una parte importantísima era la llamada representación del conocimiento, es decir, la captura del conocimiento (generalmente residente en humanos) y volcado a alguna estructura o repositorio formal, siguiendo estructuras normalmente de tipo lógico.

También recordé cómo, con la aparición de una inteligencia artificial basada en datos (el famoso 'machine learning') rematada con el enfoque conexionista ('deep learning'), la representación del conocimiento desapareció o, si se quiere, el conocimiento se diluyó en los parámetros del modelo, perdiendo capacidad expresiva (que no operativa) y explicativa.

Sin embargo, con la llegada de los agentes, surge la necesidad, o al menos el interés, de recuperar alguna forma de representación del conocimiento.

Los agentes disponen de memoria que, de alguna manera simple, podría considerarse una forma poco estructurada de recoger cierto conocimiento. Y, sobre todo, se disponen de bases de conocimiento externas implementadas como almacenes vectoriales y gestionadas según el paradigma RAG ('Retrieval Augmented Generation').

Sin embargo, todavía RAG, que parece la forma más sofisticada que teníamos de recoger conocimiento en sistemas basados en grandes modelos de lenguaje (LLM, 'Large Language Models'), se nos queda corta. En cierto sentido es una representación de conocimiento (que en el fondo suele ser texto representado por un vector 'embedding') muy amplia pero poco estructurada, poco formalizada.

Y los agentes necesitan conocer mejor, estructurar mejor el conocimiento, para poder usarlo de manera efectiva.

Los grafos al rescate

Y es en este punto donde surgen los grafos, un formalismo sencillo pero enormemente potente y ya muy estudiado, para recoger el conocimiento en forma de entidades y relaciones entre ellas, representados como nodos y arcos.

De las carencias de RAG, y de la necesidad y papel de los grafos, ya escribí en este mismo blog en un artículo reciente 'La hora de los grafos: agentes y conocimiento'.

Los tres grafos

Aunque no estoy seguro de que la arquitectura que propone se use de forma generalizada, en el libro 'Agentic GraphRAG: Integrating Knowledge Graphs, Reasoning, and Agency for Enterprise AI' de Anthony Alcaraz y Sam Julien se habla del uso, no sólo de un grafo sino de tres. En concreto, los autores proponen los siguientes:

• Grafo de conocimiento: Es el que, al menos para mi, es más fácil de imaginar y entender, y que más se corresponde con una representación del conocimiento como tal. En él se recoge la estructura de entidades y relaciones del dominio sobre el que trabaja el agente y que normalmente representará objetos o conceptos del mundo real y las relaciones entre ellos. Este permite al agente razonar sobre relaciones entre entidades, trazar causalidades, etc


• Grafo de workflow: En este grafo se representan, no entidades y relaciones del mundo real (o del dominio de trabajo del agente) sino la propia lógica de tareas o plan que el agente va a realizar para conseguir un objetivo. Por ejemplo, se representan mediante grafos acíclicos dirigidos (DAG, 'Directed Acyclic Graphs') donde los nodos representan tareas y los arcos relaciones entre ellas. Permite, por ejemplo, detectar tareas independientes que se pueden realizar en paralelo o crear estructuras recursivas.


• Grafo de log: Aunque los autores hablan en todo el libro de una arquitectura dual en grafos ('dual-graph architecture'), refiriéndose a los dos anteriores, al grafo de conocimiento y al grafo de workflow, al final de la obra hablan de este tercer grafo de log, quizá para mí un poco difícil de visualizar. Entiendo que es un grafo donde se registran los eventos que han ido sucediendo durante la ejecución del plan que lleva a cabo el agente (o durante todo el funcionamiento del agente), con algún tipo de relaciones entre esos eventos y que, posteriormente, puede ser usado para investigar incidentes, estudiar comportamientos, etc. Es decir, si lo he entendido bien, no es tanto un grafo pensado para la ejecución normal del agente sino para operación, gestión e  investigación.

Esta es la propuesta, tres grafos, sobre todo los dos primeros, como una forma de representación del conocimiento (y su almacenamiento y recuperación, claro) para apoyar el funcionamiento de los agentes y, sobre todo, los planes que establecen y las decisiones que adoptan durante su ejecución.

Conclusiones

Los agentes de IA modernos, se benefician de volver a utilizar grafos como una forma eficaz de representación del conocimiento. Existen dos grafos muy importantes, el que proporciona conocimiento del dominio (grafo de conocimiento) y el que recoge la estructura del trabajo y tareas (grafo de workflow). A estos dos grafos fundamentales, pudiera unirse un tercero (grafo de log) a efectos de operación, monitorización y eventual investigación y diagnóstico.