Actualización de publicaciones del Project Management Institute (I): "The standard for project management"

Con este post inicio una serie corta de tres artículos (que probablemente se intercalen con posts de temáticas completamente diferentes) en que comentaré y valoraré brevemente algunas de las últimas publicaciones del PMI ('Project Management Institute'), la probablemente autoridad más reconocida a nivel mundial en materia de dirección de proyectos. 

En ellos, uno en cada post, comentaré brevemente tres documentos, a saber:

• The standard for project management (ANSI/PMI 99-001-2025)
• A guide to the Project Management Book Of Knowledge. PMBOK Guide. 8th edition.
• The Standard for Artificial Intelligence in Portfolio, Program, and Project Management

Antes de los breves comentarios, una pequeña explicación acerca de mis motivaciones.

Motivaciones: la importancia de los proyectos y el PMP

Hasta que en 2018 inicié mi andadura profesional por cuenta propia bajo mi marca 'Reingeniería digital', una parte muy importante de mi carrera ha estado dedicada de una forma u otra a proyectos.

He formado parte de equipos de proyecto, he actuado como jefe de proyecto y director de proyecto de iniciativas de todo tipo, algunas sencillas pero otras muy ambiciosas y de alto presupuesto, y he dirigido equipos que, a su vez, dirigían proyectos.

Y cada vez más fui apreciando la disciplina de la dirección de proyectos y, aún más, la figura del jefe de proyecto. Esta importancia se me hizo especialmente patente cuando los proyectos a que nos dedicábamos estaban dirigidos a clientes pertenecientes a las grandes cuentas de Telefónica Empresas, donde se encontraban la mayor parte de empresas del IBEX y muchas otras empresas y administraciones de gran tamaño y presupuesto. Llegué al profundo convencimiento de lo importante que era la figura del jefe de proyecto para alcanzar el éxito y no me refiero sólo a la figura en sí como un rol abstracto, que también, sino a la cualificación y voluntad de las personas concretas que ejercían ese rol. La relación con el cliente y el éxito de los proyectos, dependían en buena medida de esa figura y de la persona que la ejerciese. 

En 2012, cuando ya realmente no ejercía como director de proyecto sino como gerente, decidí, a pesar de ello, obtener la certificación PMP ('Project Management Professional'), lo cual sucedió en Junio de 2012, hace ahora catorce años, a lo largo de los cuales, y como establece el PMI, he ido renovando esa certificación que aún tengo en vigor y que pienso volver a renovar el año que viene.

Cuando obtuve la certificación, el PMBOK vigente se encontraba en su quinta edición. Desde entonces he adquirido y estudiado las siguientes ediciones, la sexta, la séptima... y ahora le toca a la octava, publicada en Enero de 2025.

Además, me interesó mucho conocer, dado mi interés y dedicación a la inteligencia artificial, que PMI junto con ANSI, habían lanzado también un estándar para proyectos de inteligencia artificial.

La idea, pues, ha sido realizar una nueva actualización y, en este caso, además, compartir con los lectores de este blog un poco del contenido objetivo de los documentos, y otro poco de mi valoración personal. 

Explicado esto, vamos con el primero de los documentos, el 'Standard for project management'

El contenido del "Standard for Project management"

Este estándar ha sido definido mediante una colaboración entre el PMI ('Project Management Institute') y ANSI ('American National Standards Institute'), colaboración que se inició, si la memoria no me falla, con la anterior versión del PMBOK (la séptima).

Aunque se trata de un documento separado, se publica en el mismo volumen que el PMBOK, del cual hablaré en otro post de esta serie.

Según reza en el propio documento, este estándar

provides a basis for understanding project management and how it facilitates intended outcomes.

y, un poco más abajo, dice

The standard describes how project management creates value and benefits in organizations as well as how organizational and project leaders can harness the power of project management for success.

 

Como se pude deducir un poco de estas declaraciones de intenciones, y como insistiré en mi comentario personal, se trata de un documento más descriptivo que normativo.

El documento de poco más de setenta páginas  y se estructura en cuatro secciones:

• 'Introduction': Establece el propósito del estándar, proporciona un vocabulario de términos y conceptos y ataca algunos aspectos generales de los proyectos como sus características, conceptos de gobernanza, relación con las operaciones de la compañía y las relaciones entre los conceptos de proyecto, programa, porfolio y operaciones.


• 'System for value delivery': Extendiendo lo ya iniciado en la séptima edición, adopta una visión muy de alto nivel y negocio para hablarnos de cómo los proyectos aportan valor y se sitúan como parte de un sistema de valor. Propone un modelo para conceptualizar ese sistema de valor y a partir de ahí comenta elementos de contexto interno y externo a proyectos, programas y porfolios, establece la relación con el 'product management' e identifica una serie de funciones y roles presentes en los proyectos.


• 'Project management principles': Identifica y explica seis principios de la dirección de proyectos, a saber:
  • Adoptar una visión holística
  • Enfocarse en el valor
  • Introducir la calidad en los procesos y los entregables
  • Ejercer un liderazgo responsable
  • Integrar la sostenibilidad en todas las áreas de proyecto
  • Construir una cultura de empoderamiento


• 'Project Life Cycles': Habla de las fases de los proyectos y luego identifica los tres grandes enfoques para la dirección de proyectos (predictivo, adaptativo e híbrido) y proporciona criterios para seleccionar un enfoque u otro. También habla de la cadencia de las entregas, mencionando el despliegue continuo propio de DevOps (aunque sin mencionar a DevOps). Finaliza identificando y describiendo las que denomina cinco áreas de foco, a saber:
  • Inicio
  • Planificación
  • Ejecución
  • Monitorización y control
  • Cierre

Una valoración: ¿Esto es un estándar?

Este estándar es un documento correcto y bien redactado (aunque en el típico estilo profesional austero) y que proporciona un vocabulario y una especie de marco de referencia común, eso sí, un poco abstracto y de bastante alto nivel.

Me parece bueno, a nivel de una disciplina, establecer ese marco de referencia y ese vocabulario comunes y no me parece mal, tampoco, comenzar por un alto nivel para luego ir bajando.

Sin embargo, insisto, es muy alto nivel y en algunas partes un poco abstracto. Le falta mucho bajar a tierra, en mi opinión. si pretende orientar realmente la acción de las organizaciones y de los profesionales.

Y aunque esto sea enmendarle la plana nada más y nada menos que a ANSI, me resisto a ver este documento como un verdadero estándar, porque no detalla nada, no da pautas asertivas, no obliga a nada y no es muy verificable si se está aplicando o no.

La verdad es que esto no es lo que yo entiendo por un estándar.

Hace muchos años, en mis primeros tiempos en Telefónica, me miré muchas normas y estándares del ámbito de las telecomunicaciones, que definían, por ejemplo, protocolos y, desde luego, no tiene nada que ver con esto. Aquello era detalladísimo, normativo, verificable y, todo hay que decirlo, muy farragoso,

No he tenido mucha ocasión de leer directamente estándares o normas del ámbito industrial pero, hasta donde sé, son de nuevo, muy detalladas, muy concretas y completamente verificables en su cumplimiento.

Este documento, pues, lo veo como divulgativo, conceptual e introductorio pero, por mucho que lo firme ANSI, me resisto a verlo como un verdadero estándar.

Conclusiones

Inicio con este artículo, una breve serie de tres posts dedicados a documentos más o menos recientes emitidos por el PMI ('Project Management Institute')

En este primer post, comento brevemente el 'The Standard For Project Management', un documento conceptual y de alto nivel, que establece vocabulario y conceptos, pero que no entra en detalles y que me cuesta mucho verlo como un verdadero estándar.

Los agentes y el martillo de oro (III): soluciones híbridas y ecosistemas de agentes

Y con este post remato la pequeña serie dedicada a los agentes como martillos de oro. Y lo hago ofreciendo algunas soluciones intermedias o híbridas al problema planteado.

Pero vamos a ir poco a poco, recapitulando primero algunos conceptos y recordando la definición del problema.

Un paso atrás: los agentes de la Agentic AI

Damos, pues, un paso a atrás para recordar conceptos. Y lo primero es recordar de qué hablamos cuando hablamos de un agente. Y antes de hacerlo, insistir en que el término 'agente' se lleva utilizando desde hace décadas, e incluso siglos, y no sólo en tecnología. Así que, de los que hablamos son de los agentes de que hablamos bajo el paraguas de la Agentic AI.

Y se trata, como vimos, de programas construidos alrededor de un modelo de lenguaje razonador que son capaces de funcionar de manera autónoma, recibir sus tareas u objetivos mediante una especificación en lenguaje natural y, con base en sus capacidades razonadoras, decidir por sí mismos, y en tiempo de ejecución el plan a ejecutar para conseguir el objetivo. Un plan que puede ser revisado conforme avanza y se obtienen resultados intermedios, y un plan en cuyos diferentes pasos se puede incluir la selección y ejecución de una herramienta externa que le permite, entre otras cosas, interactuar con el mundo exterior.

Agentes versus workflows

Estructura de un agente

Estructura de un agente

Conforme a lo comentado, la estructura de alto nivel de un agente es la que se muestra en la figura. En el núcleo tenemos un modelo de lenguaje razonador y, como apoyo, una serie de herramientas con las que puede interactuar y que, aparte de alguna posibilidad adicional, fundamentalmente le ayudan a entrar en contacto con aplicaciones y recursos externos (una web, un sistema empresarial, el correo electrónico, etc)

En la figura dibujo a trazos la unión entre el modelo de lenguaje y las herramientas queriendo indicar que, según el plan generado, se invocan o no.

Estructura de un workflow

Y es importante comparar a estos agentes basados en modelos de lenguaje razonadores con otro tipo de soluciones anteriores que funcionan bajo un paradigma de reglas y, sobre todo flujos o workflows. Denomino genéricamente 'workflows' a ese tipo de soluciones que incluye, por ejemplo, los robots RPA ('Robotic Process Automation'), a los a veces denominados workflows en la nube o IPaaS (como Make, N8N o Zapier) e, incluso, forzando un poco, a los BPMS ('Business Process Management System') y los CMS ('Case Management System').

Estructura de un workflow

A alto nivel estas soluciones que agrupo bajo la etiqueta 'workflows' exhiben patrones estructurales muy similares entre sí, e incluso con los agentes.

En el caso de los workflows, el plan está predefinido en tiempo de desarrollo y adopta la forma de un flujo con sus pasos y, eventualmente, bifurcaciones y/o bucles. Y también pueden interactuar con aplicaciones y recursos exteriores, en este caso haciendo uso, habitualmente, de conectores que recubren un API generalmente de tipo REST.

Comparativa

En el fondo, estructuralmente hablando, se trata de soluciones muy similares. En la figura inferior, los ponemos frente a frente.

Comparativa Agente-Workflow

En esa figura, e intencionadamente, he eliminado la mención explícita a herramientas (en el caso de agentes) y a conectores (en el caso de workflows). ¿Por qué? Pues porque, a despecho de alguna diferencia en cuanto a la definición, y algunas variantes en cuanto a implementación, su rol es exactamente el mismo y, por tanto, de cara a la comparativa estructural prefiero que no se muestre ninguna diferencia.

La diferencia fundamental es que, en el caso de los agentes, el plan de acción se decide y revisa de forma dinámica en tiempo de ejecución por el propio agente, mientras que en los workflows el plan de acción se define en tiempo de desarrollo por el desarrollador humano y es estático. Esta diferencia es fundamental, tanto para lo bueno de los agentes, la flexibilidad, potencia e inteligencia de los agentes, como para lo malo de los agentes: incertidumbre y consumo computacional.

Sólo por apuntar alguna otra diferencia, se puede observar en la figura que, en el caso de los agentes, y como mencioné más arriba, dibujo con trazos la unión con los nodos herramienta, mientras que en los workflows esa flecha la dibujo con trazo continuo. Lo que esto trasmite es una consecuencia del dinamismo del plan de los agentes: a priori no podemos estar seguros de qué herramientas va a invocar ni de qué forma. En el caso de los workflows sí se sabe, porque está definido en el flujo.

Podríamos apuntar algunas otras diferencias de menor calado, pero prefiero quedarme con estas que son nucleares.

Aunque me preocupan un poco las connotaciones de la palabra 'determinismo' en el ámbito de la inteligencia artificial, diría, por expresarlo de una forma aún más compacta que:

Un agente es una solución muy flexible y potente pero no determinista, mientras que un workflow es una solución más rígida y acotada, pero determinista.

 

Estableciendo el enunciado del problema

Llegados hasta aquí, y antes de pasar a la soluciones que propongo, recordar cuál es el problema a que me refiero (y que puede que el lector identifique como tal o no).

Mi argumentación parte de la idea de que, al menos a nivel de discurso, parece que los agentes son la solución a cualquier problema, especialmente de automatización de tareas y procesos. Es decir, se considera a los agentes como un martillo de oro, capaz de soluciones cualquier problema que, por tanto, vemos siempre como un clavo. 

Salvo que alguien me demuestre lo contrario, creo que los agentes, al menos en su estado de arte actual, no deben ser la solución única, que todavía hay muchas tareas que se automatizan mejor mediante una solución más clásica basada en un workflow. 

En concreto, cuando la solución al problema la tengamos clara y sepamos claramente las reglas que la gobiernan, un workflow parece mejor solución que un agente, por los siguientes motivos:

• Dado que un workflow es determinista, es mucho más sencillo de probar y, una vez probado, garantiza un comportamiento correcto, conocido y reproducible, cosa que en un agente nunca podemos estar 100% seguros.


• El coste computacional de ejecutar un agente, para una tarea similar, es muchísimo más alto que el de la misma tarea ejecutada por un workflow


• Dado que el coste computacional es mucho más alto, el coste económico es también más elevado y, además, no del todo predecible (no podemos saber con seguridad los tokens que se necesitarán).


• Finalmente, ese coste computacional se traduce en consumo eléctrico y de refrigeración, incrementando la huella de carbono y el impacto medioambiental

El razonamiento es, pues, resumiendo, que aunque los agentes son de una potencia extraordinaria y nos abren unas grandísimas posibilidades, no siempre son la mejor solución, y por lo tanto, no debemos considerarlos martillos de oro, sino elegir en cada momento la solución de automatización más adecuada.

Algunas posibles soluciones intermedias e integradoras

La verdad es que, hasta aquí, casi que lo que he hecho es nada más que resumir e ilustrar, el contenido de los dos posts anteriores. Vamos ahora con algunas soluciones o planteamientos que se me ocurren. En concreto, y aunque es posible que existan otras soluciones, o que las que propongo se puedan combinar, voy a proponer cuatro opciones, a saber:

• Solución 0: seleccionar la solución caso a caso
• Solución 1: el modelo generador de workflows
• Solución 2: orquestadores
• Solución 3: ecosistemas híbridos

En lo que sigue, comento brevemente cada una.

Solución 0: seleccionar la solución caso a caso 

Esta solución le llamo solución 0, porque, en realidad, es casi trivial. 

Si se admite que no todos los problemas se resuelven mejor con un agente pues entonces, simplemente, antes de lanzarse a desarrollar un agente o un workflow decidir conscientemente y con criterio cuál es la solución adecuada para ese caso concreto

Solución 1: el modelo generador de workflows

La solución 1 consistiría en que el propio modelo razonador que genera el plan fuese capaz de detectar, por sí mismo o con asistencia humana, qué tipo de solución es mejor y si, al inicio de su resolución detecta que es un problema basado en reglas y resoluble mediante un flujo, simplemente que genere ese flujo.

Me parece perfectamente viable técnicamente puesto que casi todas las herramientas de tipo workflow expresan ese workflow mediante un lenguaje de marcado (tipo YAML) o mediante JSON, dos formatos que un modelo de lenguaje domina muy bien.

Eso sí, no eliminamos al 100% el no determinismo, puesto que el agente puede equivocarse y no darse cuenta de que un problema se resuelve mejor mediante workflow. Tampoco es óptimo computacionalmente, porque la propia decisión de si vale la pena crear un workflow, e incluso la creación del workflow propiamente dicho sigue usando los mecanismos propios de un modelo de lenguaje.

No es pues, creo, una solución absoluta, pero alivia el problema.

Solución 2: orquestadores

La siguiente solución se apoya en la idea de que la relación de agentes entre sí, y de workflows entre sí puede hacerse jerárquica e incluso recursiva. Es decir, un agente puede invocar a otro agente (que actúa como herramienta) y un flujo puede invocar a otro flujo (usando una especie de conector). 

Esta opción, que no sólo es viable, sino que ya hay plataformas que permiten su creación, es hacer automatizaciones en que exista un nodo orquestador, y otros nodos que realizan tareas. Y, para aquellas tareas en que la solución mejor sea un workflow, pues se utiliza un workflow y para aquellas en que la mejor solución sea un agente y es el orquestador quien lo decide. El esquema de esta opción se muestra en la figura.

Orquestadores

Se puede ver que, además, esta solución tiene una doble vertiente: que el orquestador sea un agente o que el orquestador sea un workflow. Además, y aunque en la figura se muestra que un agente sólo invoca workflows y un workflow sólo invoca agentes, en realidad, ya sea orquestado por un agente o por un workflow, los nodos que ejecutan las tareas pueden ser cualquier tipo.

Como digo, este tipo de esquemas ya se pueden hacer hoy en día, no sólo en código, sino en herramientas como Make.

Solución 3: el ecosistema híbrido

La solución 2 ya anticipa un poco lo que es la solución 3 (realmente es un caso particular de la solución 3).

La solución 3, el ecosistema, parte de concebir las automatizaciones como una interacción entre unos nodos que pueden ser agentes o workflows y que se combinan en interaccionan entre sí según la naturaleza del problema. Es lo que intento mostrar en la siguiente figura: 

Ecosistemas de agentes, con workflows como forma de agente

Es una solución muy similar a la del orquestador pero sin que haya nodos con ese rol especial, sino que interactúen en un esquema más P2P. En el fondo, esta solución se basa en la idea de los ecosistemas de agentes, pero reconociendo a los workflows también como agentes.

Para que está solución sea óptima, como en el fondo también en el caso anterior, ha de cumplirse que cuando el orquestador seleccione un nodo para delegar una tarea, o cuando un agente del ecosistema delegue en otro la ejecución de una tarea, se 'acierte' siempre, en el sentido de identificar siempre cuándo una tarea se resuelve mejor mediante un workflow.

No voy a profundizar más en ello, pero se me ocurre que sino conseguimos que un modelo de lenguaje acierte siempre en la elección de workflows, se le 'podría ayudar' mediante alguna forma de catálogo de tareas que se resuelven mejor mediante workflows.

Algún pequeño 'disclaimer'

Antes de cerrar este post, hacer algún pequeño 'disclaimer'.

El primero es que las propuestas que hago no dejan de ser eso, propuestas, hechas un poco 'a bote pronto', aunque es un tema al que le doy vueltas con cierta frecuencia últimamente.

Por otro lado, ni reclamo ni dejo de reclamar la 'autoría' u originalidad de estas propuestas. No renuncio a esa supuesta 'autoría' u 'originalidad', porque es fruto de mi propia reflexión, no es nada que haya visto en ningún sitio salvo, hasta cierto punto, la idea del orquestador. Pero tampoco me atrevo a reclamar la autoría y, sobre todo, originalidad, porque me cuesta pensar que no haya ya mucho pensado e incluso escrito sobre estos temas y que existan propuestas, implementadas y/o publicadas, iguales o muy parecidas a las que hago..

Finalmente, apostaría a que hay más soluciones que yo no he planteado aquí y puede que mejores... así que me encantará o bien descubrir en alguna publicación o bien que se me ocurran a mi en un proceso de indagación y reflexión.

Conclusiones

El considerar a los agentes como martillos de oro, como la única solución para todos los problemas fundamentalmente de automatización, puede ser un error, ya que existen soluciones, especialmente las basadas en workflows, eventualmente más adecuadas y, además, más seguras, eficientes, baratas y sostenibles.

En este post, tras, revisar conceptos y la naturaleza del problema, se proponen cuatro estrategias de solución híbridas.

Artículos de este blog relacionados

• Los agentes y el martillo de oro (II): agentes y medio ambiente
• Los agentes y el martillo de oro (I): ¿por qué no un workflow?

Los agentes y el martillo de oro (II): agentes y medio ambiente

Con este post continuo la breve serie que quería dedicar a un eventual uso irreflexivo de los agentes, un uso que no se detiene a considerar que en ciertos casos existen  mejores alternativas. Es decir, continuo la serie dedicada a considerar a los agentes como un martillo de oro, la solución para cualquier problema que pasa a ser siempre un clavo. 

Si en el post anterior reflexionaba sobre si no es mejor, desde un punto de vista fundamentalmente técnico y operativo,  usar en ciertos casos soluciones basadas en reglas o workflows mejor que un agente, en este artículo torno mi mirada hacia la sostenibilidad y el impacto medioambiental.

Agentes 101

Antes, recordar brevemente, una vez más, qué es esto de los agentes y de la Agentic AI (aquellos lectores que lo tengan claro pueden saltarse esta breve sección)

Los agentes de la agentic AI, son unos programas construidos alrededor de un gran modelo de lenguaje razonador. Unos programas que son capaces de funcionar de manera autónoma buscando realizar tareas eventualmente complejas o satisfacer objetivos que reciben expresados en lenguaje natural. 

Además son capaces de usar una serie de elementos, denominados herramientas, que les permiten realizar tareas especializadas y, sobre todo, interactuar con el exterior, típicamente con otras aplicaciones.

Y, de manera muy relevante y diferencial, esos agentes, definen ellos mismos el plan de acción a aplicar para realizar la tarea o alcanzar el objetivo encomendado. Y para definir ese plan de acción, utilizan ese modelo de lenguaje razonador. Además, estos planes de acción son dinámicos y se revisan 'en vuelo' según los resultados parciales que el agente vaya obteniendo.

El precio del razonamiento

No sólo es diferencial, es que también es tremendamente atractivo y potente que el agente sea capaz de 'pensar', crear y revisar el plan de acción. Es como un alarde de inteligencia y permite que le encomendemos tareas complejas o, incluso, tareas que nosotros no sabemos resolver.

Pero esa potencia, esa brillantez, tiene un precio en forma de consumo computacional. Si el uso de cualquier modelo de lenguaje, incluso para una tarea simple como completar un texto, es costoso computacionalmente, hacer un plan es mucho más costoso. Y revisarlo también

Y por si eso fuese poco, es posible que no se trate de acciones que se realicen una sola vez. Es que el agente puede estar funcionando de manera permanente, continua, con lo que esa planificación o revisión de planificación puede estarse ejecutando repetidamente. 

La economía y el medio ambiente

Y, claro, el coste computacional se traduce en consumo energético y, por tanto, en coste económico. Un coste económico que se traduce para el proveedor del modelo en factura eléctrica y eventualmente más facturas en forma, por ejemplo, de refrigeración. Y para el que usa el agente en factura IT, por tokens consumidos o la unidad que se haya acordado.

Pero claro, a poco que esa energía utilizada provenga de fuentes no renovables, ese consumo energético se traduce en huella de carbono u otros impactos medioambientales como calentamiento de aire o agua usados en refrigeración.

No, por desgracia no parece que los agentes se lleven muy bien con el medio ambiente

Un consumo muy perceptible

Ese consumo computacional se puede percibir además, no de forma precisa, pero sí muy tangible.

No hace mucho, casi más por experimentar, me creé un agente sencillo usando la herramienta Make. Cuando lo ejecuté, me llamó mucho la atención lo que tardó en realizar la tarea, una tarea que realmente era muy simple, casi trivial.

En realidad, se trataba de una tarea que creo impropia para un agente. Creo recordar que consistía en procesar correos entrantes, crear una respuesta para esos correos y contestar al remitente con esa respuesta.

Como usuarios estamos acostumbrados hoy en día a muy bajas latencias, a tiempos de respuesta muy buenos, por lo que esta lentitud era llamativa. Pero hay que tener en cuenta que el agente tenía que entender la tarea, realizar el plan de acción e imaginarse qué herramientas de las que ponía a su disposición utilizar y de qué forma. Eso no es tan fácil.

Esa lentitud percibida era, pues, una manifestación tangible del coste computacional de lo que el agente estaba haciendo.

Workflows: cuando la eficiencia técnica se alinea con la sostenibilidad

Y, sin embargo, con esa misma herramienta Make, que habitualmente se utiliza no para hacer agentes sino workflows, podría haber creado un workflow (escenarios como se llaman en Make) muy simple para hacer la misma labor.

La ejecución de ese workflow, aparte de más fiable en cuanto a estar seguros de que iba a hacer lo encomendado, es mucho, muchísimo más rápida. Y sería muchísimo más rápida porque el flujo ya estaría pensado en tiempo de diseño, no sería necesario crear ningún plan ni revisarlo (el propio workflow es el plan y es estático). Tampoco es necesario deducir qué herramienta (el GMail en este caso) usar, porque el propio workflow indica cuál es y cómo se invoca.

Desde un punto de vista técnico y operativo interesa saber que la tarea realizada con un workflow es mucho más rápida y mucho más fiable en cuanto a resultados.

Esa eficacia y eficiencia técnica y operativa tiene, claro, también su traducción en menor consumo energético y, por tanto, menor coste.

Y, por si algo faltaba, es una solución más respetuosa con el medio  ambiente porque ese menor consumo energético va a tender a crear mucha menor huella de carbono y mucho menor calentamiento.

El martillo de oro

Por tanto, no caigamos en pensar que los agentes son un martillo de oro y que son siempre son la mejor opción.

En el post anterior razoné que de cara a la eficacia, la eficiencia y la calidad, probablemente, para ciertos casos, existan soluciones mejores, soluciones más tradicionales basadas en reglas o workflows.

En este post recuerdo que la sofisticación de un agente viene acompañada de un coste económico y medioambiental y, por tanto, se deben usar con prudencia, cuando el tipo de tarea encomendada realmente sea propia de un agente e, incluso en este caso, debería preocuparnos su impacto medioambiental.

Como se puede observar, ni los agentes son un martillo de oro, ni todos los problemas son clavos.

Conclusiones

Los agentes son unas soluciones excitantes, poderosas y abren enormes posibilidades en automatización y seguramente más campos como investigación.

Pero no son un martillo de oro. No son la mejor solución técnica para todos los problemas y, desde luego, no son la mejor solución para el medioambiente.

Seamos, pues, responsables.

Artículos de este blog relacionados

• Los agentes y el martillo de oro (I): ¿por qué no un workflow?

Los agentes y el martillo de oro (I): ¿por qué no un workflow?

Leo mucho y también le doy muchas vueltas en los últimos meses, seguro que no soy el único, a todo lo relativo a los agentes de IA.

Por un lado, me resulta excitante el concepto y la posibilidad de que seamos capaces de construirlos y, además, con cierta facilidad.

Por otro, me generan dudas, no de manera general, sino en aspectos particulares o casos de uso particulares.

Voy a recoger algunas de esas consideraciones en una mini-serie de posts, entre tres o cuatro artículos, comenzando por el de hoy.

En concreto hoy hablaré de lo que tiene que ver con la automatización, la repetitividad y la calidad, un tema al que de alguna forma ya me he aproximado en algún artículo anterior.

Martillos y clavos. El martillo de oro

En cierto modo, y más allá de que creo que los agentes IA constituyen todavía una tecnología y un tipo de solución que tiene que mejorar mucho en cuanto a fiabilidad, pruebas y gobernanza, podría decir que mis cuitas con respecto a los agentes tienen que ver, sobre todo, con que los estemos tratando como un martillo de oro. ¿A qué me refiero? ¿Qué es un martillo de oro? En su entrada en wikipedia se expresa de una forma muy simple

Un martillo de oro (o martillo dorado) es cualquier herramienta, tecnología, paradigma o similar cuyos partidarios ensalzan de manera exagerada. Predicen que resolverá múltiples problemas, incluso aquellos para los que obviamente no es adecuada.

Aunque, quizá su formulación más conocida, también para mí, sea la que se atribuye al muy afamado psicólogo Abraham Maslow y que se denomina por ello, a veces, como martillo de Maslow, a saber:

Si sólo tienes un martillo, todo parece un clavo.

Y, en efecto, tengo la sensación de que estamos considerando a los agentes, en ocasiones a toda la IA, como un martillo y que, por tanto, sólo vemos clavos, queriendo decir con ello que todo lo queremos resolver mediante agentes, sean o no adecuados, y existiendo o no mejores soluciones alternativas.

Agentes y Agentic AI

Simplificando, y como ya he explicado en algún otro post, y como probablemente muchos lectores de este blog conozcan, los agentes (en la acepción de agente referida a los agentes IA que conforman la denominada Agentic AI) no son más (bueno, ni menos) que aplicaciones construidas alrededor de un gran modelo de lenguaje de tipo razonador, unas aplicaciones que, aunque pueden interactuar con el usuario, en general funcionan de manera autónoma y que, además, pueden realizar tareas especiales y, sobre todo, interactuar con el exterior, mediante las denominadas herramientas ('tools').

Mediante estas herramientas, el agente es capaz, por ejemplo, de leer un correo electrónico, leer datos de una pantalla, consultar datos en una aplicación y un larguísimo, casi infinito, etcétera. Y no sólo leer, también escribir o invocar acciones.

¿Hemos descubierto la pólvora?

Sin embargo, existen ya desde hace años, muchos otros tipos de aplicaciones que hacen algo similar, en el sentido de aplicar una cierta lógica para automatizar un proceso o tarea funcionando de manera autónoma e interactuando con el exterior haciendo uso, fundamentalmente, de APIs y conectores.

Cabe decir, además, que con independencia de los cambios de nombre, las herramientas funcionan de forma similar a, y de hecho se suelen apoyar en, APIs y conectores. Los afamados servidores MCP no dejan de ser una implementación algo especial de los conectores de toda la vida.

Entre ese tipo de soluciones que aplican de forma autónoma una lógica interrelacionándose vía conectores con el exterior, tenemos los chatbots basados en reglas y, sobre todo los robots RPA sobre todo en su variante no atendida, protagonistas ambos de mi libro 'Robots en la sombra'. Y, hasta cierto punto, aunque normalmente con menor autonomía, también podríamos incluir en este apartado las soluciones BPMS ('Business Process Management System').

¿Qué pasa entonces? ¿Es que con los agentes hemos 'descubierto la pólvora' o el Mediterráneo? ¿Es que no son más que un nuevo nombre o una nueva implementación de algo que ya teníamos?

Elementos diferenciales de los agentes IA

No, aunque comparten elementos comunes, bastante elementos comunes de hecho, con otras formas de automatización, tienen algunas características diferenciales, alguna tremendamente diferencial.

Me voy a centrar en dos.

La primera que, con ser importante, casi la veo secundaria, es que a un agente IA sus objetivos o la tarea a realizar se le indican en lenguaje natural, no mediante código, ni mediante reglas o flujos expresadas en un lenguaje más o menos formal. Simplemente, lenguaje natural.

Pero lo que creo que cambia radicalmente el planteamiento es que el 'cerebro', quien decide el plan y, por tanto la lógica, a aplicar, es un modelo de lenguaje razonador, no un desarrollador humano. Y esto tiene varias implicaciones muy importantes:

• Decide la IA, no el humano, la lógica a aplicar en cada caso. 
• Por lo anterior, eventualmente un agente podría atacar la automatización de una tarea que un humano no sabe exactamente cómo resolver.
• La lógica, el plan a aplicar, se decide en tiempo de ejecución, no en tiempo de diseño o desarrollo
• El plan, la lógica a aplicar, es flexible, dinámico y adaptativo
• El plan que se aplica puede variar de una instancia de tarea (un caso que se diría en proceso so automatización) a otra.

Son características, muy diferenciales y muy potentes, que diferencian claramente a los agentes de otras formas de automatización que, exteriormente se puedan manifestar de forma parecida.

En general, son de una potencia espectacular...pero a lo mejor eso nos lleva a considerarlos martillos de oro y es posible que, pese a su potencia, no siempre constituyan la mejor opción 

Automatización

Cuando automatizamos tareas, es decir, cuando eliminamos la participación de un humano (o eventualmente un animal) de un proceso, solemos buscar los siguientes objetivos:

• Ahorro de costes, ya que el trabajo humano es caro
• Alta disponibilidad
• Reducción de tiempos de proceso
• Eliminación de errores
• Control del proceso y predecibilidad de sus resultados (calidad)
• Cumplimiento normativo

Los sistemas basados en reglas y workflows

Los sistemas de automatización de procesos y tareas, típicamente los BPMS (Appian, Pega, etc) , RPA (UiPath, Blue Prism, Automation Anywhere, Power Automate, etc)  o workflows en la nube (Make, Zapier, N8N, etc) o incluso soluciones de automatización construidas como un desarrollo a medida, definen el flujo en tiempo de desarrollo con lo cual su lógica en producción está perfectamente determinada, perfectamente conocida por anticipado.

Por tanto, las aplicaciones de automatización construidas con estas herramientas cumplen con todos los objetivos expresados acerca de la automatización. 

Sólo un matiz respecto a la frase anterior: como hoy en día estas soluciones incluyen también la posibilidad de invocar a grandes modelos de lenguaje usando APIs y conectores, la certeza en cuanto a su lógica se podría debilitar un tanto, pero esto no deja de ser una primera manifestación de las limitaciones que pueden exponer los agentes, basados precisamente en modelos de lenguaje y que expongo en la siguiente sección.

Alguna desventaja de los agentes

Paradójicamente, creo que, de todos los objetivos de la automatización mencionados más arriba, en el único en que los agentes pueden superar a otras opciones de automatización más tradicionales es en el ahorro de costes.

En principio, igualan a las soluciones tradicionales puesto que, para una tarea dada, si ambas soluciones eliminan el trabajo humano, el ahorro es el mismo. Sin embargo, a priori los agentes permiten automatizar tareas que otras soluciones no pueden, precisamente por su capacidad de decidir 'ellos mismos' qué hacer en cada momento, siendo capaces de acometer automatizaciones de tareas que un humano no sabe definir bien o tareas sometidas a muchas incertidumbres o variantes que son difíciles de reflejar en un workflow. 

En cuanto al segundo punto, probablemente podamos considerar que los agentes proporcionan la misma escalabilidad que los sistemas tradicionales, quizá con una cierta penalización por su alto consumo computacional, del que me ocuparé en otro post.

Hasta aquí vamos bien con los agentes, pero en los siguientes puntos, cambian las tornas.

Así, aunque no siempre de manera grave, los agentes suelen ser más lentos de ejecución que una solución basadas en workflow. Es decir, sí que reducen el tiempo de proceso, pero algo menos que las soluciones basadas en workflow. Según el caso, la diferencia puede ser casi irrelevante o puede importar.

Pero, sobre todo, los agentes no son completamente previsibles con lo cual perdemos una parte del control y predecibilidad de otro tipo de automatizaciones. Además, podemos esperar que se produzcan algunos errores porque el agente 'alucine' o no reaccione correctamente a un escenario dado.

Exactamente por lo mismo, introducimos algún riesgo, si bien creo que pequeño, de no conseguir el cumplimiento normativo.

¿Por qué no un workflow?

Estando así las cosas, ¿Por qué, en lugar de liarnos a hacer agentes, no automatizamos directamente al modo tradicional, mediante una solución basada en un workflow?

En el fondo, y esto es lo que origina todo el post, es porque a veces parece que sólo tenemos un martillo, un martillo de oro que son los agentes, y nos parece que todo son clavos. Pero no es así, disponemos de destornilladores, llaves inglesas y mucho más, y podemos no solo clavar, sino atornillar, poner tuercas o pernos y muchas más tareas.

Probablemente, lo sensato sea diferenciar el tipo de procesos y tareas que queremos automatizar, saber si son clavos o tornillos y, con criterio, seleccionar la herramienta adecuada, no sólo el martillo.

Me reservo una posible solución

Me reservo para el último post de la serie una idea que se me ocurre, que no tengo claro cómo es de viable ni si ya se está trabajando en ella y que reconciliaría un poco las diferentes visiones y podría convertir a nuestro martillo, los agentes, en una especie de navaja suiza.

Conclusiones

Los agentes de IA son una forma de automatización que, si bien comparte bastantes ideas con otras formas de automatización existentes, aportan sobre todo su planificación y decisión en tiempo de ejecución con base en un modelo de lenguaje razonador.

Esto es enormemente potente y diferencial pero, sin embargo, puede que no sea siempre la mejor solución. A lo mejor, hay casos en que siguen siendo preferibles soluciones basadas en reglas y workflows.

La imaginación como virtud ética

Que la imaginación es una virtud, dicho así, probablemente a nadie le parezca demasiado extraño. 

Tendemos, lógicamente, a valorar positivamente la imaginación, que aparte de su interés casi diría intrínseco, puede ser fuente de ideas, algunas en el ámbito de la creación pura, como como en el caso de la creación artística, literaria, musical... y otras en otro tipo de creación como la que se produce en la innovación empresarial o, en un ámbito más general, como una capacidad útil en la resolución de problemas.

Sin embargo, con todo y lo valiosa que nos tiende a parecer la imaginación, no solemos concederle un valor ético.

Sin embargo, esa perspectiva ética de la imaginación me la he encontrado en el libro 'The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking' de Shanon Vallor y quisiera comentarla brevemente.

Grandes escuelas éticas

Antes de seguir, y en beneficio de quien pueda no conocerlas, una rapidísima y muy básica revisión de las tres grandes escuelas éticas en el mundo occidental. Hablaríamos de las siguientes:

• Ética deontológica: Abanderada por Kant y que, en esencia dice que debemos seguir unos ciertos principios (ahí es donde encaja el famosísimo, aunque seguramente no bien conocido en el fondo, imperativo categórico). Aunque al hablar de principios, en cierto sentido estamos poniendo la ética fuera de las personas, el propio Kant es quien, en otro famoso aserto, establece que una persona es un fin en sí misma y nunca puede ser usada como un medio.


• Ética consecuencialista / utilitarista Nacida de la mano de Jeremy Bentham e impulsada, y matizada, por su discípulo John Stuart Mill, pone el foco en la consecuencias de lo que hacemos con un enfoque muy económico-matemático que busca maximizar una especie de función de utilidad que de alguna forma expresa el placer o bienestar conjunto (no el de una persona específica).


• Ética de las virtudes: Asociada a Aristóteles (aunque, curiosamente, muy similar a los presupuestos de Confucio). Se trata de una ética muy centrada en la persona, que debe buscar su florecimiento, su excelencia, su máxima realización, lo cual consigue en cierto sentido a través de las virtudes que se entienden como un sano equilibro entre extremos (así entre dos extremos viciosos como la cobardía y la temeridad, nos encontramos con la virtud de la valentía).

Que me perdonan filósofos y eticistas por la simplificación, pero creo que era pertinente. 

Aristóteles, las virtudes y la persona

Como se ha dicho, el foco de Aristóteles es la persona y su realización. Esa realización, quizá más ese desarrollo personal, recibe un nombre difícil como es, 'eudaimonia'. 

Como digo a veces en algunas clases y charlas, aunque el nombre es difícil, hoy en día podríamos decir que incluso desafortunado, el concepto es precioso y, en mi opinión, la mejor forma que he visto de enfocar la ética.

La imaginación

Y vamos ya a la imaginación. 

Aristóteles parece que no consideraba a la imaginación ('phantasia') un virtud, sino, más bien, una facultad psicológica.

Sin embargo, Shanon Vallor, que se reconoce fundamentalmente como seguidora de Aristóteles y representante actual de la ética de las virtudes, en la obra citada afirma que, en su opinión, la imaginación sí es una virtud. Nos dice:

It was not named as a virtue by ancient philosophers such as Aristotle or Kongzi. But contemporary philosophers, including me, have often recognized it as one, or at least as an essential component of virtue.

Su razonamiento, tiene mucho que ver, creo, con esa idea de la eudaimonia que, ahora, voy a traducir como 'excelencia' (en seguida se verá por qué). Así, Vallor nos dice:

It is hard to envision someone entirely lacking in imagination who can still develop and express their full moral, intellectual, and creative potential. Imagination is how we envision yet unmade possibilities for ourselves and others; it is what makes autofabrication possible. Lacking any imagination might be technically survivable for an individual, as long as they can reap the benefits of the imagination of others, but it places a fundamental limit on a person’s excellence.

En esencia, la imaginación es una capacidad fundamental para que una persona pueda desarrollar su potencial de todo tipo y alcanzar la excelencia (de ahí la traducción libre de eudaimonia).

Y por esta vía, quizá un poco indirecta, la imaginación alcanza un valor ético.

Desde un punto de vista estrictamente intelectual no sé si estoy de acuerdo o no con esta consideración...pero lo cierto es que me gusta mucho la idea.

Conclusiones

Las virtudes son, para Aristóteles, elementos fundamentales de su ética y se conciben como equilibrios entre extremos digamos viciosos. Pero, además, Aristóteles propugnaba el desarrollo de la persona, su florecimiento, hasta alcanzar la famosa 'eudaimonia'

Un poco por esa necesidad de la imaginación para alcanzar el desarrollo máximo y la excelencia, es por lo que, una filósofa actual, Shanon Vallor, considera a la imaginación como una virtud y le concede valor ético. 

La humanidad como metáfora (II): el caso de la robótica

En el post anterior de este blog introduje la reflexión sobre el uso de la metáfora humana en lo que tiene que ver con la inteligencia artificial.

Esa metáfora se manifiesta fundamentalmente en lo que tiene que ver con el vocabulario usado para referirnos a las capacidades de la inteligencia artificial, comenzando por el propio término inteligencia, y siguiendo por otras términos como reflexión, introspección, memoria, visión, etc

Pero también vimos que, más allá del lenguaje usado, hay aspectos más profundos que una mera metáfora, como el uso del ser humano, en este caso su cerebro, como fuente de inspiración científica para diseñar sistemas de inteligencia artificial y quizá, sólo quizá, o sólo para algunas personas y colectivos, su emulación y superación, como objetivo final de la inteligencia artificial,   

En este segundo artículo, voy a saltar al campo de la robótica, una disciplina bastante diferente pero cada vez más entremezclada con la inteligencia artificial.

El cuerpo como diferencia

Aunque el debate tendrá elementos comunes con el caso de la inteligencia artificial, la gran diferencia que se plantea en el caso de los robots, es que éstos, al menos en su mayoría (y digo esto de la mayoría para evitar el debate de si los robots software son robots), poseen un 'cuerpo' ('embodyment') una realidad física tangible con lo que la metáfora no se traslada sólo a lenguaje o funcionamiento, sino también a la forma, a la apariencia.

Robots y humanos digitales

Hay, sin embargo, un punto intermedio que conviene resaltar, y es el de los avatares o humanos digitales, es decir, una forma de chatbots que se presentan en pantalla con una forma humana, en algunos casos bastante fiel y detallada.

Por tanto, una buena parte, aunque no todo, de lo que digamos respecto a los robots 'con cuerpo', se aplica a los humanos digitales 

Las capacidades cognitivas y relacionales

Antes advertir que en el caso de los robots más avanzados, en el fondo en los que me estoy centrando, vienen dotados de capacidades cognitivas de la inteligencia artificial. Esto quiere decir que todo lo que dijimos en el post anterior de esta serie tanto sobre nomenclatura de tintes humanos, como sobre inspiración científica en el cerebro humano o posible objetivo final de la inteligencia artificial se traslada completamente al caso de estos robots cognitivos.

La forma: robots sociales y humanoides

Enlazando con lo que decíamos anteriormente sobre el cuerpo, en el caso de los robots la metáfora humana afecta muy directamente a su forma, a su cuerpo.

Muchos robots, como los manipuladores industriales, los robots móviles o los robots para reparto, adoptan formas plenamente funcionales, adaptadas a su labor y que nada tienen que ver con los humanos.

Pero existen dos importantes clases de robots, con algún solape entre ellos, en que la metáfora humana es evidente en cuanto a la forma. Me refiero a los robots sociales y a los robots humanoides.

Robot Neo

Los primeros, los robots sociales, son la contrapartida física de los chatbots, es decir, se trata de robots cuya misión principal es la de relacionarse con humanos. En ese sentido, no sólo utilizan el lenguaje natural y la voz como forma de comunicación, sino también elementos de lenguaje no verbal como la mirada, la distancia social o los gestos. Aunque no todos los robots sociales son antropomórficos, una buena parte de ellos sí que lo son. Entre los representantes más conocidos de los robots sociales podríamos mencionar a Pepper y Neo, aunque existen otros, quizá más experimentales, como la famosa Sophia o Amecca... y muchos más. Aunque son antropomórficos, y en algún caso como los geminoids imitan profundamente la forma humana, la mayoría tienen un aspecto indudablemente robótico.

Robot Optimus

El otro caso, es el de los robot humanoides. Siendo rigurosos con los términos, los robots sociales antropomórficos serían también humanoides, pero en esta categoría me refiero a robots más orientados a ámbitos industriales o a realizar tareas, incluso en el hogar y, por tanto, algo menos relacionales en su objetivo. Estaría hablando de robots como Optimus o Figure, por poner un ejemplo. Son robots técnicamente mucho más sofisticados que los robots sociales, más entrenados en la realización de trabajos y con mucha mayor destreza 'manual'.  

El papel de la forma humana en los robots

Aunque podamos pensar que el dotar a robots de forma humana es una forma de fantasía, de ser capaces de crear seres como nosotros, no es ésta la motivación verdadera, al menos no en la mayor parte de los casos.

Creo que se pueden identificar dos grandes motivaciones para el uso de la forma humana, una de naturaleza operativa y otra relacional (que, en el fondo, también acaba siendo operativa).

La motivación operativa

La primera naturaleza operativa tiene que ver sobre todo con los robots humanoides. En el post 'Especulando sobre un mercado para robots humanoides (I): proposición de valor', argumentaba que unos de los elementos de la proposición de valor de los robots humanoides es su versatilidad.

¿Qué quiere decir esto?

Otro tipo de robots, como los manipuladores industriales, pese a estar dotados de cierta flexibilidad, en el fondo están circunscritos a un conjunto acotado de tareas posibles. Sin embargo un robot humanoide puede acometer muchas más tareas y muy diferentes.

Pensemos que la anatomía del ser humano es fruto de milenios de evolución y capacita al ser humano para realizar todo tipo de tareas, incluyendo el desplazamiento por todo tipo de terrenos. Imitar la forma humana, no deja de ser una forma de biomímesis que hereda todo lo que de bueno tiene el cuerpo humano para acometer tareas de todo tipo y que posibilita a su vez a robots con esta morfología el acometer una gran variedad de tareas.

Esta flexibilidad, tiene indudable valor de negocio e ingeniería y facilita la producción masiva y las economías de escala que se derivan.

Además, en muchas de las tareas que queremos confiar a los robots humanoides, sustituirían a los humanos y parece que el que los robots estén dotados de una morfología similar a la del ser humano contribuye a que puedan realizar tareas similares a éste. 

La motivación relacional

La motivación relacional, aunque afecta también a los robots humanoides, tiene mas que ver con los robots sociales e incluso los humanos digitales.

Parece lógico pensar que el uso de mecanismos 'humanos' en la relación, no sólo el lenguaje verbal (procesamiento de voz y lenguaje natural), sino también el lenguaje no verbal con sus gestos, miradas, entonaciones etc facilita la comunicación entre personas y robots.

Dado que las características relacionales humanas se desarrollaron evolutivamente, fundamentalmente para engrasar las relaciones entre personas, si los robots son capaces de utilizar o emular los mismos mecanismos verbales y no verbales, la comunicación persona-robot fluirá de manera natural y sin necesidad de adaptación o aprendizaje por parte del humano.

En el fondo se trata de una manera algo particular y especializada de biomímesis.

Y esa comunicación, especialmente en sus aspectos no verbales, se beneficia también de una forma más o menos humana del robot, no sólo porque le permite al robot hacer gestos o usar miradas de forma más similar a un humano sino porque, en el fondo, lo vamos a aceptar mucho mejor.

Decía más arriba que esta motivación relacional en el fondo es también operativa porque es el robot el que se adapta al humano y por tanto para éste, para el humano, es muy sencillo, casi trivial, relacionarse con el robot, lo que elimina la necesidad de entrenamiento, aprendizaje o adaptación por parte del humano y facilita la adopción de la tecnología y su uso e interacción en el día a día.

El valle inquietante

Sin embargo, existe una limitación, no demostrada pero claramente admitida en esa imitación a la morfología humana: el valle inquietante ('uncanny valley').

Está bastante admitido que los humanos acogemos mejor a un robot cuanto más se va pareciendo a nosotros...pero eso tiene un límite. Si se parece 'demasiado' a un humano, si es casi igual (aunque sin llegar a ser igual) lo que era aceptación se convierte de repente en un profundo rechazo.

Dicho de manera familiar, queremos que los robots se parezcan a los humanos pero 'que no se pasen', que no dejen de seguir teniendo un aspecto razonablemente robótico.

El aprendizaje de los robots y la inspiración humana

Hay otro aspecto menos conocido de los robots en que se experimenta con mecanismos de clara inspiración humana: el aprendizaje.

Pese a que los robots avanzados, los robots cognitivos, obtienen sus capacidades cognitivas de la inteligencia artificial, presentan en ocasiones particularidades en cuanto a su entrenamiento que difieren de los mecanismos usados en la inteligencia artificial generalista.

Algunas de las dificultades del aprendizaje, que podrían considerarse generales pero que afectan sobre todo a robots cognitivos son el 'grounding', es decir, que sepan ligar los conceptos a las realidades físicas del mundo y la adquisición de conocimientos de naturaleza más cultural.

Aunque es posible que mecanismos como los VLAM (Vison-Language-Action Models) y los World Models a ellos asociados, resuelvan de una forma algo más algorítmica y similar al entrenamiento de otros modelos generativos, esos problemas, ya desde hace un tiempo se experimenta con formas de aprendizaje inspiradas en el aprendizaje humano, como son el aprendizaje por imitación ('imitation learning') o toda la propuesta de la robótica del desarrollo ('developmental robotics') en que se imita en cierto modo el aprendizaje en niños.

Estaríamos hablando en este caso, pues, de la metáfora humana como inspiración científica. De nuevo, una forma especial de biomímesis.

Personalidad y empatía

Un punto en que se comienza a extremar la metáfora humana es lo que tiene que ver con personalidad y empatía. 

Ya desde hace años, con chatbots relativamente básicos, uno de los primeros pasos del diseño del chatbot es la decisión de la personalidad que deseamos que exhiba. En general, cualquier chatbot moderno y robot social, salvo que por algún motivo se decida lo contrario, va ser amable y servicial. Pero lo importante es que la metáfora no afecta sólo a la forma y a procesos cognitivos más intelectuales, sino también a la dotación a chatbots y robots de personalidad propia, una personalidad, por supuesto, perceptible por los humanos con que dialoga.

No sólo eso, se dota a este tipo de soluciones de una cierta empatía. Por supuesto, se trata de una empatía impostada, no sentida, pero a efectos prácticos y relacionales eso es casi irrelevante: el robot o el chatbot se muestran empáticos y las personas los perciben como tales.

Y, por cierto, no estoy hablando de una metáfora sólo como terminología, sino como comportamiento absolutamente real.

Las emociones

En la misma línea, pero yendo un poco más allá, la metáfora se extiende hasta las emociones. Los chatbots y robots avanzados son capaces en algunos casos de percibir las emociones del humano tanto por su lenguaje verbal como, en los casos más avanzados, por el lenguaje no verbal.

Y, claro, no es sólo que sepan percibir las emociones de los humanos, es que pueden tener  capacidad para simular, de forma consistente, sus propias emociones.

De nuevo, no se trata de una metáfora meramente terminológica, sino plenamente operativa y perceptible.

El problema de la vinculación afectiva

No voy a profundizar mucho en esto ahora, pero sí mencionar que entre las problemáticas éticas que generan estos robots sociales o humanos digitales avanzados, varios de los más representativas tienen que ver con la vinculación afectiva que se puede producir, tiende a producirse de hecho, entre el humano y el robot o chatbot.

Un tema delicado, sin duda, y que conduce a otros riesgos relacionados con la influencia y la autonomía.

El problema del engaño

En los casos más avanzados, y quizá implicando a humanos poco advertidos o poco maduros, se puede producir un engaño, una confusión, en que el humano piense que realmente el robot o chatbot con que se relaciona, es más o menos consciente y tiene verdadera inteligencia, verdadera personalidad, verdaderos sentimientos.

En este caso, la metáfora casi, casi, dejaría de ser tal, porque algunas personas se la tomarían no como metáfora, sino como realidad.

Esto, aparte de falso, es peligroso y, de hecho, el reglamento europeo de inteligencia artificial pide explícitamente que estos artefactos se identifiquen claramente como tales, evitando o intentando evitar el engaño.

De todas formas, evitar el engaño creo que, más allá de leyes, depende también de cierta divulgación correcta de lo que son este tipo de ingenios, y casi diría también de cierto sentido común por parte de las personas. 

Conclusiones

La metáfora humana en el caso de los robots o ingenios con ciertas características similares, adopta características diferenciales respecto a las que vimos de la pura inteligencia artificial en gran medida porque los robots incluyen un cuerpo físico, que también en su forma adopta la metáfora

Pero además, tiende, con mas intensidad que en el caso de la pura inteligencia artificial, a extenderse a elementos relacionales que implican personalidad, empatía y emociones. 

Y eso conlleva algunos riesgos, incluyendo que la metáfora deje de ser reconocida como tal y se convierta en un engaño, quizá un auto-engaño.

Artículos de este blog relacionados

• La humanidad como metáfora (I): El caso de la inteligencia artificial

La humanidad como metáfora (I): El caso de la inteligencia artificial

En ciertos campos tecnológicos, muy en especial con lo que tiene que ver con inteligencia artificial, se utiliza un lenguaje que  mimetiza las características y aportaciones de esa tecnología con características con capacidades humanas. Así, hablamos de capacidades cognitivas, de razonamiento, de reflexión, etc.

Y la cosa no creo que se reduzca al lenguaje, existen dudas y debates sobre si lo que estamos haciendo va mucho más allá de la terminología, y si la verdadera aspiración, como así se afirma, sin duda, es alcanzar o incluso sustituir a la inteligencia humana.

Me encuentro inmerso en la lectura del libro 'Agentic Mesh: The GenAI-Powered Autonomous Agent Ecosystem' de Eric Broda y Davis Broda, un libro eminentemente técnico, pero en el cual, en el tercer capítulo, 'Agents basics', se dedica completamente a poner en paralelo y comparar a los agentes con los seres humanos, a mostrar capacidades humanas, tanto individuales como grupales, y cómo éstas se trasladan puntualmente al caso de agentes. De hecho, los autores afirman que esa analogía con las personas es una excelente forma de entender cómo funcionan los agentes, como exponen en la primera sección de ese capítulo 'Agent analogy: agents as people'.

Y es precisamente la lectura de ese capítulo la que me ha hecho preguntarme hasta qué punto es beneficiosa, y hasta qué punto real, esa analogía, esa metáfora. Y, también, si esa analogía va más allá de un paralelismo para convertirse en una aspiración.

Con ello tengo material para una 'miniserie' de dos o tres posts, de la cual éste es el primero, y en él me centro en el caso concreto de la inteligencia artificial.

Inteligencia artificial y metáfora

Lo cierto es que desde su mismo nacimiento, la inteligencia artificial sostiene, en su nomenclatura y en algo más, ese paralelismo con la humanidad o con la cognición humana.

El propio nombre de inteligencia hace pensar en seres vivos y, sobre todo, en humanos, y la propia declaración de visión, en la conferencia de Darmouth, 'hacer que las máquinas se comporten de una forma que consideraríamos inteligente si un humano se comportase de esa forma', pone de alguna manera al ser humano como medida y casi como aspiración de la inteligencia artificial.

Y ese paralelismo, esa analogía, esa nomenclatura y esa aspiración, siguen entre nosotros e inundan el discurso y en parte la actividad en materia de inteligencia artificial.

Pero, en realidad, esa forma de hablar acerca de la inteligencia artificial, esa insistencia en términos provenientes de la psicología o la neurociencia como razonamiento, reflexión, introspección, memorias de corto y largo plazo, etc va más allá de una pura metáfora, de un puro paralelismo.

También es una inspiración, inspiración en el doble sentido científico y aspiracional y, puede, sólo puede, que constituya un objetivo.

Más allá de la metáfora: el cerebro como inspiración científica

En efecto, el ser humano, y en concreto su cerebro y su sistema nervioso, han funcionado y funcionan como fuente de inspiración desde un punto de vista científico y técnico, es decir, como un elemento que podemos estudiar y que las conclusiones nos pueden servir en el diseño técnico de las soluciones de inteligencia artificial.

En la época en que estaba en boga la inteligencia artificial simbólica, se estudió e intento aplicar, con regular éxito, los mecanismos de pensamiento consciente del ser humano. Se trabajó con las leyes de la lógica y con la representación del conocimiento y se atendía a los procesos cognitivos del ser humano.

Y cuando la orientación viró hacia el machine learning, hacia el reconocimiento de patrones y el aprendizaje basado en datos, las muy exitosas actualmente redes neuronales se inspiraron, y de qué manera, en el cerebro humano. Los perceptrones, las primeras neuronas artificiales, abstraían (y abstraen) el funcionamiento de una neurona humana, y la distribución en capas emula, creo que de forma ya algo menos fiel, la profunda interconexión entre neuronas que existe en el cerebro humano.

He leído, aunque tengo alguna duda al respecto, que las redes neuronales de convolución, que permitieron un enorme salto en materia de visión artificial, también emulaban el funcionamiento de las neuronas dedicadas a visión.

En el fondo no se trata de nada nuevo ni de nada ilógico. Dado que muchas de las características que aspira a conseguir la inteligencia artificial las exhiben con notable éxito los seres vivos y en especial los humanos, parece muy razonable estudiar a esos seres vivos e intentar trasladar lo aprendido a diseños técnicos. Es lo que se denomina biomímesis y es algo que se ha hecho durante décadas e incluso siglos y tiene toda la lógica del mundo.

Pero es preciso ser conscientes de que con frecuencia se trata solo de un punto de partida inicial. El diseño fino  de esas redes neuronales, o de cualquier artefacto basado en biomímesis, se suele apartar luego en parte de su inspiración original, y se guía luego más por resultados y técnicas de ingeniería que por una verdadera copia del mecanismo biológico que, además, con frecuencia, y este es el caso del cerebro, no se conoce del todo.

El cerebro como objeto 

A veces se afirma, y es una afirmación de base científica, que lo que aprendemos del funcionamiento de algoritmos de inteligencia artificial, lo que experimentamos con ella, puede ser un mecanismo para ayudarnos a comprender nuestro propio cerebro.

En este caso, en el fondo, el objeto es el propio cerebro, o su conocimiento, más que la tecnología de inteligencia artificial en sí misma que sería un medio para experimentar.

Es una afirmación razonable e inspiradora, pero no estoy seguro de cuántos resultados se han producido en esta orientación.

El cerebro como aspiración

Lo que de alguna forma es técnicamente más retador, y también éticamente más problemático, es si la aspiración real es el cerebro humano, o por mejor decir, conseguir hacer un cerebro artificial que emule, e incluso supere, al cerebro humano.

Esto tendería a llevarnos al campo de la AGI ('Artificial General Intelligence') o de la superinteligencia y nos pudiera dejar en los umbrales de la famosa singularidad. 

A pesar de discursos sensacionalistas y catastrofistas, no creo que este objetivo domine hoy en día el desarrollo de la inteligencia artificial, pero tampoco diría que no está presente y que no tiene su peso. De hecho, un objetivo declarado de OpenAI es conseguir esa AGI. Así que, cuidado.

Si esto se consiguiera, o si la AGI o la super-inteligencia son el verdadero objetivo, estamos hablando no de una metáfora, sino de una imitación e incluso una sustitución y con muchas y serias implicaciones.

Ingeniería versus utopía

Lo cierto es que, al menos eso creo yo, una gran parte del trabajo en materia de inteligencia artificial, tanto en los diseñadores y fabricantes de los algoritmos y los grandes modelos, como en las empresas que adoptan soluciones, creo que está mucho, muchísimo más guiado por objetivos de negocio e ingeniería, por la aplicación de tecnología para conseguir unos objetivos más concretos, más prácticos y, en cierto sentido, más inmediatos, acercándose o usando la inspiración humana sólo cuándo éste sea un recurso prometedor.

Y la metáfora humana con frecuencia creo que se queda más en eso, metáfora, más usada en términos de comunicación y marketing o a veces, sólo a veces, se orienta hacia la venta de una utopía (puede que en realidad una distopía)

La conveniencia de la metáfora humana

Personalmente, no me parece mal del todo el uso de la metáfora humana hasta cierto punto.

En el fondo, es cierto que con frecuencia la inteligencia artificial imita capacidades cognitivas humanas, y no está mal reconocerlo, explicarlo e, incluso, con prudencia, adoptar nombres que se reutilicen de la neurociencia o la psicología para denominar capacidades más o menos equivalentes de la inteligencia artificial.

Además, la metáfora bien usada y explicada, puede ayudar a entender de una forma más sencilla qué mecanismos implementa la inteligencia artificial.

Pero tampoco creo que haya que extremar la metáfora.

En primer lugar, no se debe exagerar, no se deben usar palabras que hagan pensar que la inteligencia artificial hace más de lo que realmente hace. Y también se debe emplear con cierta contención y prudencia, porque un uso poco explicado, o peor, mal explicado de la metáfora humana, puede despistar al público, puede, en lugar de ayudar, confundir e incluso puede generar rechazo. Hace unos pocos meses pude asistir, por ejemplo, al rechazo que generaba el mero uso del término agente, en una comunidad orientada hacia la filosofía e incluso la teología donde el término agente tiene un significado propio y de connotaciones morales.

Y, por supuesto, si el objetivo es realmente crear un cerebro artificial, una super-inteligencia que nos supere, lo cual ya no es metáfora en absoluto, eso tiene muchas otras implicaciones éticas, humanísticas e, incluso de seguridad, pero eso es ya harina de otro costal.

Conclusiones

La metáfora humana se ha usado y se usa con frecuencia en el campo de la inteligencia artificial. Su empleo es justo y razonable en la medida en que realmente la inteligencia artificial implemente mecanismos similares o paralelos a los de la cognición humana, pero un uso incorrecto o exagerado de esa metáfora puede generar rechazo y puede confundir, y creo que confunde, de hecho.