La optogenética holográfica: una puerta a la programación del cerebro

En el post anterior, en que introdujimos brevemente la idea de los neuroderechos comentábamos que actualmente en neurotecnología estamos más avanzados en la lectura e interpretación de señales cerebrales que en la 'escritura', es decir  la actuación sobre el cerebro o el sistema nervioso.

Sin embargo, que estemos menos avanzados no significa que no existan ya técnicas para hacerlo y que no se trabaje en ello. En el artículo anterior, por ejemplo, mencionábamos el éxito del Deep Brain Stimulation que, aunque de una forma muy sencilla (simplemente, envía unos pulsos a modo de marcapasos cerebral) consigue disminuir muchos los temblores asociados al Parkinson. Y también, hace ya un tiempo, publiqué en este blog un post en que hablaba de las técnicas de estimulación que se están aplicando en neurotecnología.

Sin embargo, en este post quiero mencionar muy brevemente, una técnica que me ha llamado la atención recientemente: la optogenética holográfica. Se trata de una técnica desarrollada por Rafael Yuste y su equipo. Y me encuentro una muy breve pero estimulante descripción de la misma precisamente en el libro 'Neuroderechos: un viaje hacia la protección de lo que nos hace humanos' del propio Rafael Yuste en que basaba mi post anterior.

Los conjuntos neuronales

Antes de describir muy brevemente en qué consiste la optogenética holográfica, mencionar los llamados conjuntos neuronales.

En el libro, Yuste no explica cómo los modelos sobre el cerebro existentes inicialmente lo concebían como un conjunto de neuronas interconectadas donde la base del funcionamiento es la neurona individual.

Sin embargo, e inspirado por el concepto matemático de los 'atractores' de John Hopfield, Yuste demostró experimentalmente la existencia de los conjuntos neuronales que son grupos de neuronas fuertemente interrelacionadas, que se disparan a la vez, y que constituyen una realización biológica de esos 'atractores' de Hopfield.

Estos conjuntos neuronales, sin embargo, no necesariamente están formados por neuronas contiguas, sino que las neuronas que los conforman se pueden encontrar dispersas e incluso entremezcladas con las de otros conjuntos neuronales.

A partir de ahí, en la visión de Yuste, el funcionamiento del cerebro hay que entenderlo más con base en base en estos conjuntos neuronales que en las neuronas individuales.

Con esta pequeña base, vamos ya a por la optogenética holográfica.

La optogenética holográfica

La optogenética holográfica, dicho de forma muy sencilla, es una técnica que, primero, y usando técnicas genéticas, hace que las neuronas sean sensibles a la luz y se pueda actuar sobre ellas mediante luz. 

Una vez hecho esto, mediante esa luz, en este caso con la aplicación  de un láser, se pueden activar las neuronas (o mejor, los conjuntos neuronales) deseados.

Lo que hizo el equipo de Yuste es crear los patrones de luz para activar las neuronas o conjuntos neuronales deseados y aplicarlo en ratones.

Y esta técnica, la optogenética holográfica, es una forma muy fina de poder 'escribir en el cerebro' y se encuentra probada con éxito en el cerebro de ratones. Y tan fina es que, de manera familiar, y como explica el propio Rafael Yuste el libro, él y su equipo llamaban a esta técnica "el piano" por el manejo que permite del cerebro.

Las posibilidades y los riesgos

Las posibilidades que abre esta técnica (y otras que presupongo que existen o se están desarrollando) son enormes. El equipo de Yuste la utiliza para descifrar el código neuronal, su funcionamiento, pero también presenta muy buenas perspectivas para el tratamiento de afecciones como el autismo o el Alzhéimer.

Sin embargo, es una forma de escritura en el cerebro y abre la puerta a su programación y, por tanto, mal utilizada, podría aumentar los riesgos relacionados con la actuación sobre el cerebro humano. Recordar a este respecto que de las cinco grandes áreas de los neuroderechos que vimos en el post anterior, cuatro de ellas decíamos que hoy en día todavía no se enfrentaban a un gran riesgo porque estaban relacionadas con la 'escritura' en el cerebro todavía 'en pañales'.

Dado que una técnica como la optogenética holográfica, abre la puerta a la escritura, y la escritura fina en el cerebro nos acerca los riesgos contra los que luchan las últimas áreas de los neuroderechos. 

Cierto es, siendo realistas, que se trata de una técnica muy invasiva, primero hay que empezar por una modificación genética y luego son necesarios dispositivos intracraneales para el envío del láser, por lo que no se le puede aplicar a una persona a la ligera sin que esta sea muy, muy consciente de ello. Además, hoy en día, hasta donde sé, ni siquiera está suficientemente probada en humanos ni permitido su uso legalmente.  

Así que, por sí misma, aunque sí que es una puerta para la programación del cerebro, no parece que aún sea una puerta demasiado grande para un uso poco ético de esa programación.

Pero seguro que, en el futuro, o esta técnica evoluciona o, más bien, surgen otras técnicas alternativas quizá menos invasivas y, por tanto, a un tiempo más útiles y más arriesgadas. 

Conclusiones

La optogenética holográfica es una técnica que combina genética y holografía para estimular de manera controlada el cerebro. 

Se trata de una técnica muy potente para la investigación y para, por ejemplo, la eventual terapia de algunas afectaciones mentales o problemas visuales.

Una técnica que va abriendo poco a poco la puerta a la 'programación del cerebro', con sus grandes posibilidades pero también con sus riesgos.

Las cinco grandes áreas de los neuroderechos

Gran parte de la actividad actual en materia de ética de la tecnología, se centra, por un lado, en la influencia de las redes sociales especialmente en jóvenes o el acceso a datos en el mundo digital y, por otro, en la inteligencia artificial.

Pero existen otras áreas tecnológicas a tener en cuenta como son la robótica y la que nos ocupa en este post: la neurotecnología

Neurotecnología

Ya hace un tiempo, publiqué en este blog una serie de artículos (ocho en concreto) en que hablaba de diferentes aspectos de la neurotecnología (aunque ahí empleaba el término BCI, 'Brain Computer Interface'), comenzando por explicar lo que era, pasando por tecnología y casos de uso y acabando en consideraciones éticas.

Sin entrar en profundidades, la neurotecnología es una tecnología (o un tipo de soluciones) que son capaces de acceder a la información de nuestro cerebro y sistema nervioso y también de actuar sobre él.

Aparte de basarse en conocimientos de neurociencia, la neurotecnología incluye otras tecnologías como sensórica e instrumentación especializadas, procesamiento de señal (para adecuar y adaptar señales), machine learning para la detección de patrones en los datos recibidos, etc

Sus aplicaciones iniciales, y aún las mayoritarias, son de tipo terapéutico y rehabilitador, siendo algunos de sus mayores éxitos los implantes cocleares para la recuperación de la audición, el DBS ('Deep Brain Stimulation') para la reducción de los temblores asociados al Parkinson, el manejo de prótesis o sillas de ruedas con la mente, etc

Se trata de una tecnología que se encuentra realmente en su infancia, con notables avances en lo que se refiere a captación e interpretación de señales procedentes del cerebro, pero con avances más limitados en lo relativo a actuar sobre éste o sobre el sistema nervioso.

En cualquier caso, su potencial es enorme y casi con total seguridad asistiremos a grandes avances en los próximos meses y años.

Rafael Yuste y el grupo de Morningside

Resulta que una de las autoridades mundiales en este campo, sobre todo en la parte más neurocientífica, es español, aunque trabaja en Estados Unidos, en la Universidad de Columbia: Rafael Yuste.

Aparte de unas más que notables aportaciones científicas a la neurociencia y la neurotecnología, Rafael Yuste ha abanderado y lidera el movimiento en busca de criterios éticos en materia de neurotecnología y de los derechos de las personas en este campo: los neuroderechos

Este verano he leído el que creo que es su último libro, 'Neuroderechos: Un viaje hacia la protección de lo que nos hace humanos' en que, entre otras cosas, describe como surgió el movimiento de los neuroderechos y cómo ha ido avanzando hasta el momento, incluyendo algún hito fundamental como la inclusión de una enmienda relativa a los neuroderechos en la constitución de Chile.

Entre las muchas peripecias que relata, nos cuenta cómo en 2017, unió a un grupo de 25 personas procedentes del proyecto BRAIN, de proyectos similares en otros países y de la industria. Este grupo trabajó durante tres días, crearon un informe del mismo nombre e identificaron las cinco grandes áreas de los neuroderechos. 

Las cinco grandes áreas en neuroderechos

Estas cinco grandes áreas, que desde entonces creo que son el núcleo estructural de los neuroderechos,  son las siguientes:

• Derecho a la privacidad mental: Es decir, que el contenido de la actividad cerebral no pueda ser descifrado sin el consentimiento del ciudadano. Vendría a ser una forma especial, casi diría que extrema, de protección de la privacidad y del derecho a la intimidad. Dado que la neurotecnología permite el acceso a la información cerebral y su descifrado, incluso de manera remota y no invasiva, y dado que esta actividad cerebral puede revelar muchísimo de la persona, prácticamente todo, incluso a nivel subconsciente, es imperativo proteger esa información y que sólo pueda ser accedida cuando tenga sentido y siempre previa aprobación de la persona.


• Derecho a la identidad personal: Lo que se intenta proteger es la propia identidad de la persona (esa continuidad psicológica que nos permite de alguna forma saber quiénes somos) impidiendo que ésta se pueda manipular y alterar mediante el uso de neurotecnología.


• Derecho al libre albedrío: Es decir, que se mantenga nuestra capacidad de decidir de forma libre y autónoma sin que nuestra voluntad sea manipulada mediante neurotecnología.


• Acceso justo a la neuroaumentación: Dado que la neurotecnología nos permite o permitirá incorporar nuevas capacidades (motoras, perceptivas y cognitivas) en un proceso denominado aumentación, se trata, en este caso, de garantizar un acceso justo y equitativo de todas las personas, evitando brechas.


• Protección contra sesgos y discriminaciones: Se trata de evitar que se pueda introducir información sesgada o discriminatoria en nuestro cerebro.

Priorizando

Como decía más arriba, la neurotecnología se encuentra aún en su infancia y, aunque está bastante avanzada en la captación e interpretación de señales, lo está mucho menos en el envío de señales al cerebro y la actuación sobre éste.

Eso que tecnológicamente es una pena (o un desafío), desde un punto de vista ético nos da un cierto respiro porque probablemente algunos de los riesgos más aterradores que vienen con la neurotecnología se encuentran en el ámbito de la actuación sobre el cerebro.

Un poco por eso, Rafael Yuste ha priorizado sobre todo el avanzar en el primer área de derecho (la privacidad mental) que tiene que ver con la lectura e interpretación de las señales cerebrales y sobre la que más posibilidades reales existen hoy en día, mientras que soslaya un poco (sólo un poco) las otras cuatro que están más relacionadas con la actuación sobre el cerebro y, hasta cierto punto, nos hablan más de riesgos futuros que de realidades actuales.

Conclusiones

Hay mucho, muchísimo mas que hablar sobre neurotecnología y sobre neuroética y neuroderechos, pero de momento lo dejamos aquí.

Hemos recordado un poco lo que es la neurotecnología y hemos identificado, a partir del libro de Rafael Yuste, las cinco grandes áreas de los neuroderechos.

Tecnología, riesgo existencial y la ética de la antigua Grecia

La tecnología es en muchos aspectos maravillosa, una demostración del ingenio humano y un motor de progreso y bienestar.

Sin embargo, como bien sabemos, no está exenta de riesgos, algunos de pura seguridad ante eventuales fallos, pero otros, los principales, los más peligrosos, derivados de uno uso irresponsable o incluso malicioso de las tecnologías.

Ante esto, no queda otra que promover, aplicar y casi exigir el uso responsable y ético de la tecnología. Y, en este aspecto, la venerada antigua Grecia, donde de hecho surgió la ética como disciplina, aún nos puede dar alguna lección o, al menos, un recordatorio y un refuerzo. 

Los riesgos de la tecnología y la inteligencia artificial

En efecto, la tecnología, probablemente como tantas otras cosas, trae consigo riesgos. El uso de máquinas conlleva riesgos de accidentes, especialmente en el ámbito laboral. El uso de automóviles también conlleva riesgos de accidentes, muchos de ellos mortales. El uso de la energía nuclear, incluso más allá del ámbito militar, conlleva riesgos de fugas y contaminaciones. 

En parte de forma justificada, en parte por moda, una de las áreas tecnológicas que más foco recibe desde el punto de vista ético es la inteligencia artificial. Y en este ámbito hablamos de riesgos en materia de privacidad, de sesgos y equidad, de manipulación, de brechas, de contaminación, de riesgo para el empleo o para la autonomía de las personas, por mencionar algunos.

El riesgo existencial

Aunque con frecuencia cayendo en el sensacionalismo, se ha hablado y se sigue hablando, probablemente cada vez más, de que la inteligencia artificial puede constituir lo que se denomina un riesgo existencial. 

Como describía en el artículo 'Inteligencia artificial, ética y el verdadero riesgo existencial, publicado en este mismo blog hace unos pocos meses, un riesgo existencial es un problema potencial que, caso de materializarse, supondría la desaparición de la humanidad o alguna forma de colapso irreversible de nuestra civilización.

También comentaba que existen riesgos existenciales naturales (como el impacto de un gran meteorito) y otros riegos existenciales antropogénicos, creados por la mano del hombre. Los riesgos asociados a la tecnología en general, y a la inteligencia artificial en particular, caerían dentro de este segundo grupo, los antropogénicos que, para lo que es el foco de este post, son los que mas me importan.

Ética y el verdadero riesgo existencial

No voy a entrar en el debate de si la inteligencia artificial constituye o no un riesgo existencial, pero sí quisiera recordar algo que también mencioné en el post que indicaba más arriba: dado que los riesgos antropogénicos están generados por el ser humano, y dado que se deben al uso que hacemos de la tecnología, está en nuestras manos el evitar los usos maliciosos o los usos demasiado arriesgados de la tecnología.

Y está en nuestras manos, también, tomar todas las medidas preventivas para aquellos casos de uso de riesgo admisible.

Y tomar las decisiones y medidas adecuadas en el uso de la tecnología es un acto de responsabilidad y de ética. Depende de nuestro criterio, de nuestra decisión y de nuestra fortaleza para hacer lo correcto.

Por eso decía, y lo he repetido también en alguna charla, que cuando hablamos de riesgos existenciales antropogénicos, y cuando, dentro de ellos, hablamos de riesgos existenciales derivados de la tecnología, el verdadero riesgo existencial no es la tecnología sino la falta de ética, esa falta de criterio o convicción para hacer lo correcto. 

Algunas lecciones de la antigua Grecia

Este verano, y siguiendo la recomendación de un buen amigo, he leído el libro 'Grecia en el aire' de Pedro Olalla , un recorrido en muchos momentos delicioso por los paisajes de Atenas y el pensamiento filosófico, ético y, sobre todo político, que allí se generó en su época dorada. 

El texto alterna la descripción actual de paisajes en  Atenas y alrededores, con la explicación, no del todo ordenada, de los principales personajes, las principales ideas y los principales hechos en relación con la organización política de la antigua Atenas y su democracia.

Y, en un punto de la argumentación, me he encontrado tres conceptos, vinculados con la política pero fundamentalmente éticos, que no he podido evitar mentalmente poner en relación con lo que he expuesto más arriba.

El primero de ellos es la 'paideia', que el autor propone traducirlo como educación, y que significa, en sus palabras

cultivo permanente de la personalidad y las facultades humanas

Un poco más adelante, y mencionando al famoso libro 'Protágoras', habla de la 'areté' que, de alguna forma compendia las virtudes humanas y que Olalla describe como 

una forma de sabiduría, una sabiduría íntima que nos permite reconocer el bien  y, en un segundo paso, nos impulsa a obrar conforme a él.

El autor subraya que, en la medida que la 'areté' es una forma de sabiduría, puede ser adquirida y enseñada y eso lo pone en relación con la 'paideia'.

Finalmente, el último concepto es el de 'aristeia', que podría ser traducido por algo así como excelencia, muy cercano al de 'areté' y que, según nos explica, inicialmente estaba muy ligado a la actividad bélica pero luego, y con la introducción de la democracia, tomó un cariz mucho más individual y ético, convirtiéndose, de nuevo en palabras de Pedro Olalla en

una conmoción ante lo bueno, que no movía tanto a ser mejor que los demás como a ser mejor que uno mismo.

y nos dice que ese esfuerzo individual

se conjugó con el anhelo de contribuir a crear una espacio más justo para la vida en comunidad.  

Grecia y el riesgo existencial

Enlazando estos conceptos del pensamiento de la antigua Grecia con el problema de los riesgos existenciales, se me ocurre que, en el fondo, lo que necesitamos para evitar los riesgos existenciales son esa 'aristeria' y, sobre todo, ese 'areté' que nos permita reconocer el bien (y por tanto el mal) y, sobre todo, que nos impulse a obrar conforme a ese bien y contribuir a un espacio mas justo (y, en este caso, más seguro).

Y como herramienta para alcanzar ese 'areté', el gran arma, es la divulgación y la educación, es decir, la 'paideia'. 

Más allá de la tecnología

Y, aunque me he centrado en los riesgos de la tecnología y en los riesgos existenciales, esta receta que entronca con el pensamiento griego, es válida para todo tipo de riesgos o problemas que tengan su origen en la acción del ser humano, sean éstos existenciales o no, y sean éstos de naturaleza tecnológica o de otro tipo. 

El gran problema

La receta, entonces, la 'gran receta' es, pues, promover la ética, formar en ética.

Si... pero, por desgracia, no del todo.

¿Por qué?

Porque la transformación ética de toda una sociedad (que, en este caso debería ser a nivel mundial) es una transformación cultural y a grandísima escala y, como todos sabemos, las transformaciones culturales son lentas.

Aunque estoy convencido de que la humanidad, contemplada con perspectiva histórica, progresa no solamente materialmente sino también en materia de valores y de ética, lo hace a diferentes ritmos.

El progreso tecnológico es casi continuo, generalizado y cada vez más acelerado. Por tanto, las posibilidades de la tecnología, tanto para el bien como para el mal, se incrementan a un ritmo muy rápido.

Por el contrario, el progreso en materia de ética es discontinuo (con avances y retrocesos), desigualmente repartido y, por desgracia, muy lento, al menos mucho más lento que el de la tecnología.

Así que, aunque la promoción de la ética será la receta final, seguramente debamos hacer muchas otras cosas porque confiar en la ética de las personas y las sociedades puede no ser suficiente.

Conclusiones

La evitación de los riesgos, especialmente de los existenciales, que pueden ser derivados de la mano del hombre implica un fuerte llamamiento a la ética, aplicando algunos conceptos que ya heredamos de la antigua Grecia... aunque puede que eso no sea suficiente.

Personalidades y liderazgo de la inteligencia artificial

Recientemente he finalizado la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' escrito por Sebastian Mallaby y que se centra, fundamentalmente, en figura de Demis Hassabis, como personaje y como fundador y líder de DeepMind.

En sus páginas, sin embargo, se mencionan también a algunas otras empresas y, por lo que respecta a este post, a otros líderes de la inteligencia artificial: Sam Altman, Sunday Pichai, Yann LeCun, etc

Se trata de un libro largo pero interesante e ilustrativo que muestra, no sólo la personalidad de Hassabis, sino también todas los avatares tanto científicos y tecnológicos, como empresariales, que han rodeado el desarrollo en los últimos años de la inteligencia artificial.

Casi finalizando su lectura, me puse a reflexionar, no sólo sobre la figura de Hassabis sino, en general sobre la de los líderes actuales de la inteligencia artificial. Y es esa breve reflexión la que quisiera compartir en este post,  

Sobre el liderazgo

Antes, un breve alto para hablar de liderazgo.

Sin pretender una definición rigurosa ni académica, podemos considerar que el liderazgo es aquella capacidad o competencia de las personas que les habilita a la influencia o conducción de otras personas hacia el logro de unos objetivos, señalados por ese líder. Y suele adornarse de otras capacidades o habilidades como la visión estratégica, la comunicación, la persuasión y la resiliencia.

Se trata de una capacidad fundamental en muchos ámbitos: el político, el empresarial, el religioso y, en general, en muchas actividades que quizá consideremos menores comparadas con  las anteriores, como pudiera ser la dirección de proyectos.

Por si mismo, el liderazgo se puede considerar una capacidad muy importante y muy positiva y creo que así es, siempre que los objetivos hacia los que dirige el/la líder a sus equipos o a otras personas sean realmente buenos y deseables. 

Algunos líderes

Si ahora pasamos específicamente al campo de la inteligencia artificial reciente y repasamos, en parte con base en el libro citado, algunos líderes del campo de la IA ¿Qué nos encontramos?

Tenemos, por ejemplo, a Demis Hassabiss, el protagonista del libro, un líder visionario y hasta cierto punto idealista, con foco en la AGI ('Artificial General Inteligence') y un especial toque científico. 

Cerca de él, Sundar Pichai, CEO de Alphabet (Google) que parece ser un líder empresarial puro, con foco sobre todo en los resultados de su compañía. 

Por otro tenemos a Sam Altman, en apariencia pura ambición, quién más allá de sus discursos, parece buscar su propia promoción y la de su empresa OpenAI y el dominio del mercado.

Tenemos también a Yann LeCun, también de base científica pero, quizá, dada su ligadura actual con Meta, con ciertos intereses empresariales que le pueden condicionar.

No se si le podemos considerar un líder de la IA, pero conviene no olvidar a Mark Zuckerberg, en apariencia más concentrado, como en el caso de Pichai, en su empresa Meta aunque, en este caso, con una visión ética bastante en entredicho. 

Quizá, podemos añadir a Satya Nadella, de Microsoft, pero, de forma similar a Pichai, actuando más como puro CEO empresarial o también, todavía en el ámbito de Microsoft, a su actual líder en IA, Mustafá Suleyman, procedente de DeepMind y, en apariencia, también con una visión idealista de la IA y centrada en el bien común.

Seguramente se pueda mencionar mencionar alguno más, como Dario Amodei (Anthropic) a caballo, creo, entre la visión empresarial y la ética, a su actual empleado Andrej Karpathy, con visión claramente tecnológica, o en otro ámbito, Andrew Ng, muy moderado y más orientado a la ciencia y la educación. 

¿Es éste el liderazgo que necesitamos?

Y lo que de alguna forma me llamó la atención, lo que quisiera reflejar en este artículo son dos cosas.

Por un lado, destacar el hecho de hasta qué punto, el desarrollo de una disciplina, en este caso la inteligencia artificial, viene marcado por las circunstancias pero, sobre todo, por la visión y la personalidad de personas concretas, los líderes antes mencionados. Es cierto que en un libro como el que me inspira, es fácil que el autor caiga en un cierto tono que voy a llamar 'épico' y que resalte más esas características de los personajes, esos golpes de fortuna o desgracias, esas casualidades que siempre ocurren y cuyo peso real a lo mejor es menor de lo que un libro como éste nos puede hacer pensar. Pero aún así, y sin abandonar esas prevenciones, no deja de llamarme la atención la importancia de personas concretas y, sobre todo, personalidades concretas.

Y la segunda parte de mi reflexión, muy unida a la anterior, es preguntarme si, realmente, es bueno que algo tan importante, tan transformador, tan llamado a condicionar nuestras economías y nuestras vidas ya desde el presente y seguro que en el futuro cercano, como es la inteligencia artificial dependa de tan pocas personas, de tan pocas visiones, personalidades, objetivos y circunstancias.

 Y aunque resulta atractivo y hasta digno de loa el peso que personas concretas, líderes reales, ejerzan su influencia y su liderazgo sobre todo tipo de actividades, en este caso del desarrollo de la inteligencia artificial, no dejo de preguntarme si, desde un punto de vista no sólo económico, técnico y operativo sino también , y quizá especialmente, desde un punto de vista ético, es buena esa concentración en unas pocas cabezas y en unas pocas voluntades del destino que está llamado a ser destino de todos.

Aunque no hablando específicamente de liderazgo, sino más bien de poder, el propio Papa León XIV expresó en su famosa encíclica 'Magnifica Humanitas' su preocupación por la concentración de poder, en lo relativo al desarrollo de la inteligencia artificial, en muy pocas manos. 

Tengo la sensación de que, sin quitar el más mínimo valor al liderazgo, y épicas de narrativa empresarial aparte, no sería mejor un liderazgo más amplio, más compartido, más consensuado y con mayores posibilidades de convertirse en un liderazgo para todos, y un liderazgo seguramente más ético.

Conclusiones

Como en toda actividad humana, en el caso del desarrollo de la inteligencia artificial juega un papel muy importante el liderazgo, con su capacidad para generar visiones y movilizar recursos y voluntades. 

Pero en ese caso específico de la inteligencia artificial, dada su potencia y poder transformador en todos los ámbitos, me pregunto si no sería mejor un liderazgo menos personal, más amplio, más compartido.

Google frente a la IA: tres formas de dilema del innovador

No sé si a los lectores de este blog les habrá pasado lo mismo que a mi pero, probablemente, dentro del panorama del sector tecnológico, contemplado fundamentalmente desde un punto de vista estratégico, desde que OpenAI lanzara ChatGPT ha flotado la pregunta, que personalmente yo mismo me he formulado, de cuál era el posicionamiento Google frente a la IA, cuál su estrategia, cuál su avance técnico real.

¿Está por delante o por detrás de OpenAI o de Antrophic? ¿Arrastra los pies porque no le conviene empujar para no dañar a su negocio de publicidad ligado al buscador o porque, realmente, sus competidores le han superado?

Recientemente, con la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby que se centra en Demis Hassabis como personaje y en DeepMind como empresa he ampliado, y hasta cierto punto cambiado, mi opinión sobre el particular.  

Una estrategia competitiva de Google, quizá no bien percibida

Mi sensación personal, hasta hace bien poco, una sensación más intuitiva que otra cosa pero reforzada por los últimos  avances en Gemini, era que Google estaba 'nadando y guardando la ropa', es decir, que tenía capacidad tecnológica de sobra (incluso con modelos no lanzados o técnicas no publicadas) como para igualar o superar a sus competidores, especialmente OpenAI, cuando quisiera, pero que no pisaba el acelerador para no perjudicar su negocio principal. 

Y pensaba que, en esa estrategia, y una vez que la destrucción de su modelo de negocio basado en el buscador fuese inevitable, se lanzaría a tumba abierta a por el liderazgo en IA. Y mi sensación era que ya estaba empezando a acercarse a ese momento, que ya los últimos modelos Gemini igualaban e incluso superaban a los de OpenAI.

La lectura del libro que menciono, me hace reconsiderar parcialmente esa opinión y pensar que, quizá, sólo quizá, más allá de la protección de su negocio tradicional, realmente a nivel técnico Google fue  superado técnicamente durante un tiempo y sólo ahora está consiguiendo ponerse a la altura.  

En cualquier caso, lo que quiero comentar ahora es una visión más estratégica y de negocio de Google, su eventual dilema del innovador frente a la IA, un planteamiento, como digo, más estratégico que de capacidad tecnológica propiamente dicha.

El dilema del innovador

Antes de volver al caso de Google, recordar en qué consiste el famoso dilema del innovador ('innovator's dilemma').

El dilema del innovador fue descrito por el malogrado Clayton Christensen en su famoso libro del mismo título hace ya muchos años y describía el comportamiento, y el peligro, de empresas asentadas y bien gestionadas ante la llegada de tecnologías disruptivas..

En esencia viene a decir que las empresas asentadas y bien gestionadas tienen dificultades para identificar y apostar por innovaciones disruptivas. y que, precisamente, los mecanismos de decisión que las han llevado al éxito y a ser empresas bien gestionadas son los responsables de esa ceguera y ese error estratégico.

¿Por qué?

Pues porque los mecanismos de decisión se basan en evaluar las posibilidades de una tecnología y su retorno posible. Las tecnologías disruptivas se caracterizan, por un lado, por ser apuestas inciertas y, por otro, por que habitualmente debutan con unas prestaciones inferiores a las tecnologías que podrían sustituir.

Así las cosas, la decisión racional y de buena gestión parece ser desestimarlas y no apostar por ellas. 

Y ese es el error, porque cuando esas tecnologías disruptivas evolucionan y demuestran su verdadera capacidad, la empresa que no apostó por ellas, probablemente se quede fuera del mercado.

Los tres dilemas del innovador de Google frente a la IA

En el libro que indicaba más arriba, 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby, en un momento dado habla abiertamente del dilema del innovador de Google frente a la IA. Para ser más exactos, no habla de un dilema del innovador sino de tres dilemas que lo que describen realmente son tres motivos por los que, en su momento, la adopción de la IA podría perjudicar a su negocio principal. Son los siguientes:

• El dominio de Google en las búsquedas dependía (y depende) de su reputación a la hora de ofrecer información fiable. Por tanto, no podía permitirse lanzar chatbots que dieran información errónea. Y, como sabemos, y especialmente al principio, los chatbots 'alucinaban' con cierta frecuencia.


• Los ingresos de Google depeden de la publicación de anuncios junto a los resultados de búsqueda. No estaba claro, en realidad sigue sin estarlo del todo, cómo se podrían integrar los anuncios en el chat, cómo monetizarlo y cómo seguir manteniendo la posición privilegiada de Google en este campo. Eso tendía a obligar a Google a evitar los chatbots.


• La enorme cuota de mercado de Google, percibida en ocasiones como un monopolio ilegal, se volvería insostenible si la empresa se ganara la antipatía de políticos, periodistas y anunciantes... y se percibía que, eventualmente, podría pasar apostando fuerte por la IA y chatbots basados en ella.

Estos son los tres motivos que, siguiendo a Mallaby, han paralizado a Google, al menos hasta cierto punto y en los dos primeros años tras ChatGPT, y que le han impedido, insisto que capacidad técnica aparte, dar poco más que una respuesta tibia al empuje de OpenAI.

¿Son esto realmente dilemas del innovador?

Los anteriores son motivos que, acertados o no, son razonables para esa cierta parálisis, o al menos lentitud de respuesta de Google ante el empuje de otros actores, muy especialmente OpenAI.

Sin embargo, estrictamente hablando, no creo que se puedan calificar exactamente de un dilema del innovador. Y creo que no porque no se trata de que Google no haya identificado a la IA como una tecnología a la vez valiosa y disruptiva (el verdadero dilema del innovador), sino que una posición, acertada o no, de proteger su negocio tradicional, le ha hecho 'no empujar', no asumir el liderazgo de la IA y dejar ese liderazgo en manos de otros actores, al menos temporalmente.

Si hago caso al libro mencionado, más allá de la posición estratégica, acertada o no, y al contrario de lo que era mi hipótesis, realmente el liderazgo técnico tampoco ha estado durante un tiempo en manos de Google, pese a ser los creadores del mecanismo de la 'atencion' y la arquitectura 'transformer' que han revolucionado toda la IA generativa.

Esto último, sí parece haber cambiado ya en el momento en que escribo estas líneas, momento en que no parece que Google esté por detrás de los otros grandes actores de la IA. Ahora mismo seguramente está más o menos a la par, aunque también es cierto que ya no sólo hablamos de OpenAI, siendo ahora mismo un rival igual de potente, Anthropic y, quien sabe si los modelos de pesos abiertos.

Conclusiones

Aparentemente, hay motivos tanto estratégicos como técnicos que explican por qué Google ha estado algo lento a la hora de responder la agresiva propuesta de Open AI. 

Y, en la parte más estratégica y de negocio, sus precauciones tienen que ver con la protección de su negocio tradicional, algo que, sin ser en mi opinión exactamente lo mismo que el famosos dilema del innovador de Christensen, si guarda algunas semejanzas.

Actualización de publicaciones del Project Management Institute (III): "PMBOK Guide 8th edition"

Y con este post cierro la pequeña serie de artículos, tres incluyendo éste, dedicados a las últimas publicaciones del PMI ('Project Management Institute').

Tras haber comentado el estándar para gestión de proyectos y el estándar específico de inteligencia artificial, llega el momento del 'documento estrella' del PMI, es decir, el PMBOK ('Project Management Book Of Knowledge') o, como el PMI puntualiza la guía al PMBOK. 

El contenido del PMBOK

En esta octava edición, el PMBOK (documento de unas 270 páginas), se estructura en cinco capítulos y cinco apéndices. Los capítulos son:

• 1. Introduction: Un breve introducción explicando la estructura del documento, la relación con el estándar y los principales cambios respecto a la edición anterior


• 2. Project Management Performance Domain El capítulo más largo y que aporta mayor estructura y conceptos, describe los denominados 'performance domains' (algo así como dominios de desempeño) que, aunque quieren evitar el nombre, son una especie de procesos de alto nivel. Los dominios son:
  
  
  • Gobernanza ('Governance')
  • Alcance ('scope')
  • Planificación ('schedule')
  • Finanzas
  • Interesados ('stakeholders')
  • Recursos ('resources')
  • Riesgos
  
  
  Por cada uno de estos dominios, y salvo en el caso de la gobernanza en que añade alguna sección adicional, las estructura del discurso es siempre la misma:
  
  
  • Conceptos principales que, en esencia, aporta definiciones más o menos explicadas, de los conceptos utilizados
  
  
  • Procesos que componen el dominio indicando, aparte de la estructura general de procesos, un cierto detalle de cada proceso en que, aparte de una explicación se esquematiza sus entradas y salidas, y las herramientas y técnicas habitualmente utilizadas. Tantos las entradas y salidas como las herramientas y técnicas sólo se encuentra enunciadas porque la explicación se proporciona en otros capítulos
  
  
  • Consideraciones sobre personalización
  
  
  • Interacción con otros dominios
  
  
  • 'Checklist' de comprobación de resultados ('outcomes').


• 3. Tailoring Un capítulo no muy largo sobre la personalización / adaptación del marco general a casos concretos donde se argumenta el por qué de esa adaptación, se identifica qué elementos de adaptan y se describe un poco ese proceso de adaptación / personalización.


• 4. Inputs and outputs Describe todas y cada una de las entradas o salidas que han aparecido en los procesos de los dominios vistos en el capítulo dos. Se trata del orden de cien entradas y o salidas, descritas siguiendo un orden meramente alfabético y aportándose en la mayoría de los casos poco mas que una definición aunque en ciertos casos se detiene bastante más.


• 5. Tools and techniques De forma muy similar a lo hecho con entradas y salidas, se censan por orden alfabético, todas las herramientas y técnicas que han aparecido en los procesos de los dominios. En este caso hablamos de una ciento setenta herramientas o técnicas. La descripción de cada una, de nuevo, es irregular, siendo en algunos caso meras definiciones pero, para otras, se aporta bastante detalle.

Tras esto, tenemos cinco apéndices:

• El primero con el listado de personas que han participado


• El segundo, de un cierto interés se ocupa de las PMO ('Project Management Office')


• El tercero habla de inteligencia artificial pero sin grandes aportaciones y supongo que preparando el terreno para lo que sería el estándar que hemos comentado en otro post.


• Un cuarto apéndice, muy bien desarrollado e interesante sobre 'procurement' que, quizá, debería haberse encajado de alguna forma en el cuerpo principal del PMBOK


• Finalmente una descripción de cómo ha ido evolucionando el PMBOK a lo largo del tiempo.

Mi valoración

Creo que la mayor diferencia de esta edición (la octava) frente a la séptima edición (que, sinceramente, creo que era muy floja) son los dos capítulos dedicados tanto a entradas y salidas como, sobre todo, el de técnicas y herramientas.

Estos dos nuevos capítulos que, en el fondo, son un complemento a la descripción de los procesos del capítulo segundo dedicado a los dominios de desempeño, aportan valor, información y rigor y recuperan parte de lo que se perdió con esa creo que desgraciada séptima edición del PMBOK.

Aunque  no he hecho una comparación rigurosa, creo que, aún, la primera edición del PMBOK que yo conocí (la que estaba vigente cuando me certifiqué como PMP), la quinta y probablemente la sexta eran más sólidas y estructuradas, pero aún así, esta octava edición reconcilia un tanto con el PMBOK y recupera parte de lo perdido en la séptima edición.

No obstante, sigo sin entender, o tal vez compartir, la diferenciación entre el estándar y el PMBOK que creo que no tiene sentido tal y como está planteada actualmente.

 Igualmente, y de cara a futuras ediciones, creo que sería bueno seguir profundizando en la parte de entradas y salidas y las técnicas y herramientas, alargando más las descripciones y entrando más en materia porque gran parte del conocimiento real y práctico de la disciplina de dirección de proyectos recae en ellas.

Conclusiones

Hemos revisado el contenido del PMKOK (guía del PMBOK realmente) en su octava edición y, aunque creo que tiene margen de mejora, recupera una parte importante del rigor y profundidad perdidos en la séptima edición.

Artículos de este blog relacionados

• Actualización de publicaciones del Project Management Institute (II): "The standard for artificial intelligence"
• Actualización de publicaciones del Project Management Institute (I): "The standard for project management"

La inteligencia artificial y las heridas del antropocentrismo y narcisismo humano

El ser humano siempre ha sido, hay que reconocerlo, antropocéntrico, es decir, de alguna forma se ha visto a sí mismo como  centro y medida de todas las cosas...quizá con la única excepción de la relevancia que ha dado a lo largo de los siglos, a las diferentes formas de dioses y deidades (aunque algunas, en el fondo, también adopten formas muy humanas).

Esa concepción de que todo giraba alrededor del ser humano, ha recibido, con el avance de la ciencia y el conocimiento, algunas sacudidas no menores, algunas 'curas de humildad' que, poco a poco van poniendo a la humanidad en 'su sitio'.

No por ello dejamos, en el fondo, de defender la dignidad y singularidad humanas pero, quizá, con algo más de modestia y comedimiento,

Las tres heridas identificadas por Freud

Me encuentro leyendo el libro 'Pensar con Prompts: Una crítica de la razón generativa' nominalmente firmado por Jianwei Xun aunque, en el fondo, quien nos habla es el filósofo italiano Andrea Colamedici, eso sí, asistido por, y en permanente diálogo con, la inteligencia artificial.  

El caso es que, en un punto de su libro, en concreto en el segundo capítulo, nos habla de lo que denomina las heridas del narcisismo humano, que no  dejan de ser las grandes tomas de conciencia por parte del ser humano que le hacen comprender que no es tan nuclear como había creído.

En concreto nos dice que ya Sigmund Freud identificó tres de esas heridas, a saber:

• Herida cosmológica: de la mano de Copérnico que demostró que los humanos no ocupan el centro físico del universo.


• Herida biológica: con la teoría de la evolución y la selección natural de Darwin, quien muestra que la especie humana no está separada de ni es superior al resto del mundo animal.


• Herida psicológica propinada por el propio Freud que afirma que el ego, el yo, no es dueño de sí mismo.

Tres duros golpes, claro está, a esa visión tan centrada en el ser humano y tan convencida de su propia importancia y centralidad. 

La inteligencia artificial como cuarta herida

Pero de la misma forma que, imagino, Freud enumeró las heridas cosmológica y biológica para enmarcar y resaltar 'su propia herida', la psicológica, Colamedici trae a colación las tres heridas históricamente precedentes para identificar una cuarta, que es su aportación a esa visión menos antropocéntrica.

Colamedici, trasunto en Jianwei Xun, entiende que la  inteligencia artificial y, en concreto, la inteligencia artificial generativa, puede ser una cuarta herida ya que saca al ser humano del centro, o al menos de la exclusividad del conocimiento o el arte.

Nos dice:

A estas tres se ha añadido una cuarta, mucho más reciente, que socava otro pilar de la identidad: la singularidad y superioridad de nuestra inteligencia. Con la IA generativa, ya no se da por sentado que solo el ser humano produce conocimiento, conceptos, arte o cosmovisiones.

Colamedici no le da este nombre pero voy a bautizar a esta eventual cuarta herida como la herida cognitiva.

¿Es este realmente un golpe tan grande a nuestro 'orgullo', a nuestra propia importancia y a nuestra visión antropocéntrica?

Consideraciones: puede que herida...pero quizá algo menos

De que nos encontramos ante un fenómeno transformador en muchos sentidos, me cabe poca duda. 

Sin embargo creo que esta eventual cuarta herida no es del todo comparable a las tres anteriores que identificaba Freud. 

Y ello, por dos motivos: lo vemos como menos herida y no ataca del todo el antropocentrismo

Menos herida

El primero es quizá más superficial, pero cuestiona el propio término 'herida'.

No soy un experto ni en historia ni en antropología y, por supuesto, no puedo saber qué pensaban las personas corrientes de estos avances científicos devenidos en herida al narcisismo humano. Pero creo que, de alguna forma, sí supusieron un golpe muy duro a la propia concepción humana, que debieron ser difíciles de admitir, de asimilar, de normalizar.

En el caso de la inteligencia artificial generativa, sin embargo, creo que, sin negar que existen preocupaciones, perplejidades y debates, el común de los mortales la acogemos con naturalidad, casi diría que con alegría y ligereza... con lo bueno y malo que eso tiene (creo que, en efecto, esa alegre y despreocupada acogida tiene cara positiva y negativa).

Es decir, no me parece que la inteligencia artificial generativa la estemos viviendo como un cuestionamiento tan doloroso y radical del ser humano y su papel en el mundo, como en su momento creo que sí ocurrió con las anteriores.

Quizá no sea tan herida, o se trata de una herida más superficial.

No tan en contra del antropocentrismo

 

Hay otra segunda diferencia que considero muy importante.

En las tres heridas que identificaba Freud, los avances científicos nos hicieron comprender que nuestra situación en el mundo no era tan central como creíamos, nos demostraron que las cosas eran diferentes a cómo pensábamos. Pero 'se limitaron' a hacernos comprender, no cambiaron nada ni crearon nada.

Es diferente en el caso de la inteligencia artificial generativa que, como cualquier tecnología es obra del ser humano. Por decirlo de alguna forma: no estamos comprendiendo, sino que estamos creando; no estamos entendiendo, sino que estamos transformando.

Y aunque nuestra propia obra nos desafíe y cuestione, en el fondo es sigue siendo obra nuestra y, por tanto, puede que nos nos quite centralidad sino todo lo contrario, que la potencie... siempre que permanezca bajo nuestro control, claro.

Conclusiones

A lo largo de la historia, la visión antropocéntrica del mundo se ha ido poco a poco desmoronando a medida que los avances científicos nos han ido demostrando que la realidad era diferente a la que pensábamos y que el ser humano no jugaba un papel tan central en esa realidad.

El filósofo Andrea Colamedici piensa que la inteligencia artificial generativa puede ser la cuarta herida a ese antropocentrismo o, como él lo expresa, a ese narcisismo humano, tras la cosmológica, la biológica y la psicológica.

Sin embargo, la inteligencia artificial generativa presenta características que hacen que, quizá, no se trate de una herida similar, puede que ni siquiera constituya una herida,