Tecnología, riesgo existencial y la ética de la antigua Grecia

La tecnología es en muchos aspectos maravillosa, una demostración del ingenio humano y un motor de progreso y bienestar.

Sin embargo, como bien sabemos, no está exenta de riesgos, algunos de pura seguridad ante eventuales fallos, pero otros, los principales, los más peligrosos, derivados de uno uso irresponsable o incluso malicioso de las tecnologías.

Ante esto, no queda otra que promover, aplicar y casi exigir el uso responsable y ético de la tecnología. Y, en este aspecto, la venerada antigua Grecia, donde de hecho surgió la ética como disciplina, aún nos puede dar alguna lección o, al menos, un recordatorio y un refuerzo. 

Los riesgos de la tecnología y la inteligencia artificial

En efecto, la tecnología, probablemente como tantas otras cosas, trae consigo riesgos. El uso de máquinas conlleva riesgos de accidentes, especialmente en el ámbito laboral. El uso de automóviles también conlleva riesgos de accidentes, muchos de ellos mortales. El uso de la energía nuclear, incluso más allá del ámbito militar, conlleva riesgos de fugas y contaminaciones. 

En parte de forma justificada, en parte por moda, una de las áreas tecnológicas que más foco recibe desde el punto de vista ético es la inteligencia artificial. Y en este ámbito hablamos de riesgos en materia de privacidad, de sesgos y equidad, de manipulación, de brechas, de contaminación, de riesgo para el empleo o para la autonomía de las personas, por mencionar algunos.

El riesgo existencial

Aunque con frecuencia cayendo en el sensacionalismo, se ha hablado y se sigue hablando, probablemente cada vez más, de que la inteligencia artificial puede constituir lo que se denomina un riesgo existencial. 

Como describía en el artículo 'Inteligencia artificial, ética y el verdadero riesgo existencial, publicado en este mismo blog hace unos pocos meses, un riesgo existencial es un problema potencial que, caso de materializarse, supondría la desaparición de la humanidad o alguna forma de colapso irreversible de nuestra civilización.

También comentaba que existen riesgos existenciales naturales (como el impacto de un gran meteorito) y otros riegos existenciales antropogénicos, creados por la mano del hombre. Los riesgos asociados a la tecnología en general, y a la inteligencia artificial en particular, caerían dentro de este segundo grupo, los antropogénicos que, para lo que es el foco de este post, son los que mas me importan.

Ética y el verdadero riesgo existencial

No voy a entrar en el debate de si la inteligencia artificial constituye o no un riesgo existencial, pero sí quisiera recordar algo que también mencioné en el post que indicaba más arriba: dado que los riesgos antropogénicos están generados por el ser humano, y dado que se deben al uso que hacemos de la tecnología, está en nuestras manos el evitar los usos maliciosos o los usos demasiado arriesgados de la tecnología.

Y está en nuestras manos, también, tomar todas las medidas preventivas para aquellos casos de uso de riesgo admisible.

Y tomar las decisiones y medidas adecuadas en el uso de la tecnología es un acto de responsabilidad y de ética. Depende de nuestro criterio, de nuestra decisión y de nuestra fortaleza para hacer lo correcto.

Por eso decía, y lo he repetido también en alguna charla, que cuando hablamos de riesgos existenciales antropogénicos, y cuando, dentro de ellos, hablamos de riesgos existenciales derivados de la tecnología, el verdadero riesgo existencial no es la tecnología sino la falta de ética, esa falta de criterio o convicción para hacer lo correcto. 

Algunas lecciones de la antigua Grecia

Este verano, y siguiendo la recomendación de un buen amigo, he leído el libro 'Grecia en el aire' de Pedro Olalla , un recorrido en muchos momentos delicioso por los paisajes de Atenas y el pensamiento filosófico, ético y, sobre todo político, que allí se generó en su época dorada. 

El texto alterna la descripción actual de paisajes en  Atenas y alrededores, con la explicación, no del todo ordenada, de los principales personajes, las principales ideas y los principales hechos en relación con la organización política de la antigua Atenas y su democracia.

Y, en un punto de la argumentación, me he encontrado tres conceptos, vinculados con la política pero fundamentalmente éticos, que no he podido evitar mentalmente poner en relación con lo que he expuesto más arriba.

El primero de ellos es la 'paideia', que el autor propone traducirlo como educación, y que significa, en sus palabras

cultivo permanente de la personalidad y las facultades humanas

Un poco más adelante, y mencionando al famoso libro 'Protágoras', habla de la 'areté' que, de alguna forma compendia las virtudes humanas y que Olalla describe como 

una forma de sabiduría, una sabiduría íntima que nos permite reconocer el bien  y, en un segundo paso, nos impulsa a obrar conforme a él.

El autor subraya que, en la medida que la 'areté' es una forma de sabiduría, puede ser adquirida y enseñada y eso lo pone en relación con la 'paideia'.

Finalmente, el último concepto es el de 'aristeia', que podría ser traducido por algo así como excelencia, muy cercano al de 'areté' y que, según nos explica, inicialmente estaba muy ligado a la actividad bélica pero luego, y con la introducción de la democracia, tomó un cariz mucho más individual y ético, convirtiéndose, de nuevo en palabras de Pedro Olalla en

una conmoción ante lo bueno, que no movía tanto a ser mejor que los demás como a ser mejor que uno mismo.

y nos dice que ese esfuerzo individual

se conjugó con el anhelo de contribuir a crear una espacio más justo para la vida en comunidad.  

Grecia y el riesgo existencial

Enlazando estos conceptos del pensamiento de la antigua Grecia con el problema de los riesgos existenciales, se me ocurre que, en el fondo, lo que necesitamos para evitar los riesgos existenciales son esa 'aristeria' y, sobre todo, ese 'areté' que nos permita reconocer el bien (y por tanto el mal) y, sobre todo, que nos impulse a obrar conforme a ese bien y contribuir a un espacio mas justo (y, en este caso, más seguro).

Y como herramienta para alcanzar ese 'areté', el gran arma, es la divulgación y la educación, es decir, la 'paideia'. 

Más allá de la tecnología

Y, aunque me he centrado en los riesgos de la tecnología y en los riesgos existenciales, esta receta que entronca con el pensamiento griego, es válida para todo tipo de riesgos o problemas que tengan su origen en la acción del ser humano, sean éstos existenciales o no, y sean éstos de naturaleza tecnológica o de otro tipo. 

El gran problema

La receta, entonces, la 'gran receta' es, pues, promover la ética, formar en ética.

Si... pero, por desgracia, no del todo.

¿Por qué?

Porque la transformación ética de toda una sociedad (que, en este caso debería ser a nivel mundial) es una transformación cultural y a grandísima escala y, como todos sabemos, las transformaciones culturales son lentas.

Aunque estoy convencido de que la humanidad, contemplada con perspectiva histórica, progresa no solamente materialmente sino también en materia de valores y de ética, lo hace a diferentes ritmos.

El progreso tecnológico es casi continuo, generalizado y cada vez más acelerado. Por tanto, las posibilidades de la tecnología, tanto para el bien como para el mal, se incrementan a un ritmo muy rápido.

Por el contrario, el progreso en materia de ética es discontinuo (con avances y retrocesos), desigualmente repartido y, por desgracia, muy lento, al menos mucho más lento que el de la tecnología.

Así que, aunque la promoción de la ética será la receta final, seguramente debamos hacer muchas otras cosas porque confiar en la ética de las personas y las sociedades puede no ser suficiente.

Conclusiones

La evitación de los riesgos, especialmente de los existenciales, que pueden ser derivados de la mano del hombre implica un fuerte llamamiento a la ética, aplicando algunos conceptos que ya heredamos de la antigua Grecia... aunque puede que eso no sea suficiente.

Personalidades y liderazgo de la inteligencia artificial

Recientemente he finalizado la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' escrito por Sebastian Mallaby y que se centra, fundamentalmente, en figura de Demis Hassabis, como personaje y como fundador y líder de DeepMind.

En sus páginas, sin embargo, se mencionan también a algunas otras empresas y, por lo que respecta a este post, a otros líderes de la inteligencia artificial: Sam Altman, Sunday Pichai, Yann LeCun, etc

Se trata de un libro largo pero interesante e ilustrativo que muestra, no sólo la personalidad de Hassabis, sino también todas los avatares tanto científicos y tecnológicos, como empresariales, que han rodeado el desarrollo en los últimos años de la inteligencia artificial.

Casi finalizando su lectura, me puse a reflexionar, no sólo sobre la figura de Hassabis sino, en general sobre la de los líderes actuales de la inteligencia artificial. Y es esa breve reflexión la que quisiera compartir en este post,  

Sobre el liderazgo

Antes, un breve alto para hablar de liderazgo.

Sin pretender una definición rigurosa ni académica, podemos considerar que el liderazgo es aquella capacidad o competencia de las personas que les habilita a la influencia o conducción de otras personas hacia el logro de unos objetivos, señalados por ese líder. Y suele adornarse de otras capacidades o habilidades como la visión estratégica, la comunicación, la persuasión y la resiliencia.

Se trata de una capacidad fundamental en muchos ámbitos: el político, el empresarial, el religioso y, en general, en muchas actividades que quizá consideremos menores comparadas con  las anteriores, como pudiera ser la dirección de proyectos.

Por si mismo, el liderazgo se puede considerar una capacidad muy importante y muy positiva y creo que así es, siempre que los objetivos hacia los que dirige el/la líder a sus equipos o a otras personas sean realmente buenos y deseables. 

Algunos líderes

Si ahora pasamos específicamente al campo de la inteligencia artificial reciente y repasamos, en parte con base en el libro citado, algunos líderes del campo de la IA ¿Qué nos encontramos?

Tenemos, por ejemplo, a Demis Hassabiss, el protagonista del libro, un líder visionario y hasta cierto punto idealista, con foco en la AGI ('Artificial General Inteligence') y un especial toque científico. 

Cerca de él, Sundar Pichai, CEO de Alphabet (Google) que parece ser un líder empresarial puro, con foco sobre todo en los resultados de su compañía. 

Por otro tenemos a Sam Altman, en apariencia pura ambición, quién más allá de sus discursos, parece buscar su propia promoción y la de su empresa OpenAI y el dominio del mercado.

Tenemos también a Yann LeCun, también de base científica pero, quizá, dada su ligadura actual con Meta, con ciertos intereses empresariales que le pueden condicionar.

No se si le podemos considerar un líder de la IA, pero conviene no olvidar a Mark Zuckerberg, en apariencia más concentrado, como en el caso de Pichai, en su empresa Meta aunque, en este caso, con una visión ética bastante en entredicho. 

Quizá, podemos añadir a Satya Nadella, de Microsoft, pero, de forma similar a Pichai, actuando más como puro CEO empresarial o también, todavía en el ámbito de Microsoft, a su actual líder en IA, Mustafá Suleyman, procedente de DeepMind y, en apariencia, también con una visión idealista de la IA y centrada en el bien común.

Seguramente se pueda mencionar mencionar alguno más, como Dario Amodei (Anthropic) a caballo, creo, entre la visión empresarial y la ética, a su actual empleado Andrej Karpathy, con visión claramente tecnológica, o en otro ámbito, Andrew Ng, muy moderado y más orientado a la ciencia y la educación. 

¿Es éste el liderazgo que necesitamos?

Y lo que de alguna forma me llamó la atención, lo que quisiera reflejar en este artículo son dos cosas.

Por un lado, destacar el hecho de hasta qué punto, el desarrollo de una disciplina, en este caso la inteligencia artificial, viene marcado por las circunstancias pero, sobre todo, por la visión y la personalidad de personas concretas, los líderes antes mencionados. Es cierto que en un libro como el que me inspira, es fácil que el autor caiga en un cierto tono que voy a llamar 'épico' y que resalte más esas características de los personajes, esos golpes de fortuna o desgracias, esas casualidades que siempre ocurren y cuyo peso real a lo mejor es menor de lo que un libro como éste nos puede hacer pensar. Pero aún así, y sin abandonar esas prevenciones, no deja de llamarme la atención la importancia de personas concretas y, sobre todo, personalidades concretas.

Y la segunda parte de mi reflexión, muy unida a la anterior, es preguntarme si, realmente, es bueno que algo tan importante, tan transformador, tan llamado a condicionar nuestras economías y nuestras vidas ya desde el presente y seguro que en el futuro cercano, como es la inteligencia artificial dependa de tan pocas personas, de tan pocas visiones, personalidades, objetivos y circunstancias.

 Y aunque resulta atractivo y hasta digno de loa el peso que personas concretas, líderes reales, ejerzan su influencia y su liderazgo sobre todo tipo de actividades, en este caso del desarrollo de la inteligencia artificial, no dejo de preguntarme si, desde un punto de vista no sólo económico, técnico y operativo sino también , y quizá especialmente, desde un punto de vista ético, es buena esa concentración en unas pocas cabezas y en unas pocas voluntades del destino que está llamado a ser destino de todos.

Aunque no hablando específicamente de liderazgo, sino más bien de poder, el propio Papa León XIV expresó en su famosa encíclica 'Magnifica Humanitas' su preocupación por la concentración de poder, en lo relativo al desarrollo de la inteligencia artificial, en muy pocas manos. 

Tengo la sensación de que, sin quitar el más mínimo valor al liderazgo, y épicas de narrativa empresarial aparte, no sería mejor un liderazgo más amplio, más compartido, más consensuado y con mayores posibilidades de convertirse en un liderazgo para todos, y un liderazgo seguramente más ético.

Conclusiones

Como en toda actividad humana, en el caso del desarrollo de la inteligencia artificial juega un papel muy importante el liderazgo, con su capacidad para generar visiones y movilizar recursos y voluntades. 

Pero en ese caso específico de la inteligencia artificial, dada su potencia y poder transformador en todos los ámbitos, me pregunto si no sería mejor un liderazgo menos personal, más amplio, más compartido.

Google frente a la IA: tres formas de dilema del innovador

No sé si a los lectores de este blog les habrá pasado lo mismo que a mi pero, probablemente, dentro del panorama del sector tecnológico, contemplado fundamentalmente desde un punto de vista estratégico, desde que OpenAI lanzara ChatGPT ha flotado la pregunta, que personalmente yo mismo me he formulado, de cuál era el posicionamiento Google frente a la IA, cuál su estrategia, cuál su avance técnico real.

¿Está por delante o por detrás de OpenAI o de Antrophic? ¿Arrastra los pies porque no le conviene empujar para no dañar a su negocio de publicidad ligado al buscador o porque, realmente, sus competidores le han superado?

Recientemente, con la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby que se centra en Demis Hassabis como personaje y en DeepMind como empresa he ampliado, y hasta cierto punto cambiado, mi opinión sobre el particular.  

Una estrategia competitiva de Google, quizá no bien percibida

Mi sensación personal, hasta hace bien poco, una sensación más intuitiva que otra cosa pero reforzada por los últimos  avances en Gemini, era que Google estaba 'nadando y guardando la ropa', es decir, que tenía capacidad tecnológica de sobra (incluso con modelos no lanzados o técnicas no publicadas) como para igualar o superar a sus competidores, especialmente OpenAI, cuando quisiera, pero que no pisaba el acelerador para no perjudicar su negocio principal. 

Y pensaba que, en esa estrategia, y una vez que la destrucción de su modelo de negocio basado en el buscador fuese inevitable, se lanzaría a tumba abierta a por el liderazgo en IA. Y mi sensación era que ya estaba empezando a acercarse a ese momento, que ya los últimos modelos Gemini igualaban e incluso superaban a los de OpenAI.

La lectura del libro que menciono, me hace reconsiderar parcialmente esa opinión y pensar que, quizá, sólo quizá, más allá de la protección de su negocio tradicional, realmente a nivel técnico Google fue  superado técnicamente durante un tiempo y sólo ahora está consiguiendo ponerse a la altura.  

En cualquier caso, lo que quiero comentar ahora es una visión más estratégica y de negocio de Google, su eventual dilema del innovador frente a la IA, un planteamiento, como digo, más estratégico que de capacidad tecnológica propiamente dicha.

El dilema del innovador

Antes de volver al caso de Google, recordar en qué consiste el famoso dilema del innovador ('innovator's dilemma').

El dilema del innovador fue descrito por el malogrado Clayton Christensen en su famoso libro del mismo título hace ya muchos años y describía el comportamiento, y el peligro, de empresas asentadas y bien gestionadas ante la llegada de tecnologías disruptivas..

En esencia viene a decir que las empresas asentadas y bien gestionadas tienen dificultades para identificar y apostar por innovaciones disruptivas. y que, precisamente, los mecanismos de decisión que las han llevado al éxito y a ser empresas bien gestionadas son los responsables de esa ceguera y ese error estratégico.

¿Por qué?

Pues porque los mecanismos de decisión se basan en evaluar las posibilidades de una tecnología y su retorno posible. Las tecnologías disruptivas se caracterizan, por un lado, por ser apuestas inciertas y, por otro, por que habitualmente debutan con unas prestaciones inferiores a las tecnologías que podrían sustituir.

Así las cosas, la decisión racional y de buena gestión parece ser desestimarlas y no apostar por ellas. 

Y ese es el error, porque cuando esas tecnologías disruptivas evolucionan y demuestran su verdadera capacidad, la empresa que no apostó por ellas, probablemente se quede fuera del mercado.

Los tres dilemas del innovador de Google frente a la IA

En el libro que indicaba más arriba, 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby, en un momento dado habla abiertamente del dilema del innovador de Google frente a la IA. Para ser más exactos, no habla de un dilema del innovador sino de tres dilemas que lo que describen realmente son tres motivos por los que, en su momento, la adopción de la IA podría perjudicar a su negocio principal. Son los siguientes:

• El dominio de Google en las búsquedas dependía (y depende) de su reputación a la hora de ofrecer información fiable. Por tanto, no podía permitirse lanzar chatbots que dieran información errónea. Y, como sabemos, y especialmente al principio, los chatbots 'alucinaban' con cierta frecuencia.


• Los ingresos de Google depeden de la publicación de anuncios junto a los resultados de búsqueda. No estaba claro, en realidad sigue sin estarlo del todo, cómo se podrían integrar los anuncios en el chat, cómo monetizarlo y cómo seguir manteniendo la posición privilegiada de Google en este campo. Eso tendía a obligar a Google a evitar los chatbots.


• La enorme cuota de mercado de Google, percibida en ocasiones como un monopolio ilegal, se volvería insostenible si la empresa se ganara la antipatía de políticos, periodistas y anunciantes... y se percibía que, eventualmente, podría pasar apostando fuerte por la IA y chatbots basados en ella.

Estos son los tres motivos que, siguiendo a Mallaby, han paralizado a Google, al menos hasta cierto punto y en los dos primeros años tras ChatGPT, y que le han impedido, insisto que capacidad técnica aparte, dar poco más que una respuesta tibia al empuje de OpenAI.

¿Son esto realmente dilemas del innovador?

Los anteriores son motivos que, acertados o no, son razonables para esa cierta parálisis, o al menos lentitud de respuesta de Google ante el empuje de otros actores, muy especialmente OpenAI.

Sin embargo, estrictamente hablando, no creo que se puedan calificar exactamente de un dilema del innovador. Y creo que no porque no se trata de que Google no haya identificado a la IA como una tecnología a la vez valiosa y disruptiva (el verdadero dilema del innovador), sino que una posición, acertada o no, de proteger su negocio tradicional, le ha hecho 'no empujar', no asumir el liderazgo de la IA y dejar ese liderazgo en manos de otros actores, al menos temporalmente.

Si hago caso al libro mencionado, más allá de la posición estratégica, acertada o no, y al contrario de lo que era mi hipótesis, realmente el liderazgo técnico tampoco ha estado durante un tiempo en manos de Google, pese a ser los creadores del mecanismo de la 'atencion' y la arquitectura 'transformer' que han revolucionado toda la IA generativa.

Esto último, sí parece haber cambiado ya en el momento en que escribo estas líneas, momento en que no parece que Google esté por detrás de los otros grandes actores de la IA. Ahora mismo seguramente está más o menos a la par, aunque también es cierto que ya no sólo hablamos de OpenAI, siendo ahora mismo un rival igual de potente, Anthropic y, quien sabe si los modelos de pesos abiertos.

Conclusiones

Aparentemente, hay motivos tanto estratégicos como técnicos que explican por qué Google ha estado algo lento a la hora de responder la agresiva propuesta de Open AI. 

Y, en la parte más estratégica y de negocio, sus precauciones tienen que ver con la protección de su negocio tradicional, algo que, sin ser en mi opinión exactamente lo mismo que el famosos dilema del innovador de Christensen, si guarda algunas semejanzas.