Doce maravillas de la civilización moderna

Te presento una propuesta de maravillas de la civilización moderna y lo hago con un vídeo y una pequeña reflexión.

Déjame que te cuente.

Un momento de reflexión

A veces nos dejamos llevar por el pesimismo, a veces perdemos la fe en la sociedad y en la naturaleza humanas y, con frecuencia, ignoramos, probablemente simplemente porque no pensamos en ello, algunos de sus grandes logros.

Tendemos a ver las limitaciones, los problemas, los riesgos, los errores e incluso las maldades que, por supuesto, existen, no vamos a negarlo.

Pero el ser humano sigue adelante, sigue mejorando, sigue consiguiendo logros, su civilización es cada vez más avanzada y, si, a despecho de lo que a veces nos pueda parecer, también más humana.

De vez en cuando reflexiono sobre algunas cosas que disfrutamos, sobre algunas estructuras técnicas o sociales que son increíbles y que, sin embargo, nos hemos acostumbrado tanto a ellas, las hemos asumido tanto, que no las valoramos ni les prestamos la debida atención. Y, sin embargo, son extraordinarias, son maravillosas.

La iniciativa

Por eso, hace un mes o así se me ocurrió hacer esto, destacar algunas de las maravillas de la civilización moderna, logros que, salvo alguna excepción,  no reciben atención ni mediática ni tampoco individual por parte de cada uno de nosotros. Pero que son consecuciones extraordinarias, que hubieran asombrado, y maravillado, a nuestros antepasados.

En mi idea inicial estaba alguna posibilidad como lanzar primero en mis medios digitales una búsqueda de propuestas por parte de mi red de contactos e intentar luego hacer una selección y concentración. Pero al final, en parte por falta de tiempo, en parte por miedo a no tener apenas respuesta, he decidido, simplemente, dar mi opinión, hacer una propuesta propia.

He seleccionado al final doce realidades que considero asombrosas, maravillosas, de la sociedad moderna, fenómenos y estructuras bastante globales (algunos por desgracia no del todo) y que suponen un enorme avance científico, técnico, social o moral. Como la decisión es absolutamente personal, y debo confesar que ni siquiera le he dedicado un gran tiempo de análisis, es posible, lector, que no estés de acuerdo con alguna de las maravillas o que eches de menos otras.

De cara al primer caso, que no estés de acuerdo, en lo que sigue te explicaré un poco el criterio o porqué considero eso una maravilla. En el segundo caso, echas de menos alguna maravilla, en realidad es fenomenal, porque demuestra que hay aún más maravillas, más cosas a las que apreciar y de las que asombrarse.

Las doce maravillas

Bueno,  ¿y cuáles son esas doce maravillas? Pues propongo las siguientes

• Conectividad global
• Sociedad de la información
• Inteligencia artificial
• Biotecnología
• Medicina y farmacia
• Suministros hasta el hogar (agua potable, electricidad, gas)
• Conquista del espacio
• Alfabetización y educación
• Espíritu deportivo
• Democracia y estado de derecho
• Sistemas de protección social
• Misiones y voluntariado

A continuación te explico brevemente en qué consisten y por qué las considero maravillosas.

Conectividad global

Creo que, en efecto, la conectividad de que disponemos es algo extraordinario. Es increíble que hayamos sido capaces de interconectar prácticamente todo el mundo, usando diferentes tipos de redes (fijas, móviles y satélite). Es increíble que podamos hablar en la distancia, enviarnos mensajes y correos, compartir fotografías y vídeos y todo ello en tiempo real. Es increíble haber construido toda esa infraestructura a nivel mundial, ser capaces de mantenerla y hacerla una infraestructura robusta con poquísimos fallos, y que exista interoperabilidad de forma que se perciba como una red única. Es increíble ser capaces de comunicarnos en tiempo real en cualquier parte del globo, en cualquier momento. Creo que no nos damos cuenta de lo increíble que es Internet y la redes en que se apoya y lo que habilita y potencia otros avances.

Sociedad de la información

Igualmente, creo que no valoramos del todo la maravilla que supone todo el mundo digital, todo lo que en algún momento se llamó sociedad de la información, término ya bastante en desuso, e incluso vivir plenamente hoy en día lo que en el año 2000 se denominaba 'nueva economía' y que entonces parecía un sueño, maravilloso, pero un sueño.

Creo que no nos damos cuenta de cómo lo digital y los sistemas de información han transformado el mundo, todo lo que nos añaden en forma de acceso a la información y conocimeinto, de dinamización de la economía, de eficiencia, de ocio y diversión, de mecanismos de participación e interacción.

Si hace treinta años hubiésemos podido contemplar el mundo digital actual, creo que no nos lo creeríamos.

Inteligencia artificial

Quizá, de las maravillas que menciono, ésta es la única que sí que recibe muchísimo foco mediático, eso si, con frecuencia no con los menajes correctos ni adecuados. La inteligencia artificial´, muy especialmente en su variante generativa, es una tecnología casi mágica, de una potencia extraordinaria, transversal, muy fácil de usar, y con una enorme capacidad de transformación, que ya estamos viendo y más que veremos en los próximos años.

De esta maravilla, creo que sí somos conscientes, pero no podía por ello dejar de incluirla.

Biotecnología

Y no todo es digital, los avances en tecnologías biológicas, muy especialmente lo que tiene que ver con la genética son, no sólo increíbles, es que además abren unas puertas extraordinarias en ámbitos como la salud, la agricultura y ganadería, la producción de alimentos, tan necesaria, y muchísimo más.

Medicina y farmacia

Y somos herederos, pero continuamos desarrollando, todo lo que tiene que ver con el diagnóstico y tratamiento de enfermedades y alteraciones de la salud y nuestras condiciones físicas y mentales. Cada vez hay más potentes mecanismos de diagnóstico, más fármacos,  más vacunas, más técnica y tecnología quirúrgica, mas conocimiento sobre prevención. Y disponemos no sólo de la ciencia y la técnica sino también de la organización para, por ejemplo, la realización de trasplantes.

El extraordinario alargamiento de la esperanza de vida se debe, en buena medida a todos estos avances. Algo que valoramos mucho cuando lo necesitamos, pero quizá no tanto en otros momentos y, sobre todo, que quizá no valoramos como un enorme y maravilloso avance para la humanidad.

Suministro hasta el hogar (agua potable, electricidad, gas)

Quizá una de las maravillas más inadvertidas de las que propongo sea ésta, la que cae bajo el paraguas de las denominadas 'utilities': el disponer en una gran parte de hogares del mundo de un suministro constante y fiable de agua potable y de energía en forma de gas y electricidad (a lo que se añadiría las comunicaciones). Está tan presente, al menos en los países desarrollados que no lo valoramos pero es un avance extraordinario. No se trata sólo de comodidad y eficiencia, es que, en el caso del agua potable, en el fondo es también un tema de higiene y salud.

Y, de nuevo, de forma parecida a como ocurría con la conectividad, se apoya en unas infraestructuras de redes complejas que es preciso desplegar, operar y mantener... y hacerlo de manera robusta. Y lo hacemos, de hecho. Y por más acostumbrados que estemos a ello, debemos reconocer que es fantástico, asombroso.

Conquista del espacio

Espectacular, y quizá por eso sí algo más valorado, es la capacidad de realizar viajes espaciales, es haber sido capaces de haber puesto el pie en la Luna y estarlo planeando en Marte, es ser capaces de enviar sondas y exploradores a planetas mucho más lejanos e incluso fuera de nuestro sistema solar.

Y aunque no exento de algunos riesgos, es increíble ser capaces de tener en órbita de manera estable una estación espacial (la estación internacional) y todos los satélites que proporcionan todo tipo de servicios.

Alfabetización y educación

Saltando ya a un ámbito más social, otra maravilla, aunque por desgracia no es del todo global, son los altos niveles de alfabetización y la provisión de educación de manera generalizada a la población. Algo que queda patente su se compara con los niveles de alfabetización de tan sólo unas décadas atrás. 

El desarrollo y realización de las personas y también el propio progreso de las naciones depende en buena medida de esto, de el nivel de educación. Aunque en este asunto no hemos alcanzado la globalidad, sí que creo que los avances y la generalización conseguidas hasta la fecha, son suficientes como para considerarlo una maravilla.

Espíritu deportivo

Esta propuesta quizá pueda sorprender y, a lo mejor, estoy influido por mi propio disfrute y aprecio de la actividad deportiva. Sin embargo, creo que el deporte y, sobre todo, el espíritu deportivo, cuando se interpreta correctamente muestra una de las mejores caras del ser humano.

Esa mezcla, por una parte de autoexigencia, de espíritu de superación del deportista individual, unido al trabajo en equipo en los deportes en que aplica y, sobre todo al respeto profundo por el rival e, incluso la camaradería con ese rival, es una de las expresiones más bellas de voluntad, excelencia e incluso diría que bondad. Y es maravillosa. 

Al menos, eso me parece a mi.

Democracia y estado de derecho 

Por desgracia no presente en todo el planeta, e incluso enfrentada a culturas que no la valoran, creo que la existencia de la democracia y el estado de derecho es extraordinaria y la forma más avanzada, y más humana, de organización política y social que conocemos, al menos por el momento. Y todo ello, fundamentalmente por dos grandes valores que la acompañan.

Por un lado la libertad, que permite la tranquilidad de espíritu, el desarrollo personal y social e, incluso el disfrute.

Por otro, la ley y el estado de derecho, el reconocimiento y la garantía de respeto a la persona y sus derechos y libertades, la eliminación de la arbitrariedad. Eso nos aporta ética, seguridad, tranquilidad y es una plataforma liberadora también para poder concentrar las energías y esfuerzos en cosas mucho más valiosas que defenderse.

El derecho nos viene de muy antiguo, no es realmente moderno, pero su interpretación y su unión con los regímenes democráticos es actual, y es potente y maravilloso. 

Sistemas de protección social

Como extraordinario es, y ojalá que podamos mantenerlo, todo lo que tiene que ver con la protección social, lo que se ha dado a veces en denominar 'el estado del bienestar': la ayuda y protección a personas y colectivos cuando situaciones vitales crónicas o puntuales, les ponen en posición de debilidad o de vulnerabilidad. Todo lo que tiene que ver con la atención sanitaria universal, con la atención a mayores y su protección incluyendo jubilaciones, los subsidios para situaciones especiales como el desempleo o la discapacidad, son, por un lado, una manifestación de generosidad y, por otra parte, una garantía del mantenimiento de una vida en condiciones de dignidad.

Un gran tesoro, por desgracia sólo plenamente implantado en general en países desarrollados, e incluso en ellos, en riesgo. Una maravilla de la sociedad moderna que deberíamos luchar por conservar y por extender. 

Misiones y voluntariado

Y, cuando no llegan los estados, tenemos el voluntariado, con una primera manifestación, ya secular, en forma de misiones que, pese a su raíz ligada a la religión se transforma casi más en un mecanismo de ayuda y acción social, cada vez más apoyado por un voluntariado más seglar, pero compartiendo ambos una enorme generosidad y constituyendo también una de las más altas manifestaciones de la bondad humana. 

El video

Y, explicadas las propuestas y antes de terminar, sólo dejar aquí el vídeo que recoge, en dos minutos y medio, el resumen de estas doce maravillas

Conclusiones

No ignoro que, asociada a alguna de esas maravillas también hay riesgos, riesgos a gestionar, pero eso no les resta, al menos no en mi opinión, su carácter extraordinario y maravilloso.

Tampoco ignoro que esta selección de doce maravillas es subjetiva y en cierto sentido arbitraria, que seguramente pueda estar sujeta a revisión o ampliación, pero, como se suele decir, creo que, riesgos aparte, 'son todas las que están' y si no 'están todas las que son', a lo mejor esta iniciativa puede ser susceptible de revisión, quizá el año que viene, pero, sobre todo,  si realmente no 'están todas las que son', si aún hay más maravillas, eso no hace más que reforzar el mensaje optimista y de confianza en la humanidad que me gustará transmitir.

 

Revisitando el problema de la explicabilidad en LLMs y modelos razonadores

Uno de los grandes desafíos éticos cuando hablamos de inteligencia artificial es el de la explicabilidad, un problema que, por desgracia, se ha demostrado técnicamente muy difícil de resolver... al menos hasta el momento.

En una reflexión que tuve hace unos días, llegué a la conclusión de que el problema de la explicabilidad de los algoritmos de IA, presenta unas características muy particulares en el caso de los grandes modelos de lenguaje (LLM, 'Large Language Models') o, en general, en los modelos fundacionales.

Aunque hay algunos aspectos en los que todavía tengo pendiente profundizar, sí quisiera comentar en este post algunas de las particularidades que percibo, algunas reflexiones o incluso preguntas abiertas que me gustaría formular... y una esperanza.

En realidad, se trata de un tema que ya traté hace un tiempo en el post 'La explicabilidad en los grandes modelos de lenguaje' y, de hecho, bastantes de las consideraciones que voy a hacer se pueden encontrar ya en ese artículo, pero de todas formas, quisiera reformular un poco y ampliar lo que allí expresé y proporcionar alguna nueva y esperanzadora perspectiva.

El problema de la explicabilidad

Antes de seguir, y aunque asumo que la mayor parte de los lectores de este post tienen alguna noción sobre el problema de la explicabilidad, realizaré un muy breve repaso.

Como es bien sabido, los algoritmos de inteligencia artificial realizan cada vez mayor número de tareas. Dentro de estas tareas se incluyen muchas que suponen la toma de decisiones. Lo que la explicabilidad de la inteligencia artificial reclama es que el algoritmo pueda explicar en qué basa sus decisiones. Añado de mi cosecha, que esa explicación debe realizarse en términos comprensibles por los humanos.

En el vasto panorama de algoritmos de inteligencia artificial, algunos son claramente explicables, como es el caso de los árboles de decisión, pero otros son claramente e intrínsecamente no explicables, como es el caso de las redes neuronales.

El problema se agrava porque los algoritmos más comunes, más sofisticados, más importantes de hoy en día, son variantes arquitectónicas de redes neuronales. Es decir, los algoritmos que dominan la inteligencia artificial actual, son en principio no explicables.

Además, conviene resaltar que no es que no sean explicables por alguna decisión arbitraria y 'malvada' de un directivo, ingeniero o desarrollador... es que intrínsecamente son así, no explicables. 

Dos opiniones propias: el determinismo y el sentido común

En otras ocasiones  he defendido dos ideas que quisiera traer a colación ahora.

Por un lado el determinismo. Esta idea la defendía en el post que, provocativa e intencionadamente, titulé 'Los algoritmos de Inteligencia Artificial sí saben explicarse'.  Lo que ahí defiendo es que los algoritmos de inteligencia artificial (incluyendo las redes neuronales), son deterministas (misma entrada implica misma salida) y, por tanto, pueden explicar perfectamente por qué obtienen un resultado, por qué llegan a una decisión. ¿Es esto una contradicción? No, realmente. Lo que ahí expreso es que, aunque se pueden explicar perfectamente, lo hacen en términos que los humanos no pueden entender, no pueden contraargumentar y no se pueden recurrir legalmente. Por tanto, aunque en el fondo sean explicables (por ser deterministas), a efectos prácticos no lo son.

Por cierto, que la afirmación de que son deterministas puede sorprender cuando, por ejemplo en el caso de los LLMs de que luego hablaremos se afirma, y correctamente, que son probabilistas. Esto precisa unas explicaciones y matizaciones que no voy a a hacer ahora, sino que pospongo para un futuro post específico sobre el particular.

La otra opinión, que ya no es técnica sino legal y práctica, es la que tiene que ver con el sentido común, y ésta la defendí, por ejemplo, en el último capítulo de mi libro 'Robots en la sombra'. Lo que ahí decía era que no tiene sentido exigir la explicabilidad de los algoritmos sin más ni más. Para decisiones de naturaleza práctica, técnica u operativa (ej. el reconocimiento de una matrícula en un coche y la apertura de la barrera del parking), nos basta con que sean eficaces y eficientes, con que den buenos resultados y, al menos desde el punto de vista ético y legal, no tiene sentido exigir la explicabilidad. La explicabilidad pueden y quizá deben exigirse en decisiones 'delicadas' como la selección de candidatos, la concesión de préstamos o seguros, la sentencia de un juicio (un escenario hoy día no real) y cosas así.

El enfoque legal

Desde Julio de 2024, en Europa la referencia obligada en términos legales sobre la inteligencia artificial es la AI Act o RIA ('Reglamento de Inteligencia Artificial'),  un documento que me encuentro precisamente estos días leyendo despacio e intentando analizar y entender.

Curiosamente, en el texto de la RIA no aparece el término 'explicabilidad' más que una vez, en el considerando 27, y como referencia a los principios éticos identificados por el grupo de expertos de alto nivel en y recogidos en el documento 'Directrices éticas para una IA fiable'.

A cambio, se habla de transparencia y bajo este término se pide que el usuario sepa claramente que está interactuando con una inteligencia artificial o que se identifiquen claramente los contenidos generados mediante inteligencia artificial. También bajo el paraguas de este término se habla de proporcionar la documentación técnica del algoritmo, y sí, en su artículo 13 exige cierta documentación (aunque parece que no de mucho detalle) para el caso de los sistemas de alto riesgo.

Por otro lado habla también de  interpretabilidad: y, en este caso, se pide que los resultados sean entendibles e interpretables por los humanos, y no sólo los resultados, sino cómo se ha llegado a esa conclusión o decisión.

Sinceramente, en este momento, no me queda claro si la RIA exige una explicabilidad 'profunda', es decir, que el algoritmo pueda explicar detalladamente sus decisiones o se conforma con una cierta documentación y explicación comprensibles.

Y esta duda es importante resolverla para darnos cuenta de cómo de realista es la exigencia y, sobre todo, cómo afecta a los grandes modelos de lenguaje.

Algunas soluciones tradicionales. El caso de los modelos proxy

Algunas de las soluciones técnicas que se han propuesto para resolver el problema de la explicabilidad, especialmente en el caso de redes neuronales, pasan, por ejemplo, por entender el impacto en la salida de modificar una entrada, o conocer cuánto habría que modificar una entrada para cambiar la decisión de salida. Creo que son propuestas interesantes pero que, aunque ayudan a entender el algoritmo y su funcionamiento (a hacerlo un poco menos 'caja negra')  realmente no resuelven la explicabilidad ya que, de forma general, no pueden responder a por qué toman sus decisiones aunque, a toro pasado, y en un estudio detallado, quizá se podría llegar a determinar cómo se tomo una decisión concreta.

Otras soluciones pasan por los modelos proxy, es decir, poner en paralelo un modelo explicable (como un árbol de decisión) con el no explicable (red neuronal) consiguiendo que den resultados similares y usar la explicación del modelo explicable (en este caso, el árbol de decisión).

Tampoco me convence por dos motivos.

En primer lugar, si usamos redes neuronales es porque son más ricas y potentes que modelos como un árbol de decisión, con lo cual estrictamente no se puede conseguir un verdadero modelo paralelo (si fuese posible, optaríamos directamente por el árbol de decisión, y no por la red neuronal).

Y, en segundo lugar, incluso si el modelo paralelo funcionase bien, estrictamente no estaría explicando la decisión del modelo real. Ofrecería una explicación plausible y comprensible de cómo, quizá, ha razonado la red neuronal...pero estrictamente seguimos sin saber si la red neuronal ha funcionado así o no, con lo que realmente no estamos dando la verdadera explicación.

Los LLMs: explicabilidad intrínseca y explicabilidad mediante prompts

Y pasamos ya al caso de los grandes modelos de lenguaje.

Supongo que muchos lectores de este blog ya lo saben pero, por si acaso, es importante recordar que todos los grandes modelos de lenguaje actual, probablemente todos o casi todos los modelos generativos, se basan en redes neuronales y, por tanto, son intrínsecamente no explicables.

Y, sin embargo, si en lugar de mirar su funcionamiento interno, nos fijamos en su comportamiento externo, un modelo de lenguaje, además de proporcionar respuestas perfectamente interpretables, también nos puede proporcionar, si se lo pedimos, y de nuevo de forma perfectamente entendible, una explicación de su respuesta.    

Técnicas de promting orientadas a la explicabilidad

No sólo eso,  existe técnicas de prompting como el 'Few-Shot prompt' orientadas, en este caso mediante ejemplos, a guiar el razonamiento del modelo de lenguaje. 

Y aún más: otras técnicas de 'prompting' bien conocidas , como el Chain-Of-Thought o 'Self Consistency, no sólo guían el razonamiento de un modelo de lenguaje sino también la explicación que nos proporciona sobre cómo ha llegad a sus conclusiones.

¿Es eso explicabilidad? ¿Está resuelto el problema?

Las explicaciones de un LLM como un proxy

Bueno, creo que sí y no.

Creo que las explicaciones que se obtienen mediante prompting actúan realmente como una suerte de modelo proxy (como el árbol de decisión en paralelo con una red neuronal). Es decir, nos dan una explicación interpretable y plausible de cómo resolver el problema o cómo se ha adoptado la decisión... y una explicación que probablemente en muchísimos casos es correcta, válida y realista.

Pero una explicación que, en el fondo, no refleja el verdadero funcionamiento del modelo de lenguaje y, por tanto, estrictamente hablando, no explica realmente cómo ha llegado a la decisión. Y una explicación que, como cualquier salida de un modelo de lenguaje, también puede ser 'una alucinación'.

La gran pregunta ética y legal

Llegados a este punto, la gran pregunta es: ¿aceptamos como explicabilidad, tanto desde un punto de vista ético como legal esas explicaciones proxy que proporciona un LLM?

Quizá la respuesta dependería de que se pudiese demostrar que en un alto, altísimo porcentaje de los casos (que probablemente debería ser un 99 coma muchos nueves), esa explicación proxy es realista y que, si aplicásemos ese razonamiento que nos ofrece el LLM, llegaríamos a la misma conclusión que el propio LLM.

Y puede, incluso, que ya estemos en ese punto, pero puede que tengamos, incluso, una opción mejor.

Explicabilidad y modelos razonadores: ¿la gran esperanza blanca?

Un caso que quisiera mencionar, pero del cual necesito más información para juzgar (y me refiero no a explicaciones pedagógicas o comerciales superficiales, sino a información técnica de cierto nivel de detalle de la que aún no dispongo), es el caso de los llamados modelos razonadores, tan importantes ahora mismo y que sirven como base de los tan traídos y llevados agentes.

Este tipo de modelos (el propio GPT5 recién lanzado incluye un modo razonador) generan y siguen un procesos lógicos de razonamiento, unos procesos que, además, pueden revisar y cuestionar según avanzan y observan resultados. De hecho, en el entrenamiento de este tipo de modelos se utilizan, hasta donde sé, algunas de las técnicas de prompting orientadas a razonamiento que hemos mencionado (como el 'Chain-of-Thought').

Según cómo se encuentre implementado este razonamiento, las explicaciones que pudiesen dar esos modelos razonadores sobre cómo han llegado a una decisión sí que podría ser una verdadera explicación, y no sólo un proxy de la misma. Y si eso fuese así, quizá, quizá, podría considerarse resuelto el problema de la explicabilidad en los grandes modelos de lenguaje y los modelos fundacionales.

Y dado que actualmente, y parece que así será en el futuro, este tipo de modelos van a ser ubicuos en las soluciones de inteligencia artificial, a lo mejor podemos dar casi por resuelto el problema de la explicabilidad ... lo cual sería, dicho sea paso, absolutamente 'alucinante'.

En el título del epígrafe hablo de 'gran esperanza blanca'. Tengo mucho interés en profundizar en el conocimiento técnico interno de los modelos razonadores y tengo mucha curiosidad sobre la posición regulatoria respecto a los mismos en materia de explicabilidad.

Preventivamente, no quiero ni mucho menos dejarme llevar por el optimismo, pero si las respuestas a ese interés técnico y esa curiosidad regulatoria son positivas, y dado que los modelos razonadores ya están aquí, es posible que no estemos hablando de sólo de una esperanza, sino de un extraordinaria realidad.

Conclusiones

El problema de la explicabilidad ha sido uno de los grandes retos éticos ligados a la inteligencia artificial, un reto que, en el caso de las redes neuronales ha sido hasta ahora casi inabordable desde un punto de vista técnico.

La llegada de los grandes modelos de lenguaje abre otra forma de enfocar la explicabilidad, una forma que podría dar por válida la explicabilidad proxy ofrecida por estos modelos pero que, en el caso de los modelos razonadores, pudiera incluso, llegar ya a ser una solución prácticamente definitiva.

Riesgo, ley y responsabilidad: reflexiones sobre un caso desgraciado ligado a ChatGPT

La semana pasada cobró relevancia mediática unos hecho desgraciado: la muerte (que en realidad se produjo en Abril de este año) de un adolescente norteamericano, Adam Raine de dieciséis años, y la interposición de una demanda, ésa sí ocurrida la semana pasada, por parte de sus padres, Matt y María, contra OpenAI, indicando que ChatGPT había inducido a su hijo al suicidio y acusando a la empresa de Sam Altman de negligencia y muerte por negligencia.

Tanto la terrible noticia, como los comentarios que he podido leer al respecto me han hecho pensar sobre varios aspectos, que he querido recoger en este post.

A modo de 'disclaimer'

Antes de comenzar, sólo indicar que los temas que voy a tratar en este post son delicados, que probablemente no todos los lectores estén de acuerdo con lo que digo y que, en el fondo, también me falta algo de información.

Invito al lector, pues, a mantener mente abierta y, en el probable caso de que esté en desacuerdo con lo que digo y lo quiera expresar con comentarios, lo haga también desde la prudencia y el respeto.

Indicar, además, y como insistiré luego, que lo escribo en la seguridad de que, al tratarse de un post en español y escrito en España, y del que a propósito he excluido de su título la mención a Adam Raine, su contenido no llegará a las personas directamente afectadas por este caso, y a las que no quiero, evidentemente, causar más dolor. 

Los hechos

No poseo una descripción detallada de los sucedido, sino sólo algunos artículos en prensa como el publicado por la BBC 'Los padres de un adolescente que se quitó la vida demandan a OpenAI, creadora de ChatGPT'.

En esencia se indica que Adam comenzó a usar ChatGPT inicialmente como ayuda en sus estudios y consultas más o menos ligeras sobre sus intereses pero que, poco a poco, se fue adentrando en temáticas más personales, usando a ChatGPT como una suerte de amigo o confidente y llegando a conversar sobre la posibilidad del suicidio. Un suicidio que, finalmente, y desgraciadamente, se produjo.

Se indica también que ChatGPT indujo a Adam a aislarse del resto de sus relaciones humanas, que de hecho al final Adam se pasaba del orden de cuatro horas conversando con ChatGPT y que ChatGPT animó de alguna manera al chico a ese suicidio.

En la demanda interpuesta por los padres contra OpenAI se adjuntan los chats que presuntamente demuestran todo esto.

La responsabilidad legal de Open AI

¿Es legalmente responsable Open AI de estos hechos?

La responsabilidad legal, como es lógico, depende de las leyes y sistema legal aplicable, en este caso el norteamericano, y quién únicamente puede decidir la responsabilidad legal es el juez y/o jurado (si aplica) que se asignen al caso.

No tengo suficientes conocimientos ni legales en general, ni del sistema legal norteamericano en particular, como para asegurar nada, pero la intuición me dice que sí, que Open AI será condenada a indemnizar a la familia Raine y eso lo digo porque, hasta donde se me alcanza, en el sistema legal americano se castiga mucho el daño a terceros y, aunque ahora no soy capaz de recordar un caso concreto, sí he tenido conocimiento de sentencias que obligaban a indemnizar incluso en situaciones que en España consideraríamos casi disparatadas. En cualquier caso, esto es sólo una apuesta mía, nada más.

Además, no creo que Open AI vaya a extremar su defensa, porque, en el fondo, ya ha reconocido algunos fallos y porque, consideraciones éticas y legales aparte, creo que no le conviene

Tampoco me extrañaría en exceso un acuerdo extrajudicial que incluyese la indemnización.

En cualquier caso, todo estos son, como digo, apuestas por mi parte, sin mucha base, y el tiempo y los hechos dirán. 

La responsabilidad moral de Open AI... hasta ahora

Más allá de la responsabilidad legal ¿Qué responsabilidad moral tiene Open AI?

Cuando hablo de responsabilidad me encuentro que la palabra 'responsable' en español abarca demasiado (frente al caso del inglés en que distingue 'responsibility', 'liability', etc).

Voy a plantear dos visiones:

Si hablamos de responsabilidad como rendición de cuentas, como, dicho familiarmente, 'dar la cara', ante la sociedad y ante un juzgado, explicar cómo entrenó a ChatGPT y qué precauciones ha tomado para evitar situaciones como las de este caso, por supuesto que sí tiene responsabilidad.

Si entendemos responsabilidad como 'culpabilidad', creo que eso dependerá de hasta qué punto Open AI fuese conocedora de este riesgo y hasta qué punto fuese diligente en intentar mitigarlo. Y eso, supongo, que se tratará en el juicio por esta demanda, si es que lo hay. Si tomó todas las medidas razonables para evitar este caso y no lo consiguió, creo que moralmente no sería culpable, lo cual no quiere decir que no sea responsable, y aún menos que legalmente no pueda ser acusada e incluso condenada por negligencia.

El interés de Open AI

Decía más arriba, al hablar de los elementos legales, que no pensaba que Open AI fuese a extremar su defensa y que no me extrañaría un acuerdo extrajudicial.

¿Por qué?

Pues porque, y a lo mejor en esto también me equivoco, creo que Open AI no tiene ningún interés en que se produzcan hechos como el desgraciado caso de Adam Rainer.

Por un lado, y aunque es fácil demonizar a una empresa como Open AI en un caso como el que nos ocupa, las empresas en el fondo son personas. No me puedo imaginar a ninguna persona de Open AI, empezando por Sam Altman y siguiendo hasta el último empleado, a los que no les importe, a los que no duela una muerte presuntamente impulsada por su producto estrella. Y tampoco me puedo imaginar que, si son conscientes del riesgo, simplemente 'pasen', si se me permite decirlo de forma familiar. No conozco a Open AI y sus empleados, pero, por principio, confío en ese mínimo de buenos sentimientos,

Incluso si pensamos en Open AI como una organización, como algo abstracto y frío que sólo busca maximizar beneficios, no creo que le convenga para nada la mala reputación que un caso como este le puede acarrear. O peor aún para su negocio, que se empiece a considerar ChatGPT como una aplicación peligrosa cuyo uso hay que limitar o que conviene evitar.

Por eso creo que, aunque supongo que intentará rechazar la idea de negligencia, y aunque supongo que puede luchar por que la indemnización no sea de exageradas proporciones, lo que no creo que luche es por no indemnizar a la familia Raine o por no comprometerse a adoptar nuevas medidas de seguridad en ChatGPT en el futuro inmediato. 

Narrativas equivocadas

Un caso como el de Adam Raine es doloroso, y supone un aldabonazo a las conciencias y una llamada de atención. No sólo eso, reclama acción para que no vuelva a suceder.

Sin embargo, creo que hay que ser prudentes y responsables con los discursos sobre este tipo de situaciones.

Hace pocos días me encontré una publicación del 'Center for Humane Technology' en LinkedIn en que se comentaba brevemente este asunto y, sobre todo, se anunciaba, usando un breve vídeo, un episodio creo que de un podcast.

Y debo confesar que, aunque no voy a dudar de sus buenas intenciones, no me gustó cómo lo planteaban. Así, por ejemplo, en el texto de la publicación en LinkedIn se decía:

The AI preyed on his vulnerabilities, isolated him from his friends, and gave him detailed instructions on how to hurt himself. 

Y, en el vídeo donde se mostraba un breve fragmento de la entrevista a Camille Carton, ésta decía, en un pasaje.

ChatGPT actively worked to displace Adam's real life relationships with his family and loved ones

Destaco dos verbos 'preyed on' y 'actively worked'. Hablar de esta forma de una solución de inteligencia artificial, en este caso ChatGPT, es presentarla como si tuviera alguna forma de personalidad e intención, intención malvada, además.

Seamos claros: ChatGPT no tienen ningún tipo de voluntad ni de intención, En absoluto. 'No sabe' lo que está 'diciendo'. Es meramente probabilista y se guía por lo que el usuario introduce y por el contexto incluyendo el historial de la conversación.

Atribuir, o insinuar, una intención a una solución de inteligencia artificial es alimentar una fantasía y desenfocar el problema.

Otra frase que aparece en el texto de la publicación dice literalmente

what Adam's story reveals about the dark design of today's AI models

No me gusta, en este caso, el uso de 'dark design'. Me parece que está juzgando y condenando, en este caso a Open AI, y atribuyéndole también en este caso, intenciones culpables e incluso delictivas, como si intencionalmente se hiciesen diseños a sabiendas de que son peligrosos. 

Los jueces dictarán si en este caso es así, pero no creo que se deba afirmar a la ligera y además aplicado en general a los modelos de inteligencia artificial.

La responsabilidad de las personas

Lo que escribo a continuación es delicado, y lo hago por un lado desde el respeto y, por otro, y como decía en el 'disclaimer' inicial, en la absoluta confianza de que no será leído por la familia Raine, porque lo último que quiero es hacer ningún tipo de daño. Pero creo que hay cosas que debemos plantearnos.

El caso es que hay otro aspecto, en este caso indirecto, que me sugiere la publicación del Center for Humane Technology que mencionaba antes: aunque no se dice explícitamente: toda la responsabilidad y toda la presunta culpabilidad se descarga en el lado de Open AI.

Y yo me pregunto: ¿Sólo de Open AI?

Existe por un lado la responsabilidad individual. Cada uno de nosotros somos también responsables de nuestro comportamiento y en este caso del uso que hacemos de la tecnología. Aunque sea muy duro decirlo en este caso, quizá el propio Adam debiera haber sido consciente de que no era muy normal estar cuatro horas al día interactuando con ChatGPT, aislándose del resto del mundo y siguiendo su consejo en según qué temas. Debería ser consciente él se lo deberían haber dicho. Es cierto que la adolescencia es un periodo pleno de inseguridades y sin madurez psicológica, pero creo debemos educar y educarnos para ser capaces de gestionar nuestra relación con las tecnologías.

Más importante: ¿Y su entorno? ¿Y sus padres, sus amigos, sus educadores? ¿No notaron nada raro en todo el proceso?

¿Todo el problema fue ChatGPT?

No quiero profundizar más porque creo sólo puede causar dolor, y, en el fondo, lo que quiero decir me parece que queda claro.

Los límites del riesgo

Un poco al hilo de lo anterior, creo que también debemos ser conscientes que casi cualquier actividad humana y, en particular cualquier tecnología, entraña algunos riesgos.

Ir a la montaña tienes sus peligros, y de hecho de vez en cuando tenemos noticias desgraciadas de muertes de montañeros o senderistas. ¿Debemos prohibir la escalada o el senderismo?

Sabemos que los accidentes de tráfico son una de las mayores causas de mortalidad, sabemos que los aviones de vez en cuando sufren accidentes, que los barcos a veces se hunden. ¿Debemos prohibir coches, aviones y barcos?

Por desgracia, pocas cosas hay exentas de riesgo, incluso de riesgo mortal. Y no por ello renunciamos a todo ello.

Lo que es exigible, y también en este caso, es ser metódicos y responsables, identificando riesgos y tomando las medidas para reducirlos a un mínimo razonable y admisible. En el fondo, la presunta culpabilidad de Open AI y su eventual negligencia en este caso, dependerá en buena medida de si puede mostrar o no que realizó un análisis de riesgo suficientemente concienzudo y si adoptó o no las medidas correctoras razonables para mitigarlo. 

El control de sistemas generalistas

Ese análisis y mitigación de riesgos es más claro en soluciones tecnológicas con casos de uso muy acotados.

En el caso que nos ocupa, ChatGPT, el tema me parece más complejo, porque los casos de uso son casi infinitos. Me parece difícil, puede que imposible, prever en todas las formas, en todos los contextos y con todas las informaciones que puede ser usado. Y me parece muy difícil prever todos los comportamientos posibles de un usuario frente a ChatGPT. En el fondo, ese es parte de su valor.

En ese sentido, supongo que, por un lado, hay que intentar estrategias genéricas para eliminar usos indebidos o maliciosos y, por otro, concretar en los casos de uso concretos, conocidos y más peligrosos para tomar medidas mitigadoras específicas. Pero no creo que se pueda prever todo ni eliminar el riesgo de forma absoluta, sólo reducirlo a límites tolerables.

¿Era este caso de uso, el de Adam, algo previsto o no? Hoy en día ya sabemos que, en efecto, usar ChatGPT como una especie de terapeuta psicológico, o confidente, o puede que incluso amigo, es muy común, especialmente entre adolescentes, así que hay que urge tomar medidas protectoras específicas.

¿Era previsible ese uso hace un año o dos? 

La responsabilidad moral de Open AI a partir de ahora

Cuando hablaba más arriba de la responsabilidad moral de Open AI, sobre todo en el sentido de culpabilidad, en cierto sentido lo dejaba en el aire, porque dependía de hasta qué punto Open AI era consciente de este posible uso como confidente e incluyendo la temática de suicidio y si, con lo que se sabía, se habían tomado medidas de mitigación adecuadas.

Pero a partir de ahora ya no hay duda. A partir de ahora esta situación es conocida y está documentada. A partir de ahora Open AI, y quien dice Open AI dice Microsoft, Google, Anthropic, etc, tienen la obligación moral de tomar todas las medidas posibles para que un caso como el de Adam Raine no vuelva a suceder.

Conclusiones

El doloroso caso de Adam Raine, independientemente de cómo termine la demanda, nos ilustra la necesidad de tomar más precauciones, más medidas de seguridad, y puede que regulatorias, en los sistemas conversacionales basados en modelos de lenguaje.

Sin embargo, no conviene recurrir, o al menos esa es mi opinión, a narrativas engañosas, no conviene olvidar que el riesgo es casi imposible de erradicar plenamente y, sobre todo, sobre todo, que jamás debemos de renunciar a nuestro propio juicio y a nuestra responsabilidad personal e individual, en toda nuestra actividad, incluyendo el uso que hacemos de la inteligencia artificial y la tecnología.

Grandes modelos de lenguaje y el derecho al olvido

Uno de los derechos de que se habla mucho en el mundo digital, con frecuencia ligado a los aspectos de privacidad, es el del derecho al olvido.

Este derecho, se podría ver comprometido, de una forma quizá insospechada, por la existencia y el uso de los grandes modelos de lenguaje o de los modelos fundacionales en general.

Antes de abordar el problema, dos breves incisos: uno para comentar en qué consiste eso del 'derecho al olvido' y otro para recordar brevemente cómo se produce el entrenamiento de los grandes modelos de lenguaje (LLM, 'Large Language Models').

El derecho al olvido

No soy jurista, así que no pretendo aportar una definición rigurosa, sólo introducir la idea por si algún lector no estuviese familiarizado con ella. Solicito ayuda a ChatGPT y obtengo una explicación que me parece perfectamente ajustada a lo que quería explicar. Me dice:

El derecho al olvido es un concepto legal y de privacidad que permite a las personas solicitar la eliminación de información personal de los motores de búsqueda, bases de datos y otras fuentes digitales cuando dicha información ya no es relevante, es inexacta o afecta negativamente su reputación. Se origina en el derecho a la protección de datos personales y la privacidad.

En efecto, esa es la idea: debido a nuestra interacción con los medios digitales, y muy especialmente, aunque no únicamente, con redes sociales, existe o puede existir una gran información en la red sobre nosotros, en muchos casos mucha información que hemos aportado voluntariamente y, en ciertos casos, una información que incluye datos personales o que posibilita la identificación.

En cualquier caso, incluso en el caso de información no personal, es posible que, en un momento dado prefiramos que esa información deje de estar en la red. El derecho al olvido, en buena medida, creo, apoyado en el caso europeo en el RGPD (Reglamento General de Protección de Datos), pretende proteger ese derecho a la eliminación de datos.

Desde un punto de vista legal, al menos hasta donde se me alcanza, lo que protege el RGPD y, por tanto, el 'verdadero derecho al olvido' que tenemos, al menos los ciudadanos europeos, se enfoca a los datos sensibles y de carácter personal. No tengo tan claro, lo reconozco, el derecho a eliminar otro tipo de contenidos como un artículo, un post, un tuit, etc.

El entrenamiento de los grandes modelos de lenguaje

Hagamos otro alto en el camino para hablar brevemente y de forma algo superficial de cómo se hace el entrenamiento de los grandes modelos de lenguaje.

En los grandes modelos de lenguaje actuales, lo que entrenamos son unas redes neuronales complejas. El entrenamiento se refleja, fundamentalmente, en el ajuste de los pesos de la red neuronal. Con base en los ajustes de esos pesos, los modelos aprenden a codificar los textos como unos vectores (los famosos 'embeddings') que albergan cierto contenido semántico; aprenden también, de alguna manera la estructura del lenguaje humano (su sintaxis y morfología); y aprenden, finalmente, y de alguna manera, una gran cantidad de conocimiento de todo tipo recogido en texto, en lenguaje.

Para eso se basan en la lectura y, en cierto sentido, 'digestión, de una ingente cantidad de texto contenido en libros, páginas web etc. En esa digestión es en lo que, metafóricamente, consiste el entrenamiento.

Es importante entender, aunque no es fácil del todo de imaginar que, aunque estos modelos, aprenden de alguna manera, no tienen para nada los conceptos simbólicos, lógicos, causales, etc que tenemos los humanos y que asociamos al conocimiento y cuya adquisición asociamos al aprendizaje. En el caso de los grandes modelos de lenguaje, de los modelos fundacionales en general, hablamos de modelos altamente probabilistas, donde el conocimiento como los entendemos los humanos, está implícito, diluido, recogido en unos pesos y unos parámetros que sólo muy indirectamente, aunque de una forma muy eficaz, tienen que ver con un verdadero conocimiento.

Aunque es 'invento mío' esta idea del 'conocimiento diluido' es importante tenerlo claro: en un gran modelo de lenguaje no hay una base de datos, o un repositorio de conocimiento donde podamos encontrar elementos de conocimiento, ni mucho menos la fuente de donde se obtuvo ese conocimiento.

La dificultad para olvidar

Esa 'dilución, que insisto que es una forma de expresarlo que me acabo de inventar para escribir este post, explica la dificultad para olvidar que presentan estos modelos de lenguaje. 

En efecto, no hay un mecanismo sencillo, probablemente ni siquiera viable, para pedirle a un gran modelo de lenguaje que elimine datos concretos, conocimientos concretos, de su 'acervo de conocimiento'. No existe ese mecanismo, o no es sencillo, porque ese conocimiento, porque los datos, porque la información factual están diluidos en el modelo. No están en ningún sitio concreto. No hay un elemento concreto, un registro de una base de datos, un link, un documento... no hay un soporte concreto para un dato o para un conocimiento sino que éste se encuentra diluido en el modelo. Y por ello es muy difícil actuar sobre él.

Esta idea está recogida de alguna forma en el último libro de Chip Huyen titulado, 'AI Engineering: Building Applications with Foundation Models', y donde, en un momento dado, nos explica:

Imagine you published a blog post that you eventually deleted. If that blog post was included in a model’s training data, the model might still reproduce the post’s content. As a result, people could potentially access removed content without your consent.

No habla explícitamente de derecho al olvido, y no se centra en datos personales sino en un artículo de un blog, pero el mensaje es el mismo.

En tecnología, especialmente en el campo del software, casi todo es posible. Supongo que, de la misma forma que chatbots basados en modelos fundacionales como ChatGPT rodean a su modelo de los famosos 'guardrails' para intentar garantizar la eliminación de lenguaje ofensivo o respuestas poco éticas, alguna forma de superposición, de protección de datos podría hacerse también orientada a posibilitar el olvido. Pero esa superposición intuyo que, caso de ser posible, sería compleja, escalaría mal, en ocasiones fallaría, penalizaría las prestaciones y, en definitiva, sería muy costosa y muy poco práctica.

Así que, siempre con la esperanza de que los ingenieros que trabajan en estos modelos puedan 'inventar' algo práctico, de momento tenemos que pensar que en aplicaciones basadas en grandes modelos de lenguaje, el derecho al olvido es muy difícil, casi imposible, de garantizar en estos momentos.

Conclusiones

La conclusión está clara: en estos momentos, garantizar el derecho al olvido cuando la información que se quiere 'olvidar' ha sido utilizada en el entrenamiento de un gran modelo de lenguaje, es una tarea muy difícil, probablemente imposible. 

Un motivo buen para revisar cómo se entrenan estos modelos y también un acicate para que, como ciudadanos individuales, seamos lo más cuidadosos y responsables posible con los datos que volcamos en la red.

Equipos multidisciplinares para una robótica responsable y segura

Estamos cada vez más acostumbrados a escuchar las bondades de los equipos mutidisciplinares, en diferentes campos, y muy de interés para mi, cuando se trata de aportar visiones éticas a elementos de tecnología como son la inteligencia artificial y la robótica.

Los equipos multidisciplinares

Los equipos multidisciplinares, y más si son complementados con diversidad no sólo de conocimiento, sino también de género, edad, cultura, etc, suelen recomendarse como motores de innovación. ¿Por qué? Pues porque aportan diferentes perspectivas para una misma problemática y, por tanto, también diferentes formas posibles de solución.

Innovación aparte, a los equipos multidisciplinares se les adjudica, lo cual tiene sentido, no sólo capacidad innovadora sino también integradora, de nuevo con base a el conocimiento polifacético que aportan.

¿Qué tipo de componentes deberían integrar un equipo multidisciplinar?

Seguramente depende de la temática concreta que queramos abordar, pero vamos con un caso concreto.

Un equipo multidisciplinar para robótica segura

En su libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, nos habla de los riesgos y dificultades para conseguir una operación segura de los robots. Riesgos que derivan tanto de errores en el propio diseño o entrenamiento de los robots como de ciberataques malintencionados por parte de terceros.

Y nos cuenta que en el CSAIL que ella dirige, cuando inician un proyecto de desarrollo de tecnología robótica dedican tiempo en las fases iniciales a estudiar los diferentes riesgos e identificar posibles malos usos así como a entender las implicaciones éticas, regulatorias, etc. Nos cuenta, en concreto, cómo al iniciar un proyecto sobre vehículo autónomo tuvieron unas muy fructíferas sesiones de brainstorming en ese sentido, y nos propone un equipo multidisciplinar para proyectos similares.

Estos serían los perfiles de ese equipo  

• Tecnólogos: Que entienden los fundamentos científicos y técnicos, la realidad actual y las posibilidades futuras.


• Expertos en seguridad: Conocedores de las mejores prácticas en ciberseguridad y cómo trasladarlas a la robótica


• Hackers éticos: Especializados en localizar vulnerabilidades en todo tipo de sistemas, en este caso de naturaleza robótica.


• Legisladores: Que aportan la perspectiva de las administraciones generales y locales.


• Criminólogos: con conocimientos y capacidad para imaginar cómo un actor malicioso pudiera usar la tecnología con fines perversos.


• Escritores de ciencia ficción: así como cineastas, artistas y, en general, personas que aportan imaginación para proponer escenarios, futuros diferentes y posibles impactos de la tecnología.


• Eticistas: Que pueden guiar, con perspectiva ética, las acciones y tomas de decisión tanto de las propias máquinas como de quienes las construyen.


• Economistas: Para imaginar cómo la tecnología puede beneficiar al máximo número de personas y no sólo a los más ricos.


• Inversores: Que aportan la visión sobre el proyecto puede alcanzar un nivel suficiente de financiación

Un panorama amplio, como se puede ver, de especialistas. 

Un equipo de trabajo, se me ocurre pensar, que probablemente no tenga sentido mantener de manera permanente, pero que sí puede ser muy fructífero en las fases iniciales de ideación y planteamiento y, quizá, en alguna revisión intermedia a medida que avanza el proyecto.

Otros perfiles

Rus apunta a que se pueden incluir otros perfiles como abogados, expertos de aseguradoras, etc, pero ya no entra en más detalles y tampoco lo haré yo aquí.

Conclusiones

Los equipos mulidisciplinares, aunque seguramente sean más complejos de conformar y gestionar, aunque puede que no sean necesarios de forma permanente ni en todas las situaciones, pueden aportar un enriquecedora visión multiperspectiva que ayude a anticipar y evitar riesgos, a conseguir una tecnología más responsable y, ya de paso, también más innovadora.

Auto-regulación versus legislación

Como comentaba en algún post anterior, como en 'El escepticismo acerca de la ética de la inteligencia artificial', uno de los claros mecanismos para asegurar hasta cierto punto un comportamiento ético, era, lógicamente, el de la regulación, el establecimiento de leyes que forzasen al seguimiento de comportamientos considerados mayoritariamente como éticos y que previesen el 'castigo' en caso contrario.

Pero también mencionaba el mecanismo de la iniciativa empresarial e individual. Y esto, especialmente en su vertiente corporativa, nos lleva al concepto de la auto-regulación.

Las limitaciones de la ley

Pero ¿por qué la ley no es suficiente? ¿No deberíamos confiar en el mecanismo que de alguna forma ordena y regula toda nuestra sociedad, que se supone garantiza derechos y libertades?

Bueno, quizá pudiéramos pensar que así debe de ser, pero lo cierto es que la ley presenta algunas limitaciones. 

Quizá la más importante, especialmente cuando hablamos de tecnología y de la época actual, es la velocidad. Y no me refiero a la velocidad de su aplicación en juzgados, donde seguramente también tenemos un problema, sino velocidad de la pura legislación, velocidad para que la ley contemple los nuevos retos que trae consigo la tecnología que, ésta sí, avanza a toda velocidad.

Aunque no es necesario hacer una nueva ley para cada nueva tecnología porque, en muchos casos resulta de aplicación lo ya legislado para otras tecnologías o para otras situaciones no necesariamente provocadas por la tecnología, sí que es cierto que ante nuevos fenómenos, puede ser necesaria una nueva legislación y ésta, normalmente, precisa de meses o incluso años para crearse e implantarse. Mientras transcurren esos meses o años, podemos estar en un 'limbo' legal o claramente desprotegidos.

Diría que también pueden existir limitaciones en cuanto a alcance, cuando el legislador, por decisión política o por imposibilidad o inconveniencia prácticas, no regula todos los comportamientos y siguen quedando abiertas puertas para un comportamientos poco ético, pese a la existencia de la ley.

Los frameworks éticos y la auto-regulación

Y en ese ámbito, y bajo el impulso del nuevo liderazgo basado en valores, de la responsabilidad corporativa e incluso de los conceptos ESG, algunas empresas dan un paso al frente anticipándose a la regulación, extendiéndola o dándole un sentido más práctico, incluyendo mecanismos propios y voluntarios de control de sus propios procesos de generación y aplicación de soluciones como ocurre, específicamente en el caso de la inteligencia artificial y amparada bajo la filosofía de la ética por diseño.

El valor de la auto-regulación

En su libro 'The ethics of artificial intelligence', Luciano Floridi, analiza las situaciones en que tiene sentido esa auto-regulación y nos propone las siguientes:

• No existe legislación (por ejemplo, en experimentación con productos de realidad aumentada)


• Existe legislación pero que necesita de una interpretación ética (por ejemplo, para entender el derecho a la explicación en el GDPR)


• Existe legislación pero necesita de un cierto contrapeso, en casos como
  
  
  • Es mejor no hacer algo, incluso aunque no sea ilegal (por ejemplo, automatizar completamente un procedimiento médico sin supervisión humana)
  
  
  • Es mejor hacer algo, incluso aunque no se exija legalmente (por ejemplo, mejores condiciones laborales para una 'gig economy')
  
  

En cualquier caso, Floridi deja claro que la auto-regulación no puede sustituir a la ley propiamente dicha y que su papel es complementario, aunque en ocasiones pueda resultar crucial.

Una llamada de atención

Eso si, conviene, a propósito de la auto-regulación y la iniciativa empresarial, recordar las llamadas de atención que hacía en el post 'El escepticismo acerca de la ética de la inteligencia artificial' acerca de la práctica del 'bluewashing', es decir, una operación más de imagen que de otra cosa, que consiste en aplicar mecanismos éticos en elementos superficiales pero mantener soluciones no éticas en el 'core' del negocio, así como del 'tuning' de principios éticos que comentaba en el post 'Un mercado de principios éticos'.

Conclusiones

Debemos considerar la auto-regulación por parte de empresas, administraciones e individuos como algo positivo y seguramente necesario para conseguir una, llamémosla, excelencia ética, pero esa auto-regulación, no puede sustituir, sino complementar a la ley y, además, debe aplicarse honradamente, buscando realmente los objetivos éticos y no como una mera operación de imagen.

Los ocho grandes temas a regular sobre la Inteligencia Artificial

Existe, lo sabemos bien, una amplia 'conversación' sobre las implicaciones éticas de la inteligencia artificial, sobre sus riesgos y la forma de afrontarlos.

Inteligencia artificial, ética  y regulación

Y cuando deseamos 'bajar a tierra' las consideraciones éticas sobre una temática concreta, en este caso la inteligencia artificial, uno de los mecanismos, quizá el más concreto, puede que el más eficaz, es la regulación, la promulgación de leyes que concreten derechos y obligaciones, así como eventuales castigos en caso de incumplimiento, de manera que se concreten, clarifiquen y garanticen los valores aparejados a las consideraciones éticas.

Y, en efecto, en paralelo con todo el debate y todo el ruido mediático alrededor de la ética de la inteligencia artificial, y concentrándose sobre todo, aunque no únicamente, en Europa, se encuentra en marcha el desarrollo normativo que ha de regir en el desarrollo y uso de la inteligencia artificial, siendo de especial relevancia la denominada AI Act europea, actualmente en tramitación.  

Sin embargo, el campo de la inteligencia artificial es muy amplio, se encuentra en continua evolución y sus implicaciones se ramifican abarcando una variedad de problemáticas éticas, no todas ellas con diagnóstico claro o con valores compartidos.

Así que nos podríamos preguntar ¿Qué es lo que debemos regular realmente en Inteligencia artificial?

Los ocho grandes temas 

No voy a hacer una propuesta propia, sino recoger la que me encuentro leyendo el libro 'Robot souls' de Eve Poole. Al abordar este tema, la autora hace referencia, a su vez, al trabajo dirigido por Jessica Fjeld en el Berkman Klein Center for Internet & Society. 

En este trabajo, el equipo analizó las 36 principales declaraciones de principios en todo el mundo, encontrando un total de 47 principios y detectando un consenso alrededor de ocho grandes temas (que denominan meta-temas). 

De forma resumida, a continuación listo esos ocho grandes temas o meta-temas (incluyo entre paréntesis el término en inglés cuando la traducción es conflictiva o no evidente). Además, los temas están ordenados de mayor (100% en el caso de la imparcialidad) a menor (69% en el caso del control humano de la tecnología y la promoción de los valores humanos) prevalencia.

• Imparcialidad ('fairness') y no discriminación: Los sistemas de Inteligencia Artificial deben diseñarse de forma que maximicen la imparcialidad y eviten la discriminación. Un tema íntimamente relacionado con los famosos sesgos algorítmicos.


• Privacidad: Temas relacionados con el acceso y consentimiento de dicho acceso en el caso de datos personales usados tanto durante el entrenamiento como durante la explotación de los sistemas de inteligencia artificial.


• Rendición de cuentas ('accountability'): Claridad acerca de de quién es el sistema, quién es el responsable y quién puede ser multado o castigado. 


• Transparencia y explicabilidad:  Apuntan en el sentido de que los sistemas de inteligencia artificial deben por ser supervisados incluyendo la traducción de su operación a términos inteligibles así como disponibilidad de información acerca de dónde, cuándo y cómo son empleados.


• Seguridad ('safety' & 'security'): Los sistemas de inteligencia artificial deben ser seguros y funcionar según lo esperado. Además deben ser resistentes a ataques de hackers.


• Responsabilidad profesional: La comunidad de la inteligencia artificial debe adherirse a estándares profesionales de integridad y los diferentes 'stakeholders' deben ser consultados acerca del impacto de los sistemas de inteligencia artificial.


• Control humano de la tecnología: Las decisiones clave deben permanecer como objeto de supervisión humana, especialmente aquellas que conciernan a la vida o la muerte.


• Promoción de los valores humanos: Los sistemas de inteligencia artificial deben estar al servicio del bienestar de la humanidad de acuerdo con  nuestros valores nucleares.

En general, los temas identificados nos resultan muy reconocibles y, especialmente en el caso de los tres primeros, hay claramente trabajo regulatorio en marcha. Cierto es, al menos en mi percepción, que a medida que recorremos hacia abajo la lista, nos encontramos temáticas de más difícil formalización (caso de la explicabilidad) o que empiezan a  entrar más en el ámbito de valores un poco abstractos que de temas traducibles a leyes y criterios claros.

Conclusión

La preocupación sobre las implicaciones éticas de la inteligencia artificial sin duda existe, y el trabajo normativo y regulatorio también está en marcha, muy notablemente en Europa.

Sin embargo el campo es tan amplio y las aportaciones tan diversas, que es bueno intentar concentrar en alguna forma de censo o mapa todo aquello de lo que nos queremos ocupar.

Los robots y la definición de humanidad

¿Tenemos claro en qué consiste eso de ser 'humanos'? ¿Qué es lo que define a una persona? Puede que no, que no lo tengamos tan claro como podríamos pensar, y que los robots y otras tecnologías nos fuercen a reflexionar sobre ello.

El interés de la robótica

El estudio de la robótica es apasionante. Desde un punto de vista puramente ingenieril, es una disciplina que aúna conocimientos diversos, procedentes de la mecánica, de los materiales, de la automatización y el control, de la sensórica, de las comunicaciones y la informática. Sólo como una forma de ingeniería es completa, abarcadora y retadora.

Si además, y pensando especialmente en robots sociales, y más aún en robot humanoides, entramos en el campo de la relación robots-personas (HRI, 'Human-Robot Interaction'), no sólo expandimos la sensórica y algoritmia necesaria, es que además, empezamos a superponer a la ingeniería, la pura robótica, importantes elementos de psicología, e incluso antropología y sociología. Y eso convierte a la robótica en un área de conocimiento, aún más transversal y aún más apasionante.

Roboética y el concepto de humanidad

Y si ahora damos quizá el último paso, hablamos de roboética, y nos planteamos elementos éticos en robótica, elementos que incluyen, pero extienden y particularizan, los propios de la inteligencia artificial, nos adentramos ya en el campo de la filosofía y, como derivada práctica, en el terreno legal.

Y algunos de los grandes desafíos de la roboética, como la asignación o no de agencia moral y de paciencia moral a los robots, el debate sobre la 'sintiencia' y sobre la consciencia, tanto si las máquinas son capaces de esa sintiencia o esa consciencia, como de si eso les otorgaría consideración moral especial o derechos especiales o, finalmente, el debate sobre si los robots pueden ser objetos de derecho o si tiene sentido hablar de una personalidad electrónica,  nos desafían a plantearnos cuestiones que van mucho más allá de lo técnico e incluso de lo legal.

Nos hacen formularnos preguntas profundas, sobre lo que significa ser conscientes, lo que significa ser sintientes, sobre qué es lo que otorga o no consideración moral a un ser, sobre lo que significa, en último termino, ser persona, ser humano.

La necesidad de precisión en el concepto de humanidad.

Preguntas que hace unas décadas no teníamos realmente por qué formularnos, o no al menos con mucha precisión, porque no existía ningún ser (quizá con la excepción de los animales, o en épocas lejanas y en ciertas culturas, colectivos humanos como los esclavos e incluso las mujeres) que nos desafiara a pensar qué es lo que nos hace diferencialmente humanos, qué es lo que nos otorga dignidad y consideración moral, qué es lo que nos hace tener derechos.

Pero ahora, aparte de que por otras vías hemos comenzado a pensar en derechos de animales y plantas, sí que existen esos entes, esos seres, algoritmos y robots, que ya sea en realidad o en posibilidad, desafían el concepto de lo que es ser humano, lo que es sentir, lo que es ser conscientes, o a lo que debemos otorgar consideración moral.

Y otras tecnologías, la edición genética o el BCI ('Brain Computer Interface') que abren las puertas a la modificación esencial del ser humano, a su mejoramiento, a su potenciamiento por  medios artificiales, también nos atrae la cuestión de la esencia de la humanidad.

Y ahora ya no podemos permitirnos el dar muchas cosas por supuestas ni el ser imprecisos. 

Porque el desafío es real y porque tenemos que entenderlo, debatirlo, ponernos de acuerdo e, incluso, redactar leyes y normativas. Y en la ley y en las normativas no cabe, casi diría mejor que no debería caber. la ambigüedad. Y si esas leyes se traducen en requisitos técnicos, esos sí que no pueden ser ambiguos en absoluto.

Leyendo el reciente libro de Eve Poole titulado 'Robot souls' me encuentro bastante al principio una cita en este mismo sentido.

Because we have not often had to define our humanity, we are not precise in doing so. And in a world where the regulation and control of Artificial Intelligence is of increasing concern, there is an urgent need to be able to be more precise

En efecto, hasta no hace tanto no habíamos sentido la necesidad de ser precisos, pero ahora sí que existe esa necesidad.

Aunque, me parece, no nos va a ser nada fácil conseguir ese consenso y esa precisión. Arrastramos mucho conceptoa ambiguo, muchas diferencias culturales y mucho pensamiento quizá no del todo concreto ni convergente como para alcanzar fácilmente esa precisión.

Pero hay que intentarlo.

Conclusiones

Las nuevas tecnologías, muy especialmente la inteligencia artificial, la robótica, la edición genética y el BCI, desafían nuestro concepto de lo que es humanidad y, por tanto, dónde debemos poner las fronteras de consideraciones morales, dignidades y derechos.

Es importante que consigamos criterios válidos y accionables si queremos tener un éxito ético y regulatorio en el uso de estas tecnologías y, para ello, debemos empezar a precisar qué entendemos exactamente por ser humano.

La definición de Inteligencia Artificial en el ámbito jurídico. El caso de la AI Act

La inteligencia artificial es, probablemente, la tecnología más transformadora que podemos contemplar hoy en día.

Una tecnología que, sin embargo, es muy diversa y polifacética tanto en cuanto a sus técnicas como en cuanto a sus aplicaciones. Eso que la convierte, creo, en más valiosa a interesante, complica, sin embargo, su definición. 

La definición de la inteligencia artificial

En efecto, suelo decirle a los alumnos de cursos en que en mayor o menor medida abordo la inteligencia artificial, que todavía no he encontrado una definición que me satisfaga plenamente, una definición correcta, abarcadora, que delimite bien las fronteras y, en la medida de lo posible, corta y clara.

Al igual que hago en mi segundo libro 'Robots en la sombra' suelo recordar en primer lugar la, no sé si definición o explicación', que en su momento aportó McCarthy, uno de los padres de la inteligencia artificial.

Hacer que una máquina se comporte de una forma que consideraríamos inteligente si un humano se comportase de esa forma.

Una declaración simple, aspiracional y fácil de entender... pero laxa y alejada de lo que es realmente hoy en día la inteligencia artificial.

En mi primer libro, 'La carrera digital' proponía la siguiente definición:

Inteligencia artificial es una disciplina que define algoritmos capaces de aprender a partir de datos y experiencia, adaptando su comportamiento con un cierto grado de autonomía.

aunque, y sabiendo que está mal que yo lo diga, es de las definiciones que creo más acertadas, sin embargo, y a pesar de ser mía, tampoco me satisface completamente. Sobre todo porque parece referirse sólo al machine learning que, a pesar de ser el subconjunto dominante, y muy dominante, hoy en día en la inteligencia artificial, no lo es todo, especialmente si miramos al pasado, a las primeras realizaciones de la inteligencia artificial y, cualquier sabe si será tan dominante en el futuro.

El enfoque pragmático

Para mis labores de formación, e incluso de investigación y reflexión, en este ámbito como en otros, y muy especialmente el de la robótica, donde el propio término robot está sometido a encendidos debates, suelo adoptar lo que llamaría un enfoque pragmático. 

Un enfoque en que 'no me empeño' en encontrar la definición perfecta, sino en ser capaz de explicar (si es posible hacerlo apoyado en un diagrama de bloques, aún mejor) la idea principal y las características que, al menos en la mayor parte de las veces, exhibe aquello que llamamos robot o que llamamos inteligencia artificial.

Las definiciones y la ley

Ese enfoque pragmático, que considero acertado y útil en muchos casos, puede que sea un lujo que una formulación jurídica, una ley o un reglamento no se puedan permitir.

No soy jurista, así que puedo equivocarme en mis apreciaciones, pero siempre me ha parecido que uno de los ámbitos donde mayor atención se presta a las definiciones, a un uso preciso, extremadamente preciso, del lenguaje, en en el ámbito legal.

Y me parece muy bien que sea así. El rigor es muy bueno en cualquier ámbito de la vida, pero en el legal creo que es imprescindible. Si vas a marcar en un texto lo que las personas e instituciones pueden hacer y lo que no, y si presuntamente vas a castigar a quien no observe esas directrices, más vale que seas claro en el establecimiento de las reglas y para ello, entre otras cosas, necesitas buenas definiciones de aquello que vas a regular.

Formulaciones en la AI Act

Como muchos lectores de este blog conocerán, se encuentra en estos momentos en avanzado estado de tramitación la llamada AI Act, la ley europea aplicable a la inteligencia artificial.

Y, claro, si tengo razón en todo lo expuesto más arriba, el legislador europeo tiene un problema: no le queda otra que intentar definir inteligencia artificial...cuando no existe realmente una definición precisa y universalmente aceptada.

¿Qué está haciendo?

Según me cuentan compañer@s juristas de OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial), y si lo he entendido bien, se encuentran en liza y sometidas a comentarios y supongo que negociaciones, dos formulaciones de lo que es la inteligencia artificial. Veámoslas y luego comento alguna percepción:

La propuesta de la Comisión Europea

En la propuesta elevada por la Comisión Europea, se define sistema de inteligencia artificial a lo siguiente:

artificial intelligence system’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with

En cierto sentido es una definición incompleta o que se completa por referencia, ya que las técnicas a que se refiere la definición no están en ellas contenidos sino en un anexo. Bueno, ese anexo, reza lo siguiente:

Machine learning approaches, including supervised, unsupervised and reinforcement learning, using a wide variety of methods including deep learning;

Logic- and knowledge-based approaches, including knowledge representation, inductive (logic) programming, knowledge bases, inference/deductive engines, (symbolic) reasoning and expert systems;

Statistical approaches, Bayesian estimation, search and optimization methods.

Esta es una de las formulaciones. Veamos la otra.

La propuesta del Parlamento Europeo

La enmienda que ha salido del Parlamento Europeo, es:

artificial intelligence system’ (AI system) means a machine-based system that is designed to operate with varying levels of autonomy and that can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions, that influence physical or virtual environment.

Ya no hay referencias a un anexo. Pero hay alguna diferencia más que analizaré en lo que queda de post.

El retorno a la teoría de conjuntos. Definiciones por extensión y por enumeración.

Cuando confronto estas dos definiciones, especialmente en lo relativo al anexo, no puedo evitar que vengan a mi memoria recuerdos infantiles de cuando en EGB me explicaban teoría de conjuntos y nos decían que había dos formas de definir un conjunto:

• Por extensión: en que de alguna forma dabas la regla que hacía que un elemento perteneciese o no a un conjunto.
• Por enumeración: simplemente, listabas los elementos del conjunto

En cierto sentido, salvando las distancias y tomándome alguna licencia, es como si la definición propuesta por el Parlamento Europeo actuase definiendo inteligencia artificial por extensión, mientras que la propuesta original de la Comisión Europea, con su anexo, lo hace por enumeración.

¿Qué es mejor?

Desde un punto de vista académico, teórico, conceptual, casi diría que intelectual, prefiero mil veces una definición por extensión (como es la del Parlamento). Si en algún futuro libro, que lo habrá, hago un nuevo intento de definir inteligencia artificial, será, sin duda, por extensión y no por enumeración.

En cierto sentido, una definición por enumeración me parece casi un truco burdo, una no definición. Quizá una explicación, pero no una definición.

Y sin embargo...

Enumeración y resiliencia de la ley

Y sin embargo, para este caso concreto, para la definición de inteligencia artificial en un texto legal, la ley de la inteligencia artificial europea, puede ser un gran acierto actuar por enumeración (usar el anexo).

¿Por qué?

Pues por dos motivos. 

Porque, por un lado, como he dicho, no existe, al menos que yo sepa, una definición de inteligencia artificial completa, clara, realista y ampliamente aceptada. Un enfoque por enumeración parece más fácil que tenga consenso porque los expertos reconocerán las técnicas sin necesidad de empeñarse en reducirlas a un enunciado de difícil generalidad y convergencia.

Y quizá más importante: porque intentar definir inteligencia artificial es apuntar a un blanco móvil, algo que está en constante y muy rápida evolución. Y la apurada inclusión en el texto legal de las consideraciones específicas a la inteligencia artificial generativa y los modelos fundacionales, así lo acredita.

Aislar las técnicas que comprende la inteligencia artificial en un anexo, es un factor de resiliencia y de estabilidad en el tiempo de la propia ley. Si la evolución de la inteligencia artificial hace que se incluyan nuevas técnicas, pero sin desafiar ni los principios éticos, ni los niveles de riesgo ni las medidas de gobierno que plantea la ley, modificar la ley consistiría en modificar tan solo el anexo, permaneciendo inalterado el articulado, que no deja de ser el verdadero contenido de la ley.

Repito que no soy jurista, y desconozco los procedimientos de tramitación, pero el sentido común me dice que tramitar un cambio sólo en el anexo debería ser muchísimo más rápido y sencillo que decidir sobre el articulado.

Software versus sistema

Otra diferencia que aprecio es que en la propuesta de la Comisión Europea se considera a la Inteligencia Artificial como software mientras que en la enmienda del Parlamento Europeo  nos habla de sistemas basados en máquinas.

Siendo realistas, la inteligencia artificial es básicamente software y no preveo que esto cambie demasiado. Por supuesto el software se ejecuta sobre un hardware pero, en general, podemos considerar a la inteligencia artificial como software.

Sin embargo, no es descartable que, por ejemplo, y por meros motivos técnicos y de eficiencia y rapidez, algún fabricante decidiese, por ejemplo, implementar un algoritmo en un circuito integrado o hacerlo (a lo mejor en algún caso ya se hace) con las operaciones matriciales y tensoriales habituales en machine learning.

Si hablas de sistema, abarcas ambas posibilidades, incluyes el software pero también la posibilidad de hardware. Por eso, y pensando de nuevo en la resiliencia de la ley, yo tendería a hablar de sistemas, más que de software.

Sobre la autonomía

Un tema que veo expresado de forma ambigua, y no es nada trivial, es la mención al concepto de autonomía en la propuesta del Parlamento Europeo.

Reconozco desconocer si algún texto complementario dentro de la propia ley o la enmienda, clarifica qué quiere decir con autonomía.

Así, por ejemplo, yo mismo, cuando en 'La carrera digital' explico las características hablo de la autonomía de los algoritmos en el sentido de que, dado que son capaces de aprender de datos y experiencia, pueden, si así se ha previsto, evolucionar sin que sus creadores (desarrolladores) intervengan directamente.

Cuando en 'Robots en la sombra' hablo de autonomía en relación a los robots, lo hago para indicar que al contrario que, por ejemplo, herramientas como un martillo neumático, un robot funciona sin ser 'pilotado' por un humano.

Aunque en lenguaje llano podemos pensar que utilizo autonomía de forma equivalente (independencia de los humanos) creo que hay matices prácticos y técnicos relevantes entre una concepción y otra de autonomía. 

No tengo claro a qué se refiere exactamente con autonomía el texto del Parlamento Europeo, pero no es una palabra baladí en el ámbito en que se está utilizando así que, simplemente, dejo el aviso de que, si no se clarifica en alguna parte del texto que ahora no tengo en mente, debería hacerse.

La fijación de objetivos

En la formulación de la Comisión Europea, se dice que los objetivos del sistema de Inteligencia Artificial los fijan los humanos, mientras que esa referencia humana desaparece en la formulación del Parlamento Europeo que habla de objetivos explícitos e implícitos.

Sinceramente, creo más realista la formulación del Parlamento Europeo. Creo que la Comisión se dejó arrastrar por ese deseo de que los humanos estén al mando o de no asustar con la posibilidad de que las máquinas puedan hacer su voluntad.

Sin embargo, es más realista pensar que, aunque esperamos que en último término siempre haya alguna forma de control humano, muchos algoritmos y sistemas de inteligencia Artificial pueden poner sus propios objetivos o recibirlos de otro algoritmo o incluso un sistema no inteligente. 

Así que me parece mejor formulación la del Parlamento.

Los entornos

Ambas propuestas acaban diciendo que los algoritmos actúan sobre su entorno. En el caso de la propuesta de la Comisión Europea, lo hace en general mientras que en la enmienda del Parlamento Europeo, matiza indicando que ese entorno puede ser físico o virtual.

Estrictamente hablando, no hay error y no hay contradicción en ninguna de las dos, solo más nivel de detalle en el caso de la propuesta del Parlamento Europeo. 

Sin embargo, intuyo un riesgo de malentendido en la propuesta del Parlamento Europeo. Hablar de 'influir en un entorno físico' conduce, creo, a pensar directamente en robótica, aunque, como también he comentado en este blog, la realidad física o no de los robots también es un elemento sometido a debate.

Por desgracia, creo que existe una cierta asimilación entre inteligencia artificial y robótica, y es cierto que son disciplinas que cada vez se entremezclan más. Sin embargo son claramente disciplinas diferenciadas. Así, existen muchos robots, muchos robots físicos, que no emplean inteligencia artificial y que 'actúan sobre un entorno físico'.

Insisto, no es que me parezca realmente incorrecta la formulación del Parlamento Europeo en cuanto a los entornos pero, como digo, creo que incita a concepciones erróneas, por lo cual me quedaría, a pesar de ser más vaga, con la de la Comisión que habla únicamente de entornos 

Uso de la Inteligencia Artificial

La parte final de ambas definiciones, de una forma, no muy detallada, nos habla de alguna forma de cómo se aplica la inteligencia artificial y menciona salidas como predicciones, recomendaciones o decisiones.

No es muy detallado, pero tampoco lo voy a criticar. Sí sugeriría, quizá, añadir a la lista, algo a sí como 'contenidos' o 'media', pensando en la últimamente omnipresente inteligencia artificial generativa. 

Conclusiones

Como decía al principio del post, definir inteligencia artificial es realmente difícil, al menos eso creo yo, pero a un texto legal como es el caso de la AI Act, entiendo que no le queda otro remedio que hacerlo.

Visto así, alabo el esfuerzo, aunque sigo sin encontrar, tal vez no exista, esa definición de inteligencia artificial que realmente me satisfaga. Tampoco en la AI Act, lo siento.

Si algún jurista lee esto, y especialmente si es alguno o alguna implicado en la redacción de esa ley, espero que estas líneas le puedan arrojar alguna idea, alguna reflexión, alguna consideración, quizá alguna sugerencia de enmienda o alguna propuesta de decisión y, si así sucede, me encantaría que me lo hiciese saber.