miércoles, 30 de agosto de 2023

Robots: el secreto está en el cerebro

No, cuando hablamos de robots, y de robots inteligentes, el secreto no está en la masa, como reza el famoso anuncio de pizzas, sino en el cerebro.

Un secreto que, en efecto, permanece bastante oculto, bastante fuera de nuestro alcance en este momento.

¿Qué quiero decir con esto?


Los robots como agentes inteligentes


Antes de explicarlo, recuerdo el modelo de agente (y agente inteligente en nuestro caso) que se usa para explicar e incluso definir lo que es un robot.

Según este modelo, un robot (en realidad un agente) es una entidad que se relaciona con su entorno y que consta de tres elementos:

  • Sensor: función mediante la que el agente obtiene y de alguna forma interpreta información sobre el entorno que le rodea.

  • Actuador: función mediante la que el agente actúa sobre ese entorno.

  • Control: función central que proporciona la lógica, es decir, que activa las actuaciones sobre el entorno adecuadas en función de la situación del entorno (percibido mediante la función sensora) y de los objetivos del agente (robot).

Lo explicaba (a partir aproximadamente del minuto 2:50) en este vídeo titulado 'The robot concepts' de mi proyecto 'The robot notes'.




Robots, control e inteligencia: algunos matices


De forma instintiva, y no del todo desacertada, tenderemos a asociar el concepto de inteligencia con la función de control. Y no es del todo incorrecto, pero hay matices que hacer.

En efecto, el que exista un adecuado control, una coherencia entre lo percibido en el entorno y las actuaciones sobre él, con los objetivos del robot, es lo que hace que ese agente se pueda considerar inteligente.

Sin embargo, el primer matiz es que no necesariamente eso nos lleva  a usar inteligencia artificial. En efecto, y como ya comenté en el artículo 'Comportamientos reactivos y los conceptos de inteligencia e inteligencia artificial', se puede conseguir un comportamiento externamente percibido como inteligente aplicando los llamados 'comportamientos' (behaviors) o comportamientos reactivos que más bien son una reacción inmediata a un estímulo (como un comportamiento reflejo humano), programada y sin grandes dosis de sofisticación. Es decir, se puede tener un robot que se comporta como agente inteligente sin necesidad de usar inteligencia artificial.

Otro matiz es que, si dentro de la función sensora incluimos toda la percepción, es decir, no sólo la recepción de información y estímulos, sino también una cierta interpretación (por ejemplo, detección de objetos mediante inteligencia artificial), nos encontramos con que con cada vez mayor frecuencia (por ejemplo, uso de visión artificial o de reconocimiento de voz), en esa función sensora sí que utilizamos inteligencia artificial.

De forma más o menos común, usamos inteligencia artificial en robots (robots inteligentes), precisamente en muchas tareas relacionadas con la percepción (sensor) como visión artificial, reconocimiento de voz, procesamiento de lenguaje natural e incluso detección de emociones. Y también la utilizamos algo (probablemente menos) en el control, como en el caso de la planificación del movimiento de un robot móvil o vehículo autónomo.

Pero no existe tanta concentración de inteligencia, entendida como inteligencia artificial, en la función de control que es la que tendemos a asociar espontáneamente con la inteligencia.


Robots muy inteligentes y el secreto del cerebro


Si ahora aspiramos a robots muy inteligentes, es decir, robots que de alguna forma 'piensen' y razonen de una forma inteligente, próxima a la humana, nos encontramos con una enorme dificultad.

En efecto, en su libro 'Los robots y sus capacidades' editado por CSIC Elena García Armada nos cuenta cómo a nivel tanto estructural y mecánico como en las labores de percepción y actuación, la robótica actual está ya muy avanzada y consigue paralelismos y resultados en ocasiones próximos y en otros superiores a lo que consigue una persona. Sin embargo, cuando hablamos del control, lo que podríamos considerar el cerebro del robot, estamos bastante, bastante lejos. Literalmente nos dice:


El cerebro es el elemento del robot que más lejos se encuentra de su homólogo en el ser humano.


En efecto, pese a los enormes avances en inteligencia artificial, aún estamos muy lejos de conseguir algo que se aproxime a un cerebro humano. Lo cual tampoco es demasiado extraño si consideramos que, a pesar en este caso de los avances en neurociencia, estamos muy lejos de comprender el funcionamiento de ese cerebro humano.

Así que lo que intenta la inteligencia artificial, cuando se dedica a buscar capacidades cognitivas, es a emular en visión externa el funcionamiento cerebral, sin mucho conocimiento y apenas una leve inspiración, en cómo funciona realmente a nivel interno ese cerebro, eso que intenta más o menos imitar.


Conclusión


Así que aunque disponemos de robots inteligentes (inteligentes tanto en el sentido de un comportamiento coherente como en el sentido del empleo de inteligencia artificial) y cada vez más sofisticados y capaces, aún están muy lejos de emular de forma general un comportamiento inteligente humano. 

Y es en ese sentido que, para los robots, el secreto no está en la masa, sino en el cerebro. Y es el secreto porque es clave, pero es secreto también porque resulta bastante desconocido.



lunes, 28 de agosto de 2023

Los robots humanoides y la innovación

¿Tiene sentido construir robots humanoides? ¿Por qué empeñarnos en crear unos dispositivos que son complejos, caros y que, en algunos casos generan inquietudes de tipo ético? ¿Tiene sentido técnico? ¿Tiene sentido económico y de negocio? ¿O se trata sólo de la realización de una fantasía,  una fascinación del ser humano que se quiere convertir algo así como en un dios creando algo parecido a sí mismo?

Razones de negocio para construir robots humanoides  


Probablemente haya muchas razones posibles para justificar el intento de construir robots humanoides y el debate tendría mucho interés, especialmente si abordamos los aspectos psicológicos, filosóficos, éticos o antropológicos. Pero en este post voy a estrechar bastante la pregunta para centrarme, en primer lugar, en algunas razones genéricas de negocio para la construcción de estos robots humanoides, y luego comentar una propuesta muy concreta

Visto con perspectiva de negocio, los robots humanoides no son más que un producto como cualquier otro. Por tanto, tendrá sentido de negocio su construcción y comercialización en la medida que el mercado demande este tipo de productos y esté dispuesto a pagar lo que cuestan proporcionando a su fabricante un retorno que justifique el esfuerzo inversor.

En el caso de los robots humanoides hay que tener en cuenta, en primer lugar, que son un producto sofisticado y por tanto, caro. Un humanoide de los actuales se mueve en el orden de varios miles de euros y si llegásemos a construir unos robots humanoides más perfectos, más sofisticados, más cercanos a lo que la imaginación nos dicta y lo que vemos en las películas de ciencia ficción, probablemente serían aún más caros. 

¿Hay o puede haber demanda de esos productos tan caros?

En este momento no aprecio, la verdad, esa demanda, ese deseo del mercado por comprar, de forma más o menos masiva, este tipo de productos. Pero lo que el mercado, muy especialmente el mercado masivo y de consumo, puede desear en un momento dado es uno de los temas más difíciles de adivinar. Quizá una nueva funcionalidad, una nueva capacidad, una proposición de valor original o un precio agresivo, por motivos comerciales o por un diseño 'hábil' y de bajo coste, podría disparar esa demanda. Además, si se consiguiese una ventas más o menos masivas, eso podría conllevar de forma rápida una bajada de costes (así ha sucedido siempre en todo tipo de productos y tecnologías).

Como pura intuición personal, no veo a corto plazo (no me pronuncio en el medio y largo) esa explosión del mercado de robots humanoides. No lo veo desde luego para aplicaciones industriales, donde creo que otras formas de automatización, e incluso otras formas de robotización, tiene más sentido operativo y económico. En aplicaciones más de 'front-office', para relación con clientes, o para mercado de consumo, aunque no preveo a corto plazo una gran demanda de robots humanoides, estoy más dispuesto a dejarme sorprender.


Robots humanoides e innovación


Si mi intuición, e insisto en que es sólo una intuición no una afirmación y ni siquiera una apuesta, es cierta, parecería que, al menos desde un punto de vista de negocio, no tiene mucho sentido la investigación y desarrollo de robots humanoides ¿no?

Bueno, pues sí que puede tener sentido, incluso puede que mucho sentido. El que no tengan, si mi intuición es cierta, un gran mercado a corto, no quiere decir necesariamente, que no lo puedan tener en en el medio plazo, por lo que las empresas pueden apostar por ello sin confían en ese mercado futuro, e irse posicionando tecnológicamente e incluso a nivel imagen. Incluso, pudiera suceder que aunque el mercado no sea masivo, existan nichos donde, si se equilibran bien precios y costes, pueda ser rentable ya ahora mismo.

Pero hay otro motivo que, en el fondo, es el que inspira este post, un argumento que me encuentro leyendo el libro libro 'Los robots y sus capacidades' editado por CSIC y escrito por Elena García Armada.

La autora nos muestra un argumento interesante que aportan algunos defensores de la robótica humanoide:


Otros defensores del desarrollo de robots personales humanoides defienden la importancia de aspirar a tan desafiantes desarrollos debido a la tecnología intermedia a la que pueden conducir en el camino y que resultaría muy importante desde el punto de vista comercial y en otras actividades industriales.


Es decir, estaríamos desarrollando robots humanoides, o al menos investigando en ellos, no tanto con el objetivo, al menos a corto plazo, de desarrollar un gran mercado de estos robots, sino como una forma de investigación de tecnologías que son de aplicación en otros campos.

En ese sentido, conviene recordar cómo el desgraciado desarrollo de bombas como las V2 alemanas en la Segunda Guerra Mundial puso las bases para los cohetes espaciales posteriores y cómo, los propios programas de exploración especial, muy especialmente el programa Apolo, generaron una enormidad de avances de todo tipo que luego se han aplicado y llevado con éxito al mercado.

Recordemos igualmente, la gran sinergia y puntos de contacto que una robótica humanoide tendría con la robótica tradicional (especialmente en aspectos cinemáticos, dinámicos y de control, así como en sensores), con la inteligencia artificial en todo lo que tiene que ver con capacidades cognitivas o, como en su momento señaló Elon Musk, con el vehículo autónomo.

No parece descabellado, pues, que no sólo la robótica humanoide se nutra de aportaciones de otras disciplinas sino que, en la otra dirección, los avances que se puedan producir en investigación en robótica humanoide se puedan trasladar a su vez a otro tipo de aplicaciones con un mercado más claro actualmente. Y, en este sentido, la pura investigación y la innovación, aunque fuese una innovación colateral, serían motivos que podrían justificar la inversión en robots humanoides, desarrollando y mejorando la tecnología, a la espera de conseguir un mayor mercado propio y sin renunciar a ese mercado propio de robots humanoides.


Elon Musk, Optimus y el Producto Mínimo Viable


Esta idea del uso de robot humanoides como plataformas para la innovación, me lleva a una pequeña digresión que no me resisto a hacer.

Hace unos meses, en Octubre de 2022, se produjo un gran revuelo mediático con la presentación de una primera realización de Optimus, el robot humanoide de Tesla, abanderado por su mediático y también polémico fundador, Elon Musk. Esa presentación, rodeada por otros lanzamientos de robots humanoides, me inspiró entonces el artículo '¿Están los robots humanoides ya aquí?'.

En general, Optimus generó una reacción de una moderada decepción porque no era un robot tan original y avanzado como se esperaba ni, por supuesto, a la altura, al menos de momento, de la promesa de Elon Musk.

Pero la presentación de Optimus en 2022, donde aunque un poco primitivo, se veía al menos ya a un verdadero robot humanoide, había estado precedido por una presentación previa en 2021 de la idea, donde el 'papel' de robot lo hizo un humano disfrazado de robot, una presentación que fue claramente criticada como una especie de pantomima.

Resulta difícil meterse en la cabeza de Elon Musk, un personaje visionario y con innegable personalidad y carácter emprendedor, pero también excéntrico, arriesgado y polémico. Y no me parece que Elon Musk sea una persona que vaya a seguir metodologías establecidas. 

Pero hace pocos días, pensando en esta idea de los robots humanoides como forma de innovación, se me ocurrió enlazar el planteamiento de Optimus con lo que preconizan métodos como Lean Startup y su famoso concepto del Producto Mínimo Viable, productos no finales, aún no terminados, pero que permiten, con bajo coste, experimentar con el mercado intentando identificar sus necesidades, deseos y aquello por lo que pagaría.

Y, aunque insisto, no veo a Elon Musk siguiendo metodologías, se me ocurre que esa polémica presentación de un Optimus que era un humano disfrazado, no era más que una forma, bien que excéntrica y arriesgada, y quizá no intencionada, de realizar un Producto Mínimo Viable, una forma, muy barata, de presentar un concepto al mercado, ver cómo reaccionaba y recoger y aprender del feedback que ofrecía. La segunda presentación de Optimus, con un robot ya real, sería un prototipo, una forma de producto mínimo viable más evolucionada y también claramente más cara, pero sin llegar aún ni de lejos a la inversión y desarrollo totales necesarios para un verdadero producto final. Una nueva forma de reducir el riesgo de invención (la viabilidad técnica real del producto y el riesgo cliente (aceptación del mercado).

Quizá, quizá, este uso, puede que no intencionado por parte de Elon Musk de ideas como el producto mínimo viable, pueda servir de confirmación a ese empleo de la robótica humanoide como una forma de innovación.


Conclusiones


Mis conclusiones, todavía provisionales: aunque intuyo que a corto plazo, los robots humanoides no van a gozar de un gran mercado, sí podría tener sentido, aunque asumiendo un cierto riesgo, investigar y trabajar con ellos. Por un lado, se pueden aprovechar nichos de mercado realmente abordables a corto plazo y, además, son una forma de investigación trasladable a innovaciones en otros mercados tecnológicamente adyacentes mientras se desarrolla un mercado propio.


martes, 15 de agosto de 2023

Una perspectiva filosófica sobre nuestra relación con las máquinas con Aníbal Astobiza

En 'Tecnofilosofía' encontramos, como el título no deja lugar a dudas, una reflexión filosófica, especialmente ética, sobre la tecnología, con especial foco, aunque por vía indirecta, en la inteligencia artificial, la robótica y las interfaces cerebro-ordenador.

Una reflexión que, en muchos momentos, es una revisión panorámica de lo que diversos pensadores han aportado en las materias tratadas pero que también incluye opiniones y aportaciones originales y específicas del autor, como la idea del 'conductismo relacional'.

El contenido se estructura en siete capítulos de extensión irregular, como sigue:
  • 'INTRODUCCIÓN:' Explica primero el término 'tecnofilosofía' que da título al libro y su intención al escribirlo. Luego, y adoptando una cierta perspectiva histórica, explica el concepto de máquina, que es para el autor mucho más amplio que el que se entiende habitualmente, e identifica los tres aspectos que en su opinión caracterizan a una máquina, a saber, composicionalidad (compuestas por partes), artificialidad (construidas) e intermedialidad (median entre un sujeto y su entorno).

  • 'R2S2, C-3PO Y OTROS DROIDES PROGRAMADOS PARA LA MORAL:' Un capítulo muy extenso y que probablemente se pueda considerar el núcleo del libro. En él se hace un largo repaso por las diferentes subdisciplinas de la ética aplicada incluyendo la ética de la ingeniería, ética de la computación, ética de la inteligencia artificial, ética de la robótica y ética para máquinas tocando de paso las ideas de muchos autores e identificando algunas de la problemáticas habitualmente abordadas. También introduce el autor su propia propuesta que denomina 'conductismo relacional' en que afirma que cualquier juicio moral sobre una persona, animal o máquina parte de los estados conductuales y de lo que podamos inferir de las manifestaciones externas de esas entidades. otorgando un papel secundario, que no negando, a elementos como la sintiencia, la inteligencia o la consciencia.

  • 'OYE SIRI, OK GOOLE, ¿CÓMO ME ENCUENTRO?:' Aborda la influencia que las máquinas tienen sobre la conducta y psicología humanas. Antes de tratar de forma directa esa temática, se detiene a argumentar por qué, en opinión del autor, la distinción entre natural y artificial no tiene sentido. Igualmente defiende y explica por qué la naturaleza no existe y errores en la argumentación ecologista. Luego salta ya a las relaciones humano-máquina y lo que denomina el mundo-máquina que casi lo abarca todo, porque incluso concibe las ideologías como máquinas. Entiende que ese mundo-máquina es algo que podemos construir, y por lo tanto, llevarlo a donde más convenga a la humanidad. Insiste en que es erróneo considerar lo natural como bueno y lo artificial como malo (recordar que para el autor esa distinción no tiene siquiera sentido) y muestra una actitud muy favorable hacia las máquinas y la tecnología.

  • 'MOMENTOS PERDIDOS EN EL TIEMPO COMO LÁGRIMAS EN LA LLUVIA. ¿LLEGARÁN A SER CONSCIENTES LAS MÁQUINAS?' Un capítulo donde se realiza un bastante detallado recorrido por las diferentes teorías existentes acerca de la consciencia, tocando, por el camino, algunos temas relacionados como la agencia moral o la inteligencia artificial general.

  • 'ROBOCOPS REALES: LA FUSIÓN DEL SER HUMANO CON LA MÁQUINA:' Un capítulo algo más breve que los anteriores en que se aborda el transhumanismo y la posibilidad de una eventual fusión humano-máquina. Se habla del concepto de cíborg, de los avances en la interacción cerebro-ordenador y se tocan problemáticas como la privacidad o el enriquecimiento humano.

  • 'LA COMPUTADORA DICE QUE NO: LA ÉTICA Y SOCIOPOLÍTICA DE DE LOS DATOS GENERADOS POR LAS MÁQUINAS:' Adopta un enfoque sociopolítico y toca temáticas relacionadas como la toma de decisiones, un eventual gobierno basado en máquinas y la legitimización del poder o la responsabilidad, por ejemplo.

  • 'CONCLUSIÓN: ': Un breve cierre en que el autor resume, muy brevemente, la intención del libro y un resumen del mensaje.
De la argumentación de este libro, me han llamado la atención algunas cosas. Por un lado, la cerrada defensa de la tecnología que el autor hace (en general, lo que he leído hasta la fecha de filosofía en relación con tecnología suele ser crítico o, al menos, cauto y con bastantes prevenciones respecto de la tecnología). 

Por otro, una visión que me ha parecido muy lógica pero para mi desconocida, de la relación entre lo natural y artificial (que el autor defiende que no tiene sentido) y la interacción de los humanos con el mundo, una visión que creo que llama a una revisión, que no anulación, de los mensajes ecologistas. 

También me ha resultado muy interesante el planteamiento del 'conductismo relacional' del que me he quedado con ganas de conocer algo más.

Un libro que pese a la temática, es ameno y fácil de leer, y que adopta un claro tono divulgativo lejos de erudiciones artificiosas. Un libro de caracter multidisciplinar y con un tratamiento de la ética algo diferente del que habitualmente me he encontrado.

Un libro, en fin, muy recomendable.


Aníbal Astobiza



(Fuente: Ficha de autor en Plaza y Valdés)

Aníbal Astobiza
Aníbal M. Astobiza es licenciado en Filosofía por la Universidad de Deusto y doctor en Ciencias Cognitivas y Humanidades por la Universidad del País Vasco.

Ha sido investigador posdoctoral del Gobierno Vasco, visitante académico en el Oxford-Uehiro Centre for Practical Ethics de la Universidad de Oxford y visiting fellow in Global Health and Social Medicine en el Center for Bioethics, Harvard Medical School, de la Universidad de Harvard.

Cuenta con numerosas publicaciones en revistas académicas sobre ciencia y filosofía.

Conocí a Aníbal cuando actuó como ponente, a propuesta de Txetxu Ausín, el el Foro de Humanismo Digital EOI, hablando fundamentalmente de Brain Computer Interfaces, sus implicaciones éticas y neuroderechos. Tras esa charla, se incorporó al foro.

Desde entonces, hemos tenido encuentros intermitentes como cuando acudí a que me firmará, en la feria de libro, un ejemplar de su obra 'Tecnofilosofía'.

Puedes saber más del autor visitando su página oficial y su perfil en LinkedIn o siguiéndole en Twitter donde se identifica como @anibalmastobiza.

    

lunes, 14 de agosto de 2023

Propuesta de determinantes éticos para robótica asistencial

En un artículo reciente, hablábamos de la robótica asistencial desde una perspectiva ética. 

En este artículo vamos a completar un poco más lo allí expuesto.


La singularidad roboética


Indicaba en ese post anterior el carácter diferencial de la roboética respecto la ética de la inteligencia artificial. 

Además, y, apoyado en  el libro 'Tecnología para la salud' y en concreto, en el  capítulo 'Robótica asistencial. Una reflexión ética y filosófica' firmado por Txetxu Ausín, Belén Liedo Fernández y Daniel López Castro identificaba unos riesgos éticos que afectan a la robótica asistencial.

En este post, continuación del anterior, hablamos de determinantes éticos, y todo ello a partir de la propuesta realizada en la misma fuente.


Los determinantes éticos de la robótica asistencial


Los autores citados nos hablan de unos determinantes éticos. No dan una definición de lo que entienden por determinante ético, pero los entiendo como las acciones a realizar o las directrices en que concentrarse para conseguir ese carácter ético de la robótica asistencial.

Y los autores nos hablan de seis determinantes éticos, a saber:


  • Minimizar daños (seguridad y protección): En parte alineado con el principio de no maleficencia habitual en discursos éticos, nos habla de no provocar daños intencionados, por supuesto, pero también de una gestión de riesgos, puntos ciegos o negligencia que evite daños no intencionados. Incluye dentro de este apartado el evitar sesgos que provoquen discriminación.

  • Maximizar los beneficios (competencia): Este segundo parece encajar con el principio de beneficencia (en cierto modo complementario de la no maleficencia). Los autores, sin embargo, lo refieren sobre todo a comprobar que los beneficios de la tecnología superen sus riesgos y a la necesidad de usar la robótica asistencial cuando esté justificado.

  • Respetar la autonomía y el control: es decir, respetar el derecho a decidir de la persona y que los artefactos, en este caso los robots asistenciales, sean controlados por las personas.  

  • Respetar la privacidad y autonomía personales: Habla de la protección de datos y sobre todo de evitar el uso cohercitivo para la manipulación de personas. En este apartado, los autores parecen pensar, por su discurso, más que en la robótica social asistencial, en la neurotecnología.

  • Proteger el medio ambiente: Se aboga por la eficiencia energética, la sostenibilidad,  y el uso de energías limpias y renovables. Un determinante que me resulta sorprendente, no por no compartirlo, sino porque no me parece que la robótica asistencial tenga un impacto medioambiental especial.  

  • Promover la equidad y la justicia: Tener en cuenta la diversidad de agentes involucrados en robótica asistencial y buscar la igualdad y accesibilidad.


Probablemente al lector, si está algo versado en ética de la tecnología y de la inteligencia artificial no le sorprendan mucho las propuestas.

Personalmente, quizá en esta propuesta de determinantes éticos, básicamente bien orientada, eche un poco en falta propuestas o matizaciones algo más específicas y relacionadas con los aspectos que personalmente considero más diferenciales de la robótica social y la robótica asistencial, consideraciones que, como ya mencionaba en otros posts, tienen mucho que ver con lo emocional, con lo relacional, e incluso el 'engaño' no en el sentido de un falseamiento activo, sino la creación no forzada de falsas expectativas.


Conclusión


La robótica en general, y la robótica social y asistencial, ofrecen un perfil de riesgos y posibles acciones éticas diferenciado de otras tecnologías y en especial de la inteligencia artificial.

Aunque sometido a revisión, la disponibilidad de censos de riegos y, en este caso, determinantes éticos, como los que hemos visto en este post y el anterior, nos ayudan a centrar un poco más la problemática y, por tanto, pensar en propuestas.



jueves, 10 de agosto de 2023

El arte y la técnica: una digresión improvisada sobre Midjourney y el futuro del arte

Que me perdonen los artistas y los entendidos en arte, si digo algo equivocado, algo que no compartan, algo que entiendan como erróneo o fruto del desconocimiento...porque en el fondo puede ser así, ya que reconozco, y lo lamento, que no poseo grandes conocimientos de arte más allá de la cultura básica que la educación obligatoria proporciona. 

Y, por tanto, alguna de las apreciaciones que hago en este post puede estar poco alineadas con la realidad del arte o puede no tener en cuenta algún matiz relevante. Si ese es el caso, me encantaría recibir comentarios e incluso correcciones siempre que sean fundamentados y bienintencionados..

Que me perdonen incluso, los muy, muy entendidos (los de verdad entendidos) en inteligencia artificial generativa, muy especialmente en el ámbito de las imágenes, porque aún estoy a medio camino (no sé si alguna vez llegaré al final de ese camino, ya que el mismo se alarga y aleja constantemente) en mi investigación y análisis de esta rama de la inteligencia artificial, una investigación y análisis que es abarcadora, incluyendo la tecnología, el negocio, los casos de uso, las herramientas concretas y sus implicaciones éticas.

Lo que sigue no son más que unas reflexiones improvisadas, fruto de unos primeros contactos con Midjourney, una de las más conocidas herramientas de inteligencia artificial generativa, orientada a la creación de imágenes. Unas reflexiones inspiradas por la lectura de dos libros sencillos, sin pretensiones, que explican el uso de Midjourney, centrados muy específicamente en los comandos y sobre todo el 'prompting': 'The midjourney version 5 prompot book' de Shaheed Ullah y 'Aprende a usar Midjourney: Generación de imágenes mediante inteligencia artificial' de Rafael Antonio Roa Hernández.


El problema: ¿está el arte en peligro? ¿Está el empleo en diseño gráfico en peligro?


La llegada de la inteligencia artificial generativa 'ha puesto patas arriba' el panorama tecnológico, por su potencia, por su espectacularidad y también por las preguntas que plantea, los interrogantes que abre.

En concreto, la inteligencia artificial generativa aviva del debate, la reflexión o el miedo, a la sustitución de la actividad humana por algoritmos, pero en este caso en labores tan sorprendentes, tan en apariencia tan intrínsecamente humanas, tan hasta no hace mucho tan supuestamente a salvo de cualquier posibilidad de automatización, como es la creación artística.

Aunque el concepto de arte es muy amplio, estoy pensando básicamente en la pintura o, de manera algo más práctica, la creación de imágenes en campos como la ilustración de libros, logotipos, carteles publicitarios, etc de los que hablaré, no sé si con total precisión, como diseño gráfico.

¿Podemos considerar obra de arte la creación de una inteligencia artificial generativa? ¿Qué hueco queda para el arte o para la creación si los cuadros o las ilustraciones se pueden generar de forma automatizada casi por cualquiera mediante el uso de herramientas generativas? ¿Están seriamente en peligro los puestos de trabajo de ilustradores o diseñadores gráficos? ¿Y de los pintores?


Midjourney


Midjourney es una herramienta generativa que a partir de unas indicaciones textuales, relativamente sencillas (el 'prompt') junto con algún comando que fija ciertos aspectos, es capaz de generar imágenes. Imágenes que son detalladas, sofisticadas, pudiendo asimilarse, y mucho, a un cuadro o una fotografía de calidad.

Y no se precisan conocimientos técnicos, al menos técnicos entendidos como programación o algoritmia. Y es muy fácil empezar a crear imágenes aunque conseguir resultados excelentes precisa de cierta práctica en la definición de esos prompts y, lo que es curioso, y en parte ha inspirado la redacción de este post, es que también se beneficia de conocimiento artístico o de fotografía, pero a eso volveré más adelante.

¿Podría considerarse arte, entonces, una actividad en que el presunto 'creador' humano, lo único que hace es proporcionar una frase a una herramienta informática y esperar que ésta genere una imagen, una imagen que el humano ni siquiera sabe cómo va a ser exactamente hasta que la ve, y donde el humano no ha hecho uso de ninguna habilidad manual, o en apariencia ni siquiera una gran habilidad cognitiva?

Hagamos un breve alto en el camino para considerar el papel de las técnicas en el arte.


El arte y las técnicas


Y me arriesgo en este punto a una breve reflexión, insisto que no respaldada por especiales conocimientos sobre arte, sobre esa relación del arte con las técnicas.

Es de mi parecer, no sé si acertado o no, que en los primeros tiempos del arte, y estoy pensando en la pintura, y en esos primeros tiempos abarcando hasta la Edad Media y el Renacimento, la técnica, el dominio de la técnica, jugaba un papel muy importante en la consideración de un artista. 

El conocer cómo crear nuevos tintes, nuevos tonos de color a partir de plantas, metales u otros materiales, podía ser diferencial. El conocimiento o dominio de técnicas como la perspectiva, o el saber plasmar en un cuadro la luz, con sus sombras y con sus mil detalles, o el saber reflejar con fidelidad la anatomía humana, con zonas tan difíciles como la cara o las manos, hacían a una persona un mejor artista. 

Sin despreciar la idea, la inspiración, el sentimiento o el mensaje, la técnica era crucial en la consideración de la calidad de un artista. Al menos eso es lo que yo percibo.

Sin embargo, y como se diría en un lenguaje poco artístico, esas técnicas se 'comoditizaron', se hicieron moneda casi común, se sistematizaron, se enseñaron y se pusieron al alcance de cualquiera con una cierta formación, en este caso en pintura. Y probablemente casi lo mismo pueda decirse con la escultura. 

Hoy en día, cualquier pintor puede reproducir con gran fidelidad una obra maestra, digamos La Gioconda, y, al menos a los ojos de los legos, hacer cuadros casi indistinguibles del original. En el caso de la escultura, no es raro que el escultor sea más bien un diseñador que luego encarga a un taller o una forja la confección material de la obra.

Y eso es una manifestación de la 'comoditización' de la técnica en el arte. Lo valioso pasa a ser, no la técnica, que está al alcance de mucha gente y por tanto no es diferencial, sino la originalidad, la innovación, la creatividad o lo que la obra sea capaz de transmitir. De alguna manera, parece como un arte más puro, más esencial, quizá más intelectual o emocional, y, desde luego, mucho menos manual.


Midjourney como técnica


Y esto me lleva a la consideración, que no a la afirmación, de que quizá debamos considerar a Midjourney y otras herramientas de inteligencia artificial generativa, actuales o que puedan venir en el futuro, simplemente como una técnica más, una técnica que sí, que 'commoditiza' la parte material de la ejecución del cuadro o imagen, que hace absolutamente prescindible la habilidad manual, que está más al alcance de cualquiera, pero que quizá, quizá, deje aún espacio al creador para su propia expresión.

Al menos en sus realizaciones actuales, el resultado de una herramienta generativa no es completamente determinista. Influye lo que el humano indique mediante el 'prompt'. Y en ese prompt se indica, claro, lo que se desea que la imagen contenga, pero se tienen en cuenta más cosas.

Así, por ejemplo, y eso me ha llamado la atención, en el prompt se pueden indicar estilos artísticos (muchos de los cuales me parecen conocimiento especializado de artistas o críticos artísticos) y también el estilo de pintores concretos. Esta indicación del estilo de pintores concretos puede generar, y genera de hecho, problemáticas de propiedad intelectual, pero a efectos de lo que en este post quiero indicar, lo único que pone de relieve es que el tener un amplio conocimiento de artistas y sus estilos es un conocimiento relevante a la hora de crear una imagen con Midjourney.

Me ha resultado, quizá aún más curioso, que cuando la imagen que se quiere generar es de tipo fotografía, no sólo se puede indicar un fotógrafo con nombres y apellidos para condicionar el estilo de la imagen, es que también tiene influencia y se puede indicar en el prompt, la cámara fotográfica concreta que, supuestamente, se ha utilizado para generar esa imagen.

Al menos en su estado actual, Midjourney es una herramienta poderosa, sorprendente, pero aún deja espacio, pues, a la habilidad, la intención y el conocimiento artístico y/o fotográfico del humano que maneja la herramienta.

Esto me lleva a unas conclusiones preliminares sobre las preguntas más profundas acerca de la naturaleza del arte y si se puede considerar arte algo creado con una solución generativa como Midjourney.

Pero antes quiero abordar algo más práctico, el futuro del diseñador gráfico, desde una perspectiva de empleo y disrupción tecnológica.


El futuro del diseño gráfico


Lo cierto es que las imágenes creadas con una herramienta como Midjourney pueden ser realmente buenas. Y se pueden utilizar en muchas labores que habitualmente los que no somos artistas delegaríamos o contrataríamos a un diseñador gráfico o partiríamos de un banco de imágenes: diseño de portadas de un libro, diseño de un logotipo, imágenes para informes corporativos, ilustraciones para libros o artículos, imágenes para webs, imágenes de cabecera de un post en un blog, etc.

Me gustaría poder transmitir otra cosa a los profesionales de este campo, pero realmente sí creo que están amenazados. Lo siento. Probablemente, al menos a corto plazo, no desaparezcan, pero sí intuyo que puede disminuir su carga de trabajo y que se les puede exigir dar un 'plus' si es que quieren seguir siendo valiosos y relevantes en el mercado.

Hace unas semanas hablaba con una persona a quien aprecio mucho, en lo personal y lo profesional, alguien a quien prefiero no mencionar pero que si lee estas líneas seguramente se reconozca, y me contaba el caso de una diseñadora gráfica, cuyo nombre no me proporcionó y que, de alguna forma estaba conmocionada ante esta nueva tecnología. ¿Por qué? Pues porque tras años de dedicarse a formarse, a perfeccionar su estilo y capacidades de diseño gráfico, ahora observaba impotente como casi cualquiera, con una herramienta de este tipo, podía generar imágenes muy buenas, que ella misma no tenía más remedio que reconocer que le gustaban.

Como historia personal es triste...pero creo que vamos a ver muchas más de este tipo de historias. Realmente creo que la inteligencia artificial generativa es disruptiva y va a alterar e incluso puede que eliminar muchos perfiles profesionales o puestos de trabajo.

Es la doble cara de la tecnología: genera progreso y grandes beneficios a nivel global, pero no evita, incluso provoca, tragedias a niveles más personales o sectoriales.

Aunque en este momento no puedo concretar mucho mis consejos, sí creo que cualquier profesional de un ámbito que pueda ser realizado por una solución generativa debe hacer dos cosas:

  • Conocer la tecnología y sus capacidades e implicaciones reales, con un doble objetivo: por un lado entender la amenaza que puede suponer y, por otra, para intentar reconocer formas de adaptarse a sus existencia, usarla y sacarle partido, si es posible.

  • Reflexionar sobre su propia proposición de valor y si puede ser sostenible en el futuro próximo y lejano con la existencia de estas herramientas o no. Si la respuesta es afirmativa, profundizar en sus valores diferenciales (y en el conocimiento y uso de la tecnología). Si la respuesta es negativa, no queda más remedio que hacer un plan de reciclaje y reinvención profesional. Puede ser duro, pero quizá inevitable.


El futuro del arte


En un plano más abstracto, más elevado aunque no necesariamente más importante, vuelvo a la pregunta de si queda sitio para el arte en el mundo de la inteligencia artificial generativa.

Vuelvo a insistir en que no soy entendido en arte, así que lo doy es sólo mi impresión, perfectamente discutible. Y también aviso que la tecnología en general y la inteligencia artificial y la generativa en particular, evolucionan tan rápido y con pasos tan espectaculares, que cualquier cosa que diga ahora puede tener que ser revisado dentro de unos meses o incluso unas semanas.

Pero mi impresión actual es que sí sigue quedando sitio para el verdadero arte.

Como he intentado explicar, el resultado que proporciona una herramienta como Midjpourney no es todavía completamente evidente. Todavía hay sitio y trabajo para el humano para explorar, detallar y evolucionar el prompt con que se piden imágenes hasta conseguir el efecto deseado. Y en ese trabajo es muy relevante tener conocimientos artísticos, de estilos, de pintores, de trucos, de colores, de cámaras fotográficas, etc

Aunque muy poderosa, y aportando fuerte automatización, aún hay hueco para el trabajo, la intención y el guiado humano.

En ese sentido, Midjourney y las herramientas generativas serían una caso más, el último y probablemente más avanzado, de las técnicas que 'comoditizan' la ejecución de la obra, pero que, en cierto modo, aún hace más diferencial el ingenio de quien sea, con esa herramienta, capaz de crear algo novedoso y diferente, quizá un estilo nuevo... que otros podrán imitar más adelante, mediante nuevo entrenamiento del modelo y una adecuada indicación en el 'prompt'.


Conclusión


He insistido en que no me considero experto, ni siquiera buen conocedor, del mundo del arte, y aún estoy en fase de estudio de las soluciones generativas, así que todo lo que he dicho más arriba puede ser cuestionable, criticable o revisable.

Pero de mi conclusión final, de mi recomendación final, estoy muy seguro.

Y esa recomendación es esta: si eres artista, si eres diseñador gráfico, no puedes ignorar las soluciones de inteligencia artificial generativa. Puede quedar o no sitio para al arte, puede quedar o no lugar para el diseño gráfico, se provocará más o menos desempleo o falta de actividad en ciertas actividades profesionales relacionadas con la creación gráfica, pero de lo que no me cabe duda es que la inteligencia artificial generativa va a impactar y modificar el mundo del arte y la creación gráfica incluyendo la fotografía. Creo que va a haber un antes y un después.

Así que no hagas el avestruz, no lo ignores, conoce esta nueva tecnología, cuánto más mejor, cuánto antes mejor. 

Estúdiala, úsala, conócela... y, con conocimiento de causa, decide cómo puede afectar a tu futuro y qué quieres hacer con ella en tu actividad profesional y artística

 

lunes, 7 de agosto de 2023

Un censo de riesgos de la robótica asistencial

Con frecuencia he afirmado que la ética aplicada a la robótica, tiene matices propios, matices que hacen que, aunque en algunos aspectos se solape o herede de consideraciones propias de la ética de la inteligencia artificial, ofrezca problemáticas y consideraciones muy diferenciadas.


Alguna consideración sobre roboética 


No voy a entrar aquí en mucho detalle, pero una parte no menor de estas diferencias surgen del hecho de que, por un lado, los robots suelen tener un 'cuerpo', una realidad física que un mero algoritmo no posee, y que unida a la natural tendencia de los humanos a la antropomorfización, hace que tendamos a atribuir a los robots una suerte de individualidad, personalidad e incluso intención que, aunque muchas veces falsa en la realidad técnica, es muy vívida para el humano y condiciona la relación con el robot y la percepción del mismo.

Derivado en gran parte de lo anterior, en la ética de los robots están muy presentes todo lo que tiene que ver con la parte emocional y las relaciones y vínculos afectivos, y, por otro, la propia consideración eventual de los robots como agentes o pacientes morales e, incluso como sujetos de derecho


Robótica social y asistencial


Un área particularmente interesante de la robótica, desde el punto de vista técnico, pero también ético, es la de la robótica social, unos robots, con frecuencia (aunque no siempre) de aspecto humanoide, una de cuyas principales funciones es la de relacionarse con personas.

Solapado con el concepto de robótica social encontramos la robótica asistencial, es decir, la aplicación de robots en el cuidado y ayuda a pacientes humanos, con bastante frecuencia ancianos.

No es lo mismo, ni mucho menos, robótica asistencial que robótica social pero sí que es cierto que, en el ámbito de los cuidados (no tanto de acciones quirúrgicas o terapéuticas más específicas), se tiende a trabajar en el ámbito asistencial con robots sociales o con ciertas características relacionales avanzadas.


Riesgos éticos de la robótica 


Y como casi cualquier solución tecnológica, la robótica social, y la robótica asistencial, vienen acompañadas de riesgos éticos, algunos derivados del mal uso intencionado y otros, quizá los más interesantes desde el punto de vista de análisis, riesgos no intencionados, a veces casi inadvertidos.

Aunque, como cualquier lector de este blog es consciente, es un tema que me interesa mucho y al que he dedicado muchos esfuerzos en los últimos dos o tres años, y aunque en este mismo blog he hablado de muchos de esos riesgos, lo cierto es que aún no me 'he animado' a hacer un censo digamos definitivo, una especie de listado estructurado de los riesgos éticos asociados a la robótica en general y la robótica social en particular.

En ese sentido me ha resultado interesante encontrar un primer censo, muy centrado, eso sí, en el caso de la robótica asistencial.


Un censo de riesgos


El censo lo encuentro leyendo el libro 'Tecnología para la salud' editado por María Belén Andreu Martínez y Adolfo Espinosa de los Monteros Rodríguez y que contiene nueve artículos que tratan de aspectos diferentes de la tecnología en salud con foco en lo ético y lo legal.

En concreto, en el  capítulo 'Robótica asistencial. Una reflexión ética y filosófica' firmado por Txetxu AusínBelén Liedo Fernández y Daniel López Castro se identifican seis riesgos de la robótica asistencial,

Los seis riesgos que identifican los autores, brevemente explicados o comentados con cierta libertad por mi parte son:


  • Manipulación: En efecto, existe cierto temor al uso de robots sociales para ejercer una influencia no debida, que alcanza la manipulación, sobre los humanos, en este caso pacientes. Sin embargo, en la descripción que se hace en este libro, más que de robots sociales, se habla de neurotecnología, de la influencia directa sobre la actividad cerebral, mediante el llamado 'neuro-hacking', una posibilidad que, aunque ciertamente abierta y digna de atención, la considero ahora mismo algo más especulativa y a futuro.  

  • Cancelación de identidad: Confieso que no entiendo del todo a qué se refieren los autores exactamente con este riesgo, que lo relacionan con la necesidad de una seguridad. No estoy seguro de si se refieren a una especie de caso extremo de manipulación, en que se llega a anular la propia identidad y personalidad del individuo atacado o si, quizá, están pensando en una suerte de suplantación de identidad como nos encontramos en el mundo de la ciberseguridad y de ataques en redes sociales.

  • Engaño: que por un lado se refiere a la construcción de un entorno de interacción del paciente que en cierto modo es ficticio y por otro, enlaza con el problema de la vinculación afectiva y la dependencia emocional de los robots por parte de ese paciente.

  • Merma de contacto humano: de alguna forma la sustitución de las relaciones humanas por este tipo de relaciones con robots, lo que puede llevar a un aislamiento, a una falta de interacción realmente humana y significativa.

  • 'Objetualización': una palabra entiendo que inventada, y que casi preferiría cambiar por 'cosificación' y que, en cualquier caso, alude de alguna forma al tratamiento de los pacientes como meros objetos, como un elemento de gestión y actuación ignorando su personalidad y sus características y necesidades más humanas.

  • Reducción del cuidado a una ilusión: en el sentido, un poco de lo visto en la merma del contacto humano y la objetualización, es decir, aunque existe en cierto sentido un cuidado, éste se hace en un sentido muy práctico y material, basado en la relación con máquinas, pero sustituyendo la vida social por algo artificial y perdiendo el entendimiento del cuidado como, en boca de los autores, una 'práctica moral relacional esencial' y quedando reducida una práctica deshumanizada 


Y este es el censo. Probablemente merezca una revisión, quizá una ampliación, pero tiene el valor de comenzar a estructurar un análisis ético de un campo relativamente novedoso.


Conclusión


No se acaba agota aquí este tema de los riesgos asociados a la robótica social y la robótica asistencial. 

Seguramente, en otros artículos recoja nuevos censos que me pueda ir encontrando hasta que, en algún momento, supongo, que me decidiré a proponer un censo propio.

Pero de momento, ahora lo dejamos aquí.


jueves, 3 de agosto de 2023

El círculo moral, los robots y otros animales

Uno de los debates presentes en el campo de la roboética es la discusión sobre si los robots son lo que se denomina pacientes morales, si tienen algún tipo de estatus moral, si merecen una consideración moral por nuestra parte, los humanos.

No es un debate sencillo, aunque en un primer impulso, y sin pensarlo demasiado, podemos estar impelidos a responder con un claro 'no'.

Un concepto que quizá pueda ayudar, que no resolver, el dilema es el del 'circulo moral'.


El círculo moral 


Como se cuenta en el libro 'Tecnofilosofía' de Aníbal Astobiza, que me ha inspirado este post, la idea de círculo moral fue introducida por el historiador irlandés William Lecky ya en el siglo XIX, pero fue realmente popularizado por el filósofo Peter Singer en los años ochenta. Como nos explica de forma sucinta Astobiza, el círculo moral:


se refiere a un círculo imaginario que trazamos entre quienes consideramos dignos de consideración moral.


Es decir, de alguna forma es una frontera conceptual que deja dentro del círculo, a aquellos seres o aquellos entes que consideramos tiene estatus moral, que son dignos de consideración moral y que deja fuera del mismo a aquellos otros seres o entes que no son merecedores de consideración moral.

En un caso muy trivial, podemos considerar que las personas, los seres humanos, están dentro de ese círculo y, por ejemplo, una roca, no lo está.

Es una imagen aparentemente muy sencilla.


La expansión del circulo moral


Sin embargo, la aplicación real de ese círculo moral en su desarrollo histórico, es menos claro, ha ido evolucionando y, eso sí, en un sentido de expansión, de abarcar más y más entes dentro del círculo.

Así, hoy día no nos cuesta incluir dentro del círculo moral a todas las personas. Sin embargo, hace no tantos siglos existía la esclavitud, donde los esclavos no gozaban de ningún derecho, de ninguna consideración moral. Estaban fuera del círculo.

Aunque quizá no completamente fuera del círculo, las mujeres han tenido históricamente, y en algunos casos siguen teniendo, menos derechos que los hombres, no habiendo accedido al sufragio universal. Y existen otros casos de colectivos de personas con menos derechos. Se puede considerar, que es afortunado que ese círculo moral se haya ido expandiendo, y probablemente lo siga haciendo.


Los animales y la sintiencia


Pero en esa expansión, hay un momento, una frontera, algo diferente y es cuando dejamos de pensar sólo en los seres humanos.

El primer salto es hacia los animales. Hoy en día, al menos en nuestro entorno, parece fácil admitir que un perro, un gato, en general animales domésticos, incluso los animales salvajes, merecen cierta consideración moral, cierto respeto. Respeto a su vida y su dignidad en el sentido de no ser correcta la aplicación de torturas, el maltrato, el someterles a condiciones de vida insalubres, etc. Aunque existan debates, como los que afectan a lo taurino, a las macrogranjas, etc, parece acrecentarse el consenso de que los animales son susceptibles de cierta consideración moral: han entrado en el círculo moral.

Sin embargo, en el caso de los animales, inadvertidamente tendemos a conceder ese estatus moral con cierta facilidad, a mamíferos y aves, quizá reptiles. ¿Pero, por ejemplo, los insectos? Parece que, a medida que los animales son más diferentes de nosotros tendemos a resistirnos a conceder estatus moral.

¿Y qué pasa con las plantas?

¿No deberíamos incluir en general a todos los seres vivos?

En ese sentido, un criterio que se suele mencionar como vara de medir para incluir o excluir del círculo moral, es lo que se denomina la sintiencia, es decir, la capacidad pare experimentar emociones, sufrimiento, dolor. Nos lo recuerda Astobiza.


Para incluirse en el círculo moral, muchos consideran que la capacidad sintiente es el criterio clave.


Una visualización del círculo moral

Aunque aquí nos enfrentamos a la dificultad de saber qué es exactamente una emoción, un sufrimiento y, sobre todo, para determinar si un ser realmente siente (¿cómo saberlo en el caso de un cactus, por ejemplo?) parece que ese criterio de la sintiencia apuntaría a incluir en el círculo a todos los seres vivos aunque existen dudas sobre esa capacidad de 'sintiencia' en seres vivos, digamos, inferiores, con lo que hay quien defiende que, directamente, todos los seres vivos, incluso ecosistemas enteros, deben estar dentro del círculo moral.


Los robots y el círculo moral


Y llegamos al caso de las máquinas, y específicamente de los robots.

¿Deberían estar los robots dentro del círculo moral?

Desde luego, no se trata de seres vivos. ¿Pero, tienen capacidad de sentir, de sufrir?

No parece que los robots de los que disponemos ahora mismo, ni de los que podamos disponer en un inmediato futuro, dispongan de esa capacidad se sintiencia. 

Pero ¿y en un futuro más lejano? ¿Podrán existir máquinas sintientes y, por tanto, que debamos incluir en el círculo moral?

Nos enfrentamos aquí, de nuevo, al problema de definir realmente qué es la emoción y qué el sufrimiento y cómo detectarlo más allá de las manifestaciones externas que el ente cuestión, en este caso el robot, pueda ofrecer.

Ya en robots y agentes conversacionales actuales observamos capacidad de detección y expresión de emociones, no completamente naturales pero en ocasiones razonablemente convincentes. Y sin embargo tenemos bastante claro, porque sabemos cómo funcionan, que esas máquinas no sienten. Pero ¿lo sabremos siempre? 

Si se producen fenómenos de 'emergencia' de aparición de comportamientos no previstos, no programados, quizá pudiésemos abrigar dudas.

O, incluso, cuando comprendamos mejor la base física y biológica de las emociones y sufrimiento humanos, a lo mejor nos replanteamos si 'eso que hacen las máquinas' puede ser una forma de emoción y sufrimiento.

Aparte de esto, y algo de ello hemos tratado en este blog, hay autores que sostienen que los robots deben tener un cierto estatus moral, incluso ciertos derecho, y en muchos casos no tanto por los robots en sí, sino por lo que implica para los humanos.


Conclusiones


Mucho quedaría todavía por reflexionar y debatir acerca del estatus moral de seres no humanos y de robots. De momento, en este post mi interés era, simplemente, traer a colación el concepto de círculo moral como una herramienta para explicar y visualizar la inclusión o no de ciertos entes, en este caso los robots, dentro del ámbito moral.