Una definición formal pero insuficiente de robot

¿Qué es un robot? ¿Qué es exactamente un robot?

La dificultad de una definición de robot

Aunque parece que, intuitivamente, todos sabemos lo que es un robot, lo cierto es que el asunto no parece estar tan claro si se 'aprieta' un poco, si se cuestiona con cierto rigor.

Cuando hace un tiempo, creo que para un curso, busqué una definición de robot pensando que sería labor sencilla, me di cuenta que no era tan fácil y me encontré con la siguiente definición.

Manipulador multifuncional reprogramable, capaz de mover materiales, piezas, herramientas o dispositivos especiales según trayectorias variables, programadas para realizar tareas diversas

una definición que aportaba la Robotic Industries Association y que parece bastante acertada... pero sólo si estamos hablando de robots industriales y casi diría que solo de ciertos tipos de robots industriales, los típicos brazos articulados de las fábricas, pero lejos de cubrir muchos tipos de robots, como los robots móviles, los robots de servicio como los robots aspiradora (que no considero un manipuladores) o el vehículo autónomo. Y no digamos ya nada si tratamos de aplicarla a un robot software.

Creo que, en el fondo, el problema radica en que nadie se preocupó en su momento, a lo mejor tampoco tenía mayor interés, de definir qué era un robot o de marcar algún tipo de pauta, siquiera lingüística. Y han ido desarrollándose dispositivos o máquinas a las que en ocasiones sus fabricantes llaman robots por motivos que pueden ser técnicos pero también de puro marketing o de simple costumbre o improvisación.

Y si eso es así, si el nombre se ha asignado sin mucho criterio ni rigor, y creo que es ni más ni menos que lo que ha sucedido, encontrar ahora una definición válida de robot es, como suelo decir en casos de términos como éste y alguno más, hacer una especie de 'ingeniería inversa' para intentar encontrar el factor común que anida en todos esos dispositivos a los que personas variadas asignaron el nombre robot sin pensárselo demasiado. E intentar así alcanzar así una definición 'universal' de robot.

Difícil tarea.

Los atributos de robot identificados en 'Robots en la sombra'

Cuando escribí mi libro 'Robots en la sombra', centrado en robots software, me tropecé con esa dificultad, más acentuada si cabe porque, si bien no acabo de encontrar un enunciado que agrupe correctamente a todos los robots hardware, si me quedo en este ámbito sí parecen existir enunciados que, aunque quizá no perfectos, pueden constituir una buena aproximación. 

Sin embargo, un enunciado que también agrupe bajo el mismo paraguas, a los robots hardware y software, es harto más difícil.

En mi libro opté por, más que incluir una definición, intentar encontrar seis atributos que, al menos con mucha frecuencia, adornan a todos o casi todos los artefactos que denominamos robots. Estos atributos son:

• Artificiales
• Adaptables
• Actuantes sobre el entorno
• Autónomos
• Sustitutos de personas
• De actuación similar a personas

Unos atributos que yo mismo reconozco en la obra que pueden estar, especialmente los dos últimos, sometidos a debate, pero que me servían para poner bajo un mismo paraguas a todo tipo de robots y, además, a diferenciarlos de otro tipo de máquinas y de software.

No los explicaré más aquí. Desearía que el lector de este blog se animase a leer el libro y profundizar allí en estas ideas.

La definición formal pero insuficiente

Aunque probablemente en algún momento inicie una búsqueda y recopilación algo más sistemática del concepto de robot, lo cierto es que, sin buscarla especialmente, me he encontrado una nueva definición y ha ocurrido leyendo el libro 'Elements of robotics' de Mordechai Ben-Ari y Francesco Mondada. 

La verdad es que la fuente no es muy especializada, ya que lo que hacen los autores es transcribir una definición del Oxford English Dictionary y que reza así:

A machine capable of carrying out a complex series of actions automatically, especially one programmable by a computer.

Los propios autores vuelcan en seguida una suave crítica a la definición, una crítica en que hacen ver que el hecho de hacer actividades de forma automática no diferencia a un robot de cualquier otro tipo de automatismo como un lavavajillas y que si la diferencia es que esas tareas son 'complejas' se trata de una frontera bastante difusa.

Una crítica en que resaltan también que, aunque el estar programados por un computador ayuda a diferenciarlos de autómatas puramente mecánicos, no los distingue, sin embargo de tantas y tantas soluciones basadas en computadores.

Y una crítica en que resaltan que no se mencione para nada a los sensores que ponen en contacto al robot con su entorno.

En efecto, creo que, pese al prestigio lingüístico de la fuente, esa definición de robot es muy, pero que muy insuficiente, y bastante poco afortunada.

Eso sí, los autores, expertos en robótica, deben ser conscientes de la dificultad de definir lo que es un robot puesto que, aunque a continuación proporcionan una clasificación de robots y explican diferentes tipos de robots, no se animan a aportar una definición propia y alternativa.

Conclusión

Prefiero no aseverarlo con total certeza, pero sigo pensando que es muy difícil, puede que imposible, encontrar una definición de robot que, aunando todos los diferentes tipos de robots, los distinga además nítidamente de otro tipo de artefactos.

Y en ese sentido, sigo pensando que es más viable identificar las características que predominen ampliamente en la mayor parte de ellos aunque haya tipos de robots que no exhiban todas las características y aunque otras máquinas disfruten de alguna o algunas de ellas.

No renuncio, en cualquier caso, a encontrar (o formular) esa definición definitiva o a evolucionar  el listado de atributos que proporcioné en 'Robots en la sombra', pero ahora mismo me interesa mucho más profundizar en el conocimiento, el verdadero conocimiento de los mismos, desde el punto de vista tecnológico, desde el punto de vista de negocio y desde el punto de vista ético.

Agentes conversacionales: ¿Para qué desarrollar sistemas que hablen?

En realidad, la pregunta es algo más amplia que la que el título indica.

En realidad, la pregunta no es sólo por qué construir agentes que sean capaces no sólo de hablar, sino también de escuchar. 

Y ni siquiera la pregunta se queda ahí. Aunque quizá el caso más interesante sea la conversación de viva voz, la pregunta abarca también el porqué, en general, construir máquinas, físicas o software, capaces mantener una conversación y diálogo más o menos natural y fluido con los humanos.

De las interfaces conversacionales a la 'Conversational AI' pasando por los chatbots

Hablamos de un gran número de dispositivos y soluciones como los chatbots, voicebots, smart speakers, robots sociales, y coches o aspiradoras que hablan, por mencionar algunos. 

Es difícil elegir un nombre. 

Refiriéndome sólo a las soluciones software, en mi primer libro, 'La carrera digital' decidí adoptar el término interfaz conversacional, bastante afortunado conceptualmente, pero no muy cercano al gran público. En mi segundo libro 'Robots en la sombra' opté por el término chatbots, corto y conocido, aunque en la mente de algunos lectores puede, incorrectamente, eliminar aquellos que utilizan la interfaz de voz. 

Últimamente, suelo utilizar mucho el término 'Conversational AI' porque es compacto, resalta el aspecto funcional (mantienen conversaciones) y tecnológico (los medianamente avanzados se basan en inteligencia artificial) y, quizá no tanto en Español, pero sí es muy utilizado en medios digitales internacionales.

En cualquier caso, las bases tecnológicas son las mismas y la pregunta, por qué construirlos, aplica probablemente a todos ellos: para qué, en definitiva, construimos agentes conversacionales, interfaces conversacionales, chatbots o como queramos denominarlos.

 

Tres razones para los agentes conversacionales

Estoy iniciando la lectura del libro 'Conversational AI. Dialogue systems, conversational agents and chatbots' del profesor emérito Michael McTear y, en el primer capítulo del libro, el autor se pregunta precisamente esto, por qué construir lo que el denomina 'dialogue systems' y que podríamos traducir como sistemas dialógicos o sistemas conversacionales, pero que no deja de ser otro nombre alternativo para lo mismo que decíamos más arriba.

Nomenclatura aparte, McTear identifica tres motivos para construir este tipo de sistemas conversacionales:

• Proporcionan una baja barrera de entrada para los usuarios, interactuando con ellos de forma natural y eliminando, por tanto, al menos en teoría, la necesidad de un conocimiento, aprendizaje o acostumbramiento por parte del usuario, quien interactúa de la misma forma que haría con un humano (un vendedor, un operador de contact center, etc)


• Desde un punto de vista de la ciencia cognitiva, permite modelar computacionalmente las competencias dialógicas humanos, pudiendo ser un medio para estudiar y entender el comportamiento humano y sus interacciones sociales


• Para simular el comportamiento conversacional humano de forma que puedan parecer humanos y, por ejemplo, pasar el 'test de Turing.

De las tres motivaciones aportadas, la única que está orientada a motivos comerciales o de negocio es la primera que, por cierto, en mi opinión, es fundamental, aunque no única, para explicar el auge, o al menos el porqué, de estos agentes conversacionales.

Me parece interesantísima la segunda, su uso para la investigación cognitiva, pero no creo que eso justifique, por sí solo, ni mucho menos, el auge de los agentes conversacionales, aunque sí me parece un excelente motivo para trabajar en ellos.

La tercera, me parece, sinceramente, anecdótica o, si se prefiere, una derivada secundaria de las anteriores

Y alguna razón más

Desde la visión más cercana al negocio o el uso comercial, quizá convendría apuntar algo más.

En mi libro 'Robots en la sombra', cuando hablo de los beneficios de los chatbots, destaco lo que se puede obtener de ellos como una forma de automatización de procesos (más bien de tareas): eficiencia, reducción de tiempos, escalabilidad, disponibilidad 7x24, etc. En realidad, estos beneficios están, de alguna forma, implícitos en el primer argumento de McTear puesto que se trata de beneficios que se derivan de cualquier automatización de la interfaz con personas (casi de cualquier automatización), siendo los chatbots una opción más de automatización que se elige, fundamentalmente, por esas bajas barreras de entrada para los usuarios.

Sin embargo, quisiera apuntar dos cosas.

En mi libro 'Robots en la sombra' aludo también al interés operativo y de negocio del autoservicio del usuario. De nuevo, el autoservicio se puede implementar de muchas formas, no necesariamente conversacionales, pero todo lo que ayude a facilitar la comprensión, a engrasar la interacción, a bajar en definitiva la barrera de entrada a ese autoservicio, favorece muchísimo su adopción y su éxito y más cuando hablamos de gran público, de servicios generalistas.

Igualmente, y aunque esto es más discutible, y lo será más conforme pase el tiempo y nos acostumbremos más y más a las interfaces conversacionales, un agente conversacional, especialmente si es por voz y más especialmente si va acompañado por un avatar avanzado, tiene capacidad para provocar el llamado 'efecto wow' y por tanto provocar una cierta diferenciación de marca, por pura experiencia de cliente, transmitiendo, además, una imagen moderna e innovadora.

Conclusión

Por estas, y quizá por alguna otra razón que no haya aparecido en este artículo, se construyen agentes conversacionales y, en mi opinión, es algo que no va a hacer otra cosa que crecer y generalizarse (y más a medida que se sigan perfeccionando los algoritmos de procesamiento de lenguaje natural). Y creo que estos agentes conversacionales, o estas capacidades conversacionales embebidas en todo tipo de dispositivos, serán elementos muy importantes de esa explosión robótica que vaticino y que ya he recogido en algún artículo anterior.

Quince recomendaciones sobre regulación de la Inteligencia Artificial y los robots

Muchas son las recomendaciones que están viendo la luz respecto de la aplicación con criterios éticos de la Inteligencia Artificial y la robótica.

Algunas iniciativas, como las que están teniendo lugar en el seno de la Unión Europea, tienen, además, el objetivo claro de acabar convirtiéndose en normativa, en directrices y leyes.

Otras, sin embargo, son más bien orientaciones de alto nivel, códigos deontológicos o recomendaciones.

Una dificultad para la regulación de la inteligencia artificial y la robótica es el paso acelerado de estas tecnologías y, en ocasiones, la escasa comprensión que sobre ellas existe.

Recomendaciones para un nuevo modelo de regulación de la Inteligencia Artificial y la Robótica

Un poco por lo anterior, se puede entender que el modelo tradicional de regulación por parte de gobiernos y administraciones, pudiera no ser realista y pudiese necesitarse un nuevo modelo.

En el post de hoy recojo, y comento brevemente, unas lista de quince recomendaciones que me encuentro en el libro coral 'Robotics, AI and Humanity'  y que, en este caso, aparecen en un capítulo firmado por Angela Kane del Vienna Center for Disarmament and Non-Proliferation, una persona con experiencia en los ámbitos políticos y diplomáticos europeos y que se ha enfocado en buena medida en los aspectos relacionados con evitación de conflictos y desarme, incluyendo en ese punto a las armas letales autónomas.

Esta diplomática, entiende que los mecanismos tradicionales de regulación pueden no ser adecuados y, de cara a un modelo más realista, propone quince recomendaciones, una recomendaciones que recojo, traducidas y transcritas sin apenas elaboración, a continuación:

• Expande el conocimiento en Inteligencia Artificial de manera que no quede confinado en un número pequeño de países o un segmento acotado de la población


• Acepta que las decisiones acertadas sobre tecnología de Inteligencia Artificial no se pueden adoptar sin una fuerte aportación de los propios tecnólogos.


• Encuentra, por tanto, un lenguaje común para funcionarios, legisladores y expertos técnicos.


• Inicia un diálogo que incluya: (a) políticas informadas por las posibilidades técnicas (b) aprecio por parte de los expertos tecnológicos de los requisitos para directrices de responsabilidad.


• Debate cómo construir una licencia social para la Inteligencia Artificial, incluyendo la estructura de incentivos que animen a la industria y la administración a alinear el desarrollo y despliegue de la Inteligencia Artificial con el interés público.


• Enfócate en el resultado y no tanto en el proceso: principios, protección de la privacidad, convergencia de políticas digitales y diferencias entre sistemas regulatorios de Estados Unidos, Europa y China.


• Marca algunas 'líneas rojas', es decir, áreas prohibidas a la Inteligencia Artificial, como las armas letales autónomas o la evaluación de ciudadanos por la administración ('social scoring').


• Usa la estrategia de la 'ley blanda' ('soft law') para superar las limitaciones de las regulaciones gubernamentales tradicionales sobre Inteligencia Artificial y Robótica.


• Debate los retos, costes, fiabilidad y limitaciones del estado del arte actual


• Desarrolla profundas relaciones de trabajo, especialmente en el sector defensa, entre los desarrolladores públicos y privados de Inteligencia Artificial.


• Asegura que tanto desarrolladores como legisladores prestan especial atención a la cuestión de la interfaz persona-máquina.


• Comprende cómo los diferentes dominios dan lugar a diferentes retos.


• Compila la lista de guías que ya existen y observa dónde existen 'gaps' que hay que rellenar para ofrecer más guía sobre trasparencias, responsabilidad y justicia en las herramientas de Inteligencia Artificial.


• Aprende de comunidades adyacentes (como ciberseguridad, biotecnología o aviación) acerca de esfuerzos para mejorar la seguridad y robustez


• Los gobiernos, fundaciones y corporaciones deberían asignar recursos para desarrollar y desplegar sistemas de Inteligencia Artificial con objetivos humanitarios.

Algunos comentarios

La verdad es que las recomendaciones de Angela Kane me parecen muy sensatas y creo que revelan experiencia real en estos entornos políticos y regulatorios.

Me llama la atención, agradablemente, el respeto que muestra por los tecnólogos y cómo señala la importancia imprescindible de su participación, algo que en mi opinión debería ser evidente, pero que creo que no siempre se percibe así.

Destacaría también, algo que parece en varias de las recomendaciones y es lo que tiene que ver con la colaboración y el diálogo entre actores. En un tema tan multidisciplinar, creo que ese diálogo, franco, abierto y con mutua comprensión, es muy relevante. De forma que veo relacionada, me parece muy interesante el señalar la necesidad de aprender y colaborar con ámbitos adyacentes como la ciberseguridad o la biotecnología.

A un nivel algo más de interés personal, me agrada el que señale la importancia específica de trabajar en las interfaces persona-máquina, algo que conecta muy bien con mi labor en OdiseIA en el área de Relación robots-Personas.

Conclusiones

Quizá, en el momento actual en que la Unión europea ya dispone de un borrador de reglamento sobre el uso de los sistemas de inteligencia artificial, podemos pensar que el modelo regulatorio tradicional sí está consiguiendo avanzar en el campo de la inteligencia artificial y la robótica.

Es posible.

Aún así, las recomendaciones de Kane me parecen, como digo, sensatas, realistas, y que vale la pena atenerlas como orientación en ese proceso de análisis ético y elaboración regulatoria.

Las leyes alternativas para una robótica responsable de Murphy y Woods

La verdad es que no deja de llamarme la atención que en los textos relativos a "roboética" (ética de los robots"), incluso en artículos científicos y eruditos, se mencione con tanta frecuencia casi como una fuente de autoridad las famosas tres leyes de la robótica de Asimov, unas leyes escritas, fundamentalmente, con un propósito artístico y literario, por más que puedan ser ingeniosas e, incluso, afortunadas. 

Leyes de la robótica

Hace ya unos meses, y como, aparte de las de Asimov, me aparecían aquí y allá, ciertas leyes de la robótica, decidí recopilarlas. Ylo que hice en el artículo que titulé 'Un compendio de leyes de la robótica'. En esa ocasión, hacía referencia a tres: las de Asimov, las de Marc Rotenberg y las de Satya Nadella.

Bueno, pues ahora, finalizando ya casi el libro 'Robotics, AI and Humanity', me tropiezo, en el penúltimo capítulo, firmado por Aimee van Wynsberghe, otras tres nuevas leyes de la robótica. En este caso, se trata de las leyes de la robótica responsable que proponen Robin Murphy y David D. Woods  en el artículo 'Beyond Asimov: The Three Laws of Responsible Robotics'.

Las tres leyes de la robótica responsable.

Según entiendo, la formulación de estas leyes buscaba algo más accionable que las famosas leyes de Asimov (aunque parecen inspirarse en ellas).

¿Cuáles son, en fin, esas tres leyes de la robótica responsable? 

Pues, en una traducción propia, y algo libre, se trata de las siguientes:

• Un humano no debe desplegar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales relativos a ética y seguridad.


• Un robot debe responder ante los humanos, en una manera adecuada al rol del humano.


• Un robot debe estar dotado de una suficiente autonomía contextualizada como para proteger su propia existencia siempre y cuando dicha protección disponga de una transferencia de control sencilla a otros agentes de una forma consistente con la primera y segunda leyes.

Un aspecto a destacar de estas leyes frente a las de Asimov es que si las del escritor sitúan la agencia en el propio robot, estas leyes de la robótica responsable sitúan la agencia, y por tanto la responsabilidad, en los humanos, fundamentalmente en investigadores y diseñadores. 

En cierto sentido, las leyes de Asimov son unas leyes de los robots, mientras que éstas son realmente unas leyes de la robótica, entendida como disciplina humana. 

Parece destacado también mencionar en el aspecto del control que se menciona en la tercera ley, y que preocupa a más autores, especialmente cuando se habla de superinteligencias y de singularidad.

Limitaciones de las leyes de la robótica responsable según Aimee van Wynsberghe

Aimee van Wynsberghe

La autora que trae a colación en el libro mencionado estas leyes de la robótica,  Aimee van Wynsberghe entiende, sin embargo, que estas leyes son insuficientes, y que se quedan cortas, en cinco sentidos.

• Entiende que los autores se quedan muy cortos a nivel de detalle sin captar los matices que el término 'responsable' tiene y que van Wynsberghe desarrolla en el resto del capítulo, algo sobre lo que no me voy a extender aquí.


• También cree que no abarca suficientemente bien el tamaño y escala que los procesos de desarrollo de la relación robots-personas han alcanzado y todos los actores involucrados en los mismos.


• Estas tres leyes se quedan en la relación robots-personas pero, sin embargo, el impacto de los robots va mucho más allá de esa relación directa


• No entran suficientemente en las diferentes etapas y/o contextos del diseño de los robots y todas las decisiones que ocurren en esas etapas.


• Las leyes asumen de alguna forma que está claro qué valores deberían ser programados en los robots o el tipo de obstáculos con que se pueden encontrar, lo cual parece una suposición excesiva o no realista.

Conclusión: una pequeña valoración

En mi valoración personal, un poco a bote pronto, eso sí, me parece una buena aportación de estas leyes de la robótica responsable, el cambio de foco hacia los humanos y hacia el proceso de diseño de esos robots, cosa que es bastante más realista que situar la agencia en los propios robots. Una agencia de los robots y una capacidad para tomar decisiones basadas en leyes éticas del estilo de las propuestas por Asimov es, realmente, pura ciencia-ficción cosa que es, por cierto, ni más ni menos que lo que Asimov pretendía hacer.

Sin embargo, siguen sin parecerme unas leyes accionables en absoluto por sí mismas y más bien parecen unas guías o directrices de alto nivel (muy de alto nivel).

Cabe decir, sin embargo, que aunque hablamos de leyes, estas leyes, como las otras que recogí en el post citado al abrir este artículo, son más filosofía que ley. Sin embargo, desde hace unos meses, quizá algún año, se está trabajando muy en serio a nivel de la Unión Europea en un marco para una inteligencia artificial responsable, habiéndose propuesto ya un borrador de reglamento. Y sus resultados van a afectar, al menos parcialmente, a la robótica. Y ahí sí que acabaremos hablando de leyes, de auténticas leyes que, como éstas que son objeto del artículo, obligarán a los humanos, no a los robots.

Dentro de la asociación OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial) y, en concreto, dentro del área de relación robots-personas que dirijo, estamos ya trabajando en el campo de las leyes, las verdaderas leyes, de la robótica. Espero a lo largo de este año, y quisiera que más pronto que tarde, mostrar algún resultado.  

Artículos de este blog relacionados:

• Un compendio de leyes de la robótica

Tres supuestas barreras a una posible amistad robots-personas

Ante el avance en el desarrollo de las capacidades relacionales de los robots, ante los grandes desarrollos en materia de procesamiento de lenguaje natural y reconocimiento de voz, ante los progresos en computación afectiva y la detección de emociones por parte de los robots, ante, en fin, las mayores capacidades cognitivas y sociales de los robots, cada vez surgen más debates y cuestiones sobre hasta dónde pueden, o deben, llegar esas relaciones.

El problema de la amistad robots-personas

Uno de los temas controvertidos, sobre todo desde el punto de vista ético y filosófico es si es posible, o si es conveniente, el establecimiento de una amistad entre robots y personas. 

No es éste un debate nuevo para este blog. Hace ya casi un año, de hecho, y al hilo de la lectura del libro 'Humans and Robots: Ethics, Agency and Anthropomorfism' de Sven Nyholm, publicaba dos post consecutivos. 

En el primero, 'Un discurso filosófico a favor de la amistad entre robots y personas', aparte de unas consideraciones previas sobre la idea de amistad, revisaba el argumentario de John Danaher en favor de esa posibilidad de una relación amistosa entre robots y personas.

En el segundo, 'y un discurso filosófico cuestionando esa amistad entre robots y personas' se mostraba la posición contraria sostenida por Sven Nyholm.

Las tres barreras de Archer 

Ahora, y leyendo el libro 'Robotics, AI and Humanity', me encuentro con un capítulo firmado por Margaret S. Archer, una socióloga británica, en que se plantea esta misma problemática.

Y la autora detecta tres barreras para el establecimiento de una amistad entre robots y personas, tres barreras que, según Archer, refuerzan la 'robofobia:

• Normatividad ('normativity')
• Emotividad ('emotionality')
• Consciencia ('consciousness')

La idea barrera de la normatividad significa que un ente artificial, digamos un robot, simplemente es incapaz de apreciar la diferencia entre el bien y el mal. La verdad es que la autora, aunque plantea esta anormatividad de los robots como una barrera para la amistad, en lo que sigue de su razonamiento se olvida un poco de la idea de amistad para centrar su análisis en la posibilidad o no de  dotar a los robots de esa cierta moralidad, de esa capacidad de distinguir lo bueno de lo malo.

En cuanto a la emotividad, se repite un poco el esquema: la autora lo plantea como una barrera para la amistad entre robots y personas pero su análisis se dirige casi más a razonar si realmente las emociones son necesarias o no para una relación, y si hay diferencia entre seres naturales y artificiales.

El problema de la consciencia la autora lo dirige mucho hacia el uso del lenguaje y hacia una especie de discurso interior, aunque, de nuevo, no se centra tanto en la relevancia o no para una amistad como en esa objeción es cierto, si de verdad no es posible esas consciencia artificial.

En general Archer plantea estas tres barreras, simplemente, dando por supuesto que suponen argumentos en contra de una eventual amistad entre máquinas y personas, que ésta no se puede producir en ausencia de una normativa moral, emociones o consciencia en el robot, pero no se centra específicamente en el problema de la amistad, en si esas tres características impedirían o no una amistad robot-persona, sino en la realidad o no de las barreras lo cual, eso sí, parece una ligera defensa implícita de que sí sería posible esa amistad.

Quizá por no adentrarse de manera central, o al menos eso me ha parecido a mi, en la viabilidad y, sobre todo, la bondad de una amistas entre robots y personas, su argumentación no me parece realmente muy definitiva, muy convincente en un sentido ni en otro.

A modo de conclusión: ¿Es el de la amistad robots-personas un debate prematuro?

En cualquier caso, podríamos preguntarnos, un poco como planteaba en el artículo 'Ética de los robots: ¿nos estamos ocupando de lo realmente importante?' si realmente estas cuestiones, digamos avanzadas, sobre robots son realistas, si son un debate útil o si nos estamos dejando arrastrar por la fantasía y la pura especulación.

Bueno, no voy a repetir de nuevo la argumentación de ese post, pero sí recordar algo que también he comentado repetidamente en este blog: con independencia de que consideremos o no que la relación que se establece entre una persona y un ser artificial pueda ser calificada de amistad, con independencia de que consideremos que esa eventual amistad es admisible o es una pura aberración, no olvidemos el fenómeno de la antropomorfización, la atribución de características humanas a animales, máquinas o seres inertes, es algo comprobado, es real y muy real y que se refuerza, probablemente, cuando aquello con que nos relacionamos es capaz de hablar y aparentemente entender, cuando es capaz de detectar nuestras emociones y simular que las entiende e incluso que también las posee.

 Y ya estamos en ese punto. No sólo los robots de tipo humanoide, también, por ejemplo, un agente conversacional, un chatbot o un altavoz inteligente, es capaz de disparar esa reacción en un humano. Es capaz de provocar una percepción antropomórfica por parte de la persona y es capaz de generar una cierta reacción emocional y afectiva por parte de esa persona. 

Se tratará, claro, de una transacción afectiva unidirecciónal, únicamente en la dirección de la persona hacia el robot. Y seguramente diremos que eso no es una amistad, que no es una relación similar a la que se establece entre humanos.

Vale. Seguramente tendremos razón en todo eso

Pero la reacción emocional en el humano, no lo olvidemos, se produce. Y, por tanto, vale la pena estar atentos, estudiar el fenómeno y cuidar de que hacemos lo correcto, desde el punto de vista psicológico y ético, con robots o seres artificiales en general.

Argumentarios sobre armas letales autónomas (LAWS)

Puede ser terriblemente oportuno, y digo terriblemente no al azar, escribir este post en estos días.

Sin embargo ha sido un poco el azar lo que ha determinado el que esto ocurra. El azar o, mejor, el curso de mis lecturas que inspiran una buena parte de los posts que constituyen este blog.

El caso es que, avanzando en la lectura del libro 'Robotics, AI and Humanity', me he encontrado un amplio tratamiento del tema de las armas autónomas o LAWS ('Lethal Autonomous Weapons Systems') y quisiera compartir algunas ideas sobre ellas y el debate ético que las rodea.

Las armas letales autónomas

Sin entrar en definiciones complejas, las armas letales autónomas son un tipo de máquinas dotadas de cierta inteligencia que les permiten de manera más o menos autónoma (es decir, sin intervención humana) la búsqueda de objetivos y su ataque.

Adoptan la forma de drones, algunos tan grandes y sofisticados que parecen aviones, de vehículos acorazados como pequeños, o no tan pequeños tanques, de misiles y, en algún caso, aunque creo que más para un cierto 'postureo' y propaganda mediática que para uso reales, la forma de robots humanoides.

Dadas sus características, en general las podemos considerar una forma, quizá la peor forma, de robots y están equipadas de capacidades procedentes de la inteligencia artificial.

Ética de las armas letales autónomas

Gregory Reichberg (izq) y Henrik Syse (der)

Parece casi paradójico, pero lo cierto es que, como en tantos temas relacionados con la robótica y la inteligencia artificial, alrededor de las armas letales autónomas existe también un debate de carácter ético.

Y es ese debate lo que origina este post.

En concreto, quisiera recoger los argumentos a favor y en contra de las armas letales autónomas que me encuentro en el capítulo firmado por Gregory Reichberg y Henrik Syse del Peace Research Institute Oslo (PRIO)  y titulado 'Applying AI on the Battlefield: The Ethical Debates'.

Veamos

Argumentos en favor de las armas letales autónomas

Si, aunque pueda sorprender, existen argumentos éticos a favor de las armas autónomas.

El primer argumento que se aduce es el de la racionalidad de las máquinas letales autónomas frente al caso de humanos o armas manejadas por humanos que se ven afectados por emociones. 

Al no ser susceptibles de las alteraciones causadas por las emociones, se podría confiar en que, si se encuentran bien programadas, se adherirían estrictamente a las reglas existentes para conflictos armados.

Esto podría evitar atrocidades que se cometen en las reglas y se podría evitar, por ejemplo, la muerte de civiles proponiéndose, además, que el robot militar podría, incluso, sacrificarse a sí mismo para salvar vidas de civiles, cosa que en un humano no existen garantías de que suceda, ni siquiera de que sea, esto es ya mi opinión, claramente exigible.

Finalmente, se argumenta la precisión en el marcado y destrucción de objetivos.

Argumentos en contra de las armas letales autónomas

Existen también, como cabe imaginar, abundancia de argumentaciones en contra de las armas letales autónomas.

En primer lugar se indica que, dado que las decisiones de tipo militar se producen en situaciones de alta imprevisibilidad, alta contingencia, se argumenta que es imposible dotar a las máquina autónoma de suficientes criterios para que la decisión que adopte sea correcta desde un punto de vista moral.

En segundo lugar, y de forma en cierto sentido paradójica, se alude a la falta de emociones de las máquinas autónomas. Digo que es paradójico porque, precisamente, la falta de emociones es un factor que se ha argumentado como ventaja ética de las máquinas como hemos visto. Aquellos que entienden que la ausencia de emociones es un factor en contra de las armas letales autónomas, defienden que precisamente las emociones son un ingrediente imprescindible de la agencia moral y que ayudan a un juicio apropiado acerca de lo que se debe o no se debe hacer.

Un tercer argumento conecta con la dignidad humana y con el principio según el cual en el caso de muerte ésta sólo debería ser producida por otro ser humano, nunca por una máquina decidiendo de manera autónoma.  La verdad es que resulta chocante hablar de dignidad cuando un ser humano mata a otro pero los autores nos explican que esto se produce en el contexto de guerra en la cual, supuestamente, existe un cierto código de honor y reglas de conducta.

Enlazando un poco con ese código de honor, el cuarto argumento en contra nos habla de la necesidad de igualdad moral ('moral equality') de los combatientes para que se puedan mantener ese código de honor y esas reglas que se supone informan la guerra actual. En el caso de que un combatiente sea una máquina, no parece que se mantenga esa igualdad moral.

Consideraciones prácticas

Los argumentos vistos anteriormente, son unos argumentos, digamos, basados en principios éticos.

Los autores del capítulo mencionado añaden otras consideraciones éticas que, más que de unos principios, parten de unas consideraciones prácticas sobre el estado actual de la tecnología o de si este tipo de armas producirán más bien que daño o al contrario.

De todas formas, no entraremos, al menos de momento, en ellas y remitimos al lector que quiera profundizar más al texto original.

Una consideración necesaria

Antes de concluir creo que es pertinente hacer una consideración previa.

Los argumentos a favor y en contra, de alguna manera, asumen que la guerra existe y existirá, que las armas existen y existirán, y que los seres humanos se matan y matarán y destruyen y destruirán objetivos del enemigo. Y es en ese contexto en que se valoran las armas letales autónomas.

Sin embargo el contexto es, desde un punto de vista ético y moral, en sí mismo inaceptable. Al menos, eso creo.

Desde luego, sabemos que las guerras han llenado todos los siglos y milenios de historia de la humanidad. Y, siendo realistas, y tenemos una terrible prueba en estos mismos días, no parece que las guerras vayan a desaparecer en un plazo corto. Quién sabe si, por desgracia, acompañen siempre a la humanidad.

Pero es difícil hablar de moralidad en entornos de guerra cuando la guerra, como concepto, debería ser, creo, considerada inmoral en sí misma, con independencia de que en casos particulares podamos entender e incluso justificar una guerra meramente defensiva. 

Y si la guerra la consideramos inmoral, resulta complicado aducir argumentos éticos en favor de armas aunque consideraciones pragmáticas que tienen que ver con es inevitabilidad aparente de la guerra.

Conclusión

 

Hemos visto una serie de argumentos éticos a favor y en contra del uso de armas letales autónomas, unos argumentos que creo que debemos entender supeditados a la siempre cuestionable pregunta de si una guerra puede en sí misma ser ética.

Y unos argumentos que, en cierto sentido, reafirman la dificultad de emitir juicios morales ya que, incluso en entornos de guerra y hablando de armas, las posiciones éticas no son nítidas y están sujetas a debate.

¡Qué no podrá ocurrir en otros debates éticos!

Roles de los robots sociales en educación y algunas consideraciones éticas

Una de las aplicaciones de impacto social positivo que se identifican en los llamados robots sociales, es la educación. 

Robots sociales en educación

Los robots sociales son un tipo de robots, con frecuencia de aspecto humanoide, y con capacidades de relación social no sólo por la voz sino también mediante gestos, movimiento, detección de emociones, etc. Y han sido, en efecto, utilizados con éxito en educación. Y no sólo educación en condiciones normales, sino también educación especial como en el caso de niños con trastornos del espectro autista.

Sin embargo, este uso, a pesar de los positivos resultados obtenidos en las experiencias hasta ahora realizadas, también está sometido a cierto escrutinio desde un punto de vista ético.

Roles de los robots sociales en educación

En el libro 'Robotics, AI and Humanity' hay un capítulo, firmado por Pierre Léna y dedicado al empleo de robots sociales en el aula.

En él cita el estudio llevado a cabo por Amanda J. C. Sharkey en 2016 y titulado 'Should we welcome robot teachers?'. En ese artículo, la autora identifica, sin pretender la exhaustividad, cuatro roles que un robot social puede jugar en las labores educativas, cuatro roles basados en experimentos reales y que suponen diferentes niveles de sustitución del profesor humano:

• Profesor ('teacher'): En este escenario, el robot reemplaza completamente al profesor, al menos durante ciertos periodos de tiempo, y por lo tanto ejerce como figura de autoridad y fuente de conocimiento.


• Compañero y par ('companion and peer'): En este caso, el robot no reemplaza al profesor y además puede precisar de la presencia de una figura humana. El robot se presenta a los niños como un compañero, como un par, otro alumno digamos. No implica autoridad y su participación en la enseñanza es implícita, no explícita.


• Compañero-cuidador ('care-eliciting companion'): Muy similar al anterior pero en los que el robot tiene como misión identificar necesidades de cuidados en los niños


• Telepresencia: el robot puede sustituir o complementar a un profesor pero actuando en remoto.

Consideraciones éticas

Sin pretender tampoco agotar todas las consideraciones, se identifican al menos tres grupos de consideraciones éticas relativas al uso de robots en las aulas.

La primera tendría que ver con la privacidad. Los robots están equipados con sensores que les permiten recoger información de muchos tipos. Los robots pueden recoger aspectos del comportamiento de los alumnos (si hablan, si se ponen de pie, etc), pueden también incluir elementos de reconocimiento de personas (típicamente, por reconocimiento facial) e, incluso, pueden captar emociones o deducir condiciones psicológicas. Todo ello eleva la necesidad de una reglas claras, y respetuosas, de la información a que pueden acceder y el uso que hacen de ella.

Otro segundo bloque, el que personalmente más me interesa, tiene que ver más con los aspectos de relación. Así nos encontramos la creación de vínculos emocionales entre los niños y el robot que, aunque tiene su valor positivo, también es controvertida e implica ciertos riesgos. Otros aspecto sería una forma de engaño ('deception') pero que no debe entenderse como un engaño intencionado sino el hecho de que el robot aparenta emociones, sentimientos, empatía comprensión y eso de alguna forma puede engañar a los niños y que éstos pongan en el robot unas expectativas no realistas. Otros tema en este bloque de las relaciones sería el riesgo del aislamiento del contacto humano, de que los niños se acostumbrasen, e incluso prefiriesen, la relación con robots mejor que con seres humanos.

A este respecto de las relaciones creo que viene al caso citar lo que dice el propio Léna al inicio de su capítulo:

Education is a special case, bacause it is fundamentally based on the relationship, involving love and emotions as well as knowledge between a fragile child an an adult.

La relación que se establece entre profesor y alumno, cuando hablamos de que los alumnos son niños, implica amor, emociones y además una parte más frágil en la relación, el niño. Si el robot asume el rol del profesor, de alguna forma pone en marcha o sustituye esa relación de amor y emociones con ese ser frágil que es el niño.

El tercer bloque de consideraciones éticas nos hablan de control y responsabilidad ('accountability') control y la responsabilidad. Cuando el robot ejerce como profesor, asume la autoridad correspondiente y, por tanto, una cierta capacidad de control sobre los alumnos. No vamos a extendernos más sobre ello, pero ya se entiende que conceder autoridad a una máquina, el robot, sobre unos humanos, los niños es algo que puede levantar reservas, incomodidades u oposición y que, incluso si se admite como positiva, parece implicar la necesidad de ciertas limitaciones y controles.

Conclusión

La verdad es que el tema, y el propio artículo mencionado, dan para muchos más comentarios, más detalles y más análisis pero, al menos en lo que respecta a este post, lo dejamos aquí.

Creo que queda claro que las diferentes experiencias realizadas hasta la fecha, indican que hay hueco para el uso de robots en educación, que en algunos casos puede ser necesario (por ejemplo, por falta de profesores) o muy positivo (como en el caso de niños autistas) pero que debe ser realizado con conciencia, con precaución y estando atentos a las consideraciones éticas.