Las leyes alternativas para una robótica responsable de Murphy y Woods

La verdad es que no deja de llamarme la atención que en los textos relativos a "roboética" (ética de los robots"), incluso en artículos científicos y eruditos, se mencione con tanta frecuencia casi como una fuente de autoridad las famosas tres leyes de la robótica de Asimov, unas leyes escritas, fundamentalmente, con un propósito artístico y literario, por más que puedan ser ingeniosas e, incluso, afortunadas. 

Leyes de la robótica

Hace ya unos meses, y como, aparte de las de Asimov, me aparecían aquí y allá, ciertas leyes de la robótica, decidí recopilarlas. Ylo que hice en el artículo que titulé 'Un compendio de leyes de la robótica'. En esa ocasión, hacía referencia a tres: las de Asimov, las de Marc Rotenberg y las de Satya Nadella.

Bueno, pues ahora, finalizando ya casi el libro 'Robotics, AI and Humanity', me tropiezo, en el penúltimo capítulo, firmado por Aimee van Wynsberghe, otras tres nuevas leyes de la robótica. En este caso, se trata de las leyes de la robótica responsable que proponen Robin Murphy y David D. Woods  en el artículo 'Beyond Asimov: The Three Laws of Responsible Robotics'.

Las tres leyes de la robótica responsable.

Según entiendo, la formulación de estas leyes buscaba algo más accionable que las famosas leyes de Asimov (aunque parecen inspirarse en ellas).

¿Cuáles son, en fin, esas tres leyes de la robótica responsable? 

Pues, en una traducción propia, y algo libre, se trata de las siguientes:

• Un humano no debe desplegar un robot sin que el sistema de trabajo humano-robot cumpla los más altos estándares legales y profesionales relativos a ética y seguridad.


• Un robot debe responder ante los humanos, en una manera adecuada al rol del humano.


• Un robot debe estar dotado de una suficiente autonomía contextualizada como para proteger su propia existencia siempre y cuando dicha protección disponga de una transferencia de control sencilla a otros agentes de una forma consistente con la primera y segunda leyes.

Un aspecto a destacar de estas leyes frente a las de Asimov es que si las del escritor sitúan la agencia en el propio robot, estas leyes de la robótica responsable sitúan la agencia, y por tanto la responsabilidad, en los humanos, fundamentalmente en investigadores y diseñadores. 

En cierto sentido, las leyes de Asimov son unas leyes de los robots, mientras que éstas son realmente unas leyes de la robótica, entendida como disciplina humana. 

Parece destacado también mencionar en el aspecto del control que se menciona en la tercera ley, y que preocupa a más autores, especialmente cuando se habla de superinteligencias y de singularidad.

Limitaciones de las leyes de la robótica responsable según Aimee van Wynsberghe

Aimee van Wynsberghe

La autora que trae a colación en el libro mencionado estas leyes de la robótica,  Aimee van Wynsberghe entiende, sin embargo, que estas leyes son insuficientes, y que se quedan cortas, en cinco sentidos.

• Entiende que los autores se quedan muy cortos a nivel de detalle sin captar los matices que el término 'responsable' tiene y que van Wynsberghe desarrolla en el resto del capítulo, algo sobre lo que no me voy a extender aquí.


• También cree que no abarca suficientemente bien el tamaño y escala que los procesos de desarrollo de la relación robots-personas han alcanzado y todos los actores involucrados en los mismos.


• Estas tres leyes se quedan en la relación robots-personas pero, sin embargo, el impacto de los robots va mucho más allá de esa relación directa


• No entran suficientemente en las diferentes etapas y/o contextos del diseño de los robots y todas las decisiones que ocurren en esas etapas.


• Las leyes asumen de alguna forma que está claro qué valores deberían ser programados en los robots o el tipo de obstáculos con que se pueden encontrar, lo cual parece una suposición excesiva o no realista.

Conclusión: una pequeña valoración

En mi valoración personal, un poco a bote pronto, eso sí, me parece una buena aportación de estas leyes de la robótica responsable, el cambio de foco hacia los humanos y hacia el proceso de diseño de esos robots, cosa que es bastante más realista que situar la agencia en los propios robots. Una agencia de los robots y una capacidad para tomar decisiones basadas en leyes éticas del estilo de las propuestas por Asimov es, realmente, pura ciencia-ficción cosa que es, por cierto, ni más ni menos que lo que Asimov pretendía hacer.

Sin embargo, siguen sin parecerme unas leyes accionables en absoluto por sí mismas y más bien parecen unas guías o directrices de alto nivel (muy de alto nivel).

Cabe decir, sin embargo, que aunque hablamos de leyes, estas leyes, como las otras que recogí en el post citado al abrir este artículo, son más filosofía que ley. Sin embargo, desde hace unos meses, quizá algún año, se está trabajando muy en serio a nivel de la Unión Europea en un marco para una inteligencia artificial responsable, habiéndose propuesto ya un borrador de reglamento. Y sus resultados van a afectar, al menos parcialmente, a la robótica. Y ahí sí que acabaremos hablando de leyes, de auténticas leyes que, como éstas que son objeto del artículo, obligarán a los humanos, no a los robots.

Dentro de la asociación OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial) y, en concreto, dentro del área de relación robots-personas que dirijo, estamos ya trabajando en el campo de las leyes, las verdaderas leyes, de la robótica. Espero a lo largo de este año, y quisiera que más pronto que tarde, mostrar algún resultado.  

Artículos de este blog relacionados:

• Un compendio de leyes de la robótica