Características de los agentes morales y el caso de los robots

El concepto de agencia moral es importante en todo lo que tiene que ver con la ética y aparece con frecuencia también cuando se intenta razonar en términos éticos con respecto a algoritmos o máquinas, siendo de especial interés para mi el caso concreto de los robots, la eventual agencia moral de los robots.

Ya comenté hace un tiempo, en el artículo 'Robots, agencia y la inspiración de la ley' inspirado en la obra de Sven Nyholm, que la agencia no es sólo relevante desde un punto de vista meramente ético sino que puede ser la base para asignar responsabilidad ('liability') desde un punto de vista legal.

Aunque ya he tratado estos temas, incluso el caso de la agencia moral de los robots, quisiera retomarlo brevemente, simplemente para reseñar alguna nueva aportación que me ha resultado interesante y que, al añadir otras perspectivas, puede contribuir a una mejor comprensión global

Características de los agentes morales

La primera aportación es sobre el propio concepto de agente moral. Así en el comienzo del libro 'Manual de ética aplicada en inteligencia artificial' me encuentro con la conceptualización (quizá no exactamente una definición) que hacen sus autores Mónica Villas y Javier Camacho. En realidad ellos hablan de agente ético pero creo no equivocarme si considero que lo utilizan como sinónimo de agente moral. Y, al referirse a las personas como agentes éticos, nos dicen:

la persona es un agente ético, que es capaz de tomar decisiones y de elegir acciones y que, al mismo tiempo se hace responsable de dichas decisiones.

A partir de esta consideración del ser humano como agente moral, probablemente la única entidad a la que sin duda ni debate se le asigna esa agencia moral, deducen tres características de esos agentes ético o morales: 

Libertad, inteligencia (o conciencia) y voluntad son las tres características que constituyen los agentes éticos.

De alguna forma, esas tres características pueden ser la guía que nos ilumine para decidir si algo que no sea un ser humano, digamos un animal, un algoritmo o un robot, exhiben esa cualidad de la agencia moral y, todo hay que decirlo, parecen apuntar en el sentido negativo.

Agencia moral de los robots

Armados con esas ideas, saltemos ahora al caso de los robots. 

De la posible agencia moral de los robots ya tuve también ocasión de hablar en este blog en el artículo 'Tres criterios para considerar a un robot un agente moral'. En él, se aportaban tres criterios basados en la obra de Michael Anderson y Susan Leigh Anderson y su libro 'Machine Ethics', y que los autores consideraban necesarios para reconocer en un robot agencia moral, a saber:

• El robot no debería estar bajo el control directo de ningún otro agente o usuario
• La interacción del robot con su entorno debería ser aparentemente calculada y deliberada
• Debería satisfacer algún tipo de rol social que implique responsabilidades.

Aunque así expresado pueden quedar más dudas sobre si un robot es o no agente moral, los autores concluían que no, porque, aunque sí observan en algunos casos el cumplimiento de los dos primeros criterios, el tercero entienden que implica conciencia de la responsabilidad, cosa de que carecen.

Y con eso llegamos, en el fondo, a una coincidencia con los tres criterios vistos antes: libertad, voluntad y conciencia. Y nos podemos quedar, con cierta seguridad, con esos tres criterios para valorar una eventual agencia moral.

Y un apunte de 'paciencia' moral

La última aportación que me he encontrado es la que hace Mark Coeckelberg en su libro 'Robot ethics'.  pero, ojo, lo hace hablando no de agencia moral sino de paciencia moral, es decir que un agente, en este caso un robot, sea objeto de derechos, al menos desde el punto de vista moral.

Coeckelberg apunta a la necesidad de consciencia y nos dice que

there may be properties other than consciousness that warrants moral rights

Es decir, como característica obligatoria, la consciencia, pero no indica hasta donde he llegado (aún lo estoy leyendo), cuáles son esas otras propiedades adicionales. 

Mucho más hay que profundizar, pues, pero de todas formas, creo que voy a dejarlo aquí.

Conclusión

Con lo visto, en el tema de la agencia moral, parece existir una especie de doctrina, más bien pensamiento, razonablemente convergente. 

El tema de la paciencia moral está, creo, más sometido a debate y hay mucho más de qué hablar.

Y lo haremos, sin duda, en algún artículo futuro.