Inteligencia artificial, ética y regulación
Y cuando deseamos 'bajar a tierra' las consideraciones éticas sobre una temática concreta, en este caso la inteligencia artificial, uno de los mecanismos, quizá el más concreto, puede que el más eficaz, es la regulación, la promulgación de leyes que concreten derechos y obligaciones, así como eventuales castigos en caso de incumplimiento, de manera que se concreten, clarifiquen y garanticen los valores aparejados a las consideraciones éticas.
Y, en efecto, en paralelo con todo el debate y todo el ruido mediático alrededor de la ética de la inteligencia artificial, y concentrándose sobre todo, aunque no únicamente, en Europa, se encuentra en marcha el desarrollo normativo que ha de regir en el desarrollo y uso de la inteligencia artificial, siendo de especial relevancia la denominada AI Act europea, actualmente en tramitación.
Sin embargo, el campo de la inteligencia artificial es muy amplio, se encuentra en continua evolución y sus implicaciones se ramifican abarcando una variedad de problemáticas éticas, no todas ellas con diagnóstico claro o con valores compartidos.
Así que nos podríamos preguntar ¿Qué es lo que debemos regular realmente en Inteligencia artificial?
Los ocho grandes temas
No voy a hacer una propuesta propia, sino recoger la que me encuentro leyendo el libro 'Robot souls' de Eve Poole. Al abordar este tema, la autora hace referencia, a su vez, al trabajo dirigido por Jessica Fjeld en el Berkman Klein Center for Internet & Society.
En este trabajo, el equipo analizó las 36 principales declaraciones de principios en todo el mundo, encontrando un total de 47 principios y detectando un consenso alrededor de ocho grandes temas (que denominan meta-temas).
De forma resumida, a continuación listo esos ocho grandes temas o meta-temas (incluyo entre paréntesis el término en inglés cuando la traducción es conflictiva o no evidente). Además, los temas están ordenados de mayor (100% en el caso de la imparcialidad) a menor (69% en el caso del control humano de la tecnología y la promoción de los valores humanos) prevalencia.
- Imparcialidad ('fairness') y no discriminación: Los sistemas de Inteligencia Artificial deben diseñarse de forma que maximicen la imparcialidad y eviten la discriminación. Un tema íntimamente relacionado con los famosos sesgos algorítmicos.
- Privacidad: Temas relacionados con el acceso y consentimiento de dicho acceso en el caso de datos personales usados tanto durante el entrenamiento como durante la explotación de los sistemas de inteligencia artificial.
- Rendición de cuentas ('accountability'): Claridad acerca de de quién es el sistema, quién es el responsable y quién puede ser multado o castigado.
- Transparencia y explicabilidad: Apuntan en el sentido de que los sistemas de inteligencia artificial deben por ser supervisados incluyendo la traducción de su operación a términos inteligibles así como disponibilidad de información acerca de dónde, cuándo y cómo son empleados.
- Seguridad ('safety' & 'security'): Los sistemas de inteligencia artificial deben ser seguros y funcionar según lo esperado. Además deben ser resistentes a ataques de hackers.
- Responsabilidad profesional: La comunidad de la inteligencia artificial debe adherirse a estándares profesionales de integridad y los diferentes 'stakeholders' deben ser consultados acerca del impacto de los sistemas de inteligencia artificial.
- Control humano de la tecnología: Las decisiones clave deben permanecer como objeto de supervisión humana, especialmente aquellas que conciernan a la vida o la muerte.
- Promoción de los valores humanos: Los sistemas de inteligencia artificial deben estar al servicio del bienestar de la humanidad de acuerdo con nuestros valores nucleares.
En general, los temas identificados nos resultan muy reconocibles y, especialmente en el caso de los tres primeros, hay claramente trabajo regulatorio en marcha. Cierto es, al menos en mi percepción, que a medida que recorremos hacia abajo la lista, nos encontramos temáticas de más difícil formalización (caso de la explicabilidad) o que empiezan a entrar más en el ámbito de valores un poco abstractos que de temas traducibles a leyes y criterios claros.
Conclusión
La preocupación sobre las implicaciones éticas de la inteligencia artificial sin duda existe, y el trabajo normativo y regulatorio también está en marcha, muy notablemente en Europa.
Sin embargo el campo es tan amplio y las aportaciones tan diversas, que es bueno intentar concentrar en alguna forma de censo o mapa todo aquello de lo que nos queremos ocupar.
No hay comentarios:
Publicar un comentario