La Inteligencia Artificial como espejo

Cuando hablamos de ética en inteligencia artificial, una de las problemáticas que más se mencionan es la del sesgo algorítmico, el hecho de que los algoritmos, en sus conclusiones o decisiones, perjudiquen de alguna manera a una persona o, más bien, a un colectivo por género, edad, raza o cualquier otro.

Ya hemos hablado, de hecho recientemente, sobre el particular en este blog dando, por ejemplo, algunos criterios de imparcialidad algorítmica y también mencionando algunas buenas prácticas para evitar ese sesgo.

Sin embargo, hoy quisiera hacer una reflexión muy breve sobre los motivos del sesgo. En realidad, presentar de una forma ligeramente diferente algo ya explicado: los algoritmos no tienen voluntad propia (no son 'sesgados' por su propia voluntad) ni tampoco, al menos de forma general, sus diseñadores y desarrolladores abrigan ninguna mala intención.

Los sesgos se producen porque, de alguna forma, están implícitos en los datos que sirven para el entrenamiento del algoritmo, bien por una mala selección de esos datos, un mal muestreo y por tanto un error procedimental, o bien, y a eso es lo que voy en este artículo, porque los datos reflejan fielmente una realidad sesgada en nuestra sociedad.

En este segundo caso, fíjese el lector que no hay error ni en el algoritmo ni en la toma de datos. No hay ningún tipo de error ni de diseño, de intención o metodológico: es nuestra propia sociedad la que está sesgada. Y los algoritmos, lo único que hacen, es mostrarlo, hacerlo patente.

El pasado Jueves 17, durante la presentación del informe GuIA de OdiseIA, una guía aterrizada de criterios y buenas prácticas para la aplicación de la inteligencia artificial en empresas y administraciones, una de las participantes en una mesa redonda (estoy casi seguro que fue Patricia Manca, de PwC, aunque no lo puedo asegurar completamente) expresó esa idea diciendo algo así como que, la Inteligencia Artificial de alguna manera estaba poniendo a nuestra sociedad ante un espejo, mostrándole sus propios sesgos. Y me gustó esa forma de expresarlo y por eso la he recogido brevemente en este post.

Conviene tenerlo en cuenta: en no pocas ocasiones, los algoritmos están sesgados porque reflejan, como un espejo, una sociedad sesgada.

Muchos, muchísimos son los beneficios que la inteligencia artificial está trayendo y traerá a nuestras economías y a nuestro bienestar, pero éste es quizá, un "beneficio colateral" e inesperado, una ayuda ética, mostrándonos de manera muy clara algunos de nuestros errores como sociedad y el contraste entre nuestros valores (al menos nuestros valores aspiracionales) y nuestra realidad.