Algoritmos y el valor de la vida humana: la cosa puede no ser tan evidente

Marcar indicadores para un proceso o actividad, reducir a números una realidad compleja, es una forma efectiva y normalmente razonable de hacerla manejable y también de gestionarla con efectividad. Pero también, es por desgracia, una forma arriesgada de modelar ese proceso, actividad o realidad.

Y más si de lo que hablamos es de la vida humana.

KPIs, indicadores, números 

En la gestión empresarial, por ejemplo, es práctica habitual (en realidad menos habitual de lo que debiera) el obtener indicadores del funcionamiento de la compañía. Indicadores financieros como ingresos, margen o EBITDA. Indicadores operativos como tiempos medios de ejecución de procesos (procesamiento de pedidos, entrega de pedidos, atención a llamadas, aprovisionamiento de materiales, fabricación, etc). Indicadores de satisfacción de cliente (como el famosos NPS, Net Promoter Score) o de clima laboral. Etcétera, etcétera, etcétera.

Hablamos de KPI (Key Process Indicators), OKR (Objectives & Key Results) y hacemos, o deberíamos hacer informes, cuadros de mando (integrales o no) y, si estamos en una compañía digitalmente avanzada y muy 'data-driven', tal vez hasta analítica predictiva.

 

El riesgo de los indicadores

Sin embargo, la simplificación que supone reducir un fenómeno a un indicador, una simplificación que en buena medida es 'parte de su gracia', no está exenta de riesgos.

Un indicador, por un lado, al ser una simplificación (y muy grande) puede estarnos ocultando una realidad más compleja y no permitirnos avistar algún fenómeno, quizá alguna causa raíz, que nos permitiría tomar mejores decisiones.

Quizá peor aún, un indicador que se convierte en objetivo, con frecuencia, incentiva un comportamiento. Si medimos ingresos por un producto concreto y ponemos un objetivo más exigente que en otros, nuestra fuerza comercial tenderá a concentrarse en vender ese producto y quizá no otros. ¿Es eso lo que queremos? Puede que sí...o puede que no.

Más claro aún. Si ponemos como indicador de un contact center un tiempo medio de atención bajo, como forma de hacer ese contact center más eficiente y aumentar su capacidad efectiva de atender llamadas, estamos sin embargo incentivando una mala atención (lo digo por experiencia), animando, sin pretenderlo, a los agentes del contact center a cerrar los asuntos en falso, sin una verdadera resolución o derivándolo a otras unidades, ya que así deja de contarles a ellos el tiempo. ¿Recibe el cliente una mejor atención? Claramente, no. Y sin embargo, visto en abstracto, una atención rápida es un valor positivo, incluso para el cliente.

Por eso es preciso elegir muy bien los indicadores, proponer un juego de KPIs que se equilibren entre sí y en que unos compensen los vicios que otros generan  y no olvidar nunca, cuál es el verdadero objetivo, qué estamos realmente queriendo medir e incentivar.

Se imponen, como defiendo con tanta frecuencia, el conocimiento y el rigor. Sin mitos ni lugares comunes: conocimiento y rigor.

El valor de la vida humana

Y, claro, si establecer indicadores y valores numéricos es delicado en el mundo económico y empresarial ¿Qué pasa ahora si queremos poner un valor concreto, económico, en dólares o euros, a una vida humana?

La idea, en un primer momento, parece repulsiva, y nos asusta y pone en guardia con sólo oírla.

Pero, como en todo lo demás, y si de decisiones hablamos, conviene ser racionales y entender de qué hablamos y sus consecuencias.

Y comento esto a raíz de algo que he leído en el libro 'Artificial Intelligence. A modern approach' de Stuart Russell y Peter Norvig. Comentan el caso, bien es verdad que con muy poco detalle, en que más valdría haber asignado ese valor económico a una vida humana.

¿De qué contextos hablamos? Pues, claro, de casos en que la vida humana, de alguna manera, corre peligro, transporte sanitario (ambulancia), decisiones de salud pública, decisiones medioambientales, etc. Cuando queremos adoptar una política, unas directrices, parece que 'el algoritmo' nos lleva a meter el valor de la vida humana en la ecuación puesto que, uno de los resultados de una decisión u otra es el afectar a un mayor o menor número de vidas, quizá de forma fatal. En ese tipo de decisiones, lo hagamos de manera explícita o implícita, el valor de la vida humana está siempre en la balanza. Así lo indican los autores:

 

Although nobody feels comfortable with putting a value on human life, it is a fact that tradeoffs on matters of life and death are made all the time.

Nuestros sentimientos, puede que también nuestras normas morales, pueden impedirnos o al menos hacer que nos resistamos a asignar un valor económico a una vida humana. Es comprensible y difícil de criticar. Sin embargo, puede no ser la mejor postura.

Aunque no lo detallan, y entonces no puedo juzgar mucho más, los autores aportan el ejemplo, descrito por Ross Shachter, en que una agencia gubernamental (entiendo que norteamericana) tenía que decidir sobre la eliminación de elementos construidos con amianto, un material, al parecer, cancerígeno. Cabe suponer que eliminar ese amianto de manera global en las escuelas y colegios, debía ser una tarea compleja y, sobre todo, costosa. La agencia gubernamental subcontrató el estudio a una entidad externa, la cual asignó un valor económico a la vida de los niños, hizo su estudio y concluyó que la decisión razonable era eliminar el amianto de las escuelas.

Aunque nos puede erizar la piel el ver valorada económicamente la vida de un niño, lo cierto es que la la conclusión del estudio es la que, al menos con el corazón en la mano, todos consideraríamos que es mejor, dado que hay vidas, y además vidas infantiles, en juego: eliminar el amianto.

Sin embargo, la asignación de un valor económico a la vida de un niño, resultó inadmisible para la agencia gubernamental, quien descartó el informe. En su lugar llevó a cabo otro estudio en que no se asignaba valor económico a la vida de los niños. ¿Cuál fue el resultado? No eliminar el amianto.

¿Se observa la paradoja? Según nos indican los autores, el eliminar de la ecuación el valor económico de la  vida de los niños, supuso, de facto, devaluar esas vidas, darles menos importancia y, por ello, decidir que la mejor opción racional era mantener el amianto, o lo que es lo mismo, ahorrarse el coste de esa retirada pero arriesgando la vida de esos niños.

Conclusión: conocimiento y rigor

¿Qué nos enseña todo esto? Pues diría que se trata, de nuevo, de una llamada al conocimiento y al rigor.

No nos dejemos llevar por criterios simplistas, viscerales o emocionales cuando estudiemos formalmente fenómenos, cuando adoptemos decisiones y cuando elijamos números, indicadores o algoritmos que apoyen esas decisiones.

Ni en el ámbito económico ni en el ético.

No seamos simples ni simplistas.

Teniendo claros nuestros objetivos empresariales en unos casos, y nuestros criterios morales en otros, actuemos con cabeza, con conocimiento y con rigor, de forma que esa elección de indicadores y algoritmos, esa toma de decisiones, nos lleve realmente a donde queremos llegar y no a cualquier otra parte.

Puede haber vidas en juego.