Automation blindness o el riesgo para human-in-the-loop

Una de las cosas que a veces asusta de la inteligencia artificial y a la que, de alguna manera, se intenta poner coto o controlar, es a la posibilidad de que los algoritmos tomen decisiones de forma automática, sin control humano.

Y por ello, entre otros mecanismos, se propone y se utiliza el denominado 'human-in-the-loop'. Sin embargo, esto también puede tener un riesgo.

Vayamos paso a paso.

Decisiones automatizadas

Nos asusta que una máquina pueda decidir de manera autónoma qué hacer. Y, en cierto sentido, podría parecer paradójico que a estas alturas nos preocupe esa automatización, cuando en muchos ámbitos de nuestra vida ya existe una profunda automatización .

La decisión automatizada existe, por supuesto, en plantas industriales, pero existe también en muchos sistemas de información de los que comúnmente se utilizan en empresas y administraciones. 

Hasta máquinas de uso común, como los coches, tienen muchos elementos automatizados.

¿Por qué nos asuste entonces que decidan algoritmos de inteligencia artificial?

Aventuro que por tres motivos.

Por un lado, por la naturaleza de las decisiones. Ya que la inteligencia artificial automatiza tareas cognitivas, los algoritmos pueden automatizar decisiones tradicionalmente reservadas a humanos (por ejemplo, un diagnóstico médico o la decisión de concesión de un préstamo) y, justificadamente o no, nos resistimos a ceder ese poder.

En segundo lugar, porque con frecuencia no entendemos del todo cómo se toman esas decisiones. La mayor parte de los algoritmos de inteligencia artificial no toma las decisiones conforme a unas reglas claras, sino con base en unos patrones no del todo evidentes... o no evidentes en absoluto.

Quizá añadiría en tercer lugar el hecho de a veces, por suerte con poca o muy poca frecuencia, como no siguen los mismos razonamiento humanos, a veces fallan de forma inesperada y casi absurda, lo que, en alguna situación podría ser, aparte de imprevisible, directamente catastrófico.

Explicabilidad 

Como una forma de eliminar, al menos parcialmente el segundo de los factores, el no saber cómo se toman las decisiones, existe desde hace años el concepto de explicabilidad de la inteligencia artificial (XAI, eXplainable AI) que busca, precisamente, que los algoritmos sí puedan explicar, de forma comprensible por los humanos, cómo toman las decisiones.

Se trata de un tema técnicamente complejo porque los algoritmos más potentes, los que proceden del campo de las redes neuronales y el deep learning, son esencialmente no explicables,

Pero, por sí sola, la explicabilidad, que además no se encuentra plenamente conseguida, no nos elimina el miedo a dejar en manos de un algoritmo una decisión automatizada. Si no hacemos nada más, la explicabilidad nos dice cómo ha decidido el algoritmo, pero lo hace 'a posteriori', una vez que la decisión ha sido tomada y, eventualmente, ejecutadas las acciones que siguen a esa decisión. 

Human-in-the-loop

El mecanismo adicional es el denominado 'human-in-the-loop' que, estrictamente hablando, elimina la automatización.

Se trata, simplemente, de que en último término quien decide es un humano. El algoritmo evalúa la situación y propone una decisión...pero no la aplica automáticamente, sino que la somete a la supervisión de un humano que es quien decide si ejecuta realmente esa decisión o no.

En el fondo, como decía, la decisión ya no es automática aunque sí puede aprovechar la rápida y potente capacidad de análisis del algoritmo. 

El riesgo de confiarse y dejarse ir

El riesgo al que se refiere el título de este artículo, un riesgo si se quiere un poco tonto, pero muy real, e incluso grave, es que el comportamiento humano habitual es que cuando el trabajar con el algoritmos se convierte en algo habitual, rutinario, y cuando, además, el algoritmo demuestra que en la práctica suele proponer cosas acertadas, el humano se confía, deja de analizar con tanto rigor lo que se le propone, deja de aplicar juicio crítico y comienza a aceptar sin más lo que el algoritmo propone.

A efectos teóricos hemos eliminado la automatización (y también algunos de sus beneficios de eficiencia y rapidez) pero, a efectos de control nos hallamos en la misma situación que si el algoritmo estuviese completamente automatizado, con la única diferencia, quizá, de que ahora tengamos un claro responsable ético y legal: el humano que, en teoría, es quien toma la decisión.

Pero el riesgo original de la decisión automatizada no lo eliminamos.

Automation blindness

Es efecto, el confiarse, es un iregso que ya había identificado, apreciado y comentado en diversos medios, pero lo que he descubierto recientemente es que tiene nombre, y ese nombre es 'automation blindness'.

Y lo descubro en el capítulo final, sobre responsabilidad, del libro 'Visualizing Generative AI' de Priyanka Vergadia y Valliappa Lakshmanan. En concreto, los autores lo explican, en el caso de la inteligencia artificia generativa, diciendo

As GenAI becomes better and its errors rarer, human users may fail to even perceive the few errors that remain or are introduced. They become less and less aware of the details and nuances involved.

Y nos cuentan que, en realidad, este término no procede del campo de la inteligencia artificial, sino de la aviación, donde se observó esa confianza en el mecanismo automatizado en el caso de pilotos de avión asistidos por pilotos automáticos.

The term automation blindness comes from aviation, where it describes how pilots become over-reliant on their automated systems, lose their situational awareness, and fail to recognize potential hazards or anomalies.

Un fenómeno confirmado, además, por estudios realizados por la NASA.

Improvisando algunas opciones de mitigación

¿Qué opciones nos quedan antes este fenómeno?

Pues, sinceramente, no creo que haya ninguna solución absoluta ni mágica pero, se me ocurre, un poco a bote pronto:

• Por supuesto, poner aún más énfasis en que los algoritmos tomen la decisión adecuada desde el principio, por si acaso el humano no está muy atento


• Incrementar, hasta donde se pueda, la calidad y simplicidad de las eventuales explicaciones que ofrezca el algoritmo, para simplificar que el humano entienda rápidamente la decisión y sus motivaciones.


• Incluir, de serie, avisos por parte del algoritmo o de la aplicación de los eventuales riesgos e implicaciones de la decisión, visualizar esos avisos de manera muy clara y, si se detecta algún riesgo importante, usar los recurso gráficos y sonoros pertinentes para alertar al decisor humano.


• Incluir mecanismos en las aplicaciones que fuercen al decisor humano a confirmar que toma la decisión conscientemente (por ejemplo, resumiendo muy brevemente en un texto, por qué lo decide). Esto sería ineficiente y algo 'pesado' y, además, no creo que elimine del todo la posibilidad de que el humano actúe sin pensar, pero supongo que sí lo disminuiría.


• Finalmente, y aunque sea triste decirlo, incrementar los 'castigos' en caso de decisión equivocada y no eficazmente supervisada para que, aunque sólo sea por miedo, el humano preste más artención.

Ninguna de las opciones, por supuesto no excluyentes sino todo lo contrario, me parece completamente efectiva y alguna, como las dos últimas, la verdad es que no me gustan demasiado.

Lo cierto es que no veo una forma de eliminar completamente este 'automation blindness' que, en el fondo, es muy humano.

Supongo que sólo queda ser conscientes del mismo e intentar disminuirlo en la medida de lo posible.

Conclusiones

De cara a prevenir que los algoritmos de inteligencia artificial adopten de manera automatizada decisiones que puedan ser equivocadas, dañinas o poco éticas, una de las estrategias es la de su supervisión, y decisión final, por parte de un humano, lo que se conoce como 'human-in-the-loop'.

Sin embargo, esta estrategia se tropieza con algo tan simple como que a los humanos les cuesta mantener la atención y se confían cuando ven que, en general, las decisiones del algoritmo son acertadas, un fenómeno denominado 'automation blindness' y para el cual, por desgracia, no identifico ninguna estrategia definitiva, sólo mecanismos de mitigación.

Un decálogo para tomar buenas decisiones estratégicas

Una de las labores del directivo es tomar decisiones. Unas decisiones que con frecuencia son de naturaleza operativa pero que en otras, quizá cuando la función ejecutiva alcanza su más alta expresión, son de naturaleza estratégica y afectan al posicionamiento, al modelo de negocio o a las actividades de innovación.

En esos casos hablamos de decisiones de gran calado, donde generalmente existen pocas reglas claras y, cuyas consecuencias son, además, de alto impacto. Para esa toma de decisiones no se pueden dar recetas simplistas y procedimentadas. Al final es el directivo, quien, con una información en general incompleta, en un ambiente de incertidumbre y asesorado, eso sí, por su equipo u otros expertos, debe elegir un camino.

Aunque, como decimos, no hay recetas fáciles y generales, ni tampoco fórmulas mágicas, si se pueden aplicar algunos consejos o buenas prácticas. En concreto, leyendo el libro 'The business model navigator' de Oliver Gassmann, Karolin Frankenberger y Michaela Choudury un libro que trata de innovación en modelos de negocio y, por tanto, de toma de decisiones estratégicas, me encuentro con un decálogo de ideas que creo que puede ser útil. Son éstas: 

• Dado que la innovación tiene habitualmente lugar en condiciones de alta incertidumbre, asegúrate de disponer de información de hechos y un entendimiento sólido de los mismos como base para la decisión. Es decir, seguridad no la tienes, pero al menos apóyate en el conocimiento de las evidencias disponibles.


• Mantén el número de decisores en el mínimo posible.


• Analiza las causas subyacentes. Pregunta por qué una y otra vez hasta localizarlas.


• Permanece abierto a la intuición. Aunque la intuición puede parecer algo mágico y poco racional, en el fondo se basa en experiencia y conocimiento inconsciente y puede ser muy útil ante decisiones complejas.


• Evita sesgos cognitivos para lo cual el primer paso es ser consciente de ellos.


• Intenta conseguir el consenso entre decisores. Eso hará mucho más sencilla la implementación posterior. Ese consenso te puede dar seguridad pero actúa, además, como una eficaz herramienta de gestión del cambio.


• Sé valiente: los errores se pueden corregir pero la indecisión impide avanzar. Actúa.


• Gestiona de manera abierta las luchas de poder y los conflictos de interés.


• Aprende de tus errores. Todos cometemos errores pero hay que intentar no repetirlos.


• Intenta crear un entorno de decisión donde se encuentren los expertos adecuados con visión tanto interna como externa.

Supongo que no sorprenderán al lector estos diez consejos. Se trata de sugerencia de bastante de sentido común y de uso habitual en la práctica directiva. De todas formas, y como casi todas las cosas que parecen evidentes, conviene no confiarse en esa evidencia y recordarlas de vez en cuando.

Resolución de problemas basada en personas

Una actividad importante de los directivos (y no tan directivos) en empresas e instituciones, es tomar decisiones: decisiones acerca de dónde invertir y dónde no, a qué segmentos de clientes atender y a cuáles no, qué materiales, equipos o servicios comprar y cuáles no, qué promociones realizar y cuáles no, qué subidas salariales realizar, qué políticas comunicar, qué instrumentos financieros elegir...

Decisiones, decisiones, decisiones...

Y para ayudar a tomar decisiones, hemos construido herramientas de análisis, metodologías y sistemas. Y no se puede decir que hacer eso sea incorrecto, sino todo lo contrario. A priori es bueno tomar las decisiones apoyados en información, datos y método.

Hoy en día, con la explosión de los datos, el big data, el machine learning, etc aún parece más lógico y racional apoyarnos en datos, métodos y sistemas científicos y objetivos para tomar decisiones correctas. Y, en realidad, esto también es bueno, muy bueno.

Sin embargo, tenemos a nuestro alcance una formidable, sencilla y barata herramienta de soporte a la decisión de la que quizá no somos del todo conscientes: las personas, nuestros colaboradores, colegas, familias y amigos. Las personas.

En mi trayectoria profesional, cuando me he enfrentado a problemas que no veo claros, o sobre materias de las que no soy experto, he utilizado con frecuencia una técnica muy sencilla: simplemente, preguntar a un grupo selecto de personas que, por su inteligencia, conocimiento o experiencia sabes que tienen una opinión valiosa. A lo mejor tampoco tienen la fórmula mágica...pero su opinión es valiosa.

No hace falta preguntar a muchas. Unas pocas, si están bien seleccionadas, las escuchas y las entiendes, suelen ser suficientes para darte una idea bastante clara de la situación y con un poco de preguntas y mente abierta, la decisión suele presentarse de color blanco y envasada en botella.

Aunque no parece muy científico, mi experiencia práctica es que funciona muy, muy bien y, después de todo, si el concepto de inteligencia colectiva tiene algo de fundamentado, no debería extrañarnos. Preguntar a unas pocas personas con conocimiento y/o talento es una forma sencilla, de andar por casa (o por la oficina), de aprovechar la inteligencia colectiva.

Y no debe ser tampoco tan disparatado cuando David Kelley, fundador de IDEO, afirma, como nos enteramos por su hermano Tom Kelley en el libro 'The art of innovation' que:

When you're stuck with a tough decision or a problem you don't understand, talk to the smart people you know. It's the networking approach to problem solving.

Así de fácil.

No dejes de aplicar método, no dejes de invertir en sistemas, en obtención de datos, en Big Data y en Machine Learning, pero cuando te veas 'apretado', desasistido, confuso, perdido, pregunta, simplemente pregunta... a las personas con conocimiento y talento  que te rodean, a las personas, simplemente a las personas...

El último momento responsable

Hay una tensión inherente entre el análisis y la velocidad cuando hablamos de la toma de decisiones. 

Un exceso de análisis conduce a la decisión tardía con lo que pueden perderse oportunidades de negocio, o bien, convertirse en problemas riesgos que podíamos haber evitado de haber estado algo más ágiles en nuestro proceso decisorio.

Por el contrario, la obsesión por la velocidad en la decisión y una a veces mal entendida 'ejecutividad'.  lleva a tomar decisiones precipitadas sin el más mínimo análisis aunque exista información disponible y método viable para realizar dicho análisis.

En concreto, cada vez observo con más frecuencia el segundo patrón extremo, el de la precipitación.

Por eso me resulta tan pertinente y atractivo el concepto de último momento responsable usado en metodología Lean. Tal y como nos lo explican Carmen Lasa, Alonso Álvarez y Rafael de las Heras, en su libro 'Métodos Ágiles. Scrum, Kanban, Lean':

pretende transmitir [es] que se debe aprender e investigar todo lo posible antes de tomar una decisión que afecte al producto. Pero esa decisión debe tomarse en el momento justo, no más tarde. En definitiva, huir del exceso de análisis que pueda paralizar al equipo [...], pero también de la toma de decisiones de forma precipitada.

Pues eso. 

El 'tempo' y la calidad de la decisión ejecutiva

Lo veo con frecuencia...

Hemos asumido que vivimos en un mundo acelerado, un mundo en cambio rápido y constante, un entorno VUCA lleno de incertidumbres donde es preciso reaccionar... y hacerlo rápido, muy rápido.

Incluso hemos santificado la rapidez en forma de metodologías como agile o lean startup.

Y parece que en esa línea nos hemos convencido de que los ejecutivos deben decidir rápido, casi instantáneamente, sin datos, sin análisis, sin reflexión, sin medir las consecuencias...

¡Un  momento!

¿Seguro?

¿Seguro que se deben tomar decisiones ejecutivas sin análisis y sin medir las consecuencias?

¿Seguro que la exigencia de la rapidez es tan extrema?

No.

Rechazo esa idea, rechazo profundamente esa idea, al menos como principio.

Es muy cierto que hay que decidir rápido y que hay que actuar. Es muy cierto que con frecuencia existirán incertidumbres y que el ejecutivo deberá decidir sin todos los datos, sin todas las incógnitas despejadas.

Pero el ejecutivo debe buscar el tiempo para la información, la evaluación y la reflexión, ya sea por sí mismo o por sus colaboradores. Debe hallar la perspectiva que le permita tomar una decisión lo más razonada que las circunstancias se lo permitan. Debe buscar el tiempo y debe cuidar el 'tempo', es decir, sopesar hasta cuándo puede seguir analizando y cuándo es necesaria ya la decisión.

La probabilidad de adoptar una buena decisión, la calidad de la misma, dependen de ello en buena medida.

Y considero erróneo pensar que avanza más el directivo o mando que decide más rápido, sólo por el hecho de decidir rápido. Es mucho más importante, incluso para el ritmo de avance, decidir correctamente. Una decisión errónea puede resultar fatal pero, incluso si no es desastrosamente definitiva, corregir los errores perniciosos de una mala decisión conlleva tiempo, mucho tiempo, probablemente mucho más que el que se ahorró por decidir sin el suficiente análisis. 

Quizá ese control del 'tempo' de la decisión sea una de las mayores habilidades del buen directivo.

Hace tiempo que observo esa cultura de la decisión inmediata sin análisis ni asesoramiento. Y hace tiempo que me repito a mi mismo, y a quien quiera oírme, los argumentos de este artículo.

Por eso, no he podido dejar de reparar con satisfacción, y recrearme, en este párrafo que aparece en la Carta de Presentación que Santiago Iñiguez, Presidente de IE University y decano de la IE Business School firma, a modo de introducción, en el libro 'Emprendedores sociales' de Ignacio Álvarez de Mon:

Posiblemente muchas malas decisiones empresariales se deban a la premura y perentoriedad  de los momentos en los que se adoptaron. Es necesario que el directivo recupere el tempo y la perspectiva para tomar mejores decisiones, para valorar su riesgo y sus consecuencias a largo plazo, para estimar su impacto en la sociedad.

Me agrada y consuela que alguien, que representa a una de las mejores escuelas de negocios de España, Europa e incluso el Mundo, clame también por ese tempo y esa perspectiva.

Confiemos en que la labor de formación ejecutiva desarrollada por IE Business School haga calar en las nuevas generaciones de directivos, esa cultura.

Por la calidad de las decisiones. Por la salud de las empresas. Por el progreso de la sociedad.

Convivir con la incertidumbre

Es un equilibrio difícil...pero inevitable.

Una de las tareas de un directivo o de un mando intermedio es la de organizar el trabajo de sus equipos,una organización que incluye elementos como, la fijación de objetivos,  la planificación, la asignación de recursos, el establecimiento de hitos...

Estas herramientas, por un lado hacen el trabajo más efectivo y eficiente pero, además, lo convierten en más previsible. Y esto es bueno.., y necesario.

Sin embargo, es preciso ser consciente de que los contextos pueden cambiar y los imprevistos surgir, Aunque la planificación y la organización son necesarias y positivas, no pueden caer en la rigidez o la inmovilidad.

En el mundo digital, los cambios se producen cada vez con mayor dificultad, el futuro es cada vez menos previsible y menos controlable, las disrupciones se hacen más frecuentes...

Por todo ello, sin renunciar a la planificación y la organización, los líderes de un mundo digital deben estar preparados para convivir con un cierto nivel de ambigüedad e incertidumbre... e, incluso, sentirse cómodos con ellas.

Ese es el consejo que nos dan George Westerman, Didier Bonet y Andrew McAfee en su libro 'Leading digital' cuando nos dicen:

A key aspect of competing in the digital age is the ability of leaders to be comfortable with a certain level of ambiguity when it comes to digital initiatives.

Esa convivencia amistosa con la incertidumbre no implica, entiendo yo, una renuncia a la planificación, todo lo contrario. Implica la capacidad para tomar decisiones y establecer planes con un cierto e inevitable nivel de riesgo, la disciplina para monitorizar las hipótesis sobre las que se construyeron los planes y una actitud abierta para modificarlos si las condiciones de contexto los invalidan.

No se trata de no planificar sino que, las planificaciones se deben mover o, o al menos revisar, al ritmo acelerado del cambio en el mundo digital.

Se trata, como decía, de un equilibrio difícil...pero inevitable.

Cinco heurísticas para decidir rápido

A veces nos cuesta decidir, a veces nos faltan datos, a veces solo seguridad...

En cualquier caso, decidir no suele ser fácil.

En su libro 'The perfect swarm', Len Fisher recoge un estudio realizado por el psicólogo alemán Gerd Gigerenzer con estudiantes a los que preguntaba cuestiones de las cuales apenas tenían idea. Comparando grupos diferentes y observando las reglas que seguían para decidir, este psicólogo identificó diez heurísticas, de las cuales, Len Fisher se extiende explicando éstas cinco:

• Reconocimiento (recognition): si te dan dos alternativas y reconoces una y sólo una, elige esa


• Fluidez (fluency): si sólo dispones del reconocimiento para decidir, pero hay varias alternativas que reconoces, elige la que reconozcas más fácilmente.


• Puntuación (tallying): Busca pistas que puedan ayudar a decidir entre opciones y selecciona aquella con una mayor diferencia entre los aspectos positivos frente a los negativos.


• Toma el mejor (take-the-best): A la hora de decidir entre dos opciones, busca pistas y ordénalas según la expectativa de que puedan conducir a una elección y luego selecciona con base a la primera de las pistas en que observes una diferencia.


• Satisfacción (satisficing): Busca por las diferentes alternativas y elige la primera que supera tu nivel de aspiración.

Gerd Gigerenzer

Algunas nos parecen más lógicas, otras sorprenden un tanto. Sin embargo, al parecer, y supongo que en grandes números, dan buenos resultados.

Y, desde luego, son rápidas, muy rápidas.

Así que ya podemos desterrar la famosa 'parálisis por el análisis'.

Sólo tienes que aplicar estas heurísticas.

¿A qué esperas?

Decídete ya...

El pensamiento grupal o la amenza fantasma a la inteligencia colectiva

Vivimos una época en que lo social, entendido como la interacción entre individuos, es un fenómeno creciente, apoyado en las nuevas tecnologías, pero también como un nuevo rasgo cultural.

Vivimos en una época, también, en que en el ámbito profesional, escolar, etc se valora cada vez más el trabajo en equipo y en que la capacidad de ese trabajo en equipo se considera una habilidad muy valiosa.

Y, además, y desde el punto de vista no solo sociológico, sino incluso científico, descubrimos el valioso e interesante fenómeno de la inteligencia colectiva, que permite que un grupo exhiba un comportamiento más inteligente que el de sus individuos aislados.

Sin embargo, existen peligros latentes... y uno de ellos es el denominado pensamiento grupal ('groupthinking') término acuñado por el psicólogo Irving Janis en 1972. Este psicólogo describió sus principales características como:

• Presión hacia la uniformidad
• Mentalidad cerrada dentro del grupo
• Una sobrevaloración del grupo como más fuerte, inteligente y moralmente superior que otros grupos e, incluso, en ocasiones, una cierta sensación de invulnerabilidad.

Len Fisher, en su libro 'The perfect swarm' menciona este fenómeno en contraste con el positivo fenómeno de la inteligencia colectiva propiamente dicha y que comentábamos en el artículo 'Una manifestación sorprendente y sencilla de la inteligencia colectiva como fruto de la complejidad'

Respecto al groupthink, nos dice:

Groupthink is the phenomenon where social pressures within the group push its members into a pattern of thought that is characterised by self-deception, forced manufacture of consent, and conformity to group values and ethics.

Este comportamiento anula las bases de la inteligencia colectiva, uno de cuyos pilares es la independencia de pensamiento de los individuos.

Aparte de esto, podemos ver sus consecuencias acerca de valores como la libertad individual y la autonomía de los individuos. Algunos de las características que menciona Irving Janis sugieren, incluso, comportamientos que recuerdan a sectas, grupos fanáticos, o dictaduras.

En mucha menor escala, y eliminando factores éticos, también podemos reconocer dinámicas de grupos nocivas, en que la dominancia de un líder (quizá un falso líder), al acatamiento de o una forma de pensar y entender las cosas, o el temor a manifestar el pensamiento propio, factores que anulan la creatividad, la innovación y la aparición de nuevas ideas, restando gran parte de la efectividad y capacidad de encontrar soluciones de un equipo.

¿Cómo se rompe este efecto?

El mismo Len Fisher, cita los trabajos de Richard Feynman, quien participó en la investigación del accidente del Challenger en 1986 y pudo contemplar los negativos efectos del groupthink. Con base en los resultados de este físico, ganador del premio Nóbel, se apuntan tres elementos clave para huir del groupthink, a saber:

• Salir del entorno del grupo durante un tiempo
• Hacer algo de pensamiento independiente
• Comprometerse uno consigo mismo a las conclusiones de ese pensamiento individual e independiente, antes de volver a unirse al grupo para compartir las propias conclusiones.

Se trata, en el fondo, como individuo, de recuperar el propio pensamiento y, como grupo, recobrar la independencia de sus componentes, de forma que florezca, de nuevo, la inteligencia colectiva.

Emoción y toma de decisiones

Tendemos a pensar que el proceso de toma de decisiones, al menos en el entorno profesional, es un proceso netamente racional ¿verdad? 

Realizamos análisis de impacto, análisis de coste-beneficio, censos de pros y contras, quizá aplicamos baremos de valoración por criterios ponderados por un peso...

En efecto, creo que en las decisiones interviene, o debiera intervenir, un componente claramente racional. Los análisis, en su justa medida, creo son herramientas útiles e incluso necesarias para adoptar buenas decisiones.

Sin embargo, no nos confiemos. Somos seres racionales si, pero también emocionales y en muchas ocasiones la emoción pesa mucho más de lo que pensamos o quisiéramos pensar.

Ese peso de lo emocional puede hacernos perder parcialmente el control del proceso, pero también la emoción tiene sus ventajas porque constituye una ayuda a la decisión, algo que nos facilita adoptar una postura o curso de acción en un espacio de tiempo breve.

Esta es, mas o menos, la idea que nos transmite Nick Morgan en su libro 'Power cues' cuando afirma:

At its heart, decision making involves emotions, because emotions give us the ability to weigh the relative importance of all the factors involved

Por tanto, probablemente no sea negativa la existencia de la emoción en el proceso de decisión, siempre que seamos conscientes de ella, siempre que eso no constituya una barrera para la realización de los análisis precisos y siempre que hagamos participar tambien de forma preponderante a nuestro yo consciente.

Intuición informada

Decidir no es sencillo.

Por ello, es fácil caer en dos extremos seguramente igualmente nocivos.

Podemos requerir datos y más datos, análisis y más análisis para 'asegurar' una decisión correcta. Es posible que, en efecto, la decisión sea la correcta...pero que llegue demasiado tarde. También es posible que nunca obtengamos todos los datos que pretendemos. E, incluso, como el proceso de decisión no suele estar sometido a reglas matemáticas que la elección final, tras tanto esfuerzo, tampoco sea la mejor, Es una forma de actuar responsable... pero seguramente muy poco práctica.

En el otro extremo encontramos la decisión visceral, intuitiva. Se adopta casi sobre la marcha, basada en la experiencia o sentimientos, quiza incluso prejuicios, del decisor. Es una forma de actuar muy rápida, muy ejecutiva... pero que fácilmente conduce al error por falta de sustento sólido.

Cada vez más pienso que las decisiones deben adoptarse en un punto intermedio. Basadas en información, sin duda, pero una información que sea obtenible en un plazo razonablemente corto y asumiendo que esa información puede ser incompleta e, incluso, que puede contener algún error. Se trataría, de alguna manera, de aplicar la regla del 80/20 a la información de soporte a la decisión: conseguir el 80% de la información necesaria y que ésta exhiba un 80% de exactitud.

Y convencido personalmente de lo anteriormente expuesto, me ha gustado mucho el término intuición informada que me encuentro leyendo el libro 'Crossing the chasm' de Geoffrey Moore y que parece acercarse mucho a lo que explicaba más arriba.

Así nos habla Moore de lo que es esa intuición informada:

The key is to understand how intuition -specifically informed intuition- actually works. Unlike numerical analysis, it does not rely on processing statistically significant sample of data in order to achieve a given level of confidence. Rather, it involves conclusions based on isolating a few high-quality images -really, data fragments- that it takes to be archetypes of a broader and more complex realities.

Quizá lo más importante sea, como se dice en este párrafo, que la información en que nos basemos, aunque incompleta, sea de alta calidad (entendiendo como tal, calidad de discernimiento, de soporte a la decisión) y que sean realmente ese arquetipo de la realidad que la represente...pero la simplifique.

Un difícil pero sin duda necesario equilibrio.

Decidir, sin duda, no es sencillo...

#macrotweet: Hablar a toro pasado de decisiones complejas

We are prone to blame decision makers for good decisions that worked out badly and to give them little credit for successful moves that appear obvious only after the fact.

Daniel Kahneman

'Thinking fast and slow'

Características de una decisión estratégica

Quizá porque echo en falta a veces observarlas en la práctica me han llamado la atención las tres características que, para decisiones tomadas en el ámbito de la estrategia, propone Rafael Martínez Alonso en su libro 'El manual del estratega'.

Son, simplemente, estas tres

• Decisiones: Es decir, que no se usen automáticamente criterios históricos porque ya hayan funcionado antes.

• Personalizadas: Adecuadas a la compañía, a sus metas y a los datos realistas que se tienen sobre las necesidades. Que no sean recetas genéricas compradas automáticamente a los consultores.

• Con criterio: O sea, con criterios explícitos y comprendidos, no tomadas en un pronto por alguien con suficiente autoridad.

Parecen obviedades. Parecen tres características derivadas del mero sentido común pero ... ¿seguro que nuestras decisiones o las que observamos a nuestro alrededor siempre exhiben estas tres características?

Modelos de decisión y empresas abiertas

Igual que en el ámbito del liderazgo se identifican diferentes estilos, todos ellos válidos según la situación, parece que también podemos identificar modelos de decisión en el ámbito corporativo, modelos que marcan la forma de adoptar resoluciones y que pudieran no ser ni buenos ni malos en sí mismos, sino formas de tomar las decisiones, con sus pros y sus contras, y más adecuados o menos según las circunstancias.

Al menos eso parece sugerir Charlene Li en su libro 'Open leadership' cuando identifica y explica cuatro modelos de decisión y cómo se pueden aplicar en una empresa abierta.

Repasemos brevemente cuáles son estos modelos.

Centralizado

Las decisiones son tomadas por el CEO asesorado por un pequeño gabinete que se supone tienen el conocimiento y juicio suficientes para ello.

Es un modelo muy ejecutivo y rápido pero puede hacer que los empleados se sientan poco implicados enlas decisiones 

En una empresa abierta, la forma de utilizar este modelo no es tanto involucrar a más personas cuanto compartir información de manera bidireccional entre decisores y el resto de empleados de forma que éstos últimos se sientan más implicados y los primeros tengan más elementos de juicio.

Democrático

Se selecciona un número limitado de opciones y éstas son sometidas a votación.

En este modelo los empleados se sienten mucho más implicados como participantes activos. Sin embargo, es un modelo costoso, no adecuado para ciertas decisiones difíciles y se presta al empleo de criterios de popularidad más que de verdadero mérito.

Consenso

Las decisiones se alcanzan por acuerdo entre los implicados.

La implicación es máxima sin embargo es un modelo muy 'pesado' en el sentido de requerir una gran cantidad de tiempo y esfuerzo el conseguir que todos los implicados acepten una solución.

Distribuido

Es un híbrido de los anteriores.

Lo que se hace es desplazar el centro de decisión hacia niveles inferiores de la jerarquía, que luego puede aplicar cualquiera de los modelos anteriores. El hecho de acercar la decisión a niveles inferiores implica ya un mayor compromiso de los empleados.

Aunque parece un modelo caótico requiere, en realidad, una gran disciplina para el reparto de decisiones y conseguir que todos remen en la misma dirección.

***

Seguramente, no sólo es que cada modelo tenga sus pros y sus contras, sino que probablemente la realidad tampoco sea tan sencilla (salvo quizá en el caso de los modelos centralizados) y las manifestaciones habituales sean algo más confusas y entremezcladas.

Aún así, como casi todos los modelos teóricos, puede resultar de ayuda para entender las organizaciones en que nos movemos.

El peso de lo medible en la toma de decisiones

Nos gusta y tranquiliza pensar que somos racionales en nuestra toma de decisiones, especialmente si pensamos en decisiones en el entorno profesional y corporativo.

Quizá por eso, de una forma similar al respeto superior que nos merecen los conocimientos publicados en libros o artículos frente a lo hablado por un colega o amigo, también parece que aquellos factores que llevan asociados consigo un valor medible, un indicador, un KPI, gozan de una mayor credibilidad que otros menos formales o más intangibles.

Charlene Li menciona en su libro 'Open leadership', una frase al respecto atribuida a John Hayes, responsable de marketing en American Express, una frase corta pero muy expresiva:

We tend to overvalue the things we can measure, and undervalue the things we cannot.

Lo cierto es, sin embargo, que con frecuencia no disponemos de esos datos medibles y que las decisiones, incluso decisiones importantes, se deben tomar con base a información incompleta, cualitativa y parcialmente intangible. A veces sólo nos queda la intuición, el olfato, la experiencia... De nuevo Hayes lo expresa muy claramente:

although we strive to become more measurable and accountable, there is a limit to what is feasibly (and economically) measurable. Inevitably, we base many of our decisions on just the thinnest sliver of information and evidence or, even more likely, our gut feeling.

La realidad es así. Lo medible nos proporciona confianza...pero con frecuencia no disponemos de ello. Quizá sea poco racional, es cierto,.pero también realza la importancia de la inteligencia humana, la racional y la otra...

¿Quién decide acerca de la innovación? Quizá no sean los directivos...

Tendemos a pensar que las grandes decisiones en las empresas las toman los altos directivos. Al fin y al cabo, ellos son los máximos responsables de llevar el timón y, en todo caso, cederán vía delegación, decisiones de menor calado a los mandos intermedios o, directamente, a los empleados.

Y si consideramos, y diría que es justo y generalmente admitido el hacerlo, que las decisiones acerca de las inversiones en innovación tienen calado estratégico, a la par que económico, todo apuntaría a que esas grandes decisiones sobre innovación las toma la alta dirección.

¿Si?

Clayton Christensen en su libro 'The innovator's dilemma' ofrece otra idea completamente diferente. Este profesor de Harvard piensa que muchas decisiones se toman más abajo, en los mandos intermedios, sin que la alta dirección sea siquiera consciente de que se han tomado y sin que tampoco se haya producido un verdadero proceso de delegación.

Una frase del propio Christensen para introducir el problema:

while senior managers may think they're making the resource allocation decisions, many of the really critical resource allocation decisions have actually been made long before senior management gets involved: middle managers have made their decisions about which projects they'll back and carry to senior management - and wich they will allow to languish.

¿Cómo es esto posible? ¿Se trata de algún tipo de dejadez por parte de los directivos? No. ¿Se trata de que los mandos intermedios se arrogan responsabilidades que no les corresponden? Tampoco. ¿Existe algún tipo de irresponsabilidad en la cadena de mando? De nuevo, respuesta negativa.

El mecanismo es algo más sutil y, al tiempo, muy reconocible.

La cosa funciona más o menos así. En teoría, las grandes decisiones sobre innovación, especialmente si implican una gran dedicación de recursos económicos o humanos, son tomadas por la alta dirección. Y esto parece correcto. Pero las ideas muchas veces parten de más abajo, de los mandos intermedios o de los empleados. Y esto parece también muy correcto y participativo. ¿El mecanismo? Existe algún tipo de órgano o comité de altos directivos al que se presentan propuestas y que decide sobre las ideas y proyectos que se generan más abajo. Quizá, eso sí, tras emitir algún tipo de directriz previa desde esa alta dirección. 

Normalmente los mandos intermedios evalúan las ideas de sus equipos e intentan tomar decisiones razonadas valorando si se trata de propuestas valiosas para la compañía o no, y si tienen probabilidades de  ser aprobadas por ese comité o no.

Y rechazarán presentar ideas y proyectos si consideran que no son valiosos para la compañía (todo un ejercicio de responsabilidad) o si piensan que no serán aprobadas (un ejercicio de economía de recursos y también, necesario es reconocerlo, de protección su propia reputación).

El resultado es que muchas ideas no llegan a ser ni siquiera conocidas por la alta dirección. Deciden sólo sobre aquellas que los mandos intermedios han considerado conveniente presentar...probablemente un subconjunto relativamente pequeño de todas las que han surgido en el seno de la plantilla.

Aunque quizá entren un poco en juego el ego de los mandos y sus aspiraciones, en esencia el comportamiento de éstos, y en general de todos los actores, es honesto y aparentemente razonable... pero el resultado puede no serlo.

Si recordamos la diferenciación entre tecnologías sostenidas y disruptivas, podemos concluir que probablemente todo el proceso funcione razonablemente bien, aunque con fallos esporádicos, cuando se trate de decidir sobre innovaciones sostenidas. Debemos pensar que existe ya cierta madurez, conocimiento y criterio en la compañía y, en especial, en sus mandos, para reconocer las propuestas prometedoras cuando hablamos de escenarios evolutivos o innovaciones sostenidas..

Pero cuando pensamos en innovaciones disruptivas las reglas cambian, se trata de nuevos terrenos de juego.... y el 'buen juicio' y 'buen criterio' de los mandos intermedios es más susceptible de fallar.

Todo esto se ve reforzado, siguiendo las ideas del mismo autor, por el peso de los valores de la compañía que también comentamos en un artículo anterior y que condicionan la forma en que se decide en una empresa dada.

El resultado, en cualquier caso es que, aunque formalmente parezca lo contrario, en muchos casos no es la alta dirección quien decide acerca de las ideas más rompedoras, de las innovaciones más disruptivas y, en consecuencia, que las grandes corporaciones, con estos complejos procesos de decisión, son bastante más susceptibles de perder el tren de las grandes nuevas ideas que otras más pequeñas y dinámicas.

La dualidad exactitud versus precisión

Suena a lo mismo, ¿verdad?

¿Qué diferencia existe entre la exactitud y la precisión? En el lenguaje de la calle, seguramente no mucha.

Sin embargo, en un plazo muy breve, me he encontrado dos veces con esta distinción en dos ámbitos bastante diferentes, lo que me ha hecho fijarme más en ella y asignarle valor.

La primera ocurrencia pertenece al ámbito de la dirección de proyectos y se incluye en el PMBOK (Project Management Book of Knowledge) que recoge las mejores prácticas en dirección de proyectos del PMI (Project Management Institute) y se menciona a propósito de la gestión de la calidad.

La otra fuente es el libro 'Analítica Web 2.0' de Avinash Kaushik que hemos mencionado en los últimos artículos y que trata fundamentalmente de analítica web, pero que también incluye interesantes reflexiones sobre todo tipo de indicadores y cuadros de mando.

En ambos casos, la distinción es la misma, y se refiere a la toma de diferentes medidas del mismo fenómeno:

• Precisión (Precision): Implica que todas las medidas están agrupadas, con muy baja dispersión. En teoría el valor medido podría alejarse del real, pero las medidas son consistentes entre sí.
• Exactitud (Accuracy): Quiere decir que los valores se acercan más al real, al menos en su valor medio, pero puede existir más dispersión entre las medidas individuales.

La figura nos ayuda a entender mejor el concepto.

Ambos atributos son, por supuesto, deseables. Sin embargo, a la hora de tomar decisiones, Avinash Kaushik apuesta sin ambages por la precision.

¿Por qué?

Pues porque en el mundo de la analítica web existen pocas medidas completamente deterministas, claras y absolutamente reales, por lo que es más importante entender las tendencias y actuar sobre ellas que sobre los valores concretos.

En ese sentido, la coherencia que proporciona la precision es mucho más valiosa que la cercanía al valor real (pero con dispersión) que ofrece la exactitud.

Un consejo sin duda sabio, orientado a la decisión y que, probablemente, y como ya ha ocurrido en otras reflexiones de Avinash Kaushik reflejadas en este blog, sea aplicable a otro tipo de indicadores no procedentes del mundo de la analítica web.

Matrices estratégicas frente a modelos predictivos complejos

Matriz DAFO

Desde hace ya varios años, entre el arsenal de herramientas del análisis estratégico y también el análisis de posicionamiento de productos e incluso de personas, se intenta entender realidades complejas mediante el uso de modelos simples.

En muchas ocasiones, estos modelos simples adoptan la forma de una matriz de cuatro cuadrantes. Se establecen dos ejes de coordenadas con dos atributos ortogonales y una clasificación ambigua del tipo alto / bajo. Cada eje se subdivide en dos y el cruce de ambos genera cuatro cuadrantes...una matriz simple. Según los modelos, a cada uno de esos cuadrantes se le asigna una forma de tratar los elementos que en ella se encuadran o bien, simplemente se clasifican los elementos en uno de esos cuadrantes.

Matriz BCG

Por si esto deja más claro de qué estamos hablando, recordemos, por ejemplo, el análisis DAFO de posicionamiento estratégico, la matriz del Boston Consulting Group para el análisis de una cartera de productos o el cuadrante mágico de Gartner para clasificar empresas y/o productos en un cierto campo. En áreas ya no ligadas al análisis estratégico o de mercado, podríamos, y sólo por poner algún ejemplo, citar la matriz Eisenhower para la gestión del tiempo o la ventana de Johari acerca de la personalidad y su manifestación exterior.

Las 5 fuerzas de Porter

Existen otros modelos que simplifican la realidad aunque no adopten la forma de matrices. Mencionemos, por ejemplo, el modelo de las 5 fuerzas o el de la cadena de valor de Michael Porter para el análisis estratégico o la famosa pirámide de Maslow sobre necesidades y motivaciones.

En todos los casos, la táctica es hacer modelos muy simples, reducir una realidad tremendamente compleja a representaciones simplificadas que nos permiten entender, analizar, clasificar y decidir cursos de acción más o menos genéricos. En cierto sentido, en su simplicidad reside precisamente su virtud.

Hoy día, con el explosivo auge de las tecnologías de la información, con el espectacular crecimiento de las capacidades de computación y con el desarrollo de algoritmos complejos de análisis y explotación de la información, se nos pueden estar abriendo posibilidades nuevas.

Red neuronal artificial

Existen un arsenal de técnicas, algunas novedosas, otras no tanto que, si bien precisan de unas capacidades computacionales elevadísimas, son capaces de proporcionar resultados fiables, basados en datos reales y con entradas complejas. Estaríamos hablando, desde técnicas más tradicionales como los modelos econométricos o las redes neuronales, a técnicas más modernas como el análisis de redes complejas o la explotación del denominado Big Data.

Al explosivo aumento de las capacidades de computación se une la ubicuidad de terminales que pueden actuar como sensores, en el sentido de servirnos como puntos de generación, recogida o medida de información. No es ya sólo la generalización del uso del ordenador personal, ni siquiera se trata sólo del espectacular aumento del uso de smartphones o tablets, que añaden a sus capacidades de procesamiento y comunicación, la posibilidad de geolocalización. Es que, a todo esto se añaden Terminales Punto de Venta, medios de pago, máquinas de check-in o vending y un sin fin de dispositivos que pueden recoger y transmitir información. El desarrollo del M2M, del Internet de las cosas, hace que, incluso, elementos y sensores que antes estaban fuera del flujo general de información, se unan a él. Se conjugan además, por un lado, la recolección de ingentes cantidades de datos de tipo numérico/objetivo mediante sensores y terminales, a la obtención de datos de comportamiento o preferencia mediante análisis de navegación, resultados de compras o interacciones sociales.

Arquitectura simple M2M de ETSI

¿Qué tenemos, pues? Tenemos tres cosas:

• Datos muy ricos y muy abundantes
• Grandes capacidades de computación
• Algoritmos capaces de analizar la complejidad y obtener conclusiones

En ese contexto ¿para qué necesitamos la simplificación? ¿Por qué recurrir a modelos simplificados y no apostar directamente por el análisis complejo?

Más o menos, esto es lo que se preguntan Mikael Krogerus y Roman Tschäppeler al final de su libro 'El pequeño libro de las grandes decisiones'. Se trata de un libro que, precisamente, recoge y explica brevemente, decenas de modelos simplificados, incluyendo varios de los citados en este artículo. En ese sentido, resulta paradójico que, justo al final, en el momento, digamos, de la despedida, se planteen este tipo de cuestiones. Sin embargo, la pregunta parece pertinente.

¿Cómo contestan los autores a la cuestión que ellos mismos plantean? Veámoslo:

"¿Esto quiere decir que usted puede olvidar todos los modelos que ha aprendido en este libro? No. La aplicación de los modelos de antaño no se debe susbestimar. Nos ayudan en un mundo caótico a ordenar, reducir y establecer puntos clave. Quienes sepan qué modelos emplear, aunque reflejen sólo una parte simplificada de la realidad, pueden sacar un buen provecho de ellos."

Creo que los modelos simplificados mantienen su valor en muchos aspectos.

En primer lugar, la capacidad humana de comprensión sigue siendo limitada, por lo que, en el ámbito del aprendizaje, la comunicación y la comprensión, siempre serán valiosos esos modelos simplificados.

Por otro lado, no existen, al menos actualmente, modelos y capacidades de cálculo para entender cualquier fenómeno. En aquellos ámbitos que por novedosos, por complejos o por cualquier otra razón, no existan modelos de predicción complejos, los modelos simplificados siempre darán un primer paso muy importante hacia la comprensión del fenómeno y el soporte a la decisión.

Finalmente, incluso existiendo modelos complejos de predicción, éstos pueden no estar a nuestro alcance en un momento o circunstancia dadas. En esas situaciones, un modelo sencillo siempre lo podremos llevar con nosotros. 

Big data

Por todo ello, las matrices estratégicas o, de forma más general, los modelos simplificados, conservan su valor. Eso no obsta para continuar desarrollando, adoptando y confiando de forma creciente en los modelos complejos basados en datos que, una vez refinados y maduros, parece que nos deben proporcionar diagnósticos, predicciones y propuestas mucho más confiables.

Como en tantos ámbitos, debemos elegir la herramienta, en este caso el modelo, más adecuado a la circunstancia.