Aerolito / Septiembre 2022

Trileros de la

mente

Sesgos, heurísticos y otros atajos del pensamiento

Scroll

Piensa mal y acertarás

¿Por qué el ruido de un tubo de escape y la palabra “tirador” pueden provocar una estampida de transeúntes en Nueva York? ¿Sabías que cuanto menos atractiva es una persona acusada de estafa, más posibilidades tiene de evitar la condena? El pódcast de Prodigioso Volcán que te guía por los túneles de la mente para conocer sus atajos… y sus fallos.

Escuchar pódcast

—Si la mente humana fuera un videojuego, los sesgos serían esos falsos atajos que te lo ponen difícil para pasar de nivel 

La racionalidad humana no tiene nada de perfecta: está configurada de forma que es funcional en ciertos contextos y disfuncional en otros. 

Cuando tomamos una decisión, no accedemos a toda la información disponible ni somos completamente imparciales, sino que estamos influidos por mecanismos mentales como los sesgos. A veces, estos nos ayudan a pensar más rápido, pero también nos llevan a cometer errores. 

Sesgos
Sesgos
Sesgos
Sesgos
Sesgos
Sesgos
Sesgos
Sesgos
Sesgos

¿Por qué importa?

separador diagonal

Porque podemos estar saboteando nuestras propias decisiones y proyectos pese a tener la mejor de las intenciones. Todo ello, en un momento en el que empieza a ser habitual delegar estas tareas en sistemas de inteligencia artificial. En los últimos años, el desarrollo de algoritmos que reproducen prejuicios y sesgos cognitivos ha hecho saltar las alarmas. El mundo profesional está cada vez más concienciado con la diversidad, la sostenibilidad y la inclusión, pero los sesgos —los nuestros y los de las máquinas— pueden ir en su contra incluso de manera inconsciente. 

01

¿En qué consiste?

separador diagonal

Los sesgos cognitivos son alteraciones de nuestra mente a la hora de procesar la información. Pueden conducir a nuestro cerebro a una conclusión incorrecta o una interpretación incoherente. Surgen cuando necesitamos actuar rápido, cuando hay demasiada información o no tenemos suficiente, o cuando nos vemos forzados a recordar.  Expertos como Massimo Piatelli —profesor de lingüística y ciencia cognitiva en la Universidad de Arizona— los han definido como los “túneles de la mente”, las alcantarillas ocultas bajo nuestra actividad cerebral.

02

¿Me debería preocupar?

separador diagonal

Ante todo, piensa en el impacto que pueden tener estas trampas de la mente a la hora de decidir. Si una persona no se cuestiona sus sesgos, puede terminar contratando perfiles de un mismo origen socioeconómico o diseñar un producto que se ajusta más a sus preferencias que a las del usuario final, por ejemplo. También afectarán a las relaciones entre los equipos, a la toma de decisiones de mercado y a los resultados que se obtengan en los test de usuario.

03

¿Qué puedo hacer?

separador diagonal

Conocerlos y tener una guía para identificarlos nos ayudará a detectar tendencias de comportamiento en consumidores y usuarios, pero también revelará los puntos ciegos en los que podemos caer como equipo u organización. Establecer una lista con los sesgos más comunes en función de tu actividad y sector puede ser un primer paso eficaz. 

04

Lo que hay que saber

Claves

—Para orientarte en los túneles de la mente

Contexto

El concepto de sesgo cognitivo fue acuñado por el psicólogo Daniel Kahneman en un artículo publicado junto a Amos Tversky en 1972, cuando se percataron de que las personas no podemos razonar de forma intuitiva con magnitudes muy grandes de información. 

Sin embargo, el economista Herbert Simon ya había allanado el camino años atrás. En 1947 publicó Comportamiento administrativo, donde hablaría por primera vez del modelo de racionalidad limitada, que plantea que las personas tomamos decisiones de forma parcialmente irracional a causa de nuestras limitaciones cognitivas, de información y de tiempo. 

Este modelo surgió como reacción a las teorías de la racionalidad, muy populares en ciencias políticas y económicas, que proponen que los humanos somos seres racionales que decidimos cuál es la solución óptima para cada problema utilizando todos los datos a nuestro alcance. Frente a la idea clásica del "hombre económico", Simon defendió la visión del “hombre administrativo”.

11

Millones de "piezas" de información por segundo. Es lo que el psicólogo social y profesor universitario Timothy Wilson estima que absorbe la mente humana mediante los sentidos. Sin embargo, solo somos capaces de procesar 40 de esas 11 millones. Lo cuenta en su libro Strangers to Ourselves: Discovering the Adaptive Unconscious (2002).

Hombre económico

Según las teorías de la racionalidad, los humanos somos seres racionales que decidimos cuál es la solución óptima para cada problema utilizando todos los datos a nuestro alcance.

Hombre administrativo

Frente al “hombre económico”, Herbert Simon defiende un modelo de racionalidad limitada, según el cual las personas tenemos más dificultades para captar la complejidad y particularidades del mundo. 

Ramas como la medicina, la psicología o las ciencias políticas empezaron a interesarse por los sesgos cognitivos. Así surgió la disciplina de la Economía conductual, que encumbraría a Kahneman tras ganar el Premio Nobel de Economía en el año 2002. Según Kahneman, nuestra forma de reaccionar racionalmente al medio tiene dos modalidades. 

Dos modalidades de juego

Pensamiento rápido o automático

Es el modo en el que trabajamos la mayor parte del tiempo: el cerebro reutiliza una biblioteca de rutinas de lenguaje, pensamiento y acción que han funcionado en el pasado. Como cuando en un deporte se automatizan las jugadas de manera que los deportistas no tengan que pararse a pensar cada vez. Es en ese contexto donde pueden surgir los sesgos, cuando intentamos ordenar y comprender el mundo de forma demasiado rápida a través de los instintos, experiencias previas y estereotipos. 

Pensamiento lento o reflexivo

Es una modalidad basada en reglas, analítica y muy controlada respecto a la intensidad de las emociones. Requiere de mucha atención e información para tomar decisiones y tiende a pensar más en probabilidades que en estereotipos. Por ejemplo, aprender a conducir, un tipo de aprendizaje que pasará al pensamiento rápido una vez se automatice. 

A qué nos enfrentamos

El trío calavera

Si vas a jugar en modo rápido tienes que saber que hay ciertos obstáculos que no te lo pondrán fácil para pasar de nivel. Quizá no sean aguas venenosas, lagos de lava o muros de ladrillo, pero son capaces de cegarte ante la propia realidad. 

Una postura subjetiva y consciente a favor o en contra de algo sin que existan argumentos suficientes para sustentar esta posición. Prejuicios que después trasladamos a nuestras sociedades, organizaciones e instituciones. Por ejemplo, el racismo o la discriminación socioeconómica.
Reglas generales y sencillas que usamos para resolver problemas y emitir juicios de manera rápida. Aunque a veces pueden ser útiles, estos atajos cognitivos producen desviaciones sistemáticas en el razonamiento y nos llevan a error. De hecho, los sesgos se dan mediante procesos heurísticos. Por ejemplo, pensar que si un producto es más caro será de mejor calidad.
Errores involuntarios y sistemáticos que derivan de la constitución de nuestra mente, nuestros razonamientos y nuestra forma de argumentar. Por ejemplo, cuando asumimos un precio de 9,99 euros como inferior a 10 euros pero la diferencia es prácticamente irrelevante a la hora de pagar.

¡Peligro!

Zona de atajos cognitivos

Un estudio realizado en 2015 por la Universidad Nacional del Sur (Argentina) identificó los heurísticos más comunes en la actividad empresarial de las pymes de la región de Bahía Blanca (Buenos Aires). Se trabajó con una metodología de panel de expertos: investigadores de dos universidades locales y referentes del mundo de las pymes definieron el nivel de presencia de cada heurístico. Se concluyó que los más observados son el de la disponibilidad, el de representatividad y el de la sobreconfianza.

Heurístico de la disponibilidad

La tendencia a pensar que si algo puede ser recordado debe ser importante. Las personas suelen inclinar sus juicios hacia la información más reciente o disponible, pensando que si es lo primero que nos viene a la mente se debe a la frecuencia o probabilidad con que ocurre. Por ejemplo, considerar más peligroso viajar en avión que en coche porque los accidentes aéreos tienen más cobertura mediática y los recordamos durante años.

Heurístico de la representatividad

Consiste en realizar juicios en la medida en que algunas situaciones se parecen a otras situaciones o categorías. Para ello hay que determinar si la persona, acción o suceso es representativo de una clase y, si se decide que lo es, se considerará probable que pertenezca a esa clase. Atribuir características a una persona nada más conocerla por cómo viste, por ejemplo. 

Heurístico de la sobreconfianza

Se da cuando una persona confía más en sus propios conocimientos y habilidades para tomar decisiones de lo que debería desde un punto de vista objetivo y de lo que confiaría en otras personas en las mismas circunstancias. Por ejemplo, cuando un político asegura que va a resolver un problema estructural que sus antecesores han sido incapaces de gestionar. 

1-UP: vidas extra

Un poco de autocrítica y perspectiva transversal para ser más imparcial, eficaz e inclusivo en cualquier proyecto en el que te embarques. Un kit de supervivencia contra los sesgos, tanto para organizaciones como profesionales a título individual.

01
Reconoce e identifica las cegueras

Creer que no estamos sesgados es la primera venda de la que debemos desprendernos. Todos caemos en los sesgos, sobre todo cuando estamos cansados, estresados o resolviendo varias tareas a la vez. Aceptarlo es el primer paso para identificarlos, entender de dónde vienen y poder evitarlos.

02
Piensa en ti (con ojo crítico)

Identifica los patrones de comportamiento en los que estás más cómodo, aquellas situaciones donde tiendes a cometer errores, si estás implicado emocionalmente en una decisión o qué perfiles de personas te cuesta tratar. Por ejemplo, si sabes que eres demasiado cauto o que sueles ignorar las opiniones expertas y confiar excesivamente en la intuición.

03
Apóyate en los hechos

Busca datos e informaciones y asegúrate de hacer un análisis preciso y racional de cada situación. Tendemos a pasar por alto lo que no está a la vista, por lo que es importante tener disponible toda la información necesaria. Presentar alternativas creíbles también es una buena fórmula frente a soluciones únicas y aparentemente “infalibles”. 

04
Incluye miradas diversas

Un equipo compuesto por diferentes experiencias y valores será una excelente herramienta para lidiar con los sesgos subjetivos, sobre todo si hay emociones o valores en conflicto. Se puede contar incluso con la visión del consumidor real —mediante test de usuario— o de los clientes. 

05
Escucha las voces externas

Es fundamental incorporar el criterio de personas que no hayan trabajado en el proyecto de manera tan profunda, pues aportarán frescura, realismo —clave contra el sesgo de la sobreconfianza o estimaciones demasiado optimistas alentadas por éxitos anteriores— y un nuevo ángulo. 

06
Apuesta por una arquitectura antisesgos

Generar un ambiente profesional adecuado para el procesamiento de la información y la toma de decisiones puede ser una apuesta radical contra los sesgos. Además, permitirá delegar con mayor facilidad cuando alguien reconozca su propia incapacidad para tomar la decisión de manera objetiva. Combatir los sesgos a nivel estructural puede pasar por identificar los errores sistemáticos que se cometen, precisar las causas y comportamientos que se esconden tras ellos y finalmente rediseñar el contexto en el que se toman decisiones a nivel corporativo. 

Seguro antisesgos

¿Quieres detectar posibles sesgos que puedan interferir en el resultado de tus proyectos?

Haz este cuestionario

¿Y después?

El objetivo tanto de organizaciones como de personas debería ser evitar los puntos ciegos de su racionalidad limitada y trabajar para que la inteligencia artificial (IA) no reproduzca los sesgos de aquellos que la entrenan. 

A finales de 2017, Amazon protagonizó un sonado caso de sesgo algorítmico: un intento de automatizar la contratación de personal resultó en la discriminación de mujeres a la hora de seleccionar candidatos. La IA había sido entrenada para identificar los perfiles deseables entre los empleados de Amazon. La mayoría eran hombres, así que el modelo entendió que eran preferibles los candidatos masculinos y que lo relacionado con las mujeres era negativo. Sus recomendaciones iban a perpetuar un sesgo existente en la empresa, y no fue un caso aislado. 

La inteligencia artificial ya está presente en nuestras vidas, pero muchas veces se entrena con datos que reproducen prejuicios sociales o que son excluyentes a nivel identitario (racial, de nivel de estudios, de género…). Además, más allá de los datos sesgados, habrá que afrontar el problema también en otros estadios del proceso: a la hora de determinar el objetivo con el que se crea ese modelo o de decidir qué atributos debe considerar, por ejemplo.

Sesgos humanos en la IA

a. Sesgo de selección
El  conjunto de datos de entrenamiento no es representativo del conjunto de datos total sobre el que aplicaremos realmente el sistema.
Se realiza una encuesta a jóvenes universitarios para diseñar un nuevo bono cultural para todos los menores de 25 años. Los jóvenes no universitarios, futuros usuarios también del bono, quedan excluidos de la encuesta.
Creamos un asistente de voz para que se venda en toda España, pero lo entrenamos únicamente con muestras de audio de personas que hablan en el español de la meseta. Un usuario con acento andaluz, catalán o canario encontrará dificultades en el reconocimiento de voz.
b. Sesgo del observador
Interpretamos los resultados de los modelos y seleccionamos los datos basándonos en nuestras propias creencias o expectativas. Puede ser deliberado o no deliberado.
Realizamos una investigación sobre el uso de la memoria en estudiantes universitarios y seleccionamos únicamente a estudiantes de carreras de humanidades. Nuestra creencia inexacta de que en las carreras de ciencias no hay suficiente memorización de contenidos ha sesgado la muestra desde el inicio.
Utilizamos un modelo de clustering para identificar grupos de conversación en Twitter. En uno de ellos aparecen palabras relativas al cambio climático, y en otro, menciones a la tauromaquia. El analista de datos los atribuye directamente a comunidades activistas, cuando puede tratarse de grupos de noticias neutras o de aficionados taurinos.
c. Sesgo de prejuicio
Los  datos históricos contienen estereotipos que existen en la sociedad o que existían en el momento de la recolección de los datos.
Una  niña de 4 años ha visto a todas las mujeres cercanas a ella ser profesoras,  enfermeras o cantantes. Cuando le pregunten qué quiere ser de mayor, es  probable que sus opciones estén limitadas a las profesiones que ha observado  en las mujeres de su entorno, generándose así en adelante un sesgo de prejuicio.
Un algoritmo de traducción automática inglés-español traduce siempre “the doctor said” por “el doctor dijo”. En el conjunto de entrenamiento, la palabra doctor aparece traducida un mayor número de veces en masculino que en femenino, por lo que el algoritmo aplica la opción estadísticamente más común, perpetuando antiguos estereotipos laborales.
d. Sesgo de supervivencia
Nos centramos en los individuos que sobrevivieron a un determinado proceso, excluyendo a aquellos que quedaron en el camino. Produce un exceso de optimismo.
Las personas que se niegan a vacunarse por miedo a los efectos secundarios ponen como ejemplo a personas no vacunadas que están sanas, pero no tienen en cuenta a personas que no sobrevivieron por no haberse vacunado.
Entrenamos un modelo que predice qué pacientes van a evolucionar de infección leve a infección grave solo con datos de pacientes vivos. Las predicciones estarán sesgadas, porque no se tendrán en cuenta los datos e historias clínicas de las personas que evolucionaron a infección grave y fallecieron.
e. Sesgo de confirmación
Tomamos como cierta la respuesta de un modelo de aprendizaje automático porque está alineada con nuestras creencias o expectativas.
Buscamos consejos de inversión y opiniones que confirman decisiones financieras que ya hemos tomado, ignorando o dando menos crédito a aquellas que no las confirman.
A  partir de datos históricos, un modelo predictivo devuelve las 20 tiendas de una marca en las que es más probable que aumenten las ventas en el próximo año. Sin embargo, estos datos solo se toman en serio si coinciden con las tiendas que la marca ya considera históricamente más exitosas en ventas.

No caigas en la trampa

Los atajos siempre son atractivos. Y, cuando se trata de la mente, no es fácil ignorar sus encantos. Para pasarte el juego tendrás que demostrar autoconocimiento, perspectiva y ojo crítico. Parece poca cosa, pero adentrarse en los túneles del pensamiento humano es toda una aventura. 

¿Quieres saber más sobre sesgos y psicología del comportamiento? También puedes escribirnos para echar una partidita. Nos encantan los videojuegos.

Hablemos

¿Quieres saber más sobre desarrollo para dummies y cómo acercarte a la programación? ¿O sobre cualquier otra cosa? Nos encantan las manualidades.

Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.