En que consiste el "sesgo de automatización" que nos hace confiar en las máquinas
Muchos pueden afirmar ser escépticas respecto a la tecnología autónoma, pero podríamos tener una confianza arraigada en las máquinas que se remonta a nuestro pasado evolutivo.
Nuestra confianza en que la hora que nos da el reloj es la correcta o que los frenos del auto siempre funcionarán adecuadamente, tienen un origen, conocido como sesgo de automatización, que a veces también conduce a la complacencia de la automatización, donde las personas son menos capaces de detectar fallas cuando una computadora está ejecutando el programa. Pero lo que quizás sea sorprendente es que nuestra tendencia a "confiar demasiado" en la maquinaria tal vez esté directamente influenciada por millones de años de evolución.
"La confianza excesiva en la tecnología es un error de proporciones asombrosas", escribe Patricia Hardré, de la Universidad de Oklahoma, en un capítulo de un libro sobre por qué a veces confiamos demasiado en las máquinas.
Ella argumenta que las personas generalmente carecen de la capacidad de juzgar qué tan confiable es una tecnología específica. En realidad, esto puede ser en ambos sentidos. Podríamos rechazar la ayuda de una computadora en situaciones en las que nos beneficiaría, o confiar ciegamente en un dispositivo de este tipo, solo para que termine dañándonos a nosotros o a nuestros medios de vida.
El comportamiento de uno de nuestros parientes más cercanos, el chimpancé, puede contener una pista sobre por qué somos tan malos para evaluar la confiabilidad de las máquinas. Podría deberse a que estamos preparados para evaluar a otros miembros de nuestra especie, explica un informe de la BBC.
En un experimento reciente , los investigadores instalaron un aparato en el que los chimpancés en un santuario en Kenia podían tirar de una cuerda para recuperar una recompensa de comida. Una cuerda ofrecía una recompensa básica de comida: una pieza de plátano. Pero también se les presentó una segunda opción: una recompensa mayor de dos pedazos de plátano y una rodaja de manzana que podrían ser servidos por una máquina o por un compañero chimpancé.
A veces era la máquina en el otro extremo de la cuerda, otras veces era otro chimpancé, pero nunca ambos. Sin embargo, a veces la máquina no entregaba la recompensa y, a veces, el otro chimpancé optaba por no compartir. Entonces, si bien había una recompensa potencialmente mayor, era una elección menos segura tirar de la segunda cuerda.
El participante chimpancé se enfrentó así a una condición social o no social. Tendrían que confiar en la máquina o en el otro chimpancé para tener la oportunidad de obtener una recompensa de comida mayor.
El estudio encontró que, cuando un compañero chimpancé presidía la opción incierta, era menos probable que los primates la eligieran. Se negaron a participar en las pruebas sociales el 12% del tiempo, pero solo mostraron esta aversión el 4% del tiempo en las pruebas no sociales donde una máquina presidía la recompensa. En otras palabras, tenían una mayor confianza en la máquina.
"Dudaron mucho más ... cuando el compañero era otro chimpancé", dice Lou Haux del Instituto Max Planck para el Desarrollo Humano, quien diseñó y dirigió el experimento con sus colegas. Es uno de los pocos estudios que revelan que el riesgo social juega un papel importante en la forma en que los chimpancés y los humanos navegan por el mundo.
Se llama "aversión a la traición", dice Haux: "El miedo a ser engañado por otro humano [o chimpancé], que se cree que causa emociones más fuertes". Ella compara esto con poner dinero en una máquina expendedora solo para que no pueda dispensar el refresco que solicitó.
Eso podría provocar irritación, sin duda, pero imagina cómo te sentirías si un mozo tomara tu dinero en efectivo y luego procediera a beber tu bebida justo en frente de ti. Probablemente estarías descolocado. Por supuesto, la máquina expendedora no tomó la decisión de engañarlo, simplemente no cumplió, mientras que el cantinero decidió beber su pedido a pesar de saber cómo podría hacerlo sentir.
Sin embargo, el equipo de investigación no se detuvo allí. Continuaron realizando otro experimento con chimpancés que ya habían comprendido la probabilidad de que obtuvieran una mejor recompensa alimentaria al seleccionar la opción incierta, gracias a haber participado en el primer experimento. La opción incierta, en verdad, ya no era completamente incierta: los chimpancés ahora tenían una idea del tipo de riesgo que estaban tomando.
Y fue entonces cuando surgió una sorpresa. Los chimpancés dejaron de discriminar entre las opciones sociales y no sociales; ya no parecían confiar más en la máquina que en el compañero chimpancé.
"Por eso creemos que es un hallazgo emocionante, que distinguen entre el mundo social y el mundo no social en los casos en los que todavía hay mucha incertidumbre", dice Haux.
Tiene sentido cuando se piensa en lo importante que es para los primates negociar su entorno social, dice Darby Proctor, psicólogo del Instituto de Tecnología de Florida.
"Con una máquina, no hay implicaciones futuras", explica. "No tiene ese costo social potencial adicional". Después de todo, los chimpancés en estos experimentos a menudo tienen que ir y pasar tiempo con sus compañeros participantes una vez finalizado el experimento; cualquier disgusto causado por participar podría tener consecuencias futuras para sus relaciones.
Proctor y sus colegas realizaron previamente pruebas similares y también encontraron que los chimpancés eran más propensos a confiar en los objetos en la búsqueda de recompensas alimenticias que en otros chimpancés. Proctor menciona que cuando uno de los primates fue aparentemente defraudado por otro chimpancé que no pudo dar una buena recompensa de comida, el chimpancé abatido dio a conocer sus sentimientos escupiendo agua a su pareja. "Una muestra común de infelicidad", dice Proctor.
Proctor cuestiona si los chimpancés de estos experimentos realmente confiaban más en las máquinas. También podría describirse como personas que simplemente tienen una reacción más silenciosa ante un mal trato cuando un interlocutor social no está involucrado.
"No es que tengamos confianza en que la máquina nos dará un buen pago, puede ser que no lo veamos como emocionalmente importante, por lo que podríamos estar más inclinados a apostar o tomar riesgos con este objeto inanimado", dijo. hipótesis.
Pero de cualquier manera, la evolución parece haber influido en la voluntad de los primates de enfrentarse a la incertidumbre, en función de si sentimos que estamos asumiendo un riesgo social o no.
La evolución no nos ha preparado realmente para el hecho de que puede ser bastante costoso ser traicionado por una máquina, sostiene Francesca de Petrillo del Instituto de Estudios Avanzados de Toulouse, que estudia primates. Durante millones de años, no hubo necesidad de desarrollar la capacidad de evaluar las máquinas con tanto cuidado como evaluamos a los miembros de la misma especie. Pero hoy, cuando la tecnología puede tener un gran impacto en la vida de las personas, podría decirse que sí.
Hay otros factores involucrados aquí. Dejando a un lado la evolución, nuestra disposición a confiar en la tecnología también se ve influenciada por el conocimiento personal sobre una máquina o dispositivo y las expectativas culturales.
Un estudio de 2019 encontró que las personas tenían, en promedio, un 29% más de probabilidades de revelar los detalles de su tarjeta de crédito durante un chat de texto si pensaban que estaban hablando con una computadora que con otro ser humano. Los investigadores encontraron que este efecto era aún más pronunciado entre aquellos que tenían una expectativa preexistente de que las máquinas eran más seguras o confiables que los humanos.
Por otra parte, a veces las personas manifiestan una fuerte aversión a confiar en la tecnología. Muchas encuestas han sugerido que las personas a menudo se sienten incómodas con la idea de vehículos autónomos o traspasar responsabilidades laborales a las máquinas. Hay muchas razones por las que pueden afianzarse las sospechas sobre las nuevas tecnologías.
La gente puede temer perder una parte de su identidad si un autómata se hace cargo. O simplemente pueden sentirse escépticos de que una computadora aborde ciertas tareas con la precaución y la destreza necesarias. Cuando ha visto un centenar de videos de robots que se caen , o ha experimentado una computadora obstinada que se niega a funcionar correctamente, no es necesariamente sorprendente.