El 7 de mayo de 2016, Joshua Brown, un emprendedor y entusiasta de la tecnología de 40 años de edad, residente en Canton, Ohio (EE.UU.), se encontraba al volante de su sedán Modelo S de Tesla cuando un semirremolque se cruzó en su camino al realizar un giro en la carretera. El Tesla, que tenía activada la prestación de conducción autónoma Autopilot, no detectó el semirremolque blanco contra el fondo del despejado cielo soleado de Florida (EE.UU.). El señor Brown tampoco accionó los frenos manualmente. Su Tesla chocó contra el semirremolque a una velocidad en torno a 118 kilómetros por hora. Brown murió casi al instante.

Más de 30.000 personas mueren cada año en accidentes de tráfico en Estados Unidos. En el 90% de los casos, la culpa es de un error humano. Por tanto, la mayoría de los expertos se muestran de acuerdo en que la tecnología de conducción autónoma reducirá el número de accidentes y muertes. Los coches autónomos, escribe Adrienne LaFrance en The Atlantic, podrían salvar hasta 1,5 millones de vidas tan sólo en Estados Unidos y casi 50 millones de vidas en el mundo durante los próximos 50 años. Pero según una encuesta de mayo de 2016 realizada por la Asociación Automovilística Estadounidense, el 75% de los encuestados afirmaron no estar preparados para dejarse llevar por un coche autónomo.

Conducir es una de las cosas más personales –y peligrosas– que hacemos. Es comprensible que la gente sea escéptica ante la idea de entregar las llaves a un algoritmo sin cara y limitarse a disfrutar del viaje. Cuando uno piensa en la palabra "algoritmo", podría imaginar un ordenador que realiza cálculos de acuerdo a una fórmula o sigue una secuencia de pasos preprogramados. Sin embargo, los algoritmos han avanzado mucho durante la última década: pueden ingerir datos, aprender de ellos y generar versiones más sofisticadas de sí mismos. Hasta pueden conducir un coche.

Dependemos de los algoritmos para muchas de nuestras decisiones y acciones, desde actividades sin apenas riesgo como decidir qué ver en Netflix o comprar en Amazon hasta decisiones importantes como invertir nuestros ahorros. Incluso nos parece bien que sea un piloto automático el que controle los aviones en que viajamos. Por eso, el escepticismo actual frente a los coches autónomos suscita una pregunta: ¿Por qué confiamos en los algoritmos en algunos casos, pero no en otros?

Nuestra confianza selectiva en los algoritmos

Los humanos no siempre somos reacios a los algoritmos. Una investigación realizada por uno de nosotros (Kartik) sobre los algoritmos de recomendaciones automáticas de productos -como "La gente que compró X también compró Y" en Amazon-, encontró que a la gente le gustan las recomendaciones algorítmicas y a menudo sigue su consejo. Por ejemplo, en un estudio realizado recientemente junto al profesor de la Universidad de Carnegie Mellon (EE.UU.), Dokyun Lee, asignamos de manera aleatoria consumidores a uno de los cinco principales minoristas en línea de Canadá y creamos dos grupos: uno recibiría recomendaciones de algoritmos, el otro no. Descubrimos que las recomendaciones con algoritmos aumentaron un 25% el número de productos vistos por los consumidores y un 35% el número de productos comprados.

En otra investigación pudimos comprobar que la influencia de los algoritmos de recomendación sobre las decisiones es mayor para productos hedónicos – caracterizados por un consumo orientado al placer (como películas, perfume, obras de arte)– que para productos funcionales cuyo consumo está motivado por una necesidad (como los clips, los lavavajillas y las aspiradoras).

En otro estudio, encontramos que incluso recomendaciones de producto generadas al azar fueron capaces de impulsar un modesto aumento de las compras cuando se etiquetaron como personalizadas. Puede que fuera un efecto placebo. Una encuesta tras el experimento reveló que la confianza de los consumidores en las recomendaciones aleatorias no era menor que si las ofrecía un motor de recomendaciones sofisticado y personalizado. Más allá de la compra de productos, la rápida expansión de "roboconsejeros" como Wealthfront Betterment demuestra que la gente está dispuesta a confiar en un algoritmo para las mismas decisiones importantes de inversión que antes preparaban humanos.

Aun así, existen importantes diferencias entre las recomendaciones de producto, la gestión de inversiones y los coches autónomos. Estas diferencias tienen que ver con el nivel de subjetividad del juicio, los tipos de usuarios a los que se dirigen estos sistemas y la capacidad de control del usuario sobre la toma de decisiones. La investigadora de la Universidad de California en Berkeley (EE.UU.) Jennifer Logg diseñó cuatro estudios para averiguar por qué a veces desconfiamos de los algoritmos a pesar de nuestra dependencia cada vez mayor de ellos. En el primer estudio, los participantes realizaron dos estimaciones del peso de una persona en una foto. La primera estimación se basaba en el juicio del propio participante. Para la segunda, se les proporcionaron consejos a los participantes: a algunos se les dio una estimación de otras personas y a otros se les presentó una estimación generada por un algoritmo. Logg pudo medir el grado en el cual los participantes se fiaron más del algoritmo que de otras personas en función de cómo cambiaron sus estimaciones entre la primera y la segunda respuesta.

Para las estimaciones y predicciones que tienen una respuesta correcta verificable –no sólo el peso de una persona, sino también preguntas como qué película tendría más éxito en taquilla o la probabilidad de un acontecimiento global determinado–, Logg averiguó que es más probable que las personas se fíen de los cálculos de un algoritmo que de los de otras personas. En otro estudio de la misma serie –en el que los participantes identificaron qué preguntas confiarían a un algoritmo en vez de a humanos–, Logg demostró que la gente confía más en los consejeros humanos que en los algoritmos para las decisiones más subjetivas. Que la gente confíe más en los algoritmos para decisiones objetivas y menos para decisiones subjetivas no sorprende. Sin embargo, Logg descubrió que la confianza en un algoritmo no depende solo de la cuestión entre manos, sino también de características personales: la gente con una capacidad algebraica mayor confió más en la estimación del algoritmo que las personas con menos habilidad para las números.

A pesar de que resulta difícil trasladar los resultados de Logg al caso de los coches autónomos, sí que apuntan una hipótesis interesante. ¿Puede ser que las personas se muestren más reacias a la conducción autónoma porque la consideran una experiencia subjetiva y personal? ¿Sería más prudente, en lugar de dirigirse a todo el mercado, promocionar la conducción autónoma antes entre las personas más familiarizadas con las matemáticas y la ciencia, y por tanto con la tecnología?

Por supuesto, la mayoría de los avances tecnológicos son adoptados primero por la élite científica y tecnológica. Estos usuarios pioneros permiten resolver los defectos y facilitan que el público masivo pueda comprender las nuevas tecnologías. No obstante, la magnitud del avance que suponen los coches autónomos –un reemplazo total del control humano por una máquina guiada por algoritmos– podría ser especialmente vulnerable frente obstáculos como el que acecha hoy a Tesla.

Considere los hallazgos descritos por nuestros compañeros de la Escuela de Negocios Wharton de la Universidad de Pensilvania (EEUU): Berkeley Dietvorst, Joseph Simmons, y Cade Massey. Su trabajo ha demostrado que la gente pierde confianza en los algoritmos mucho más que en los humanos cuando cometen el mismo error. Además, la gente presenta menos posibilidades de escoger un algoritmo frente a un humano incluso si el algoritmo había rendido mejor que el humano en general. En resumidas cuentas, no perdonamos demasiado los errores cometidos por algoritmos aunque nosotros cometamos los mismos con mayor frecuencia. Las implicaciones que supone son escalofriantes para los fabricantes y promotores involucrados en la conducción autónoma. La gente podría perder rápidamente la confianza en la tecnología si ocurren suficientes accidentes como el de Tesla sin importar que se demuestre que la tecnología, desde una perspectiva global, resulta más segura. Pocos accidentes mortales podrían poner al público en contra de los coches autónomos con gran rapidez. Los fabricantes deben valorar con cuidado cuándo y cómo introducir prestaciones de conducción autónoma.

Dietvorst, Simmons y Massey sí descubrieron algunas buenas noticias para los algoritmos que se equivocan. En otro estudio, los autores enuncian que los participantes aceptaban más los errores algorítmicos y optaban por escogerlos frente a un humano si tenían la opción de modificar sus previsiones. Durante la investigación, se pidió a los participantes que predijeran los resultados de un grupo de alumnos en pruebas estandarizadas a partir de nueve puntos de referencia.

Los participantes podían decidir en qué medida dependían de un algoritmo imperfecto. Las personas que podían modificar el algoritmo tenían muchas más probabilidades de depender de él que quienes no tenían esa posibilidad. La implicación para los coches autónomos es esperanzadora. Si las personas tienen la posibilidad de controlar algunos aspectos de la experiencia de conducir –como la velocidad o la ruta–, podría mostrarse más dispuestas a permitir que los coches se encarguen de la conducción. Por el contrario, eliminar por completo de la ecuación las decisiones personales, como Google y muchas automovilísticas piensan hacer, podría ser recibido con escepticismo entre los clientes.

A medida que maduren y se consoliden los avances de inteligencia artificial (IA) y aprendizaje profundo –una rama del aprendizaje de máquinas centrada en recrear el proceso natural de las neuronas cerebrales–, los algoritmos controlarán una parte cada vez mayor de nuestras vidas. Dicho esto, el escepticismo respecto al vehículo autónomo de Tesla no hace más que demostrar que la buena tecnología no garantiza el éxito de por sí. La IA y los algoritmos inteligentes tienen que introducirse de forma que se ganen la confianza de sus usuarios humanos.