EscucharMuchas compañías han saltado al vagón de los “datos masivos”. Están contratando científicos de datos, haciendo minería de datos de empleados y consumidores en busca de conocimientos y creando algoritmos para optimizar sus recomendaciones. Sin embargo, estas mismas compañías suelen asumir que los consumidores están recelosos de sus algoritmos, y se esfuerzan mucho por humanizarlos.
Por ejemplo, Stitch Fix, el servicio de subscripción para compras en línea, que combina juicios humanos y algorítmicos, destaca en su marketing el toque humano del servicio. El sitio web explica que, para cada consumidor, un asesor de moda elegirá cinco piezas [de ropa]. Se refiere al servicio como “tu socio en estilo personal”. Para completar, una nota de su asesor acompaña cada envío de ropa. En ningún lugar del sitio encontrará el término “impulsado por datos”, incluso aunque Stitch Fix es reconocido por su enfoque de ciencia de datos y suele ser conocido como el “Netflix de la moda”.
Parece que cuanto más las compañías esperan que los usuarios se involucren con su producto o servicio, más antropomorfizan sus algoritmos. Considere la forma en que las compañías nombran a sus asistentes virtuales como Siri y Alexa. Sin embargo, ¿es una buena práctica que las compañías disfracen sus algoritmos de este modo? ¿Por qué estamos tan seguros de que las personas rechazan a los algoritmos y sus consejos? Nuestra investigación reciente desafió esta suposición.
El poder de los algoritmos
Primero, algo de antecedentes. Desde la década de 1950, los investigadores han documentado los muchos tipos de predicciones en los que los algoritmos superan a los humanos. Los algoritmos vencieron a los doctores y patólogos para predecir la sobrevivencia de pacientes de cáncer, la ocurrencia de ataques cardiacos y la severidad de las enfermedades. Además, predicen si es que un negocio irá a la bancarrota con mejor tino que los funcionarios que otorgan préstamos.
De acuerdo con las anécdotas de un libro clásico respecto a la exactitud de los algoritmos, muchos de estos hallazgos iniciales fueron recibidos con escepticismo. Los expertos en la década de 1950 se resistían a creer que un simple cálculo matemático pudiera superar su juicio profesional. Este escepticismo persistió y se transformó en la creencia de que las personas no confiarán y no usarán los consejos de un algoritmo. Esta es una razón por la que todavía en la actualidad muchos artículos aconsejan a los líderes empresariales sobre cómo superar su aversión a los algoritmos.
¿Vemos con desconfianza los algoritmos?
En nuestra investigación reciente, encontramos que a las personas no les desagradan los algoritmos tanto como los estudios previos nos hubieran hecho creer. De hecho, las personas muestran “aprecio por los algoritmos” y siguen más a los mismos consejos cuando creen que provienen de un algoritmo que cuando vienen de una persona. A través de seis estudios, invitamos a muestras representativas de 1.260 participantes en línea, en los Estados Unidos, a que hicieran una variedad de predicciones. En un estudio le pedimos a las personas predecir las probabilidades de eventos empresariales y geopolíticos (por ejemplo, la probabilidad de que Estados Unidos o la Unión Europea le impusiera sanciones a un país en respuesta a ciberataques).
En todos nuestros estudios a los participantes se les pidió realizar una predicción numérica, basada en su mejor cálculo. Después de la predicción inicial, recibieron consejos y tuvieron la oportunidad de revisar su cálculo. Por ejemplo, los participantes respondieron a “¿Cuál es la probabilidad de que Tesla Motors le entregue a los consumidores más de 80.000 vehículos eléctricos impulsados por baterías en el año calendario del 2016?” escribiendo un porcentaje de 0% a 100%.
Cuando los participantes recibieron consejos, provinieron en forma de otra predicción, que fue etiquetada ya sea como la de otra persona o como la de un algoritmo. Producimos el consejo numérico usando matemáticas simples que combinaban múltiples juicios humanos. Hacerlo nos permitió presentar verdaderamente el mismo consejo como “humano” y “algorítmico”. Incentivamos a los participantes a revisar sus predicciones, cuanto más cerca estuviera la predicción de la respuesta correcta, tendrían mayores posibilidades de recibir un bono en dinero.
A continuación, medimos qué tanto las personas cambiaron su estimado después de recibir el consejo. Para cada participante, capturamos un porcentaje de 0% a 100% para reflejar cuánto él o ella cambiaron su cálculo respecto al original. Específicamente, 0% significa que descartaron completamente el consejo y se aferraron al estimado inicial, 50% significa que cambiaron su estimado para acercarse hacia el consejo y 100% que se ajustaron completamente a lo que dijo el consejo.
Para nuestra sorpresa, encontramos que las personas confiaron más en el mismo consejo cuando pensaron que provenía de un algoritmo que cuando lo creían resultado de otras personas. Nos preguntamos si estos resultados se debían a la creciente familiaridad de las personas con los algoritmos. De ser así, la edad podría corresponder a la apertura de las personas al consejo algorítmico. En lugar de ello, encontramos que la edad de los participantes no influyó en su disposición a confiar en el algoritmo. En nuestros estudios, las personas de mayor edad usaron el consejo algorítmico tanto como los jóvenes. Lo que sí importó es cuán cómodos estuvieran los participantes con los números en sí mismos, lo que medimos al pedirles tomar un examen de aritmética. Cuanto más preguntas de matemáticas contestó correctamente un participante, más tendió a escuchar el consejo algorítmico.
También analizamos si la fe en el conocimiento propio podría evitar que una persona apreciara los algoritmos. Cuando los participantes tuvieron que elegir entre confiar en un algoritmo o en los consejos de otra persona, nuevamente encontramos que prefirieron al algoritmo. Sin embargo, cuando la decisión fue entre basarse en su propio juicio o en el consejo del algoritmo, la popularidad de este último declinó. Las personas parecen apreciar más a los algoritmos cuando están eligiendo entre el juicio de estos y el de otra persona, que cuando eligen entre el juicio del algoritmo y el de ellas mismas.
Otros investigadores han encontrado que el contexto de la toma de decisiones es importante respecto a cómo las personas responden a los algoritmos. Por ejemplo, un estudio encontró que cuando las personas ven que un algoritmo se equivoca, tienden a confiar menos en él, lo que afecta su propia exactitud. Otros investigadores encontraron que las personas prefieren recibir recomendaciones de chistes por parte de un amigo cercano que de un algoritmo, incluso aunque el algoritmo hace un mejor trabajo. Otro estudio encontró que las personas tienden menos a confiar en el consejo de un algoritmo cuando se trata de decisiones morales acerca de vehículos autónomos y de medicina.
Nuestros estudios muestran que las personas suelen sentirse cómodas aceptando consejos de los algoritmos, y algunas veces incluso confían en ellos más que en otras personas. Ello no implica que los consumidores no aprecien algunas veces el toque humano, pero sí sugiere que podría no ser necesario invertir en enfatizar el elemento humano de un proceso basado en algoritmos.
La transparencia podría valer la pena. Quizá compañías como Netflix, que se presentan como principalmente impulsadas por algoritmos, tienen la idea correcta.
Jennifer M. Logg es académica postdoctoral en Harvard University. Julia A. Minson es profesora asistente de política pública en la Harvard Kennedy School of government. Don A. Moore ocupa la cátedra Lorraine Tyson Mitchell en liderazgo en la Haas School of Business de la University of California, Berkeley.
