El software no siempre resulta la panacea productiva que promete ser. Como las víctimas de PowerPoint saben muy bien, un mal uso del software de presentación puede arrebatarle la vida a las reuniones.
Entonces, ¿qué vuelve tan confiados a los promotores de la inteligencia artificial (IA) y el aprendizaje de las máquinas (AM) de que sus tecnologías serán inmunes a resultados comparativamente contraproducentes? El empoderamiento digital lleva muchas veces al abuso y la mala administración organizacional. Para demasiados directivos, los costos de la tecnología suelen rivalizar con sus beneficios.
Es precisamente porque se supone que las plataformas de aprendizaje de las máquinas y de inteligencia artificial son “inteligentes” que plantean riesgos organizacionales singularmente desafiantes. Tienden más a inspirar falsa confianza en sus hallazgos; a amplificar los prejuicios basados en información y a reforzar las fallas humanas de las personas que las despliegan.
El problema no es que estas tecnologías innovadoras no funcionen, es que los usuarios podrían inadvertidamente hacer elecciones que afecten a sus colegas y consumidores. Nadie quiere producir presentaciones aburridas que desperdicien el tiempo de la gente, pero lo hacen. Nadie quiere entrenar algoritmos de aprendizaje de las máquinas que produzcan predicciones engañosas, pero lo harán.
Los prejuicios intrínsecos pueden encontrarse siempre que se toman decisiones importantes con base en datos. Incluso pudieran existir sesgos a la hora de detectar prejuicios. En otras palabras, no podemos escapar a la realidad de que el aprendizaje de las máquinas siempre coexiste con debilidades humanas. La pregunta más difícil es: ¿quién va a guiar sustentablemente la tecnología hacia el éxito?
Considere los dos modos de IA/AM que tienen más probabilidades de dominar las iniciativas empresariales:
IA/AM ACTIVO: Las personas determinan directamente el rol de la inteligencia artificial o el aprendizaje de las máquinas para hacer el trabajo. Los humanos están a cargo.
IA/AM PASIVO: Los algoritmos determinan mayormente los parámetros y procesos que usan las personas para hacer el trabajo. El software está a cargo.
Mientras que el aprendizaje activo de las máquinas hace que las personas las entrenen, el aprendizaje pasivo hace que las máquinas entrenen a las personas. Con el ascenso de los datos masivos y el surgimiento de software más inteligente, esta dualidad se volverá una de las mayores oportunidades -y riesgos- estratégicos que enfrenten los liderazgos a nivel mundial.
Los sistemas activos de IA/AM tienen el potencial para proliferar digitalmente las patologías de productividad asociadas con el software ya existente de presentaciones, hojas de cálculo y comunicaciones. A individuos con entrenamiento y conocimiento relativamente limitado de sus herramientas, se les está diciendo que las usen para hacer su trabajo. Sin embargo, la mayoría de las empresas tienen pocos mecanismos confiables para asegurar o mejorar la calidad. Por lo tanto, a pesar de la avanzada tecnología, las presentaciones y hojas de cálculo siguen desperdiciando tiempo.
Del mismo modo en que esas herramientas convirtieron a trabajadores del conocimiento en presentadores y analistas financieros amateurs, la actual democratización del aprendizaje de las máquinas los invita a convertirse en científicos de datos aficionados. Sin embargo, ¿qué tan sustentable será esto?
Ciertamente, surgirán talentosos usuarios de poder, pero en general, las ineficiencias, oportunidades desperdiciadas y errores que podrían resultar tienen el potencial de ser impactantes.
Entre más recursos de información posea una empresa, más supervisión necesitarán la IA y el AM activos.
Por otra parte, la IA y AM pasivos presentan una diferente sensibilidad de diseño y plantean otros riesgos. Este software actúa como gerente e instructor, definiendo metas y líneas a seguir, mientras ofrece consejos basados en datos para hacer el trabajo. La promesa de productividad personal es atractiva: textos y correos electrónicos escriben sus propias respuestas; las agendas diarias se reorganizan cuando a usted se le hace tarde; las presentaciones se vuelven más animadas. Los innovadores de software empresarial, desde Microsoft hasta Slack, buscan hacer más inteligente su software con algoritmos que aprenden de los usuarios. Entonces, ¿Cuál es el problema?
El riesgo más obvio, por supuesto, es si este software más inteligente verdaderamente le da a las personas los órdenes correctas -un tema que la alta gerencia debería tener firmemente bajo control. El riesgo más sutil y subversivo es que la IA/AM pasiva depende demasiado del cumplimiento humano. Es decir, para que tenga éxito requiere que los trabajadores estén al servicio de la IA. Éste des-empoderamiento por diseño podría provocar resistencia de los empleados. Por ejemplo, un representante de servicio a clientes podría decirle a un consumidor descontento, “me encantaría ayudarte, pero el software me prohíbe dar cualquier clase de reembolso.”
Aunque no hay una solución a los desafíos de la IA y el AM, hay enfoques que logran un balance saludable entre riesgos y oportunidades. Las organizaciones más exitosas asumirán una “gobernanza de datos” y contratarán a los mejores científicos de datos que puedan. Sin embargo, cultural y operacionalmente, necesitarán aplicar tres iniciativas interrelacionadas para mitigar riesgos.
1. Redactar una declaración de inteligencia de las máquinas. Esta declaración definiría y articularía principios relacionados a cómo la organización espera usar algoritmos inteligentes para impulsar el desempeño de la productividad. El documento busca darle a los directivos y trabajadores una idea más clara de qué tareas respaldará la AI/ML y cuáles automatizará.
2. Emplear una radical transparencia de archivo. Revisión, verificación y validación son principios esenciales en los entornos de empresa ricos en datos e IA/AM. Compartir ideas, información y modelos debería ser una mejor práctica. Las grandes corporaciones usan cada vez más repositorios que alientan a las personas y equipos a poner sus modelos y series de datos a revisión. La aspiración es expandir la conciencia a nivel de empresa sin limitar la iniciativa desde abajo.
3. Crear un mapa de compensaciones. La ciencia de los datos, la inteligencia artificial y el aprendizaje de las máquinas son campos innovadores que evolucionan rápidamente. Conforme las organizaciones tradicionales recurren a los datos, el aprendizaje de máquinas y las plataformas digitales para transformarse, sus rutas sugerirán dónde los directivos consideran que las inversiones en IA/AM activo serán más valiosas que las pasivas. Por ejemplo, los sistemas de IA/AM orientados al consumidor podrían ameritar diferente talento y compensaciones que se enfoquen en la eficiencia de los procesos internos.
Los líderes que son serios acerca de encabezar las formaciones de inteligencia artificial y aprendizaje de las máquinas están invirtiendo no sólo en innovadora pericia técnica, sino también en nuevas capacidades organizacionales. Mientras lo hacen, necesitarán tener mucho cuidado de no recrear los errores de productividad del pasado.
Michael Schrage es investigador en el Center for Digital Business de la Sloan School en el Massachusetts Institute of Technology.
