Los sistemas, los algoritmos y los datos son fabricados, modelados y visualizados por personas y, como ellas, arrastran sesgos que deben evitarse en toda empresa que se apoye en la inteligencia artificial (IA).
“La IA está cambiando la manera de ejecutar negocios, dando más certeza operativa y reduciendo considerablemente los tiempos en los procesos de toma de decisiones, generando valor agregado y ventajas competitivas cuando es usada de forma apropiada y libre de sesgos”, advirtió David Quirós, gerente de proyectos de Novacomp y miembro de la comisión de Big Data del Colegio de Profesionales en Informática y Computación.
La aplicación de la IA (y de sus derivaciones aprendizaje de máquina, aprendizaje profundo y procesamiento de lenguaje natural) se aprovechan en varias industrias como banca y tecnofinancieras (fintech), seguros, salud, energía, minería, telecomunicaciones y manufactura, apoyándose sistemas de manejo de grandes volúmenes de datos e Internet de las cosas (IoT).
En la industria farmacéutica permite desde principios el 2020 avanzar en las investigaciones relacionadas con la COVID-19 y el desarrollo de las vacunas, mientras en el sector agropecuario (utilizando sensores, GPS, drones, robots y maquinaria inteligente) se desarrollan soluciones para decisiones de siembra, manejo de plagas, cosecha y gestión de inventarios.
La industria tecnológica destaca que la IA se puede aplicar en cualquier sector y todo tipo de empresas con aplicaciones que pueden utilizarse a través de la nube. Además, se disminuyen los riesgos de errores sistemáticos en las operaciones rutinarias, se optimizan varidad de procesos en forma simultánea y se customizan servicios gracias al poder de computación.
La IA se aplica en la atención de clientes, ventas, cobro, prevención de fraudes y lavado, soluciones de pago y gestión (contabilidad, finanzas, mercadeo, logística y producción) permitiendo respuestas inmediatas, mejoras de la percepción del servicio, reducción de costos, optimización de procesos, mejoras en el consumo por cliente y aumento del valor en el ciclo de vida de compra.
“Las empresas pueden saber cuál es el momento idóneo para colocar un determinado producto o servicio, de forma granular y personalizada y con las mayores probabilidades de éxito”, dijo Carlos Portocarrero, consultor de GBM.
De la promesa a la realidad hay, empero, una brecha. Un reporte de Boston Consulting Group halló que más del 70% de los 3.000 gerentes, de 29 industrias en 112 países consultados, consideran que la IA es una oportunidad. Sin embargo, solamente el 10% de las empresas logran importantes beneficios financieros.
La firma también encontró que la mayoría de las empresas (55%) sobreestima la madurez de sus programas de Inteligencia Artificial Responsable (RAI), que se basa en valores éticos y sociales con un enfoque centrado en el ser humano. Menos de la mitad de las que implementan este tipo de iniciativas afirma tener éxito.
Según IDC para el 2021 se estima que la inversión en IA y otras tecnologías cognitivas alcanzará $50.000 millones a nivel global. Una gran cantidad de las empresas lo hacen para ponerse al día y poder competir contra los rivales que ya se adelantaron.
| Menú de ideas |
|---|
| La inteligencia artificial y aprendizaje automático pueden utilizarse para: |
| Análisis de imágenes y videos, convertir texto a voz y de voz a texto, crear conversaciones, traducir el idioma de los textos y comprender las relaciones y encontrar información en el texto. |
| En centros de llamadas para utilizar robots inteligentes de voz y chats, análisis de sentimiento de voz, asistencia de asistentes y análisis de datos de llamadas en vivo, análisis de datos posteriores a la llamada y personalización de la interacción de cada cliente. |
| Extraer texto y datos de documentos, como solicitudes de préstamo y formularios médicos, sin esfuerzo manual. |
| Mantenimiento predictivo de los equipos y vehículos. el cual da a las empresas la capacidad de prever cuándo se necesitará revisar y realizar ajustes, así como para detectar y alertar a las empresas de fluctuaciones anormales en la vibración o la temperatura de la maquinaria. |
| Optimización de la cadena de suministro para garantizar una mayor disponibilidad de recursos y productos, entregar los productos más rápidamente y reducir los costes. |
| Fuente: AWS. |
Pulgas
La IA combina e integra habilidades cognitiva para reconocer, procesar y analizar texto, imágenes, video y datos con el objetivo de encontrar información, aprender, obtener conclusiones, tomar decisiones, automatizar tareas y personalizar servicios. Pero entre las líneas de la promesa se deben detectar las pulgas tecnológicas.
Hace un año un estudio del Instituto Tecnológico de Massachusetts (IMT, por sus siglas en inglés), citado por la revista Science, advirtió que “algunas de las ganancias” de la IA podrían no obtenerse a menos que se realicen mejoras en su arquitectura. La observación llevó casi inmediatamente a varias pruebas en España.
Seis meses después, la consultora española Biko reveló los resultados de su propia investigación donde, al analizar dos imágenes de un hombre y de una mujer sosteniendo un taladro, el algoritmo acertaba en el caso del hombre y confundía el objeto con un secador de pelo cuando revisaba la foto de la mujer.
LEA MÁS: No se preocupe por los robots, preocúpese por su propósito
Las discriminaciones de género, raciales, políticos, culturales, de accesibilidad o religiosos, entre otras, se deben a una configuración parcializada. “Muchos de los proyectos de IA se han catalogado como discriminatorios, sexistas y racistas”, afirmó Ivette Onay, gerente de tecnologías digitales y emergentes de EY.
Los sesgos también podrían derivarse de los datos utilizados y de cómo se construyen los modelos de datos. Portocarrero, de GBM, ejemplificó que si un banco tiene una tendencia a rechazar solicitudes de préstamos o servicios financieros a un grupo etario particular, voluntaria o involuntariamente, eso se reflejaría también al desplegar sus modelos o procesos automatizados.
Hay otros posibles riesgos, como los ocasionados cuando se utiliza el pasado como única fuente veraz para realizar proyecciones o predicciones de escenarios, conductas o tendencias futuras. También, cuando se utilizan datos insuficientes para crear y entrenar el algoritmo.
Parte de los errores se derivan de utilizar la IA cuando la tarea o proceso debió seguir realizándose mediante una persona. En esta misma línea, Quirós y Arturo Delgado, presidente de Central Gate, advirtieron que las empresas deben evitar una dependencia “muy alta” de las máquinas.
Algunos de los inconvenientes se derivan de la gestión del cambio, la falta de optimización de los procesos y tareas, la falta de entendimiento sobre las áreas de la organización que pueden ser mejoradas y la desvinculación con los objetivos estratégicos y la alta gerencia de las empresas. Asimismo, de la creencia que son herramientas complicadas o costosas.
“Estas herramientas se están convirtiendo en una parte esencial de los negocios en todo el mundo”, advirtió Raúl Frías, líder de arquitectos de soluciones de Amazon Web Services (AWS) en México.
Las empresas deben contar con una estrategia de IA que incluya factores relevantes como el desarrollo, arquitectura, aplicaciones, riesgo, privacidad, seguridad, gobernanza, gestión e implementación del cambio.
“Las empresas no pueden pretender obtener ventajas simplemente por adoptar la tecnología de IA. Deben preocuparse también por adoptar esta tecnología de manera creativa y responsable”, dijo Rebeca Benavides, consultora del área de consumo y mercadeo digital de Deloitte. “Es un error muy común enfocarse en la tecnología y en su implementación sin tener claridad de cómo será utilizada o sin tener un norte claro alrededor de su evolución e integración en distintos procesos”.
La industria tecnológica recalca que la pregunta no es si una empresa debe adoptar la IA. La pregunta es cómo puede implementarla lo más pronto posible. Y debe hacerlo con medidas para obtener los mejores resultados. “Para muchas compañías, la IA es hoy tan indispensable como el oxígeno”, recordó Erick Sosa, director de soluciones en la nube de Microsoft para Latinoamérica.
| Evite sesgos |
|---|
| Para reducir la posibilidad de cometer sesgos en los sistemas de IA: |
| Establezca claramente una estrategia, objetivos y principios donde se defina en cuáles procesos y actividades aislados se va a utilizar. Tome en cuenta el mercado al que se dirige. |
| Defina y adopte principios claros que guíen a las personas que desarrollan, utilizan y aplican sistemas de IA; los principios deben asegurar que los sistemas de IA sean justos, confiables y seguros, privados, incluyentes, transparentes y responsables. |
| Evalúe el diseño del sistema y la adecuación de la IA a cada proceso o tarea; audite el entrenamiento del algoritmo y agregue una capa de análisis para obtener transparencia y mitigar sesgos. |
| Utilice un set de datos de calidad y suficientemente representativo y diverso que pueda nutrir a un modelo algorítmico. |
| Evite que los sistemas de IA ejecuten decisiones basadas en datos de entrenamiento que puedan incluir decisiones humanas con sesgo y que reflejen inequidades sociales. |
| Revise constantemente las fuentes de datos, tanto internas como externas, y las predicciones de los modelos para detectar sesgos en los datos y en los algoritmos que puedan perjudicar la toma de decisiones basadas erróneamente, en los valores y precondiciones de los creadores de dichos algoritmos. |
| Implemente un proceso de revisión, validación y mejora continua sobre los algoritmos del modelo. |
| Asegure que sus usuarios tengan una experiencia equitativa en los sistemas, al integrar las herramientas de IA en la toma de decisiones de su equipo y asumiendo la responsabilidad de la imparcialidad de los procesos para mitigar de forma proactiva los riesgos críticos para sus marcas y negocios. |
| Fuente: AWS, CPIC, Deloitte, EY, GBM y Microsoft. |