La tecnología necesita algoritmos con más diversidad

Me refiero a la necesidad de que los algoritmos sean desarrollados por todo tipo de investigadores y que impacte a todas las poblaciones con sus diferencias geográficas e incluso genéticas.

Hace un par de meses tuve la oportunidad de ir a La Carpio y me encontré con un grupo de niños y adolescentes que estaban trabajando en un chatbot que los pudiera guiar en su día a día. La idea de ellos es que con ayuda de un celular o computadora puedan consultarle a un asistente virtual cómo pueden reaccionar ante un determinado problema.

LEA MÁS: Compis, el ‘chatbot’ creado por 25 niños de La Carpio para atender problemas sociales

Por ejemplo: ¿cómo puedo denunciar a un vecino que vende drogas? Mi papá le pega a mi mamá, ¿cómo puedo ayudarla?

Lamentablemente la cotidianidad a la que se enfrentan estos chicos –y muchos más– son las drogas, el abuso infantil, delincuencia, agresión, pobreza... Y quiénes mejor que ellos para recabar toda la información de la que necesita alimentarse un algoritmo para atender a estas poblaciones vulnerables.

Sucede que a la hora de programar chatbots u otras soluciones tecnológicas, quienes están detrás de esos algoritmos no necesariamente conocen la realidad de su público meta. No es lo mismo que un grupo de tecnólogos que nunca han vivido esta realidad entrenen a un asistente virtual, a que sean estos niños de La Carpio.

Cuando estuve frente a ellos y me presentaron sus ideas de cómo podría ayudarlos un chatbot me quedé sin palabras. Desde afuera se puede “pensar” cómo se vive en una comunidad de alto riesgo social, pero tenerlos de frente y leer la lluvia de ideas que plasmaron en una serie de papeles a lo largo de una pared, fue impresionante.

En la actualidad, muchos algoritmos están sesgados de forma involuntaria.

Timnit Gebru, investigadora del departamento de imparcialidad, responsabilidad y transparencia en la IA de Microsoft, señala que “cuando un problema no nos afecta, no lo consideramos importante, y es posible que ni siquiera sepamos cuáles son estos problemas, porque no interactuamos con las personas que los sufren”.

Si usted es emprendedor, estudiante, empresario, o simplemente tiene el deseo de desarrollar una solución tecnológica, tome en cuenta a su público meta, genere simpatía con ellos, acérquese a las comunidades, para que así pueda realmente darse cuenta de si su idea tendrá un impacto positivo o será uno de los muchos que se quedan en el olvido.

No se puede representar a todos en un algoritmo, pero al menos tome en cuente la variable de la diversidad.

Hoy, la idea de ese chatbot que nació entre papeles y cartón está en desarrollo por los estudiantes de la Universidad Cenfotec y son los mismos niños quiénes dirán si les funciona o no.