"Ante un panorama de oportunidades creciente en la implementación de proyectos y desarrollo de aplicaciones basadas en esta tecnología, la pregunta a formularse es ¿cómo garantizo que mis proyectos no cuenten con una brecha de género, raza o minorías?", se pregunta Andrés León.

Por: Andrés León*

Hace unos días, varios medios internacionales especializados en el mundo de la música, publicaban unas declaraciones de la artista Rosalía en las que ella acusaba a las aplicaciones de música por streaming de ser machistas. Según la artista, las plataformas digitales relegaban a las mujeres en las canciones que son colaboraciones entre varios artistas, colocándolas en posiciones secundarias, dejando de motivar de una u otra forma, a buscar más contenido de la cantante al estar atrás entre la lista de participantes de la obra.

De la misma manera, también fue muy sonado, años atrás, el caso del aplicativo de Inteligencia Artificial –IA- que utilizaba una de las principales compañías de tecnología del mundo en sus procesos de selección de personal. Específicamente, esta aplicación, que aprendía a identificar las competencias clave de los candidatos, estaba enfocada en apoyar la busca de personal técnico experto en desarrollo de aplicaciones e ingeniería. Este sistema realizaba la búsqueda entre las hojas de vida del personal que trabajaba en la compañía y de alguna forma concluyó, al encontrar más empleados hombres que mujeres, que lo ideal era elegir a los nuevos prospectos por su género y ponía una menor calificación a las hojas de vida femeninas.

Teniendo en cuenta estos contextos, es importante indicar que el informe de Global Data muestra para 2021 un aumento del 50% en el interés de los directivos para realizar inversiones en proyectos con IA frente a las estimaciones para el 2020. En sus proyecciones, la consultora sugiere que el mercado global de las tecnologías relacionadas con IA alcanzará unos $53 billones de dólares para 2024, creciendo así unos $29 billones a los estimados en 2019 mundialmente. Incluso, destaca sectores como el asegurador, salud, minería, oil & gas y alimentos como los más interesados en iniciar iniciativas de proyectos estratégicos de Transformación Digital de sus compañías basados en lA.

Ante un panorama de oportunidades creciente en la implementación de proyectos y desarrollo de aplicaciones basadas en esta tecnología, la pregunta a formularse es ¿cómo garantizo que mis proyectos no cuenten con una brecha de género, raza o minorías? La respuesta es que la industria en el mundo está enfocada en un nuevo tipo de tecnologías de IA llamadas XAI o IA Explicable, en español.

XAI es un paso más delante de la tradicional IA, ya que es una plataforma que aparte de ayudar con la gestión de los datos y aplicación de diferentes tipos de algoritmos de Machine Learning u otras técnicas, entregan un informe detallado de los posibles sesgos presentados en los datos que en consecuencia inclinan a los modelos que son generados por estas.

Tecnológicamente, es una buena garantía que las mismas herramientas adviertan sobre los posibles impactos en el sesgo del proyecto desarrollado. No obstante, en materia empresarial, se debe blindar la cultura organizacional para que este tipo de controles siempre apliquen en los proyectos basados en nuevas tecnologías.

En las grandes corporaciones suelen ser mejores los resultados cuando se suma la tecnología a procesos orientados a identificar y superar estos sesgos, por ejemplo, el Sello de Equidad Laboral -Equipares-, el cual certifica a las empresas que logran generar transformaciones culturales y cierres de brechas de género en su interior tras implementar de forma efectiva un Sistema de Gestión de Igualdad de Género, y el cual recibió recientemente Claro en la categoría de Sello Plata. O por plataformas virtuales y gratuitas como Capacítate para el Empleo, que en 2019 formó en habilidades para el empleo y el emprendimiento a más de 140 mil mujeres colombianas. Gracias a estas iniciativas, compañías como Claro cuentan en sus células de proyectos analíticas roles clave como Científicas, Ingenieras, Artistas o Gerentes de Proyectos de Datos e Inteligencia Artificial.

En el mundo, el panorama de inclusión y brecha de género en la Inteligencia Artificial sigue siendo muy retador. En el informe de Índice del Estado de la Inteligencia Artificial desarrollado por la Universidad de Stanford, se concluye que varios países tienen mujeres como autoras de más del 30% de los artículos sobre IA incluidos Países Bajos, Argentina o Canadá, mientras que en Estados Unidos, la proporción de mujeres autoras ha disminuido ligeramente durante 2019, e invitan a que las políticas e instituciones nacionales, así mismo como las normas sociales en las comunidades de investigación, deban desempeñar un papel fundamental en el aumento de la participación femenina en la investigación de la IA.

Ya se habla que 2021 será el año llamado a hacer brillar a la Inteligencia Artificial, pasando de estar en nuestros bolsillos a través de asistentes como Siri, Alexa u Ok Google, a nuevos y disruptivos casos de uso aplicados en múltiples sectores de las industrias. Y así mismo, mientras se definen, desarrollan, prueban e implementan estos casos de uso, nos debemos de preguntar ¿cómo mitigo el sesgo discriminatorio en el proyecto que estoy implementando?

*El autor es líder de producto IoT & Big Data de Claro Colombia.

Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes.