IBM advierte que hay rezago en gobernanza y ética de la IA en Colombia

Las empresas en Colombia y América Latina avanzan en la adopción de inteligencia artificial, pero todavía muestran un rezago importante en gobernanza, ética y control de riesgos, dijo Jorge Vergara, CTO de IBM Colombia, en entrevista con Forbes Colombia.

“Las empresas apenas están adoptando inteligencia artificial, están tomando esa nueva tecnología y muchas de ellas, la verdad, es que tienen desconocimiento con respecto a lo que es la gobernanza o la soberanía, el control, el riesgo de la IA”, comentó Vergara.

Según el directivo, muchas organizaciones siguen viendo estos temas como un asunto técnico y no como una responsabilidad transversal del negocio.

Vergara indicó que la responsabilidad final de las decisiones no puede delegarse en los sistemas.

“La responsabilidad en última de las decisiones no es de la IA, es de las personas”, dijo, al advertir que delegar procesos y acciones no elimina la rendición de cuentas humana.

IBM compite en el mercado de la nube y la inteligencia artificial con gigantes tecnológicos como Oracle, Microsoft, Google y SAP, en una carrera por ofrecer soluciones empresariales cada vez más abiertas y gobernables.

Un estudio del IBM Institute for Business Value, realizado junto con el Notre Dame-IBM Tech Ethics Lab, muestra que el 57% de los ejecutivos en América Latina afirma que las prácticas éticas en IA han generado mayor confianza de los clientes y mejor calidad del producto.

Sin embargo, solo el 34% utiliza herramientas básicas de ética en IA, lo que evidencia la falta de marcos y capacidades frente a sistemas cada vez más complejos.

Vergara explicó que los sesgos en la inteligencia artificial no provienen de las máquinas, sino de los datos.

“Debemos quitarnos de la mente la idea de que la tecnología no es sesgada”, señaló. “Lo que es sesgado no es la máquina, son los datos con que alimentamos como tal los modelos de inteligencia artificial”.

El ejecutivo señaló que la compañía ha apostado por sistemas abiertos capaces de interactuar con múltiples modelos y proveedores.

“Ninguna empresa en este tiempo pudiera pensar que puede trabajar con una única empresa”, expresó al defender el enfoque de código abierto y la interoperabilidad como condición para una gobernanza efectiva de la IA.

En Colombia, uno de los productos es una herramienta diseñada para identificar sesgos, garantizar trazabilidad y ofrecer explicabilidad en el uso de modelos y agentes de IA.

“Si no tengo una buena gobernanza, está aumentando el riesgo que esas decisiones no tengan la transparencia y trazabilidad y explicabilidad que se requieren”, comentó Vergara.

El estudio de IBM también señala que los ejecutivos en América Latina planean casi duplicar la inversión en IA ética, del 5,4% del presupuesto total de IA en 2023 al 11% en 2026. A nivel global, las empresas con mayor gasto en ética de IA han logrado hasta un 30% más de beneficios operativos atribuibles a esta tecnología.