El uso de información sensible, la responsabilidad por decisiones asistidas con IA y la falta de preparación de los trabajadores hicieron parte de la conversación durante el Forbes Tech Summit 2026.
La inteligencia artificial puede ayudar a una empresa a automatizar procesos, elaborar documentos o analizar información. Pero una tarea aparentemente sencilla, como cargar un archivo corporativo en una de estas plataformas, también puede abrir interrogantes sobre la confidencialidad de los datos, las responsabilidades de los empleados y los controles que existen dentro de la organización.
Ese fue uno de los riesgos advertidos por Valentina Gómez Villamil, socia de Rincón Cárdenas & Moreno Consultores, durante el Forbes Tech Summit 2026, en una conversación sobre ética y transparencia de la inteligencia artificial en la que también participó Nicolás Torres Bolívar, líder de Infraestructura de Datos e Inteligencia Artificial de la Consejería Distrital de TIC de la Alcaldía Mayor de Bogotá.
Para Gómez, uno de los principales problemas aparece cuando las organizaciones utilizan herramientas de inteligencia artificial sin establecer previamente qué información pueden compartir con ellas y bajo qué condiciones.
“Yo creo que uno de los mayores riesgos es la utilización de inteligencias artificiales abiertas”, señaló la abogada, quien advirtió sobre la práctica de cargar información sensible en plataformas sin revisar sus configuraciones y condiciones de uso.
La especialista recomendó establecer procedimientos internos y revisar los permisos y controles disponibles en las herramientas utilizadas. Su advertencia apunta a un desafío que no desaparece necesariamente por contratar una versión paga: las organizaciones también necesitan comprender las condiciones específicas de tratamiento de la información y configurar adecuadamente sus servicios.
En Colombia, la protección de datos personales ya cuenta con disposiciones aplicables a estas tecnologías. Además de la Ley 1581 de 2012, la Superintendencia de Industria y Comercio expidió la Circular Externa 002 de 2024, con instrucciones sobre el tratamiento de datos personales en sistemas de inteligencia artificial.
¿Quién responde cuando la inteligencia artificial se equivoca?
La responsabilidad sobre los resultados de estas herramientas fue otro de los asuntos centrales del encuentro. Gómez explicó que las organizaciones deben establecer quién utiliza los sistemas, quién revisa la información generada y quién adopta las decisiones que se apoyan en sus resultados.
“La idea es que exista siempre un control humano”, afirmó, al referirse a la necesidad de definir responsabilidades para quienes emplean inteligencia artificial en la elaboración de conceptos y otros documentos.
La abogada también advirtió que los sistemas pueden reproducir sesgos presentes en los datos con los que trabajan, especialmente cuando utilizan información histórica. Por eso, insistió en la importancia de revisar sus resultados antes de incorporarlos a decisiones que puedan afectar a otras personas.
Durante el panel mencionó la Sentencia T-323 de 2024 de la Corte Constitucional, que examinó el uso de ChatGPT por parte de un juez en un proceso de tutela.
En ese fallo, la Corte determinó que la utilización de inteligencia artificial no invalidaba la decisión judicial examinada, pues el juez había desarrollado su propio razonamiento. Sin embargo, encontró deficiencias en el cumplimiento de los principios de transparencia y responsabilidad, y estableció criterios orientadores para el uso de estas herramientas en la administración de justicia.
El pronunciamiento, circunscrito al ámbito judicial, refuerza la importancia de verificar la información generada por IA y evitar que sustituya el razonamiento de quienes tienen la responsabilidad de decidir.
Bogotá busca establecer reglas para el uso de IA en el sector público
Los desafíos también están presentes en las entidades públicas. Nicolás Torres Bolívar explicó que la incorporación de inteligencia artificial requiere cambios institucionales, preparación de los funcionarios y mecanismos de supervisión.
“Sin datos no hay inteligencia artificial, pero sin talento tampoco”, sostuvo.
Según el funcionario, Bogotá ha expedido un decálogo para orientar a los servidores públicos sobre las tareas que pueden realizar con inteligencia artificial y aquellas que requieren restricciones.
Entre los criterios mencionados están el uso de herramientas con licenciamiento institucional, la protección de información confidencial y la necesidad de reforzar los controles cuando se manejan datos de poblaciones vulnerables.
Torres destacó, además, que la inteligencia artificial puede apoyar actividades como la redacción de documentos, pero no debe sustituir el criterio del funcionario responsable.
Otro componente de la discusión fue la transparencia frente a los ciudadanos. Para el representante del Distrito, las personas deben poder conocer cuándo se utiliza inteligencia artificial en decisiones públicas y contar con mecanismos para cuestionar sus resultados.
“Yo como ciudadano tengo derecho a saber, tengo derecho a entender, pero también tengo derecho a reclamar”, afirmó.
El funcionario señaló que Bogotá trabaja en un modelo de gobernanza que combina infraestructura de datos, capacitación, generación de valor público y supervisión humana. Desde su perspectiva, contar con reglas claras permite reducir la tensión entre adoptar nuevas tecnologías y proteger los derechos de las personas.
Antes de comprar tecnología, preparar a los trabajadores
Aunque abordaron el problema desde perspectivas diferentes, ambos panelistas coincidieron en una recomendación para las empresas: la adopción de inteligencia artificial debe comenzar por las necesidades del negocio y las capacidades de sus equipos.
“Hay que comenzar primero no por la herramienta, no pensar en comprar la solución de inteligencia artificial, sino realmente qué servicio estoy ofreciendo”, explicó Torres.
El funcionario sostuvo que las organizaciones deben identificar las competencias que necesitan desarrollar sus trabajadores y evaluar cómo estas tecnologías pueden contribuir a sus operaciones. También planteó oportunidades para conectar las soluciones de empresas tecnológicas con necesidades del sector público mediante iniciativas de GovTech y compra pública innovadora.
Gómez coincidió en la importancia de la capacitación, pero añadió otro componente: comunicar de manera transparente cómo se utiliza la inteligencia artificial.
Como ejemplo, explicó que Rincón Cárdenas & Moreno Consultores informa a sus clientes sobre el posible uso de estas herramientas mediante cláusulas y anexos en sus propuestas de servicios. Estos documentos incluyen protocolos de seguridad y permiten establecer limitaciones a su utilización.
La firma también está formando personal en la norma ISO/IEC 42001, un estándar internacional para sistemas de gestión de inteligencia artificial.
Para las organizaciones, las recomendaciones expuestas durante el panel apuntan a una misma necesidad: definir qué información pueden utilizar, establecer responsabilidades sobre los resultados, formar a sus trabajadores y comunicar las condiciones bajo las cuales incorporan inteligencia artificial a sus actividades.
El desafío no está únicamente en acceder a tecnologías cada vez más avanzadas, sino en desarrollar las capacidades para utilizarlas con controles adecuados y sin trasladar a los algoritmos responsabilidades que siguen correspondiendo a las personas.
Redactado por Sebastián Tovar
También le puede interesar: https://forbes.co/tecnologia/la-ia-ya-reduce-a-la-mitad-algunas-tareas-del-software-colombiano-quien-gana-con-el-ahorro