Uno de los principales desafíos está en la relación que los menores pueden establecer con los chatbots, debido a que pueden percibirse como algo más que una herramienta.
El uso cada vez más frecuente de herramientas de inteligencia artificial entre adolescentes abre nuevos riesgos digitales que no pueden resolverse únicamente con filtros de contenido, advirtió la firma ESET Latinoamérica, al analizar las medidas de protección incorporadas a ChatGPT for Teens.
La empresa de seguridad informática señaló que los adolescentes pueden encontrarse con contenidos relacionados con violencia gráfica, autolesiones, conductas peligrosas, contenido sexual o problemas de imagen corporal, por lo que considera necesario establecer mecanismos específicos de protección para este grupo de edad.
Pero el problema no termina con bloquear determinados temas. Uno de los principales desafíos está en la relación que los menores pueden establecer con los chatbots, debido a que permanecen disponibles en cualquier momento y pueden llegar a percibirse como algo más que una herramienta tecnológica.
ESET identificó como un punto de atención la antropomorfización, es decir, la tendencia a atribuir emociones, características humanas o vínculos afectivos a sistemas de inteligencia artificial.
“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles”, señaló Mario Micucci, investigador de Seguridad Informática de la firma, según un comunicado.
Destacó la necesidad de establecer límites en la interacción y recordar que estas herramientas no sustituyen las relaciones ni el apoyo en el mundo real.
Este artículo se publicó originalmente en Forbes México.
Lee también : Estos son los Forbes 30 Under 30 de Colombia 2026