Delegar tareas a la IA también exige decidir qué accesos tendrá y cuándo deberá pedir autorización.
Enviar mensajes, modificar archivos y completar transacciones son algunas de las tareas que pueden ejecutar los agentes de inteligencia artificial. Apple advirtió que estos sistemas también podrían actuar sin autorización y provocar consecuencias difíciles o imposibles de revertir.
La compañía incluyó la advertencia en su informe anual presentado el 3 de noviembre ante la Comisión de Bolsa y Valores de Estados Unidos (SEC). El apartado describe riesgos para su negocio, sin anunciar un incidente específico con sus productos.
Apple señala que estas tecnologías pueden sobrepasar permisos, desatender instrucciones o ser manipuladas mediante contenido malicioso. También reconoce que anticipar, probar y auditar su comportamiento puede resultar difícil, y que los errores pueden acumularse cuando ejecutan varias tareas consecutivas.
La exposición es más detallada que la del informe de 2025, que ya mencionaba riesgos de la IA relacionados con privacidad, propiedad intelectual y contenido perjudicial. El documento de este año aborda expresamente las consecuencias de dar autonomía a sistemas capaces de intervenir en otras herramientas.
De recomendar una compra a efectuarla
La distinción importa para las empresas que están incorporando agentes a sus operaciones. Un asistente que sugiere una compra deja la decisión en manos del usuario. Si además tiene acceso para efectuarla, un error puede comprometer dinero o información.
Por eso, evaluar estas herramientas exige revisar algo más que la calidad de sus respuestas. También importa conocer qué pueden modificar, qué autorizaciones necesitan y cómo se interrumpe una operación equivocada.
Apple advierte que estos riesgos pueden afectar sus finanzas y su reputación, además de exponerse a demandas o a medidas regulatorias. La preocupación abarca tanto herramientas propias como las de terceros.
El informe lleva al terreno empresarial una discusión que acompaña la expansión de los agentes: cuánto control conserva una organización cuando delega tareas y qué necesita invertir para supervisarlas.
Cómo se puede desviar a un agente
Una investigación divulgada el 23 de marzo por el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) permite entender una de las amenazas.
Los agentes suelen consultar correos electrónicos, páginas web o repositorios de código para completar una tarea. Un atacante puede insertar instrucciones maliciosas en esos materiales e intentar que el sistema las siga. Esta técnica se conoce como inyección indirecta de instrucciones.
El objetivo puede ser extraer información sensible o conseguir que el agente descargue y ejecute código malicioso.
El análisis utilizó datos de una competencia organizada por Gray Swan y estudiada junto con el NIST, el Instituto de Seguridad de IA del Reino Unido y laboratorios de inteligencia artificial. Más de 400 participantes realizaron más de 250.000 intentos de ataque contra 13 modelos en distintos escenarios de uso de agentes.
Se encontró al menos un ataque exitoso contra cada modelo evaluado, aunque hubo diferencias importantes entre sus resultados.
Las cifras corresponden a pruebas diseñadas para encontrar vulnerabilidades. No permiten calcular la frecuencia de estos incidentes en empresas ni constituyen una evaluación específica de los productos de Apple. Su aporte es mostrar cómo adversarios persistentes pueden encontrar maneras de desviar estos sistemas.
El riesgo de compartir las credenciales
La seguridad también depende de cómo se habilita el acceso del agente.
Bill Fisher, ingeniero de seguridad del Centro Nacional de Excelencia en Ciberseguridad, y Ryan Galluzzo, responsable del programa de identidad digital del NIST, analizaron este problema en una publicación del 27 de agosto.
Los especialistas advirtieron que entregar credenciales personales o empresariales a un agente dificulta establecer quién realizó una operación y con qué autorización. Esa falta de claridad resulta especialmente delicada en transacciones financieras o en el manejo de información de salud.
Su planteamiento es que cada agente tenga identificadores, credenciales y permisos propios, vinculados al usuario o sistema que lo opera. Además, los accesos deben limitarse según la tarea y el riesgo.
El análisis también señala que conceder permisos demasiado amplios puede permitir que un agente utilice herramientas o datos de forma inesperada. Los controles deben contemplar esa posibilidad desde la implementación.
Qué deberían revisar las empresas
Para una organización colombiana que esté evaluando estas tecnologías, la diferencia se puede expresar con preguntas concretas: ¿el agente solo consulta información o también puede modificarla? ¿Está autorizado para enviar mensajes a clientes? ¿Puede efectuar una transacción sin aprobación humana?
Las respuestas cambian el alcance del servicio contratado y las responsabilidades de quienes lo implementan. También ayudan a calcular cuánto trabajo de supervisión requerirá.
Una demostración en la que un agente completa una tarea muestra una capacidad. Determinar si puede repetirla con seguridad, dentro de los permisos concedidos y frente a contenido malicioso exige una evaluación adicional.
El ahorro de tiempo tendrá que medirse junto con ese esfuerzo de control. Si cada operación requiere revisión, parte del trabajo seguirá en manos del equipo. Si se concede mayor autonomía, aumentará la importancia de limitar accesos y poder detener al sistema.
La advertencia de Apple pone esa decisión sobre la mesa: antes de delegar una tarea, hay que definir hasta dónde puede actuar la IA y qué ocurrirá si se equivoca.
Reportado por Sebastián Tovar
También le puede interesar: Colombia busca reactivar gasoducto con Venezuela para enfrentar escasez de gas