Transparencia: contenido generado o editado con asistencia de inteligencia artificial.

Los agentes de IA han cruzado una frontera silenciosa: ya no basta con demostrar que pueden hacer una tarea. Ahora hay que demostrar que pueden actuar sin romper márgenes, permisos, datos ni responsabilidad. La semana deja varias señales en la misma dirección: inversión masiva en infraestructura que necesita retorno, agentes usados en un ciberataque notificado en España, plataformas empresariales que prometen orquestación real, estudios que revelan falta de visibilidad sobre el uso de IA y acuerdos para auditar modelos desde dentro. La conclusión para la dirección es incómoda: el problema caro ya no es probar la IA, sino operarla.
Para CEOs, CMOs y COOs en España y Latinoamérica, esto cambia la conversación. Un chatbot aislado se evalúa por calidad de respuesta. Un agente conectado a CRM, ERP, soporte, compras o finanzas debe evaluarse por coste total, permisos, trazabilidad, tasa de excepción, impacto en cliente y capacidad de detenerse a tiempo. Si esa capa no existe, la empresa no está escalando inteligencia artificial: está distribuyendo decisiones automáticas sin cuadro de mando operativo.
Agentes de IA: del prototipo atractivo al coste que aparece en la cuenta de resultados
El artículo de MIT Technology Review plantea la pregunta macro: la industria está realizando una apuesta de infraestructura que solo se sostiene si la productividad y los ingresos acompañan. Esa presión baja rápido a la empresa media. No hace falta construir un centro de datos para sufrir el mismo problema a escala: basta con dejar que cada equipo active herramientas, agentes y automatizaciones sin una unidad económica común.
La unidad equivocada es el token. La unidad útil es el resultado: pedido procesado, ticket resuelto, factura conciliada, oportunidad cualificada, informe validado o incidencia escalada. El análisis recogido por El Ecosistema Startup lo expresa bien: medir IA por token puede ocultar si una tarea se está resolviendo mejor o solo consumiendo más pasos intermedios. En flujos agénticos, una misma petición puede activar búsqueda, razonamiento, herramientas, validaciones y reintentos. El coste ya no vive en una llamada al modelo, sino en la cadena completa.
Por eso el área financiera no debería esperar al final del piloto. Antes de escalar, cada caso necesita una ficha mínima: volumen esperado, coste por ejecución, coste de revisión humana, tasa de error tolerable, ahorro o ingreso atribuible, coste de fallo y criterio de apagado. Sin esa ficha, el piloto puede gustar al usuario y aun así destruir margen.
La nueva superficie de riesgo: cuando el agente también actúa
La señal española más seria de la semana no es comercial, sino operativa. Según Xataka, la AEPD recibió por primera vez la notificación de una brecha en la que un tercero habría usado un agente de IA para ejecutar y controlar varias fases del ataque. La información pública todavía es limitada, pero el mensaje para empresas es suficiente: los agentes no solo mejoran la productividad interna; también aceleran la capacidad de explorar vulnerabilidades, encadenar acciones y adaptarse durante una intrusión.
La respuesta no puede ser prohibir toda autonomía ni confiar en una revisión humana simbólica al final. La respuesta es diseñar controles antes de la acción: qué credencial usa el agente, qué datos puede leer, qué herramientas puede invocar, qué límites de frecuencia tiene, qué operaciones requieren aprobación, qué señales disparan bloqueo y cómo se reconstruye la secuencia después. En seguridad, marketing, ventas o finanzas, la pregunta ya no es “¿este agente responde bien?”, sino “¿qué puede hacer cuando nadie lo está mirando?”.
Este punto conecta con la observabilidad. IT User recoge un estudio de Nexthink con Harvard Business Review Analytic Services según el cual una parte relevante de las organizaciones reconoce no tener visibilidad suficiente sobre cómo se usa la IA en el día a día. Ese punto ciego es más grave cuando la IA deja de ser consulta y se convierte en ejecución. Lo que no se observa no se puede gobernar; lo que no se gobierna acaba siendo política de facto.

El plano de control: siete preguntas antes de conectar agentes de IA a sistemas reales
La evolución de plataformas como Agentforce, analizada por MarkTechPost, apunta a un cambio de categoría: de construir asistentes a operar agentes con evaluación, pruebas, observabilidad, reglas deterministas y conexión profunda a datos empresariales. No se trata de comprar una marca concreta; se trata de reconocer qué capacidades mínimas debe exigir cualquier empresa antes de permitir acciones en CRM, ERP, ecommerce o finanzas.
En Escala365 lo traduciríamos en siete preguntas de dirección:
| Capa | Pregunta ejecutiva | Riesgo si falta |
|---|---|---|
| Inventario | ¿Qué agentes existen, quién los usa y qué proceso tocan? | Shadow AI operativo y duplicación de gasto. |
| Identidad | ¿Actúan con credencial propia, de usuario o de servicio? | Acciones imposibles de atribuir o revocar. |
| Contexto | ¿Qué datos reciben y durante cuánto tiempo? | Exposición de información sensible o innecesaria. |
| Herramientas | ¿Qué sistemas pueden leer, escribir o modificar? | Automatización de errores en sistemas de registro. |
| Política | ¿Qué reglas se aplican antes de ejecutar una acción? | Dependencia de prompts como único control. |
| Observabilidad | ¿Qué evidencia deja cada decisión y cada excepción? | No poder auditar, depurar ni aprender. |
| FinOps | ¿Cuánto cuesta cada resultado útil, incluido retrabajo? | Escalar uso sin saber si crea valor neto. |
Este plano de control no es solo tecnología. Incluye gobierno, arquitectura, procesos y propietarios. La tentación habitual es resolverlo con una política general de IA. Eso se queda corto. Una política dice qué debería ocurrir; un plano operativo impide, registra o escala lo que ocurre de verdad.
Evaluar no es decorar el proceso: es una función de producción
El acuerdo entre Anthropic y Accenture descrito por TechCrunch muestra otra pieza del mercado: la evaluación continua se está convirtiendo en infraestructura. Puede discutirse la independencia del modelo, el diseño del acceso o quién debe auditar a quién. Pero para una empresa que implanta IA, el aprendizaje es claro: la evaluación no puede aparecer solo en la demo inicial.
Un agente que hoy funciona puede fallar mañana por cambios en datos, catálogo, campañas, condiciones comerciales, normativa, modelo o comportamiento del usuario. La evaluación debe cubrir regresiones, casos límite, pruebas de seguridad, coste por tarea y calidad del escalado humano. Si solo medimos satisfacción o velocidad, podemos acabar premiando sistemas que resuelven rápido lo fácil y esconden mal lo difícil.
La autonomía útil se diseña alrededor de excepciones. En ventas, la excepción puede ser una oportunidad con descuento fuera de política. En finanzas, una factura que no cuadra con pedido y recepción. En atención al cliente, una reclamación sensible. En marketing, una segmentación que utiliza un dato no permitido. El agente debe reunir contexto, proponer siguiente acción y escalar con evidencia; no improvisar una decisión irreversible.
Qué debería hacer una empresa en los próximos 30 días
La recomendación práctica no es lanzar un programa gigantesco de gobernanza. Es más simple y más exigente: escoger tres agentes o automatizaciones con impacto real y someterlos a una revisión operativa común.
- Inventario con dueño. Documenta el proceso, área responsable, usuarios, sistemas conectados y decisión que apoya o ejecuta.
- Mapa de acción. Separa lectura, recomendación, escritura, aprobación y ejecución. Cada salto debe tener permiso explícito.
- Límites económicos. Define coste máximo por resultado, volumen esperado, revisión humana y coste de fallo.
- Casos de excepción. Diseña al menos cinco escenarios en los que el agente debe detenerse, preguntar o escalar.
- Registro auditable. Guarda entrada, contexto usado, herramienta invocada, respuesta, decisión y motivo de escalado.
- Revisión semanal. Compara autonomía efectiva, retrabajo, errores, coste y tiempo de ciclo. Si no mejora el proceso completo, no escales.
Esta disciplina conecta con piezas que Escala365 ya viene trabajando: convertir la adopción de IA en arquitectura de decisión, evitar que la búsqueda o la automatización se conviertan en una capa opaca y construir operaciones medibles. Si quieres profundizar en ese ángulo, puede ayudarte leer nuestro análisis sobre AI Control Plane: la capa que tu empresa necesita antes de escalar agentes en ERP, CRM y finanzas y la pieza sobre Arquitectura de IA híbrida: control, coste y velocidad.
Implicaciones para España y Latinoamérica B2B
En mercados donde muchas compañías todavía están entre exploración y adopción estratégica, el plano de control puede parecer prematuro. Es al revés. Cuanto menor es el equipo técnico, más importante es no multiplicar excepciones invisibles. Una pyme o mid-market no necesita una oficina de IA de veinte personas, pero sí necesita saber qué agente toca qué dato, qué decisión sigue en manos humanas y qué métrica prueba que el sistema mejora la operación.
El error sería plantear esto como freno a la innovación. Bien diseñado, el control acelera. Permite reutilizar permisos, patrones de evaluación, logs, criterios económicos y rutas de escalado en lugar de rediseñarlos en cada piloto. También reduce el lock-in: si el contrato operativo está claro, cambiar de modelo, proveedor o interfaz no obliga a reinventar toda la gobernanza.
La dirección debería mirar los agentes de IA como miraría cualquier capacidad que entra en la cadena de valor: no por lo que promete en abstracto, sino por cómo cambia costes, riesgos, tiempos, ingresos y responsabilidad. La IA empresarial empieza a madurar cuando deja de venderse como magia y empieza a gestionarse como operación.
Preguntas frecuentes sobre agentes de IA y control operativo
¿Un AI Control Plane es lo mismo que un AI gateway?
No necesariamente. Un gateway puede controlar llamadas a modelos, rutas, seguridad o costes de inferencia. Un plano de control operativo debe además conectar identidad, permisos, herramientas, trazabilidad, políticas, evaluación y métricas de negocio.
¿Cuándo necesita una empresa esta capa?
Cuando la IA deja de ser consulta aislada y empieza a usar datos internos, invocar herramientas, escribir en sistemas o afectar a clientes, dinero, cumplimiento o decisiones comerciales.
¿Cómo se mide el ROI de un agente?
Por resultado útil, no por token ni por número de interacciones. La métrica debe incluir coste tecnológico, integración, supervisión humana, retrabajo, errores, tiempo de ciclo y valor económico capturado.
¿La supervisión humana resuelve el riesgo?
Solo si está situada en el punto correcto. Revisar al final puede ser tarde. Las acciones críticas necesitan límites antes de ejecutarse, criterios de escalado y evidencia suficiente para que la persona pueda decidir rápido.
Fuentes y lecturas recomendadas
- MIT Technology Review — What must happen for AI’s trillion-dollar gamble to pay off
- Xataka — Un agente de IA ha protagonizado un ciberataque en España. La AEPD nunca había visto uno
- MarkTechPost — Salesforce Agentforce: Bridging the Enterprise AI Gap from “Vibe Coding” to Battle-Tested Orchestration
- IT User — La mitad de las empresas no puede monitorizar el uso de la inteligencia artificial
- TechCrunch — Anthropic’s first embedded evaluator is … Accenture?
- El Ecosistema Startup — Paul Graham alerta: el coste por token ya no mide la IA