Para escalar agentes de IA con éxito, piense en ellos como miembros del equipo
A
diferencia del software tradicional, los agentes de IA están diseñados para razonar, planificar y ejecutar acciones a través de distintos sistemas. En el momento en que un agente puede modificar un sistema de registro (actualizar un precio, enviar un pago o modificar los datos de un cliente) deja de ser una herramienta de productividad y se convierte en parte del modelo operativo de la organización.
Lo más importante es que esto introduce nuevas categorías de riesgo. Una herramienta de IA generativa limitada (como ChatGPT para redactar correos electrónicos) genera un riesgo de contenido: puede decir algo incorrecto. La IA agéntica genera un riesgo de ejecución: puede hacer algo incorrecto.
Para superar ese umbral e integrar eficazmente agentes de IA a gran escala, usted debe tratarlos como una nueva clase de fuerza laboral que requiere gestión.
Mientras no se establezcan estas bases organizacionales, escalar la IA agéntica será difícil. Cuatro fricciones recurrentes, en particular, tienden a ralentizar o descarrilar el progreso. Entenderlas es el primer paso para gestionarlas.
- Identidad: ¿Quién está actuando?
Las organizaciones deben tratar a cada agente de IA como un trabajador digital distinto, con su propia identidad, credenciales y rol. En lugar de depender de cuentas de servicio compartidas, las empresas deben asignar permisos a los agentes con un alcance limitado que reflejen las tareas específicas para las que están diseñadas. Los mismos principios utilizados para gestionar a los colaboradores humanos (como el acceso al mínimo privilegio y los límites basados en funciones) deben aplicarse también a los agentes.
- Contexto: Cuando los datos erróneos llevan a malas acciones
Los agentes también introducen un nuevo desafío de seguridad: la manipulación del contexto. Si un agente lee correos electrónicos, formularios o tickets de soporte y luego ejecuta tareas basadas en esa información, los atacantes pueden incrustar instrucciones ocultas diseñadas para influir en su comportamiento.
Para hacer frente a estas fricciones contextuales, las organizaciones deben establecer estándares claros sobre qué información pueden considerar confiable sus agentes. Esto implicará definir fuentes autorizadas para políticas, precios y datos operativos, de modo que los agentes puedan apoyarse de forma consistente en la versión correcta de la verdad.
- Control: Los sistemas probabilísticos necesitan límites claros
Los métodos de prueba tradicionales parten de la base de que el comportamiento es estable. Un sistema que hoy supera una serie de pruebas puede comportarse de forma diferente mañana si se actualiza el modelo, cambia el prompt o se añaden nuevos datos. Y los riesgos aumentan en entornos con múltiples agentes donde estos se transfieren tareas entre sí.
Sin límites claros, los errores (o ataques) pueden propagarse a lo largo de un sistema automatizado. Para gestionar ese riesgo, las organizaciones deben construir controles deterministas en torno a los sistemas de IA probabilísticos. En lugar de permitir que los agentes ejecuten acciones directamente, las empresas deben implementar capas de validación entre el modelo de IA y los sistemas operativos. En este enfoque, el agente propone una acción (como emitir un reembolso) y, antes de ejecutarse, un software determinista verifica que cumpla con las reglas establecidas.
- Responsabilidad: Cuando nadie puede explicar lo que ocurrió
Las empresas deben diseñar sus sistemas de IA pensando en la responsabilidad desde el principio. Esto comienza con mantener registros completos de cómo operan los agentes, incluyendo a qué fuentes de datos accedieron, qué instrucciones recibieron y qué herramientas utilizaron para completar una tarea. Estos registros deben permitir reconstruir la cadena de razonamiento que llevó a cualquier acción.
Las empresas no son entornos listos para usar; son sistemas complejos moldeados por tecnología heredada, políticas y el juicio humano. Las organizaciones que tengan éxito con la IA agéntica no serán simplemente las que implementen más agentes, sino aquellas que construyan las estructuras que permitan confiar en ellos.
© 2026 Harvard Business School Publishing Corp. | De: hbr.org | Distribuido por: The New York Times Syndicate.
Artículo en inglés
Unlike traditional software, artificial intelligence agents are designed to reason, plan and take actions across systems. The moment an agent can change a system of record — update a price, send a payment or modify customer data — it stops being a productivity tool and becomes part of the organization’s operating model.
Most importantly, it introduces new categories of risk. A narrow generative artificial intelligence tool (like ChatGPT for drafting emails) creates content risk: It might say something wrong. Agentic AI creates execution risk: It might do something wrong.
To cross that threshold and effectively integrate AI agents at scale, you will need to treat your agents like a new kind of workforce that requires management.
Until those organizational foundations are in place, scaling agentic AI will be difficult. Four recurring frictions, in particular, tend to slow or derail progress. Understanding them is the first step toward managing them.
1. IDENTITY: “WHO” IS ACTING?
Organizations should treat each AI agent as a distinct digital worker with its own identity, credentials and role. Instead of relying on shared service accounts, companies should assign agents narrowly scoped permissions that reflect the specific tasks they are designed to perform. The same principles used to manage human employees — such as least-privilege access and role-based limits — should apply to agents.
2. CONTEXT: WHEN BAD DATA LEADS TO BAD ACTIONS
Agents also introduce a new security challenge: The manipulation of context. If an agent reads emails, forms or support tickets and then performs tasks based on that information, attackers can embed hidden instructions designed to influence their behavior.
To cope with these context frictions, organizations need to establish clear standards for which information their agents can trust. This will require defining authoritative sources for policies, pricing and operational data, so that agents can consistently rely on the correct version of the truth.
3. CONTROL: PROBABILISTIC SYSTEMS NEED HARD BOUNDARIES
Traditional testing methods assume stable behavior. A system that passes a test suite today may behave differently tomorrow if the model updates, the prompt changes or new data is added. And the risks grow in multi-agent environments where agents pass work to one another.
Without clear boundaries, mistakes — or attacks — can cascade across an automated system. To manage that risk, organizations should build deterministic controls around probabilistic AI systems. Rather than allowing agents to execute actions directly, companies should place validation layers between the AI model and operational systems. In this approach, the agent proposes an action, such as issuing a refund and, before it’s executed, deterministic software verifies that it complies with established rules.
4. ACCOUNTABILITY: WHEN NO ONE CAN EXPLAIN WHAT HAPPENED
Companies will have to design their AI systems with accountability in mind from the outset. This begins with maintaining comprehensive records of how agents operate, including which data sources they accessed, what prompts they received and which tools they used to complete a task. These records should enable reconstruction of the chain of reasoning that led to any action.
Enterprises are not turnkey environments; they are complex systems shaped by legacy technology, policies and human judgment. The companies that succeed with agentic AI won’t simply install more agents. Instead, they’ll build the structures that allow those agents to be trusted.
La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más)
La IA puede alejar las evaluaciones de desempeño de las narrativas laborales y acercarlas a evidencia directa del trabajo en la práctica.
Es difícil utilizar la IA en equipo. Estas 3 prácticas pueden ayudar
He aquí tres prácticas que pueden ayudar a desarrollar la «química humano-IA en los equipos» a medida que evoluciona el lugar de trabajo.
¿Cuáles son los problemas de su empresa en materia de IA?
El “Ethical Nightmare Challenge” (ENC) es un marco de trabajo que puede integrarse con programas existentes de gestión de riesgos de IA.
