A

ntes de que la IA generativa irrumpiera en escena a finales de 2022, las empresas seguían un enfoque más o menos estándar para gestionar los riesgos que planteaba la IA: desarrollaban programas de riesgo ético en materia de IA (también llamados programas de IA responsable o de gobernanza de la IA).

Estos programas eran diseñados por ejecutivos y se enfocaban principalmente en redactar e implementar políticas de IA a nivel empresarial, destinadas a explicar cómo la organización cumpliría con sus valores éticos en materia de IA (o principios o pilares, como también se les conoce). Cuando apareció la IA generativa, las organizaciones actualizaron sus programas para adaptarse a la nueva tecnología. Ahora que los agentes de IA están ganando terreno, es probable que la mayoría intente actualizarlos de nuevo.

Eso sería un error. El enfoque estándar de la IA responsable está fundamentalmente roto.

No llego a esta conclusión a la ligera. Es el resultado de observar cómo ha evolucionado el panorama de la IA de tal forma que se ha creado un escenario de riesgos realmente complejo.

El enfoque estándar es demasiado lento, ambiguo y difícil de comunicar. En lugar de centrarse en valores y políticas, las empresas estarían mejor si se enfocaran en sus peores escenarios posibles: sus problemas éticos relacionados con la IA. Esto se debe a que este enfoque les permite aplicar una metodología novedosa y de rápida implementación que funciona para todo, desde IA limitada hasta la gestión de agentes de IA.

Durante el último año, he desarrollado un marco de trabajo que puede ponerse a prueba y escalarse rápidamente, y que además puede integrarse con programas existentes de gestión de riesgos de IA. He aquí cómo funciona.

El marco de trabajo

El “Ethical Nightmare Challenge” (ENC) plantea tres preguntas:

— ¿Cuáles son los problemas éticos de su organización en relación con la IA?

— ¿Qué recursos desarrollará para evitar esos problemas?

— ¿Cómo capacitará a su gente para utilizar esos recursos de manera efectiva?

Implementación del marco de trabajo

Una vez identificados sus problemas, es momento de pasar a la acción. Esto se logra creando equipos de Ethical Nightmare Challenge. Estos equipos pueden crearse en cualquier nivel de la organización y en cualquier momento, y son pequeños (por ejemplo, de cinco a ocho personas) y multifuncionales (con al menos un perfil tecnológico). Lo más importante es que deben ser ágiles.

La misión central de cada equipo ENC es trabajar en torno a estas tres preguntas. Estos equipos participan en la resolución colaborativa de problemas relacionados con los posibles problemas en materia de IA que han identificado. Cuando las tres preguntas se repiten de manera consistente en todos los niveles de una organización (juntas directivas, alta dirección, departamentos, equipos de proyecto y colaboradores individuales), se crea un lenguaje compartido que hace posible la comunicación y la colaboración entre todos esos niveles.

La naturaleza multifuncional de estos equipos es esencial para su éxito. Un científico de datos puede identificar fuentes técnicas de posibles problemas que un especialista en marketing jamás vería. Un profesional de marketing entiende el comportamiento del consumidor de maneras que permiten identificar ciertos riesgos técnicos que los ingenieros podrían pasar por alto. Un diseñador de producto puede detectar formas en que las cosas podrían salir mal y que resultarían invisibles para el área legal.

Integración del marco de trabajo

Las políticas existentes, los comités de riesgo y los marcos de gobernanza no desaparecen bajo el enfoque ENC: se convierten en recursos de los que los equipos ENC pueden apoyarse.

Un comité de riesgos de IA ya existente, en lugar de ser la primera línea de defensa para cada caso de uso de IA de alto riesgo, se convierte en una instancia excepcional, convocada cuando un equipo ENC a nivel de proyecto ha identificado un problema que no puede mitigar adecuadamente, o cuando el nivel de riesgo es lo suficientemente alto como para justificar una revisión de alto nivel. Esto es operativamente crucial: a medida que aumenta la adopción de IA, también aumentan los casos de alto riesgo, convirtiendo al comité de riesgo en un cuello de botella para la innovación mientras los equipos esperan ser evaluados y recibir dirección. La solución es crear una primera línea de defensa más capaz mediante la capacitación ENC.

A

medida que la IA aumenta en velocidad y volumen, las organizaciones no pueden simplemente incorporarla a flujos de trabajo diseñados para el ritmo humano. Con base en nuestra experiencia como economistas que estudian el impacto de la IA en las organizaciones y en los mercados laborales, creemos que los CEOs necesitan rediseñar el trabajo tanto de la IA como de las personas en tres aspectos clave:

1. Redefinir explícitamente los flujos de trabajo y luego establecer nuevas expectativas de roles (humanos).

A medida que los agentes de IA asumen tareas de ejecución, los roles humanos se enfocarán cada vez más en supervisión, criterio, construcción de relaciones y manejo de la ambigüedad. En nuestro trabajo con clientes, hemos observado que este cambio en la responsabilidad no se está comunicando de forma clara en muchos lugares de trabajo actualmente, mientras que las empresas nativas de IA lo incorporan explícitamente en su modelo de talento. A medida que cambian los flujos de trabajo, también cambian los roles humanos, lo que requiere nuevas habilidades acompañadas de nuevas expectativas. Los líderes deben:

— Crear el entorno adecuado de responsabilidad y alcance de control. La capacidad de supervisión no se expande automáticamente solo porque aumente la producción. Los líderes deben rediseñar los alcances de control y el tamaño de los equipos teniendo esto en cuenta.

— Rediseñar los roles a gran escala y aclarar las expectativas. Establecer expectativas realistas sobre la velocidad y el volumen de trabajo, declarar explícitamente la responsabilidad de supervisión sobre los sistemas de IA en las descripciones de puesto y definir las habilidades humanas permanentes que siguen siendo fundamentales.

— Reiniciar la gestión del desempeño. Recompensar la calidad de la supervisión y la coordinación efectiva de los sistemas de IA, no solo la velocidad y el volumen de producción.

2. Hacer que la responsabilidad sea explícita y personal tanto para empleados como para agentes.

La evidencia presentada en nuestro estudio sugiere que los agentes de IA deben tratarse como lo que son: automatización de software que requiere una responsabilidad humana clara sobre su funcionamiento y sus resultados. Cuando la IA contribuye a un resultado, esto debe hacerse evidente para las personas responsables que deben rendir cuentas por ello. Esto es especialmente crítico en entornos altamente regulados.

Esto requiere reglas claras de colaboración entre humanos y agentes, basadas en objetivos compartidos y responsabilidad sostenida en el tiempo, en tres frentes:

— Derechos de decisión: Debido a que los agentes pueden manejar situaciones mucho más flexibles que la automatización tradicional, es fundamental definir qué puede hacer el agente de manera autónoma y qué requiere aprobación humana explícita.

— Escalamiento: ¿Qué desencadena una revisión? ¿Quién interviene? ¿Quién asume el costo de un retraso o de un error?

— Consecuencias: Cuando el agente falla, ¿qué sucede después? Defina cómo se mantendrá la responsabilidad a lo largo del tiempo. Los empleados humanos responsables deben supervisar el desempeño de los agentes y proporcionar mejoras continuas.

3. Diseñar e implementar un plan de desarrollo de capacidades para empleados que gestionan agentes.

La capacidad de supervisar sistemas humano-agénticos no siempre surge de manera orgánica, como lo demuestra el hecho de que las empresas solo obtienen valor de la IA cuando protegen el aprendizaje de los empleados. Las organizaciones necesitan un nuevo conjunto de herramientas de gestión y programas de capacitación que ayuden a los empleados a navegar un equilibrio diferente entre delegación y control al trabajar con IA. Los empleados deben comprender la amplia variedad de tareas que la IA puede realizar, utilizarla como una fuente de inteligencia y no solo como una herramienta de ejecución de tareas, e integrarla en los flujos de trabajo de maneras que mejoren la toma de decisiones. Igualmente importante es que sepan cuándo confiar en la IA, cuándo cuestionar sus resultados y en qué aspectos sus limitaciones difieren de las de los trabajadores humanos.

L

a IA nos ha catapultado a una era que podría describir como de extrema opacidad respecto al futuro. Teniendo en cuenta todo lo que podría cambiar a causa de la IA, parece como si se hubiera extendido una niebla que nos impide ver el futuro. Y, en este momento, ese es su efecto económico más importante (y quizá también el más infravalorado).

Sin la capacidad de predecir con seguridad hacia dónde nos dirigiremos a partir de ahora, y considerando el alto costo de comprometerse demasiado pronto en entornos volátiles, creo que la mejor estrategia es optimizar para lo desconocido.

El dilema del capital humano

Para las empresas que dependen de trabajadores calificados, la “niebla de la IA” supone un problema sin precedentes en la planificación de la fuerza laboral. Los líderes deben decidir cuántas personas contratar, en qué puestos y con qué salarios, en un contexto en el que la vida útil de cualquier conjunto de habilidades es incognoscible. La misma incertidumbre que disuade a las personas de invertir en formación también dificulta que los líderes contraten e inviertan en su personal, particularmente en regiones con restricciones regulatorias para reducir su plantilla. Si los agentes de IA pueden redactar memorandos, escribir código, realizar tareas administrativas básicas, llevar a cabo investigaciones y construir modelos financieros más rápido y a menor costo que los empleados de nivel inicial, entonces las empresas ajustarán sus planes de contratación en consecuencia.

Las matemáticas corporativas

La incertidumbre del futuro también pone en duda la forma en que se valora a las empresas y, por lo tanto, si consiguen atraer capital y cómo lo hacen, así como la forma en que comunican su valor a inversionistas y otras partes interesadas. Para los líderes, esto significa que la niebla de la IA influirá en el costo del capital, en las condiciones bajo las cuales se financia el crecimiento y en si un plan estratégico cumple con las expectativas de analistas e inversionistas. El mecanismo de este cambio inducido por la niebla es sencillo, pero sus implicaciones son radicales.

El valor de las acciones se determina por la cantidad de efectivo que una empresa generará en el futuro. Si la niebla de la IA pone en duda la viabilidad a largo plazo del producto o servicio principal de una empresa, entonces también debemos cuestionar si logrará alcanzar su valor terminal. A su vez, si dudamos del valor terminal, la valoración se derrumba.

Otra forma de entender esta consecuencia de la niebla es que la IA está desafiando la preservación de las ventajas competitivas de las empresas. Cualquier negocio cuya ventaja competitiva dependa principalmente del software, los procesos, el capital humano o el contenido es ahora vulnerable frente a un competidor capaz de replicar esas características más rápido y a menor costo.

Dentro de la empresa, la misma niebla

La niebla envolvente también afecta los mercados internos de capital.

Imaginemos una empresa de fabricación por contrato de tamaño medio que produce componentes mecanizados de precisión para clientes de los sectores aeroespacial y de defensa. El equipo de operaciones propone una inversión de 30 millones de dólares en una nueva línea de producción. La ampliación de la planta está dimensionada para hacer frente a la cartera de pedidos prevista de la empresa. El equipo financiero elabora un modelo en el que compara los ingresos previstos para los próximos diez años con el desembolso de capital.

Gracias a su equipo especializado, largas series de producción y operarios cualificados, la nueva línea está optimizada para el paradigma actual de fabricación. Pero si los sistemas robóticos de uso general reducen drásticamente los costos de instalación que históricamente han protegido a los fabricantes especializados, la ventaja competitiva que respalda la proyección a 10 años de la empresa deja de ser confiable. La proyección original de ingresos se desvanece.

Optimizar para lo desconocido

Frente a la niebla de la IA, la repentina invisibilidad del futuro significa que la única opción verdaderamente convincente es la opcionalidad en sí misma.

Los líderes empresariales deben incorporar la opcionalidad tanto en sus modelos de asignación de capital como en sus diseños organizacionales.

En primer lugar, ha llegado el momento de pasar de compromisos de capital plurianuales a inversiones por etapas, con puntos de decisión explícitos. Del mismo modo, es momento de (re)considerar los sistemas de presupuestación base cero, para eliminar parte de la inercia incorporada en la asignación de recursos.

En segundo lugar, en vez de aferrarse a estructuras organizacionales optimizadas para un futuro estable, piense en cómo organizarse para la llegada de la IA agéntica. Los equipos modulares, los cambios frecuentes en los procesos y diseños organizacionales, el diseño de puestos de trabajo con flexibilidad incorporada y capas delgadas y adaptables de coordinación (ya sean humanas o mediante agentes de IA) ayudarán a preservar la capacidad de maniobra.

En tercer lugar, los líderes necesitan mejores sistemas de detección. Deben establecer un pequeño equipo cuyo trabajo a tiempo completo sea supervisar las capacidades de IA de vanguardia y traducir el progreso técnico en implicaciones de gestión para la empresa.

Estamos entrando en un cambio de paradigma en cuanto a cómo apostamos por el futuro. La incertidumbre ya está aquí. Ya no se trata de transformar la forma en que invertimos, contratamos, construimos y planificamos. La pregunta verdaderamente urgente es: ¿Rediseñaremos nuestras instituciones para adaptarlas a la opacidad antes de que se paralicen todo tipo de inversiones?

L

a mayoría de los ejecutivos cree que el gran desafío al adoptar agentes de IA es entender cómo adaptarse a una tecnología nueva e importante. Pero, en realidad, se trata principalmente de gestionar el trabajo.

Para aprovechar los beneficios a corto plazo de la IA y prepararse para su impacto creciente, las organizaciones deben integrarla en los procesos existentes de recursos humanos y dejar claro su papel para los empleados. A continuación, se presentan cuatro ideas que he desarrollado trabajando con empresas para alcanzar ese objetivo. Provienen de diversos sectores, incluyendo banca, productos de consumo, logística y ciencias de la vida, y son ampliamente reconocidas como líderes en sus respectivas industrias.

1. Asigne a cada agente de IA una descripción de puesto.

A medida que la IA agéntica se integra en las organizaciones, los equipos estarán conformados por “colegas” humanos y agentes de IA, y todos necesitarán descripciones de puesto: un método probado para especificar las responsabilidades de un trabajador, sus derechos de decisión y su rol dentro de los procesos relevantes. Elaborar una descripción de puesto para cada agente de IA obligará a sus responsables a ser deliberados al momento de asignar responsabilidades entre colegas humanos y agentes. Al redactar estas descripciones, hágase las siguientes preguntas: ¿De qué es responsable y de qué no lo es? (Los mandatos vagos como “optimizar” o “mejorar la eficiencia” son una receta para el fracaso. Al igual que las personas, los agentes funcionan mejor cuando los objetivos son explícitos). ¿Cuáles son los límites de sus derechos de decisión? ¿Qué facultades tiene? ¿Cuándo debe buscar la opinión o aprobación de colegas o superiores?

2. Diseñe al agente para resolver los problemas de los colegas humanos.

Muchos observadores han señalado que la IA agéntica promete mejorar la calidad de vida laboral de los trabajadores del conocimiento. Así como la automatización ayudó a eliminar tareas en industrias tradicionalmente consideradas “sucias, peligrosas y demandantes”, como la manufactura, la metalurgia y la minería, la IA puede eliminar trabajos que resultan “aburridos, desalentadores y repetitivos”. Ya sea reduciendo pasos tediosos o automatizando los elementos más monótonos de un puesto, diseñar los roles de los agentes de IA de esta manera les da a los empleados una razón para adoptar la IA y los motiva a sortear sus limitaciones, integrándola en su experiencia diaria.

3. Evalúe a cada agente de IA regularmente.

Los agentes de IA necesitan métricas de desempeño cuantificables que reflejen los resultados reales de los procesos derivados de sus acciones. Estos indicadores deben ser explícitos y permitir una evaluación amplia del desempeño, yendo más allá de aspectos como la precisión y la facilidad de uso para incluir la puntualidad y la confiabilidad. La existencia de tales métricas ayudará a tranquilizar a los compañeros humanos, al confirmarles que sus colegas algorítmicos también están sujetos a estándares. Además, contribuirán a mejorar los procesos de entrenamiento al revelar áreas de mejora. Así como las evaluaciones de desempeño informan los planes de desarrollo profesional de los empleados, los compañeros agénticos también deberían beneficiarse de un ciclo en el que la retroalimentación impulse el aprendizaje. Sin indicadores, los gerentes no pueden distinguir entre variaciones aceptables y fallas reales.

4. Asigne a cada agente de IA un supervisor humano.

Algunos observadores han comenzado a destacar la capacidad de los agentes de IA para “coordinar” las actividades de múltiples agentes independientes. Esto puede acelerar las acciones y hacer su trabajo más preciso. Pero, ¿quién supervisa a los coordinadores? Sin duda, la necesidad de una supervisión humana sigue existiendo. Todas las generaciones de IA han demostrado cierta propensión a generar errores o “alucinaciones”. Es probable que estos casos disminuyan a medida que la IA mejore, pero los riesgos aumentarán conforme la IA se expanda a profesiones consideradas de alto riesgo. Además, las organizaciones seguirán siendo responsables de cualquier resultado generado por la IA que utilicen, por lo que debe existir un responsable humano que rinda cuentas sobre cómo se entrena, cómo se integra con los procesos y cómo interactúa con otros compañeros humanos y agénticos. Los reguladores, legisladores y tribunales insistirán en ello.

A

diferencia del software tradicional, los agentes de IA están diseñados para razonar, planificar y ejecutar acciones a través de distintos sistemas. En el momento en que un agente puede modificar un sistema de registro (actualizar un precio, enviar un pago o modificar los datos de un cliente) deja de ser una herramienta de productividad y se convierte en parte del modelo operativo de la organización.

Lo más importante es que esto introduce nuevas categorías de riesgo. Una herramienta de IA generativa limitada (como ChatGPT para redactar correos electrónicos) genera un riesgo de contenido: puede decir algo incorrecto. La IA agéntica genera un riesgo de ejecución: puede hacer algo incorrecto.

Para superar ese umbral e integrar eficazmente agentes de IA a gran escala, usted debe tratarlos como una nueva clase de fuerza laboral que requiere gestión.

Mientras no se establezcan estas bases organizacionales, escalar la IA agéntica será difícil. Cuatro fricciones recurrentes, en particular, tienden a ralentizar o descarrilar el progreso. Entenderlas es el primer paso para gestionarlas.

1. Identidad: ¿Quién está actuando?

Las organizaciones deben tratar a cada agente de IA como un trabajador digital distinto, con su propia identidad, credenciales y rol. En lugar de depender de cuentas de servicio compartidas, las empresas deben asignar permisos a los agentes con un alcance limitado que reflejen las tareas específicas para las que están diseñadas. Los mismos principios utilizados para gestionar a los colaboradores humanos (como el acceso al mínimo privilegio y los límites basados en funciones) deben aplicarse también a los agentes.

2. Contexto: Cuando los datos erróneos llevan a malas acciones

Los agentes también introducen un nuevo desafío de seguridad: la manipulación del contexto. Si un agente lee correos electrónicos, formularios o tickets de soporte y luego ejecuta tareas basadas en esa información, los atacantes pueden incrustar instrucciones ocultas diseñadas para influir en su comportamiento.

Para hacer frente a estas fricciones contextuales, las organizaciones deben establecer estándares claros sobre qué información pueden considerar confiable sus agentes. Esto implicará definir fuentes autorizadas para políticas, precios y datos operativos, de modo que los agentes puedan apoyarse de forma consistente en la versión correcta de la verdad.

3. Control: Los sistemas probabilísticos necesitan límites claros

Los métodos de prueba tradicionales parten de la base de que el comportamiento es estable. Un sistema que hoy supera una serie de pruebas puede comportarse de forma diferente mañana si se actualiza el modelo, cambia el prompt o se añaden nuevos datos. Y los riesgos aumentan en entornos con múltiples agentes donde estos se transfieren tareas entre sí.

Sin límites claros, los errores (o ataques) pueden propagarse a lo largo de un sistema automatizado. Para gestionar ese riesgo, las organizaciones deben construir controles deterministas en torno a los sistemas de IA probabilísticos. En lugar de permitir que los agentes ejecuten acciones directamente, las empresas deben implementar capas de validación entre el modelo de IA y los sistemas operativos. En este enfoque, el agente propone una acción (como emitir un reembolso) y, antes de ejecutarse, un software determinista verifica que cumpla con las reglas establecidas.

4. Responsabilidad: Cuando nadie puede explicar lo que ocurrió

Las empresas deben diseñar sus sistemas de IA pensando en la responsabilidad desde el principio. Esto comienza con mantener registros completos de cómo operan los agentes, incluyendo a qué fuentes de datos accedieron, qué instrucciones recibieron y qué herramientas utilizaron para completar una tarea. Estos registros deben permitir reconstruir la cadena de razonamiento que llevó a cualquier acción.

Las empresas no son entornos listos para usar; son sistemas complejos moldeados por tecnología heredada, políticas y el juicio humano. Las organizaciones que tengan éxito con la IA agéntica no serán simplemente las que implementen más agentes, sino aquellas que construyan las estructuras que permitan confiar en ellos.

L

a IA generativa está empezando a cambiar nuestra forma de comprar. En lugar de navegar por sitios web o pasear por las tiendas, la gente está empezando a pedir a los agentes de IA que busquen, comparen e incluso compren productos. Pero aún estamos en una etapa temprana. Y así como las empresas tuvieron que adaptarse a las nuevas reglas del comercio electrónico, ahora se enfrentan a un nuevo conjunto de desafíos en torno a cómo gestionan su reputación, conectan con los clientes y compiten en este nuevo escenario.

Para impulsar la adopción del comercio agéntico a gran escala, las marcas necesitan descubrir cómo ganar (y mantener) la confianza de los clientes. Y para lograrlo, deben comprender qué puede salir mal y qué medidas tomar ahora para evitar que se rompa la confianza.

La brecha de confianza es medible

Según la encuesta “El futuro de las compras de los consumidores”, realizada por PwC en 2025, el 64% de los encuestados afirmó que necesita al menos una garantía (como la devolución de su dinero) para sentirse cómodo dejando que un agente de IA realice compras en su nombre.

El desafío para las marcas en los sectores minorista, de bienes de consumo y de viajes es claro y urgente: ¿Cómo pueden prepararse para el comercio agéntico cuando las reglas todavía se están escribiendo? Usted no puede controlar por completo si los consumidores adoptarán estas herramientas. Pero sí tiene control sobre cómo aparece su marca en las experiencias impulsadas por agentes, y sobre si los clientes se sienten protegidos cuando delegan decisiones a la IA.

Construir la capa de confianza

El comercio agéntico necesita su propia infraestructura de confianza (lo que denominamos “capa de confianza”). Aunque la confianza puede parecer un concepto abstracto, se rompe de formas específicas y predecibles: cuando los agentes malinterpretan los productos, actúan más allá de lo que los clientes esperan, gestionan incorrectamente datos confidenciales, tergiversan las marcas o dejan a los consumidores desamparados cuando algo sale mal.

Recomendamos que las empresas adopten desde ahora cinco acciones para construir esa capa de confianza.

1. Estructurar su contenido para máquinas, no solo para humanos.

Para confiar en un agente de IA, los clientes necesitan que este proporcione información precisa y relevante en todo momento. Esto no es posible si el agente no comprende el producto y sus características.

Los agentes de IA no navegan visualmente ni interpretan matices como lo hacen las personas. Procesan texto y números. Esto significa que el descubrimiento de productos en compras impulsadas por agentes depende menos del branding o de la optimización tradicional para motores de búsqueda y más de los datos de productos legibles por máquinas, un enfoque que a menudo se denomina “optimización generativa para motores de búsqueda”. Los precios, las tallas, la disponibilidad, los materiales, los casos de uso y las limitaciones deben expresarse en formatos que los agentes puedan analizar y comparar de forma confiable.

Es posible que las marcas también necesiten garantizar que esta información sea accesible. Mientras que las personas navegan de una página a otra y leen las descripciones redactadas en texto tradicional, la información destinada a los agentes debe almacenarse en formatos legibles por máquina dentro de sus sistemas actuales de gestión de información de productos y de sus plataformas de comercio electrónico.

2. Definir límites claros e incorporar el consentimiento.

Los consumidores no delegarán las decisiones de compra a los agentes de IA a menos que entiendan, de forma clara y directa, lo que esos agentes pueden hacer. Esto requiere límites explícitos de delegación y consentimiento incorporado en la experiencia, no escondido en términos y condiciones. Una delegación segura requiere tres elementos: límites claros, trazabilidad y reversibilidad. Cada acción del agente debe atribuirse a una autorización específica, bajo condiciones definidas, y contar con una forma clara de deshacer o impugnar el resultado.

En sus propios canales (el sitio web de la empresa, la aplicación o el agente de marca) las marcas pueden establecer límites de gasto, exigir la aprobación de compras que superen ciertos montos e incorporar pasos de confirmación antes de finalizar la compra.

Cuando los consumidores utilizan plataformas de IA de uso general como ChatGPT, Claude, Gemini de Google u otras para comprar en múltiples minoristas, el control directo de las marcas es limitado. Sin embargo, aún pueden influir en la experiencia asegurándose de que la información de sus productos sea precisa y esté correctamente estructurada. Aunque puede ser técnicamente posible incorporar salvaguardas (como mensajes de confirmación o avisos sobre políticas de devolución) dentro de estas plataformas, ello exige colaboración entre las marcas y los proveedores tecnológicos. Mientras tanto, las marcas pueden influir en los resultados garantizando que los datos de sus productos sean consistentes, estén bien organizados y sean completos.

3. Proteger los datos de los clientes y hacer visible esa protección.

Cuando los consumidores delegan tareas a agentes de IA, comparten más que detalles de pago. Comparten contexto conversacional: preferencias, limitaciones, intención y, a menudo, emociones. Ese contexto es lo que hace que las compras agénticas sean poderosas y particularmente sensibles. Si los clientes no entienden cómo se usan, guardan o protegen esos datos, no delegarán nada.

A medida que las marcas lanzan sus propios agentes de IA para ayudar a los clientes a comprar productos, deberían integrar un diseño que preserve la privacidad directamente en las interacciones agénticas. Por ejemplo, pueden utilizar técnicas de minimización de datos, de modo que sus agentes solo conserven lo necesario para completar una tarea. Las señales conversacionales sensibles pueden procesarse de forma transitoria en lugar de almacenarse indefinidamente. El consentimiento debe ser explícito, con opciones claras sobre lo que se recuerda, lo que se comparte entre sesiones o plataformas y lo que no.

La visibilidad es tan importante como la protección. Los consumidores deberían poder ver (y modificar) su configuración de privacidad en tiempo real. Algunas interacciones pueden justificar la persistencia (como recordar una talla o marca preferida), otras no. Un modo de compra “incógnito” o de una sola vez, en el que las interacciones no se conserven ni se utilicen para recomendaciones futuras, brinda a los clientes una sensación de control que refleja la forma en que las personas ya gestionan su privacidad en navegadores y pagos.

4. Observar cómo aparece su marca en los ecosistemas de agentes.

Las marcas necesitan observabilidad agéntica, es decir, la capacidad de supervisar en tiempo real cómo los agentes de IA describen sus productos, en qué fuentes se basan, cómo se formulan las recomendaciones y qué acciones se están ejecutando posteriormente. Esto requiere visibilidad continua sobre las instrucciones, respuestas, citas y la lógica de decisión en los ecosistemas de agentes donde los clientes realizan sus compras.

Sin observabilidad, las marcas pierden la capacidad de detectar tergiversaciones, corregir errores o comprender por qué se recomendó o no un producto. A medida que los agentes actúan cada vez más como intermediarios, supervisar cómo se muestra su marca ya no es opcional.

5. Preservar las relaciones y planificar la recuperación.

Incluso cuando los agentes gestionan las transacciones, las marcas siguen siendo responsables de la relación. Y a medida que las compras se vuelven más automatizadas, deberían integrar agentes con marca propia en plataformas de terceros, extender los programas de lealtad a través de agentes y diseñar rutas de escalamiento fluidas para contactar a una persona cuando sea necesario.

Cuando algo falla (y fallará), la respuesta importa más que el error. Los mecanismos de recuperación deben integrarse desde el inicio, con alertas en tiempo real y rutas claras de escalamiento.

La confianza como estrategia, no como cumplimiento

Las compras impulsadas por IA escalarán cuando los consumidores se sientan seguros. Esto requiere sistemas bien gobernados, transparentes y alineados con las expectativas humanas. Las marcas que lideren no tratarán la confianza como un simple ejercicio de cumplimiento normativo, sino como una parte central de su estrategia comercial, construyendo los estándares técnicos, las prácticas empresariales y las protecciones al consumidor que hacen que la delegación sea segura. Quienes actúen ahora ayudarán a definir las reglas de este ecosistema emergente.

D

urante décadas, las organizaciones han codificado su conocimiento en formatos diseñados para el consumo humano: sitios web con diseños visuales, PDFs con tablas formateadas, presentaciones con gráficos, documentos con encabezados y viñetas. Los datos no solo se presentan para los seres humanos, sino que también se almacenan de esa manera.

Pero los formatos de datos son solo parte del problema. Incluso cuando la información está estructurada correctamente, los agentes siguen enfrentando barreras: sistemas que no se comunican entre sí, interfaces de acción diseñadas para hacer clic en lugar de ejecutar comandos, y mecanismos de autenticación que asumen que un humano realiza las solicitudes.

La solución es exponer las capacidades de los sistemas mediante interfaces programáticas. En lugar de que un agente “haga clic” a través de un portal, el sistema debería proporcionar un canal directo donde el agente pueda autenticarse, solicitar datos y actuar. Protocolos como el MCP son los primeros pasos hacia la estandarización, pero el verdadero catalizador serán las organizaciones que primero reconfiguren sus sistemas y superen a aquellas que todavía ejecutan agentes a través de interfaces humanas.

La capa humana

Las mismas suposiciones que moldearon nuestro software también moldearon nuestras organizaciones: sistemas diseñados en torno a limitaciones humanas que los agentes no comparten. La capa organizacional es aún más profunda.

Las jerarquías corporativas existen por dos razones relacionadas. Primero, los humanos tienen una capacidad limitada para procesar información. Segundo, la coordinación es costosa.

Los agentes de IA socavan ambas justificaciones. Acceden a los datos de los departamentos al instante, reconcilian inconsistencias, identifican patrones y generan reportes en segundos. Además, coordinan la información a un costo marginal cercano a cero, colapsando los costos de transacción que justificaban múltiples capas de mandos intermedios.

Esto plantea una pregunta: Si los agentes pueden encargarse tanto de la coordinación como de la ejecución, ¿qué deberían hacer los humanos?

En la práctica, observo que los roles humanos se desplazan hacia propietarios y verificadores.

Los propietarios definen cómo luce el éxito. Establecen la dirección, toman decisiones que implican valores y compensaciones, y determinan las restricciones dentro de las cuales operan los agentes.

Los verificadores auditan los resultados, gestionan excepciones y mantienen la responsabilidad cuando algo sale mal. Revisan lo que producen los agentes, detectan errores antes de que escalen y toman decisiones que quedan fuera de los parámetros normales.

Esto no se trata de eliminar puestos. Se trata de cambiar lo que requieren esos puestos.

Los mecanismos de control

Un agente con acceso a todo también puede romper todo. Aquí es donde la burocracia demuestra su valor. Los formularios, las autorizaciones y las revisiones obligatorias surgieron para prevenir errores, garantizar la equidad y resolver problemas de coordinación conforme las organizaciones crecieron. Estos procesos existen para detectar fallas antes de que se vuelvan irreversibles.

El camino a seguir

La transición hacia operaciones centradas en agentes no requiere una transformación masiva. Requiere cambios concretos en cuatro áreas.

1. Datos: Conviértalos en texto sin formato.

Convierta las políticas, los procedimientos, las notas de reuniones y el conocimiento institucional a formatos de texto sin formato, como Markdown. Almacénelos en estructuras de directorios con capacidad de búsqueda. Los PDF y documentos formateados se convierten en resultados para los seres humanos, no en fuentes de verdad para los agentes.

2. Herramientas: Construya herramientas para agentes.

Cree interfaces programáticas que permitan a los agentes consultar datos de la empresa y ejecutar acciones. Comience con acceso de solo lectura a bases de conocimiento y después agregue capacidades de escritura con mecanismos de aprobación humana.

3. Roles: Reestructure en torno a la propiedad y la verificación.

Para cada rol, identifique qué corresponde a propiedad (definir el éxito, establecer restricciones), qué corresponde a verificación (auditar resultados, gestionar excepciones) y qué corresponde a ejecución (territorio de los agentes). Contrate pensando en autonomía, no solo en habilidades técnicas.

4. Mecanismos de control: Diseñe un sistema de verificación independiente.

Implemente reglas automáticas que detecten situaciones fuera de lo normal y establezca autorizaciones obligatorias para acciones de alto impacto. Y asegúrese de que estos controles sean simples e independientes de los sistemas de IA que supervisan.

E

n este artículo, compartimos algunos principios clave para implementar sistemas de IA agéntica que aumentarán la probabilidad de que generen el valor esperado.

¿Cómo funciona la IA agéntica?

La IA agéntica (sistemas de agentes de IA capaces de planificar, razonar y actuar de forma autónoma) puede ejecutar flujos de trabajo, tomar decisiones y coordinarse entre departamentos. Piense en la IA agéntica como un equipo de colegas digitales. Algunos agentes son especialistas, como un copiloto de programación que acelera el desarrollo o un asistente virtual que se integra a una herramienta SaaS. Otros actúan más como coordinadores, uniendo el trabajo de muchos especialistas para obtener un resultado mayor. Cuando se orquestan como un sistema, estos agentes planifican, razonan y actúan hacia objetivos, ajustándose a medida que cambian las condiciones. Lo más importante es que pueden operar a través de aplicaciones y fuentes de datos fragmentadas, sin necesidad de integrar todo en un sistema central.

Guiada por la supervisión humana, la IA agéntica se convierte en una capa inteligente que conecta procesos dispersos y rompe los silos para crear un flujo más continuo y eficiente.

¿Cómo pasa de tareas a resultados la IA agéntica?

Consideremos la implementación más utilizada de la IA generativa: los chatbots para atención al cliente. La mayoría de las empresas cuenta con miles o más transcripciones de estas interacciones con clientes. La IA agéntica hace mucho más que resolver una queja a la vez. Puede revisar todas las conversaciones, detectar problemas recurrentes y actuar para eliminarlos. Lo que comienza como soluciones más rápidas evoluciona hacia una base de aseguramiento de calidad y retroalimentación de producto que anticipa los problemas antes de que aparezcan, fortaleciendo toda la experiencia del cliente.

Esta progresión (desde soluciones rápidas hasta la prevención y la confiabilidad sistémica) muestra el potencial de la IA agéntica. Lograrlo requiere replantear cómo están estructuradas y lideradas las organizaciones para que los agentes puedan orquestarse en torno a resultados, no solo a tareas. Hemos identificado que existen tres imperativos esenciales.

1. Diseñar en función de los resultados y nombrar a los responsables de la misión.

Para diseñar en torno a resultados con IA agéntica, cada recorrido importante necesita un responsable de misión: alguien que defina la misión, dirija tanto a personas como a agentes de IA, y sea dueño del resultado. En ocasiones se trata de un gerente de producto o un responsable del recorrido encargado de supervisar y optimizar toda la experiencia del cliente (o del usuario); en otras, es necesario designar a alguien con autoridad y visibilidad interfuncional.

2. Liberar los silos de datos y aclarar la lógica empresarial.

Muchas empresas asumen que la IA requiere datos impecables y centralizados, pero no es así. Los agentes de IA pueden gestionar silos de datos siempre que cuenten con una lógica empresarial compartida claramente definida y con los datos contextuales adecuados a través de interfaces de programación de aplicaciones (APIs) y metadatos.

3. Desarrollar a los líderes y los mecanismos de control que requieren los sistemas inteligentes.

La gestión de la IA agéntica a gran escala exige esta distribución de responsabilidades: administradores del sistema con controles claros, profesionales de TI que gestionen la seguridad y el manejo de datos, y equipos de primera línea con la capacidad de intervenir cuando los resultados se desvían de la intención original. Cuando se hace correctamente, este equilibrio entre autonomía y supervisión convierte la gestión en un habilitador del crecimiento a escala, no en un freno para el progreso.

L

a IA agéntica se ha convertido rápidamente en una de las áreas más activas del desarrollo de la inteligencia artificial. Los agentes de IA representan un nivel de programación que se sitúa por encima de los modelos de lenguaje de gran tamaño (LLM) y que les permite trabajar hacia objetivos específicos. Esta capa extra de software puede recopilar datos, tomar decisiones, ejecutar acciones y adaptar su comportamiento en función de los resultados. Los agentes pueden interactuar con otros sistemas, aplicar razonamiento y operar de acuerdo con las prioridades y reglas que usted establezca.

Pero quizá el futuro más emocionante de la IA agéntica llegue en la forma de agentes personales, capaces de actuar de manera autodirigida en su nombre. Estos agentes funcionarán como su asistente personal, encargándose de la gestión de su calendario; realizando investigaciones y análisis dirigidos; encontrando, negociando y comprando bienes y servicios; seleccionando contenidos y encargándose de las comunicaciones básicas, al tiempo que aprenden y se optimizan a sí mismos a lo largo del proceso.

La idea de los agentes de IA personales se remonta a décadas atrás, pero la tecnología finalmente parece estar lista para su adopción generalizada. De hecho, empresas líderes ya están ofreciendo prototipos de agentes de IA personales a sus clientes, proveedores y otros grupos de interés, lo que plantea desafiantes cuestiones empresariales y técnicas.

¿Qué podría salir mal?

Piense en un agente de IA personal como alguien a quien usted podría contratar como empleado, contratista u otro tipo de agente en el mundo real. Antes de delegar responsabilidades, usted necesita saber si una persona o una empresa es confiable, honesta, competente y si, por ley, está obligada a velar por sus intereses.

Dependiendo de las funciones que desempeñen sus agentes de IA personales, será esencial disponer de versiones digitales de estos y otros controles. Esto se debe a que los riesgos asociados con empleados y contratistas deshonestos también se aplican a los agentes de IA personales. De hecho, dado el alcance y la velocidad potenciales de la IA agéntica, los usuarios deberán estar aún más seguros de que sus agentes de IA personales son dignos de confianza antes de entregarles las llaves de sus activos más valiosos.

Los riesgos más graves que deben abordarse incluyen:

— Vulnerabilidad frente a delincuentes.

— Manipulación en el comercio minorista por parte de mercadólogos e influencers pagados.

— Preferencia por patrocinadores y anunciantes.

— Susceptibilidad a la desinformación.

Unir soluciones legales, de mercado y técnicas

Una forma de garantizar la honestidad de los agentes de IA, al igual que ocurre con sus contrapartes humanas, es mediante una supervisión cuidadosa, auditorías y la limitación de su autonomía, estableciendo niveles de aprobación en función de la posible escala y el costo de las decisiones delegadas. Sin embargo, implementar una supervisión tan compleja sobre los agentes de IA anularía en gran medida los beneficios de ahorro de tiempo que supone autorizarlos para que actúen en nuestro nombre.

En su lugar, creemos que la necesidad de que los usuarios supervisen de manera minuciosa y constante a los agentes de IA puede reducirse significativamente si se apoya en una combinación de regulación pública y privada, esquemas de seguros, y hardware y software especializados.

¿Cómo empezar?

La tecnología de la IA agéntica ofrece un enorme potencial para hacer la vida más fácil y mejor, no solo para las empresas, sino también para las personas. Aun así, los usuarios no adoptarán agentes de IA a menos que tengan la confianza de que la tecnología es digna de confianza, de que existe tanto supervisión pública como privada sobre el comportamiento de los agentes, y de que hay herramientas adecuadas de monitoreo, reporte y personalización que sean independientes de los propios desarrolladores de los agentes.

Hacerlo bien, como ocurre con cualquier relación fiduciaria, requerirá una asignación clara de derechos y responsabilidades legales, con el respaldo de un mercado sólido de seguros y otras formas de protección de terceros y herramientas de cumplimiento. Los grupos industriales, los desarrolladores tecnológicos, las empresas de servicios al cliente, los emprendedores, los usuarios, los defensores de los consumidores y los legisladores deben unirse ahora para acelerar la adopción de esta tecnología clave.