IA generativa archivos - DirigeHoy PREMIUM https://dirigehoy.info/tag/ia-generativa/ Todo lo que un gerente tiene que saber Tue, 09 Jun 2026 19:26:15 +0000 es hourly 1 https://wordpress.org/?v=6.9.4 https://dirigehoy.info/wp-content/uploads/2022/02/cropped-identidad-32x32.png IA generativa archivos - DirigeHoy PREMIUM https://dirigehoy.info/tag/ia-generativa/ 32 32 242473640 Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes https://dirigehoy.info/por-que-los-ceos-deberian-pensarlo-dos-veces-antes-de-usar-ia-para-redactar-mensajes/ Tue, 09 Jun 2026 15:00:07 +0000 https://dirigehoy.info/?p=277791 No debería sorprender que los CEOs estén experimentando con el uso de IA generativa para redactar mensajes personales.

La entrada Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes se publicó primero en DirigeHoy PREMIUM.

]]>

Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes

S

i tiene que hacerlo, sea transparente al respecto.

Dada la eficacia con la que la IA puede imitar la escritura humana, no debería sorprender que los CEOs estén experimentando con su uso para redactar mensajes personales. Según un estudio de la Harvard Business School realizado en 2018, el 24% de la jornada laboral de un ejecutivo promedio se destina a la comunicación electrónica. Pero ¿qué pasaría si los CEOs comenzaran a redactar las comunicaciones dirigidas a los empleados utilizando IA generativa?

El año pasado, un grupo de investigadores estudió esta cuestión en Zapier, una empresa estadounidense de software con más de 700 empleados. El profesor Prithwiraj Choudhury, de la Harvard Business School, junto con sus colegas Bart Vanneste (University College London), Xi Kang (Vanderbilt) y Amirhossein Zohrehvand (Leiden University), querían determinar si los empleados podían distinguir entre mensajes escritos por IA y aquellos redactados por el CEO de Zapier, Wade Foster. Utilizando un LLM desarrollado por empleados de la compañía, Choudhury y sus colegas entrenaron un chatbot con mensajes de Slack y correos electrónicos de Foster, declaraciones públicas y otras comunicaciones. El “Wade Bot”, como comenzaron a llamarlo los investigadores, fue diseñado específicamente para escribir como Foster.

“La IA y la automatización están teniendo un gran impacto en cómo y dónde trabajamos”, afirma Choudhury. “Pero cuando pensamos en la próxima frontera de la IA generativa, una de las posibilidades es que los bots personales se comuniquen, asistan a reuniones, escuchen conversaciones y hablen en nuestro nombre. Queríamos determinar hasta qué punto esto podría ser posible hoy en día”.

Los investigadores recopilaron preguntas de 105 empleados para que Foster las respondiera. Tanto el CEO como el Wade Bot dieron sus respuestas, y luego los empleados intentaron identificar cuáles pertenecían a cada uno. Lograron identificar correctamente las respuestas escritas por IA el 59% de las veces.

Hubo otro hallazgo sorprendente. Cuando se pidió a los empleados que evaluaran si las respuestas eran útiles, aquellas que creían que habían sido generadas por IA recibieron calificaciones más bajas, incluso cuando en realidad las había escrito Foster.

Posteriormente, los investigadores realizaron un segundo estudio para determinar si los resultados serían diferentes cuando los evaluadores no tuvieran familiaridad con quien escribía. Reclutaron a 218 personas en Estados Unidos y les pidieron leer respuestas que los participantes creían que habían dado los CEOs durante las conferencias sobre resultados financieros de sus empresas. Mientras que algunas respuestas provenían de conferencias reales, otras fueron generadas por una herramienta de IA que imitaba el estilo de esos CEOs. El estudio encontró que, cuando las personas pensaban que una respuesta había sido creada por IA, la calificaban como menos útil, incluso si provenía de un ser humano. Por el contrario, cuando creían que la respuesta había sido dada por un CEO, la consideraban más útil, incluso si había sido generada por una IA.

En pocas palabras, las personas confían más y valoran más las declaraciones que creen que provienen de un ser humano que en aquellas que atribuyen a la tecnología. Esto sugiere que, aunque la IA puede producir información útil, la percepción de las personas desempeña un papel muy importante en cómo se recibe dicha información.

Aun así, la mayoría de los líderes utilizarán IA generativa de una forma u otra. Según una encuesta de Deloitte realizada en 2024, el 50% de los CEOs en Estados Unidos afirma que sus empresas ya han automatizado la creación de contenido mediante esta tecnología. El 75% dice haber utilizado o estar utilizando personalmente la IA generativa. Si decide hacer lo mismo, Choudhury recomienda seguir tres lineamientos:

1. Sea transparente.

Si sus empleados descubren que ha delegado sus comunicaciones a una herramienta sin informarles, podrían comenzar a creer que cada mensaje que envía ha sido redactado por un bot. La transparencia es fundamental para generar confianza y reducir la aversión que muchas personas sienten hacia la IA generativa. Comunique con claridad cuál es la función de la herramienta y cuáles son sus ventajas. Explique a los empleados qué considera un uso aceptable de esta tecnología, cuáles son sus directrices para utilizar el texto y los datos que generan sus respuestas, y qué tipos de datos utiliza o evita al crear instrucciones y entrenar a los bots.

Su empresa debería contar con reglas que definan hasta qué punto se permite (e incluso se espera) que los empleados utilicen la IA. Evidentemente, usted mismo debe seguir esas reglas, pero también debe informar a los demás sobre cómo está utilizando la tecnología dentro de esos parámetros. Esto ayudará a fomentar un uso constructivo y a responder las dudas que otros puedan tener al respecto.

2. Utilice la IA para mensajes impersonales.

Según la investigación de Choudhury, esta tecnología es más eficaz para comunicaciones formales, como cartas a accionistas o memorandos estratégicos. Evite utilizarla para comunicaciones personales, especialmente con personas que lo conocen bien.

En el experimento de Zapier, los empleados con más antigüedad tuvieron una mayor probabilidad de detectar las respuestas generadas por IA. Por ejemplo, quienes llevaban tres años o más en la empresa tuvieron una tasa de acierto más alta en sus identificaciones (62%) que los empleados más nuevos (58%). Choudhury cree que la familiaridad de estos trabajadores con el estilo de comunicación de Foster limitó la capacidad del bot para imitarlo con éxito. Sin embargo, el estilo personal de un CEO es mucho menos perceptible en una comunicación formal que en un correo electrónico dirigido a un colaborador o en una publicación de LinkedIn.

“Actualmente, el uso previsto debería centrarse realmente en comunicarse con desconocidos o automatizar las partes más rutinarias y tediosas de la escritura”, señala Choudhury. “Podría utilizar IA para responder preguntas sobre su estrategia de precios o sobre lo que espera que ocurra con las tasas de interés durante el próximo año. Pero yo no la utilizaría para redactar un correo electrónico dirigido a un miembro de la junta directiva sobre sus últimas vacaciones”.

3. Revise su trabajo tres veces.

No confíe en la IA generativa para producir respuestas de manera autónoma. La tecnología se equivoca con frecuencia y tiende a depender en exceso de jerga y palabras de moda. Estos desafíos representan riesgos importantes para los CEOs, cuyos mensajes pueden tener un impacto significativo en empleados, accionistas y clientes. En lugar de limitarse a copiar y pegar las respuestas generadas por la IA en un documento, revise y verifique cada palabra, especialmente cuando se trate de mensajes importantes o delicados. También debería pedir a un editor que revise las comunicaciones generadas con ayuda de la tecnología (o, en realidad, cualquier comunicación) para asegurarse de que su significado, tono y personalidad coincidan con lo que usted pretende transmitir.

“Nunca presione ‘enviar’ sin leer y verificar la información del mensaje”, afirma Choudhury. “La IA generativa es una herramienta extraordinaria que ahorrará mucho tiempo a los CEOs, pero no creo que pueda dejar que funcione por completo de forma autónoma. Incluso si responde incorrectamente una sola pregunta, podría enfrentarse a enormes consecuencias no deseadas”.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

If you have to do it, be transparent about it.

Given how effective AI is at mimicking human writing, it should come as no surprise that CEOs are experimenting with using it to draft personal messages. Harvard Business School research from 2018 calculated that 24% of the average executive’s day is allocated to electronic communication. But what would happen if CEOs began drafting employee communications using gen AI?

A group of researchers studied this question last year at Zapier, an American software company with more than 700 employees. Harvard Business School professor Prithwiraj Choudhury and colleagues Bart Vanneste (University College London), Xi Kang (Vanderbilt), and Amirhossein Zohrehvand (Leiden University) wanted to determine whether employees could distinguish between messages written by AI and those written by Zapier CEO Wade Foster. Using a large language model developed by the company’s employees, Choudhury and his colleagues trained a chatbot on Foster’s Slack and email messages, public statements, and other communications. The “Wade Bot,” as the researchers began calling it, was specifically designed to write like Foster.

“AI and automation are having a major effect on how and where we work,” Choudhury says. “But when we think about the next frontier for generative AI, one of the possibilities is that personal bots will communicate, attend meetings, listen in, and speak on our behalf. We wanted to determine the extent to which this might be possible today.”

The researchers crowdsourced questions for Foster to reply to from 105 employees. The CEO and the Wade Bot both produced answers, then employees tried to tell them apart. They correctly identified AI-written responses 59% of the time.

There was another surprising finding. When the employees were asked to assess whether the answers were useful, the ones they believed to be AI-generated were rated as less helpful, even when Foster actually wrote them.

The researchers then conducted a second study to determine whether the findings would be different if evaluators had no familiarity with the writer. They recruited 218 people in the United States and asked them to read answers that the participants believed were given by CEOs during company earnings calls. While some answers were from real earnings calls, others were generated by an AI tool that mimicked the CEOs’ styles. The study found that when people thought an answer was created by AI, they rated it as less helpful even if it came from a human. Conversely, when they thought a CEO had given an answer, they found it more helpful even if it was from AI.

In simple terms, people place more trust in and find more value in statements they believe come from a human rather than technology. This suggests that while AI can produce helpful information, people’s perceptions play a big role in how it is received.

Still, most leaders will use gen AI in some form or fashion. Fifty percent of U.S. CEOs say their companies have already automated content creation with it, according to a 2024 Deloitte survey. Seventy-five percent say they have personally used or are using the technology. If you decide to do the same, Choudhury recommends following three guidelines:

1. Be transparent. If your employees discover that you’ve outsourced your communications without telling them, they may start to believe every message you send is drafted by a bot. Transparency is essential to building trust and allaying people’s aversion to gen AI. Clearly communicate the tool’s role and benefits. Tell employees what you think is acceptable use of it, what your guidance is for pulling text and data from its responses, and which data you use and avoid when prompting and training bots.

Your company should have rules for the extent to which employees are allowed, and even expected, to use AI. Follow the rules yourself, obviously, but also let people know how you’re drawing on the technology within these parameters. This will help encourage constructive usage and answer related questions others have.

2. Use AI for impersonal messaging. The technology is more effective for formal communications, such as shareholder letters or strategy memos, according to Choudhury’s research. Avoid it for personal communications, especially with people who know you well.

In the Zapier experiment, employees with longer tenures were more likely to spot AI-generated responses. Those who had been around three years or more, for example, had a higher accuracy rate in their guesses (62%) than newer workers did (58%). Choudhury believes their familiarity with Foster’s communication style limited the bot’s success in imitating him. But a CEO’s personal style is much less discernible in formal writing than it is in an email to a subordinate or a post on LinkedIn.

“The target use case today should really be communicating with strangers or automating the drab parts of writing,” Choudhury says. “You could use AI to answer questions about your pricing strategy or what you expect to happen to interest rates for the next year. But I wouldn’t use it to write an email to a board member about your last vacation.”

3. Triple-check your work. Don’t rely on gen AI to autonomously produce answers. The technology is often wrong, and it tends to rely too heavily on jargon and buzzwords. These challenges present big risks for CEOs, whose messages can have a dramatic impact on employees, shareholders, and customers. Rather than simply copying and pasting AI’s responses into a document, review and fact-check every word—especially for important and sensitive messages. You should also ask an editor to review your technology-generated communications (or any communications, really) to ensure their meaning, tone, and personality align with what you intended.

“Never press send without reading and fact-checking the message,” Choudhury says. “Gen AI is a great tool that will save CEOs a lot of time, but I don’t think you can let it run completely on its own. Even if it answers only one question incorrectly, you will suffer huge unintended consequences.”

La entrada Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes se publicó primero en DirigeHoy PREMIUM.

]]> 277791 La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más) https://dirigehoy.info/la-ia-generativa-podria-solucionar-las-evaluaciones-de-desempeno-o-empeorarlas-aun-mas/ Wed, 27 May 2026 12:00:35 +0000 https://dirigehoy.info/?p=277755 La IA puede alejar las evaluaciones de desempeño de las narrativas laborales y acercarlas a evidencia directa del trabajo en la práctica.

La entrada La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más) se publicó primero en DirigeHoy PREMIUM.

]]>

La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más)

L

as empresas están implementando rápidamente sistemas de IA generativa para agilizar las evaluaciones de desempeño. Estos sistemas demuestran capacidades impresionantes, pero hasta ahora, la mayoría de las organizaciones los utilizan para elaborar, con mayor rapidez, versiones más pulidas de las evaluaciones narrativas tradicionales.

Sin embargo, que algo esté pulido no significa que sea más confiable. Al suavizar la forma en que los gerentes describen el desempeño, estos sistemas pueden hacer que las evaluaciones parezcan más consistentes y creíbles de lo que realmente son, ocultando las inconsistencias y puntos ciegos que las han definido durante mucho tiempo. No obstante, la misma tecnología podría hacer algo mucho más valioso: alejar las evaluaciones de desempeño de las narrativas sobre el trabajo y acercarlas a evidencia directa del trabajo en la práctica: lo que las personas realmente hicieron, decidieron e influyeron.

El enfoque equivocado

Para aliviar la carga de las evaluaciones de desempeño, muchas empresas están utilizando la IA para redactar narrativas de evaluación. A simple vista, esto parece un avance. Pero, en realidad, se corre el riesgo de amplificar el problema de fondo. Los documentos producidos con IA tienden a converger hacia el mismo tono fluido y seguro. La variación que antes distinguía una evaluación cuidadosa de un elogio genérico está desapareciendo y convirtiéndose en una voz persuasiva, pero estandarizada.

Esta homogeneización afecta la presentación, no el contenido. Los gerentes siguen trabajando a partir de observaciones incompletas e impresiones subjetivas. La IA simplemente hace que todas las narrativas suenen igual de convincentes. El resultado son evaluaciones que parecen más confiables de lo que realmente son, haciendo que la información deficiente sea más difícil de detectar.

Un mejor camino

En lugar de ayudar a los gerentes a escribir historias más convincentes sobre el desempeño, la IA podría ayudarlos a identificar y examinar episodios reales de trabajo.

Los sistemas de IA podrían analizar patrones de interacción entre empleados para identificar evidencia de competencias de alto nivel que las métricas tradicionales pasan completamente por alto. Podrían examinar las redes de comunicación para identificar a los empleados que constantemente ayudan a otros a resolver problemas, analizar los patrones de toma de decisiones en las discusiones de proyectos para detectar el pensamiento estratégico o mapear los flujos de influencia a través de cadenas de correos electrónicos y las transcripciones de las reuniones para revelar el liderazgo en acción.

Aprovechar el potencial de la IA generativa

Las bases necesarias ya están claramente presentes. Esto es lo que los altos directivos pueden hacer ahora para convertir lo posible en una realidad:

1. Replantear la conversación sobre desempeño en torno a momentos decisivos, en lugar de etiquetas de rasgos y afirmaciones de excelencia.

En lugar de pedir a los gerentes que describan el “liderazgo”, el “pensamiento estratégico” o la “capacidad para navegar la ambigüedad” de un empleado, las evaluaciones de desempeño deberían plantear una pregunta diferente: ¿Qué momentos en el trabajo de esta persona revelan con mayor claridad esas capacidades? Un solo episodio decisivo (en el que un empleado desafió una suposición equivocada, redirigió un proyecto que estaba fracasando o alineó a distintas partes interesadas en torno a una decisión difícil) suele revelar más sobre sus capacidades que una página entera de lenguaje evaluativo. La IA puede ayudar a identificar estos episodios analizando registros de proyectos, comunicaciones y distintos materiales de trabajo para detectar los puntos de inflexión donde el juicio tuvo mayor relevancia.

2. Dirigir las herramientas de IA ya implementadas en toda la empresa para identificar evidencia conductual, en lugar de solo pulir la narrativa.

La mayoría de las empresas ya utilizan asistentes de IA integrados en las herramientas de trabajo cotidianas. En la actualidad, estos sistemas suelen utilizarse para resumir documentos o ayudar a los gerentes a redactar mejores textos. En su lugar, las organizaciones deberían orientarlos hacia una tarea diferente: analizar patrones de interacción entre empleados para identificar evidencia de competencias de alto nivel.

3. Construir una gobernanza que equilibre la transparencia con el control de los empleados y evite desviaciones hacia la vigilancia excesiva.

La transición hacia la evidencia conductual seleccionada por IA requiere una gobernanza que equilibre la verificación, el control de los empleados y límites claros.

— Verificación: La IA debe servir como un curador que señale fuentes verificables, mientras que los humanos conservan todo el juicio interpretativo.

— Control de los empleados: Dar a los empleados control sobre su propio portafolio de evidencia.

— Límites claros para evitar la expansión del alcance: Las evaluaciones de desempeño deben basarse en documentos de trabajo oficiales y no en comunicaciones informales o mensajes privados.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Enterprises are rapidly deploying generative AI systems to streamline performance reviews. These systems demonstrate impressive capability, but so far, most organizations are using them to more quickly produce more polished versions of traditional narrative reviews.

Polished, however, is not the same as reliable. By smoothing out how managers describe performance, these systems can make evaluations feel more consistent and credible than they are, masking the inconsistencies and blind spots that have long defined them. Yet the same technology could do something far more valuable: shift performance reviews away from narratives about work and toward direct evidence of work in action: what people actually did, decided and influenced.

THE WRONG APPROACH

To ease the burden of performance evaluations, many companies are channeling AI into drafting review narratives. On the surface, this seems like progress. In reality, it risks amplifying the underlying problem. Documents produced with AI tend to converge toward the same fluent, confident tone. The variation that once distinguished careful evaluation from generic praise is collapsing into a persuasive but standardized voice.

This homogenization affects presentation, not substance. Managers are still working from incomplete observations and subjective impressions. AI simply makes all narratives sound equally convincing. The result is reviews that appear more dependable than they are, making poor information harder to detect.

A BETTER PATH

Instead of helping managers write more compelling stories about performance, AI could help them surface and examine actual episodes of work.

AI systems could analyze patterns of employee interaction to surface evidence of higher-order competencies that traditional metrics miss entirely. They could examine communication networks to identify employees who consistently help others solve problems, analyze decision-making patterns in project discussions to spot strategic thinking or map influence flows across email threads and meeting transcripts to reveal leadership in action.

TAPPING THE POTENTIAL OF GEN AI

The building blocks are demonstrably in place. Here’s what senior leaders can do now to turn what is possible into a reality:

1. Reframe the performance conversation around consequential moments rather than trait labels and assertions of excellence.

Instead of asking managers to describe an employee’s “leadership,” “strategic thinking,” or “ability to navigate ambiguity,” performance reviews should ask a different question: What moments in this person’s work most clearly reveal those capabilities? A single consequential episode — where an employee challenged a flawed assumption, redirected a failing project or aligned stakeholders around a difficult trade-off — often reveals more about capability than a page of evaluative language. AI can help identify these episodes by scanning project records, communications and artifacts to surface the inflection points where judgment mattered most.

2. Direct AI tools already deployed across the enterprise to surface behavioral evidence rather than polish narrative.

Most enterprises already deploy AI assistants embedded in everyday work tools. Today these systems are typically used to summarize documents or help managers produce more polished narratives. Organizations should instead direct them toward a different task: analyzing patterns of employee interaction to surface evidence of higher-order competencies.

3. Build governance that balances transparency with employee control and prevents surveillance drift.

The shift toward AI-curated behavioral evidence requires governance that balances verification, employee control and clear boundaries.

—Verification: AI should serve as a curator that points to verifiable sources, while humans retain all interpretive judgment.

—Employee control: Give employees control over their own evidence portfolio.

—Clear boundaries to prevent scope creep: Performance reviews should rely on formal work artifacts rather than casual communications or private messages.

La entrada La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más) se publicó primero en DirigeHoy PREMIUM.

]]> 277755 ¿Cuáles son los problemas de su empresa en materia de IA? https://dirigehoy.info/cuales-son-los-problemas-de-su-empresa-en-materia-de-ia/ Fri, 22 May 2026 14:00:33 +0000 https://dirigehoy.info/?p=277721 El “Ethical Nightmare Challenge” (ENC) es un marco de trabajo que puede integrarse con programas existentes de gestión de riesgos de IA.

La entrada ¿Cuáles son los problemas de su empresa en materia de IA? se publicó primero en DirigeHoy PREMIUM.

]]>

¿Cuáles son los problemas de su empresa en materia de IA?

A

ntes de que la IA generativa irrumpiera en escena a finales de 2022, las empresas seguían un enfoque más o menos estándar para gestionar los riesgos que planteaba la IA: desarrollaban programas de riesgo ético en materia de IA (también llamados programas de IA responsable o de gobernanza de la IA).

Estos programas eran diseñados por ejecutivos y se enfocaban principalmente en redactar e implementar políticas de IA a nivel empresarial, destinadas a explicar cómo la organización cumpliría con sus valores éticos en materia de IA (o principios o pilares, como también se les conoce). Cuando apareció la IA generativa, las organizaciones actualizaron sus programas para adaptarse a la nueva tecnología. Ahora que los agentes de IA están ganando terreno, es probable que la mayoría intente actualizarlos de nuevo.

Eso sería un error. El enfoque estándar de la IA responsable está fundamentalmente roto.

No llego a esta conclusión a la ligera. Es el resultado de observar cómo ha evolucionado el panorama de la IA de tal forma que se ha creado un escenario de riesgos realmente complejo.

El enfoque estándar es demasiado lento, ambiguo y difícil de comunicar. En lugar de centrarse en valores y políticas, las empresas estarían mejor si se enfocaran en sus peores escenarios posibles: sus problemas éticos relacionados con la IA. Esto se debe a que este enfoque les permite aplicar una metodología novedosa y de rápida implementación que funciona para todo, desde IA limitada hasta la gestión de agentes de IA.

Durante el último año, he desarrollado un marco de trabajo que puede ponerse a prueba y escalarse rápidamente, y que además puede integrarse con programas existentes de gestión de riesgos de IA. He aquí cómo funciona.

El marco de trabajo

El “Ethical Nightmare Challenge” (ENC) plantea tres preguntas:

— ¿Cuáles son los problemas éticos de su organización en relación con la IA?

— ¿Qué recursos desarrollará para evitar esos problemas?

— ¿Cómo capacitará a su gente para utilizar esos recursos de manera efectiva?

Implementación del marco de trabajo

Una vez identificados sus problemas, es momento de pasar a la acción. Esto se logra creando equipos de Ethical Nightmare Challenge. Estos equipos pueden crearse en cualquier nivel de la organización y en cualquier momento, y son pequeños (por ejemplo, de cinco a ocho personas) y multifuncionales (con al menos un perfil tecnológico). Lo más importante es que deben ser ágiles.

La misión central de cada equipo ENC es trabajar en torno a estas tres preguntas. Estos equipos participan en la resolución colaborativa de problemas relacionados con los posibles problemas en materia de IA que han identificado. Cuando las tres preguntas se repiten de manera consistente en todos los niveles de una organización (juntas directivas, alta dirección, departamentos, equipos de proyecto y colaboradores individuales), se crea un lenguaje compartido que hace posible la comunicación y la colaboración entre todos esos niveles.

La naturaleza multifuncional de estos equipos es esencial para su éxito. Un científico de datos puede identificar fuentes técnicas de posibles problemas que un especialista en marketing jamás vería. Un profesional de marketing entiende el comportamiento del consumidor de maneras que permiten identificar ciertos riesgos técnicos que los ingenieros podrían pasar por alto. Un diseñador de producto puede detectar formas en que las cosas podrían salir mal y que resultarían invisibles para el área legal.

Integración del marco de trabajo

Las políticas existentes, los comités de riesgo y los marcos de gobernanza no desaparecen bajo el enfoque ENC: se convierten en recursos de los que los equipos ENC pueden apoyarse.

Un comité de riesgos de IA ya existente, en lugar de ser la primera línea de defensa para cada caso de uso de IA de alto riesgo, se convierte en una instancia excepcional, convocada cuando un equipo ENC a nivel de proyecto ha identificado un problema que no puede mitigar adecuadamente, o cuando el nivel de riesgo es lo suficientemente alto como para justificar una revisión de alto nivel. Esto es operativamente crucial: a medida que aumenta la adopción de IA, también aumentan los casos de alto riesgo, convirtiendo al comité de riesgo en un cuello de botella para la innovación mientras los equipos esperan ser evaluados y recibir dirección. La solución es crear una primera línea de defensa más capaz mediante la capacitación ENC.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Before generative AI burst onto the scene in late 2022, companies took a more or less standard approach to managing the risks introduced by artificial intelligence: They developed AI ethical risk (or Responsible AI or AI Governance) programs. These programs were designed by executives and focused primarily on writing and implementing enterprisewide AI policies that are meant to explain how the organization will live up to its AI ethics values (or principles or pillars, as they are also called). When generative AI showed up, organizations updated their programs to accommodate the new technology. Now that AI agents are gaining traction, most will likely try to update yet again.

That would be a mistake. The standard approach to Responsible AI is fundamentally broken.

I do not come to this conclusion lightly. It is the result of seeing how the AI landscape has evolved in ways that create a diabolically complex risk landscape.

The standard approach is too slow, too vague and too hard to communicate. Instead of focusing on values and policy, companies would be better served by focusing on their worst-case scenarios — their AI ethical nightmares. That’s because this focus allows them to apply a novel, rapidly implementable approach that works for everything from narrow AI to governing AI agents.

Over the past year, I’ve developed a framework that can be rapidly piloted and scaled, and can integrate with existing AI risk programs. Here’s how it works.

THE FRAMEWORK

The Ethical Nightmare Challenge asks three questions:

— What are the ethical nightmares of your organization as they pertain to AI?

— What resources will you build to avoid those nightmares?

— How will you train your people to use those resources effectively?

IMPLEMENTING THE FRAMEWORK

With your nightmares identified, it’s time to implement. This is done by creating Ethical Nightmare Challenge, or ENC teams. These teams can be created at any level of the organization and on any timeline, and are small (say, five to eight people) and cross functional (with at least one technologist). Importantly, they should be fast.

The core mission of each ENC team is to work through the three questions. They are engaged in collaborative problem solving around the potential AI nightmares they’ve identified. When the three questions are echoed consistently at every level of an organization — board, C-suite, department, project team, individual contributor — they create a shared language that makes communication and collaboration across all of those levels possible.

The cross-functionality of these teams is essential to their success. A data scientist can identify technical sources of nightmares that a marketer would never see. A marketer understands consumer behavior in ways that make certain technical nightmares legible that engineers might miss. A product designer can see ways that things can go wrong that are invisible to legal.

INTEGRATING THE FRAMEWORK

Existing policies, risk boards and governance frameworks don’t disappear under the ENC approach — they become resources that ENC teams can draw on.

An existing AI risk board, rather than being the first line of defense for every high-risk AI use case, becomes the exception, called upon when a project-level ENC team has identified a nightmare it cannot adequately mitigate, or when the stakes are high enough to warrant senior-level review. This is operationally crucial: as AI adoption increases, high risk cases increase as well, turning the risk board into an innovation bottleneck as teams wait to be reviewed and receive direction. Creating a more capable first line of defense through ENC training is the solution.

La entrada ¿Cuáles son los problemas de su empresa en materia de IA? se publicó primero en DirigeHoy PREMIUM.

]]> 277721 Lo que los líderes deben saber sobre la auditoría de la IA https://dirigehoy.info/lo-que-los-lideres-deben-saber-sobre-la-auditoria-algoritmica/ Fri, 08 May 2026 14:00:54 +0000 https://dirigehoy.info/?p=277579 He aquí lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.

La entrada Lo que los líderes deben saber sobre la auditoría de la IA se publicó primero en DirigeHoy PREMIUM.

]]>

Lo que los líderes deben saber sobre la auditoría de la IA

E

n los últimos años, la IA ha pasado de ser un ámbito exclusivo de los equipos técnicos a convertirse en una herramienta de uso generalizado. Antes, la IA operaba detrás de escena (por ejemplo, impulsando productos de consumo o moldeando los contenidos que aparecen en las redes sociales); ahora, el público en general interactúa directamente con asistentes virtuales y chatbots basados en IA generativa. Este aumento en el uso también ha despertado una mayor conciencia sobre los riesgos que pueden acompañar a los sistemas de IA. 

Todo esto ha impulsado la aparición de una nueva profesión: el auditor algorítmico.

Aunque las auditorías se están convirtiendo en un componente central del trabajo con IA, no siguen un proceso predeterminado ni lineal; más bien, están formadas por una red de decisiones distintas, tanto desde el punto de vista empresarial como técnico. A continuación, explicamos lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.

Cuatro desafíos de las auditorías algorítmicas

¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas. Parte de la dificultad del proceso radica en convertir esas preguntas en algo concreto y operativo, identificando los datos y sistemas adecuados para responderlas.

Este proceso presenta cuatro desafíos comunes:

  1. Las auditorías no siguen una línea recta

Con frecuencia, los auditores se encuentran tomando muchos desvíos en el camino, que van desde la pregunta de investigación hasta la respuesta. A medida que conocen mejor el sistema que están auditando y los datos que lo sustentan, a menudo tienen que ajustar el rumbo.

  1. La gobernanza de datos es un caos

No es raro que los equipos técnicos dediquen la mayor parte de su tiempo a encontrar los datos adecuados y asegurarse de que puedan interpretarlos correctamente.

  1. La confianza interna es esencial

El equipo responsable del sistema auditado puede sentirse amenazado ante la idea de que su trabajo será evaluado, especialmente cuando los auditores son ajenos a su equipo. Esto puede generar un entorno de poca confianza, en el que resulta difícil fomentar la colaboración y donde los incentivos no están alineados.

  1. El enfoque está puesto en el pasado

A menos que el sistema esté siendo monitoreado en tiempo real, las auditorías se centran en el pasado. Esto genera ciertos desafíos técnicos: el proceso solo será exitoso en la medida en que los auditores logren reconstruir lo ocurrido.

Lo que los líderes pueden hacer

Antes de que una organización inicie un proceso de auditoría externa, debe seguir ciertos pasos para prepararse.

— Cultura e incentivos: La cultura siempre se define desde arriba. Los líderes deben dejar claro que las auditorías forman parte del trabajo cotidiano, y que no son medidas punitivas o una carga adicional.

— Diseñar la auditoría: Aunque se necesita tiempo y recursos para desarrollar la capacidad de auditoría interna y determinar los procesos adecuados, contar con un equipo interno eficaz puede suponer una ventaja a largo plazo. Por otro lado, los auditores externos no generan fricciones entre las distintas partes de la empresa, lo que podría ser una de las razones por las que a menudo se recurre a proveedores externos (aunque resulten más costosos).

Durante una auditoría

A pesar de que se haya llevado a cabo una preparación adecuada, la auditoría en sí misma puede resultar más complicada de lo que la mayoría esperaría. Los líderes empresariales deben ser conscientes de ello, aceptar el desorden inherente al proceso y ayudar aportando claridad.

— Dar forma al proceso: Los líderes deben tenerlo presente y asegurarse de recibir actualizaciones periódicas sobre las decisiones estratégicas más recientes, para poder ofrecer orientación cuando sea necesario.

También es fundamental que exijan una documentación exhaustiva de todas las decisiones técnicas, incluidas las compensaciones y cualquier métrica indirecta que se haya considerado. Esto ayudará a interpretar los resultados dentro de su contexto específico y con sus limitaciones.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

In the past few years, artificial intelligence has gone from being the prerogative of technical teams to a general use tool. While AI once worked behind the scenes — powering consumer products, for instance, or shaping social media feeds — now the general public interacts directly with virtual assistants and generative AI-based chatbots. This increase in usage has also sparked a growing awareness of the hazards that can come with AI systems.

All of this has fueled the growth of a new job: the algorithmic auditor.

While audits are becoming a core feature of working with AI, they don’t have a predetermined process that follows a straight line; rather, they are a made of web of different decisions, both from the business and the technical side. Here’s what business leaders need to know about how these audits work and how they can help guide the process.

FOUR CHALLENGES OF ALGORITHMIC AUDITS

What is an algorithmic audit? Simply put, it is a way of answering a question about an algorithmic system by analyzing data on how users and systems interact. Part of the difficulty of the process is to make such questions concrete and operationalize them by finding the right data and system to answer them.

This process has four common challenges:

1. Audits Are Not a Straight Line

Auditors commonly find themselves taking many detours on the path from the research question to the answer. As they learn about the system they’re auditing and the data behind it, they often have to adjust course.

2. Data Governance Is Messy

It’s not uncommon for technical teams to spend the majority of their time looking for the right data and making sure they can make sense of it.

3. Internal Trust Is Essential

The team that owns the audited system might feel threatened with their work being judged, especially when the auditors are external to their team. This might create a low-trust environment where it is difficult to foster collaboration and where incentives are misaligned.

4. The Focus Is on the Past

Unless the system is getting monitored in real time, audits focus on the past. That creates some technical challenges: the process will be only as successful as the auditors are able to recreate the past.

WHAT LEADERS CAN DO

Before an organization starts the external auditing process, it should take certain steps to prepare.

Culture and incentives.

Culture always comes from the top. Leaders need to show that audits are part of daily work, not punitive measures or extra work.

Designing the audit.

While it takes time and resources to build internal auditing capacity and figure out the right processes, having a performant internal team might be an advantage over the longer term. On the other hand, external auditors don’t cause friction between different parts of the company — arguably one of the reasons why more expensive external vendors are often used.

DURING AN AUDIT

Even with all the right preparation, the audit itself might be messier than most would hope. Business leaders should be aware and embrace the natural disorder of the process and help by bringing clarity to it.

Shaping the process.

Leaders should be aware of that and make sure they are regularly updated on the latest high-level decisions so that they can offer guidance when needed. ons.

It is also vital that they demand thorough documentation of all technical decisions, including any trade-offs or proxy metrics considered. This will help interpret the results in the right context and limitations.

La entrada Lo que los líderes deben saber sobre la auditoría de la IA se publicó primero en DirigeHoy PREMIUM.

]]> 277579 El fin del software empresarial estandarizado https://dirigehoy.info/el-fin-del-software-empresarial-estandarizado/ Fri, 08 May 2026 13:00:39 +0000 https://dirigehoy.info/?p=277607 Las empresas de software empresarial se enfrentan a una pregunta importante: ¿Cómo replantear sus flujos de trabajo y decidir cuáles desarrollar, integrar, colaborar o adquirir?

La entrada El fin del software empresarial estandarizado se publicó primero en DirigeHoy PREMIUM.

]]>

El fin del software empresarial estandarizado

L

a IA generativa está disolviendo la lógica económica que convirtió al software empresarial estandarizado en la única opción viable para la mayoría de las empresas. Lo que lo sustituya no estará determinado únicamente por las capacidades en rápida evolución de esta nueva tecnología, sino también por líderes dispuestos a plantearse una pregunta más exigente: ¿Qué flujos de trabajo necesitamos realmente controlar?

Hasta hace poco, las organizaciones adaptaban sus flujos de trabajo a soluciones de software estandarizadas. Las convenciones de flujo de trabajo de un proveedor se convertían, por defecto, en las convenciones de flujo de trabajo de la empresa. Ahora, las compañías necesitan decidir estratégicamente qué flujos de trabajo quieren controlar por sí mismas.

Cuatro modelos que empiezan a tomar forma

Comienzan a surgir un pequeño número de enfoques claramente diferenciados. Cada uno refleja una respuesta distinta a una misma pregunta de fondo: ¿Dónde debe situarse el límite entre lo que una organización desarrolla por sí misma y aquello que depende de terceros para obtenerlo?

  1. Desarrollar

Algunas empresas optarán por construir sus propios sistemas directamente sobre modelos fundacionales. Estos sistemas no se organizan en función de las convenciones de flujo de trabajo del proveedor, sino en torno a las tareas específicas que la organización pretende llevar a cabo.

Una buena forma de comprobarlo es ver si el sistema incorpora datos o una lógica de decisión verdaderamente distintivos. De no ser así, su desarrollo (aunque en un principio parezca sencillo) podría ser una apuesta excesiva, y la integración o la colaboración podrían aportar un valor similar con mucha menos complejidad.

  1. Integrar

Está surgiendo una segunda vía para las organizaciones que buscan flexibilidad sin asumir una propiedad total. En este modelo, los proveedores ofrecen una estructura base, plantillas y componentes fundamentales que los usuarios de negocio pueden configurar según sus necesidades.

Los equipos deben estar atentos a señales de que la diferenciación crítica no esté siendo limitada por los márgenes de la plataforma. Cuando la personalización se siente forzada o engorrosa, puede ser señal de que es necesario desarrollar soluciones de forma más directa o colaborar de manera más profunda.

  1. Colaborar

Un tercer modelo implica pasar de comprar software empresarial a colaborar con proveedores para construir soluciones a medida. Los proveedores trabajan con los clientes (con ingenieros integrados en el proyecto) para definir con claridad la tarea, y después desarrollar sistemas personalizados diseñados en función de ese resultado.

La ventaja es la rapidez y la alineación; el riesgo es la dependencia de experiencia externa. Con el tiempo, las empresas deberían evaluar si la dependencia recurrente de socios externos está ocultando una oportunidad para internalizar una capacidad estratégicamente importante o, por el contrario, si aquello que se está construyendo carece de singularidad y podría adquirirse directamente como producto final.

  1. Adquirir un producto final

El modelo más radical va más allá del software. En lugar de adquirir herramientas, las empresas contratan el producto final en sí mismo. Una organización podría dejar de adquirir licencias de software de contabilidad y gestionarlo internamente, y en su lugar contratar servicios de información financiera precisa, cumplimiento normativo y presentación de informes.

En este modelo, los proveedores no proporcionan herramientas, sino que asumen la responsabilidad por los resultados. Esto puede simplificar significativamente las operaciones, pero también traslada el control y requiere un alto grado de confianza en el proveedor.

Lo que viene después

Las empresas de software empresarial se enfrentan a una pregunta importante: ¿Cómo replantear sus flujos de trabajo y decidir cuáles desarrollar, integrar, colaborar o adquirir?

Las organizaciones que aborden esta pregunta con claridad descubrirán que ofrece algo más valioso que una estrategia de software. Les proporciona una comprensión más precisa de dónde crean valor y por qué ese valor es difícil de replicar.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Generative artificial intelligence is dissolving the economic logic that made standardized enterprise software the only practical choice for most companies. What replaces it will be shaped not just by the rapidly evolving capabilities of this new technology, but by leaders willing to ask a harder question: Which workflows do we actually need to own?

Until recently, organizations adapted their workflows to standardized software solutions. The workflow conventions of a vendor became, by default, the workflow conventions of your company. Now, companies need to decide strategically which workflows they want to control themselves.

FOUR MODELS TAKING SHAPE

A small number of distinct approaches are beginning to emerge. Each reflects a different answer to the same underlying question: Where should the boundary lie between what an organization builds for itself and what it relies on others to provide?

BUILD

Some companies will choose to construct their own systems directly on top of foundational models. These systems are not organized around the vendor’s workflow conventions, but around the specific jobs the organization is trying to perform.

A useful check is whether the system encodes truly distinctive data or decision logic; if not, building, even though it initially seems easy, may be overreaching, and composing or collaborating could deliver similar value with far less complexity.

COMPOSE

A second path is emerging for organizations that want flexibility without full ownership. In this model, vendors provide scaffolding, templates and primitives that business users can configure to their needs.

Teams should watch for signs that critical differentiation is not being constrained by the platform’s boundaries; when customization feels forced or cumbersome, it may signal the need to build more directly or collaborate more deeply.

COLLABORATE

A third model shifts from buying enterprise software to collaborating with providers to build tailored solutions. Providers work with clients — using forward-deployed engineers — to define the job clearly, then build bespoke systems designed around that outcome.

The advantage is speed and alignment; the risk is dependence on external expertise. Over time, companies should assess whether repeated reliance on external partners is masking an opportunity to internalize a strategically important capability, or conversely, whether what is being built lacks uniqueness and could be bought as an outcome.

BUY OUTCOMES

The most radical model moves beyond software altogether. Instead of purchasing tools, companies procure the outcome itself. An organization might no longer license accounting software and operate it internally, but instead contract for accurate financials, compliance and reporting as a service.

In this model, vendors do not provide tools; they take responsibility for results. This can significantly simplify operations, but it also shifts control and requires a high degree of trust in the provider.

WHAT COMES NEXT

Enterprise software companies face an important question: How can we rethink our workflows and decide which to build, compose, collaborate on or buy outcomes?

Organizations that approach this question with clarity will find that it yields something more valuable than a software strategy. It offers a sharper understanding of where they create value, and why that value is difficult to replicate.

La entrada El fin del software empresarial estandarizado se publicó primero en DirigeHoy PREMIUM.

]]> 277607 Lo que los líderes deben saber sobre la auditoría de la IA https://dirigehoy.info/lo-que-los-lideres-deben-saber-sobre-la-auditoria-de-la-ia/ Fri, 08 May 2026 09:00:30 +0000 https://dirigehoy.info/?p=277572 ¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas.

La entrada Lo que los líderes deben saber sobre la auditoría de la IA se publicó primero en DirigeHoy PREMIUM.

]]>

Lo que los líderes deben saber sobre la auditoría de la IA

E

n los últimos años, la IA ha pasado de ser un ámbito exclusivo de los equipos técnicos a convertirse en una herramienta de uso generalizado. Antes, la IA operaba detrás de escena (por ejemplo, impulsando productos de consumo o moldeando los contenidos que aparecen en las redes sociales); ahora, el público en general interactúa directamente con asistentes virtuales y chatbots basados en IA generativa. Este aumento en el uso también ha despertado una mayor conciencia sobre los riesgos que pueden acompañar a los sistemas de IA: desde el trato desigual hacia distintos grupos hasta la generación de información falsa, sensible o dañina, especialmente en temas de gran impacto (como cuestiones médicas o legales).

En respuesta, los responsables de formular políticas públicas han intentado establecer límites y salvaguardas sobre el impacto que estas herramientas pueden tener en la sociedad.

Todo esto ha impulsado la aparición de una nueva profesión: el auditor algorítmico.

Aunque las auditorías se están convirtiendo en un componente central del trabajo con IA, no siguen un proceso predeterminado ni lineal; más bien, están formadas por una red de decisiones distintas, tanto desde el punto de vista empresarial como técnico. A continuación, explicamos lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.

Cuatro desafíos de las auditorías algorítmicas

¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas. Estas preguntas (que suelen tener como objetivo comprender si un sistema funciona según lo previsto o si perjudica a los usuarios) pueden ser tanto concretas como abstractas. Parte de la dificultad del proceso radica en convertir esas preguntas en algo concreto y operativo, identificando los datos y sistemas adecuados para responderlas.

Este proceso presenta cuatro desafíos comunes:

  1. Las auditorías no siguen una línea recta

Con frecuencia, los auditores se encuentran tomando muchos desvíos en el camino, que van desde la pregunta de investigación hasta la respuesta. A medida que conocen mejor el sistema que están auditando y los datos que lo sustentan, a menudo tienen que ajustar el rumbo, lo que puede traducirse en plazos de entrega más largos o en pequeños cambios en el enfoque.

  1. La gobernanza de datos es un caos

La gobernanza interna de datos suele parecerse menos a un rascacielos moderno (con una distribución racional y un plano claro) y más a un edificio antiguo en el que cada nueva capa se construye sobre la anterior, muchas veces sin tener en cuenta los usos previos. No es raro que los equipos técnicos dediquen la mayor parte de su tiempo a encontrar los datos adecuados y asegurarse de que puedan interpretarlos correctamente.

También hay otros problemas comunes. Quizá la persona responsable del conjunto de datos ya dejó la organización, o tal vez ese conjunto de datos simplemente fue descontinuado y sustituido por uno más reciente, pero sin documentación. En la mayoría de los casos, la única manera de avanzar es encontrar a alguien que pueda ayudar, un proceso poco eficiente y que consume mucho tiempo.

  1. La confianza interna es esencial

La dinámica de los equipos desempeña un papel importante. El equipo responsable del sistema auditado puede sentirse amenazado ante la idea de que su trabajo será evaluado, especialmente cuando los auditores son ajenos a su equipo. Esto puede generar un entorno de poca confianza, en el que resulta difícil fomentar la colaboración y donde los incentivos no están alineados.

Para ser efectivos, los auditores necesitan orientación y apoyo del equipo auditado, ya que no carecen del conocimiento especializado del sistema que están evaluando. La cultura adecuada es aquella en la que tanto auditores como auditados trabajan juntos para fortalecer el sistema y, en última instancia, obtener un resultado más sólido y de mayor calidad.

  1. El enfoque está puesto en el pasado

A menos que el sistema esté siendo monitoreado en tiempo real, las auditorías se centran en el pasado. Esto genera ciertos desafíos técnicos: el proceso solo será exitoso en la medida en que los auditores logren reconstruir lo ocurrido. Para empezar, es posible que los datos necesarios ya no se encuentren disponibles en el sistema.

Un problema relacionado es que los sistemas algorítmicos cambian con el tiempo. Los modelos pueden volver a entrenarse con datos más recientes, o un sistema antiguo puede ser sustituido por un algoritmo o una arquitectura más nuevos. Puede ser muy difícil (e incluso imposible) reproducir las condiciones exactas en las que se encontraba cada componente durante el periodo de auditoría deseado. En este sentido, es de esperar que exista cierta disparidad, pero debe exigirse a los auditores que documenten los problemas encontrados al buscar los datos adecuados y que estimen hasta qué punto los resultados de la auditoría son aplicables a los sistemas que actualmente están en funcionamiento.

Lo que los líderes pueden hacer

Estas son algunas acciones útiles que pueden tomarse antes y durante una auditoría.

Antes de una auditoría

Antes de que una organización inicie un proceso de auditoría externa, debe seguir ciertos pasos para prepararse.

— Cultura e incentivos: Las auditorías pueden no ser bien recibidas por los equipos responsables del sistema que será examinado. Pueden sentirse bajo presión, frustrados y, en última instancia, molestos porque su trabajo está bajo lupa.

La cultura siempre se define desde arriba. Los líderes deben dejar claro que las auditorías forman parte del trabajo cotidiano, y que no son medidas punitivas o una carga adicional.

Como parte de la preparación, los líderes empresariales podrían estructurar la organización de modo que cada equipo cuente con una persona designada que esté disponible para responder directamente cualquier pregunta sobre datos y algoritmos, o que tenga la capacidad de orientar hacia la dirección correcta. Esto ayudaría a aislar y minimizar las interrupciones.

— Diseñar la auditoría: Las auditorías exigidas por ley deben ser realizadas por auditores externos e independientes. Aunque se necesita tiempo y recursos para desarrollar la capacidad de auditoría interna y determinar los procesos adecuados, contar con un equipo interno eficaz puede suponer una ventaja a largo plazo. Por otro lado, los auditores externos no generan fricciones entre las distintas partes de la empresa, lo que podría ser una de las razones por las que a menudo se recurre a proveedores externos (aunque resulten más costosos).

Un equipo de auditoría centralizado acumulará una experiencia más profunda y, al trabajar con distintas áreas del negocio, tendrá una comprensión más amplia e integral del proceso. Sin embargo, al ser externos al equipo auditado, estos equipos necesitarán más tiempo para ganarse su confianza y recopilar la información necesaria para realizar su trabajo. Un equipo que audita sus propios sistemas, por supuesto, partirá de una comprensión más completa de todos sus componentes. Sin embargo, al realizar auditorías con menor frecuencia, podría pasar por alto algunas buenas prácticas importantes.

Durante una auditoría

Aunque se haya llevado a cabo una preparación adecuada, la auditoría en sí misma puede resultar más complicada de lo que la mayoría esperaría. Los líderes empresariales deben ser conscientes de ello, aceptar el desorden inherente al proceso y ayudar aportando claridad.

— Dar forma al proceso: Dado que la auditoría es un proceso no lineal, pueden producirse muchos cambios mientras se lleva a cabo. Los líderes deben tenerlo presente y asegurarse de recibir actualizaciones periódicas sobre las decisiones estratégicas más recientes, para poder ofrecer orientación cuando sea necesario.

También es fundamental que exijan una documentación exhaustiva de todas las decisiones técnicas, incluidas las compensaciones y cualquier métrica indirecta que se haya considerado. Esto ayudará a interpretar los resultados dentro de su contexto específico y con sus limitaciones.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

In the past few years, artificial intelligence has gone from being the prerogative of technical teams to a general use tool. While AI once worked behind the scenes — powering consumer products, for instance, or shaping social media feeds — now the general public interacts directly with virtual assistants and generative AI-based chatbots. This increase in usage has also sparked a growing awareness of the hazards that can come with AI systems: from the disparate treatment of different groups, to the fabrication of false, sensitive or harmful information, especially for very consequential topics such as medical or legal questions.

In response, policymakers have tried to establish guardrails around how these tools might impact society.

All of this has fueled the growth of a new job: the algorithmic auditor.

While audits are becoming a core feature of working with AI, they don’t have a predetermined process that follows a straight line; rather, they are a made of web of different decisions, both from the business and the technical side. Here’s what business leaders need to know about how these audits work and how they can help guide the process.

FOUR CHALLENGES OF ALGORITHMIC AUDITS

What is an algorithmic audit? Simply put, it is a way of answering a question about an algorithmic system by analyzing data on how users and systems interact. Such questions — usually meant to understand whether a system is working as expected or is harming users — can range from more concrete to more abstract ones. Part of the difficulty of the process is to make such questions concrete and operationalize them by finding the right data and system to answer them.

This process has four common challenges:

Audits Are Not a Straight Line

Auditors commonly find themselves taking many detours on the path from the research question to the answer. As they learn about the system they’re auditing and the data behind it, they often have to adjust course, which might translate into longer deliverables or slight changes in framing.

Data Governance Is Messy

Internal data governance often looks less like a modern skyscraper — with a rational layout and a clear floor plan — and more like an old building where each new layer is built on top of the previous one, often disregarding the older usage. It’s not uncommon for technical teams to spend the majority of their time looking for the right data and making sure they can make sense of it.

There are other common problems too. Maybe the person who was responsible for the dataset left the organization, or the dataset was simply deprecated in favor of a newer but undocumented one. In most cases, the only way forward is to find someone who can help — a process that is not very efficient and time-consuming.

Internal Trust Is Essential

Team dynamics play an important role. The team that owns the audited system might feel threatened with their work being judged, especially when the auditors are external to their team. This might create a low-trust environment where it is difficult to foster collaboration and where incentives are misaligned.

Auditors need mentorship and help from the audited team to be effective, since they lack the specialized knowledge of the system of what they are auditing. The right culture is one where both the auditors and the audited work together to strengthen the system and ultimately have a more resilient and better product.

The Focus Is on the Past

Unless the system is getting monitored in real time, audits focus on the past. That creates some technical challenges: the process will be only as successful as the auditors are able to recreate the past. To start, the data required might not be on the system anymore.

A related problem is that algorithmic systems change over time. Models might be retrained with newer data, or an old system might be removed in favor of a newer algorithm or architecture. It can be very hard, if not impossible, to replicate the exact conditions that each piece was in during the desired auditing window. A little disparity in this respect can be expected, but auditors should be required to document the problems finding the right data and to estimate how much the result of the audit applies to the live systems.

WHAT LEADERS CAN DO

Here are some useful actions that can be taken before and during an audit.

Before an Audit

Before an organization starts the external auditing process, it should take certain steps to prepare.

Culture and incentives.

Audits can be less than welcome by the teams that own the system being looked at. They may feel under pressure, frustrated and ultimately unhappy that their work is put under the microscope.

Culture always comes from the top. Leaders need to show that audits are part of daily work, not punitive measures or extra work.

To help prepare, business leaders could structure the organization to have a dedicated person for each team who would be available to either directly answer any data and algorithm questions or who is equipped to point in the right direction. This would help isolate and minimize disruptions.

Designing the audit.

Legally-mandated audits are required to be performed by external and independent auditors. While it takes time and resources to build internal auditing capacity and figure out the right processes, having a performant internal team might be an advantage over the longer term. On the other hand, external auditors don’t cause friction between different parts of the company — arguably one of the reasons why more expensive external vendors are often used.

A centralized audit team will gather deeper expertise and, by working with different parts of the business, have a better and holistic understanding of the process. On the other hand, such teams would be external to the one being audited, translating into more time acquiring the audited team’s trust and gathering the necessary information required to perform their work. A team that is auditing its own systems will, of course, have a better understanding of all its parts to begin with. However, by performing less frequent audits, they might miss out on some important best practices.

During an Audit

Even with all the right preparation, the audit itself might be messier than most would hope. Business leaders should be aware and embrace the natural disorder of the process and help by bringing clarity to it.

Shaping the process.

With the audit being a nonlinear process, many things can change while it is being performed. Leaders should be aware of that and make sure they are regularly updated on the latest high-level decisions so that they can offer guidance when needed. ons.

It is also vital that they demand thorough documentation of all technical decisions, including any trade-offs or proxy metrics considered. This will help interpret the results in the right context and limitations.

La entrada Lo que los líderes deben saber sobre la auditoría de la IA se publicó primero en DirigeHoy PREMIUM.

]]> 277572 Para escalar agentes de IA con éxito, piense en ellos como miembros del equipo https://dirigehoy.info/para-escalar-agentes-de-ia-con-exito-piense-en-ellos-como-miembros-del-equipo/ Tue, 31 Mar 2026 16:00:25 +0000 https://dirigehoy.info/?p=277269 Las organizaciones que tengan éxito con la IA agéntica no serán simplemente las que implementen más agentes, sino aquellas que construyan las estructuras que permitan confiar en ellos.

La entrada Para escalar agentes de IA con éxito, piense en ellos como miembros del equipo se publicó primero en DirigeHoy PREMIUM.

]]>

Para escalar agentes de IA con éxito, piense en ellos como miembros del equipo

A

diferencia del software tradicional, los agentes de IA están diseñados para razonar, planificar y ejecutar acciones a través de distintos sistemas. En el momento en que un agente puede modificar un sistema de registro (actualizar un precio, enviar un pago o modificar los datos de un cliente) deja de ser una herramienta de productividad y se convierte en parte del modelo operativo de la organización.

Lo más importante es que esto introduce nuevas categorías de riesgo. Una herramienta de IA generativa limitada (como ChatGPT para redactar correos electrónicos) genera un riesgo de contenido: puede decir algo incorrecto. La IA agéntica genera un riesgo de ejecución: puede hacer algo incorrecto.

Para superar ese umbral e integrar eficazmente agentes de IA a gran escala, usted debe tratarlos como una nueva clase de fuerza laboral que requiere gestión.

Mientras no se establezcan estas bases organizacionales, escalar la IA agéntica será difícil. Cuatro fricciones recurrentes, en particular, tienden a ralentizar o descarrilar el progreso. Entenderlas es el primer paso para gestionarlas.

  1. Identidad: ¿Quién está actuando?

Las organizaciones deben tratar a cada agente de IA como un trabajador digital distinto, con su propia identidad, credenciales y rol. En lugar de depender de cuentas de servicio compartidas, las empresas deben asignar permisos a los agentes con un alcance limitado que reflejen las tareas específicas para las que están diseñadas. Los mismos principios utilizados para gestionar a los colaboradores humanos (como el acceso al mínimo privilegio y los límites basados en funciones) deben aplicarse también a los agentes.

  1. Contexto: Cuando los datos erróneos llevan a malas acciones

Los agentes también introducen un nuevo desafío de seguridad: la manipulación del contexto. Si un agente lee correos electrónicos, formularios o tickets de soporte y luego ejecuta tareas basadas en esa información, los atacantes pueden incrustar instrucciones ocultas diseñadas para influir en su comportamiento.

Para hacer frente a estas fricciones contextuales, las organizaciones deben establecer estándares claros sobre qué información pueden considerar confiable sus agentes. Esto implicará definir fuentes autorizadas para políticas, precios y datos operativos, de modo que los agentes puedan apoyarse de forma consistente en la versión correcta de la verdad.

  1. Control: Los sistemas probabilísticos necesitan límites claros

Los métodos de prueba tradicionales parten de la base de que el comportamiento es estable. Un sistema que hoy supera una serie de pruebas puede comportarse de forma diferente mañana si se actualiza el modelo, cambia el prompt o se añaden nuevos datos. Y los riesgos aumentan en entornos con múltiples agentes donde estos se transfieren tareas entre sí.

Sin límites claros, los errores (o ataques) pueden propagarse a lo largo de un sistema automatizado. Para gestionar ese riesgo, las organizaciones deben construir controles deterministas en torno a los sistemas de IA probabilísticos. En lugar de permitir que los agentes ejecuten acciones directamente, las empresas deben implementar capas de validación entre el modelo de IA y los sistemas operativos. En este enfoque, el agente propone una acción (como emitir un reembolso) y, antes de ejecutarse, un software determinista verifica que cumpla con las reglas establecidas.

  1. Responsabilidad: Cuando nadie puede explicar lo que ocurrió

Las empresas deben diseñar sus sistemas de IA pensando en la responsabilidad desde el principio. Esto comienza con mantener registros completos de cómo operan los agentes, incluyendo a qué fuentes de datos accedieron, qué instrucciones recibieron y qué herramientas utilizaron para completar una tarea. Estos registros deben permitir reconstruir la cadena de razonamiento que llevó a cualquier acción.

Las empresas no son entornos listos para usar; son sistemas complejos moldeados por tecnología heredada, políticas y el juicio humano. Las organizaciones que tengan éxito con la IA agéntica no serán simplemente las que implementen más agentes, sino aquellas que construyan las estructuras que permitan confiar en ellos.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Unlike traditional software, artificial intelligence agents are designed to reason, plan and take actions across systems. The moment an agent can change a system of record — update a price, send a payment or modify customer data — it stops being a productivity tool and becomes part of the organization’s operating model.

Most importantly, it introduces new categories of risk. A narrow generative artificial intelligence tool (like ChatGPT for drafting emails) creates content risk: It might say something wrong. Agentic AI creates execution risk: It might do something wrong.

To cross that threshold and effectively integrate AI agents at scale, you will need to treat your agents like a new kind of workforce that requires management.

Until those organizational foundations are in place, scaling agentic AI will be difficult. Four recurring frictions, in particular, tend to slow or derail progress. Understanding them is the first step toward managing them.

1. IDENTITY: “WHO” IS ACTING?

Organizations should treat each AI agent as a distinct digital worker with its own identity, credentials and role. Instead of relying on shared service accounts, companies should assign agents narrowly scoped permissions that reflect the specific tasks they are designed to perform. The same principles used to manage human employees — such as least-privilege access and role-based limits — should apply to agents.

2. CONTEXT: WHEN BAD DATA LEADS TO BAD ACTIONS

Agents also introduce a new security challenge: The manipulation of context. If an agent reads emails, forms or support tickets and then performs tasks based on that information, attackers can embed hidden instructions designed to influence their behavior.

To cope with these context frictions, organizations need to establish clear standards for which information their agents can trust. This will require defining authoritative sources for policies, pricing and operational data, so that agents can consistently rely on the correct version of the truth.

3. CONTROL: PROBABILISTIC SYSTEMS NEED HARD BOUNDARIES

Traditional testing methods assume stable behavior. A system that passes a test suite today may behave differently tomorrow if the model updates, the prompt changes or new data is added. And the risks grow in multi-agent environments where agents pass work to one another.

Without clear boundaries, mistakes — or attacks — can cascade across an automated system. To manage that risk, organizations should build deterministic controls around probabilistic AI systems. Rather than allowing agents to execute actions directly, companies should place validation layers between the AI model and operational systems. In this approach, the agent proposes an action, such as issuing a refund and, before it’s executed, deterministic software verifies that it complies with established rules.

4. ACCOUNTABILITY: WHEN NO ONE CAN EXPLAIN WHAT HAPPENED

Companies will have to design their AI systems with accountability in mind from the outset. This begins with maintaining comprehensive records of how agents operate, including which data sources they accessed, what prompts they received and which tools they used to complete a task. These records should enable reconstruction of the chain of reasoning that led to any action.

Enterprises are not turnkey environments; they are complex systems shaped by legacy technology, policies and human judgment. The companies that succeed with agentic AI won’t simply install more agents. Instead, they’ll build the structures that allow those agents to be trusted.

La entrada Para escalar agentes de IA con éxito, piense en ellos como miembros del equipo se publicó primero en DirigeHoy PREMIUM.

]]> 277269 Busque nuevas formas de crear valor al implementar la IA generativa https://dirigehoy.info/busque-nuevas-formas-de-crear-valor-al-implementar-la-ia-generativa/ Fri, 20 Mar 2026 17:00:27 +0000 https://dirigehoy.info/?p=277214 Los líderes que buscan aprovechar la IA generativa para obtener una ventaja competitiva deben enfocarse en la apertura de nuevas fuentes de valor.

La entrada Busque nuevas formas de crear valor al implementar la IA generativa se publicó primero en DirigeHoy PREMIUM.

]]>

Busque nuevas formas de crear valor al implementar la IA generativa

A

unque las empresas invierten grandes recursos en IA generativa, las ganancias de productividad resultantes parecen verse neutralizadas por la competencia, ya que se trasladan a los clientes o proveedores en lugar de quedarse en manos de las empresas (una señal temprana de la mercantilización). Por lo tanto, los datos sugieren que los beneficios de la IA generativa no residirán en utilizar la tecnología simplemente para realizar las actividades existentes de forma más rápida o eficiente.

Más bien, los líderes empresariales que buscan aprovechar la IA generativa para obtener ventaja deberían enfocarse en otro impacto de las nuevas tecnologías: la apertura de nuevas fuentes de valor.

Al reconocer los cambios que la IA generativa impulsará en el mercado en general, los líderes pueden reposicionar a su empresa como un nodo valioso dentro de este ecosistema emergente. Tres estrategias ilustran cómo este desarrollo puede impulsar cambios en las fuentes de valor.

1. El rediseñador: Replantear las ofertas para adaptarlas a las decisiones impulsadas por la IA generativa

Dado que las decisiones se basan cada vez más en agentes de IA (y es posible que, en un futuro próximo, estos las tomen directamente), las empresas deben rediseñar sus ofertas para que puedan ser procesadas por máquinas. Esto implica revisar la forma en que se proporciona la información, por ejemplo, ofreciendo datos estandarizados sobre las características y la compatibilidad de los productos, y permitiendo que los agentes interactúen directamente con sus ofertas.

Este nuevo enfoque complementará las estrategias de marketing tradicionales centradas en la percepción humana, las cuales pueden perder efectividad a medida que los agentes se basan en datos objetivos y verificables en lugar de la confianza emocional o el reconocimiento de marca.

  1. El supervisor: Validar la precisión de la IA generativa

A medida que los modelos de IA generativa y los agentes autónomos se multiplican y comienzan a actuar como actores económicos por derecho propio, surge una necesidad creciente de supervisión adecuada para aumentar la credibilidad y garantizar la confiabilidad.

Esta es una nueva fricción que las empresas pueden convertir en oportunidad, por ejemplo, comercializando capacidades que ya utilizan internamente. Mastercard Decision Intelligence ofrece interfaces de programación de aplicaciones para la evaluación del riesgo de fraude que ayudan a los agentes de pago a decidir cuándo aprobar o rechazar una transacción. Este enfoque de “cumplimiento como servicio” convierte la experiencia adquirida en verificación y regulación en una nueva fuente de ingresos. De manera similar, NewsGuard, que evalúa a los medios con base en su confiabilidad, credibilidad y posibles conflictos de interés, ha licenciado su tecnología a proveedores de LLM, quienes la utilizan para permitir que sus modelos puedan seleccionar fuentes adecuadas y autocorregir la información falsa.

En un sentido más amplio, cualquier empresa que disponga de datos propios y verificados (como resultados de ensayos clínicos, análisis financieros o manuales de ingeniería) podría transformar ese conocimiento en un servicio de validación para los modelos de lenguaje de gran tamaño, garantizando así que el contenido generado sea conforme a las normas y preciso.

  1. El proveedor: Suministrar insumos para la IA generativa

Los modelos de IA generativa también necesitan insumos para su entrenamiento (una necesidad creciente, ya que se prevé que los datos de texto creados por humanos disponibles públicamente se agoten para 2028), así como acceso a datos que les permitan responder consultas en tiempo real.

La necesidad de contar con fuentes seleccionadas y de alta calidad (en particular conocimientos especializados en ámbitos específicos en los que los desarrolladores de modelos deseen que sus LLM tengan experiencia) está abriendo las puertas a otro posible modelo de negocio para las empresas ya establecidas. Por ejemplo, Thomson Reuters concede licencias para que sus noticias y datos de mercado en tiempo real se incorporen a los flujos de trabajo de los LLM, mientras que LexisNexis proporciona las ontologías legales estructuradas y la jurisprudencia verificada de las que dependen los LLM especializados en el ámbito jurídico.

Las estrategias anteriores no son exhaustivas y no aplicarán a todas las organizaciones. Los líderes pueden identificar las más valiosas para su empresa en la era de la IA generativa haciéndose las siguientes preguntas:

— ¿Cuáles de nuestros activos o capacidades diferenciadoras actuales corren el riesgo de convertirse en productos genéricos debido a la IA generativa?

— ¿Qué nuevos obstáculos está provocando la tecnología de IA generativa en nuestros mercados o para nuestros clientes? ¿Resolverlos representa una oportunidad de valor?

Al abordar estas cuestiones de forma proactiva, los líderes pueden identificar qué estrategias corren el riesgo de convertirse en productos básicos y cómo conseguir una ventaja competitiva duradera.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Even as companies pour resources into generative artificial intelligence, the resulting productivity gains appear to be competed away, passed on to customers or suppliers rather than retained by firms — an early sign of commoditization. As such, the data suggests that the benefits of generative AI will not lie in using the technology simply to perform existing activities faster or more efficiently.

Rather, business leaders seeking to deploy generative AI for advantage should look toward another impact of new technologies: the unlocking of new value pools.

By recognizing the changes generative AI will drive in the broader market, leaders can reposition their firm as a valuable node in this emerging ecosystem. Three strategies illustrate how this development may drive shifts in value pools.

THE REPACKAGER: RETHINK OFFERINGS FOR GENERATIVE AI-POWERED CHOICES

As choices are increasingly informed by — and may in the near future increasingly be made directly by — AI agents, firms must repackage their offerings for machine consumption. This means revisiting how information is provided, for instance, by offering standardized data on product attributes and compatibility, and enabling agents to interact directly with your offerings.

This new approach will complement traditional marketing strategies focused on human perception, which may lose power as agents rely on objective, verifiable data rather than emotional trust or recognition.

THE SUPERVISOR: VALIDATE GENERATIVE AI’S ACCURACY

As generative AI models and autonomous agents proliferate and begin acting as economic actors in their own right, there is an increasing need for appropriate supervision to enhance credibility and ensure reliability.

This is a new friction that businesses can pivot to solving, for example, by productizing capabilities they already use internally. Mastercard Decision Intelligence provides fraud risk-scoring application programming interfaces that help payment agents decide when to approve or decline a transaction. This “compliance-as-a-service” approach converts hard-won verification and regulatory expertise into a new income stream. Similarly, NewsGuard, which rates publishers based on reliability, trustworthiness and potential conflicts of interest, has licensed its technology to large language model providers, which use it to enable their models to select appropriate sources and to self-correct false information.

More broadly, any companies with proprietary, verified data, such as clinical trial results, financial analysis or engineering manuals, could transform that knowledge into a validation service for LLMs, ensuring that generated content is compliant and accurate.

THE SUPPLIER: PROVIDE INPUT TO GENERATIVE AI

Generative AI models also need input for training — an increasing need, as publicly available human-created text data is predicted to run out by 2028 — as well as access to data that could help answer queries in real time.

The need for curated, high-quality sources, particularly domain-specific knowledge that a model developer may want their LLM to have expertise in, is unlocking another potential business model for incumbents. For example, Thomson Reuters licenses real-time news and market data into LLM pipelines, while LexisNexis provides the structured legal ontologies and verified case law that domain-specific LLMs depend on.

The strategies above are not exhaustive, and they will not apply to every organization. Leaders can identify the most valuable strategies for their company in the generative AI age by asking themselves the following questions:

— Which of our current differentiating assets or capabilities are at risk of becoming commoditized by generative AI?

— Which new frictions is generative AI technology causing in our markets or for our customers? Is solving them valuable?

By proactively engaging with these questions, leaders can identify which strategies are at risk of commoditization — and how to unlock durable advantage.

La entrada Busque nuevas formas de crear valor al implementar la IA generativa se publicó primero en DirigeHoy PREMIUM.

]]> 277214 El impacto de la IA en las relaciones laborales (y dónde puede realmente ayudar) https://dirigehoy.info/el-impacto-de-la-ia-en-las-relaciones-laborales-y-donde-puede-realmente-ayudar/ Fri, 06 Mar 2026 13:00:30 +0000 https://dirigehoy.info/?p=277092 El uso de la IA, especialmente como intermediaria (o incluso sustituto) de las relaciones laborales, tiene el potencial de dañar las mismas conexiones que necesitamos en el trabajo.

La entrada El impacto de la IA en las relaciones laborales (y dónde puede realmente ayudar) se publicó primero en DirigeHoy PREMIUM.

]]>

El impacto de la IA en las relaciones laborales (y dónde puede realmente ayudar)

L

os empleadores, los expertos en tecnología y los futuristas están alentando a las personas a utilizar la IA en sus trabajos, prometiendo más ideas, mayor productividad y eficiencia. Al mismo tiempo, el uso de la IA plantea todo tipo de preguntas sobre:

1. Autenticidad (“Si mi compañero utiliza IA para escribirme un correo electrónico, ¿realmente estoy hablando con él o ella, o con una máquina?”).

2. Confianza (“¿Puedo confiar en el trabajo que me envía mi colega sí sé que utilizó IA para crearlo?”).

3. Qué significa conectar de verdad con nuestros compañeros (“Ahora parece más fácil colaborar con la IA que con mis propios colegas”).

Sin embargo, el uso de la IA, especialmente como intermediaria (o incluso sustituto) de las relaciones laborales, tiene el potencial de dañar las mismas conexiones que necesitamos en el trabajo. Sin duda entiendo el atractivo de usar IA generativa para redactar una respuesta sin carga emocional a un compañero pasivo-agresivo, o para preparar rápidamente un informe para un colega impaciente, o para explicarle a alguien excesivamente competitivo por qué no puede atribuirse el mérito de todo un proyecto. Pero también tengo serias dudas sobre usos como estos.

Los costos de incorporar la IA en nuestras relaciones laborales

En la búsqueda de la productividad y la creatividad impulsada por la IA, no hemos dedicado suficiente tiempo a pensar en cómo afecta la IA a la dinámica del lugar de trabajo. A continuación, expongo algunas de las formas en las que, en mi opinión, la IA plantea problemas.

— Aumenta nuestra carga cognitiva.

— Genera “workslop”, no eficiencia.

— Erosiona la confianza.

— Elimina la fricción que en realidad necesitamos.

— Nos impide construir relaciones reales.

— Puede estar entrenándonos para ser menos civilizados.

¿Cuándo puede ayudar realmente la IA?

Por supuesto, no estoy argumentando que la IA no tenga lugar en nuestra vida laboral, ni siquiera en nuestras relaciones de trabajo. Pero sí creo que debemos ser mucho más intencionales respecto a cuándo y cómo la usamos, especialmente cuando se trata de relaciones con nuestros compañeros.

He aquí algunas pautas que he estado utilizando para orientarme sobre cuándo y cómo está bien usar IA para resolver problemas que involucran a otras personas.

— Sea transparente cuando haya utilizado IA.

— Reserve la IA para relaciones transaccionales.

— Utilice la IA para fortalecer las relaciones humanas, no para reemplazarlas.

— Recuérdese que las normas que se aplican a las personas son diferentes a las que se aplican a la IA.

Esto es lo que siempre me viene a la mente: nuestras relaciones en el trabajo son importantes. Nos hacen más felices, productivos y comprometidos. Nos ayudan a superar los momentos difíciles y a celebrar los buenos. Y se construyen a través de miles de pequeñas interacciones, muchas de ellas confusas, incómodas e imperfectas.

Cuando delegamos esas interacciones a la IA o permitimos que la IA las intermedie, no solo estamos ahorrando tiempo o reduciendo fricciones. Estamos externalizando los mismos momentos que crean conexión. Le estamos pidiendo a una máquina que haga el trabajo relacional que solo los seres humanos pueden hacer.

Así que, antes de presionar ese botón de “generar” en su próximo correo electrónico a un colega, pregúntese: ¿Qué es lo que realmente estoy tratando de lograr aquí? ¿La IA me está ayudando a conseguirlo, o está interfiriendo?

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Employers, tech experts and futurists are encouraging people to use AI in our jobs, promising more ideas, higher productivity and greater efficiency. At the same time, the use of AI is raising all sorts of questions about:

1. Authenticity (“If my coworker uses AI to write me an email, am I actually talking to them, or to a machine?”)

2. Trust (“Can I trust the work my colleague sends me if I know they used AI to create it?”)

3. What it means to truly connect with our colleagues (“It now feels easier to collaborate with AI than with my colleagues.”)

But the use of AI, especially as an intermediary in — or even substitute for — work relationships, has the potential to damage the very connections we need at work. I definitely see the allure of using gen AI to craft an unemotional response to a passive-aggressive coworker, or to quickly pull together a report for an impatient colleague or to explain to an overly competitive colleague why they can’t take credit for an entire project. But I also have serious hesitations about uses like these.

THE COSTS OF BRINGING AI INTO OUR WORK RELATIONSHIPS

In the AI-fueled quest for productivity and creativity, we haven’t spent enough time thinking about what AI does to workplace dynamics. Here are some of the ways I see AI presenting problems.

—It increases our cognitive load.

—It creates “workslop,” not efficiency.

—It erodes trust.

—It eliminates the friction we actually need.

—It prevents us from building real relationships.

—It may be training us to be less civil.

WHEN AI CAN ACTUALLY HELP

Of course, I’m not arguing that AI has no place in our work lives, or even in our work relationships. But I do think we need to be much more intentional about when and how we use it, especially when it comes to relationships with colleagues.

Here are some guidelines I’ve been using to help me navigate when and how it’s OK to use AI to solve problems that involve others.

—Be transparent when you’ve used AI.

—Reserve AI for transactional relationships.

—Use AI to strengthen human relationships, not replace them.

—Remind yourself that you have different norms for people versus AI.

Here’s what I keep coming back to: our relationships at work matter. They make us happier, more productive and more engaged. They help us weather tough times and celebrate good ones. And they’re built through thousands of small interactions, many of them messy, awkward and imperfect.

When we hand those interactions over to AI or allow AI to intermediate them, we’re not just saving time or reducing friction. We’re outsourcing the very moments that create connection. We’re asking a machine to do the relationship work that only humans can do.

So before you hit that “generate” button on your next email to a colleague, ask yourself: What am I really trying to accomplish here? And is AI helping me achieve it — or is it getting in the way?

La entrada El impacto de la IA en las relaciones laborales (y dónde puede realmente ayudar) se publicó primero en DirigeHoy PREMIUM.

]]> 277092 Cómo pueden adaptarse las marcas cuando los agentes de IA hacen las compras https://dirigehoy.info/como-pueden-adaptarse-las-marcas-cuando-los-agentes-de-ia-hacen-las-compras/ Fri, 06 Mar 2026 10:00:18 +0000 https://dirigehoy.info/?p=277068 Para impulsar la adopción del comercio agéntico a gran escala, las marcas necesitan descubrir cómo ganar (y mantener) la confianza de los clientes.

La entrada Cómo pueden adaptarse las marcas cuando los agentes de IA hacen las compras se publicó primero en DirigeHoy PREMIUM.

]]>

Cómo pueden adaptarse las marcas cuando los agentes de IA hacen las compras

L

a IA generativa está empezando a cambiar nuestra forma de comprar. En lugar de navegar por sitios web o pasear por las tiendas, la gente está empezando a pedir a los agentes de IA que busquen, comparen e incluso compren productos. Pero aún estamos en una etapa temprana. Y así como las empresas tuvieron que adaptarse a las nuevas reglas del comercio electrónico, ahora se enfrentan a un nuevo conjunto de desafíos en torno a cómo gestionan su reputación, conectan con los clientes y compiten en este nuevo escenario.

Para impulsar la adopción del comercio agéntico a gran escala, las marcas necesitan descubrir cómo ganar (y mantener) la confianza de los clientes. Y para lograrlo, deben comprender qué puede salir mal y qué medidas tomar ahora para evitar que se rompa la confianza.

La brecha de confianza es medible

Según la encuesta “El futuro de las compras de los consumidores”, realizada por PwC en 2025, el 64% de los encuestados afirmó que necesita al menos una garantía (como la devolución de su dinero) para sentirse cómodo dejando que un agente de IA realice compras en su nombre.

El desafío para las marcas en los sectores minorista, de bienes de consumo y de viajes es claro y urgente: ¿Cómo pueden prepararse para el comercio agéntico cuando las reglas todavía se están escribiendo? Usted no puede controlar por completo si los consumidores adoptarán estas herramientas. Pero sí tiene control sobre cómo aparece su marca en las experiencias impulsadas por agentes, y sobre si los clientes se sienten protegidos cuando delegan decisiones a la IA.

Construir la capa de confianza

El comercio agéntico necesita su propia infraestructura de confianza (lo que denominamos “capa de confianza”). Aunque la confianza puede parecer un concepto abstracto, se rompe de formas específicas y predecibles: cuando los agentes malinterpretan los productos, actúan más allá de lo que los clientes esperan, gestionan incorrectamente datos confidenciales, tergiversan las marcas o dejan a los consumidores desamparados cuando algo sale mal.

Recomendamos que las empresas adopten desde ahora cinco acciones para construir esa capa de confianza.

  1. Estructurar su contenido para máquinas, no solo para humanos.

Para confiar en un agente de IA, los clientes necesitan que este proporcione información precisa y relevante en todo momento. Esto no es posible si el agente no comprende el producto y sus características.

Los agentes de IA no navegan visualmente ni interpretan matices como lo hacen las personas. Procesan texto y números. Esto significa que el descubrimiento de productos en compras impulsadas por agentes depende menos del branding o de la optimización tradicional para motores de búsqueda y más de los datos de productos legibles por máquinas, un enfoque que a menudo se denomina “optimización generativa para motores de búsqueda”. Los precios, las tallas, la disponibilidad, los materiales, los casos de uso y las limitaciones deben expresarse en formatos que los agentes puedan analizar y comparar de forma confiable.

Es posible que las marcas también necesiten garantizar que esta información sea accesible. Mientras que las personas navegan de una página a otra y leen las descripciones redactadas en texto tradicional, la información destinada a los agentes debe almacenarse en formatos legibles por máquina dentro de sus sistemas actuales de gestión de información de productos y de sus plataformas de comercio electrónico.

  1. Definir límites claros e incorporar el consentimiento.

Los consumidores no delegarán las decisiones de compra a los agentes de IA a menos que entiendan, de forma clara y directa, lo que esos agentes pueden hacer. Esto requiere límites explícitos de delegación y consentimiento incorporado en la experiencia, no escondido en términos y condiciones. Una delegación segura requiere tres elementos: límites claros, trazabilidad y reversibilidad. Cada acción del agente debe atribuirse a una autorización específica, bajo condiciones definidas, y contar con una forma clara de deshacer o impugnar el resultado.

En sus propios canales (el sitio web de la empresa, la aplicación o el agente de marca) las marcas pueden establecer límites de gasto, exigir la aprobación de compras que superen ciertos montos e incorporar pasos de confirmación antes de finalizar la compra.

Cuando los consumidores utilizan plataformas de IA de uso general como ChatGPT, Claude, Gemini de Google u otras para comprar en múltiples minoristas, el control directo de las marcas es limitado. Sin embargo, aún pueden influir en la experiencia asegurándose de que la información de sus productos sea precisa y esté correctamente estructurada. Aunque puede ser técnicamente posible incorporar salvaguardas (como mensajes de confirmación o avisos sobre políticas de devolución) dentro de estas plataformas, ello exige colaboración entre las marcas y los proveedores tecnológicos. Mientras tanto, las marcas pueden influir en los resultados garantizando que los datos de sus productos sean consistentes, estén bien organizados y sean completos.

  1. Proteger los datos de los clientes y hacer visible esa protección.

Cuando los consumidores delegan tareas a agentes de IA, comparten más que detalles de pago. Comparten contexto conversacional: preferencias, limitaciones, intención y, a menudo, emociones. Ese contexto es lo que hace que las compras agénticas sean poderosas y particularmente sensibles. Si los clientes no entienden cómo se usan, guardan o protegen esos datos, no delegarán nada.

A medida que las marcas lanzan sus propios agentes de IA para ayudar a los clientes a comprar productos, deberían integrar un diseño que preserve la privacidad directamente en las interacciones agénticas. Por ejemplo, pueden utilizar técnicas de minimización de datos, de modo que sus agentes solo conserven lo necesario para completar una tarea. Las señales conversacionales sensibles pueden procesarse de forma transitoria en lugar de almacenarse indefinidamente. El consentimiento debe ser explícito, con opciones claras sobre lo que se recuerda, lo que se comparte entre sesiones o plataformas y lo que no.

La visibilidad es tan importante como la protección. Los consumidores deberían poder ver (y modificar) su configuración de privacidad en tiempo real. Algunas interacciones pueden justificar la persistencia (como recordar una talla o marca preferida), otras no. Un modo de compra “incógnito” o de una sola vez, en el que las interacciones no se conserven ni se utilicen para recomendaciones futuras, brinda a los clientes una sensación de control que refleja la forma en que las personas ya gestionan su privacidad en navegadores y pagos.

  1. Observar cómo aparece su marca en los ecosistemas de agentes.

Las marcas necesitan observabilidad agéntica, es decir, la capacidad de supervisar en tiempo real cómo los agentes de IA describen sus productos, en qué fuentes se basan, cómo se formulan las recomendaciones y qué acciones se están ejecutando posteriormente. Esto requiere visibilidad continua sobre las instrucciones, respuestas, citas y la lógica de decisión en los ecosistemas de agentes donde los clientes realizan sus compras.

Sin observabilidad, las marcas pierden la capacidad de detectar tergiversaciones, corregir errores o comprender por qué se recomendó o no un producto. A medida que los agentes actúan cada vez más como intermediarios, supervisar cómo se muestra su marca ya no es opcional.

  1. Preservar las relaciones y planificar la recuperación.

Incluso cuando los agentes gestionan las transacciones, las marcas siguen siendo responsables de la relación. Y a medida que las compras se vuelven más automatizadas, deberían integrar agentes con marca propia en plataformas de terceros, extender los programas de lealtad a través de agentes y diseñar rutas de escalamiento fluidas para contactar a una persona cuando sea necesario.

Cuando algo falla (y fallará), la respuesta importa más que el error. Los mecanismos de recuperación deben integrarse desde el inicio, con alertas en tiempo real y rutas claras de escalamiento.

La confianza como estrategia, no como cumplimiento

Las compras impulsadas por IA escalarán cuando los consumidores se sientan seguros. Esto requiere sistemas bien gobernados, transparentes y alineados con las expectativas humanas. Las marcas que lideren no tratarán la confianza como un simple ejercicio de cumplimiento normativo, sino como una parte central de su estrategia comercial, construyendo los estándares técnicos, las prácticas empresariales y las protecciones al consumidor que hacen que la delegación sea segura. Quienes actúen ahora ayudarán a definir las reglas de este ecosistema emergente.

© 2026 Harvard Business School Publishing Corp. | De: hbr.org  |  Distribuido por: The New York Times Syndicate.

Artículo en inglés

Generative artificial intelligence is starting to change the way we shop. Instead of scrolling on websites or strolling through stores, people are beginning to prompt AI agents to find, compare and even purchase products. But it’s also early days. And just as companies had to adapt to the new rules of e-commerce, they’re now faced with a new set of challenges around how they manage their reputations, connect with customers and what it looks like to compete in this new paradigm.

To drive agentic commerce adoption at scale, brands need to figure out how to earn — and keep — customers’ trust. And to do that, they need to understand what can go wrong and the steps they can take now to prevent trust from being broken.

THE TRUST GAP IS MEASURABLE

According to PwC’s 2025 Future of Consumer Shopping Survey, 64% of respondents said they need at least one safeguard, like a money-back guarantee, to feel comfortable letting an AI agent purchase for them.

The challenge for brands in retail, consumer goods and travel is both clear and urgent: How do you prepare for agentic commerce when the rules are still being written? You can’t fully control whether consumers adopt these tools. But you do have control over how your brand shows up in agent-driven experiences, and whether customers feel protected when they delegate decisions to AI.

BUILDING THE TRUST LAYER

Agentic commerce needs its own trust infrastructure — what we call the trust layer. While trust can feel like an abstract concept, it breaks in specific, predictable ways: when agents misunderstand products, act beyond what customers expect, mishandle sensitive data, misrepresent brands or leave consumers stranded when something goes wrong.

We recommend companies take five actions now to build that trust layer.

1. STRUCTURE YOUR CONTENT FOR MACHINES, NOT JUST HUMANS

To trust an AI agent, customers need it to deliver accurate, relevant information every time. This isn’t possible unless the agent understands the product and its features.

AI agents don’t browse visually or interpret nuance the way humans do. They digest text and numbers. That means discovering products in agent-driven shopping depends less on branding or traditional search engine optimization and more on machine-readable product data, an approach often referred to as generative engine optimization. Pricing, sizing, availability, materials, use cases and constraints need to be expressed in formats agents can reliably parse and compare.

Brands may also need to ensure that this information is accessible. While humans click from page to page and scan prose descriptions, descriptions for agents should be captured in machine-readable formats in your existing product information management systems and e-commerce platforms.

2. DEFINE CLEAR BOUNDARIES AND ADD CONSENT

Consumers won’t delegate purchasing decisions to AI agents unless they understand, clearly and upfront, what those agents are allowed to do. This requires explicit delegation boundaries and consent embedded in the experience, not buried in terms and conditions. Safe delegation requires three things: clear limits, traceability and reversibility. Every agent action should be attributable to a specific authorization, under defined conditions, with a clear way to undo or dispute the outcome.

In their own channels — the company website, app or branded agent — brands can set spending caps, require approval for purchases over certain amounts and add confirmation steps before checkout.

When consumers use general-purpose AI platforms like ChatGPT, Claude, Google’s Gemini or others to shop across multiple retailers, the brands’ direct control is limited. But they can still influence the experience by ensuring product data is accurate and structured. While it may be technically possible to implement safeguards such as confirmation prompts or return-policy disclosures on these platforms, doing so requires collaboration between brands and platform providers. In the meantime, brands can still influence outcomes by ensuring their product data is accurate, structured and complete.

3. PROTECT CUSTOMER DATA AND MAKE THAT PROTECTION VISIBLE

When consumers delegate tasks to AI agents, they share more than payment details. They share conversational context: preferences, constraints, intent and often emotion. That context is what makes agentic shopping powerful and uniquely sensitive. If customers don’t understand how that data is used, remembered or protected, they won’t delegate in the first place.

As brands launch their own AI agents to help customers shop for products, they should embed privacy-preserving design directly into agentic interactions. For example, brands can use data minimization techniques, so their agents retain only what is necessary to complete a task. Sensitive conversational signals can be processed transiently rather than stored indefinitely. Consent should be explicit, with clear choices about what is remembered, what is shared across sessions or platforms and what is not.

Visibility matters as much as protection. Consumers should be able to see — and change — their privacy posture in real time. Some interactions may warrant persistence, such as remembering a preferred size or brand. Others may not. An “incognito” or one-time shopping mode, where interactions are not retained or used for future recommendations, gives customers a sense of control that mirrors how people already manage privacy in browsers and payments.

4. OBSERVE HOW YOUR BRAND SHOWS UP IN AGENT ECOSYSTEMS

Brands need agentic observability: the ability to monitor, in real time, how AI agents describe their products, which sources they rely on, how recommendations are framed and what actions are being taken downstream. This requires ongoing visibility into prompts, responses, citations and decision logic across the agent ecosystems where customers are shopping.

Without observability, brands lose the ability to detect misrepresentation, correct errors or understand why a product was or wasn’t recommended. As agents increasingly act as intermediaries, monitoring how your brand shows up is no longer optional.

5. PRESERVE RELATIONSHIPS AND PLAN FOR RECOVERY

Even when agents handle transactions, brands still own the relationship. And as shopping becomes more automated, brands should embed branded agents in third-party platforms, extend loyalty programs through agents and design seamless escalation paths to reach a human when needed.

When things break, and they will, the response matters more than the failure. Recovery mechanisms should be built in from the start: real-time alerts and clear escalation paths.

TRUST AS STRATEGY, NOT COMPLIANCE

AI-driven shopping will scale when consumers feel secure. That requires systems that are well-governed, transparent and aligned with human expectations. The brands that lead won’t treat trust as a compliance exercise. They’ll treat it as a core part of their commerce strategy — building the technical standards, business practices and consumer protections that make delegation safe. Those who act now will help define the rules of this emerging ecosystem.

La entrada Cómo pueden adaptarse las marcas cuando los agentes de IA hacen las compras se publicó primero en DirigeHoy PREMIUM.

]]> 277068