Lo que los líderes deben saber sobre la auditoría de la IA
E
n los últimos años, la IA ha pasado de ser un ámbito exclusivo de los equipos técnicos a convertirse en una herramienta de uso generalizado. Antes, la IA operaba detrás de escena (por ejemplo, impulsando productos de consumo o moldeando los contenidos que aparecen en las redes sociales); ahora, el público en general interactúa directamente con asistentes virtuales y chatbots basados en IA generativa. Este aumento en el uso también ha despertado una mayor conciencia sobre los riesgos que pueden acompañar a los sistemas de IA.
Todo esto ha impulsado la aparición de una nueva profesión: el auditor algorítmico.
Aunque las auditorías se están convirtiendo en un componente central del trabajo con IA, no siguen un proceso predeterminado ni lineal; más bien, están formadas por una red de decisiones distintas, tanto desde el punto de vista empresarial como técnico. A continuación, explicamos lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.
Cuatro desafíos de las auditorías algorítmicas
¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas. Parte de la dificultad del proceso radica en convertir esas preguntas en algo concreto y operativo, identificando los datos y sistemas adecuados para responderlas.
Este proceso presenta cuatro desafíos comunes:
- Las auditorías no siguen una línea recta
Con frecuencia, los auditores se encuentran tomando muchos desvíos en el camino, que van desde la pregunta de investigación hasta la respuesta. A medida que conocen mejor el sistema que están auditando y los datos que lo sustentan, a menudo tienen que ajustar el rumbo.
- La gobernanza de datos es un caos
No es raro que los equipos técnicos dediquen la mayor parte de su tiempo a encontrar los datos adecuados y asegurarse de que puedan interpretarlos correctamente.
- La confianza interna es esencial
El equipo responsable del sistema auditado puede sentirse amenazado ante la idea de que su trabajo será evaluado, especialmente cuando los auditores son ajenos a su equipo. Esto puede generar un entorno de poca confianza, en el que resulta difícil fomentar la colaboración y donde los incentivos no están alineados.
- El enfoque está puesto en el pasado
A menos que el sistema esté siendo monitoreado en tiempo real, las auditorías se centran en el pasado. Esto genera ciertos desafíos técnicos: el proceso solo será exitoso en la medida en que los auditores logren reconstruir lo ocurrido.
Lo que los líderes pueden hacer
Antes de que una organización inicie un proceso de auditoría externa, debe seguir ciertos pasos para prepararse.
— Cultura e incentivos: La cultura siempre se define desde arriba. Los líderes deben dejar claro que las auditorías forman parte del trabajo cotidiano, y que no son medidas punitivas o una carga adicional.
— Diseñar la auditoría: Aunque se necesita tiempo y recursos para desarrollar la capacidad de auditoría interna y determinar los procesos adecuados, contar con un equipo interno eficaz puede suponer una ventaja a largo plazo. Por otro lado, los auditores externos no generan fricciones entre las distintas partes de la empresa, lo que podría ser una de las razones por las que a menudo se recurre a proveedores externos (aunque resulten más costosos).
Durante una auditoría
A pesar de que se haya llevado a cabo una preparación adecuada, la auditoría en sí misma puede resultar más complicada de lo que la mayoría esperaría. Los líderes empresariales deben ser conscientes de ello, aceptar el desorden inherente al proceso y ayudar aportando claridad.
— Dar forma al proceso: Los líderes deben tenerlo presente y asegurarse de recibir actualizaciones periódicas sobre las decisiones estratégicas más recientes, para poder ofrecer orientación cuando sea necesario.
También es fundamental que exijan una documentación exhaustiva de todas las decisiones técnicas, incluidas las compensaciones y cualquier métrica indirecta que se haya considerado. Esto ayudará a interpretar los resultados dentro de su contexto específico y con sus limitaciones.
© 2026 Harvard Business School Publishing Corp. | De: hbr.org | Distribuido por: The New York Times Syndicate.
Artículo en inglés
In the past few years, artificial intelligence has gone from being the prerogative of technical teams to a general use tool. While AI once worked behind the scenes — powering consumer products, for instance, or shaping social media feeds — now the general public interacts directly with virtual assistants and generative AI-based chatbots. This increase in usage has also sparked a growing awareness of the hazards that can come with AI systems.
All of this has fueled the growth of a new job: the algorithmic auditor.
While audits are becoming a core feature of working with AI, they don’t have a predetermined process that follows a straight line; rather, they are a made of web of different decisions, both from the business and the technical side. Here’s what business leaders need to know about how these audits work and how they can help guide the process.
FOUR CHALLENGES OF ALGORITHMIC AUDITS
What is an algorithmic audit? Simply put, it is a way of answering a question about an algorithmic system by analyzing data on how users and systems interact. Part of the difficulty of the process is to make such questions concrete and operationalize them by finding the right data and system to answer them.
This process has four common challenges:
1. Audits Are Not a Straight Line
Auditors commonly find themselves taking many detours on the path from the research question to the answer. As they learn about the system they’re auditing and the data behind it, they often have to adjust course.
2. Data Governance Is Messy
It’s not uncommon for technical teams to spend the majority of their time looking for the right data and making sure they can make sense of it.
3. Internal Trust Is Essential
The team that owns the audited system might feel threatened with their work being judged, especially when the auditors are external to their team. This might create a low-trust environment where it is difficult to foster collaboration and where incentives are misaligned.
4. The Focus Is on the Past
Unless the system is getting monitored in real time, audits focus on the past. That creates some technical challenges: the process will be only as successful as the auditors are able to recreate the past.
WHAT LEADERS CAN DO
Before an organization starts the external auditing process, it should take certain steps to prepare.
Culture and incentives.
Culture always comes from the top. Leaders need to show that audits are part of daily work, not punitive measures or extra work.
Designing the audit.
While it takes time and resources to build internal auditing capacity and figure out the right processes, having a performant internal team might be an advantage over the longer term. On the other hand, external auditors don’t cause friction between different parts of the company — arguably one of the reasons why more expensive external vendors are often used.
DURING AN AUDIT
Even with all the right preparation, the audit itself might be messier than most would hope. Business leaders should be aware and embrace the natural disorder of the process and help by bringing clarity to it.
Shaping the process.
Leaders should be aware of that and make sure they are regularly updated on the latest high-level decisions so that they can offer guidance when needed. ons.
It is also vital that they demand thorough documentation of all technical decisions, including any trade-offs or proxy metrics considered. This will help interpret the results in the right context and limitations.
La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más)
La IA puede alejar las evaluaciones de desempeño de las narrativas laborales y acercarlas a evidencia directa del trabajo en la práctica.
Es difícil utilizar la IA en equipo. Estas 3 prácticas pueden ayudar
He aquí tres prácticas que pueden ayudar a desarrollar la «química humano-IA en los equipos» a medida que evoluciona el lugar de trabajo.
¿Cuáles son los problemas de su empresa en materia de IA?
El “Ethical Nightmare Challenge” (ENC) es un marco de trabajo que puede integrarse con programas existentes de gestión de riesgos de IA.
