E

n los últimos años, la IA ha pasado de ser un ámbito exclusivo de los equipos técnicos a convertirse en una herramienta de uso generalizado. Antes, la IA operaba detrás de escena (por ejemplo, impulsando productos de consumo o moldeando los contenidos que aparecen en las redes sociales); ahora, el público en general interactúa directamente con asistentes virtuales y chatbots basados en IA generativa. Este aumento en el uso también ha despertado una mayor conciencia sobre los riesgos que pueden acompañar a los sistemas de IA. 

Todo esto ha impulsado la aparición de una nueva profesión: el auditor algorítmico.

Aunque las auditorías se están convirtiendo en un componente central del trabajo con IA, no siguen un proceso predeterminado ni lineal; más bien, están formadas por una red de decisiones distintas, tanto desde el punto de vista empresarial como técnico. A continuación, explicamos lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.

Cuatro desafíos de las auditorías algorítmicas

¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas. Parte de la dificultad del proceso radica en convertir esas preguntas en algo concreto y operativo, identificando los datos y sistemas adecuados para responderlas.

Este proceso presenta cuatro desafíos comunes:

1. Las auditorías no siguen una línea recta

Con frecuencia, los auditores se encuentran tomando muchos desvíos en el camino, que van desde la pregunta de investigación hasta la respuesta. A medida que conocen mejor el sistema que están auditando y los datos que lo sustentan, a menudo tienen que ajustar el rumbo.

2. La gobernanza de datos es un caos

No es raro que los equipos técnicos dediquen la mayor parte de su tiempo a encontrar los datos adecuados y asegurarse de que puedan interpretarlos correctamente.

3. La confianza interna es esencial

El equipo responsable del sistema auditado puede sentirse amenazado ante la idea de que su trabajo será evaluado, especialmente cuando los auditores son ajenos a su equipo. Esto puede generar un entorno de poca confianza, en el que resulta difícil fomentar la colaboración y donde los incentivos no están alineados.

4. El enfoque está puesto en el pasado

A menos que el sistema esté siendo monitoreado en tiempo real, las auditorías se centran en el pasado. Esto genera ciertos desafíos técnicos: el proceso solo será exitoso en la medida en que los auditores logren reconstruir lo ocurrido.

Lo que los líderes pueden hacer

Antes de que una organización inicie un proceso de auditoría externa, debe seguir ciertos pasos para prepararse.

— Cultura e incentivos: La cultura siempre se define desde arriba. Los líderes deben dejar claro que las auditorías forman parte del trabajo cotidiano, y que no son medidas punitivas o una carga adicional.

— Diseñar la auditoría: Aunque se necesita tiempo y recursos para desarrollar la capacidad de auditoría interna y determinar los procesos adecuados, contar con un equipo interno eficaz puede suponer una ventaja a largo plazo. Por otro lado, los auditores externos no generan fricciones entre las distintas partes de la empresa, lo que podría ser una de las razones por las que a menudo se recurre a proveedores externos (aunque resulten más costosos).

Durante una auditoría

A pesar de que se haya llevado a cabo una preparación adecuada, la auditoría en sí misma puede resultar más complicada de lo que la mayoría esperaría. Los líderes empresariales deben ser conscientes de ello, aceptar el desorden inherente al proceso y ayudar aportando claridad.

— Dar forma al proceso: Los líderes deben tenerlo presente y asegurarse de recibir actualizaciones periódicas sobre las decisiones estratégicas más recientes, para poder ofrecer orientación cuando sea necesario.

También es fundamental que exijan una documentación exhaustiva de todas las decisiones técnicas, incluidas las compensaciones y cualquier métrica indirecta que se haya considerado. Esto ayudará a interpretar los resultados dentro de su contexto específico y con sus limitaciones.

E

n los últimos años, la IA ha pasado de ser un ámbito exclusivo de los equipos técnicos a convertirse en una herramienta de uso generalizado. Antes, la IA operaba detrás de escena (por ejemplo, impulsando productos de consumo o moldeando los contenidos que aparecen en las redes sociales); ahora, el público en general interactúa directamente con asistentes virtuales y chatbots basados en IA generativa. Este aumento en el uso también ha despertado una mayor conciencia sobre los riesgos que pueden acompañar a los sistemas de IA: desde el trato desigual hacia distintos grupos hasta la generación de información falsa, sensible o dañina, especialmente en temas de gran impacto (como cuestiones médicas o legales).

En respuesta, los responsables de formular políticas públicas han intentado establecer límites y salvaguardas sobre el impacto que estas herramientas pueden tener en la sociedad.

Todo esto ha impulsado la aparición de una nueva profesión: el auditor algorítmico.

Aunque las auditorías se están convirtiendo en un componente central del trabajo con IA, no siguen un proceso predeterminado ni lineal; más bien, están formadas por una red de decisiones distintas, tanto desde el punto de vista empresarial como técnico. A continuación, explicamos lo que los líderes empresariales deben saber sobre el funcionamiento de estas auditorías y cómo pueden ayudar a orientar el proceso.

Cuatro desafíos de las auditorías algorítmicas

¿Qué es una auditoría algorítmica? En pocas palabras, es una forma de responder a una pregunta sobre un sistema algorítmico mediante el análisis de datos sobre cómo interactúan los usuarios y los sistemas. Estas preguntas (que suelen tener como objetivo comprender si un sistema funciona según lo previsto o si perjudica a los usuarios) pueden ser tanto concretas como abstractas. Parte de la dificultad del proceso radica en convertir esas preguntas en algo concreto y operativo, identificando los datos y sistemas adecuados para responderlas.

Este proceso presenta cuatro desafíos comunes:

1. Las auditorías no siguen una línea recta

Con frecuencia, los auditores se encuentran tomando muchos desvíos en el camino, que van desde la pregunta de investigación hasta la respuesta. A medida que conocen mejor el sistema que están auditando y los datos que lo sustentan, a menudo tienen que ajustar el rumbo, lo que puede traducirse en plazos de entrega más largos o en pequeños cambios en el enfoque.

2. La gobernanza de datos es un caos

La gobernanza interna de datos suele parecerse menos a un rascacielos moderno (con una distribución racional y un plano claro) y más a un edificio antiguo en el que cada nueva capa se construye sobre la anterior, muchas veces sin tener en cuenta los usos previos. No es raro que los equipos técnicos dediquen la mayor parte de su tiempo a encontrar los datos adecuados y asegurarse de que puedan interpretarlos correctamente.

También hay otros problemas comunes. Quizá la persona responsable del conjunto de datos ya dejó la organización, o tal vez ese conjunto de datos simplemente fue descontinuado y sustituido por uno más reciente, pero sin documentación. En la mayoría de los casos, la única manera de avanzar es encontrar a alguien que pueda ayudar, un proceso poco eficiente y que consume mucho tiempo.

3. La confianza interna es esencial

La dinámica de los equipos desempeña un papel importante. El equipo responsable del sistema auditado puede sentirse amenazado ante la idea de que su trabajo será evaluado, especialmente cuando los auditores son ajenos a su equipo. Esto puede generar un entorno de poca confianza, en el que resulta difícil fomentar la colaboración y donde los incentivos no están alineados.

Para ser efectivos, los auditores necesitan orientación y apoyo del equipo auditado, ya que no carecen del conocimiento especializado del sistema que están evaluando. La cultura adecuada es aquella en la que tanto auditores como auditados trabajan juntos para fortalecer el sistema y, en última instancia, obtener un resultado más sólido y de mayor calidad.

4. El enfoque está puesto en el pasado

A menos que el sistema esté siendo monitoreado en tiempo real, las auditorías se centran en el pasado. Esto genera ciertos desafíos técnicos: el proceso solo será exitoso en la medida en que los auditores logren reconstruir lo ocurrido. Para empezar, es posible que los datos necesarios ya no se encuentren disponibles en el sistema.

Un problema relacionado es que los sistemas algorítmicos cambian con el tiempo. Los modelos pueden volver a entrenarse con datos más recientes, o un sistema antiguo puede ser sustituido por un algoritmo o una arquitectura más nuevos. Puede ser muy difícil (e incluso imposible) reproducir las condiciones exactas en las que se encontraba cada componente durante el periodo de auditoría deseado. En este sentido, es de esperar que exista cierta disparidad, pero debe exigirse a los auditores que documenten los problemas encontrados al buscar los datos adecuados y que estimen hasta qué punto los resultados de la auditoría son aplicables a los sistemas que actualmente están en funcionamiento.

Lo que los líderes pueden hacer

Estas son algunas acciones útiles que pueden tomarse antes y durante una auditoría.

Antes de una auditoría

Antes de que una organización inicie un proceso de auditoría externa, debe seguir ciertos pasos para prepararse.

— Cultura e incentivos: Las auditorías pueden no ser bien recibidas por los equipos responsables del sistema que será examinado. Pueden sentirse bajo presión, frustrados y, en última instancia, molestos porque su trabajo está bajo lupa.

La cultura siempre se define desde arriba. Los líderes deben dejar claro que las auditorías forman parte del trabajo cotidiano, y que no son medidas punitivas o una carga adicional.

Como parte de la preparación, los líderes empresariales podrían estructurar la organización de modo que cada equipo cuente con una persona designada que esté disponible para responder directamente cualquier pregunta sobre datos y algoritmos, o que tenga la capacidad de orientar hacia la dirección correcta. Esto ayudaría a aislar y minimizar las interrupciones.

— Diseñar la auditoría: Las auditorías exigidas por ley deben ser realizadas por auditores externos e independientes. Aunque se necesita tiempo y recursos para desarrollar la capacidad de auditoría interna y determinar los procesos adecuados, contar con un equipo interno eficaz puede suponer una ventaja a largo plazo. Por otro lado, los auditores externos no generan fricciones entre las distintas partes de la empresa, lo que podría ser una de las razones por las que a menudo se recurre a proveedores externos (aunque resulten más costosos).

Un equipo de auditoría centralizado acumulará una experiencia más profunda y, al trabajar con distintas áreas del negocio, tendrá una comprensión más amplia e integral del proceso. Sin embargo, al ser externos al equipo auditado, estos equipos necesitarán más tiempo para ganarse su confianza y recopilar la información necesaria para realizar su trabajo. Un equipo que audita sus propios sistemas, por supuesto, partirá de una comprensión más completa de todos sus componentes. Sin embargo, al realizar auditorías con menor frecuencia, podría pasar por alto algunas buenas prácticas importantes.

Durante una auditoría

Aunque se haya llevado a cabo una preparación adecuada, la auditoría en sí misma puede resultar más complicada de lo que la mayoría esperaría. Los líderes empresariales deben ser conscientes de ello, aceptar el desorden inherente al proceso y ayudar aportando claridad.

— Dar forma al proceso: Dado que la auditoría es un proceso no lineal, pueden producirse muchos cambios mientras se lleva a cabo. Los líderes deben tenerlo presente y asegurarse de recibir actualizaciones periódicas sobre las decisiones estratégicas más recientes, para poder ofrecer orientación cuando sea necesario.

También es fundamental que exijan una documentación exhaustiva de todas las decisiones técnicas, incluidas las compensaciones y cualquier métrica indirecta que se haya considerado. Esto ayudará a interpretar los resultados dentro de su contexto específico y con sus limitaciones.

A

diferencia del software tradicional, los agentes de IA están diseñados para razonar, planificar y ejecutar acciones a través de distintos sistemas. En el momento en que un agente puede modificar un sistema de registro (actualizar un precio, enviar un pago o modificar los datos de un cliente) deja de ser una herramienta de productividad y se convierte en parte del modelo operativo de la organización.

Lo más importante es que esto introduce nuevas categorías de riesgo. Una herramienta de IA generativa limitada (como ChatGPT para redactar correos electrónicos) genera un riesgo de contenido: puede decir algo incorrecto. La IA agéntica genera un riesgo de ejecución: puede hacer algo incorrecto.

Para superar ese umbral e integrar eficazmente agentes de IA a gran escala, usted debe tratarlos como una nueva clase de fuerza laboral que requiere gestión.

Mientras no se establezcan estas bases organizacionales, escalar la IA agéntica será difícil. Cuatro fricciones recurrentes, en particular, tienden a ralentizar o descarrilar el progreso. Entenderlas es el primer paso para gestionarlas.

1. Identidad: ¿Quién está actuando?

Las organizaciones deben tratar a cada agente de IA como un trabajador digital distinto, con su propia identidad, credenciales y rol. En lugar de depender de cuentas de servicio compartidas, las empresas deben asignar permisos a los agentes con un alcance limitado que reflejen las tareas específicas para las que están diseñadas. Los mismos principios utilizados para gestionar a los colaboradores humanos (como el acceso al mínimo privilegio y los límites basados en funciones) deben aplicarse también a los agentes.

2. Contexto: Cuando los datos erróneos llevan a malas acciones

Los agentes también introducen un nuevo desafío de seguridad: la manipulación del contexto. Si un agente lee correos electrónicos, formularios o tickets de soporte y luego ejecuta tareas basadas en esa información, los atacantes pueden incrustar instrucciones ocultas diseñadas para influir en su comportamiento.

Para hacer frente a estas fricciones contextuales, las organizaciones deben establecer estándares claros sobre qué información pueden considerar confiable sus agentes. Esto implicará definir fuentes autorizadas para políticas, precios y datos operativos, de modo que los agentes puedan apoyarse de forma consistente en la versión correcta de la verdad.

3. Control: Los sistemas probabilísticos necesitan límites claros

Los métodos de prueba tradicionales parten de la base de que el comportamiento es estable. Un sistema que hoy supera una serie de pruebas puede comportarse de forma diferente mañana si se actualiza el modelo, cambia el prompt o se añaden nuevos datos. Y los riesgos aumentan en entornos con múltiples agentes donde estos se transfieren tareas entre sí.

Sin límites claros, los errores (o ataques) pueden propagarse a lo largo de un sistema automatizado. Para gestionar ese riesgo, las organizaciones deben construir controles deterministas en torno a los sistemas de IA probabilísticos. En lugar de permitir que los agentes ejecuten acciones directamente, las empresas deben implementar capas de validación entre el modelo de IA y los sistemas operativos. En este enfoque, el agente propone una acción (como emitir un reembolso) y, antes de ejecutarse, un software determinista verifica que cumpla con las reglas establecidas.

4. Responsabilidad: Cuando nadie puede explicar lo que ocurrió

Las empresas deben diseñar sus sistemas de IA pensando en la responsabilidad desde el principio. Esto comienza con mantener registros completos de cómo operan los agentes, incluyendo a qué fuentes de datos accedieron, qué instrucciones recibieron y qué herramientas utilizaron para completar una tarea. Estos registros deben permitir reconstruir la cadena de razonamiento que llevó a cualquier acción.

Las empresas no son entornos listos para usar; son sistemas complejos moldeados por tecnología heredada, políticas y el juicio humano. Las organizaciones que tengan éxito con la IA agéntica no serán simplemente las que implementen más agentes, sino aquellas que construyan las estructuras que permitan confiar en ellos.

S

i hay una constante en el mundo de la tecnología, es que cuanto más se adopta una tecnología determinada, más fallos presenta.

Dado que la respuesta ante incidentes de IA es diferente de la respuesta tradicional a incidentes en varios aspectos, los esfuerzos de respuesta ante incidentes de IA requieren sus propias políticas y procedimientos para guiar a las empresas y al personal involucrado en la gestión del incidente. Las políticas sobre incidentes de IA deben abordar los siguientes puntos.

— Crear una definición de IA.

— Identificar los daños más relevantes.

— Designar a los responsables de responder ante incidentes.

— Desarrollar un plan de contención a corto plazo.

¿Qué hacer después de identificar un incidente de IA: contención, erradicación y recuperación?

Una vez que se han identificado los incidentes, el siguiente paso es llevar a cabo una estrategia de contención a más largo plazo para evitar que el daño se extienda aún más. Estas son las preguntas críticas que dicha evaluación debe responder:

— ¿Quién está siendo perjudicado?

— ¿Cuáles son las opciones para modificar el comportamiento del sistema de IA?

— ¿Qué está causando el daño?

— ¿Pueden abordarse o rectificarse de alguna manera los daños existentes?

Una vez que el incidente ha ocurrido, es importante no solo entender quién ha sido perjudicado, sino también qué pueden hacer las empresas al respecto. Un tipo común de incidente se produce cuando se ofrecen servicios preferenciales (como descuentos en productos) solo a grupos demográficos específicos.

Cuando se han puesto en marcha y ejecutado los planes de contención, el siguiente paso consiste en intentar eliminar por completo la causa del incidente. Algunos sistemas de IA pueden ser susceptibles de ser erradicados, pero otros solo permiten una erradicación parcial, o es posible que la fuente del incidente no pueda eliminarse por completo. A grandes rasgos, existen tres formas principales de abordar o corregir el comportamiento problemático de los modelos, cada una de las cuales ha sido utilizada desde hace mucho tiempo para depurar modelos de aprendizaje automático:

1. Preprocesamiento: Se refiere a las acciones que se pueden realizar antes de que el modelo ingiera datos de entrada o sea entrenado con ellos. En algunos casos, los datos de entrenamiento no representativos pueden ser la fuente del comportamiento problemático del modelo. En ese caso, la solución consiste en volver a entrenar el modelo con datos más representativos.

2. Procesamiento interno: Este tipo de correcciones implica cambiar los pesos reales o la arquitectura del propio modelo. En ocasiones, este tipo de actualizaciones son relativamente simples, pero en la mayoría de los casos requieren un desarrollo significativo y prolongado. Rara vez he visto que este enfoque funcione en la práctica, sobre todo porque a menudo implica crear un modelo completamente nuevo.

3. Postprocesamiento: Esta es la opción más sencilla de todas y se ha utilizado ampliamente durante décadas para solucionar problemas de IA. Consiste en cambiar el comportamiento del modelo después de que el sistema ha realizado sus predicciones. Los filtros de salida, por ejemplo, pueden simplemente impedir ciertos comportamientos o evitar que se generen predicciones específicas. Por lo general, estos se presentan en forma de reglas que pueden añadirse al modelo.

Lecciones aprendidas

Una vez concluidas las actividades de respuesta, es fundamental que las empresas realicen una revisión posterior para aprender y mejorar a partir de cada incidente. Esto implica dar un paso atrás y evaluar los aciertos y las deficiencias en la forma en que se abordó el incidente.

Prevenir y responder a los riesgos debe ser un ejercicio continuo.

L

a IA tiene un problema de confianza entre los trabajadores de primera línea, y está empeorando. El TrustID Index de Deloitte, que mide diariamente la opinión de clientes y empleados, muestra que la confianza en la IA generativa proporcionada por las empresas (herramientas que se supone deben aligerar la carga de trabajo y aumentar la creatividad) cayó un 31% entre mayo y julio de 2025, los resultados más recientes disponibles, lo que refleja un creciente escepticismo sobre su fiabilidad y valor. La confianza en los sistemas de IA agéntica, que pueden actuar de forma independiente y no solo hacer recomendaciones, cayó un 89% durante el mismo periodo, a medida que los empleados se mostraban cada vez más incómodos con la idea de que la tecnología tomara decisiones que antes les correspondían a ellos.

Nuestra investigación también reveló que el uso de herramientas de IA proporcionadas por los empleadores disminuyó un 15% entre febrero y julio. Pero aquí está el problema: casi la mitad de los empleados de primera línea con acceso a IA están recurriendo a herramientas no aprobadas, lo que indica que confían más en las soluciones paralelas que en las oficiales. Esto sugiere que el problema no es la desconfianza hacia la IA en general, sino hacia la IA que sus empleadores les piden que utilicen. Para estos empleados, las herramientas autorizadas por la empresa se sienten impuestas, no introducidas; obligatorias, no cocreadas. Y detrás de ese escepticismo se esconde un temor más profundo: que se les pida a los empleados que ayuden a promover la misma tecnología que podría reemplazarlos.

Con tanto en juego en la carrera por capitalizar la revolución de la IA, comprender la magnitud del desafío de la confianza es fundamental. He aquí un enfoque que Deloitte está adoptando para abordar este problema:

En Deloitte, nuestro TrustID Index rastrea la confianza de la misma manera que los mercados rastrean las acciones: en tiempo real, entre diferentes industrias y roles. Aproximadamente 60,000 empleados estadounidenses de organizaciones de todos los tamaños y sectores de la economía responden nuestras encuestas cada año, compartiendo su percepción sobre la fiabilidad, capacidad, transparencia y humanidad de su organización o tecnología (lo que llamamos los “cuatro factores de la confianza”). Cada factor se puntúa según el grado de acuerdo del encuestado con afirmaciones en una escala del 1 al 7, como si la organización demuestra empatía y justicia (humanidad), si se comunica de manera abierta y clara (transparencia), si ofrece productos y experiencias de calidad (capacidad) y si cumple sus promesas de manera consistente (fiabilidad). El TrustID de Deloitte combina estas dimensiones en un puntaje compuesto fundamentado en investigación conductual y estadística.

La confianza beneficia a todos, y nuestro marco hace que lo intangible sea accionable. Recomendamos que cada empresa evalúe los elementos centrales de la confianza dentro de su organización y, dado que la confianza es tan fundamental para el éxito empresarial, hemos hecho que nuestra metodología TrustID sea de código abierto, a través de un capítulo descargable en nuestro libro que describe la ciencia detrás de la medición. Como mínimo, sugerimos incluir los cuatro factores de la confianza en su enfoque de medición existente, ya sea mediante una encuesta anual de talento o mientras se prueban herramientas de IA.

Al dividir la confianza en componentes medibles, los líderes pueden ver dónde está aumentando o erosionándose, y actuar en consecuencia. Por ejemplo, si los empleados reportan baja confianza en la transparencia de la IA, los líderes podrían responder aumentando la comunicación sobre cómo las herramientas toman decisiones o involucrando a los empleados en definir su uso.

Y dado que nuestro modelo es altamente predictivo del comportamiento, revela no solo cuánto confían las personas, sino también cómo esa confianza se traduce en defensa, compromiso y desempeño. Por ejemplo, los empleados de la fuerza laboral en general con un nivel de confianza alto tienen 1.9 veces más probabilidades de recomendar su organización a otros, 2.1 veces más motivación para trabajar para su empleador y 1.7 veces más probabilidades de desarrollar nuevas habilidades. En otras palabras, ayuda a cuantificar algo que a menudo se trata como intangible: el ser humano detrás de cada resultado de la IA.

E

n una empresa minorista de la lista Fortune 500, la dirección proporcionó a un equipo responsable de redactar contratos de negociación con proveedores una herramienta de IA diseñada para agilizar su trabajo. Impulsada por un modelo de lenguaje de gran tamaño (LLM, por sus siglas en inglés) ampliamente utilizado, la dirección esperaba que la herramienta acelerara el trabajo del equipo. Sin embargo, a pesar de las altas expectativas, la producción del equipo no cambió. Aunque la herramienta podía generar texto genérico (por ejemplo, un borrador inicial de un contrato), el equipo tenía que personalizar ese texto para cada proveedor.

Esta historia refleja un patrón de cómo las herramientas de IA no cumplen con sus promesas. En una encuesta reciente que realizamos a 30 empresas de diversos sectores, los encuestados informaron que las herramientas genéricas de IA a menudo no ayudan a los usuarios a completar las tareas específicas requeridas en flujos de trabajo únicos, porque son genéricas.

Esta brecha entre las capacidades genéricas de la IA y las necesidades específicas y cambiantes de los equipos apunta a un desafío más profundo: las herramientas actuales no están diseñadas para comprender cómo se realiza realmente el trabajo. En este artículo, ofrecemos dos conceptos clave que pueden ayudar a cerrar esa brecha: los “gráficos de trabajo” (mapas digitales de cómo trabajan los equipos) y la “localización mecanicista inversa” (adaptación de los modelos de IA a los equipos). Estas ideas ayudan a explicar por qué la IA tradicional a menudo se queda corta y cómo las organizaciones pueden diseñar sistemas de IA que se adapten a flujos de trabajo, usuarios y contextos reales.

Por qué la herramienta de IA no creaba valor

Considere este problema en el contexto de un proceso particular ejecutado por el equipo de contratos. Tradicionalmente, al redactar un nuevo contrato para un proveedor, el equipo:

— Iniciaba sesión en múltiples sistemas.

— Recuperaba, analizaba y verificaba los detalles del proveedor.

— Revisaba las cotizaciones del proveedor y los términos de negociación de proveedores similares (o relacionados).

— Examinaba cualquier historial de pedidos relevante del proveedor.

— Redactaba manualmente un contrato que incorporara todos estos elementos.

Cuando el equipo de contratos adoptó por primera vez la herramienta de IA, su proceso comenzaba generando un contrato básico y genérico. A partir de ahí, dedicaban una cantidad considerable de tiempo a perfeccionarlo manualmente. Los resultados de la herramienta de IA se basaban en gran medida en contenidos públicos de Internet y carecían de los matices y el contexto específicos necesarios para sus contratos. Aunque el equipo consideró que la herramienta de IA era interesante, le resultaba difícil ver un impacto real en términos de reducción de esfuerzo.

Este es un ejemplo de la “paradoja de la productividad” de la IA en acción: una tecnología increíble que, sin una profunda adaptación contextual, no se traduce en mejoras tangibles de productividad.

Los modelos de IA potentes destacan porque están entrenados con grandes conjuntos de datos genéricos, pero su universalidad es un arma de doble filo. Si bien estos modelos pueden realizar una amplia gama de tareas, a menudo pasan por alto el contexto único de flujos de trabajo específicos y las necesidades particulares de los equipos, lo que lleva a una pérdida de ganancias en productividad.

El contexto lo es todo

Mientras la empresa experimentaba con esta IA, también trabajaba en lo que se convertiría en una solución a ese problema del contexto mediante la implementación de herramientas para mapear sus procesos y crear un gráfico de trabajo: una vista dinámica en tiempo real de cómo los equipos ejecutan sus flujos de trabajo en todos los sistemas. Estos mapas capturaban más que solo tareas: revelaban cómo se tomaban las decisiones, qué datos se consultaban y qué sistemas estaban involucrados.

Y aquí es donde surgió la verdadera oportunidad: el gráfico de trabajo (que incluía dos meses de actividad verificada y rica en contexto) podía utilizarse para entrenar la herramienta de IA. Debido a que capturó todo lo que el equipo consideraba importante, proporcionó a la herramienta de IA un contexto en tiempo real validado por humanos, lo que permitió que la herramienta comenzara a trabajar de una manera alineada con cómo realmente trabajaba el equipo. Con esta información, la herramienta de IA fue capaz de producir un primer borrador significativamente más completo, reduciendo iteraciones y acelerando el camino hacia un contrato final y utilizable.

Sin embargo, para que esto funcionara se requería algo más que los datos correctos: exigía el enfoque correcto. Mientras que la automatización tradicional a menudo busca reemplazar el trabajo humano, el objetivo aquí era personalizar la IA para que trabajara mejor para los equipos, reflejando cómo operan. Para lograrlo, aplicamos un enfoque llamado “localización mecanicista inversa” (RML, por sus siglas en inglés). Para entender cómo funciona una IA, lo habitual es aplicarle ingeniería inversa desde una perspectiva humana. La RML le da la vuelta a esa idea: aplica ingeniería inversa a la forma en que trabajan los humanos, analizando en profundidad los flujos de trabajo, las decisiones y el contexto reales de un equipo, y lo usa para adaptar la IA para servir mejor al equipo.

Los siguientes pasos estuvieron involucrados en la implementación de la RML para el equipo de contratos.

1. Mapear el gráfico de trabajo.

Comenzamos capturando cada paso e interacción humano-máquina que los miembros del equipo de contratos realizaban en su trabajo: cómo recuperaban información sobre un proveedor, cómo realizaban verificaciones cruzadas, cómo integraban manualmente diversas fuentes de datos en archivos de Excel, etc. Estos datos granulares y de alta fidelidad son la esencia del contexto local de un equipo.

Estos datos, en todas las organizaciones, proporcionan los detalles específicos de cómo trabaja realmente un equipo. Cuando este rico tapiz se introduce en la herramienta de IA, le permite transformar un modelo genérico en una herramienta altamente especializada que comprende el lenguaje local del trabajo.

2. Ajustar el gráfico de trabajo.

Una vez que mapeamos el gráfico de trabajo del equipo de contratos, utilizamos sus conocimientos detallados como contexto y lo usamos para ajustar el modelo que impulsa la herramienta de IA. Eso requería alimentar al modelo (bajo la herramienta de IA) con patrones de trabajo y datos (por ejemplo, información de proveedores). Este es el paso clave: integrar el contexto local de un equipo en la herramienta de IA. Al integrar los patrones de trabajo específicos y las señales contextuales de las operaciones diarias del equipo, la herramienta de IA genera un primer borrador del contrato que incluye varios detalles del proveedor, los matices en torno a sus calificaciones crediticias, etc.

3. Perfeccionamiento continuo.

Las organizaciones evolucionan continuamente. Los procesos cambian, se introducen nuevas tecnologías y las situaciones y prioridades se transforman. Por lo tanto, las empresas deben actualizar continuamente el gráfico de trabajo e introducir los patrones emergentes en el modelo para mantener actualizadas las herramientas de IA.

Este tipo de retroalimentación, llamada “aprendizaje por refuerzo con retroalimentación humana” (RLHF, por sus siglas en inglés), se utiliza para ajustar y perfeccionar el modelo dentro de la herramienta de IA. Como resultado, la herramienta de IA continúa adaptándose a las necesidades del equipo, asegurando una alta precisión sostenida a lo largo del tiempo.

¿Qué pueden hacer los CXOs?

Los directores de experiencia del cliente (CXO, por sus siglas en inglés) deben reconocer que la IA no es una tecnología de “implementar y olvidar”. En cambio, su valor se desbloquea cuando el sistema está alineado con los patrones de trabajo específicos y los procesos de toma de decisiones de la organización.

Al invertir en un enfoque personalizado, las empresas pueden reducir significativamente las tasas de error, recortar los costos operativos y, en última instancia, lograr un ROI mucho mayor en sus iniciativas de IA. En el panorama competitivo actual, descuidar la integración de esta capa de conocimiento contextual significa dejar el dinero, y la ventaja estratégica, sobre la mesa.

En resumen, si su estrategia de IA depende únicamente de soluciones estándar, corre el riesgo de perderse una transformación que impulse una verdadera productividad y reducción de riesgos. Por lo tanto, una estrategia de IA completa debe incluir un perfeccionamiento continuo mediante conocimientos localizados para garantizar que las inversiones en tecnología aporten valor inmediato y a largo plazo.

S

egún las predicciones de PwC para 2025, la IA es el principal factor que cambiará fundamentalmente la manera de hacer negocios y crear valor este año. La IA se está integrando rápidamente en la forma en que los empleados ejecutan las tareas esenciales en organizaciones de diversos sectores, desde la optimización del servicio al cliente hasta el apoyo en la toma de decisiones y la mejora de la eficiencia. Esta tecnología también está a punto de transformar la forma en que se gestiona a los trabajadores. Los sistemas y agentes de IA son cada vez más capaces de supervisar el flujo de trabajo, y cómo los empleados y la IA colaboran en dichas tareas.

Sin embargo, aunque el porcentaje de organizaciones que adoptan IA ha pasado del 55% en 2023 al 78% en 2024, según McKinsey, los empleados muestran un entusiasmo significativamente menor respecto al uso de la IA en sus actividades diarias. Esto plantea una pregunta importante: ¿Los empleados confían en estas tecnologías?

La evidencia sugiere que la confianza es escasa. En una encuesta reciente de Pew Research, los encuestados informaron sentirse reticentes respecto a la IA: el 52% afirmó sentirse “preocupado” por el impacto de la IA en el lugar de trabajo, y el 33% dijo sentirse “abrumado”, en comparación con el 36% que se describió como “esperanzado”. A nivel global, Edelman descubrió que el 35% de los encuestados dijo rechazar la IA, frente al 30% que la adoptó. Según otra encuesta de Pew Research, el 71% de los estadounidenses se oponía a que las empresas utilizaran IA para tomar decisiones finales de contratación, y el 61% se oponía a su uso para rastrear los movimientos de los trabajadores.

Investigaciones recientes sobre gestión también han demostrado que una de las principales razones por las que los empleados no confían en la IA es que consideran que estas herramientas carecen de benevolencia al hacer recomendaciones y tomar decisiones, y dudan que la IA “se preocupe” y tome en cuenta sus intereses. La benevolencia (la disposición a adoptar una orientación positiva para servir a los intereses de otro interdependiente) es un concepto importante en este contexto, porque representa la característica fundamental del fideicomisario (la IA) para hacer el bien al fideicomitente (los empleados), como base para que surja la confianza.

Estas preocupaciones de los empleados también envían una señal a los líderes organizacionales de que la confianza en ellos también podría estar faltando. Los empleados desean saber si la adopción de la IA promoverá sus intereses o conducirá a su despido; si potenciará o reemplazará sus contribuciones.

A medida que las organizaciones consideran integrar sistemas de IA en su gestión y toma de decisiones, deben preguntarse cómo la IA influirá en la forma en que los empleados perciben la benevolencia. Al pensar en esto, deben considerar cómo estos sistemas pueden afectar la experiencia de los empleados y su visión del trabajo, así como qué rol debe desempeñar la gerencia en la mediación de las recomendaciones de la IA para abordar las preocupaciones de los empleados.

La IA y la capacidad de ser benévola

Los sistemas de IA son cada vez más hábiles para reconocer patrones en las interacciones humanas. Esta capacidad es lo que los hace tan efectivos para funcionar de manera (semi)autónoma en áreas como el servicio al cliente, las recomendaciones personalizadas y la gestión del flujo de trabajo. Al analizar grandes conjuntos de datos sobre comportamiento humano, los sistemas de IA pueden hacer inferencias matizadas sobre las preferencias, estilos de comunicación y respuestas humanas, y posteriormente tomar decisiones. Debido a esto, estos sistemas también pueden comunicarse de maneras que parecen humanas.

Dado que la IA refleja lo que ve en los datos y toma señales de quien le da instrucciones, puede reflejar tanto los valores vividos como los declarados de una empresa. Las organizaciones pueden entrenar a la IA que proporciona recomendaciones para que parezca benévola mediante el uso de indicaciones y solicitudes específicas. Por ejemplo, una IA puede recibir instrucciones para que identifique y priorice los intereses de las partes involucradas en una decisión empresarial.

Las empresas ya están haciendo esto. Por ejemplo, en 2017, Salesforce utilizó su sistema interno de IA para asesorar a los líderes cuando tomaban decisiones. En esos casos, la IA se empleó para reducir el sesgo en las reuniones y disminuir la política interna o las agendas personales. Ayudó a defender los intereses de las partes interesadas, a que los líderes tomaran decisiones benévolas y a demostrar que la IA puede ser una herramienta que ayuda a promover la benevolencia en la toma de decisiones.

Es poco probable que los empleados experimenten estas intervenciones como evidencia de la benevolencia de la IA (ni deberían hacerlo), porque generalmente consideran que esa es una cualidad humana y que está fuera del alcance de estas herramientas.

Esto se debe a que los sistemas de IA no son ni pueden ser benévolos. De hecho, estos sistemas operan a través de algoritmos que siguen patrones estadísticos y objetivos predefinidos sin ningún propósito autoimpuesto; y, como tal, no existe intención en la lógica interna del motor de IA. Sin la capacidad de tener una opinión y tomar una decisión basada en el juicio, los sistemas de IA tienen una comprensión limitada del mundo y de lo que motiva a los humanos en ese mundo. Y, por esa razón, los sistemas de IA no poseen la disposición genuina de cuidar los intereses de las personas.

Recomendaciones

Para fomentar la confianza en la IA, es importante que las organizaciones comprendan que esto no es solamente un ejercicio de ingeniería donde se necesitan intervenciones a nivel de la tecnología en sí, como el código abierto y la promoción de una IA explicable. Garantizar que la IA sea aceptada por los empleados requiere que estos puedan comprenderla y saber cómo funciona. Lograr este tipo de confianza requiere intervenciones tanto a nivel de la IA como del liderazgo. He aquí cómo hacerlo:

1. Para construir un entorno donde los empleados puedan adoptar la IA con confianza, las organizaciones deben promover los factores de confianza cognitiva de la IA: fiabilidad, precisión y transparencia. Las investigaciones demuestran que los sistemas percibidos como confiables y comprensibles fomentan una mayor aceptación entre los usuarios. Este tipo de confianza puede lograrse interviniendo en la tecnología misma. Por ejemplo, la realización de auditorías periódicas sobre la precisión de la IA, los esfuerzos de mitigación de sesgos y el seguimiento del desempeño pueden tranquilizar a los empleados sobre la fiabilidad de la IA, animándolos a comprometerse plenamente con la tecnología.

2. Los líderes deben demostrar una preocupación genuina por el bienestar y la equidad de los empleados, porque la IA no puede hacerlo. En última instancia, el liderazgo será quien decida cómo se usa y se empodera la IA, y dónde no. Al involucrar a los empleados en discusiones sobre el papel de la IA en su trabajo y abordar sus preocupaciones con transparencia, los líderes pueden ayudar a crear una cultura laboral donde los empleados se sientan valorados y perciban la IA como una solución que se adopta con el objetivo de empoderarlos y hacerlos crecer, en lugar de reemplazarlos.

3. La solución óptima para la falta de confianza en la IA requiere una “combinación IA-líder” que garantice que los empleados se sientan no solo técnicamente seguros con la IA, sino también que tengan la seguridad de que servirá a sus intereses de manera respetuosa y justa. Para promover la aceptación de esta combinación (IA-líder) y mejorar la confianza en la IA en toda la organización, es necesario desarrollar e implementar programas de capacitación. Estos programas existen para ayudar a que los empleados se sientan menos amenazados por la adopción de la IA, al tiempo que se sienten empoderados por sus supervisores. Esto puede lograrse promoviendo la alfabetización digital y la comprensión del funcionamiento de la IA. Una mejor comprensión de la IA, combinada con discusiones lideradas por el liderazgo que presenten a la IA como una herramienta de apoyo para contribuir al propósito de la empresa y a los intereses de todos los involucrados, empoderará aún más a los empleados para ver cómo la IA puede contribuir a sus funciones y al crecimiento de su carrera.

E

l lanzamiento del modelo R1 de DeepSeek a finales de enero de 2025 provocó un fuerte descenso de las valoraciones del mercado en toda la cadena de valor de la IA, afectando tanto a los desarrolladores de modelos como a los proveedores de infraestructura. Los inversionistas vieron en R1 un competidor poderoso (y económico) frente a los modelos de IA estadounidenses, lo que puso en duda las proyecciones de crecimiento extraordinario que habían justificado las valuaciones elevadas. Sin embargo, para aquellos que han estado atentos, la llegada de DeepSeek (o algo parecido) era inevitable.

Aun así, este es un momento útil para reflexionar sobre hacia dónde se dirige la IA. Más que considerar a DeepSeek R1 como un punto de inflexión, es más útil verlo como un indicador de dónde estamos realmente ahora, y un presagio de lo que está por venir.

He aquí cinco lecciones que los líderes empresariales deberían extraer de este momento.

1. Del reconocimiento de patrones a la resolución de problemas

Los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) se robaron el protagonismo en 2023 y 2024, pero en 2025 quedaremos asombrados por los sistemas de IA capaces de razonar, planificar y operar de manera autónoma. Esto se debe a que dos tendencias interrelacionadas dominarán el panorama de la IA este año: el auge de los modelos de razonamiento y la llegada de agentes de IA listos para el uso generalizado. Estas capacidades dependen en gran medida del aprendizaje por refuerzo (RL, por sus siglas en inglés), un método para entrenar a un agente inteligente para que tome una secuencia de decisiones óptimas. Piense en ello como aprender a jugar un videojuego: Cuando acierta en el blanco, salta sobre un abismo o adivina una palabra, gana puntos. A medida que juega, aprende a realizar acciones que son recompensadas.

La última generación de modelos, como GPT-4, era asombrosa para identificar patrones: Se entrenaban con enormes volúmenes de información, la contextualizaban y nos dejaban sin palabras con sus predicciones precisas del siguiente término en una conversación.

DeepSeek R1 es un modelo de razonamiento gratuito, al igual que los modelos ChatGPT o3-mini de OpenAI y Copilot o1 de Microsoft. Estos modelos representan un cambio crucial de la simple predicción de la siguiente palabra a la resolución metódica de problemas que se basa en gran medida del aprendizaje por refuerzo. Gracias a esta capacidad de razonamiento, estos modelos pueden desempeñarse mucho mejor que sus predecesores en tareas específicas, como resolver problemas matemáticos.

Con la capacidad de desglosar y razonar los problemas, los agentes de IA son capaces de aprender a navegar dinámicamente por flujos de trabajo complejos, adaptándose a nueva información a medida que surge en el proceso de realización de tareas, en lugar de limitarse a scripts rígidos y predefinidos. Esto es justo lo que hacemos los humanos en nuestro trabajo diario, como cuando los agentes de servicio al cliente responden consultas, los empleados administrativos organizan horarios y planifican viajes, o los analistas de datos recopilan información, la analizan y redactan un informe.

2. El punto de inflexión económico de la IA

Uno de los grandes titulares en torno a DeepSeek R1 es su supuesto costo de desarrollo de 5.5 millones de dólares. Esta cifra es engañosa. Probablemente solo refleje el costo de una única prueba de entrenamiento, sin incluir los gastos de infraestructura, ingeniería e implementación. Una cifra total que incluyera esos gastos sería mucho más alta, aunque significativamente inferior a las estimaciones de los costos de desarrollo de OpenAI, Anthropic, Google y otros modelos con los que compite R1.

En lugar de centrarnos únicamente en estas cifras, deberíamos prestar más atención a los costos de inferencia, es decir, los gastos asociados al uso real de los modelos una vez que han sido entrenados. El entrenamiento requiere una inversión inicial sustancial, pero los costos de inferencia son cruciales para las aplicaciones empresariales. DeepSeek R1 y otros modelos recientes, incluida la serie de modelos Llama de Meta, han logrado reducciones significativas en estos costos.

Por regla general, la caída de los precios tiende a estimular la competencia y a impulsar la adopción por parte de los usuarios. Basta pensar en la caída de los precios ajustados al rendimiento en mercados de productos electrónicos (teléfonos inteligentes, televisores, ordenadores portátiles) impulsada por el aumento de la eficiencia en la producción de semiconductores. Esta es la Ley de Moore, que impulsa la caída de los precios y el aumento de las tasas de adopción de demasiados productos finales. Lo mismo está sucediendo en la IA.

3. La IA de código abierto y la propietaria coexistirán

Una de las razones por la que deberíamos haber anticipado un desarrollo como DeepSeek R1 es la lógica económica del software de código abierto. Históricamente, los proyectos de código abierto han desafiado a las soluciones propietarias al reducir significativamente los costos, como sucedió con Unix/Linux en la informática empresarial, Android en los sistemas operativos móviles, MySQL en las bases de datos y, por supuesto, Llama en la IA. La ventaja en costos del software de código abierto está bien documentada. Era predecible que la IA siguiera una trayectoria similar.

Las empresas como OpenAI, Alphabet y Anthropic siguen estando a la vanguardia en cuanto a capacidades multimodales, seguridad (parece fácil vulnerar DeepSeek R1) y otros puntos de referencia. Aun así, los modelos de código abierto como DeepSeek R1 han reducido la brecha en el razonamiento basado en texto y han demostrado una eficiencia notable. Su potencial para aplicaciones empresariales se refleja en la decisión inmediata de Microsoft de integrar DeepSeek R1 en Azure. Dado su menor costo y mayor flexibilidad, los modelos abiertos como DeepSeek R1 serán muy atractivos para los usuarios, al igual que los modelos de lenguaje más pequeños como Phi-4 de Microsoft, que han demostrado un gran rendimiento en muchos casos de uso.

Por ahora, todo apunta a un mercado con una amplia gama de participantes, en lugar de un escenario donde un solo actor domine casi todo.

4. La escasez de chips impulsa la innovación algorítmica

Otro aspecto de la reacción ante DeepSeek R1 se ha centrado en la “sorprendente” noticia de que China parece haber alcanzado a Estados Unidos en cuanto a modelos de IA de vanguardia. Las restricciones estadounidenses a la exportación pretendían limitar el acceso chino a los semiconductores más avanzados y preservar el liderazgo estadounidense en la investigación de IA. El hecho de que este enfoque no haya tenido un éxito total no debería ser una gran sorpresa. La necesidad es la madre de la invención. Las limitaciones de chips han llevado a los investigadores chinos a priorizar la eficiencia algorítmica sobre la potencia bruta de cálculo, una estrategia que podría resultar profética a medida que se dispara el consumo de energía de los centros de datos.

5. DeepSeek R1 no lo cambió todo

Dicho todo esto, los principales laboratorios de IA y los gigantes tecnológicos de Occidente (incluidos Microsoft, Meta, Alphabet y Amazon) seguirán invirtiendo a niveles vertiginosos, asegurando que la demanda de GPU e infraestructura de IA de última generación siga siendo alta. Los modelos abiertos no reemplazarán por completo a los propietarios, y es probable que sigamos viendo un consumo inmenso de recursos computacionales en el entrenamiento e inferencia de modelos. Como resultado, la carrera por desarrollar los sistemas de IA más avanzados continuará impulsando la demanda de chips de alto rendimiento e infraestructura en la nube a gran escala, a pesar de que en estos momentos los costos de inversión superan con creces los ingresos de muchas empresas del sector.

Además, los grandes compradores de infraestructura de Occidente están indudablemente preocupados por el riesgo de suministro, ya que la mayoría de los semiconductores avanzados se fabrican en una planta de TSMC ubicada en Taiwán.

Podría decirse que el ritmo del avance de la IA, así como la importancia social y económica de este conjunto de tecnologías, no tiene precedentes históricos. Con el aprendizaje por refuerzo que permite avances en los modelos de razonamiento y los agentes de IA, que a su vez darán lugar a innumerables aplicaciones nuevas, 2025 estará repleto de momentos “DeepSeek”. Se esperan avances continuos, un aumento de los casos de uso en el mundo real y el verdadero inicio de una transformación económica a escala sísmica.

U

n médico utiliza la IA para redactar una solicitud de autorización previa, transformando lo que podría ser un proceso tedioso y prolongado en uno eficiente. Sin embargo, si la IA de una aseguradora rechaza la solicitud basándose en criterios que el sistema del médico no contempló, el resultado son retrasos y frustración. Esta es la nueva realidad de los ecosistemas de IA: redes interconectadas de agentes y sistemas inteligentes que colaboran, compiten o chocan entre diferentes unidades de negocio u organizaciones. Estos ecosistemas pueden ofrecer nuevas oportunidades, pero también introducir complejidades y riesgos adicionales.

Construir y gestionarlos de forma segura y responsable requiere, entre otras cosas, replantear la formación de la fuerza laboral, aprovechar la tecnología para facilitar la alineación y la coordinación, y establecer marcos de gobernanza que garanticen la confianza y la rendición de cuentas.

Capacitación para operar en ecosistemas de IA

A medida que las empresas adoptan la IA en todos los ámbitos, es cada vez más importante redoblar los esfuerzos en materia de capacitación. Por ello, los empleados deben fortalecer su capacidad no solo para trabajar con la IA, sino también para navegar y mediar en las interacciones de múltiples sistemas de IA. Además, deben ser más sensibles no sólo a la forma en que estos sistemas pueden afectar a sus propias decisiones, sino también a las de otras personas dentro o fuera de la organización.

Consideremos el ejemplo de un algoritmo utilizado en el Reino Unido para priorizar los trasplantes de hígado mediante la predicción de la supervivencia a cinco años de los pacientes con y sin trasplante. Este enfoque infravaloraba a los pacientes más jóvenes, cuyos beneficios se extienden mucho más allá de los cinco años, y los penalizaba aún más, ya que tienen más probabilidades de sobrevivir sin un trasplante.

En el sector de los servicios financieros, los resultados de un modelo (como las puntuaciones crediticias) pueden servir como datos de entrada para los sistemas de IA posteriores, lo que permite que los posibles errores o sesgos de los modelos de crédito se propaguen a través de la red. Esto destaca no solo la complejidad de la gestión de los sistemas de IA individuales, sino también el desafío más amplio de los sistemas interconectados, donde las fallas iniciales pueden propagarse y posiblemente amplificar los errores o desigualdades en las decisiones posteriores. Junto con el sesgo de automatización de la IA (la tendencia de los usuarios a confiar en los resultados de la IA sin cuestionarlos), los errores pueden pasar desapercibidos, especialmente en comparación con las prácticas actuales de puntuación y uso de la IA más simples.

Los abogados y estudiantes de derecho utilizan cada vez más la IA en una variedad de tareas que tradicionalmente realizaban los humanos. Sin embargo, los abogados de hoy en día a menudo carecen de orientación sobre cómo integrar estas herramientas en los flujos de trabajo o explicar a los clientes los resultados generados por la IA, especialmente cuando esos resultados son el producto del trabajo de muchos algoritmos de IA que interactúan entre sí. Los programas de capacitación deben centrarse no solo en el uso de las herramientas, sino también en la comprensión del funcionamiento conjunto de múltiples sistemas para fundamentar las decisiones.

Para abordar estas cuestiones, la capacitación debe ir más allá de los aspectos básicos del manejo de las herramientas de IA. Es necesario equipar a los empleados para evaluar críticamente los resultados de la IA, comprender cómo fluyen los datos y las decisiones a través de los sistemas de IA interconectados y tomar medidas cuando surjan conflictos. Por ejemplo, los médicos deben aprender a contrastar los resultados de los diagnósticos con los registros de los pacientes y cuestionar las recomendaciones de triaje cuando los datos parecen incompletos.

Los empleados necesitan habilidades para evaluar cómo interactúan entre sí las herramientas de IA. Por ejemplo, deben reconocer cuándo los sesgos de los datos previos se propagan a las recomendaciones posteriores o cuándo los resultados contradictorios indican un fallo en la coordinación. La capacitación también debe empoderar a los empleados para abordar estos desafíos, ya sea adaptando los flujos de trabajo, redefiniendo las interacciones de los sistemas de IA u optimizando la gestión de los datos y las cadenas de suministro de IA.

Aprovechar la tecnología para mejorar la alineación

Si bien la capacitación prepara a las personas, la tecnología puede permitir que los sistemas de IA interactúen de manera efectiva y eficiente. La interoperabilidad es fundamental, pero el desafío más amplio radica en diseñar infraestructuras y procesos tecnológicos que fomenten la colaboración entre los sistemas de IA mientras se mitigan los riesgos. No se trata solo de la interoperabilidad técnica tradicional, sino también de la interdependencia de las decisiones y la alineación.

El diseño proactivo de las cadenas de suministro de datos e IA de la organización proporciona un punto de partida útil: los sistemas ascendentes alimentan las aplicaciones intermedias que adaptan esos modelos para industrias específicas, los cuales, a su vez, impulsan las herramientas descendentes para los usuarios finales. Por ejemplo, en el sector de la salud, una IA ascendente agrega datos de exploraciones radiológicas globales para desarrollar un modelo de diagnóstico. Una aplicación intermedia podría personalizar este modelo para un sistema hospitalario específico, mientras que una herramienta secundaria podría permitir a los médicos priorizar los casos.

Con el tiempo, pueden surgir ecosistemas más complejos. Por ejemplo, en las operaciones de confianza y seguridad para plataformas en línea, los sistemas de IA para la detección de contenido, el análisis de opiniones y el monitoreo del comportamiento de los usuarios suelen operar de manera independiente, creando brechas o superposiciones en la toma de decisiones. Una mejor integración de estos sistemas puede proporcionar a los moderadores información en tiempo real, garantizando que las decisiones sean coherentes y defendibles.

Estos ejemplos muestran por qué las organizaciones deben diseñar sistemas de IA como marcos interconectados en lugar de herramientas aisladas, y empezar a pensar en sus cadenas de suministro de datos e IA desde el principio. Al adoptar tecnologías que faciliten la coordinación y las pruebas de solidez continuas, y al rediseñar procesos para alinear las interacciones de la IA, las empresas pueden aprovechar sus ecosistemas de IA en evolución no solo para crear valor, sino también para evitar la destrucción de valor debido a los posibles riesgos de la IA que pueden estar ocultos en algún punto de la cadena.

Gobernanza para ecosistemas complejos

La escala y la complejidad de los ecosistemas emergentes de IA exigen marcos claros de gobernanza. La naturaleza interconectada de estos sistemas introduce riesgos de fallos en cascada, sesgos amplificados y brechas en la rendición de cuentas. Una gobernanza sólida debe abordar estos desafíos mientras fomenta la confianza y la adaptabilidad.

La transparencia es primordial. En los ecosistemas de IA, la rendición de cuentas suele quedar oculta por las capas de interacción. Las organizaciones deben adoptar marcos de gobernanza que puedan rastrear las decisiones a lo largo del sistema, permitiendo el análisis de las causas y la mejora continua.

Empoderar a los usuarios finales es otra prioridad crítica de gobernanza. Aunque las organizaciones suelen centralizar el despliegue de la IA para mantener la consistencia, dar a los usuarios finales la flexibilidad necesaria para adaptar los sistemas de IA puede generar innovación y permitir la gestión de los riesgos desde su origen.

La gobernanza también exige establecer ciclos de retroalimentación para monitorear y perfeccionar los ecosistemas de IA a lo largo del tiempo. En las prácticas legales, por ejemplo, las empresas pueden implementar mecanismos para identificar cuándo los resultados de diferentes sistemas producen recomendaciones contradictorias. Mediante la incorporación de este tipo de prácticas de gobernanza, las empresas pueden garantizar a las partes interesadas que sus sistemas de IA son seguros y confiables. Las regulaciones recientes, como la Ley de Servicios Digitales de la UE (DSA, por sus siglas en inglés), brindan una valiosa orientación sobre transparencia, rendición de cuentas, capacitación de los usuarios y bucles de retroalimentación.

Por ejemplo, los proveedores de atención médica pueden implementar marcos de trazabilidad para garantizar que las decisiones de diagnóstico de la IA sean claras tanto para los pacientes como para los organismos reguladores. De manera similar, las plataformas de confianza y seguridad ya están adoptando mecanismos de auditoría que explican las decisiones de moderación de contenido y permiten a los usuarios cuestionarlas. Al aplicar estos principios, las organizaciones pueden crear ecosistemas de IA que no solo sean eficaces, sino también éticamente alineados y en los que confíen las partes interesadas.

Además, la capacitación basada en principios y procesos claros también puede permitir que los usuarios de los sistemas de IA exploren mejor y, en última instancia, aprovechen las fortalezas y debilidades de la IA, facilitando el aprendizaje. Esto puede aumentar la precisión de la toma de decisiones y mejorar la comprensión intuitiva de los moderadores de contenido que dependen de diferentes sistemas de IA para moderar el contenido.

Seguridad en la era de los ecosistemas de IA

A medida que las empresas desarrollan sus estrategias de IA y la adoptan en sus procesos y productos, los ecosistemas de IA inevitablemente se volverán cada vez más complejos, lo que exigirá nuevas prácticas, procesos y herramientas para que las personas los aprovechen mejor y con mayor seguridad. No podemos prever los nuevos tipos de riesgos que crearán las cadenas de suministro y ecosistemas de IA emergentes y complejos, por lo que las buenas prácticas de gestión de riesgos requieren una preparación adecuada y un aprendizaje continuo.