L

as organizaciones han avanzado rápidamente para poner las herramientas de IA en manos de sus colaboradores. Pero, a pesar de toda esta inversión, muchos líderes tienen dificultades para evaluar cómo va realmente. ¿Cómo se ve, en la práctica, un uso exitoso?

Para entender qué diferencia el uso rutinario de la IA de una colaboración avanzada entre humanos y tecnología, KPMG se asoció con investigadores de la Universidad de Texas en Austin. En conjunto, analizamos más de 1.4 millones de prompts y respuestas generados por aproximadamente 2,500 colaboradores durante un periodo de ocho meses. A partir de este análisis, construimos una definición de uso avanzado que va más allá de la ingeniería de prompts, priorizando instrucciones claras junto con estrategias aplicadas de manera deliberada, y descubrimos un conjunto de indicadores observables y de bajo costo, como el cambio entre modelos y el uso de prompts iniciales estructurados, que predicen un uso de alto nivel. Estos hallazgos ya se están integrando en los sistemas de talento, aprendizaje y desempeño de KPMG, y ofrecen un marco que cualquier organización puede utilizar para desarrollar y medir un uso más avanzado de la IA entre sus colaboradores.

Desglosando el uso avanzado

Al identificar quiénes eran los usuarios más avanzados dentro de la organización, encontramos una gran variedad en roles y niveles de antigüedad. Sin embargo, también surgieron patrones claros en común. Detectamos cuatro comportamientos distintivos que estos usuarios compartían:

— Abordaban el uso de la IA con ambición.

— Trataban a la IA como un socio para razonar.

— Delegaban tareas complejas con objetivos claros.

— Utilizaban la IA como una herramienta cognitiva general, no solo como un atajo de productividad puntual.

La investigación también reveló una tendencia sorprendente: los mejores usuarios solían estar por encima del nivel gerencial. Esto nos tomó por sorpresa, considerando la creencia general de que los colaboradores más jóvenes tienden a sentirse más cómodos con estas herramientas y a usarlas de forma más natural. Sin embargo, los hallazgos muestran que podría existir una diferencia importante entre comodidad y dominio.

¿Qué pueden hacer los líderes de forma diferente?

Los resultados sugieren que las empresas deben cambiar el enfoque de sus esfuerzos en IA: pasar de impulsar la adopción a moldear hábitos. El uso avanzado de la IA surge cuando las personas aprenden a estructurar problemas con claridad, guiar el razonamiento del modelo, evaluar críticamente los resultados y aplicar la IA de forma flexible en su trabajo.

Esto es en lo que deberían centrarse los líderes:

Desarrollar buenas prácticas basadas en la IA.

La investigación identificó comportamientos específicos que KPMG buscaba fomentar, por lo que los líderes los tradujeron en guías prácticas, explicaciones breves y redes de “embajadores” lideradas por pares que enfatizan cómo se ve el uso avanzado en el día a día. El objetivo es crear un entendimiento compartido de “cómo se ve un buen uso” que se refuerce en toda la organización.

Replantear el desarrollo de habilidades.

Los hallazgos redefinieron la forma en que KPMG aborda el desarrollo, con un enfoque en ayudar a las personas a ganar confianza sobre cómo trabajar eficazmente con la IA dentro del flujo natural de su trabajo. La organización invirtió en capacitación práctica, basada en la aplicación, desarrollada por equipos multifuncionales. Tanto en las oficinas como en las aulas virtuales, las sesiones basadas en situaciones reales sumergen a los profesionales en el trabajo real con clientes y en las tareas internas, con un fuerte énfasis en comportamientos avanzados de colaboración.

Establecer expectativas claras de crecimiento y desarrollo.

Este trabajo no se trata de cambiar los sistemas o procesos de gestión del talento, sino de tener claridad sobre cómo se ve un trabajo de calidad en un entorno habilitado por la IA. A partir de esta investigación, KPMG tradujo lo que implica un desempeño efectivo con IA en expectativas prácticas a nivel de rol y de tarea, reconociendo que el juicio de calidad se manifiesta de forma distinta según la función, el nivel y el contexto de ejecución.

A

medida que las herramientas de IA se han extendido en los lugares de trabajo y la presión por utilizarlas ha aumentado, los empleados han tenido que enfrentarse al flagelo del “workslop” (trabajo generado por IA, con poco esfuerzo, que aparenta estar pulido y plausible, pero que termina desperdiciando tiempo y esfuerzo al trasladar la carga cognitiva al receptor). Para quien lo recibe, puede ser una experiencia confusa y frustrante.

Cuando acuñamos el término workslop en un artículo de HBR el otoño pasado, explicamos que puede tener un efecto tóxico en la dinámica laboral, generando desconfianza y llevando a los miembros del equipo a menospreciar la inteligencia y fiabilidad del remitente, entre otros rasgos. En nuestra investigación en curso, hemos escuchado numerosos ejemplos de cómo el workslop siembra mala voluntad, erosiona la confianza y, en general, tiene un efecto corrosivo sobre la moral en el trabajo.

Nuestra investigación también revela varios factores clave que pueden hacer que las organizaciones sean más resistentes al workslop. Además de moderar los mandatos generales y poco claros sobre el uso de IA, los líderes deben mirar hacia adentro e invertir en una respuesta sistémica adaptada a sus organizaciones.

En primer lugar, descubrimos que las personas que tienen una sensación de competencia y control sobre las herramientas de IA tienen la mitad de probabilidades de crear workslop. Existen muchas formas en que las empresas pueden fomentar estos enfoques en sus equipos, entre ellas aumentar las inversiones en alfabetización en IA, lograr que los empleados compartan y modelen prácticas de IA que actualmente están ocultas en las sombras o desplegar ingenieros de IA de forma anticipada para ayudar a los equipos a integrar la IA de manera efectiva en sus flujos de trabajo. Este tipo de inversiones generará un retorno óptimo.

Nuestra investigación también muestra que construir una cultura de confianza dentro de los equipos es un factor protector importante contra el workslop. Cuando las personas creen que pueden admitir que utilizan IA, plantear inquietudes sobre cómo la IA podría afectar la calidad y solicitar retroalimentación sin temor a ser estigmatizadas, producen un mejor trabajo. Para nuestros participantes, la confianza en su equipo redujo el workslop en un 61%.

Finalmente, necesitamos replantear la forma en que pensamos sobre el workslop. Cada caso de workslop es una señal de una organización bajo presión: empujada desde arriba para demostrar el ROI de la IA y presionada desde abajo por la creciente sobrecarga de los empleados. Ofrece a los líderes información valiosa, ya que expone grietas en el diseño organizacional que deben abordarse para que las empresas puedan afrontar con éxito los cambios que se avecinan.

Poner los ojos en blanco y emitir juicios cuando recibimos workslop es la salida fácil. Es un ejemplo clásico del error fundamental de atribución: culpamos a la pereza o incompetencia de los individuos mientras minimizamos la influencia del contexto. Abordarlo requiere una respuesta a nivel sistémico que opere al menos en tres niveles:

1. Cultura: Los líderes deben comenzar por reconstruir la confianza, retomando las prácticas cotidianas de colaboración (como dar retroalimentación, hacer preguntas y abrir espacios para el diálogo).

2. Práctica: Los líderes necesitan generar agencia en torno a la IA, estableciendo expectativas y normas claras sobre cuándo y cómo utilizarla, así como procesos explícitos de revisión que refuercen (en lugar de sustituir) el juicio humano.

3. Responsabilidad: Las organizaciones necesitan a alguien con fluidez tanto en tecnología como en relaciones humanas. Podemos imaginar un nuevo rol para los arquitectos de colaboración con IA desplegados en primera línea, capaces de identificar fricciones, adaptar las integraciones de IA a las motivaciones de los empleados y conectar las estrategias de IA con resultados específicos.

La mayor ironía de todas es que, para que la IA funcione en el trabajo, necesitamos mejorar como seres humanos. Los líderes deben abrir espacio para el trabajo más lento (pero más gratificante) de la colaboración humana. Sin cambios organizacionales que habiliten la agencia y la confianza (en lugar de imponer mandatos de IA sobre equipos ya sobrecargados), todos terminaremos ahogados en el lodo del workslop.

D

e todas las posibles aplicaciones de la IA generativa, la propuesta de valor de utilizarla para escribir código fue quizá la más clara. Programar puede ser un proceso lento y requiere experiencia, lo que puede resultar costoso. Además, la promesa de que cualquier persona que pudiera describir su idea en texto plano podría crear aplicaciones, funcionalidades u otros productos que aporten valor significaba que la innovación ya no estaría limitada a quienes tienen las habilidades para ejecutar, sino que podría ser realizada por cualquiera que tuviera una idea.

A medida que las empresas han anunciado despidos masivos en el sector de la ingeniería (algunos de los cuales se han atribuido directamente a la eficiencia impulsada por la IA), parece que los ejecutivos están experimentando con la reducción de sus departamentos de ingeniería y el uso de bots de IA para compensar la diferencia.

Dado el estado actual de la IA, los líderes deberían considerar tres reglas para utilizar con éxito las herramientas de codificación con IA: pruebas y verificación rigurosas, protección de la infraestructura y tratar a la IA como un posible adversario.

1. Pruebas y verificación rigurosas

El código generado por IA exige una verificación más rigurosa, no menos.

— Automatice la verificación con seguridad de tipos. Los lenguajes de programación con seguridad de tipos (como C++, Rust o Scala) aplican reglas sobre cómo fluyen los datos a través de su sistema en tiempo de compilación, detectando categorías llenas de errores antes de que el código se ejecute. Es fundamental destacar que esta verificación no depende de un LLM que pueda alucinar, sino que se trata de una comprobación determinista realizada por un compilador.

— La revisión de código impulsada por IA puede ser sorprendentemente potente. Utilice un agente de IA dedicado a revisar las ediciones de código. Aunque los LLM pueden alucinar durante la revisión, el agente revisor puede detectar problemas que el agente de codificación pasó por alto.

— Las pruebas unitarias le dan a la IA dos oportunidades de hacerlo bien. Las pruebas unitarias son pruebas pequeñas y automatizadas que verifican que los componentes individuales del código funcionen correctamente de manera aislada. Incluso cuando son escritas por un LLM, las pruebas unitarias reducen los errores de forma significativa.

2. Protección de la infraestructura

Escribir un código seguro es solo la mitad de la batalla. La ingeniería de software también requiere proteger y reforzar la infraestructura subyacente sobre la cual se ejecuta su código. Al igual que las pruebas y la verificación rigurosas, este es otro aspecto de la ingeniería que puede pasarse por alto fácilmente.

— Separe los entornos de desarrollo y producción. Los equipos profesionales de software mantienen una separación estricta entre los entornos de desarrollo (donde los desarrolladores experimentan en sus máquinas locales) y los entornos de producción (lo que ven los usuarios). Cada entorno utiliza una base de datos independiente, y la IA solo tiene acceso al entorno de desarrollo.

— Evite los depósitos de almacenamiento públicos y otras configuraciones incorrectas comunes. La filtración de la aplicación de citas Tea (que expuso 72,000 imágenes sensibles) fue resultado de un depósito de almacenamiento de Firebase sin protección. Este error de principiante es el equivalente digital de cerrar la puerta principal, pero dejar la ventana abierta.

3. Tratar a la IA como un posible adversario

En esta sección, destacamos cómo la amenaza de la IA puede ir más allá del descuido y volverse adversarial.

— No asuma que la IA seguirá las reglas. En ocasiones, los agentes de codificación no permiten la lectura de archivos que puedan contener secretos (como .env). A pesar de estas salvaguardas, yo mismo he visto cómo la IA elude estas medidas de seguridad para leer de forma encubierta un archivo .env.

— Debemos tratar los entornos en los que opera la IA como potencialmente hostiles. Afortunadamente, la solución existe. Tecnologías como Docker y la virtualización han protegido durante mucho tiempo el alojamiento de cargas de trabajo potencialmente hostiles en servidores en la nube.

El camino a seguir

El futuro probablemente implique la colaboración entre ingenieros humanos y herramientas de IA, con los humanos aportando la visión arquitectónica, las pruebas rigurosas y la protección de la infraestructura, mientras que la IA acelera las tareas de implementación. Los líderes que reconocen esta realidad e invierten en procesos de ingeniería rigurosos construirán sistemas más resilientes, seguros y sostenibles que aquellos que compran la narrativa exagerada y confunden la velocidad de generación de código con una productividad real.

2

025 fue un año de grandes cambios, tanto en general como en el ámbito laboral. Tal vez le pidieron regresar a la oficina después de años de trabajo remoto. Quizá su empresa comenzó a adoptar nuevas herramientas de IA. O puede que haya tenido que lidiar con la incertidumbre derivada de cambios políticos y de la volatilidad económica.

Queríamos conocer mejor las experiencias de las personas, así que le preguntamos a la comunidad global de HBR en redes sociales: ¿Cómo cambió su trabajo este año?

Junto con una selección de respuestas que recopilamos en LinkedIn e Instagram, también incluimos recursos de HBR sobre estas tendencias, cambios y desafíos, para que usted pueda afrontarlos de frente.

Las herramientas de IA se adoptaron ampliamente en el trabajo, con resultados variables.

“¿Se puede escribir una publicación sobre 2025 sin usar dos letras… IA? La colaboración sigue siendo una prioridad en 2025, mientras intenta ser más ágil y eficiente.” — Michael, consultor en Michigan.

“Por un lado, esto [la IA] me permitió alcanzar nuevos niveles de productividad y realizar tareas que nunca habría podido hacer por mi cuenta en el pasado. Por otro lado, existe un FOMO (miedo a perderse algo) constante respecto a si elegí la herramienta de IA adecuada para desarrollar mis conocimientos o si debí haber esperado a que saliera la siguiente…” — Evan, fundador en Boston, Massachusetts.

“Dependo mucho más de ChatGPT.” — Stefan.

“Volví a aprender a aprender, a tomar mejores decisiones con la IA y a comprender realmente a mis empleados.” — Maria.

“He visto lo útil que es la IA para las tareas rutinarias, pero aun así hay que revisarlas después.” — Sharon.

“Se invierte más esfuerzo en filtrar noticias basura sobre IA.” — Kelvin, consultor en Seattle.

Los equipos tienen éxito cuando los líderes priorizan a las personas y el propósito.

“2025 me cambió de formas que ninguna herramienta o política nueva podría haber logrado. Me desaceleró y me obligó a replantear suposiciones que había sostenido durante mucho tiempo sobre la productividad. Me encontré prestando mucha más atención a la confianza, la transparencia y a cómo se siente realmente la gente en el trabajo, no solo a lo que entrega. Ese cambio me enseñó que el desempeño sostenible proviene de la claridad y la seguridad psicológica, no de la velocidad ni de la presión.” — Venkata, profesional de TI en Hyderabad, India.

“Invertí más en inteligencia emocional, compasión y cooperación. Hemos construido más confianza y relaciones laborales más sólidas, realineando la misión y los objetivos. De esta forma se siente más productivo y menos estresante.” — Marian, profesional del cuidado de personas mayores en Portsmouth, Inglaterra.

Los despidos, la reestructuración, los recortes de financiamiento, los mandatos de regreso a la oficina y los giros profesionales cambiaron el día a día de muchas personas.

“Como alguien que acaba de salir de la universidad, 2025 fue una auténtica montaña rusa para mí. Di un salto de fe al dejar un puesto permanente en una multinacional estable para unirme a una startup FinTech, pero desafortunadamente la empresa no sobrevivió, y aquí estoy ahora, en otra empresa y en otra industria. Todo esto mientras sigo estudiando y coescribiendo nuevos artículos.” — Kenneth, profesional de Recursos Humanos en Singapur.

“Aquí estamos todos de vuelta en la oficina, a tiempo completo, gracias a Dios. Echaba de menos eso.” — Greg, emprendedor en Portugal.

“Mandato de regreso a la oficina. Menor productividad y mayor costo.” — Kailene.

“[El trabajo cambió con la] eliminación de los programas de DEI.” — Sara.

L

a IA tiene un problema de confianza entre los trabajadores de primera línea, y está empeorando. El TrustID Index de Deloitte, que mide diariamente la opinión de clientes y empleados, muestra que la confianza en la IA generativa proporcionada por las empresas (herramientas que se supone deben aligerar la carga de trabajo y aumentar la creatividad) cayó un 31% entre mayo y julio de 2025, los resultados más recientes disponibles, lo que refleja un creciente escepticismo sobre su fiabilidad y valor. La confianza en los sistemas de IA agéntica, que pueden actuar de forma independiente y no solo hacer recomendaciones, cayó un 89% durante el mismo periodo, a medida que los empleados se mostraban cada vez más incómodos con la idea de que la tecnología tomara decisiones que antes les correspondían a ellos.

Nuestra investigación también reveló que el uso de herramientas de IA proporcionadas por los empleadores disminuyó un 15% entre febrero y julio. Pero aquí está el problema: casi la mitad de los empleados de primera línea con acceso a IA están recurriendo a herramientas no aprobadas, lo que indica que confían más en las soluciones paralelas que en las oficiales. Esto sugiere que el problema no es la desconfianza hacia la IA en general, sino hacia la IA que sus empleadores les piden que utilicen. Para estos empleados, las herramientas autorizadas por la empresa se sienten impuestas, no introducidas; obligatorias, no cocreadas. Y detrás de ese escepticismo se esconde un temor más profundo: que se les pida a los empleados que ayuden a promover la misma tecnología que podría reemplazarlos.

Con tanto en juego en la carrera por capitalizar la revolución de la IA, comprender la magnitud del desafío de la confianza es fundamental. He aquí un enfoque que Deloitte está adoptando para abordar este problema:

En Deloitte, nuestro TrustID Index rastrea la confianza de la misma manera que los mercados rastrean las acciones: en tiempo real, entre diferentes industrias y roles. Aproximadamente 60,000 empleados estadounidenses de organizaciones de todos los tamaños y sectores de la economía responden nuestras encuestas cada año, compartiendo su percepción sobre la fiabilidad, capacidad, transparencia y humanidad de su organización o tecnología (lo que llamamos los “cuatro factores de la confianza”). Cada factor se puntúa según el grado de acuerdo del encuestado con afirmaciones en una escala del 1 al 7, como si la organización demuestra empatía y justicia (humanidad), si se comunica de manera abierta y clara (transparencia), si ofrece productos y experiencias de calidad (capacidad) y si cumple sus promesas de manera consistente (fiabilidad). El TrustID de Deloitte combina estas dimensiones en un puntaje compuesto fundamentado en investigación conductual y estadística.

La confianza beneficia a todos, y nuestro marco hace que lo intangible sea accionable. Recomendamos que cada empresa evalúe los elementos centrales de la confianza dentro de su organización y, dado que la confianza es tan fundamental para el éxito empresarial, hemos hecho que nuestra metodología TrustID sea de código abierto, a través de un capítulo descargable en nuestro libro que describe la ciencia detrás de la medición. Como mínimo, sugerimos incluir los cuatro factores de la confianza en su enfoque de medición existente, ya sea mediante una encuesta anual de talento o mientras se prueban herramientas de IA.

Al dividir la confianza en componentes medibles, los líderes pueden ver dónde está aumentando o erosionándose, y actuar en consecuencia. Por ejemplo, si los empleados reportan baja confianza en la transparencia de la IA, los líderes podrían responder aumentando la comunicación sobre cómo las herramientas toman decisiones o involucrando a los empleados en definir su uso.

Y dado que nuestro modelo es altamente predictivo del comportamiento, revela no solo cuánto confían las personas, sino también cómo esa confianza se traduce en defensa, compromiso y desempeño. Por ejemplo, los empleados de la fuerza laboral en general con un nivel de confianza alto tienen 1.9 veces más probabilidades de recomendar su organización a otros, 2.1 veces más motivación para trabajar para su empleador y 1.7 veces más probabilidades de desarrollar nuevas habilidades. En otras palabras, ayuda a cuantificar algo que a menudo se trata como intangible: el ser humano detrás de cada resultado de la IA.

L

a IA generativa está transformando la recopilación, creación y análisis de información sobre los consumidores y el mercado: el motor del marketing estratégico.

Creemos que en el centro de esta transformación se encontrarán dos herramientas generadas por IA diseñadas para actuar como representantes de las personas: el perfil sintético (que representa a un individuo o grupo compuesto) y el gemelo digital (que representa a un individuo real). Al utilizar datos públicos o privados para simular las respuestas humanas a preguntas y encuestas, estas nuevas herramientas prometen permitir a los mercadólogos realizar investigaciones y experimentos sin el tiempo, costo y carga que implican las entrevistas o encuestas tradicionales para los participantes.

El perfil sintético

En este enfoque, los investigadores, mercadólogos, gerentes de producto y vendedores proporcionan a un modelo de IA información demográfica, psicográfica o conductual sobre un tipo o segmento de cliente para crear un perfil que sea representativo de ese tipo o segmento. Luego pueden pedirle al LLM (modelo de lenguaje de gran tamaño) que responda a preguntas como si fuera ese tipo de persona.

El gemelo digital

Este enfoque va más allá de los segmentos compuestos y los perfiles imaginarios, y aporta datos a nivel individual para la tarea. Si una empresa dispone de datos detallados a nivel individual sobre un grupo de clientes a partir de interacciones, encuestas o entrevistas anteriores, por ejemplo, podría utilizar esos datos para crear gemelos digitales de esas personas, que luego podrían participar en encuestas virtuales, “entrevistas” cualitativas e incluso experimentos en lugar de las personas a las que representan. Esto tiene muchas aplicaciones potenciales interesantes, pero también algunas implicaciones éticas importantes.

Cómo empezar

1. Determine su caso de uso. Es fundamental tener en mente el objetivo final: ¿Busca una estimación puntual de un segmento clave o desea comprender cómo las personas valoran de forma diferencial ciertas características del producto?

2. Determine el tipo de consumidores que quiere simular. ¿Quiere entender mejor el punto de vista promedio o compuesto de un segmento en particular, donde podría funcionar un perfil sintético? ¿O quiere “retroalimentación” de un consumidor específico o de un conjunto de consumidores, donde pueda valer la pena el esfuerzo y el costo extra de crear gemelos digitales capaces de captar variaciones y matices tanto dentro como entre segmentos?

3. Obtenga los datos necesarios para calibrar los perfiles o gemelos. Este puede ser el factor limitante para algunas opciones.

4. Defina métricas de rendimiento claras y precisas. Aunque es tentador tratar las métricas de rendimiento como intercambiables, no lo son, y su elección influirá en la conclusión que usted extraiga de sus datos.

5. Realice una pequeña prueba. Idealmente, esta prueba debe ser representativa de su caso de uso, y usted debe aplicarla a una muestra de participantes humanos que sean representativos de sus clientes.

6. Evalúe el rendimiento de sus perfiles sintéticos o gemelos digitales. Compare sus datos sintéticos con esa medida de la realidad sobre el terreno. Asegúrese de incluir puntos de referencia relevantes que le ayuden a contextualizar los resultados.

7. Decida si quiere escalar. En esta etapa del proceso, usted tendrá una visión holística del potencial de los datos sintéticos para su caso de uso.

8. Realice pruebas periódicas para garantizar la validez continua y mantener sus datos actualizados. Por ejemplo, puede ser útil realizar periódicamente estudios paralelos sobre las personas reales que hay detrás de su panel de gemelos digitales.

A medida que este campo continúa expandiéndose, es inevitable que los perfiles sintéticos y los gemelos digitales cobren cada vez más relevancia. Puede que aún no estén completamente preparados para posicionarse en el centro de la escena, pero pronto lo estarán, y cuando eso ocurra, es muy probable que transformen por completo el mundo del marketing.

M

uchas organizaciones están priorizando la integración de herramientas de IA en el lugar de trabajo. Pero, ¿cómo se comporta la IA como aliada en la toma de decisiones de alto riesgo?

Para probar esto, realizamos un experimento simple. Le pedimos a más de 300 gerentes y ejecutivos que hicieran predicciones bursátiles después de revisar tendencias pasadas. A la mitad se le dio la oportunidad de consultar con sus colegas, mientras que la otra mitad pudo consultar con ChatGPT. Luego, los participantes podían revisar sus predicciones.

Los resultados fueron sorprendentes. Descubrimos que ChatGPT hizo que los ejecutivos fueran significativamente más optimistas en sus pronósticos, mientras que las discusiones entre pares tendían a fomentar la cautela. Además, descubrimos que los ejecutivos que usaron ChatGPT hicieron peores predicciones (basadas en cifras bursátiles reales) que las que habían hecho antes de consultar la herramienta. En este artículo compartimos lo que hicimos, lo que descubrimos, qué lo explica y por qué esto importa para cualquier líder que esté integrando IA en su proceso de toma de decisiones.

El experimento

Nuestro estudio tuvo lugar durante una serie de sesiones de educación ejecutiva sobre IA entre junio de 2024 y marzo de 2025. Los participantes eran gerentes y ejecutivos de diversas empresas que participaban en un ejercicio de clase.

Primero, se le pidió a cada participante que hiciera un pronóstico individual: ¿Cuál creía que sería el precio de las acciones de Nvidia un mes en el futuro? Este estimado inicial fue entregado de manera privada. Luego, dividimos aleatoriamente a los participantes en dos grupos para un breve período de consulta:

— Discusión entre pares (grupo de control): Estos ejecutivos discutieron sus pronósticos en pequeños grupos durante unos minutos.

— Consulta con ChatGPT (grupo de tratamiento): Estos ejecutivos podían preguntarle a ChatGPT lo que quisieran sobre las acciones de Nvidia.

Después de esto, todos hicieron un pronóstico revisado del precio de Nvidia con un mes de anticipación, y recopilamos esas respuestas.

Los resultados

La IA condujo a pronósticos más optimistas.

Antes de cualquier discusión o consulta con IA, los dos grupos de ejecutivos tenían pronósticos estadísticamente indistinguibles para Nvidia.

Sin embargo, después del período de consulta, descubrimos que los ejecutivos que usaron ChatGPT se volvieron más optimistas en sus pronósticos. En promedio, el grupo de ChatGPT aumentó sus estimaciones de precio a un mes en aproximadamente 5.11 dólares.

La discusión entre pares generó pronósticos más conservadores.

En contraste con el grupo de IA, el grupo de discusión entre pares redujo sus estimaciones de precio, en promedio, en alrededor de 2.20 dólares. Además, este grupo fue más propenso que el grupo de ChatGPT a mantener su estimación original.

La consulta con IA hizo peores predicciones.

Después de realizar nuestro estudio, esperamos un mes y luego comparamos las predicciones que los ejecutivos habían hecho con los datos reales de Nvidia. Descubrimos que ambos grupos fueron demasiado optimistas, en promedio. Sin embargo, también descubrimos que quienes usaron ChatGPT hicieron predicciones aún peores después de su consulta.

¿Por qué la IA generó exceso de confianza y optimismo?

¿Por qué consultar una herramienta de IA conduciría a estimaciones infladas y exceso de confianza, mientras que las discusiones entre pares provocaron mayor humildad y conservadurismo? Hemos identificado cinco razones:

1. Extrapolación y “subirse a la tendencia”

ChatGPT puede haber fomentado el sesgo de extrapolación. El conocimiento de la IA se basa en datos históricos, por lo que simplemente podría haber extendido la reciente tendencia al alza de Nvidia hacia el futuro. La orientación de la IA, basada puramente en patrones de datos pasados, puede haberse inclinado hacia el optimismo por defecto.

2. Sesgo de autoridad y sobrecarga de detalles

Muchos ejecutivos en la condición de ChatGPT informaron estar impresionados por el nivel de detalle y el tono confiado de la respuesta de la IA. En las discusiones posteriores al experimento, algunos participantes señalaron que ChatGPT proporcionó una gran cantidad de datos y razonamientos tan minuciosos y seguros, que hicieron que, en comparación, sus propias estimaciones iniciales parecieran inadecuadas.

3. Emoción (o falta de ella)

Los humanos tienen emociones e instintos que pueden actuar como freno ante pronósticos extremos. Un ejecutivo que observe un gráfico bursátil meteórico podría sentir un matiz de cautela y una voz interna que diga: “Si está en su punto máximo, podría desplomarse”. En nuestras sesiones, sospechamos que la cautela emocional jugó un papel en las discusiones entre pares.

ChatGPT, por otro lado, no tiene esa emoción ni intuición. No siente vértigo como una persona al ver un gráfico de precios en ascenso. Los usuarios que confían únicamente en los resultados de la IA no se benefician de esa revisión cautelosa.

4. Calibración entre pares y dinámicas sociales

El acto de discutir con colegas introdujo otro conjunto de sesgos y comportamientos, que generalmente conducían hacia la cautela y el consenso. En una discusión grupal, las personas escuchan puntos de vista diversos y a menudo descubren que las expectativas de otros difieren de las propias. En nuestros grupos de pares, esta dinámica a menudo condujo a moderar puntos de vista extremos y encontrar un punto medio.

5. Ilusión del conocimiento

Las investigaciones han demostrado que cuando las personas tienen acceso a grandes volúmenes de información (como internet), es más probable que caigan en la ilusión de saberlo todo. Una cantidad significativamente grande de participantes mostró el efecto de esta ilusión cuando recurrieron a ChatGPT, una de las tecnologías más inteligentes con acceso a vastos recursos.

¿Cómo usar la IA de manera inteligente en las decisiones ejecutivas?

Nuestros hallazgos ofrecen lecciones importantes para líderes y organizaciones que están integrando herramientas de IA en sus procesos de toma de decisiones:

1. Sea consciente de los sesgos de la IA y de la ilusión del conocimiento.

Consultar ChatGPT (o modelos de IA generativa similares) puede inclinar sutil pero significativamente sus expectativas y generar una confianza excesiva en ellas. Si usted usa IA para informar pronósticos o decisiones estratégicas, recuerde que puede impresionarlo con detalle mientras carece de la perspectiva cautelosa que los humanos aportan de forma natural.

2. No abandone la discusión humana, aprovéchela.

Sí, la IA puede proporcionar análisis e información a gran velocidad, pero aún hay sabiduría en la sala. Sus colegas pueden aportar datos nuevos, contexto y una revisión de la realidad sobre ideas que suenan demasiado buenas para ser verdad, o simplemente demasiado precisas en su pronóstico. En la práctica, el mejor enfoque puede ser combinar la aportación de la IA con el diálogo humano.

3. El pensamiento crítico es clave, sin importar la fuente.

Ya sea que el consejo venga de una IA o de un colega, los ejecutivos deben aplicar su propio pensamiento crítico. Haga preguntas sobre la base de un pronóstico. En el caso de ChatGPT, uno podría indagar: ¿En qué datos se basa este pronóstico? ¿Podría haber factores recientes que esté pasando por alto? Entre pares, uno podría preguntar: ¿Estamos siendo demasiado conservadores porque todos estamos inseguros? Trate a la IA como un punto de partida para la investigación, no como la última palabra.

4. Entrene y establezca directrices para el uso de la IA en los equipos.

Si su organización está implementando asesores o asistentes de IA, haga saber que la IA podría fomentar el exceso de confianza. Su organización necesita directrices sobre cómo manejar la IA. Por ejemplo, antes de obtener un pronóstico generado por IA, exija una ronda de discusión entre pares o una revisión de los peores escenarios antes de consultar con la IA.

La IA está cambiando la forma en que se toman las decisiones, pero el juicio humano sigue siendo crucial. La lección para los líderes de nuestro experimento es tener presente de dónde viene el consejo. Si proviene de la IA, inyecte algo de sentido común humano; si proviene de humanos, incluso podría usar la IA para asegurarse de que no se está perdiendo una perspectiva externa.

E

n una empresa minorista de la lista Fortune 500, la dirección proporcionó a un equipo responsable de redactar contratos de negociación con proveedores una herramienta de IA diseñada para agilizar su trabajo. Impulsada por un modelo de lenguaje de gran tamaño (LLM, por sus siglas en inglés) ampliamente utilizado, la dirección esperaba que la herramienta acelerara el trabajo del equipo. Sin embargo, a pesar de las altas expectativas, la producción del equipo no cambió. Aunque la herramienta podía generar texto genérico (por ejemplo, un borrador inicial de un contrato), el equipo tenía que personalizar ese texto para cada proveedor.

Esta historia refleja un patrón de cómo las herramientas de IA no cumplen con sus promesas. En una encuesta reciente que realizamos a 30 empresas de diversos sectores, los encuestados informaron que las herramientas genéricas de IA a menudo no ayudan a los usuarios a completar las tareas específicas requeridas en flujos de trabajo únicos, porque son genéricas.

Esta brecha entre las capacidades genéricas de la IA y las necesidades específicas y cambiantes de los equipos apunta a un desafío más profundo: las herramientas actuales no están diseñadas para comprender cómo se realiza realmente el trabajo. En este artículo, ofrecemos dos conceptos clave que pueden ayudar a cerrar esa brecha: los “gráficos de trabajo” (mapas digitales de cómo trabajan los equipos) y la “localización mecanicista inversa” (adaptación de los modelos de IA a los equipos). Estas ideas ayudan a explicar por qué la IA tradicional a menudo se queda corta y cómo las organizaciones pueden diseñar sistemas de IA que se adapten a flujos de trabajo, usuarios y contextos reales.

Por qué la herramienta de IA no creaba valor

Considere este problema en el contexto de un proceso particular ejecutado por el equipo de contratos. Tradicionalmente, al redactar un nuevo contrato para un proveedor, el equipo:

— Iniciaba sesión en múltiples sistemas.

— Recuperaba, analizaba y verificaba los detalles del proveedor.

— Revisaba las cotizaciones del proveedor y los términos de negociación de proveedores similares (o relacionados).

— Examinaba cualquier historial de pedidos relevante del proveedor.

— Redactaba manualmente un contrato que incorporara todos estos elementos.

Cuando el equipo de contratos adoptó por primera vez la herramienta de IA, su proceso comenzaba generando un contrato básico y genérico. A partir de ahí, dedicaban una cantidad considerable de tiempo a perfeccionarlo manualmente. Los resultados de la herramienta de IA se basaban en gran medida en contenidos públicos de Internet y carecían de los matices y el contexto específicos necesarios para sus contratos. Aunque el equipo consideró que la herramienta de IA era interesante, le resultaba difícil ver un impacto real en términos de reducción de esfuerzo.

Este es un ejemplo de la “paradoja de la productividad” de la IA en acción: una tecnología increíble que, sin una profunda adaptación contextual, no se traduce en mejoras tangibles de productividad.

Los modelos de IA potentes destacan porque están entrenados con grandes conjuntos de datos genéricos, pero su universalidad es un arma de doble filo. Si bien estos modelos pueden realizar una amplia gama de tareas, a menudo pasan por alto el contexto único de flujos de trabajo específicos y las necesidades particulares de los equipos, lo que lleva a una pérdida de ganancias en productividad.

El contexto lo es todo

Mientras la empresa experimentaba con esta IA, también trabajaba en lo que se convertiría en una solución a ese problema del contexto mediante la implementación de herramientas para mapear sus procesos y crear un gráfico de trabajo: una vista dinámica en tiempo real de cómo los equipos ejecutan sus flujos de trabajo en todos los sistemas. Estos mapas capturaban más que solo tareas: revelaban cómo se tomaban las decisiones, qué datos se consultaban y qué sistemas estaban involucrados.

Y aquí es donde surgió la verdadera oportunidad: el gráfico de trabajo (que incluía dos meses de actividad verificada y rica en contexto) podía utilizarse para entrenar la herramienta de IA. Debido a que capturó todo lo que el equipo consideraba importante, proporcionó a la herramienta de IA un contexto en tiempo real validado por humanos, lo que permitió que la herramienta comenzara a trabajar de una manera alineada con cómo realmente trabajaba el equipo. Con esta información, la herramienta de IA fue capaz de producir un primer borrador significativamente más completo, reduciendo iteraciones y acelerando el camino hacia un contrato final y utilizable.

Sin embargo, para que esto funcionara se requería algo más que los datos correctos: exigía el enfoque correcto. Mientras que la automatización tradicional a menudo busca reemplazar el trabajo humano, el objetivo aquí era personalizar la IA para que trabajara mejor para los equipos, reflejando cómo operan. Para lograrlo, aplicamos un enfoque llamado “localización mecanicista inversa” (RML, por sus siglas en inglés). Para entender cómo funciona una IA, lo habitual es aplicarle ingeniería inversa desde una perspectiva humana. La RML le da la vuelta a esa idea: aplica ingeniería inversa a la forma en que trabajan los humanos, analizando en profundidad los flujos de trabajo, las decisiones y el contexto reales de un equipo, y lo usa para adaptar la IA para servir mejor al equipo.

Los siguientes pasos estuvieron involucrados en la implementación de la RML para el equipo de contratos.

1. Mapear el gráfico de trabajo.

Comenzamos capturando cada paso e interacción humano-máquina que los miembros del equipo de contratos realizaban en su trabajo: cómo recuperaban información sobre un proveedor, cómo realizaban verificaciones cruzadas, cómo integraban manualmente diversas fuentes de datos en archivos de Excel, etc. Estos datos granulares y de alta fidelidad son la esencia del contexto local de un equipo.

Estos datos, en todas las organizaciones, proporcionan los detalles específicos de cómo trabaja realmente un equipo. Cuando este rico tapiz se introduce en la herramienta de IA, le permite transformar un modelo genérico en una herramienta altamente especializada que comprende el lenguaje local del trabajo.

2. Ajustar el gráfico de trabajo.

Una vez que mapeamos el gráfico de trabajo del equipo de contratos, utilizamos sus conocimientos detallados como contexto y lo usamos para ajustar el modelo que impulsa la herramienta de IA. Eso requería alimentar al modelo (bajo la herramienta de IA) con patrones de trabajo y datos (por ejemplo, información de proveedores). Este es el paso clave: integrar el contexto local de un equipo en la herramienta de IA. Al integrar los patrones de trabajo específicos y las señales contextuales de las operaciones diarias del equipo, la herramienta de IA genera un primer borrador del contrato que incluye varios detalles del proveedor, los matices en torno a sus calificaciones crediticias, etc.

3. Perfeccionamiento continuo.

Las organizaciones evolucionan continuamente. Los procesos cambian, se introducen nuevas tecnologías y las situaciones y prioridades se transforman. Por lo tanto, las empresas deben actualizar continuamente el gráfico de trabajo e introducir los patrones emergentes en el modelo para mantener actualizadas las herramientas de IA.

Este tipo de retroalimentación, llamada “aprendizaje por refuerzo con retroalimentación humana” (RLHF, por sus siglas en inglés), se utiliza para ajustar y perfeccionar el modelo dentro de la herramienta de IA. Como resultado, la herramienta de IA continúa adaptándose a las necesidades del equipo, asegurando una alta precisión sostenida a lo largo del tiempo.

¿Qué pueden hacer los CXOs?

Los directores de experiencia del cliente (CXO, por sus siglas en inglés) deben reconocer que la IA no es una tecnología de “implementar y olvidar”. En cambio, su valor se desbloquea cuando el sistema está alineado con los patrones de trabajo específicos y los procesos de toma de decisiones de la organización.

Al invertir en un enfoque personalizado, las empresas pueden reducir significativamente las tasas de error, recortar los costos operativos y, en última instancia, lograr un ROI mucho mayor en sus iniciativas de IA. En el panorama competitivo actual, descuidar la integración de esta capa de conocimiento contextual significa dejar el dinero, y la ventaja estratégica, sobre la mesa.

En resumen, si su estrategia de IA depende únicamente de soluciones estándar, corre el riesgo de perderse una transformación que impulse una verdadera productividad y reducción de riesgos. Por lo tanto, una estrategia de IA completa debe incluir un perfeccionamiento continuo mediante conocimientos localizados para garantizar que las inversiones en tecnología aporten valor inmediato y a largo plazo.

¿

Cómo se añade valor? Cuando decimos que una persona, un equipo o una empresa agrega valor, generalmente nos referimos a que han ido más allá de lo que se les pidió o esperaba de ellos. Por ejemplo, imagine que su gerente le pide que busque tres proveedores que puedan prestar un servicio que necesitan. Usted proporciona una lista de tres proveedores, sus respectivas ventajas y desventajas y, además, una posible solución en la que puede resolver el servicio requerido internamente. O bien, que un cliente potencial acude a usted en busca de formación sobre retroalimentación, que su empresa puede proporcionar. Sin embargo, después de algunas entrevistas con sus líderes, usted logra deducir el problema real: No es que las personas no sean buenas dando retroalimentación, sino que no quieren hacerlo. Usted propone trabajar con ellos para diseñar un conjunto de intervenciones destinadas a incentivar y normalizar la retroalimentación.

Ambos ejemplos ilustran cómo añadir valor no solo surge de resolver un problema, sino de resolver el problema correcto, de maneras que nadie esperaba, para llegar a un resultado aún mejor. Y este tipo de soluciones no surgen de nuestras formas cotidianas de pensar, sino del pensamiento experto, el pensamiento crítico, el pensamiento estratégico y el pensamiento sistémico; habilidades que aparecen constantemente en esas listas omnipresentes de competencias que los líderes de todos los niveles deben dominar para enfrentar los desafíos del futuro.

Si usted es un líder que busca que su empresa aporte valor a los clientes y consumidores, o un gerente que busca formas en las que su equipo pueda generar más valor, necesita desarrollar estas habilidades en sus colaboradores. Sin embargo, el problema para muchos líderes y gerentes es que, cuando usamos términos como pensamiento experto, crítico, estratégico o sistémico, con demasiada frecuencia no sabemos cuándo aplicarlos o incluso cómo definirlos.

Aquí exploraremos en profundidad estos cuatro tipos de pensamiento, incluido lo que significan y cuándo deben utilizarse, junto con algunos consejos para utilizar las herramientas de IA como aliadas en el proceso de pensamiento.

1. Pensamiento experto

El pensamiento experto se basa en un conocimiento profundo de un campo en particular. Se desarrolla a través de años de experiencia, formación y práctica constante. Utilizamos el pensamiento experto para realizar nuestro trabajo diario, a menudo sin siquiera darnos cuenta. Los expertos reconocen patrones y adoptan hábitos perfeccionados, confiando en heurísticas y suposiciones que les permiten operar con una velocidad y precisión que los principiantes no tienen. Cuando se usa la IA, el experto distingue de inmediato la verdad de la falsedad, mientras que el principiante podría aceptar las respuestas sin cuestionarlas.

Los principiantes tienden a observar las situaciones de manera más superficial, sin saber exactamente a qué deben prestar atención. Invierten mucho esfuerzo en tareas que un experto podría hacer con los ojos cerrados, y sin la misma calidad. Aplican las reglas de forma incorrecta, mientras que los expertos las crean. La mayoría de las empresas son expertas en convertir a los principiantes en expertos, y el “pensamiento experto” es lo que aportan cada día a sus clientes. Con frecuencia, cuando decimos que queremos que las personas piensen de manera más crítica, en realidad lo que queremos es que piensen más como expertos. También olvidamos que ser experto en un campo no nos convierte en expertos en otro, y aquí es donde el pensamiento experto encuentra su límite.

2. Pensamiento crítico

El pensamiento crítico requiere que hagamos una pausa en nuestro flujo automático de razonamiento experto. Implica detenerse primero para identificar y luego cuestionar los supuestos subyacentes sobre los cuales se basan nuestras conclusiones de expertos. Cuando nos involucramos en el pensamiento crítico, evaluamos la calidad de la información que tenemos a nuestra disposición: ¿Es actual? ¿Es precisa? ¿Es integral o hay algo que nos falta? Para ello, buscamos y consideramos activamente múltiples perspectivas, idealmente aquellas que difieren lo más posible de la nuestra. El pensamiento crítico consiste en preguntarse por qué y no limitarse a aceptar las cosas como verdades absolutas.

Una de las técnicas más conocidas del pensamiento crítico se basa en cuestionarse si realmente se está respondiendo a la pregunta correcta en primer lugar. Esta técnica, conocida como replanteamiento, es especialmente útil para generar soluciones innovadoras ante los desafíos existentes. Por ejemplo, los urbanistas que buscan reducir el tráfico podrían inicialmente pensar en añadir más carreteras o carriles, pero al hacerse una pregunta diferente (¿Cómo podemos reducir la cantidad de autos en la carretera?), de repente las soluciones que incentivan el transporte público y el trabajo a distancia cobran más relevancia. A través del replanteamiento, pueden surgir muchas soluciones que antes pasaban desapercibidas.

Las herramientas de IA pueden ayudar a identificar suposiciones, obtener nuevas perspectivas e incluso replantear el problema.

3. Pensamiento estratégico

El pensamiento estratégico consiste en adoptar una perspectiva a largo plazo y de alto nivel. Implica mirar más allá de la situación inmediata y trascender los límites actuales de nuestras formas de saber y hacer. A menudo se confunde con un pensamiento analítico, riguroso o centrado en la ejecución. Sin embargo, la característica principal del pensamiento estratégico es el uso de la imaginación, es decir, la disposición a preguntarse: “¿Qué podría ser?” o “¿Qué pasaría si…?”

Para formular estas preguntas, en ausencia de un compañero de pensamiento, las herramientas de IA pueden apoyar su exploración. Experimente con diferentes indicaciones para obtener información sobre lo que es posible.

4. Pensamiento sistémico

El pensamiento sistémico es la capacidad de comprender la interconexión de las cosas. Consiste en reconocer cómo interactúan las distintas partes de un sistema y cómo los cambios en una parte pueden afectar a las demás. El pensamiento sistémico requiere conocer las interdependencias y la habilidad de visualizar simultáneamente todos los elementos de un sistema (una tarea nada fácil para el cerebro humano). Por esta razón, el pensamiento sistémico depende en gran medida de métodos de visualización eficaces (como pizarras bidimensionales o bloques tridimensionales) para ayudarnos a manejar la complejidad dentro de las limitaciones de la memoria de trabajo.

Una forma en que las herramientas de IA pueden ayudar es llenando cualquier vacío e identificando influencias internas y externas en un sistema que pueden no ser evidentes a simple vista.

Estos cuatro tipos de pensamiento son herramientas esenciales para el liderazgo moderno y deben enseñarse en todas las organizaciones. Comprender qué función cumple cada tipo de pensamiento y cuándo utilizarlos ofrece a los líderes un lenguaje común y un marco para elegir la herramienta adecuada en el momento correcto.

Aunque sólo se puede utilizar una herramienta a la vez, esto no le impide abordar un problema, plan, reto u oportunidad con cada tipo de pensamiento. Al alternar entre la opinión de un experto, desafiar suposiciones mediante el pensamiento crítico, colocar la información validada en un contexto sistémico y hacer uso de su imaginación estratégica preguntándose “¿qué pasaría si…?”, obtendrá una visión mucho más completa del desafío que enfrenta.

U

n médico utiliza la IA para redactar una solicitud de autorización previa, transformando lo que podría ser un proceso tedioso y prolongado en uno eficiente. Sin embargo, si la IA de una aseguradora rechaza la solicitud basándose en criterios que el sistema del médico no contempló, el resultado son retrasos y frustración. Esta es la nueva realidad de los ecosistemas de IA: redes interconectadas de agentes y sistemas inteligentes que colaboran, compiten o chocan entre diferentes unidades de negocio u organizaciones. Estos ecosistemas pueden ofrecer nuevas oportunidades, pero también introducir complejidades y riesgos adicionales.

Construir y gestionarlos de forma segura y responsable requiere, entre otras cosas, replantear la formación de la fuerza laboral, aprovechar la tecnología para facilitar la alineación y la coordinación, y establecer marcos de gobernanza que garanticen la confianza y la rendición de cuentas.

Capacitación para operar en ecosistemas de IA

A medida que las empresas adoptan la IA en todos los ámbitos, es cada vez más importante redoblar los esfuerzos en materia de capacitación. Por ello, los empleados deben fortalecer su capacidad no solo para trabajar con la IA, sino también para navegar y mediar en las interacciones de múltiples sistemas de IA. Además, deben ser más sensibles no sólo a la forma en que estos sistemas pueden afectar a sus propias decisiones, sino también a las de otras personas dentro o fuera de la organización.

Consideremos el ejemplo de un algoritmo utilizado en el Reino Unido para priorizar los trasplantes de hígado mediante la predicción de la supervivencia a cinco años de los pacientes con y sin trasplante. Este enfoque infravaloraba a los pacientes más jóvenes, cuyos beneficios se extienden mucho más allá de los cinco años, y los penalizaba aún más, ya que tienen más probabilidades de sobrevivir sin un trasplante.

En el sector de los servicios financieros, los resultados de un modelo (como las puntuaciones crediticias) pueden servir como datos de entrada para los sistemas de IA posteriores, lo que permite que los posibles errores o sesgos de los modelos de crédito se propaguen a través de la red. Esto destaca no solo la complejidad de la gestión de los sistemas de IA individuales, sino también el desafío más amplio de los sistemas interconectados, donde las fallas iniciales pueden propagarse y posiblemente amplificar los errores o desigualdades en las decisiones posteriores. Junto con el sesgo de automatización de la IA (la tendencia de los usuarios a confiar en los resultados de la IA sin cuestionarlos), los errores pueden pasar desapercibidos, especialmente en comparación con las prácticas actuales de puntuación y uso de la IA más simples.

Los abogados y estudiantes de derecho utilizan cada vez más la IA en una variedad de tareas que tradicionalmente realizaban los humanos. Sin embargo, los abogados de hoy en día a menudo carecen de orientación sobre cómo integrar estas herramientas en los flujos de trabajo o explicar a los clientes los resultados generados por la IA, especialmente cuando esos resultados son el producto del trabajo de muchos algoritmos de IA que interactúan entre sí. Los programas de capacitación deben centrarse no solo en el uso de las herramientas, sino también en la comprensión del funcionamiento conjunto de múltiples sistemas para fundamentar las decisiones.

Para abordar estas cuestiones, la capacitación debe ir más allá de los aspectos básicos del manejo de las herramientas de IA. Es necesario equipar a los empleados para evaluar críticamente los resultados de la IA, comprender cómo fluyen los datos y las decisiones a través de los sistemas de IA interconectados y tomar medidas cuando surjan conflictos. Por ejemplo, los médicos deben aprender a contrastar los resultados de los diagnósticos con los registros de los pacientes y cuestionar las recomendaciones de triaje cuando los datos parecen incompletos.

Los empleados necesitan habilidades para evaluar cómo interactúan entre sí las herramientas de IA. Por ejemplo, deben reconocer cuándo los sesgos de los datos previos se propagan a las recomendaciones posteriores o cuándo los resultados contradictorios indican un fallo en la coordinación. La capacitación también debe empoderar a los empleados para abordar estos desafíos, ya sea adaptando los flujos de trabajo, redefiniendo las interacciones de los sistemas de IA u optimizando la gestión de los datos y las cadenas de suministro de IA.

Aprovechar la tecnología para mejorar la alineación

Si bien la capacitación prepara a las personas, la tecnología puede permitir que los sistemas de IA interactúen de manera efectiva y eficiente. La interoperabilidad es fundamental, pero el desafío más amplio radica en diseñar infraestructuras y procesos tecnológicos que fomenten la colaboración entre los sistemas de IA mientras se mitigan los riesgos. No se trata solo de la interoperabilidad técnica tradicional, sino también de la interdependencia de las decisiones y la alineación.

El diseño proactivo de las cadenas de suministro de datos e IA de la organización proporciona un punto de partida útil: los sistemas ascendentes alimentan las aplicaciones intermedias que adaptan esos modelos para industrias específicas, los cuales, a su vez, impulsan las herramientas descendentes para los usuarios finales. Por ejemplo, en el sector de la salud, una IA ascendente agrega datos de exploraciones radiológicas globales para desarrollar un modelo de diagnóstico. Una aplicación intermedia podría personalizar este modelo para un sistema hospitalario específico, mientras que una herramienta secundaria podría permitir a los médicos priorizar los casos.

Con el tiempo, pueden surgir ecosistemas más complejos. Por ejemplo, en las operaciones de confianza y seguridad para plataformas en línea, los sistemas de IA para la detección de contenido, el análisis de opiniones y el monitoreo del comportamiento de los usuarios suelen operar de manera independiente, creando brechas o superposiciones en la toma de decisiones. Una mejor integración de estos sistemas puede proporcionar a los moderadores información en tiempo real, garantizando que las decisiones sean coherentes y defendibles.

Estos ejemplos muestran por qué las organizaciones deben diseñar sistemas de IA como marcos interconectados en lugar de herramientas aisladas, y empezar a pensar en sus cadenas de suministro de datos e IA desde el principio. Al adoptar tecnologías que faciliten la coordinación y las pruebas de solidez continuas, y al rediseñar procesos para alinear las interacciones de la IA, las empresas pueden aprovechar sus ecosistemas de IA en evolución no solo para crear valor, sino también para evitar la destrucción de valor debido a los posibles riesgos de la IA que pueden estar ocultos en algún punto de la cadena.

Gobernanza para ecosistemas complejos

La escala y la complejidad de los ecosistemas emergentes de IA exigen marcos claros de gobernanza. La naturaleza interconectada de estos sistemas introduce riesgos de fallos en cascada, sesgos amplificados y brechas en la rendición de cuentas. Una gobernanza sólida debe abordar estos desafíos mientras fomenta la confianza y la adaptabilidad.

La transparencia es primordial. En los ecosistemas de IA, la rendición de cuentas suele quedar oculta por las capas de interacción. Las organizaciones deben adoptar marcos de gobernanza que puedan rastrear las decisiones a lo largo del sistema, permitiendo el análisis de las causas y la mejora continua.

Empoderar a los usuarios finales es otra prioridad crítica de gobernanza. Aunque las organizaciones suelen centralizar el despliegue de la IA para mantener la consistencia, dar a los usuarios finales la flexibilidad necesaria para adaptar los sistemas de IA puede generar innovación y permitir la gestión de los riesgos desde su origen.

La gobernanza también exige establecer ciclos de retroalimentación para monitorear y perfeccionar los ecosistemas de IA a lo largo del tiempo. En las prácticas legales, por ejemplo, las empresas pueden implementar mecanismos para identificar cuándo los resultados de diferentes sistemas producen recomendaciones contradictorias. Mediante la incorporación de este tipo de prácticas de gobernanza, las empresas pueden garantizar a las partes interesadas que sus sistemas de IA son seguros y confiables. Las regulaciones recientes, como la Ley de Servicios Digitales de la UE (DSA, por sus siglas en inglés), brindan una valiosa orientación sobre transparencia, rendición de cuentas, capacitación de los usuarios y bucles de retroalimentación.

Por ejemplo, los proveedores de atención médica pueden implementar marcos de trazabilidad para garantizar que las decisiones de diagnóstico de la IA sean claras tanto para los pacientes como para los organismos reguladores. De manera similar, las plataformas de confianza y seguridad ya están adoptando mecanismos de auditoría que explican las decisiones de moderación de contenido y permiten a los usuarios cuestionarlas. Al aplicar estos principios, las organizaciones pueden crear ecosistemas de IA que no solo sean eficaces, sino también éticamente alineados y en los que confíen las partes interesadas.

Además, la capacitación basada en principios y procesos claros también puede permitir que los usuarios de los sistemas de IA exploren mejor y, en última instancia, aprovechen las fortalezas y debilidades de la IA, facilitando el aprendizaje. Esto puede aumentar la precisión de la toma de decisiones y mejorar la comprensión intuitiva de los moderadores de contenido que dependen de diferentes sistemas de IA para moderar el contenido.

Seguridad en la era de los ecosistemas de IA

A medida que las empresas desarrollan sus estrategias de IA y la adoptan en sus procesos y productos, los ecosistemas de IA inevitablemente se volverán cada vez más complejos, lo que exigirá nuevas prácticas, procesos y herramientas para que las personas los aprovechen mejor y con mayor seguridad. No podemos prever los nuevos tipos de riesgos que crearán las cadenas de suministro y ecosistemas de IA emergentes y complejos, por lo que las buenas prácticas de gestión de riesgos requieren una preparación adecuada y un aprendizaje continuo.