A

unque la era de la IA apenas empieza, hemos descubierto que hay cinco capacidades que ya destacan en las organizaciones que han logrado retornos medibles gracias a la IA. A continuación, describimos cómo se aplican en la práctica.

1. Agilidad estratégica

Los líderes que sobresalen en esta dimensión priorizan las opciones sobre los planes rígidos y escanean proactivamente las disrupciones antes de que descarrilen el progreso. Se enfocan en el valor empresarial en lugar de la novedad, evitan las trampas de los costos hundidos y equilibran el tiempo con la velocidad.

Por el contrario, quienes no alcanzan este nivel elaboran planes lineales sin reconocer la incertidumbre, defienden el trabajo principalmente por las inversiones previas y seleccionan herramientas sin relacionarlas con objetivos más amplios.

Los líderes que piensan en aplicar este comportamiento a su estrategia de IA deben preguntarse: ¿Tenemos criterios claros sobre cuándo cambiar nuestra estrategia, o estamos atrapados en planes que quizá ya no nos sirven?

2. Centralidad en el ser humano

Los líderes fuertes en esta dimensión reconocen que la confianza establece el límite de velocidad para la adopción de la IA. No enmarcan los esfuerzos como una oposición entre los seres humanos y la IA. En su lugar, se preguntan: “¿Cómo puede la IA hacer mejores a los humanos?” Diseñan el cambio con las personas, no para ellas; modelan el uso de la IA personalmente; y construyen seguridad psicológica a través de la empatía y los bucles de retroalimentación.

Por el contrario, los líderes que se quedan cortos implementan cambios de arriba hacia abajo con poca participación, enmarcan la IA principalmente como una herramienta para impulsar la eficiencia en lugar de elevar la contribución, y culpan a los demás en lugar de revisar sus propios enfoques.

Los líderes que deseen aprovecharla para desarrollar su estrategia de IA deben preguntarse: ¿Estamos abordando activamente los temores de los empleados en torno a la tecnología y generando confianza a medida que implementamos proyectos piloto, o estamos dando por sentado que la adopción se producirá por sí sola?

3. Curiosidad aplicada

Los líderes que demuestran este comportamiento combinan el escaneo sistemático con la experimentación disciplinada en un esfuerzo por descubrir la mejor manera de aprender y evaluar de manera efectiva. Ejecutan pruebas rápidas y rentables con objetivos de aprendizaje claros, filtran la exageración preguntando: “¿Esto está resolviendo nuestro problema o el de alguien más?” y se preparan a través de experimentos con propósito en lugar de perseguir objetivos poco realistas.

Aquellos que tienen dificultades en esta dimensión delegan la exploración a sus colegas en lugar de modelarla ellos mismos, experimentan sin sacar conclusiones y persiguen titulares sin comprobar los fundamentos.

Los líderes que quieran aplicarlo en el contexto de la IA deben preguntarse: ¿Estamos demostrando un compromiso personal en la experimentación, o dependemos de otros para que exploren y aprendan por nosotros?

4. Impulso del desempeño

Los líderes con un fuerte impulso del desempeño rechazan el “teatro de proyectos piloto” en favor de la disciplina del retorno de la inversión y la escalabilidad multifuncional. Mantienen el impulso a través de un impacto continuo y medible, y establecen ritmos de ejecución con una responsabilidad clara.

Aquellos que no se desempeñan bien celebran los proyectos piloto sin resultados escalables, miden el éxito con métricas de actividad en lugar de resultados empresariales, y mantienen vivas las iniciativas de bajo impacto en lugar de eliminarlas.

Los líderes que deseen aplicar esto para impulsar su estrategia de IA deben preguntarse: ¿Estamos canalizando nuestra ambición hacia métricas y resultados empresariales claros, o estamos confundiendo el esfuerzo con el impacto?

5. Administración ética

Los líderes fuertes en esta dimensión incorporan la responsabilidad a la IA desde el primer día en lugar de agregarla más tarde. Diseñan una gobernanza que gestiona los riesgos mientras acelera el progreso, haciendo que la transparencia y la supervisión humana sean procedimientos operativos estándar. Estos líderes tratan el sesgo algorítmico como un riesgo empresarial digno de la misma gestión proactiva que los riesgos financieros u operativos.

Por otro lado, los líderes que no están a la altura tratan la gobernanza como algo secundario, minimizan los riesgos de sesgo hasta que se convierten en problemas públicos y priorizan la velocidad de lanzamiento sobre la implementación responsable.

Los líderes que esperan aplicar este comportamiento a su programa de IA deben preguntarse: ¿Estamos incorporando equidad, trazabilidad y responsabilidad desde el inicio, o estamos esperando a que aparezcan los problemas?

U

n médico utiliza la IA para redactar una solicitud de autorización previa, transformando lo que podría ser un proceso tedioso y prolongado en uno eficiente. Sin embargo, si la IA de una aseguradora rechaza la solicitud basándose en criterios que el sistema del médico no contempló, el resultado son retrasos y frustración. Esta es la nueva realidad de los ecosistemas de IA: redes interconectadas de agentes y sistemas inteligentes que colaboran, compiten o chocan entre diferentes unidades de negocio u organizaciones. Estos ecosistemas pueden ofrecer nuevas oportunidades, pero también introducir complejidades y riesgos adicionales.

Construir y gestionarlos de forma segura y responsable requiere, entre otras cosas, replantear la formación de la fuerza laboral, aprovechar la tecnología para facilitar la alineación y la coordinación, y establecer marcos de gobernanza que garanticen la confianza y la rendición de cuentas.

Capacitación para operar en ecosistemas de IA

A medida que las empresas adoptan la IA en todos los ámbitos, es cada vez más importante redoblar los esfuerzos en materia de capacitación. Por ello, los empleados deben fortalecer su capacidad no solo para trabajar con la IA, sino también para navegar y mediar en las interacciones de múltiples sistemas de IA. Además, deben ser más sensibles no sólo a la forma en que estos sistemas pueden afectar a sus propias decisiones, sino también a las de otras personas dentro o fuera de la organización.

Consideremos el ejemplo de un algoritmo utilizado en el Reino Unido para priorizar los trasplantes de hígado mediante la predicción de la supervivencia a cinco años de los pacientes con y sin trasplante. Este enfoque infravaloraba a los pacientes más jóvenes, cuyos beneficios se extienden mucho más allá de los cinco años, y los penalizaba aún más, ya que tienen más probabilidades de sobrevivir sin un trasplante.

En el sector de los servicios financieros, los resultados de un modelo (como las puntuaciones crediticias) pueden servir como datos de entrada para los sistemas de IA posteriores, lo que permite que los posibles errores o sesgos de los modelos de crédito se propaguen a través de la red. Esto destaca no solo la complejidad de la gestión de los sistemas de IA individuales, sino también el desafío más amplio de los sistemas interconectados, donde las fallas iniciales pueden propagarse y posiblemente amplificar los errores o desigualdades en las decisiones posteriores. Junto con el sesgo de automatización de la IA (la tendencia de los usuarios a confiar en los resultados de la IA sin cuestionarlos), los errores pueden pasar desapercibidos, especialmente en comparación con las prácticas actuales de puntuación y uso de la IA más simples.

Los abogados y estudiantes de derecho utilizan cada vez más la IA en una variedad de tareas que tradicionalmente realizaban los humanos. Sin embargo, los abogados de hoy en día a menudo carecen de orientación sobre cómo integrar estas herramientas en los flujos de trabajo o explicar a los clientes los resultados generados por la IA, especialmente cuando esos resultados son el producto del trabajo de muchos algoritmos de IA que interactúan entre sí. Los programas de capacitación deben centrarse no solo en el uso de las herramientas, sino también en la comprensión del funcionamiento conjunto de múltiples sistemas para fundamentar las decisiones.

Para abordar estas cuestiones, la capacitación debe ir más allá de los aspectos básicos del manejo de las herramientas de IA. Es necesario equipar a los empleados para evaluar críticamente los resultados de la IA, comprender cómo fluyen los datos y las decisiones a través de los sistemas de IA interconectados y tomar medidas cuando surjan conflictos. Por ejemplo, los médicos deben aprender a contrastar los resultados de los diagnósticos con los registros de los pacientes y cuestionar las recomendaciones de triaje cuando los datos parecen incompletos.

Los empleados necesitan habilidades para evaluar cómo interactúan entre sí las herramientas de IA. Por ejemplo, deben reconocer cuándo los sesgos de los datos previos se propagan a las recomendaciones posteriores o cuándo los resultados contradictorios indican un fallo en la coordinación. La capacitación también debe empoderar a los empleados para abordar estos desafíos, ya sea adaptando los flujos de trabajo, redefiniendo las interacciones de los sistemas de IA u optimizando la gestión de los datos y las cadenas de suministro de IA.

Aprovechar la tecnología para mejorar la alineación

Si bien la capacitación prepara a las personas, la tecnología puede permitir que los sistemas de IA interactúen de manera efectiva y eficiente. La interoperabilidad es fundamental, pero el desafío más amplio radica en diseñar infraestructuras y procesos tecnológicos que fomenten la colaboración entre los sistemas de IA mientras se mitigan los riesgos. No se trata solo de la interoperabilidad técnica tradicional, sino también de la interdependencia de las decisiones y la alineación.

El diseño proactivo de las cadenas de suministro de datos e IA de la organización proporciona un punto de partida útil: los sistemas ascendentes alimentan las aplicaciones intermedias que adaptan esos modelos para industrias específicas, los cuales, a su vez, impulsan las herramientas descendentes para los usuarios finales. Por ejemplo, en el sector de la salud, una IA ascendente agrega datos de exploraciones radiológicas globales para desarrollar un modelo de diagnóstico. Una aplicación intermedia podría personalizar este modelo para un sistema hospitalario específico, mientras que una herramienta secundaria podría permitir a los médicos priorizar los casos.

Con el tiempo, pueden surgir ecosistemas más complejos. Por ejemplo, en las operaciones de confianza y seguridad para plataformas en línea, los sistemas de IA para la detección de contenido, el análisis de opiniones y el monitoreo del comportamiento de los usuarios suelen operar de manera independiente, creando brechas o superposiciones en la toma de decisiones. Una mejor integración de estos sistemas puede proporcionar a los moderadores información en tiempo real, garantizando que las decisiones sean coherentes y defendibles.

Estos ejemplos muestran por qué las organizaciones deben diseñar sistemas de IA como marcos interconectados en lugar de herramientas aisladas, y empezar a pensar en sus cadenas de suministro de datos e IA desde el principio. Al adoptar tecnologías que faciliten la coordinación y las pruebas de solidez continuas, y al rediseñar procesos para alinear las interacciones de la IA, las empresas pueden aprovechar sus ecosistemas de IA en evolución no solo para crear valor, sino también para evitar la destrucción de valor debido a los posibles riesgos de la IA que pueden estar ocultos en algún punto de la cadena.

Gobernanza para ecosistemas complejos

La escala y la complejidad de los ecosistemas emergentes de IA exigen marcos claros de gobernanza. La naturaleza interconectada de estos sistemas introduce riesgos de fallos en cascada, sesgos amplificados y brechas en la rendición de cuentas. Una gobernanza sólida debe abordar estos desafíos mientras fomenta la confianza y la adaptabilidad.

La transparencia es primordial. En los ecosistemas de IA, la rendición de cuentas suele quedar oculta por las capas de interacción. Las organizaciones deben adoptar marcos de gobernanza que puedan rastrear las decisiones a lo largo del sistema, permitiendo el análisis de las causas y la mejora continua.

Empoderar a los usuarios finales es otra prioridad crítica de gobernanza. Aunque las organizaciones suelen centralizar el despliegue de la IA para mantener la consistencia, dar a los usuarios finales la flexibilidad necesaria para adaptar los sistemas de IA puede generar innovación y permitir la gestión de los riesgos desde su origen.

La gobernanza también exige establecer ciclos de retroalimentación para monitorear y perfeccionar los ecosistemas de IA a lo largo del tiempo. En las prácticas legales, por ejemplo, las empresas pueden implementar mecanismos para identificar cuándo los resultados de diferentes sistemas producen recomendaciones contradictorias. Mediante la incorporación de este tipo de prácticas de gobernanza, las empresas pueden garantizar a las partes interesadas que sus sistemas de IA son seguros y confiables. Las regulaciones recientes, como la Ley de Servicios Digitales de la UE (DSA, por sus siglas en inglés), brindan una valiosa orientación sobre transparencia, rendición de cuentas, capacitación de los usuarios y bucles de retroalimentación.

Por ejemplo, los proveedores de atención médica pueden implementar marcos de trazabilidad para garantizar que las decisiones de diagnóstico de la IA sean claras tanto para los pacientes como para los organismos reguladores. De manera similar, las plataformas de confianza y seguridad ya están adoptando mecanismos de auditoría que explican las decisiones de moderación de contenido y permiten a los usuarios cuestionarlas. Al aplicar estos principios, las organizaciones pueden crear ecosistemas de IA que no solo sean eficaces, sino también éticamente alineados y en los que confíen las partes interesadas.

Además, la capacitación basada en principios y procesos claros también puede permitir que los usuarios de los sistemas de IA exploren mejor y, en última instancia, aprovechen las fortalezas y debilidades de la IA, facilitando el aprendizaje. Esto puede aumentar la precisión de la toma de decisiones y mejorar la comprensión intuitiva de los moderadores de contenido que dependen de diferentes sistemas de IA para moderar el contenido.

Seguridad en la era de los ecosistemas de IA

A medida que las empresas desarrollan sus estrategias de IA y la adoptan en sus procesos y productos, los ecosistemas de IA inevitablemente se volverán cada vez más complejos, lo que exigirá nuevas prácticas, procesos y herramientas para que las personas los aprovechen mejor y con mayor seguridad. No podemos prever los nuevos tipos de riesgos que crearán las cadenas de suministro y ecosistemas de IA emergentes y complejos, por lo que las buenas prácticas de gestión de riesgos requieren una preparación adecuada y un aprendizaje continuo.