E

n su cuento “The Evitable Conflict”, publicado hace 75 años, el escritor de ciencia ficción Isaac Asimov describió cómo las máquinas podrían dirigir industrias enteras. Hoy en día, cada vez hay más pruebas de que la IA puede superar a los humanos en muchas tareas cognitivas individuales. Un experimento realizado por un equipo de la Universidad de Cambridge sugiere que los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) pueden superar a los humanos en la mayoría de las tareas, incluyendo el diseño de productos, el control de costos y la inteligencia de mercado.

Si bien estos resultados son impresionantes, los estudios que conocemos se han realizado en condiciones de laboratorio artificiales. Los ejecutivos en el mundo real enfrentan desafíos indefinidos y cambiantes, a menudo con datos insuficientes o inexactos.

¿Qué sucede si sacamos la IA del laboratorio y la llevamos a una empresa real? Durante el último año, nos unimos a una serie de reuniones del equipo ejecutivo de Giesswein, una empresa austriaca con ingresos de 85 millones de dólares, que vende zapatillas ecológicas de lana orgánica. Nuestra idea era experimentar con diferentes formas de integrar la IA en sus reuniones ejecutivas para comprender qué funciona y cómo.

La IA en la sala de juntas

Diseñamos tres tipos de intervenciones y realizamos al menos dos variaciones diferentes de cada una para probar su replicabilidad. Después de cada intervención, realizamos entrevistas de seguimiento con los dos hermanos que dirigen la empresa familiar para recopilar sus percepciones sobre la efectividad.

Nuestro primer tipo de intervención consistió en alimentar la agenda del equipo ejecutivo en ChatGPT 4.0 durante varias reuniones, pidiendo sugerencias sobre qué preguntas y temas discutir. El resultado se compartió con el equipo durante la reunión a medida que se abordaban los puntos de la agenda. También desarrollamos indicaciones para generar recomendaciones más específicas. Por ejemplo, cuando la cuestión de la subcontratación estaba en la agenda, solicitamos argumentos a favor y en contra. Sabíamos que la empresa ya estaba subcontratando parte de su producción en China, por lo que pedimos a ChatGPT que explorara qué debía tener en cuenta si quería externalizar toda la producción. A continuación, se compartieron los resultados durante la reunión ejecutiva.

En un segundo tipo de intervención, escribimos indicaciones relacionadas con los puntos discutidos por los ejecutivos durante la reunión y luego compartimos los resultados. Por ejemplo, un posible factor decisivo en la decisión de subcontratación era la infrautilización de la línea de producción, lo que hacía que los costos fijos fueran un problema mayor. Mientras discutíamos esto en vivo, pedimos a ChatGPT que generara una lista de productos alternativos que podrían lanzarse utilizando el mismo material que la empresa ya producía.

Un tercer tipo de intervención se llevó a cabo después de las reuniones del equipo ejecutivo, con ChatGPT respondiendo preguntas específicas que tenía la dirección, por ejemplo, sobre opciones de entrada al mercado en EE. UU. Probamos dos versiones de esto: en la primera, entablamos una conversación prolongada con ChatGPT, usando nuestro propio criterio para guiar la herramienta de IA. En la segunda versión, simplemente formulamos las preguntas de los ejecutivos sin ninguna interpretación o iteración adicional.

Aumento, no sustitución

En general, nuestros experimentos con la junta directiva demostraron que la IA podría ser valiosa para guiar y enriquecer las discusiones ejecutivas, pero solo con una gestión activamente involucrada.

El uso no supervisado de la IA no funcionó bien, ya que proporcionó resultados que no eran lo suficientemente específicos para que los ejecutivos los encontraran útiles. Por el contrario, las aplicaciones supervisadas, complementadas con las habilidades de un asesor humano sin un conocimiento especial de la empresa, pero con experiencia en el desarrollo de estrategias, fueron percibidas como altamente beneficiosas por los ejecutivos. Observamos tres implicaciones específicas:

1. Ventaja de la torpeza

Parece contradictorio, pero la mayor ventaja de ChatGPT fue interrumpir el flujo natural de las reuniones. Esperábamos que la torpeza, la incomodidad y la demora que introducía fueran una gran molestia, pero los ejecutivos apreciaron que los hiciera detenerse y reflexionar.

El equipo era consciente de que, después de décadas de trabajar juntos, estaban muy alineados en muchos temas y podían casi completar las frases del otro. También sabían que su experiencia compartida y sus rutinas bien ensayadas creaban puntos ciegos de manera natural. Como nos dijo el CEO Markus Giesswein, aceptó este experimento porque esperaba “un apoyo equilibrado y estructurado, ya que muchas decisiones en nuestro rango de tamaño se toman en función de la intuición y las emociones”.

La tendencia de ChatGPT a proporcionar listas exhaustivas llevó al equipo a considerar opciones que de otro modo no habrían considerado, pero el verdadero valor radicó en romper y ralentizar los patrones de pensamiento e interacción existentes, permitiendo la discusión de nuevos elementos.

2. Ilusión de completitud

La amplitud de las sugerencias de LLM también tuvo un inconveniente. A medida que el equipo se acostumbró a que la herramienta les señalara problemas que de otro modo habrían pasado por alto, observamos una creciente dependencia de ella para no omitir nada importante.

Por ejemplo, en una de las reuniones se discutió un próximo anuncio. ChatGPT ofreció un amplio conjunto de factores que debían abordarse antes del anuncio, pero omitió posibles implicaciones legales que debían considerarse. En circunstancias normales, los ejecutivos podrían haber planteado las cuestiones legales, pero la IA había creado la ilusión de una completitud infalible en la que comenzaron a confiar.

3. Ventaja en velocidad y costos

Una última serie de ventajas de introducir la IA en estas reuniones fue la velocidad y la reducción de costos. Las discusiones en la sala de juntas suelen dar lugar a preguntas que requieren más investigación. ChatGPT permitió al equipo recopilar datos y hacer recomendaciones inmediatas, lo que agilizó la adopción de medidas.

Por ejemplo, cuando Giesswein consideró el futuro de su planta en Eslovaquia, surgió una pregunta importante: el posible costo de renovar la instalación si decidían conservarla. ChatGPT fue capaz de proporcionar estimaciones lo suficientemente rápidas y precisas que permitieron a los ejecutivos avanzar en esta cuestión.

En algunos casos, el uso de la IA también puede reducir los costos de exploración adicional. Por ejemplo, una de las decisiones que tomó el equipo requería emitir un comunicado de prensa. En el pasado, habrían contratado a una agencia para redactar y publicar el comunicado, pero ChatGPT produjo una declaración que se ajustaba a su propósito. Este beneficio también fue evidente cuando utilizamos ChatGPT en el análisis posterior a la reunión.

Un nuevo tipo de interacción para equipos ejecutivos

Hasta ahora, gran parte de la conversación sobre el valor de la IA generativa se ha centrado en la precisión de la información que proporciona. Nuestra participación de un año en Giesswein sugiere que el valor radica en otro lugar, específicamente en el proceso de interacción en sí mismo. Los ejecutivos son conscientes de que la herramienta ocasionalmente tendrá alucinaciones; también están acostumbrados a trabajar con información incompleta o defectuosa.

Lo que hace que la IA sea un miembro valioso del equipo ejecutivo es que es diferente de los humanos. Esto interrumpe y, por lo tanto, amplía las consideraciones, en algunos casos proporcionando información para avanzar rápidamente. Pero para que esto funcione, necesita a un humano que opere la herramienta. La inteligencia colectiva de la combinación entre humanos y herramientas ofrece algo nuevo y emocionante.

L

a manera en que los humanos interactúan y colaboran con la IA está dando un salto dramático hacia adelante con la IA agéntica. Mientras que los asistentes de IA anteriores se basaban en reglas y tenían una capacidad limitada para actuar de forma independiente, la IA agéntica estará capacitada para hacer más en nuestro nombre. Pero, ¿qué es exactamente la IA agéntica?

«Se puede definir la IA agéntica con una palabra: proactividad», dijo Enver Cetin, experto en IA de la firma global de ingeniería de experiencias Ciklum, a quien entrevisté. «Se refiere a sistemas y modelos de IA que pueden actuar de forma autónoma para alcanzar objetivos sin la necesidad de una guía humana constante. El sistema de IA agéntica comprende cuál es el objetivo o la visión del usuario y el contexto del problema que están tratando de resolver».

Para lograr este nivel de toma de decisiones y acción autónoma, la IA agéntica se basa en un complejo conjunto de diferentes tecnologías de aprendizaje automático, procesamiento de lenguaje natural y automatización. Aunque los sistemas de IA agéntica aprovechan las capacidades creativas de los modelos de IA generativa como ChatGPT, difieren en varios aspectos. En primer lugar, se centran en la toma de decisiones más que en la creación de contenido. En segundo lugar, no dependen de indicaciones humanas, sino que se configuran para optimizar objetivos o metas particulares. Y, en tercer lugar, a diferencia de la IA generativa, también pueden llevar a cabo secuencias complejas de actividades, buscando de manera independiente en bases de datos o activando flujos de trabajo para completar tareas.

Las ventajas de trabajar con IA agéntica

Con sus capacidades potenciadas de razonamiento y ejecución, los sistemas de IA agéntica prometen transformar muchos aspectos de la colaboración entre humanos y máquinas, especialmente en áreas de trabajo que anteriormente estaban aisladas de la automatización basada en IA, como la gestión proactiva de sistemas de TI complejos para prevenir fallas; la reconfiguración dinámica de cadenas de suministro en respuesta a interrupciones geopolíticas o meteorológicas; o la interacción realista con pacientes o clientes para resolver problemas.

Tres de los principales beneficios serán una mayor especialización de la fuerza laboral, una mayor confiabilidad de la información y una innovación mejorada.

1. Mayor especialización

La importancia de la especialización de la fuerza laboral (la «división del trabajo») se comprende desde la célebre visita de Adam Smith a una fábrica de alfileres en los primeros párrafos de «La riqueza de las naciones«. La especialización aporta mayor eficiencia y aprendizaje a través de la práctica e innovación, sin embargo, puede ser difícil de implementar cuando las empresas se enfrentan a la escasez de mano de obra y a la falta de adecuación entre las funciones y las capacidades humanas disponibles. Dado que los modelos agénticos están diseñados explícitamente para realizar tareas muy detalladas, permiten una mayor especialización de los roles en comparación con los anteriores sistemas de automatización más generales.

2. Innovación

Con su juicio mejorado y sus capacidades de ejecución, los sistemas de IA agéntica son ideales para la experimentación y la innovación. Los modelos de IA multiagente también pueden escanear y analizar vastos espacios de investigación (como artículos científicos y bases de datos) en una fracción del tiempo que le tomaría a equipos de científicos e investigadores humanos.

3. Mayor confiabilidad

El mayor razonamiento cognitivo de los sistemas de IA agéntica significa que es menos probable que sufran las llamadas alucinaciones (o información inventada) comunes en los sistemas de IA generativa. Los sistemas de IA agéntica también tienen una capacidad significativamente mayor para filtrar y diferenciar las fuentes de información según su calidad y fiabilidad, aumentando el grado de confianza en sus decisiones. Por ejemplo, mientras que la información del cliente a menudo se encuentra dispersa en diferentes formatos en distintas partes de una empresa (correos electrónicos, bases de datos, hojas de cálculo y similares), un sistema de IA agéntica puede discernir rápidamente que la información más fiable y actualizada probablemente se encuentre en los sistemas de gestión de relaciones con los clientes (CRM) de la empresa.

Casos de uso potenciales

Aunque muchas aplicaciones de la IA agéntica siguen siendo experimentales o están en fase piloto, ya están empezando a emerger aplicaciones potenciales en diferentes industrias y funciones. Algunos ejemplos incluyen:

Servicio al cliente

A diferencia de los bots de servicio al cliente tradicionales que estaban preprogramados con un rango limitado de respuestas y acciones, los agentes de servicio al cliente agénticos pueden captar rápidamente las intenciones y emociones de los clientes y tomar medidas independientes para resolver consultas y problemas.

Manufactura

Desde el control del flujo de las líneas de producción hasta la personalización de productos y la formulación de sugerencias para mejorar el diseño de los productos, es probable que la IA agéntica tenga múltiples aplicaciones en la manufactura inteligente. Los datos de sensores conectados a máquinas, componentes y otros activos físicos en fábricas y transportes pueden ser analizados por sistemas de IA agéntica para predecir el desgaste y las interrupciones de producción, evitando el tiempo de inactividad no programado y los costos asociados para los fabricantes.

Soporte de ventas

Para los agentes de ventas, el objetivo crucial de encontrar y desarrollar oportunidades comerciales a menudo queda enterrado bajo una avalancha de correos electrónicos, papeleo y otras tareas administrativas mundanas pero necesarias. Los sistemas de IA agéntica podrían liberar significativamente a los equipos de ventas de gran parte de esta actividad que consume mucho tiempo.

Salud y cuidados sociales

Su capacidad para adaptarse a diferentes entornos, interpretar emociones humanas y mostrar empatía hace que los sistemas de IA agéntica sean ideales para trabajos no rutinarios que requieren habilidades interpersonales, como la atención médica y el cuidado de personas.

Los desafíos por delante

A pesar de su gran potencial para transformar la colaboración entre humanos y máquinas, y aumentar la eficiencia y el crecimiento empresarial, los sistemas de IA agéntica aún se encuentran en una etapa relativamente temprana de desarrollo. Además, pese a sus mayores capacidades de razonamiento y ejecución, no eliminan los desafíos tradicionales de la gestión de equipos; más bien, los transforman. Al igual que con los equipos humanos tradicionales, los gerentes deben seguir prestando atención a la composición del equipo, la asignación de funciones y la definición de metas adecuadas para garantizar el éxito de los equipos híbridos o de los sistemas de IA agéntica.

Claves para el éxito

Para aprovechar las oportunidades que ofrece la IA agéntica y, al mismo tiempo, mitigar los riesgos, los gerentes deben considerar las siguientes acciones clave:

Establecer objetivos SMART

Al igual que el rendimiento de los equipos humanos puede verse obstaculizado por objetivos mal definidos o poco claros, los sistemas de IA agéntica también pueden desviarse si no se establecen metas precisas. Cetin, de Ciklum, destaca la importancia de fijar objetivos exhaustivos: «Para que la IA agéntica tenga éxito, los modelos deben tener objetivos y subobjetivos SMART (específicos, medibles, alcanzables, relevantes y con tiempo definido) y saber cómo medirlos. Como gerentes, necesitamos establecer bucles de retroalimentación para ajustar los modelos a medida que aprendemos más sobre su desempeño».

Prestar atención a la selección del equipo

En comparación con la IA generativa, que se basa en gran medida en hacer preguntas concretas a modelos de lenguaje de gran tamaño, la IA agéntica es mucho más un esfuerzo de equipo. Al igual que en los equipos humanos, es probable que surjan problemas de coordinación, conflictos y gestión de recursos. Los gerentes que utilicen sistemas de IA agéntica deberán prestar especial atención a la selección del equipo, asegurándose de contar con la combinación adecuada de roles agénticos que lleven a cabo las tareas correctas de manera eficiente.

Estructurar el espacio de decisión

Aunque los modelos de IA agéntica están diseñados explícitamente para evaluar opciones y ejecutar secuencias complejas de acciones, no son infalibles y pueden cometer errores, al igual que los humanos. La ciencia del aprendizaje destaca la importancia del «andamiaje» en el aprendizaje, que consiste en exponer a los aprendices a la práctica del mundo real con salvaguardas que se retiran progresivamente a medida que aumenta la experiencia.

Desde los primeros días de los autómatas mecánicos hasta los bots conversacionales más recientes, los científicos e ingenieros han soñado con un futuro en el que los sistemas de IA puedan funcionar y actuar de forma inteligente e independiente. Los avances recientes en la IA agéntica acercan ese futuro autónomo un paso más a la realidad.

L

a IA generativa (Gen AI) ofrece oportunidades transformadoras para el aprendizaje, el trabajo, la creatividad y la toma de decisiones en las organizaciones. Esto marca un cambio de paradigma hacia una colaboración sin precedentes entre humanos y máquinas. Sin embargo, su integración en la forma de trabajar de las organizaciones es compleja. Los riesgos son numerosos, incluidos los problemas de confianza y precisión, las alucinaciones y los sesgos heredados de los modelos subyacentes. Hoy en día, muchas empresas se enfrentan al dilema de aprovechar el poder de la IA generativa sin caer presa de sus posibles desventajas.

El temor a cometer errores críticos con la IA generativa ha llevado a algunas organizaciones a restringir severamente su uso, o incluso a prohibirlo por completo. Este enfoque evasivo es más peligroso de lo que parece, ya que puede generar consecuencias no deseadas (como que los empleados utilicen cuentas personales para eludir las restricciones) e impide que las empresas aprovechen los beneficios de la IA generativa.

Otras empresas más dispuestas a experimentar con la IA generativa han adoptado un nivel básico de estrategias inteligentes de gestión de riesgos. Estas mitigaciones comienzan con políticas de uso, códigos de conducta, restricciones a herramientas aprobadas y límites establecidos. Estas medidas son recomendables y necesarias, pero insuficientes; ya que no abordan muchos escenarios futuros desconocidos y difíciles de definir, especialmente dada la velocidad del cambio tecnológico.

Cada vez es más frecuente un segundo nivel de mitigación de riesgos: Ahora, muchas empresas alientan a su personal a utilizar el pensamiento crítico y el juicio en torno a las herramientas de IA. Este juicio a nivel individual va más allá de simplemente examinar los resultados generados por la IA; implica establecer el modo de colaboración adecuado con la IA, establecer un contexto y límites claros, y proporcionar retroalimentación continua a la máquina.

El ejercicio del juicio individual tiene más ventajas que las políticas por sí solas. Permite a los empleados interpretar las directrices en el contexto de uso, ya que las políticas no pueden cubrir todas las situaciones. El juicio permite a las personas traducir y adaptar reglas abstractas a escenarios del mundo real; por ejemplo, garantizar la confidencialidad al eliminar cuidadosamente los elementos sensibles específicos incluidos en un prompt. Sin embargo, el juicio individual puede no ser suficiente en todas las circunstancias. De hecho, cuando la IA presenta alucinaciones o genera resultados inexactos, las personas podrían caer inadvertidamente en una «trampa de confianza», influenciadas por el tono autoritario de las sugerencias generadas por la inteligencia artificial.

En este sentido, proponemos un nuevo nivel de mitigación de riesgos: el juicio en equipo.

Los tres tipos de juicio a nivel de equipos

La investigación en campos tan diversos (como la atención médica, el control del tráfico aéreo y la generación de energía nuclear) destaca el papel fundamental del trabajo en equipo para mitigar los riesgos operativos.

Un enfoque similar, que combine reglas estrictas con el juicio a nivel de equipos, puede ayudar a las organizaciones a abordar de manera efectiva los desafíos de la IA. Las conversaciones entre colegas pueden aportar perspectivas diversas, cuestionar los resultados y descubrir sesgos ocultos. Recurrir a expertos en la materia puede ayudar a validar datos específicos o revisar áreas en las que existen dudas o inquietudes debido a la falta de conocimientos para juzgar con confianza. El juicio a nivel de equipos tiene tres manifestaciones principales:

1. Juicio colectivo: Los equipos deben participar en debates para garantizar la precisión, identificar riesgos y evaluar los resultados generados por la IA. Por ejemplo, si los miembros no están seguros de un resultado generado por la IA, deben consultarlo con otros colegas o equipos, y revisar el contenido generado antes de aceptarlo y utilizarlo. Estas rutinas de reflexión y debate compartidos permiten una evaluación integral de los posibles impactos, incluidas las implicaciones éticas y legales.

2. Juicio especializado: Cuando se producen imprevistos o se detectan anomalías en los resultados de los sistemas de IA, los equipos deben delegar la autoridad de toma de decisiones a aquellos que son expertos o que están más cerca del trabajo, y no a quienes tienen el rango más alto. Al consultar a los expertos en la materia cuando surgen preguntas o problemas con la IA, sus conocimientos pueden orientar al equipo de manera oportuna y evitar que se extiendan las consecuencias negativas.

3. Juicio reflexivo: Los equipos deben reunirse periódicamente para compartir y reflexionar sobre sus experiencias y las de otros al usar IA, mejorando así su comprensión y capacidad para navegar por los sistemas de IA. Este aprendizaje continuo es fundamental para seguir el ritmo de la rápida evolución de la tecnología, permitiendo a los equipos aprender de los errores y éxitos para optimizar el uso seguro y eficaz. Un ejemplo de juicio reflexivo es la realización periódica de retrospectivas en equipo para analizar las lecciones aprendidas.

La incorporación de estas formas de juicio a nivel de equipos aborda elementos críticos de riesgo que las políticas o el juicio individual por sí solos podrían pasar por alto. Este enfoque colaborativo ayuda a descubrir puntos ciegos y sesgos, ofreciendo salvaguardas más completas.

Desarrollar el juicio a nivel de equipos

El juicio basado en equipos debe cultivarse antes de que pueda ser efectivo. Requiere práctica y refuerzo constantes para convertirse en un mecanismo sólido para gestionar los riesgos y garantizar resultados de alta calidad. A continuación, se presentan algunas recomendaciones prácticas para ayudar a los líderes a desarrollar esta capacidad dentro de sus equipos:

Cómo reforzar el juicio colectivo

Cree rutinas para la reflexión y debate dentro de los plazos del proyecto. Esto puede incluir reuniones breves o puntos de control diseñados específicamente para la toma de conciencia colectiva. Por ejemplo, después de una interacción uno a uno con la máquina, tomarse un momento para revisar y evaluar los resultados generados por la IA con sus compañeros puede brindar información valiosa y asegurar que los resultados no se acepten acríticamente, sino que se examinen para comprobar su precisión y relevancia. Algunas posibles preguntas para este tipo de sesiones incluyen: ¿Esto es plausible? ¿Se citan correctamente las fuentes? ¿Esta recomendación es propensa a posibles riesgos o sesgos? Hacer este juicio crítico en un grupo es más poderoso, ya que se tienen diferentes perspectivas y experiencia, y es menos probable que se caiga en la trampa de la confianza.

Cómo reforzar el juicio especializado

Establezca mecanismos para identificar y activar a los expertos en la materia a lo largo del proyecto. En primer lugar, asegurarse de que las personas comprendan la necesidad de involucrar a otros expertos durante el proceso de colaboración entre humanos e IA. A continuación, facilite la identificación de los expertos adecuados (disponiendo de mapas de expertos o una lista de especialistas) y el contacto con ellos (por ejemplo, formulando preguntas en comunidades internas de práctica, a menudo a través de sistemas de chat virtual o foros de discusión). Introduzca incentivos para los expertos que apoyen a los equipos y orienten la toma de decisiones cuando surjan problemas.

Cómo reforzar el juicio reflexivo

Dedique tiempo a actividades de aprendizaje continuo y fomente el intercambio de experiencias mediante sesiones y repositorios dedicados. Las sesiones retrospectivas deben incorporarse a los planes de los proyectos para facilitar el aprendizaje dentro y entre los equipos. Algunas preguntas útiles para explorar incluyen: ¿Qué aprendimos este mes al utilizar esta nueva tecnología? ¿Cuáles son los errores más comunes? ¿Cómo están lidiando nuestros colegas con desafíos similares? ¿Cómo podemos integrar mejor la IA generativa en nuestros flujos de trabajo para evitar estos errores? Además, el aprendizaje puede consolidarse y conservarse en un repositorio de conocimientos o como parte de academias de IA generativa.

El juicio basado en equipos es un activo estratégico para navegar en un futuro impulsado por la IA. Al cultivar esta capacidad a gran escala, las empresas están mejor equipadas para adaptarse rápidamente al cambiante panorama de la IA, incluidos los riesgos que aún no son generalizados o conocidos. Esta sabiduría colectiva permite a las organizaciones adoptar con confianza la integración de la IA, adaptarse a los flujos de trabajo cambiantes y gestionar las complejidades de la colaboración entre humanos e IA, acelerando la obtención de beneficios y mitigando de forma proactiva los riesgos existentes y emergentes.