A

medida que las organizaciones integran rápidamente la IA en sus flujos de trabajo, los líderes están descubriendo que los desafíos que conlleva no son solo técnicos, sino que también tienen que ver con la dinámica de los equipos.

Hemos comprobado que comprender la dinámica de los equipos humano-IA es crucial no solo desde la perspectiva de la teoría y la práctica organizacional, sino también para prevenir errores costosos y evitar la erosión de la confianza dentro del equipo.

Aplicar los principios de seguridad psicológica a la integración de la IA

La solución no consiste en abandonar la IA ni en aceptar estas limitaciones como inevitables. En su lugar, los líderes deben aplicar principios probados del comportamiento organizacional a la integración de la IA y a la gestión del cambio asociada. Esto exige tratar la integración de la IA fundamentalmente como un desafío de aprendizaje del equipo, no solo como una implementación tecnológica. He aquí cómo:

Reencuadre la integración de la ia como un proceso de aprendizaje, no de ejecución.

Así como la seguridad psicológica se construye al plantear el trabajo como una tarea de aprendizaje en lugar de una tarea de ejecución, una integración exitosa de la IA requiere posicionar su despliegue como un proceso continuo de experimentación con aprendizaje práctico. Los líderes deben comunicar que esperan que el equipo descubra las limitaciones de la IA y que, como en cualquier nueva frontera, esto constituye información valiosa, no un fracaso. Los primeros “errores” con la IA deben tratarse como oportunidades de aprendizaje que ayuden al equipo a calibrar expectativas y desarrollar mejores protocolos de colaboración.

Modele falibilidad y curiosidad.

Una de las formas en que los líderes construyen seguridad psicológica es reconociendo su propia falibilidad. En el contexto de la IA, esto implica admitir abiertamente cuando no comprende los resultados que produce o cuando estos parecen cuestionables. Los líderes deben fomentar un uso responsable de la IA y compartir sus propios errores con ella y lo que aprendieron, demostrando que cuestionar a la IA no solo es aceptable, sino esperado. Asimismo, deben modelar curiosidad sobre cómo y por qué funciona la IA (y cómo evolucionará) para comprender mejor sus desventajas y aprovechar mejor sus beneficios. Considere instituir rituales de aprendizaje, como “revisiones posteriores a la acción de la IA”, donde los equipos analicen qué funcionó, qué no y por qué.

Establezca protocolos de fallas inteligentes.

Con base en los principios del libro de Amy, “Right Kind of Wrong”, los equipos deben distinguir entre distintos tipos de fallas relacionadas con la IA. Las “fallas inteligentes de la IA” (como probarla en nuevos dominios o llevar sus capacidades al límite de forma controlada y con bajo riesgo) deben celebrarse como oportunidades de aprendizaje. Las “fallas básicas de la IA” (como no verificar resultados en contextos donde sus limitaciones ya son conocidas) deben prevenirse mediante mejores procesos.

Refuerce la conexión humana.

Tal vez lo más importante es que una integración exitosa de la IA requiere preservar deliberadamente la conexión humana. A medida que la IA asuma más tareas rutinarias, el trabajo humano restante será más complejo e interdependiente. Esto hace que la seguridad psicológica sea más relevante, no menos. Los líderes deben crear espacios explícitos para conversaciones exclusivamente humanas sobre la dinámica del equipo y los desafíos de integrar la IA. Es fundamental reconocer y discutir las inquietudes de los miembros del equipo respecto al posible reemplazo del valor humano, enfatizando cómo la IA puede potenciar (y no disminuir) la experiencia humana.

Permita que el equipo prospere.

L

os líderes de todo el mundo se preguntan (con razón) cómo la IA generativa puede beneficiar a sus empresas. Sin embargo, por impresionante que sea, es solo una de muchas técnicas avanzadas de ciencia y análisis de datos. Si bien el mundo se centra en la IA generativa, un mejor enfoque es comprender cómo utilizar la variedad de herramientas de análisis disponibles para abordar las necesidades de su empresa. ¿Qué herramienta de análisis se ajusta al problema que está tratando de resolver? ¿Y cómo evitar elegir la incorrecta? No es necesario que conozca detalladamente cada herramienta de análisis a su disposición, pero sí lo suficiente como para imaginar lo que es posible y hacer las preguntas correctas a los expertos técnicos.

Comience con el problema, no con la tecnología.

Las cuatro categorías de la analítica avanzada

Existen muchas técnicas de IA y análisis avanzados, y la lista crece con cada nuevo comunicado. Como líder, no necesita conocer las complejidades de cada técnica analítica; para eso tiene expertos técnicos. Sin embargo, comprender estas cuatro categorías puede ayudarlo a diferenciarse, hacer las preguntas correctas y ganar confianza.

1. IA generativa

La IA generativa crea nuevos datos, imágenes, videos, textos o sonidos que son similares, pero no idénticos a los datos existentes. ChatGPT es un ejemplo, al igual que Midjourney (generación de imágenes), Synthesia (videos a partir de texto) y Cresta (entrenamiento en tiempo real para agentes de call centers). Los creadores de productos existentes, como Adobe, Shopify, Canva y Autodesk, están incorporando funciones de IA generativa en sus ofertas. Estos algoritmos resumen materiales, responden preguntas o redactan artículos desde cero, lo cual beneficia a áreas como la comunicación de marketing y el servicio al cliente. Además, ayudan a comprender rápidamente nuevos documentos, como regulaciones, informes financieros o investigaciones médicas. Sin embargo, también pueden generar datos sesgados o de baja calidad (denominados “alucinaciones”) y requieren enormes cantidades de potencia informática y datos.

2. Aprendizaje profundo tradicional

Las técnicas de aprendizaje profundo procesan grandes volúmenes de datos complejos para aprender patrones y relaciones. Pueden clasificar, por ejemplo, si se compra algo o no, si un préstamo es seguro o riesgoso, si un tejido es canceroso o benigno. Pueden optimizar, por ejemplo, ajustando las líneas de producción o reduciendo el consumo de energía. Sin embargo, para aprender, también requieren datos con clasificaciones ya conocidas. Además, los resultados de los modelos son difíciles de explicar, lo que significa que las empresas no pueden decir a los clientes o a los reguladores el porqué de una predicción.

3. Econometría

En comparación con la complejidad y el costo del aprendizaje automático, las técnicas estadísticas tradicionales pueden ofrecer resultados igualmente buenos a un costo mucho menor. La rica historia de la econometría ofrece herramientas poderosas para probar mecanismos teóricos y comprender relaciones causales a partir de datos observacionales o experimentos. Un gerente puede determinar cuánto influye cada variable en un resultado y comprender la magnitud de las relaciones causales. Además, los modelos son altamente repetibles, proporcionando siempre las mismas respuestas a las mismas entradas. Sin embargo, los modelos econométricos suelen requerir supuestos sobre las relaciones y las distribuciones estadísticas subyacentes.

4. Automatización basada en reglas

Los primeros modelos de IA se basaban en reglas del tipo “si-entonces”, y siguen siendo frecuentes y valiosos. Los sistemas basados ​​en reglas son sencillos, comprensibles, interpretables y transparentes. Son adecuados para problemas bien comprendidos, como la implementación de normativas establecidas (por ejemplo, leyes fiscales). Sin embargo, su creación puede requerir una cantidad significativa de experiencia en el área. También pueden ser inflexibles, no adaptarse a los cambios de contexto y no dar respuestas a escenarios no previstos por los diseñadores.

Cada uno de estos métodos es útil en diferentes situaciones, y a menudo en combinación. La clave está en saber cuándo utilizar (y no utilizar) cada uno.

Cómo elegir: Las cinco preguntas que debe hacerse

Cada proceso y decisión es un candidato potencial para nuevos enfoques de analítica avanzada. Pero el contexto es importante. A continuación, ofrecemos cinco preguntas que puede hacer sobre las limitaciones de la IA.

1. ¿Cuál es el costo de equivocarse?

La IA generativa es útil para primeros borradores y respuestas “suficientemente cercanas”. ¿Su problema puede tolerar una precisión inferior a la excelente? ¿El costo del error exige un enfoque diferente? ¿O puede utilizar un enfoque híbrido en el que las computadoras identifiquen posibles diagnósticos médicos u objetivos militares y los humanos tomen la decisión final?

2. ¿Necesita explicar las decisiones que toma su modelo?

Los algoritmos de aprendizaje automático, especialmente los basados ​​en el aprendizaje profundo, pueden brindar respuestas precisas, pero sus modelos proporcionan poca información sobre el por qué. Por otro lado, los modelos econométricos pueden mostrar cómo las variables influyen en las decisiones, pero pueden carecer de la precisión que ofrecen los modelos más grandes. ¿Necesita saber por qué un modelo hace lo que hace? ¿O una buena respuesta es suficiente?

3. ¿Sus modelos necesitan generar las mismas respuestas todo el tiempo?

Por defecto, la IA generativa genera respuestas diferentes todo el tiempo. Los modelos econométricos y basados ​​en reglas proporcionan las mismas respuestas para las mismas entradas, pero pueden volverse obsoletos a medida que cambian las condiciones. La mayoría de los modelos de aprendizaje automático ofrecen respuestas repetibles, pero si constantemente se actualizan sus datos de entrenamiento, esas respuestas pueden cambiar con el tiempo.

4. ¿Sus datos tienen una fuente confiable?

Sin una buena fuente de verdad, una compleja red neuronal de aprendizaje profundo multicapa puede no ser mejor que lanzar una moneda al aire. ¿Tiene suficientes datos bien etiquetados? Si no es así, ¿tiene mejores fuentes de verdad para clasificaciones menos específicas (por ejemplo, identificar un “animal parecido a un caballo”, en lugar de distinguir entre caballos, burros y camellos)? Los humanos pueden mejorar estas predicciones, ayudando a que los sistemas se vuelvan cada vez más inteligentes mediante retroalimentación de refuerzo. Sin embargo, sin un punto de partida adecuado, los humanos pueden agotarse rápidamente al tratar de ayudar a las IA novatas que, en teoría, deberían estar ayudándolos a ellos.

5. ¿Sus datos de entrenamiento reflejan las condiciones en las que operará?

Aunque los algoritmos de IA modernos pueden descubrir patrones en los datos que las técnicas anteriores pueden pasar por alto, el patrón debe ser un patrón real. Y debe provenir de todo el conjunto de contextos en los que opera. ¿Tiene datos de inversión de épocas buenas y malas? ¿Datos médicos de hombres y mujeres, y de diferentes etnias?

Si bien debe tener cuidado con la calidad de los datos que utiliza, no es necesario que sean perfectos. Dependiendo de los riesgos y limitaciones del problema, puede mejorar un modelo a través de la retroalimentación.

El mundo de la IA avanza rápidamente, pero las organizaciones cambian mucho más lentamente. Lo que funciona en un laboratorio puede no ser adecuado para su empresa en este momento. Si sabe hacer las preguntas correctas, podrá tomar mejores decisiones, independientemente de la velocidad con la que cambie la tecnología. Puede trabajar con sus expertos técnicos para utilizar la herramienta adecuada para el trabajo adecuado. De este modo, cada solución de hoy se convertirá en la base para generar innovaciones futuras.