A

ntes de que la IA generativa irrumpiera en escena a finales de 2022, las empresas seguían un enfoque más o menos estándar para gestionar los riesgos que planteaba la IA: desarrollaban programas de riesgo ético en materia de IA (también llamados programas de IA responsable o de gobernanza de la IA).

Estos programas eran diseñados por ejecutivos y se enfocaban principalmente en redactar e implementar políticas de IA a nivel empresarial, destinadas a explicar cómo la organización cumpliría con sus valores éticos en materia de IA (o principios o pilares, como también se les conoce). Cuando apareció la IA generativa, las organizaciones actualizaron sus programas para adaptarse a la nueva tecnología. Ahora que los agentes de IA están ganando terreno, es probable que la mayoría intente actualizarlos de nuevo.

Eso sería un error. El enfoque estándar de la IA responsable está fundamentalmente roto.

No llego a esta conclusión a la ligera. Es el resultado de observar cómo ha evolucionado el panorama de la IA de tal forma que se ha creado un escenario de riesgos realmente complejo.

El enfoque estándar es demasiado lento, ambiguo y difícil de comunicar. En lugar de centrarse en valores y políticas, las empresas estarían mejor si se enfocaran en sus peores escenarios posibles: sus problemas éticos relacionados con la IA. Esto se debe a que este enfoque les permite aplicar una metodología novedosa y de rápida implementación que funciona para todo, desde IA limitada hasta la gestión de agentes de IA.

Durante el último año, he desarrollado un marco de trabajo que puede ponerse a prueba y escalarse rápidamente, y que además puede integrarse con programas existentes de gestión de riesgos de IA. He aquí cómo funciona.

El marco de trabajo

El “Ethical Nightmare Challenge” (ENC) plantea tres preguntas:

— ¿Cuáles son los problemas éticos de su organización en relación con la IA?

— ¿Qué recursos desarrollará para evitar esos problemas?

— ¿Cómo capacitará a su gente para utilizar esos recursos de manera efectiva?

Implementación del marco de trabajo

Una vez identificados sus problemas, es momento de pasar a la acción. Esto se logra creando equipos de Ethical Nightmare Challenge. Estos equipos pueden crearse en cualquier nivel de la organización y en cualquier momento, y son pequeños (por ejemplo, de cinco a ocho personas) y multifuncionales (con al menos un perfil tecnológico). Lo más importante es que deben ser ágiles.

La misión central de cada equipo ENC es trabajar en torno a estas tres preguntas. Estos equipos participan en la resolución colaborativa de problemas relacionados con los posibles problemas en materia de IA que han identificado. Cuando las tres preguntas se repiten de manera consistente en todos los niveles de una organización (juntas directivas, alta dirección, departamentos, equipos de proyecto y colaboradores individuales), se crea un lenguaje compartido que hace posible la comunicación y la colaboración entre todos esos niveles.

La naturaleza multifuncional de estos equipos es esencial para su éxito. Un científico de datos puede identificar fuentes técnicas de posibles problemas que un especialista en marketing jamás vería. Un profesional de marketing entiende el comportamiento del consumidor de maneras que permiten identificar ciertos riesgos técnicos que los ingenieros podrían pasar por alto. Un diseñador de producto puede detectar formas en que las cosas podrían salir mal y que resultarían invisibles para el área legal.

Integración del marco de trabajo

Las políticas existentes, los comités de riesgo y los marcos de gobernanza no desaparecen bajo el enfoque ENC: se convierten en recursos de los que los equipos ENC pueden apoyarse.

Un comité de riesgos de IA ya existente, en lugar de ser la primera línea de defensa para cada caso de uso de IA de alto riesgo, se convierte en una instancia excepcional, convocada cuando un equipo ENC a nivel de proyecto ha identificado un problema que no puede mitigar adecuadamente, o cuando el nivel de riesgo es lo suficientemente alto como para justificar una revisión de alto nivel. Esto es operativamente crucial: a medida que aumenta la adopción de IA, también aumentan los casos de alto riesgo, convirtiendo al comité de riesgo en un cuello de botella para la innovación mientras los equipos esperan ser evaluados y recibir dirección. La solución es crear una primera línea de defensa más capaz mediante la capacitación ENC.

E

l 87% de los gerentes reconoce la importancia de la IA responsable (RAI, por sus siglas en inglés), según una encuesta de MIT Technology Review de 2025. Sin embargo, solo el 15% de estos mismos gerentes se sienten bien preparados para adoptar prácticas de RAI. Poco más de la mitad (52%) de las empresas cuentan con un programa de IA responsable, según datos de BCG.

En la búsqueda incesante por la supremacía en IA, las empresas tienden a destinar recursos a mejoras en IA que impulsen sus resultados financieros en lugar de a esfuerzos de IA responsable, que a menudo se consideran costosos. Pero, ¿realmente existe esta dicotomía percibida entre responsabilidad ética y rentabilidad?

Diseñar productos de IA responsable en los que confíen los consumidores

Nuestra investigación revela que las características de la IA responsable sirven como potentes diferenciadores de producto que pueden generar retornos económicos significativos. Este hallazgo insta a las empresas a replantear la asignación de recursos en el diseño de productos, especialmente al enfrentar decisiones difíciles.

Considere la paradoja personalización-privacidad, un dilema común para los gerentes de producto. Los consumidores desean experiencias personalizadas, pero dudan en compartir los datos personales que dichas experiencias requieren. ¿Las empresas deberían priorizar la personalización o la privacidad del usuario? Nuestra investigación ofrece una respuesta clara para los productos financieros basados en IA: El valor de la privacidad supera significativamente los beneficios de la personalización.

Otro dilema clave surge entre la privacidad y las capacidades del modelo. Los gerentes a menudo asumen que deben elegir entre sólidas protecciones de privacidad y funciones avanzadas de IA. El instinto de buscar capacidades de última generación es comprensible, pero enfocarse exclusivamente en ellas es una visión miope. Los modelos que priorizan la privacidad, manteniendo un desempeño “suficientemente bueno”, podrían alinearse mejor con las expectativas de los usuarios e impulsar una mayor adopción.

Otra tensión que enfrentan los gerentes de productos de IA es el equilibrio entre auditabilidad y costos. La supervisión humana puede ser costosa, ya que requiere una inversión significativa en personal, procesos y herramientas. Sin embargo, la combinación de mejores resultados, refinamiento continuo del modelo y mayor adopción por parte de los usuarios genera retornos económicos que pueden justificar la inversión.

La clave para un mejor diseño de productos de IA radica en comprender cómo se desarrollan estas compensaciones en su contexto específico.

Integrar la IA responsable en la estrategia empresarial y de marca

Hacer que las decisiones de IA responsable sean visibles y creíbles es tan importante como diseñarlas bien. Comunicar valores y prácticas es un buen punto de partida, pero no es suficiente. Para establecer credibilidad, las empresas deben ir más allá de las declaraciones y demostrar compromisos tangibles. Una forma de hacerlo es mediante validaciones de terceros, como las certificaciones ISO de IA responsable.

Del mismo modo, la incorporación de la IA responsable en el posicionamiento general de la marca refuerza la credibilidad y la diferenciación.

Las empresas deben alinearse con socios, proveedores y colaboradores que también prioricen las prácticas éticas, a fin de establecer una imagen coherente y auténtica como organización responsable en toda la cadena de valor.

La IA responsable como enfoque de gestión de riesgos y cumplimiento

Cuando las prácticas de IA responsable se integran de manera proactiva y auténtica en el núcleo de un negocio, pueden incluso servir como un amortiguador contra posibles contratiempos. Los sistemas de IA no son infalibles: los errores y fallos son casi inevitables. Sin embargo, las empresas que incorporan principios de IA responsable en sus operaciones están mucho mejor posicionadas para soportar el escrutinio.

En definitiva, apostar por un futuro que valore no solo la innovación, sino también la ética detrás de ella, tiene menos que ver con el idealismo y más con comprender la dirección de las tendencias tecnológicas y sociales. Los líderes en IA responsable de hoy podrían convertirse en los líderes del mercado de mañana, cosechando los beneficios de su visión estratégica.

S

i bien la ética de la IA ocupa un lugar destacado en la agenda de muchas organizaciones, traducir los principios de IA en prácticas y comportamientos resulta ser más difícil de lo que parece. ¿Qué deberían hacer los líderes para redoblar sus iniciativas de IA responsable? Identificamos cuatro pasos clave (traducir, integrar, calibrar y difundir) que los líderes pueden dar para garantizar que las prácticas de IA responsable se integren plenamente en estándares operativos más amplios.

Paso #1: Traducir los principios de alto nivel en guías prácticas

Muchas organizaciones elaboran una carta ética de la IA, pero a menudo tienen dificultades para implementar los principios de IA en sus operaciones diarias. El 79% de los trabajadores del sector tecnológico afirman necesitar recursos prácticos que les ayuden a abordar las cuestiones éticas, por lo que estos principios deben traducirse en guías prácticas.

Es un proceso que lleva tiempo. En 2021, la empresa alemana de comunicaciones Deutsche Telekom presentó las directrices de ingeniería y uso de la IA, que documentaban las mejores prácticas, métodos y consejos para incorporar los principios en los procesos de desarrollo de IA. Estas directrices proporcionaban acciones específicas a tomar antes, durante y después del lanzamiento de un proyecto de desarrollo de IA, destacando consideraciones esenciales para propietarios de empresas, gerentes de proyectos, equipos de productos y equipos operativos. Disponibles en alemán e inglés, cada directriz estaba claramente documentada y se puso a disposición de todos los empleados.

Acciones clave: Facilitar la alineación

Mantener unidos a los equipos: Los equipos digitales y de cumplimiento a menudo han tenido una relación complicada. El cumplimiento se considera un impedimento para la innovación digital, mientras que los equipos digitales son vistos como disidentes que buscan riesgos. El éxito de la alineación entre ambos suele depender de la estructura de gobernanza. En Thomson Reuters, una empresa global de contenido y tecnología, el equipo de ética trabajó en estrecha colaboración con el equipo de gobernanza de datos y modelos. Los dos equipos cubrían diferentes aspectos del mismo tema, como la forma de garantizar que los datos se utilizaran de forma responsable y segura en toda la organización.

Facilitar diálogos abiertos: Crear diálogos abiertos es tan importante como establecer un sistema de gobernanza bien estructurado.

Tomemos como ejemplo la iniciativa de Deutsche Telekom de traducir el principio de transparencia en anuncios de atención al cliente mediante chatbots de IA. El departamento de servicio expresó su preocupación sobre la posibilidad de que el cliente se desvinculara si se le saludaba con mensajes formales como: «Hola, soy el asistente de servicio digital de Deutsche Telekom». Esta preocupación dio lugar a extensas deliberaciones entre los departamentos de cumplimiento, ética y servicio, que finalmente condujeron al desarrollo de un grupo de trabajo para idear una solución adecuada.

Paso #2: Integrar consideraciones éticas en los procesos de diseño y desarrollo de IA

El siguiente paso es integrar las consideraciones éticas en la rutina de desarrollo de IA. Lamentablemente, en muchos proyectos de IA surgen problemas éticos después de la implementación. Para evitar estas situaciones, muchas organizaciones han adoptado un enfoque proactivo, abordando las cuestiones éticas durante la fase de desarrollo. Descubrimos que las organizaciones con una sólida gobernanza de datos aprovechaban sus procesos de privacidad existentes para incorporar principios éticos de IA adicionales.

Acciones clave: Navegación y soporte

Adaptarse a la relevancia operativa: Las organizaciones tienen la tarea de implementar marcos que no solo cumplan con los estándares globales, sino que también resuenen con sus realidades operativas únicas. Un estudio de 2019 identificó 106 herramientas y metodologías, y esta cifra sigue creciendo. Los líderes pueden ayudar a analizar este panorama abarrotado para garantizar que las herramientas y los marcos de IA sean integrales y relevantes desde el punto de vista operativo. Por ejemplo, cuando SwissPost, el servicio postal nacional de Suiza, se dio cuenta de que un proceso de autocertificación que estaban probando se superponía significativamente con sus requisitos de certificación ISO preexistentes, respondió desarrollando un proceso simplificado que incorporaba solo preguntas que no estaban cubiertas por la ISO.

Proporcionar apoyo continuo: El viaje no termina con la configuración inicial de barandillas éticas; requiere apoyo y supervisión continuos. Las organizaciones pueden establecer mecanismos de apoyo continuo para responder las preguntas a medida que surjan. Al configurar una cuenta de correo electrónico centralizada, Deutsche Telekom invitó a personas y equipos a enviar consultas sobre la implementación de la ética de la IA.

Paso #3: Calibrar las soluciones de ia en respuesta a las condiciones locales y a los cambios tecnológicos

En las fases de prueba y evaluación, el objetivo principal es verificar que la solución de IA cumpla con los objetivos y requisitos originales. Un aspecto esencial de la fase de calibración es garantizar que la solución siga siendo relevante para las aplicaciones del mundo real. Con el tiempo, puede producirse una divergencia entre los escenarios para los que se creó la solución de IA y las situaciones cambiantes del mundo real. Es necesario un seguimiento continuo para detectar y adaptarse a cualquier cambio.

Acciones clave: Mantener el impulso

El seguimiento y ajuste de las soluciones de IA en respuesta a las condiciones locales y a los cambios tecnológicos requiere importantes inversiones en tiempo y recursos, sobre todo en personal y en la implementación de procedimientos de «alerta roja».

Posicionar la IA responsable como impulsor de valor: Las organizaciones líderes alinean las consideraciones éticas con los objetivos comerciales. La compañía de seguros suiza Die Mobiliar ejemplifica este enfoque. En lugar de considerar la ética de la IA como un proceso engorroso lleno de listas de verificación, la empresa se centró en encontrar un equilibrio óptimo entre la estrategia empresarial, la privacidad de los datos y la ética de la IA. Para lograrlo, Die Mobiliar empleó un equipo interdisciplinario, que incluía representantes de cumplimiento, seguridad, ciencia de datos y TI, que se reunían periódicamente para explorar esta sinergia.

Aprovechar las alianzas externas: La colaboración con expertos externos, instituciones académicas y grupos del sector puede proporcionar nuevas perspectivas y conocimientos que contribuyan al ajuste de las soluciones de IA.

Paso #4: Difundir prácticas y enseñanzas al resto de la organización

En el panorama de la IA, en rápida evolución, fomentar un entorno de aprendizaje e intercambio puede mejorar la conciencia y empoderar a los empleados para que contribuyan al desarrollo responsable de la IA. Sin embargo, las organizaciones también enfrentan el desafío a corto plazo de mejorar las habilidades de la fuerza laboral en los desarrollos de IA que impactan al negocio en la actualidad. La compañía farmacéutica Bristol-Meyers-Squibb (BMS) creó una comunidad autoorganizada llamada «AI Collective». Se reunían regularmente en intervalos de 4 a 6 semanas para intercambiar perspectivas e ideas sobre cómo hacer avanzar los proyectos de IA dentro de la empresa y discutir las últimas tendencias, puntos de referencia, mejores prácticas y casos de uso interesantes.

Acciones clave: Priorizar y escalar

Realizar un análisis de las partes interesadas y priorizar las funciones: Cuando los recursos son limitados y la necesidad de un impacto inmediato es alta, centrarse en las funciones clave que más influyen en el desarrollo de la IA se vuelve crucial. Un primer paso práctico es realizar un análisis de las partes interesadas para identificar los roles con mayor impacto en el desarrollo de la IA y la aplicación ética. Al analizar su panorama de partes interesadas, SwissPost identificó a los gerentes de proyectos con capacidades analíticas como fundamentales para el éxito de sus iniciativas de IA. En consecuencia, la organización tomó la decisión estratégica de priorizar las capacitaciones en ética de la IA para estas personas clave, asegurando que quienes están más involucrados en la dirección de proyectos de IA estén equipados con el conocimiento necesario para abordar eficazmente las consideraciones éticas.

Crear un conjunto de herramientas para escalabilidad: Proporcionar recursos prácticos para ayudar a compartir prácticas de IA responsable puede lograrse mediante el desarrollo de un kit de herramientas de escalabilidad para IA responsable. La firma industrial francesa Thales creó un conjunto de herramientas adaptables y con capacidad de búsqueda que las diferentes divisiones de la organización podrían utilizar para implementar prácticas de IA responsable. Este kit de herramientas contenía información sobre prácticas de IA responsable, consejos de aplicación, material de comunicación y estudios de casos diseñados para ayudar a los equipos locales de IA.

Si bien muchas organizaciones han avanzado en el desarrollo de principios de IA, el verdadero desafío radica en incorporar estos principios en el tejido de las operaciones diarias. Los líderes, en particular aquellos con funciones no técnicas, desempeñan un papel decisivo en este proceso al abogar por recursos prácticos, fomentar una cultura que valore la IA ética y garantizar que las prácticas responsables de IA sean un aspecto fundamental de la toma de decisiones.