E

l 87% de los gerentes reconoce la importancia de la IA responsable (RAI, por sus siglas en inglés), según una encuesta de MIT Technology Review de 2025. Sin embargo, solo el 15% de estos mismos gerentes se sienten bien preparados para adoptar prácticas de RAI. Poco más de la mitad (52%) de las empresas cuentan con un programa de IA responsable, según datos de BCG.

En la búsqueda incesante por la supremacía en IA, las empresas tienden a destinar recursos a mejoras en IA que impulsen sus resultados financieros en lugar de a esfuerzos de IA responsable, que a menudo se consideran costosos. Pero, ¿realmente existe esta dicotomía percibida entre responsabilidad ética y rentabilidad?

Diseñar productos de IA responsable en los que confíen los consumidores

Nuestra investigación revela que las características de la IA responsable sirven como potentes diferenciadores de producto que pueden generar retornos económicos significativos. Este hallazgo insta a las empresas a replantear la asignación de recursos en el diseño de productos, especialmente al enfrentar decisiones difíciles.

Considere la paradoja personalización-privacidad, un dilema común para los gerentes de producto. Los consumidores desean experiencias personalizadas, pero dudan en compartir los datos personales que dichas experiencias requieren. ¿Las empresas deberían priorizar la personalización o la privacidad del usuario? Nuestra investigación ofrece una respuesta clara para los productos financieros basados en IA: El valor de la privacidad supera significativamente los beneficios de la personalización.

Otro dilema clave surge entre la privacidad y las capacidades del modelo. Los gerentes a menudo asumen que deben elegir entre sólidas protecciones de privacidad y funciones avanzadas de IA. El instinto de buscar capacidades de última generación es comprensible, pero enfocarse exclusivamente en ellas es una visión miope. Los modelos que priorizan la privacidad, manteniendo un desempeño “suficientemente bueno”, podrían alinearse mejor con las expectativas de los usuarios e impulsar una mayor adopción.

Otra tensión que enfrentan los gerentes de productos de IA es el equilibrio entre auditabilidad y costos. La supervisión humana puede ser costosa, ya que requiere una inversión significativa en personal, procesos y herramientas. Sin embargo, la combinación de mejores resultados, refinamiento continuo del modelo y mayor adopción por parte de los usuarios genera retornos económicos que pueden justificar la inversión.

La clave para un mejor diseño de productos de IA radica en comprender cómo se desarrollan estas compensaciones en su contexto específico.

Integrar la IA responsable en la estrategia empresarial y de marca

Hacer que las decisiones de IA responsable sean visibles y creíbles es tan importante como diseñarlas bien. Comunicar valores y prácticas es un buen punto de partida, pero no es suficiente. Para establecer credibilidad, las empresas deben ir más allá de las declaraciones y demostrar compromisos tangibles. Una forma de hacerlo es mediante validaciones de terceros, como las certificaciones ISO de IA responsable.

Del mismo modo, la incorporación de la IA responsable en el posicionamiento general de la marca refuerza la credibilidad y la diferenciación.

Las empresas deben alinearse con socios, proveedores y colaboradores que también prioricen las prácticas éticas, a fin de establecer una imagen coherente y auténtica como organización responsable en toda la cadena de valor.

La IA responsable como enfoque de gestión de riesgos y cumplimiento

Cuando las prácticas de IA responsable se integran de manera proactiva y auténtica en el núcleo de un negocio, pueden incluso servir como un amortiguador contra posibles contratiempos. Los sistemas de IA no son infalibles: los errores y fallos son casi inevitables. Sin embargo, las empresas que incorporan principios de IA responsable en sus operaciones están mucho mejor posicionadas para soportar el escrutinio.

En definitiva, apostar por un futuro que valore no solo la innovación, sino también la ética detrás de ella, tiene menos que ver con el idealismo y más con comprender la dirección de las tendencias tecnológicas y sociales. Los líderes en IA responsable de hoy podrían convertirse en los líderes del mercado de mañana, cosechando los beneficios de su visión estratégica.

E

l actual régimen de cumplimiento de los estándares de carbono no recompensa los esfuerzos sistémicos de las empresas emprendedoras, ya sean productoras de autos eléctricos, turbinas eólicas, alimentos de origen vegetal u organizaciones que utilizan su influencia social para cambiar políticas o asesorar a sus clientes sobre la reducción de emisiones.

Los estándares de carbono actuales están diseñados para evaluar la capacidad de las empresas de reducir el “inventario” de emisiones de carbono de sus operaciones directas, suministro de energía y cadena de valor (denominados “Alcance 1, 2 y 3”). Sin embargo, estos inventarios a menudo no cuentan la historia completa del trabajo climático más espectacular o valiente de una organización. De hecho, las empresas incluso pueden ser penalizadas por sobrepasar su propio presupuesto corporativo de carbono al desarrollar soluciones que ayuden al mundo a alcanzar la neutralidad de carbono.

Los marcos ambientales, sociales y de gobernanza actuales no fueron diseñados para ofrecer a las organizaciones una forma separada de discutir sus soluciones climáticas a “nivel social”. Por supuesto, las organizaciones deben reducir urgentemente su inventario de emisiones de carbono. Sin embargo, también debemos tener una forma de reconocer, incentivar y medir por separado el impacto y la influencia de las corporaciones emprendedoras que buscan reducir las emisiones más allá de sus propios límites.

Creemos que este nuevo enfoque tiene el potencial de reavivar el entusiasmo de los líderes empresariales por la acción climática. Requerirá buena voluntad e innovación en los estándares y prácticas corporativas.

Como profesionales que trabajan con algunas de las empresas más grandes del mundo y que han ayudado a desarrollar estándares climáticos globales, nos sentimos parcialmente responsables de la falta de soluciones en la gestión del carbono. El enfoque actual pasa por alto las palancas más poderosas que tienen las organizaciones para generar cambios en la sociedad, es decir, el poder de sus productos, carteras y políticas.

Recientemente, pensadores con ideas afines han propuesto enfocar las soluciones climáticas mediante la invención de nuevas categorías de inventario para agregar al “Alcance 1-3”. Sin embargo, esto corre el riesgo de mezclar el impacto a nivel social con las reducciones operativas. Mientras que los inventarios de emisiones se centran en la reducción del carbono en todos los alcances de emisiones de una empresa, proponemos una nueva vía para que las organizaciones informen sobre sus “esferas de influencia” en la sociedad. Esto puede ayudar a destacar (y recompensar) algunas de las acciones más materiales y radicales que las empresas pueden tomar hoy:

— Esfera A: Influencia del producto: Desarrollar productos o servicios que sustituyan las actividades intensivas en carbono y ayuden a los clientes a evitar o reducir las emisiones. Los vehículos eléctricos son un buen ejemplo.

— Esfera B: Influencia de la cartera: Inversiones y compras, como créditos, filantropía y financiamiento catalizador.

— Esfera C: Influencia política: Promoción de políticas (o eliminación de barreras) que permitan la transición climática.

Al incentivar los esfuerzos a nivel sistémico, podemos movilizar a algunas de las personas más creativas e influyentes dentro de las organizaciones (innovadores, diseñadores de productos, líderes financieros y genios económicos).

Preguntar a las empresas qué pueden aportar (no solo reducir) también puede resultar atractivo para los empresarios de los mercados en desarrollo. Los líderes corporativos de países con emisiones históricas insignificantes pueden estar más entusiasmados con su creciente papel en la innovación climática que por la reducción de emisiones para hacer frente a un problema que no causaron.

Reconocemos que los informes sobre la “esfera de impacto” también podrían abrir un nuevo panorama para el greenwashing (lavado verde). Las organizaciones que luchan por reducir sus emisiones pueden preferir enfatizar sus “contribuciones más amplias” para desviar la atención de sus objetivos climáticos incumplidos.

Durante mucho tiempo, hemos dicho a las empresas que son solo una parte del problema, en lugar de incentivarlas a encontrar soluciones. Los informes de esferas pueden preguntar a las organizaciones no solo qué huella dejarán, sino cuál será su legado climático.

S

i bien la ética de la IA ocupa un lugar destacado en la agenda de muchas organizaciones, traducir los principios de IA en prácticas y comportamientos resulta ser más difícil de lo que parece. ¿Qué deberían hacer los líderes para redoblar sus iniciativas de IA responsable? Identificamos cuatro pasos clave (traducir, integrar, calibrar y difundir) que los líderes pueden dar para garantizar que las prácticas de IA responsable se integren plenamente en estándares operativos más amplios.

Paso #1: Traducir los principios de alto nivel en guías prácticas

Muchas organizaciones elaboran una carta ética de la IA, pero a menudo tienen dificultades para implementar los principios de IA en sus operaciones diarias. El 79% de los trabajadores del sector tecnológico afirman necesitar recursos prácticos que les ayuden a abordar las cuestiones éticas, por lo que estos principios deben traducirse en guías prácticas.

Es un proceso que lleva tiempo. En 2021, la empresa alemana de comunicaciones Deutsche Telekom presentó las directrices de ingeniería y uso de la IA, que documentaban las mejores prácticas, métodos y consejos para incorporar los principios en los procesos de desarrollo de IA. Estas directrices proporcionaban acciones específicas a tomar antes, durante y después del lanzamiento de un proyecto de desarrollo de IA, destacando consideraciones esenciales para propietarios de empresas, gerentes de proyectos, equipos de productos y equipos operativos. Disponibles en alemán e inglés, cada directriz estaba claramente documentada y se puso a disposición de todos los empleados.

Acciones clave: Facilitar la alineación

Mantener unidos a los equipos: Los equipos digitales y de cumplimiento a menudo han tenido una relación complicada. El cumplimiento se considera un impedimento para la innovación digital, mientras que los equipos digitales son vistos como disidentes que buscan riesgos. El éxito de la alineación entre ambos suele depender de la estructura de gobernanza. En Thomson Reuters, una empresa global de contenido y tecnología, el equipo de ética trabajó en estrecha colaboración con el equipo de gobernanza de datos y modelos. Los dos equipos cubrían diferentes aspectos del mismo tema, como la forma de garantizar que los datos se utilizaran de forma responsable y segura en toda la organización.

Facilitar diálogos abiertos: Crear diálogos abiertos es tan importante como establecer un sistema de gobernanza bien estructurado.

Tomemos como ejemplo la iniciativa de Deutsche Telekom de traducir el principio de transparencia en anuncios de atención al cliente mediante chatbots de IA. El departamento de servicio expresó su preocupación sobre la posibilidad de que el cliente se desvinculara si se le saludaba con mensajes formales como: «Hola, soy el asistente de servicio digital de Deutsche Telekom». Esta preocupación dio lugar a extensas deliberaciones entre los departamentos de cumplimiento, ética y servicio, que finalmente condujeron al desarrollo de un grupo de trabajo para idear una solución adecuada.

Paso #2: Integrar consideraciones éticas en los procesos de diseño y desarrollo de IA

El siguiente paso es integrar las consideraciones éticas en la rutina de desarrollo de IA. Lamentablemente, en muchos proyectos de IA surgen problemas éticos después de la implementación. Para evitar estas situaciones, muchas organizaciones han adoptado un enfoque proactivo, abordando las cuestiones éticas durante la fase de desarrollo. Descubrimos que las organizaciones con una sólida gobernanza de datos aprovechaban sus procesos de privacidad existentes para incorporar principios éticos de IA adicionales.

Acciones clave: Navegación y soporte

Adaptarse a la relevancia operativa: Las organizaciones tienen la tarea de implementar marcos que no solo cumplan con los estándares globales, sino que también resuenen con sus realidades operativas únicas. Un estudio de 2019 identificó 106 herramientas y metodologías, y esta cifra sigue creciendo. Los líderes pueden ayudar a analizar este panorama abarrotado para garantizar que las herramientas y los marcos de IA sean integrales y relevantes desde el punto de vista operativo. Por ejemplo, cuando SwissPost, el servicio postal nacional de Suiza, se dio cuenta de que un proceso de autocertificación que estaban probando se superponía significativamente con sus requisitos de certificación ISO preexistentes, respondió desarrollando un proceso simplificado que incorporaba solo preguntas que no estaban cubiertas por la ISO.

Proporcionar apoyo continuo: El viaje no termina con la configuración inicial de barandillas éticas; requiere apoyo y supervisión continuos. Las organizaciones pueden establecer mecanismos de apoyo continuo para responder las preguntas a medida que surjan. Al configurar una cuenta de correo electrónico centralizada, Deutsche Telekom invitó a personas y equipos a enviar consultas sobre la implementación de la ética de la IA.

Paso #3: Calibrar las soluciones de ia en respuesta a las condiciones locales y a los cambios tecnológicos

En las fases de prueba y evaluación, el objetivo principal es verificar que la solución de IA cumpla con los objetivos y requisitos originales. Un aspecto esencial de la fase de calibración es garantizar que la solución siga siendo relevante para las aplicaciones del mundo real. Con el tiempo, puede producirse una divergencia entre los escenarios para los que se creó la solución de IA y las situaciones cambiantes del mundo real. Es necesario un seguimiento continuo para detectar y adaptarse a cualquier cambio.

Acciones clave: Mantener el impulso

El seguimiento y ajuste de las soluciones de IA en respuesta a las condiciones locales y a los cambios tecnológicos requiere importantes inversiones en tiempo y recursos, sobre todo en personal y en la implementación de procedimientos de «alerta roja».

Posicionar la IA responsable como impulsor de valor: Las organizaciones líderes alinean las consideraciones éticas con los objetivos comerciales. La compañía de seguros suiza Die Mobiliar ejemplifica este enfoque. En lugar de considerar la ética de la IA como un proceso engorroso lleno de listas de verificación, la empresa se centró en encontrar un equilibrio óptimo entre la estrategia empresarial, la privacidad de los datos y la ética de la IA. Para lograrlo, Die Mobiliar empleó un equipo interdisciplinario, que incluía representantes de cumplimiento, seguridad, ciencia de datos y TI, que se reunían periódicamente para explorar esta sinergia.

Aprovechar las alianzas externas: La colaboración con expertos externos, instituciones académicas y grupos del sector puede proporcionar nuevas perspectivas y conocimientos que contribuyan al ajuste de las soluciones de IA.

Paso #4: Difundir prácticas y enseñanzas al resto de la organización

En el panorama de la IA, en rápida evolución, fomentar un entorno de aprendizaje e intercambio puede mejorar la conciencia y empoderar a los empleados para que contribuyan al desarrollo responsable de la IA. Sin embargo, las organizaciones también enfrentan el desafío a corto plazo de mejorar las habilidades de la fuerza laboral en los desarrollos de IA que impactan al negocio en la actualidad. La compañía farmacéutica Bristol-Meyers-Squibb (BMS) creó una comunidad autoorganizada llamada «AI Collective». Se reunían regularmente en intervalos de 4 a 6 semanas para intercambiar perspectivas e ideas sobre cómo hacer avanzar los proyectos de IA dentro de la empresa y discutir las últimas tendencias, puntos de referencia, mejores prácticas y casos de uso interesantes.

Acciones clave: Priorizar y escalar

Realizar un análisis de las partes interesadas y priorizar las funciones: Cuando los recursos son limitados y la necesidad de un impacto inmediato es alta, centrarse en las funciones clave que más influyen en el desarrollo de la IA se vuelve crucial. Un primer paso práctico es realizar un análisis de las partes interesadas para identificar los roles con mayor impacto en el desarrollo de la IA y la aplicación ética. Al analizar su panorama de partes interesadas, SwissPost identificó a los gerentes de proyectos con capacidades analíticas como fundamentales para el éxito de sus iniciativas de IA. En consecuencia, la organización tomó la decisión estratégica de priorizar las capacitaciones en ética de la IA para estas personas clave, asegurando que quienes están más involucrados en la dirección de proyectos de IA estén equipados con el conocimiento necesario para abordar eficazmente las consideraciones éticas.

Crear un conjunto de herramientas para escalabilidad: Proporcionar recursos prácticos para ayudar a compartir prácticas de IA responsable puede lograrse mediante el desarrollo de un kit de herramientas de escalabilidad para IA responsable. La firma industrial francesa Thales creó un conjunto de herramientas adaptables y con capacidad de búsqueda que las diferentes divisiones de la organización podrían utilizar para implementar prácticas de IA responsable. Este kit de herramientas contenía información sobre prácticas de IA responsable, consejos de aplicación, material de comunicación y estudios de casos diseñados para ayudar a los equipos locales de IA.

Si bien muchas organizaciones han avanzado en el desarrollo de principios de IA, el verdadero desafío radica en incorporar estos principios en el tejido de las operaciones diarias. Los líderes, en particular aquellos con funciones no técnicas, desempeñan un papel decisivo en este proceso al abogar por recursos prácticos, fomentar una cultura que valore la IA ética y garantizar que las prácticas responsables de IA sean un aspecto fundamental de la toma de decisiones.