A

unque las empresas invierten grandes recursos en IA generativa, las ganancias de productividad resultantes parecen verse neutralizadas por la competencia, ya que se trasladan a los clientes o proveedores en lugar de quedarse en manos de las empresas (una señal temprana de la mercantilización). Por lo tanto, los datos sugieren que los beneficios de la IA generativa no residirán en utilizar la tecnología simplemente para realizar las actividades existentes de forma más rápida o eficiente.

Más bien, los líderes empresariales que buscan aprovechar la IA generativa para obtener ventaja deberían enfocarse en otro impacto de las nuevas tecnologías: la apertura de nuevas fuentes de valor.

Al reconocer los cambios que la IA generativa impulsará en el mercado en general, los líderes pueden reposicionar a su empresa como un nodo valioso dentro de este ecosistema emergente. Tres estrategias ilustran cómo este desarrollo puede impulsar cambios en las fuentes de valor.

1. El rediseñador: Replantear las ofertas para adaptarlas a las decisiones impulsadas por la IA generativa

Dado que las decisiones se basan cada vez más en agentes de IA (y es posible que, en un futuro próximo, estos las tomen directamente), las empresas deben rediseñar sus ofertas para que puedan ser procesadas por máquinas. Esto implica revisar la forma en que se proporciona la información, por ejemplo, ofreciendo datos estandarizados sobre las características y la compatibilidad de los productos, y permitiendo que los agentes interactúen directamente con sus ofertas.

Este nuevo enfoque complementará las estrategias de marketing tradicionales centradas en la percepción humana, las cuales pueden perder efectividad a medida que los agentes se basan en datos objetivos y verificables en lugar de la confianza emocional o el reconocimiento de marca.

2. El supervisor: Validar la precisión de la IA generativa

A medida que los modelos de IA generativa y los agentes autónomos se multiplican y comienzan a actuar como actores económicos por derecho propio, surge una necesidad creciente de supervisión adecuada para aumentar la credibilidad y garantizar la confiabilidad.

Esta es una nueva fricción que las empresas pueden convertir en oportunidad, por ejemplo, comercializando capacidades que ya utilizan internamente. Mastercard Decision Intelligence ofrece interfaces de programación de aplicaciones para la evaluación del riesgo de fraude que ayudan a los agentes de pago a decidir cuándo aprobar o rechazar una transacción. Este enfoque de “cumplimiento como servicio” convierte la experiencia adquirida en verificación y regulación en una nueva fuente de ingresos. De manera similar, NewsGuard, que evalúa a los medios con base en su confiabilidad, credibilidad y posibles conflictos de interés, ha licenciado su tecnología a proveedores de LLM, quienes la utilizan para permitir que sus modelos puedan seleccionar fuentes adecuadas y autocorregir la información falsa.

En un sentido más amplio, cualquier empresa que disponga de datos propios y verificados (como resultados de ensayos clínicos, análisis financieros o manuales de ingeniería) podría transformar ese conocimiento en un servicio de validación para los modelos de lenguaje de gran tamaño, garantizando así que el contenido generado sea conforme a las normas y preciso.

3. El proveedor: Suministrar insumos para la IA generativa

Los modelos de IA generativa también necesitan insumos para su entrenamiento (una necesidad creciente, ya que se prevé que los datos de texto creados por humanos disponibles públicamente se agoten para 2028), así como acceso a datos que les permitan responder consultas en tiempo real.

La necesidad de contar con fuentes seleccionadas y de alta calidad (en particular conocimientos especializados en ámbitos específicos en los que los desarrolladores de modelos deseen que sus LLM tengan experiencia) está abriendo las puertas a otro posible modelo de negocio para las empresas ya establecidas. Por ejemplo, Thomson Reuters concede licencias para que sus noticias y datos de mercado en tiempo real se incorporen a los flujos de trabajo de los LLM, mientras que LexisNexis proporciona las ontologías legales estructuradas y la jurisprudencia verificada de las que dependen los LLM especializados en el ámbito jurídico.

Las estrategias anteriores no son exhaustivas y no aplicarán a todas las organizaciones. Los líderes pueden identificar las más valiosas para su empresa en la era de la IA generativa haciéndose las siguientes preguntas:

— ¿Cuáles de nuestros activos o capacidades diferenciadoras actuales corren el riesgo de convertirse en productos genéricos debido a la IA generativa?

— ¿Qué nuevos obstáculos está provocando la tecnología de IA generativa en nuestros mercados o para nuestros clientes? ¿Resolverlos representa una oportunidad de valor?

Al abordar estas cuestiones de forma proactiva, los líderes pueden identificar qué estrategias corren el riesgo de convertirse en productos básicos y cómo conseguir una ventaja competitiva duradera.

S

i bien la ética de la IA ocupa un lugar destacado en la agenda de muchas organizaciones, traducir los principios de IA en prácticas y comportamientos resulta ser más difícil de lo que parece. ¿Qué deberían hacer los líderes para redoblar sus iniciativas de IA responsable? Identificamos cuatro pasos clave (traducir, integrar, calibrar y difundir) que los líderes pueden dar para garantizar que las prácticas de IA responsable se integren plenamente en estándares operativos más amplios.

Paso #1: Traducir los principios de alto nivel en guías prácticas

Muchas organizaciones elaboran una carta ética de la IA, pero a menudo tienen dificultades para implementar los principios de IA en sus operaciones diarias. El 79% de los trabajadores del sector tecnológico afirman necesitar recursos prácticos que les ayuden a abordar las cuestiones éticas, por lo que estos principios deben traducirse en guías prácticas.

Es un proceso que lleva tiempo. En 2021, la empresa alemana de comunicaciones Deutsche Telekom presentó las directrices de ingeniería y uso de la IA, que documentaban las mejores prácticas, métodos y consejos para incorporar los principios en los procesos de desarrollo de IA. Estas directrices proporcionaban acciones específicas a tomar antes, durante y después del lanzamiento de un proyecto de desarrollo de IA, destacando consideraciones esenciales para propietarios de empresas, gerentes de proyectos, equipos de productos y equipos operativos. Disponibles en alemán e inglés, cada directriz estaba claramente documentada y se puso a disposición de todos los empleados.

Acciones clave: Facilitar la alineación

Mantener unidos a los equipos: Los equipos digitales y de cumplimiento a menudo han tenido una relación complicada. El cumplimiento se considera un impedimento para la innovación digital, mientras que los equipos digitales son vistos como disidentes que buscan riesgos. El éxito de la alineación entre ambos suele depender de la estructura de gobernanza. En Thomson Reuters, una empresa global de contenido y tecnología, el equipo de ética trabajó en estrecha colaboración con el equipo de gobernanza de datos y modelos. Los dos equipos cubrían diferentes aspectos del mismo tema, como la forma de garantizar que los datos se utilizaran de forma responsable y segura en toda la organización.

Facilitar diálogos abiertos: Crear diálogos abiertos es tan importante como establecer un sistema de gobernanza bien estructurado.

Tomemos como ejemplo la iniciativa de Deutsche Telekom de traducir el principio de transparencia en anuncios de atención al cliente mediante chatbots de IA. El departamento de servicio expresó su preocupación sobre la posibilidad de que el cliente se desvinculara si se le saludaba con mensajes formales como: «Hola, soy el asistente de servicio digital de Deutsche Telekom». Esta preocupación dio lugar a extensas deliberaciones entre los departamentos de cumplimiento, ética y servicio, que finalmente condujeron al desarrollo de un grupo de trabajo para idear una solución adecuada.

Paso #2: Integrar consideraciones éticas en los procesos de diseño y desarrollo de IA

El siguiente paso es integrar las consideraciones éticas en la rutina de desarrollo de IA. Lamentablemente, en muchos proyectos de IA surgen problemas éticos después de la implementación. Para evitar estas situaciones, muchas organizaciones han adoptado un enfoque proactivo, abordando las cuestiones éticas durante la fase de desarrollo. Descubrimos que las organizaciones con una sólida gobernanza de datos aprovechaban sus procesos de privacidad existentes para incorporar principios éticos de IA adicionales.

Acciones clave: Navegación y soporte

Adaptarse a la relevancia operativa: Las organizaciones tienen la tarea de implementar marcos que no solo cumplan con los estándares globales, sino que también resuenen con sus realidades operativas únicas. Un estudio de 2019 identificó 106 herramientas y metodologías, y esta cifra sigue creciendo. Los líderes pueden ayudar a analizar este panorama abarrotado para garantizar que las herramientas y los marcos de IA sean integrales y relevantes desde el punto de vista operativo. Por ejemplo, cuando SwissPost, el servicio postal nacional de Suiza, se dio cuenta de que un proceso de autocertificación que estaban probando se superponía significativamente con sus requisitos de certificación ISO preexistentes, respondió desarrollando un proceso simplificado que incorporaba solo preguntas que no estaban cubiertas por la ISO.

Proporcionar apoyo continuo: El viaje no termina con la configuración inicial de barandillas éticas; requiere apoyo y supervisión continuos. Las organizaciones pueden establecer mecanismos de apoyo continuo para responder las preguntas a medida que surjan. Al configurar una cuenta de correo electrónico centralizada, Deutsche Telekom invitó a personas y equipos a enviar consultas sobre la implementación de la ética de la IA.

Paso #3: Calibrar las soluciones de ia en respuesta a las condiciones locales y a los cambios tecnológicos

En las fases de prueba y evaluación, el objetivo principal es verificar que la solución de IA cumpla con los objetivos y requisitos originales. Un aspecto esencial de la fase de calibración es garantizar que la solución siga siendo relevante para las aplicaciones del mundo real. Con el tiempo, puede producirse una divergencia entre los escenarios para los que se creó la solución de IA y las situaciones cambiantes del mundo real. Es necesario un seguimiento continuo para detectar y adaptarse a cualquier cambio.

Acciones clave: Mantener el impulso

El seguimiento y ajuste de las soluciones de IA en respuesta a las condiciones locales y a los cambios tecnológicos requiere importantes inversiones en tiempo y recursos, sobre todo en personal y en la implementación de procedimientos de «alerta roja».

Posicionar la IA responsable como impulsor de valor: Las organizaciones líderes alinean las consideraciones éticas con los objetivos comerciales. La compañía de seguros suiza Die Mobiliar ejemplifica este enfoque. En lugar de considerar la ética de la IA como un proceso engorroso lleno de listas de verificación, la empresa se centró en encontrar un equilibrio óptimo entre la estrategia empresarial, la privacidad de los datos y la ética de la IA. Para lograrlo, Die Mobiliar empleó un equipo interdisciplinario, que incluía representantes de cumplimiento, seguridad, ciencia de datos y TI, que se reunían periódicamente para explorar esta sinergia.

Aprovechar las alianzas externas: La colaboración con expertos externos, instituciones académicas y grupos del sector puede proporcionar nuevas perspectivas y conocimientos que contribuyan al ajuste de las soluciones de IA.

Paso #4: Difundir prácticas y enseñanzas al resto de la organización

En el panorama de la IA, en rápida evolución, fomentar un entorno de aprendizaje e intercambio puede mejorar la conciencia y empoderar a los empleados para que contribuyan al desarrollo responsable de la IA. Sin embargo, las organizaciones también enfrentan el desafío a corto plazo de mejorar las habilidades de la fuerza laboral en los desarrollos de IA que impactan al negocio en la actualidad. La compañía farmacéutica Bristol-Meyers-Squibb (BMS) creó una comunidad autoorganizada llamada «AI Collective». Se reunían regularmente en intervalos de 4 a 6 semanas para intercambiar perspectivas e ideas sobre cómo hacer avanzar los proyectos de IA dentro de la empresa y discutir las últimas tendencias, puntos de referencia, mejores prácticas y casos de uso interesantes.

Acciones clave: Priorizar y escalar

Realizar un análisis de las partes interesadas y priorizar las funciones: Cuando los recursos son limitados y la necesidad de un impacto inmediato es alta, centrarse en las funciones clave que más influyen en el desarrollo de la IA se vuelve crucial. Un primer paso práctico es realizar un análisis de las partes interesadas para identificar los roles con mayor impacto en el desarrollo de la IA y la aplicación ética. Al analizar su panorama de partes interesadas, SwissPost identificó a los gerentes de proyectos con capacidades analíticas como fundamentales para el éxito de sus iniciativas de IA. En consecuencia, la organización tomó la decisión estratégica de priorizar las capacitaciones en ética de la IA para estas personas clave, asegurando que quienes están más involucrados en la dirección de proyectos de IA estén equipados con el conocimiento necesario para abordar eficazmente las consideraciones éticas.

Crear un conjunto de herramientas para escalabilidad: Proporcionar recursos prácticos para ayudar a compartir prácticas de IA responsable puede lograrse mediante el desarrollo de un kit de herramientas de escalabilidad para IA responsable. La firma industrial francesa Thales creó un conjunto de herramientas adaptables y con capacidad de búsqueda que las diferentes divisiones de la organización podrían utilizar para implementar prácticas de IA responsable. Este kit de herramientas contenía información sobre prácticas de IA responsable, consejos de aplicación, material de comunicación y estudios de casos diseñados para ayudar a los equipos locales de IA.

Si bien muchas organizaciones han avanzado en el desarrollo de principios de IA, el verdadero desafío radica en incorporar estos principios en el tejido de las operaciones diarias. Los líderes, en particular aquellos con funciones no técnicas, desempeñan un papel decisivo en este proceso al abogar por recursos prácticos, fomentar una cultura que valore la IA ética y garantizar que las prácticas responsables de IA sean un aspecto fundamental de la toma de decisiones.