Cómo implementar la IA de manera responsable

S

i bien la ética de la IA ocupa un lugar destacado en la agenda de muchas organizaciones, traducir los principios de IA en prácticas y comportamientos resulta ser más difícil de lo que parece. ¿Qué deberían hacer los líderes para redoblar sus iniciativas de IA responsable? Identificamos cuatro pasos clave (traducir, integrar, calibrar y difundir) que los líderes pueden dar para garantizar que las prácticas de IA responsable se integren plenamente en estándares operativos más amplios.

Paso #1: Traducir los principios de alto nivel en guías prácticas

Muchas organizaciones elaboran una carta ética de la IA, pero a menudo tienen dificultades para implementar los principios de IA en sus operaciones diarias. El 79% de los trabajadores del sector tecnológico afirman necesitar recursos prácticos que les ayuden a abordar las cuestiones éticas, por lo que estos principios deben traducirse en guías prácticas.

Es un proceso que lleva tiempo. En 2021, la empresa alemana de comunicaciones Deutsche Telekom presentó las directrices de ingeniería y uso de la IA, que documentaban las mejores prácticas, métodos y consejos para incorporar los principios en los procesos de desarrollo de IA. Estas directrices proporcionaban acciones específicas a tomar antes, durante y después del lanzamiento de un proyecto de desarrollo de IA, destacando consideraciones esenciales para propietarios de empresas, gerentes de proyectos, equipos de productos y equipos operativos. Disponibles en alemán e inglés, cada directriz estaba claramente documentada y se puso a disposición de todos los empleados.

Acciones clave: Facilitar la alineación

Mantener unidos a los equipos: Los equipos digitales y de cumplimiento a menudo han tenido una relación complicada. El cumplimiento se considera un impedimento para la innovación digital, mientras que los equipos digitales son vistos como disidentes que buscan riesgos. El éxito de la alineación entre ambos suele depender de la estructura de gobernanza. En Thomson Reuters, una empresa global de contenido y tecnología, el equipo de ética trabajó en estrecha colaboración con el equipo de gobernanza de datos y modelos. Los dos equipos cubrían diferentes aspectos del mismo tema, como la forma de garantizar que los datos se utilizaran de forma responsable y segura en toda la organización.

Facilitar diálogos abiertos: Crear diálogos abiertos es tan importante como establecer un sistema de gobernanza bien estructurado.

Tomemos como ejemplo la iniciativa de Deutsche Telekom de traducir el principio de transparencia en anuncios de atención al cliente mediante chatbots de IA. El departamento de servicio expresó su preocupación sobre la posibilidad de que el cliente se desvinculara si se le saludaba con mensajes formales como: «Hola, soy el asistente de servicio digital de Deutsche Telekom». Esta preocupación dio lugar a extensas deliberaciones entre los departamentos de cumplimiento, ética y servicio, que finalmente condujeron al desarrollo de un grupo de trabajo para idear una solución adecuada.

Paso #2: Integrar consideraciones éticas en los procesos de diseño y desarrollo de IA

El siguiente paso es integrar las consideraciones éticas en la rutina de desarrollo de IA. Lamentablemente, en muchos proyectos de IA surgen problemas éticos después de la implementación. Para evitar estas situaciones, muchas organizaciones han adoptado un enfoque proactivo, abordando las cuestiones éticas durante la fase de desarrollo. Descubrimos que las organizaciones con una sólida gobernanza de datos aprovechaban sus procesos de privacidad existentes para incorporar principios éticos de IA adicionales.

Acciones clave: Navegación y soporte

Adaptarse a la relevancia operativa: Las organizaciones tienen la tarea de implementar marcos que no solo cumplan con los estándares globales, sino que también resuenen con sus realidades operativas únicas. Un estudio de 2019 identificó 106 herramientas y metodologías, y esta cifra sigue creciendo. Los líderes pueden ayudar a analizar este panorama abarrotado para garantizar que las herramientas y los marcos de IA sean integrales y relevantes desde el punto de vista operativo. Por ejemplo, cuando SwissPost, el servicio postal nacional de Suiza, se dio cuenta de que un proceso de autocertificación que estaban probando se superponía significativamente con sus requisitos de certificación ISO preexistentes, respondió desarrollando un proceso simplificado que incorporaba solo preguntas que no estaban cubiertas por la ISO.

Proporcionar apoyo continuo: El viaje no termina con la configuración inicial de barandillas éticas; requiere apoyo y supervisión continuos. Las organizaciones pueden establecer mecanismos de apoyo continuo para responder las preguntas a medida que surjan. Al configurar una cuenta de correo electrónico centralizada, Deutsche Telekom invitó a personas y equipos a enviar consultas sobre la implementación de la ética de la IA.

Paso #3: Calibrar las soluciones de ia en respuesta a las condiciones locales y a los cambios tecnológicos

En las fases de prueba y evaluación, el objetivo principal es verificar que la solución de IA cumpla con los objetivos y requisitos originales. Un aspecto esencial de la fase de calibración es garantizar que la solución siga siendo relevante para las aplicaciones del mundo real. Con el tiempo, puede producirse una divergencia entre los escenarios para los que se creó la solución de IA y las situaciones cambiantes del mundo real. Es necesario un seguimiento continuo para detectar y adaptarse a cualquier cambio.

Acciones clave: Mantener el impulso

El seguimiento y ajuste de las soluciones de IA en respuesta a las condiciones locales y a los cambios tecnológicos requiere importantes inversiones en tiempo y recursos, sobre todo en personal y en la implementación de procedimientos de «alerta roja».

Posicionar la IA responsable como impulsor de valor: Las organizaciones líderes alinean las consideraciones éticas con los objetivos comerciales. La compañía de seguros suiza Die Mobiliar ejemplifica este enfoque. En lugar de considerar la ética de la IA como un proceso engorroso lleno de listas de verificación, la empresa se centró en encontrar un equilibrio óptimo entre la estrategia empresarial, la privacidad de los datos y la ética de la IA. Para lograrlo, Die Mobiliar empleó un equipo interdisciplinario, que incluía representantes de cumplimiento, seguridad, ciencia de datos y TI, que se reunían periódicamente para explorar esta sinergia.

Aprovechar las alianzas externas: La colaboración con expertos externos, instituciones académicas y grupos del sector puede proporcionar nuevas perspectivas y conocimientos que contribuyan al ajuste de las soluciones de IA.

Paso #4: Difundir prácticas y enseñanzas al resto de la organización

En el panorama de la IA, en rápida evolución, fomentar un entorno de aprendizaje e intercambio puede mejorar la conciencia y empoderar a los empleados para que contribuyan al desarrollo responsable de la IA. Sin embargo, las organizaciones también enfrentan el desafío a corto plazo de mejorar las habilidades de la fuerza laboral en los desarrollos de IA que impactan al negocio en la actualidad. La compañía farmacéutica Bristol-Meyers-Squibb (BMS) creó una comunidad autoorganizada llamada «AI Collective». Se reunían regularmente en intervalos de 4 a 6 semanas para intercambiar perspectivas e ideas sobre cómo hacer avanzar los proyectos de IA dentro de la empresa y discutir las últimas tendencias, puntos de referencia, mejores prácticas y casos de uso interesantes.

Acciones clave: Priorizar y escalar

Realizar un análisis de las partes interesadas y priorizar las funciones: Cuando los recursos son limitados y la necesidad de un impacto inmediato es alta, centrarse en las funciones clave que más influyen en el desarrollo de la IA se vuelve crucial. Un primer paso práctico es realizar un análisis de las partes interesadas para identificar los roles con mayor impacto en el desarrollo de la IA y la aplicación ética. Al analizar su panorama de partes interesadas, SwissPost identificó a los gerentes de proyectos con capacidades analíticas como fundamentales para el éxito de sus iniciativas de IA. En consecuencia, la organización tomó la decisión estratégica de priorizar las capacitaciones en ética de la IA para estas personas clave, asegurando que quienes están más involucrados en la dirección de proyectos de IA estén equipados con el conocimiento necesario para abordar eficazmente las consideraciones éticas.

Crear un conjunto de herramientas para escalabilidad: Proporcionar recursos prácticos para ayudar a compartir prácticas de IA responsable puede lograrse mediante el desarrollo de un kit de herramientas de escalabilidad para IA responsable. La firma industrial francesa Thales creó un conjunto de herramientas adaptables y con capacidad de búsqueda que las diferentes divisiones de la organización podrían utilizar para implementar prácticas de IA responsable. Este kit de herramientas contenía información sobre prácticas de IA responsable, consejos de aplicación, material de comunicación y estudios de casos diseñados para ayudar a los equipos locales de IA.

Si bien muchas organizaciones han avanzado en el desarrollo de principios de IA, el verdadero desafío radica en incorporar estos principios en el tejido de las operaciones diarias. Los líderes, en particular aquellos con funciones no técnicas, desempeñan un papel decisivo en este proceso al abogar por recursos prácticos, fomentar una cultura que valore la IA ética y garantizar que las prácticas responsables de IA sean un aspecto fundamental de la toma de decisiones.

Artículo en inglés

While AI ethics is high on the agenda for many organizations, translating AI principles into practices and behaviors is proving easier said than done. What should leaders do to double-down on their responsible AI initiatives? We identified four key moves — translate, integrate, calibrate and proliferate — that leaders can make to ensure that responsible AI practices are fully integrated into broader operational standards.

MOVE #1: TRANSLATE HIGH-LEVEL PRINCIPLES INTO PRACTICAL GUIDANCE

Many organizations craft an AI ethics charter but often struggle to implement AI principles into their daily operations. With 79% of tech workers reporting a need for practical resources to help them navigate ethical concerns, these principles need to be translated into practical guidance.

It’s a process that takes time. In 2021, German communications firm Deutsche Telekom unveiled the AI Engineering and Usage guidelines, which documented best practices, methods and tips for embedding the principles into AI development processes. These guidelines provided specific actions to be taken before, during and after the launch of an AI development project, highlighting essential considerations for business owners, project managers, product teams and operational teams. Available in both German and English, each guideline was clearly documented and made accessible to all employees.

KEY ACTIONS: FACILITATING ALIGNMENT

KEEP TEAMS TOGETHER: Compliance and digital teams have often had a rocky relationship. Compliance is viewed as an impediment to digital innovation, while digital teams are seen as risk-seeking mavericks. Successful alignment between the two often rests on the governance structure. At Thomson Reuters, a global content and technology company, the ethics team worked closely with the data and model governance team. The two teams covered different aspects of the same topic, such as how to ensure that data was used responsibly and securely across the organization.

FACILITATE OPEN DIALOGS: Creating open dialogues is as important as establishing a well-structured governance system.

Take Deutsche Telekom’s initiative to translate the principle of transparency into customer service announcements leveraging AI chatbots. Concerns were raised by the service department about the potential for customer disengagement if greeted with formal messages such as, “Hello, I am the digital service assistant at Deutsche Telekom.” This concern led to extensive deliberations among the compliance, ethics and service departments, that eventually led to the development of a working group to devise a suitable solution.

MOVE #2: INTEGRATE ETHICAL CONSIDERATIONS INTO AI DESIGN AND DEVELOPMENT PROCESSES

The next step is to integrate ethical considerations into the AI development routine. For many AI projects, ethical issues unfortunately arise post-deployment. To prevent such problems, many organizations have adopted a proactive approach, addressing ethical concerns during the development stage. We found that organizations with strong data governance leveraged their existing privacy processes to incorporate additional AI ethics principles.

KEY ACTIONS: NAVIGATING AND SUPPORTING

ADAPT FOR OPERATIONAL RELEVANCE: Organizations are tasked with implementing frameworks that not only adhere to global standards but also resonate with their unique operational realities. A 2019 study identified 106 tools and methodologies, and this number continues to grow. Leaders can help sift through this crowded landscape to ensure that AI tools and frameworks are both comprehensive and operationally relevant. For instance, when SwissPost, the national postal service of Switzerland, realized that a self-certification process they were piloting significantly overlapped with their preexisting ISO certification requirements, they responded by developing a streamlined process incorporating only non-ISO questions.

PROVIDE ONGOING SUPPORT: The journey does not end with the initial setup of ethical guardrails; it requires continuous support and oversight. Organizations can establish mechanisms for ongoing support to answer questions as they arise. By setting up a centralized email account, Deutsche Telekom invited individuals and teams to submit inquiries regarding AI ethics implementation.

MOVE #3: CALIBRATE AI SOLUTIONS IN RESPONSE TO LOCAL CONDITIONS AND CHANGING TECHNOLOGIES

In the testing and evaluation phases, the primary goal is to verify that the AI solution meets the original objectives and requirements. An essential aspect of the calibration phase is to ensure that the solution remains relevant to real-world applications. Over time, there can be a divergence between the scenarios for which the AI solution was created and evolving real-world situations. Continuous monitoring is necessary to detect and adapt to any changes.

KEY ACTIONS: SUSTAINING MOMENTUM

Monitoring and adjusting AI solutions in response to local conditions and changing technologies requires substantial investments in time and resources, particularly in staffing and implementing “red flag” procedures.

POSITION RESPONSIBLE AI AS A VALUE DRIVER: Leading organizations align ethical considerations with business objectives. Swiss insurance company Die Mobiliar exemplifies this approach. Rather than viewing AI ethics as a burdensome process filled with checklists, the company focused on finding an optimal balance between business strategy, data privacy and AI ethics. To achieve this, Die Mobiliar employed an interdisciplinary team, including representatives from compliance, security, data science and IT, who met regularly to explore this synergy.

LEVERAGE EXTERNAL PARTNERSHIPS: Engaging with external experts, academic institutions, and industry groups can provide fresh perspectives and insights that inform the adjustment of AI solutions.

MOVE #4: PROLIFERATE PRACTICES AND LEARNINGS TO THE REST OF THE ORGANIZATION

In the rapidly evolving landscape of AI, fostering an environment of learning and sharing can enhance awareness and empower employees to contribute to responsible AI development. However, organizations also face the short-term challenge of upskilling the workforce on AI developments that impact the business today. Pharmaceutical company Bristol-Meyers-Squibb (BMS) set up a self-organized community called the “AI Collective.” They met regularly in 4—6-week intervals to exchange insights and ideas on how to advance AI projects within the company and discuss the latest trends, benchmarks, best practices and intriguing use cases.

KEY ACTIONS: PRIORITIZING AND SCALING

CONDUCT STAKEHOLDER ANALYSIS AND ROLE PRIORITIZATION: When resources are limited and the need for immediate impact is high, focusing on key roles that most influence AI development becomes crucial. A practical first step is to conduct a stakeholder analysis to identify roles with the greatest impact on AI development and ethical application. By analyzing its stakeholder landscape, SwissPost identified project managers with analytics capabilities as pivotal to the success of their AI initiatives. Consequently, the organization made a strategic decision to prioritize AI ethics trainings for these key individuals, ensuring that those most involved in directing AI projects are equipped with the knowledge to navigate ethical considerations effectively.

BUILD A SCALING TOOLKIT: Providing practical resources to help share responsible AI practices can be achieved through the development of a responsible AI scaling tool kit. French industrial firm Thales created a set of searchable and adaptable tools that different divisions of the organization could use to implement responsible AI practices. This tool kit contained information about responsible AI practices, implementation advice, communication collateral and case studies designed to assist local AI teams.

While many organizations have made strides in developing AI principles, the real challenge lies in embedding these principles into the fabric of daily operations. Leaders, particularly those in nontechnical roles, are instrumental in this process, advocating for practical resources, fostering a culture that values ethical AI and ensuring that responsible AI practices are a fundamental aspect of decision making.