E

l impacto de la IA, y en particular de la IA generativa, está sintiéndose en todas las industrias. Pero mientras los ejecutivos están entusiasmados con el potencial de esta tecnología, los trabajadores a menudo desconfían de lo que podría significar para ellos, sus trabajos y su futuro. Estas percepciones divergentes están creando nuevas tensiones y presentando nuevos desafíos para ambos grupos.

Estas tensiones tienen su origen (directa o indirectamente) en el acceso a datos contextuales de alta calidad. Los datos son la información que necesitan los algoritmos de aprendizaje automático para funcionar, y la IA está compuesta por estos algoritmos. Por lo tanto, quienes tienen acceso a datos de alta calidad pueden entrenar IA de alta calidad. A menos que los trabajadores y las organizaciones puedan abordar este problema de los datos de una manera significativa y duradera, el conflicto continuará dirimiéndose mediante enfrentamientos y negociaciones parciales.

Las cooperativas de datos ofrecen un camino significativo hacia adelante. Son un modelo organizacional que permite a las personas agrupar sus datos con el propósito de obtener poder de negociación frente a las empresas que analizan sus datos. Estas cooperativas enfatizan el control individual, el uso ético y el trato justo, y permiten a los usuarios conservar la propiedad y el control de su huella digital. Además, en muchos casos, ofrecen la monetización con fines de lucro de los datos de los miembros de la cooperativa, permitiendo que terceros obtengan información de esos datos (de una manera responsable y que preserve la privacidad).

Los datos como un nuevo factor de producción

El impacto de la tecnología en los empleados y sus empleadores suele analizarse como un juego de suma cero entre ambas partes, donde la automatización aumenta las ganancias de los empleadores mientras reduce los puestos de trabajo para los empleados. Sin embargo, la dependencia de la IA de los datos frescos desafía esta visión.

Las organizaciones que dependen de las capacidades actuales de la IA pueden (tarde o temprano) descubrir que los algoritmos que utilizan comienzan a funcionar peor que antes debido a la «decadencia del modelo», es decir, el deterioro del rendimiento de la IA con el tiempo. La razón es que los datos con los que fueron entrenados ya no son representativos de la realidad en la que la IA debe operar.

Nuestras preferencias, contexto, sentido del humor, gustos y modas cambian constantemente. Y nosotros, los humanos, somos necesarios para revelar nuestras preferencias. Los datos más valiosos serán sobre nosotros mismos, y es nuestra interacción con los sistemas digitales la que genera esos datos. Eliminar al ser humano implica eliminar los datos sobre la persona para la cual la IA está diseñada para generar contenido.

Este hecho, que surge únicamente de la naturaleza de la IA y no de otras tecnologías que en el pasado han afectado al mercado laboral, sorprendentemente puede ayudar a alinear las necesidades de los empleadores y los empleados, ya que los empleados humanos son fundamentales para generar nuevos datos que eventualmente impulsen la IA.

Las cooperativas de datos son a los datos lo que los sindicatos son al trabajo

En el contexto laboral, son los conocimientos de primera mano de los empleados, sus habilidades para resolver problemas y sus competencias en evolución las que cambian con cada nuevo desafío e innovación. Por lo tanto, los datos más valiosos para la IA que puede asumir las tareas de los trabajadores provendrán directamente de las tareas que estos realizan.

Es aquí donde las cooperativas de datos ofrecen un nuevo enfoque para la gestión de datos al permitir que los trabajadores sean copropietarios y gestionen sus datos colectivos a través de un proceso de toma de decisiones más o menos descentralizado. Esto sucede porque los miembros de una cooperativa de datos pueden extraer datos que actualmente están aislados en diferentes fuentes y combinarlos en un solo conjunto. La agregación de datos que los miembros generan a partir de diversas fuentes y situaciones puede conducir al desarrollo de nuevos productos, servicios y modelos de negocio que serían inalcanzables mediante contribuciones individuales o utilizando datos de una sola fuente.

Además, una vez que los trabajadores comienzan a ver la monetización de sus datos por parte de las cooperativas, es mucho más probable que reorganicen sus propios procesos para facilitar una mejor recopilación de datos, lo que a su vez puede generar mejores resultados de IA para la organización y mayores ingresos por datos para los trabajadores.

Ahora que los datos se utilizan cada vez más como un factor de producción (es decir, como insumo) en la economía, parece natural que las cooperativas de datos surjan como una solución. Esta es la misma lógica que llevó al desarrollo de los sindicatos en el pasado: la fragmentación de la estructura de propiedad del factor de producción (ya sea datos o trabajo) impide que cualquier individuo tenga poder de negociación frente al empleador.

Lo que esto significa para el futuro de las relaciones laborales

Para que se libere este valor económico (y para que tanto empleadores como empleados prosperen en la economía de los datos) todos los involucrados deben aumentar su nivel de alfabetización en datos. Tanto los trabajadores como los empleadores deben comprender cómo los datos crean valor mediante la agregación y el análisis para revelar información y patrones que puedan mejorar la toma de decisiones y entrenar modelos de IA. Además, los empleados deben comprender cómo contribuyen a la creación y gestión de dichos datos mientras trabajan, y utilizar la influencia colectiva que les otorgan las cooperativas, con el fin de tener una discusión adecuada sobre el futuro del trabajo.

Para aprovechar al máximo los datos que las personas producen y, al mismo tiempo, garantizar que los trabajadores tengan control sobre qué datos ofrecen y reciban una compensación justa por ellos, los empleadores y los empleados deben seguir estos pasos para poder dar forma al futuro de la economía digital y, por ende, al futuro del trabajo:

1. Evaluar los recursos y el potencial de los datos internos de la organización.

Los empresarios y los empleados deben comenzar por realizar una auditoría exhaustiva de los datos que la organización ya recopila y genera, centrándose en identificar los datos que podrían ser valiosos para la formación o el análisis de IA.

2. Involucrar a los empleados en programas de alfabetización en datos.

Las organizaciones pueden implementar programas de capacitación para mejorar la alfabetización en datos de sus empleados. Al formarlos sobre cómo sus actividades diarias generan datos valiosos, la importancia de estos datos en el desarrollo de la IA y cómo pueden participar en cooperativas de datos, se crean conocimientos valiosos.

3. Incorporar cláusulas de cooperativas de datos en los contratos de trabajo.

Al actualizar los contratos de trabajo para incluir cláusulas que reconozcan los derechos de los empleados sobre sus datos y describan cómo pueden utilizarse sus datos en cooperación con las cooperativas de datos, las organizaciones pueden posicionarse como pioneras en este ámbito. Esto garantizaría la transparencia y proporcionaría un marco jurídico para el uso de los datos, y puede ayudar a atraer nuevos talentos.

Dada la naturaleza dinámica de la sociedad, la IA necesitará (al menos en el futuro previsible) los datos y la orientación de los humanos para generar valor real. Por lo tanto, los trabajadores, deben enfocarse en comprender la interacción entre capital, trabajo y datos, y comenzar a guiar la discusión sobre el futuro del trabajo con una comprensión adecuada de la naturaleza de la IA.

Los líderes empresariales también deben comprender las dependencias entre capital, trabajo y datos para proponer proactivamente marcos colaborativos que permitan a las organizaciones (y por ende a la sociedad) prosperar en la era de la IA.

U

n médico utiliza la IA para redactar una solicitud de autorización previa, transformando lo que podría ser un proceso tedioso y prolongado en uno eficiente. Sin embargo, si la IA de una aseguradora rechaza la solicitud basándose en criterios que el sistema del médico no contempló, el resultado son retrasos y frustración. Esta es la nueva realidad de los ecosistemas de IA: redes interconectadas de agentes y sistemas inteligentes que colaboran, compiten o chocan entre diferentes unidades de negocio u organizaciones. Estos ecosistemas pueden ofrecer nuevas oportunidades, pero también introducir complejidades y riesgos adicionales.

Construir y gestionarlos de forma segura y responsable requiere, entre otras cosas, replantear la formación de la fuerza laboral, aprovechar la tecnología para facilitar la alineación y la coordinación, y establecer marcos de gobernanza que garanticen la confianza y la rendición de cuentas.

Capacitación para operar en ecosistemas de IA

A medida que las empresas adoptan la IA en todos los ámbitos, es cada vez más importante redoblar los esfuerzos en materia de capacitación. Por ello, los empleados deben fortalecer su capacidad no solo para trabajar con la IA, sino también para navegar y mediar en las interacciones de múltiples sistemas de IA. Además, deben ser más sensibles no sólo a la forma en que estos sistemas pueden afectar a sus propias decisiones, sino también a las de otras personas dentro o fuera de la organización.

Consideremos el ejemplo de un algoritmo utilizado en el Reino Unido para priorizar los trasplantes de hígado mediante la predicción de la supervivencia a cinco años de los pacientes con y sin trasplante. Este enfoque infravaloraba a los pacientes más jóvenes, cuyos beneficios se extienden mucho más allá de los cinco años, y los penalizaba aún más, ya que tienen más probabilidades de sobrevivir sin un trasplante.

En el sector de los servicios financieros, los resultados de un modelo (como las puntuaciones crediticias) pueden servir como datos de entrada para los sistemas de IA posteriores, lo que permite que los posibles errores o sesgos de los modelos de crédito se propaguen a través de la red. Esto destaca no solo la complejidad de la gestión de los sistemas de IA individuales, sino también el desafío más amplio de los sistemas interconectados, donde las fallas iniciales pueden propagarse y posiblemente amplificar los errores o desigualdades en las decisiones posteriores. Junto con el sesgo de automatización de la IA (la tendencia de los usuarios a confiar en los resultados de la IA sin cuestionarlos), los errores pueden pasar desapercibidos, especialmente en comparación con las prácticas actuales de puntuación y uso de la IA más simples.

Los abogados y estudiantes de derecho utilizan cada vez más la IA en una variedad de tareas que tradicionalmente realizaban los humanos. Sin embargo, los abogados de hoy en día a menudo carecen de orientación sobre cómo integrar estas herramientas en los flujos de trabajo o explicar a los clientes los resultados generados por la IA, especialmente cuando esos resultados son el producto del trabajo de muchos algoritmos de IA que interactúan entre sí. Los programas de capacitación deben centrarse no solo en el uso de las herramientas, sino también en la comprensión del funcionamiento conjunto de múltiples sistemas para fundamentar las decisiones.

Para abordar estas cuestiones, la capacitación debe ir más allá de los aspectos básicos del manejo de las herramientas de IA. Es necesario equipar a los empleados para evaluar críticamente los resultados de la IA, comprender cómo fluyen los datos y las decisiones a través de los sistemas de IA interconectados y tomar medidas cuando surjan conflictos. Por ejemplo, los médicos deben aprender a contrastar los resultados de los diagnósticos con los registros de los pacientes y cuestionar las recomendaciones de triaje cuando los datos parecen incompletos.

Los empleados necesitan habilidades para evaluar cómo interactúan entre sí las herramientas de IA. Por ejemplo, deben reconocer cuándo los sesgos de los datos previos se propagan a las recomendaciones posteriores o cuándo los resultados contradictorios indican un fallo en la coordinación. La capacitación también debe empoderar a los empleados para abordar estos desafíos, ya sea adaptando los flujos de trabajo, redefiniendo las interacciones de los sistemas de IA u optimizando la gestión de los datos y las cadenas de suministro de IA.

Aprovechar la tecnología para mejorar la alineación

Si bien la capacitación prepara a las personas, la tecnología puede permitir que los sistemas de IA interactúen de manera efectiva y eficiente. La interoperabilidad es fundamental, pero el desafío más amplio radica en diseñar infraestructuras y procesos tecnológicos que fomenten la colaboración entre los sistemas de IA mientras se mitigan los riesgos. No se trata solo de la interoperabilidad técnica tradicional, sino también de la interdependencia de las decisiones y la alineación.

El diseño proactivo de las cadenas de suministro de datos e IA de la organización proporciona un punto de partida útil: los sistemas ascendentes alimentan las aplicaciones intermedias que adaptan esos modelos para industrias específicas, los cuales, a su vez, impulsan las herramientas descendentes para los usuarios finales. Por ejemplo, en el sector de la salud, una IA ascendente agrega datos de exploraciones radiológicas globales para desarrollar un modelo de diagnóstico. Una aplicación intermedia podría personalizar este modelo para un sistema hospitalario específico, mientras que una herramienta secundaria podría permitir a los médicos priorizar los casos.

Con el tiempo, pueden surgir ecosistemas más complejos. Por ejemplo, en las operaciones de confianza y seguridad para plataformas en línea, los sistemas de IA para la detección de contenido, el análisis de opiniones y el monitoreo del comportamiento de los usuarios suelen operar de manera independiente, creando brechas o superposiciones en la toma de decisiones. Una mejor integración de estos sistemas puede proporcionar a los moderadores información en tiempo real, garantizando que las decisiones sean coherentes y defendibles.

Estos ejemplos muestran por qué las organizaciones deben diseñar sistemas de IA como marcos interconectados en lugar de herramientas aisladas, y empezar a pensar en sus cadenas de suministro de datos e IA desde el principio. Al adoptar tecnologías que faciliten la coordinación y las pruebas de solidez continuas, y al rediseñar procesos para alinear las interacciones de la IA, las empresas pueden aprovechar sus ecosistemas de IA en evolución no solo para crear valor, sino también para evitar la destrucción de valor debido a los posibles riesgos de la IA que pueden estar ocultos en algún punto de la cadena.

Gobernanza para ecosistemas complejos

La escala y la complejidad de los ecosistemas emergentes de IA exigen marcos claros de gobernanza. La naturaleza interconectada de estos sistemas introduce riesgos de fallos en cascada, sesgos amplificados y brechas en la rendición de cuentas. Una gobernanza sólida debe abordar estos desafíos mientras fomenta la confianza y la adaptabilidad.

La transparencia es primordial. En los ecosistemas de IA, la rendición de cuentas suele quedar oculta por las capas de interacción. Las organizaciones deben adoptar marcos de gobernanza que puedan rastrear las decisiones a lo largo del sistema, permitiendo el análisis de las causas y la mejora continua.

Empoderar a los usuarios finales es otra prioridad crítica de gobernanza. Aunque las organizaciones suelen centralizar el despliegue de la IA para mantener la consistencia, dar a los usuarios finales la flexibilidad necesaria para adaptar los sistemas de IA puede generar innovación y permitir la gestión de los riesgos desde su origen.

La gobernanza también exige establecer ciclos de retroalimentación para monitorear y perfeccionar los ecosistemas de IA a lo largo del tiempo. En las prácticas legales, por ejemplo, las empresas pueden implementar mecanismos para identificar cuándo los resultados de diferentes sistemas producen recomendaciones contradictorias. Mediante la incorporación de este tipo de prácticas de gobernanza, las empresas pueden garantizar a las partes interesadas que sus sistemas de IA son seguros y confiables. Las regulaciones recientes, como la Ley de Servicios Digitales de la UE (DSA, por sus siglas en inglés), brindan una valiosa orientación sobre transparencia, rendición de cuentas, capacitación de los usuarios y bucles de retroalimentación.

Por ejemplo, los proveedores de atención médica pueden implementar marcos de trazabilidad para garantizar que las decisiones de diagnóstico de la IA sean claras tanto para los pacientes como para los organismos reguladores. De manera similar, las plataformas de confianza y seguridad ya están adoptando mecanismos de auditoría que explican las decisiones de moderación de contenido y permiten a los usuarios cuestionarlas. Al aplicar estos principios, las organizaciones pueden crear ecosistemas de IA que no solo sean eficaces, sino también éticamente alineados y en los que confíen las partes interesadas.

Además, la capacitación basada en principios y procesos claros también puede permitir que los usuarios de los sistemas de IA exploren mejor y, en última instancia, aprovechen las fortalezas y debilidades de la IA, facilitando el aprendizaje. Esto puede aumentar la precisión de la toma de decisiones y mejorar la comprensión intuitiva de los moderadores de contenido que dependen de diferentes sistemas de IA para moderar el contenido.

Seguridad en la era de los ecosistemas de IA

A medida que las empresas desarrollan sus estrategias de IA y la adoptan en sus procesos y productos, los ecosistemas de IA inevitablemente se volverán cada vez más complejos, lo que exigirá nuevas prácticas, procesos y herramientas para que las personas los aprovechen mejor y con mayor seguridad. No podemos prever los nuevos tipos de riesgos que crearán las cadenas de suministro y ecosistemas de IA emergentes y complejos, por lo que las buenas prácticas de gestión de riesgos requieren una preparación adecuada y un aprendizaje continuo.