L

a IA no necesita fallar a escala global para causar un daño enorme a las personas, las empresas y las sociedades. Los modelos suelen equivocarse, tener alucinaciones, desviarse y pueden colapsar.

El interés principal aquí son los primeros proyectos de IA de una empresa. Es importante destacar que la calidad de los datos es un problema (y una oportunidad) enorme para toda la organización, pero la mayoría de las empresas lo han descuidado. Una de las consecuencias es que ni ellas ni sus altos directivos comprenden los problemas, cómo abordarlos ni los cambios organizacionales que deben realizar. Se encuentran en una situación difícil: deben protegerse a corto plazo, desarrollar las capacidades necesarias a largo plazo y, al mismo tiempo, formarse para poder hacerlo de manera eficaz. El objetivo de este artículo es ayudarles a dar los primeros pasos.

Obtener los datos correctos

Me parece conveniente enmarcar la idea de buenos datos a través de dos requisitos: 1) si son los “datos adecuados” para abordar el problema y 2) si esos “datos son correctos” o exactos.

Al seleccionar los datos adecuados para un proyecto, considere:

— Relevancia y exhaustividad

— Integridad y correcta representación

— Ausencia de sesgos

— Actualidad

— Definición clara

— Exclusiones apropiadas

Consideraciones más importantes en materia de datos correctos:

— Precisión

— Ausencia de duplicados

— Identificadores consistentes

— Etiquetado pertinente

El trabajo de garantizar la calidad de los datos no termina con el entrenamiento. Si se entrena bien un modelo con datos de alta calidad, se obtiene un buen modelo. Pero si ese modelo se alimenta con “datos futuros” de mala calidad, se obtienen resultados o predicciones erróneos. Los criterios de “los datos son correctos” y “los datos correctos” siguen siendo válidos.

A corto plazo: Adoptar una postura de “culpable hasta que se demuestre lo contrario.”

A nivel de proyecto, la responsabilidad general sobre la calidad de los datos debe recaer en la persona de más alto nivel que dirija la iniciativa. Debe reunir equipos de personas que puedan desarrollar el conjunto completo de requisitos y profundizar en los detalles para garantizar que se cumplan. Debe considerar la posibilidad de contratar talento externo si, como suele ocurrir, su empresa carece de la amplitud y profundidad de conocimientos necesarios para hacerlo.

Estos gerentes deben cuestionar incansablemente a los equipos de desarrollo de modelos y a otros sobre todo. Empiece por preguntar: “¿El problema que se propuso resolver y nuestro problema son el mismo?” Si no es así, tenga mucho cuidado. A continuación, analicen uno por uno los criterios adecuados para los datos de entrenamiento. Profundicen: ¿qué les hace pensar que los datos darán buenos resultados en las predicciones, respaldarán la ampliación del modelo a nuevos mercados y estarán libres de sesgos? Desconfíen cuando los proveedores se nieguen a responder, citando “nuestro modelo es propietario.” El modelo puede ser propietario, pero eso no significa que los datos lo sean.

A mediano plazo: Impulsar los esfuerzos de calidad en las fases iniciales.

Las empresas deben pasar de lidiar con datos erróneos en las fases finales a crear datos correctos en las fases iniciales. Como cualquier otra disciplina, la gestión de la calidad proporciona un amplio conjunto de fundamentos, métodos y herramientas sobre quién hace qué. Para introducirlos en su organización, comience con tres conceptos:

1. Enfoque intenso en el cliente y en la mejora de procesos, con el objetivo a largo plazo de crear los datos adecuados correctamente con identificadores y etiquetas apropiadas, desde la primera vez.

2. Responsabilidades de gestión claras, es decir, dejar claro que los departamentos comerciales (y no el departamento de TI, el director de riesgos o los directores de datos) son los responsables de la calidad de los datos. A su vez, esto implica responsabilidades claras para los equipos y las personas.

3. Involucre a tantas personas como pueda, en todos los niveles, en la medida de lo posible.

L

a capacidad de la inteligencia artificial para resolver problemas complejos depende de varios factores que pueden mejorar o dificultar su eficacia. Entre las consideraciones más críticas se encuentran la disponibilidad de datos de alta calidad, el alcance de las posibles soluciones al problema, la claridad del objetivo que se desea alcanzar y la necesidad de adaptarse a sistemas en constante cambio. Cuando estos elementos faltan o están mal definidos, presentan desafíos que requieren enfoques innovadores para superarlos.

1. Escasez de datos de alta calidad

Los datos son la entrada más importante de cualquier modelo de IA, pero con demasiada frecuencia, se presta más atención al tamaño de los datos que a su calidad. Si bien las tendencias actuales con modelos de lenguaje de gran tamaño sugieren que una cantidad cada vez mayor de datos es la clave para obtener modelos y resultados de mayor calidad, sigue siendo una cuestión de investigación abierta si esto seguirá siendo así.

Se ha demostrado que los datos de alta calidad son igual de importantes, si no más, que las grandes cantidades de datos. En determinados casos, si se dispone de un conjunto de datos relativamente pequeño (pero de gran calidad) como punto de partida, se puede aumentar cuidadosamente el número de puntos de datos generando datos sintéticos.

2. Demasiadas soluciones potenciales

Cuando un problema tiene demasiadas posibles soluciones, resolverlo mediante métodos de fuerza bruta (probando exhaustivamente todas las combinaciones) se vuelve poco práctico. Históricamente, este tipo de problemas se ha abordado utilizando heurísticas: reglas simples diseñadas para proporcionar soluciones “lo suficientemente buenas” para la mayoría de los escenarios, aunque rara vez sean óptimas.

La IA ofrece una alternativa prometedora para manejar la complejidad de los problemas con innumerables soluciones potenciales. Sin embargo, a medida que aumenta el número de posibles soluciones, también lo hace el desafío de verificar su calidad.

3. La falta de un objetivo claro y medible

Un objetivo, o función de recompensa, es la meta o resultado que el modelo de IA intenta alcanzar. En otras palabras, se trata de hacerle la pregunta correcta al sistema. Formular lo que usted desea que el modelo haga es una de las partes más difíciles de cualquier sistema de aprendizaje automático. Los juegos como el ajedrez tienen un objetivo claro y medible, como una puntuación o un conjunto de reglas para determinar al ganador, y las iteraciones sin costo permiten que la IA aprenda rápidamente.

Pero en el mundo real, que a menudo es complejo y caótico, no existe una métrica sencilla que podamos utilizar para medir el progreso. Sin un objetivo claro y medible, puede ser difícil definir qué significa que el modelo sea “bueno”. Cuanto más ambiguo sea el objetivo, peor será el rendimiento del modelo.

4. Cuando lo “bueno” no puede codificarse

Los problemas que enfrentan las organizaciones rara vez son estáticos. Combinado con la dificultad de identificar fácilmente si una solución propuesta es buena, la IA corre el riesgo de ofrecer soluciones que se desvíen progresivamente de la respuesta óptima. Una técnica cada vez más adoptada para superar este desafío es el aprendizaje por refuerzo con retroalimentación humana (RLHF, por sus siglas en inglés).

Esta técnica (que incluye a los humanos en el proceso) permite que el modelo aprenda e incorpore conocimientos humanos fuera de los datos. El RLHF es particularmente útil en situaciones donde es difícil codificar una solución algorítmica clara, pero donde los humanos pueden juzgar intuitivamente la calidad de los resultados del modelo.

Un camino equilibrado hacia adelante

A medida que la IA continúa evolucionando, es necesario que las organizaciones aborden su implementación de manera reflexiva.

E

l impacto de la IA, y en particular de la IA generativa, está sintiéndose en todas las industrias. Pero mientras los ejecutivos están entusiasmados con el potencial de esta tecnología, los trabajadores a menudo desconfían de lo que podría significar para ellos, sus trabajos y su futuro. Estas percepciones divergentes están creando nuevas tensiones y presentando nuevos desafíos para ambos grupos.

Estas tensiones tienen su origen (directa o indirectamente) en el acceso a datos contextuales de alta calidad. Los datos son la información que necesitan los algoritmos de aprendizaje automático para funcionar, y la IA está compuesta por estos algoritmos. Por lo tanto, quienes tienen acceso a datos de alta calidad pueden entrenar IA de alta calidad. A menos que los trabajadores y las organizaciones puedan abordar este problema de los datos de una manera significativa y duradera, el conflicto continuará dirimiéndose mediante enfrentamientos y negociaciones parciales.

Las cooperativas de datos ofrecen un camino significativo hacia adelante. Son un modelo organizacional que permite a las personas agrupar sus datos con el propósito de obtener poder de negociación frente a las empresas que analizan sus datos. Estas cooperativas enfatizan el control individual, el uso ético y el trato justo, y permiten a los usuarios conservar la propiedad y el control de su huella digital. Además, en muchos casos, ofrecen la monetización con fines de lucro de los datos de los miembros de la cooperativa, permitiendo que terceros obtengan información de esos datos (de una manera responsable y que preserve la privacidad).

Los datos como un nuevo factor de producción

El impacto de la tecnología en los empleados y sus empleadores suele analizarse como un juego de suma cero entre ambas partes, donde la automatización aumenta las ganancias de los empleadores mientras reduce los puestos de trabajo para los empleados. Sin embargo, la dependencia de la IA de los datos frescos desafía esta visión.

Las organizaciones que dependen de las capacidades actuales de la IA pueden (tarde o temprano) descubrir que los algoritmos que utilizan comienzan a funcionar peor que antes debido a la «decadencia del modelo», es decir, el deterioro del rendimiento de la IA con el tiempo. La razón es que los datos con los que fueron entrenados ya no son representativos de la realidad en la que la IA debe operar.

Nuestras preferencias, contexto, sentido del humor, gustos y modas cambian constantemente. Y nosotros, los humanos, somos necesarios para revelar nuestras preferencias. Los datos más valiosos serán sobre nosotros mismos, y es nuestra interacción con los sistemas digitales la que genera esos datos. Eliminar al ser humano implica eliminar los datos sobre la persona para la cual la IA está diseñada para generar contenido.

Este hecho, que surge únicamente de la naturaleza de la IA y no de otras tecnologías que en el pasado han afectado al mercado laboral, sorprendentemente puede ayudar a alinear las necesidades de los empleadores y los empleados, ya que los empleados humanos son fundamentales para generar nuevos datos que eventualmente impulsen la IA.

Las cooperativas de datos son a los datos lo que los sindicatos son al trabajo

En el contexto laboral, son los conocimientos de primera mano de los empleados, sus habilidades para resolver problemas y sus competencias en evolución las que cambian con cada nuevo desafío e innovación. Por lo tanto, los datos más valiosos para la IA que puede asumir las tareas de los trabajadores provendrán directamente de las tareas que estos realizan.

Es aquí donde las cooperativas de datos ofrecen un nuevo enfoque para la gestión de datos al permitir que los trabajadores sean copropietarios y gestionen sus datos colectivos a través de un proceso de toma de decisiones más o menos descentralizado. Esto sucede porque los miembros de una cooperativa de datos pueden extraer datos que actualmente están aislados en diferentes fuentes y combinarlos en un solo conjunto. La agregación de datos que los miembros generan a partir de diversas fuentes y situaciones puede conducir al desarrollo de nuevos productos, servicios y modelos de negocio que serían inalcanzables mediante contribuciones individuales o utilizando datos de una sola fuente.

Además, una vez que los trabajadores comienzan a ver la monetización de sus datos por parte de las cooperativas, es mucho más probable que reorganicen sus propios procesos para facilitar una mejor recopilación de datos, lo que a su vez puede generar mejores resultados de IA para la organización y mayores ingresos por datos para los trabajadores.

Ahora que los datos se utilizan cada vez más como un factor de producción (es decir, como insumo) en la economía, parece natural que las cooperativas de datos surjan como una solución. Esta es la misma lógica que llevó al desarrollo de los sindicatos en el pasado: la fragmentación de la estructura de propiedad del factor de producción (ya sea datos o trabajo) impide que cualquier individuo tenga poder de negociación frente al empleador.

Lo que esto significa para el futuro de las relaciones laborales

Para que se libere este valor económico (y para que tanto empleadores como empleados prosperen en la economía de los datos) todos los involucrados deben aumentar su nivel de alfabetización en datos. Tanto los trabajadores como los empleadores deben comprender cómo los datos crean valor mediante la agregación y el análisis para revelar información y patrones que puedan mejorar la toma de decisiones y entrenar modelos de IA. Además, los empleados deben comprender cómo contribuyen a la creación y gestión de dichos datos mientras trabajan, y utilizar la influencia colectiva que les otorgan las cooperativas, con el fin de tener una discusión adecuada sobre el futuro del trabajo.

Para aprovechar al máximo los datos que las personas producen y, al mismo tiempo, garantizar que los trabajadores tengan control sobre qué datos ofrecen y reciban una compensación justa por ellos, los empleadores y los empleados deben seguir estos pasos para poder dar forma al futuro de la economía digital y, por ende, al futuro del trabajo:

1. Evaluar los recursos y el potencial de los datos internos de la organización.

Los empresarios y los empleados deben comenzar por realizar una auditoría exhaustiva de los datos que la organización ya recopila y genera, centrándose en identificar los datos que podrían ser valiosos para la formación o el análisis de IA.

2. Involucrar a los empleados en programas de alfabetización en datos.

Las organizaciones pueden implementar programas de capacitación para mejorar la alfabetización en datos de sus empleados. Al formarlos sobre cómo sus actividades diarias generan datos valiosos, la importancia de estos datos en el desarrollo de la IA y cómo pueden participar en cooperativas de datos, se crean conocimientos valiosos.

3. Incorporar cláusulas de cooperativas de datos en los contratos de trabajo.

Al actualizar los contratos de trabajo para incluir cláusulas que reconozcan los derechos de los empleados sobre sus datos y describan cómo pueden utilizarse sus datos en cooperación con las cooperativas de datos, las organizaciones pueden posicionarse como pioneras en este ámbito. Esto garantizaría la transparencia y proporcionaría un marco jurídico para el uso de los datos, y puede ayudar a atraer nuevos talentos.

Dada la naturaleza dinámica de la sociedad, la IA necesitará (al menos en el futuro previsible) los datos y la orientación de los humanos para generar valor real. Por lo tanto, los trabajadores, deben enfocarse en comprender la interacción entre capital, trabajo y datos, y comenzar a guiar la discusión sobre el futuro del trabajo con una comprensión adecuada de la naturaleza de la IA.

Los líderes empresariales también deben comprender las dependencias entre capital, trabajo y datos para proponer proactivamente marcos colaborativos que permitan a las organizaciones (y por ende a la sociedad) prosperar en la era de la IA.