H

oy en día, el desarrollo de la inteligencia artificial está controlado por un pequeño grupo de empresas. Compañías como OpenAI, Alphabet, Amazon, Meta y Microsoft dominan el mercado gracias a sus vastos recursos computacionales, sus enormes bases de datos propias, su gran cantidad de talento técnico, sus prácticas de extracción de datos, su mano de obra barata y su capital, que les permiten realizar experimentos continuos y una rápida implementación.

Este dominio trae consigo problemas: violaciones de privacidad y estrategias laborales orientadas a minimizar costos, altos costos ambientales derivados de los centros de datos y sesgos evidentes en los modelos que pueden reforzar la discriminación en la contratación, la atención médica, la puntuación crediticia, la vigilancia policial y más.

Sin embargo, está surgiendo un modelo diferente, sin mucho alboroto, pero con un potencial real. Las cooperativas de IA (organizaciones que desarrollan o gestionan tecnologías de IA basadas en principios cooperativos) ofrecen una alternativa prometedora. El movimiento cooperativo, con su presencia global y diversidad de modelos, ha tenido éxito en la banca y la agricultura, así como en los seguros y la manufactura. Las empresas cooperativas, que son propiedad de sus miembros y están gobernadas por ellos, llevan mucho tiempo gestionando infraestructuras para el bien público.

Un puñado de cooperativas de IA ofrece los primeros ejemplos de cómo la gobernanza democrática y la propiedad compartida podrían dar forma a usos de tecnología más responsables y centrados en la comunidad. Esto es lo que pueden hacer las cooperativas.

1. Democratizar la gobernanza de datos

Las cooperativas de IA aún son pequeñas y están en desarrollo, pero las que existen dan una idea de cómo podría ser un tipo diferente de infraestructura y gobernanza de datos, y cómo pueden cambiar la forma en que se controlan y se accede a ellos. MIDATA es una cooperativa suiza sin fines de lucro dedicada a los datos de salud, que pone a los ciudadanos al mando de su propia información médica. Los miembros abren una cuenta de datos segura y encriptada, y pueden conceder de forma selectiva a los investigadores acceso a sus datos personales de salud, todo mientras gobiernan la cooperativa de forma democrática a través de su asamblea general. Construida sobre infraestructura de código abierto del ETH Zurich y la Universidad de Ciencias Aplicadas de Bern, MIDATA respalda la creación de cooperativas hermanas regionales o nacionales, permitiendo una investigación justa, transparente y coordinada a nivel global sin sacrificar el control individual.

2. Llevar la investigación a la sociedad civil

Los debates más importantes sobre la IA se desarrollan en círculos elitistas (congresos académicos, centros de pensamiento, laboratorios financiados por capital riesgo). Pero las decisiones que se toman allí tienen consecuencias cotidianas. El movimiento cooperativo está en una posición única para socializar estos debates, llevando la IA a los ayuntamientos, centros comunitarios y asambleas ciudadanas.

3. Impulsar la educación

Cerrar la brecha de conocimiento sobre la IA no es solo una cuestión de traducción, sino también de poder. La Alianza Cooperativa Internacional (la principal organización que representa a los mil millones de personas que participan en cooperativas en todo el mundo) podría liderar el uso de la IA para la educación cooperativa a nivel global. Las cooperativas pueden crear plataformas de aprendizaje multilingües basadas en audio y dotadas de IA, que ofrezcan formación profesional a sus miembros.

4. Construir modelos alternativos de propiedad

La propiedad da forma a la dirección. OpenAI comenzó como una organización sin fines de lucro “para la humanidad”, luego cambió a un modelo de ganancias limitadas para atraer capital de riesgo, un movimiento que fue tanto ideológico como legal. Las cooperativas, por el contrario, utilizan reservas indivisibles y una gobernanza democrática para mantenerse alineadas con sus objetivos a largo plazo.

5. Adaptar críticamente la ia para fines cooperativos

No toda la IA se adapta naturalmente a los modelos cooperativos. Pero en aquellos casos donde sí lo hace (como las cooperativas de plataformas, los bienes comunes de datos y las herramientas de gobernanza), existe un espacio real para construir. El desafío consiste en rediseñar el propio desarrollo de la IA, no simplemente “usar mejor la IA”. Eso significa invertir en infraestructura, marcos legales y formas organizacionales que garanticen la rendición de cuentas desde el principio.

La IA no es simplemente un salto tecnológico: es un reinicio sistémico, uno que definirá cómo operan las instituciones y a quién sirven. Los experimentos cooperativos que se están desarrollando hoy no escalarán de la noche a la mañana. Pero, mediante principios alineados, coordinación global y asociaciones concretas entre los sectores público y privado, pueden ayudar a remodelar el panorama.

L

a automatización ofrece una forma de abordar dos desafíos interconectados para los fabricantes occidentales: el escaso crecimiento de la productividad y la escasez de mano de obra. Pero el progreso ha sido irregular. En los Estados Unidos, solo el 12% de las fábricas cuenta con robots, y apenas el 6% ha automatizado a gran escala. La densidad de robots en los Estados Unidos (295 unidades por cada 10,000 trabajadores) está muy por detrás de Japón (419), Alemania (429), China (470) y Corea del Sur (1,012).

He aquí cinco pasos que han demostrado ser fundamentales para hacer que la automatización funcione.

1. Reconozca que la automatización es un cambio en el modelo de negocio.

Con demasiada frecuencia, la automatización se delega a los equipos de operaciones o ingeniería con poco apoyo interfuncional. Eso es un error. La automatización no es solo un asunto de implementación tecnológica. A menudo requiere rediseñar procesos, reorganizar el trabajo y reestructurar la forma en que las organizaciones toman decisiones.

Los líderes que tienen éxito elevan la automatización a la C-suite. Este tipo de movimientos señalan que la automatización no es un experimento: es parte central de la estrategia. La implicación de los altos ejecutivos también cambia el tono a nivel interno y puede generar credibilidad entre los inversionistas, reguladores y socios. En los lugares con altas tasas de adopción de la automatización, estas prioridades se filtran desde los ejecutivos hasta la planta de producción.

2. Defina un caso de negocio ambicioso y realista.

Una de las razones por las que la automatización tiene dificultades para escalar es la “parálisis piloto”, es decir, las empresas experimentan repetidamente con robots en casos de uso aislados y luego los abandonan cuando los resultados no cumplen con los objetivos de retorno de la inversión a corto plazo.

Muchos modelos de ROI se enfocan solo en los ahorros de costos laborales. Pero eso pasa por alto dos puntos críticos: 1) la automatización puede aliviar la escasez de mano de obra (no solo reemplazar personal), y 2) puede mejorar la calidad, aumentar la disponibilidad de datos y habilitar la flexibilidad operativa.

Estamos observando que los períodos de amortización se están acortando: a menudo de uno a tres años, en comparación con los cinco a siete años del pasado reciente. Con gemelos digitales y plataformas modulares, las empresas ahora pueden simular líneas de producción y validar mejoras antes de comprometerse.

¿La lección? Trate la automatización como cualquier otra transformación empresarial. Defina el “qué”, el “por qué” y el “cómo”, y luego escale con disciplina.

3. Construya una pila tecnológica lista para el futuro.

La mayoría de las fallas en la automatización no son causadas por los robots en sí, sino por errores de integración. Solo entre el 25% y el 30% de los costos totales del sistema están ligados al hardware, el resto corresponde a la configuración del sistema para que funcione con los equipos, la infraestructura de tecnología de la información y los flujos de trabajo existentes.

La fragmentación es el problema más común. Muchas herramientas de automatización son de propósito general por diseño, pero las empresas necesitan que funcionen en entornos muy específicos, a menudo propietarios. Esto conduce a integraciones únicas, interoperabilidad limitada y sistemas insostenibles.

Los datos son el combustible para los robots avanzados, especialmente a medida que los modelos fundacionales y los sistemas impulsados por inteligencia artificial se vuelven más poderosos. Las empresas deben mejorar la documentación, la integración y la transparencia para respaldar la escalabilidad.

4. Adopte un enfoque empresarial para equilibrar el riesgo.

Para escalar la automatización con éxito se requiere una estrategia que abarque toda la empresa, con una cartera de proyectos que equilibre las iniciativas de recuperación rápida con inversiones a más largo plazo. Las estructuras de gobernanza centralizadas para asignar capital y evaluar el progreso, como los directores de automatización o los comités directivos interfuncionales, han demostrado ser efectivas.

5. Invierta en las personas desde el principio y con frecuencia.

La tecnología no genera valor, las personas sí. La automatización solo tendrá éxito si la fuerza laboral está lista para ello.

El temor a que los robots nos quiten el trabajo es real. Una de las claves para el éxito es rediseñar las funciones de ingeniería y producción para que se encarguen de identificar e integrar las nuevas tecnologías.

Esto no es un problema tecnológico. Es un problema de gestión, y es uno que los gerentes pueden resolver.

E

l uso de inteligencia artificial en procesos de recursos humanos es una tendencia nueva y probablemente imparable. A la hora de contratar, hasta el 86% de los empleadores usan entrevistas de trabajo mediadas por la tecnología, una creciente proporción de las cuales son entrevistas de video automatizadas (AVI, por sus siglas en inglés).

Las AVI implican que los candidatos a un puesto de trabajo sean entrevistados por una inteligencia artificial, que les pide grabarse en una plataforma de entrevistas, respondiendo preguntas bajo presión de tiempo. Más adelante, el vídeo se envía a la plataforma de desarrolladores de IA, que procesa los datos del candidato.

Nuestra investigación en curso, aunque en su etapa inicial, descubrió cuatro aspectos clave que los jóvenes candidatos han experimentado con AVI.

1. Las AVI son difíciles de entender

En primer lugar, encontramos que los candidatos a puestos de trabajo estaban confundidos sobre el tipo de entrevista que se les pide que realicen, y más específicamente, el tipo de AVI involucrado. Además, a menudo no sabían cómo iban a ser evaluados por la AVI (algunos pensaban que había reconocimiento facial, cuando no había ninguno en ese caso en particular, por ejemplo). Esta falta de comprensión refleja la preocupación generalizada respecto a que los solicitantes de empleo están mal informados, tanto que algunos gobiernos están empezando a dar consejos legales a los empleadores.

2. Los sentimientos de humanidad se ven disminuidos

Como muchos solicitantes de empleo no entendían la tecnología que se estaba usando, su recurso era desempeñarse de forma rígida, sosteniendo una mirada fija, una sonrisa falsa o una postura antinatural; hablando con voz monótona; y con las manos quietas. Sentían que tenían que comportarse como robots. También notamos que, cuanto más fuerte era el papel que desempeñaba la IA en la entrevista, más candidatos se sentían despersonalizados y hablaban de sus propios comportamientos fijos, rígidos o robóticos. Como resultado, y a menudo por falta de comprensión de lo que se les exigía para pasar la entrevista, los candidatos sentían que su humanidad quedaba disminuida.

3. La tecnología de IA está glorificada

Uno de los factores clave detrás de esta glorificación (los candidatos estaban conformes con comportarse rígidamente y querían “complacer” a la tecnología) eran los mensajes que recibían de las plataformas de contratación que mediaban la relación entre el empleador y los candidatos. De manera consistente, las tres plataformas de contratación que analizamos alabaron el poder selectivo e imparcial de su tecnología y exageraron la validez y confiabilidad de los resultados. Como resultado, los candidatos creían que, si no fueron seleccionados, realmente “era” debido a sus propias características personales, y no porque la tecnología pudiera estar subdesarrollada, sesgada o captando datos en forma inexacta.

4. Las AVI son agotadoras emocional y cognitivamente

Al final, las emociones que resultaron de que los candidatos se comportaran de la manera que creían necesaria para la IA (a pesar del hecho de que ello les resultara altamente antinatural) agotaron su energía tanto emocional como cognitivamente. Esto dio lugar a que algunos candidatos renunciaran a postularse a trabajos que les exigían pasar una entrevista de trabajo automatizada.

En términos generales, nuestra investigación temprana sugiere que la experiencia de los jóvenes que buscan empleo en entrevistas de trabajo basadas en IA es mala. Todos los candidatos experimentaron algún nivel de confusión.

Sugerimos que los administradores de recursos humanos y las plataformas adopten normas rigurosas para explicar la tecnología. Lo que sucede “antes, durante y después” de las entrevistas debe ser comprensible, interpretable y transparente. Es necesario especificar el papel de la IA en la AVI, ya sea que en la entrevista la IA sea pasiva, actúe como apoyo o dirija la entrevista. Un candidato también debe saber si la IA está tomando la decisión final o si un humano va a trabajar con los datos.

H

oy en día, las empresas de todo el mundo están generando cantidades de datos sin precedentes. Durante más de una década, solo empresas como Facebook, Apple, Amazon, Netflix y Google estaban en condiciones de aprovechar la recopilación de datos a gran escala. Para estas empresas, los datos son el producto principal e inherente a su propuesta de valor, por lo que invirtieron desde el principio en equipos de inteligencia artificial, servidores, infraestructura de red y más.

Más recientemente, las plataformas de computación en la nube, las mejoras en las herramientas de IA y la democratización de los modelos de aprendizaje automático han puesto las capacidades avanzadas de datos al alcance de más empresas. A finales de 2021, más de la mitad de todas las empresas habían adoptado la IA en al menos una función comercial, y más de una cuarta parte de todas las empresas reportaron que al menos el 5% de sus ganancias antes de intereses, impuestos, depreciación y amortización, o EBITDA, fueron atribuible a la adopción de IA.

Con las herramientas de IA, las empresas no tecnológicas pueden usar los datos que ya tienen para mejorar las ventas, la logística y las operaciones. He aquí cómo optimizar sus datos y usarlos estratégicamente para obtener ganancias a largo plazo y una ventaja competitiva.

1. Infórmese sobre el uso de datos. El primer paso es comprender qué datos ya tiene. Haga un inventario de sus procesos de negocio. Pregunte:

— ¿Qué registra y graba la empresa?

— ¿Qué no registramos y por qué no?

— ¿Qué información estamos tirando y que podríamos conservar?

Luego, observe las formas en que otras empresas almacenan y utilizan datos similares para mejorar sus funciones comerciales. Por ejemplo, ¿están creando algoritmos de aprendizaje automático para descubrir qué argumentos de venta funcionan mejor y capacitando a sus representantes en función de lo que encuentran? ¿Qué pasa con la cadena de suministro y los datos de logística? ¿Otras empresas utilizan esos datos para crear programas de optimización que enruten el inventario de manera más efectiva?

2. Copie y pegue. Estudie cómo las más recientes empresas tecnológicas obtienen valor de los datos. Estas empresas pueden ofrecer una hoja de ruta para el uso de datos al ayudar a los líderes a comprender cómo las personas que trabajan con datos como su actividad principal están monetizándolos. Considere involucrar a las empresas emergentes en etapa inicial con contratos de prueba de concepto o crear acuerdos de intercambio de datos con empresas emergentes en etapa inicial, para comprender cómo están innovando.

3. Compre, no construya. Siempre que sea posible, usted debería comprar, en lugar de construir, las herramientas que necesita para estructurar y administrar datos. Construir internamente estas herramientas ralentizará el desarrollo de su modelo de aprendizaje automático, y ese es el producto que le ahorrará dinero y lo ayudará a mantenerse por delante de la competencia.

4. Comience a construir un foso de datos. Recopilar grandes cantidades de datos dentro de las funciones comerciales normales puede ayudar a las empresas a comenzar a construir un foso de datos estructurales que pueden utilizar para actividades que generan un mayor valor. Eventualmente, este foso podría llegar a ser tan grande que sea demasiado ancho para que otras empresas lo crucen, por lo que los datos le proporcionarán una ventaja competitiva.

No tire sus datos. Recopile y almacene sus datos para que pueda usarlos para cumplir objetivos comerciales futuros o monetizarlos más adelante.

Las empresas deben aprender cómo usar estratégicamente estas nuevas y poderosas herramientas de IA y aprendizaje automático, y cómo pensar en los datos que las impulsan. Ahí es donde encontrará la ventaja competitiva de la inteligencia artificial.

L

a sabiduría predominante en inteligencia artificial sugiere que los modelos más grandes ofrecen mejores resultados. En nuestro trabajo para compañías de seguros de salud y administradores externos de planes de salud, hemos descubierto que esta suposición se sostiene en muchos casos, pero se desmorona cuando la IA pasa de tareas generales a dominios profesionales especializados.

En este artículo compartimos lo que hemos aprendido sobre cómo los ejecutivos que evalúan inversiones en IA para aplicaciones profesionales de resolución de problemas deben decidir entre modelos de IA generalistas y modelos especializados.

Cuando la escala ofrece el mayor valor

Las ofertas de IA generativa más conocidas como ChatGPT, Claude y Gemini, se basan en modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) y otras tecnologías de IA que se entrenan con texto e imágenes provenientes de innumerables dominios, y por lo tanto parecen capaces de responder prácticamente cualquier pregunta imaginable.

En contraste, los modelos de IA generativa especializados no solo comprenden qué información recuperar, sino también cómo opera esa información dentro del marco de toma de decisiones de un dominio específico. Estas tecnologías de IA generativa agregan datos de entrenamiento altamente contextualizados y metodologías a las capacidades fundamentales de las tecnologías de IA generalistas.

Una arquitectura híbrida como camino hacia el futuro

Nuestra experiencia sugiere que el futuro de la implementación de IA generativa empresarial radica no solo en elegir entre modelos generalistas y especializados, sino también en estrategias de implementación híbrida bien pensadas. Los enfoques más eficaces aprovechan los modelos generalistas para las tareas en las que se destacan, mientras dependen de proveedores especializados para el razonamiento y la toma de decisiones específicas del dominio.

Cómo elegir un proveedor de IA y evitar errores comunes

Dado el buen desempeño que tienen actualmente los mayores LLM en tareas que no son críticas para la misión, es difícil que los líderes empresariales cometan errores graves al elegir entre ellos para tales propósitos. Sin embargo, eso no ocurre cuando se evalúan modelos de IA más especializados. Hemos desarrollado varias preguntas clave que los líderes empresariales pueden formular durante las evaluaciones de proveedores de IA especializada para evitar los errores más comunes:

— ¿Puede el proveedor demostrar claramente la lógica detrás de su IA y hacer que su razonamiento sea transparente?

La pregunta crítica no es si la IA puede procesar información más rápido que los humanos, sino si puede usar esa información de maneras en que sus principales expertos en el dominio puedan confiar, comprender y aprovechar. Busque soluciones que integren marcos de juicio profesional, no solo árboles de decisión, y que puedan explicar por qué priorizan ciertas evidencias.

— ¿El proveedor mantiene una colaboración continua con expertos en su campo? ¿Cómo maneja las prácticas en evolución?

Esto requiere una profunda colaboración entre los desarrolladores de IA y los expertos del dominio, no solo para recopilar datos de entrenamiento, sino también para comprender los marcos subyacentes que guían la toma de decisiones profesionales. Esta pregunta garantiza que su proveedor pueda adaptarse conforme cambian los estándares profesionales, mientras mantiene acceso a la experiencia en el dominio que impulsa la mejora continua.

— ¿La solución propuesta por el proveedor puede abordar la integración entre dominios y la expansión de alcance, o su oferta solo funcionará como una solución puntual?

La clave para captar todo el potencial de la IA radica en comprender y abordar las barreras organizacionales y culturales que enfrentan las iniciativas de IA, en lugar de simplemente desplegar modelos generales más potentes. Esta pregunta ayuda a los líderes a elegir proveedores que anticipan cómo se interconectan las decisiones profesionales entre dominios, y que amplíen sus capacidades conforme evolucionan las necesidades de la organización.

En entornos empresariales de alto riesgo, la experiencia especializada supera a la inteligencia general. Nuestro recorrido desarrollando IA específica para el sector salud nos enseñó que el camino hacia una IA profesional efectiva no radica simplemente en elegir modelos más grandes, sino también en seleccionar soluciones más inteligentes que comprendan cómo piensan, deciden y actúan realmente los profesionales.

L

as herramientas de inteligencia artificial para la gestión del talento tienen el potencial para ayudar a las organizaciones a encontrar mejores candidatos más rápido, proporcionarle a los empleados un desarrollo con mayor impacto y promover la retención a través del involucramiento efectivo de los trabajadores. Sin embargo, la implementación de IA viene con un singular conjunto de desafíos que merecen atención significativa.

Los líderes deben comprender cómo y dónde la IA puede ofrecer una ventaja a su empresa, y cómo anticipar y abordar los desafíos principales en la implementación de la IA para la gestión del talento.

Puntos de dolor de la gestión del talento y la IA en acción

La gestión del talento tiene tres fases principales: atracción de empleados, desarrollo de empleados y retención de empleados. La IA puede ayudar a abordar los puntos de dolor en cada una de estas áreas.

1. Atracción de empleados

Encontrar y contratar a los trabajadores adecuados puede ser laborioso, ineficiente y sujeto a prejuicios. La IA puede ayudar mediante la creación de ofertas de trabajo que se anuncien adecuadamente a los posibles candidatos, la selección eficiente de los candidatos para identificar a los más prometedores y la oferta de procesos que intentan verificar los sesgos humanos. Por ejemplo, la plataforma Pymetrics utiliza IA en herramientas de evaluación de candidatos que miden la demostración de habilidades reales y, como resultado, reducen el sesgo en el proceso de selección.

2. Desarrollo de empleados

Ofrecer a los trabajadores oportunidades de aprendizaje y desarrollo continuo es un aspecto esencial de la gestión del talento. Un punto clave aquí es motivar a los empleados y garantizar que tengan acceso a las oportunidades adecuadas. La IA puede ofrecer soluciones en tiempo real. Por ejemplo, EdApp, un sistema de gestión del aprendizaje basado en IA, proporciona a los empleados recomendaciones de aprendizaje personalizadas con base en análisis de rendimiento y participación y permite a los líderes de recursos humanos crear contenido de microaprendizaje en cuestión de minutos, además de realizar un seguimiento del progreso del alumno y revisar el contenido basado en perspectivas analíticas.

3. Retención de empleados

Finalmente, está la cuestión de cómo asegurarse de que los empleados que contrate y desarrolle se queden. Un aspecto crítico de esto es el compromiso de los empleados. Una encuesta reciente de Gallup muestra que solo el 21% de la fuerza de trabajo global se siente comprometida en su labor.

Varias herramientas de IA pueden ayudar a capturar con precisión y en tiempo real las métricas de compromiso de los empleados, creando soluciones centradas en los empleados para promover el bienestar. Un ejemplo es Microsoft Viva + Glint, una plataforma de experiencia del empleado que combina el análisis de sentimiento con datos de colaboración reales para medir el compromiso y el bienestar de los empleados.

Dónde pueden fallar las herramientas de IA, y cómo mitigar este riesgo

Para aprovechar todo el potencial de la IA para la gestión del talento, los líderes deben considerar qué desafíos de adopción e implementación de la IA pueden enfrentar. A continuación, describimos los desafíos clave, así como las estrategias de mitigación basadas en la investigación para cada uno.

Baja confianza en las decisiones impulsadas por IA

La investigación muestra que las personas a menudo desconfían de la IA por tres razones principales: no entienden cómo funciona la IA, les quita el control de las decisiones y perciben las decisiones algorítmicas como impersonales y reduccionistas.

Las estrategias de mitigación incluyen:

— Fomentar la alfabetización algorítmica: Una forma de reducir la aversión a los algoritmos es ayudar a los usuarios a aprender cómo interactuar con las herramientas de IA. Los líderes de gestión de talentos que usan herramientas de IA para tomar decisiones deben recibir, por ejemplo, capacitación estadística que les permita sentirse seguros al interpretar las recomendaciones algorítmicas.

— Ofrecer oportunidades para el control de decisiones: La investigación sugiere que cuando las personas tienen cierto control sobre la decisión final, son menos reacias a las decisiones algorítmicas. Las personas también están más dispuestas a confiar en las decisiones impulsadas por IA en ámbitos más objetivos. Por lo tanto, decidir qué tipos de decisiones de gestión del talento deben ser informadas por la IA, así como determinar cómo los profesionales de recursos humanos pueden cocrear soluciones trabajando con recomendaciones impulsadas por la IA, será fundamental para mejorar la confianza en la inteligencia artificial

Sesgo de la IA e implicaciones éticas

Aunque la IA puede reducir el sesgo en la toma de decisiones, la IA no está completamente libre de sesgos. Los sistemas de IA generalmente se entrenan utilizando conjuntos de datos existentes, que pueden reflejar sesgos históricos. Dada la vulnerabilidad de la IA al sesgo, las aplicaciones de ésta en la gestión del talento podrían producir resultados que violan los códigos éticos y valores de la organización, perjudicando, en última instancia, el compromiso, la moral y la productividad de los empleados.

Las estrategias de mitigación incluyen:

— Crear procesos internos para identificar y abordar el sesgo en la IA: Para mitigar el sesgo en las tecnologías de IA, es importante crear procesos internos basados en cómo la organización define la equidad en los resultados algorítmicos, además de establecer estándares sobre cuán transparentes y explicables deben ser las decisiones de IA dentro de la organización. Los líderes deben tener cuidado al establecer criterios que no tengan en cuenta la equidad, particularmente para las poblaciones vulnerables. Para abordar esto, los líderes pueden considerar incluir variables como el género y la raza en los algoritmos y establecer diferentes criterios para diferentes grupos a fin de abordar los sesgos preexistentes.

— Crear equipos diversos para diseñar sistemas de IA: La investigación indica que los equipos de ingeniería más diversos crean una IA menos sesgada. Al fomentar la diversidad a lo largo de los procesos de diseño e implementación de IA dentro de su función de gestión del talento, las organizaciones pueden aprovechar perspectivas diversas para minimizar el sesgo de la IA.

Erosión de la privacidad del empleado

Las organizaciones han implementado tecnologías de IA para rastrear a los empleados en tiempo real. Si se implementan de manera deficiente, estas herramientas pueden erosionar gravemente la privacidad y provocar un mayor estrés, además de acelerar el agotamiento, deteriorar la salud mental y disminuir el sentido de agencia de los empleados.

Las estrategias de mitigación incluyen:

— Ser transparente sobre el propósito y el uso de la tecnología de seguimiento: Gartner Research revela que el porcentaje de empleados que se sienten cómodos con ciertas formas de seguimiento del empleador ha aumentado durante la última década. El aumento en la aceptación es mucho mayor cuando los empleadores explican el motivo del seguimiento, creciendo del 30% a 50% cuando los líderes organizacionales discutieron de manera transparente por qué se usaban estas herramientas.

— Hacer que el seguimiento sea informativo, no evaluativo: Investigaciones recientes han descubierto que los empleados aceptan más el seguimiento cuando se realiza únicamente por IA, sin ninguna participación humana. El seguimiento tecnológico permite a los empleados obtener comentarios informativos sobre su propio comportamiento sin temor a evaluaciones negativas. Cuando las herramientas de seguimiento se implementan principalmente para monitorear, erosionan la privacidad y reducen la motivación intrínseca. Por lo tanto, la consideración clave para los líderes debe ser si el seguimiento puede mejorar los resultados informativos para los empleados sin causar problemas de evaluación.

Potencial de riesgo legal

Las leyes nacionales e internacionales que rigen los derechos y responsabilidades relacionados con la IA de los empleadores y los empleados están en evolución constante.

Las estrategias de mitigación incluyen:

— Comprender los actuales marcos legales que regulan el uso de la IA: Es importante que los líderes se mantengan informados sobre los cambios en las regulaciones, especialmente cuando operan negocios en múltiples ubicaciones.

— Establecer un programa proactivo de gestión de riesgos: Las organizaciones deben crear prácticas de gestión de riesgos, como el diseño de sistemas de IA con controles apropiados en varias etapas del proceso de desarrollo del modelo.

Las herramientas de IA pueden hacer que la gestión del talento sea más fácil y justa, pero el proceso de implementación conlleva desafíos. Si los líderes quieren aprovechar al máximo estas herramientas, deben recordarlo.

L

a inteligencia artificial se ha convertido en una asistente invisible que moldea silenciosamente la manera en que buscamos, navegamos, compramos y trabajamos. A medida que las empresas integran cada vez más la IA en sus productos y servicios, surge una pregunta crítica, pero que a menudo se pasa por alto: ¿Por qué algunas personas adoptan la IA con entusiasmo mientras que otras parecen más reacias?

Comprender quién adopta la IA (y por qué) tiene implicaciones para una amplia gama de decisiones empresariales, incluidas las estrategias de adopción organizacional, el diseño de productos y el marketing. He aquí cómo puede aplicarlas.

Evalúe la cultura general sobre IA entre gerentes y empleados

Los gerentes y empleados pueden verse influenciados por su nivel de alfabetización en IA. Una baja alfabetización en IA puede hacer que estén más abiertos a utilizarla en distintas funciones empresariales como contratación, contabilidad, diseño de productos y marketing, incluso si no es necesariamente la solución más óptima. En contraste, aquellos con una mayor alfabetización en IA pueden tener una visión más informada y menos emocional sobre la IA, lo que puede llevar a una mayor cautela o incluso desinterés, no porque piensen que la IA es peor, sino porque les resulta menos novedosa o transformadora.

Al comprender tanto su propia alfabetización en IA como la de sus equipos, los gerentes pueden calibrar mejor cómo abordar la adopción de la IA, evitando el exceso de entusiasmo y la infrautilización.

No asuma que los usuarios más expertos en tecnología son los más receptivos

Si usted está desarrollando o comercializando herramientas impulsadas por IA, nuestros hallazgos deberían hacerlo reflexionar. Estos sugieren que las personas en su mercado objetivo que son más sofisticadas técnicamente, como aquellas con títulos relacionados con la IA, pueden no ser las más receptivas. Especialmente en áreas como la creatividad o el coaching, los clientes objetivo con menor alfabetización en IA pueden ser quienes adopten la tecnología con más entusiasmo.

Adapte su marketing al nivel de alfabetización de su audiencia

Para adaptar el mensaje de manera efectiva, las empresas primero deben evaluar el nivel de alfabetización en IA de su audiencia. Esto puede hacerse a través de encuestas, entrevistas con clientes o indicadores de comportamiento. Herramientas como las nuestras también pueden ayudar a medir rápidamente la alfabetización en IA y ofrecer orientación para la segmentación.

Algunos casos de uso de la IA encajan de forma natural con consumidores expertos en IA. Si sus clientes objetivo dominan la IA, no dependa del factor «sorpresa» para fomentar la adopción. En su lugar, resalte su capacidad, rendimiento o ética. En cambio, si su audiencia objetivo para un producto con IA es el consumidor promedio y su propuesta de valor incluye generar asombro, no desmitifique la tecnología brindando explicaciones técnicas detalladas.

Diseñe productos teniendo en cuenta los diferentes niveles de alfabetización

Usted podría asumir que sus usuarios tienen un sólido conocimiento tecnológico y que pueden manejar diseños de experiencia de usuario sofisticados, o que sus clientes desean la máxima autonomía al usar IA. Pero muchos usuarios simplemente desean simplicidad, claridad y orientación. Un proceso de incorporación efectivo y una experiencia de usuario intuitiva son claves. El éxito de ChatGPT, por ejemplo, tuvo menos que ver con su tecnología subyacente y más con cuán accesible se sintió para los usuarios cotidianos.

Sea transparente y honesto

No interprete nuestros hallazgos como un llamado a mantener a los consumidores desinformados. El uso sostenible y responsable de la IA requiere informar a los consumidores sobre las compensaciones implicadas cuando la IA se utiliza para apoyar o reemplazar el juicio humano, especialmente en ámbitos de alta importancia como la contratación, la atención médica o la educación. Esto incluye saber que los sistemas de IA pueden reflejar o amplificar sesgos existentes, que sus resultados están moldeados por los datos con los que fueron entrenados, y que «automatizado» no significa infalible ni neutral. Depender demasiado de las impresiones intuitivas sobre la IA puede llevar a un uso indebido, una confianza equivocada y a faltas éticas. Las empresas deben asegurarse de que los consumidores estén informados sobre cualquier factor que pueda afectar su bienestar.

P

ara tomar decisiones sobre la importancia relativa y el valor de la IA generativa y la IA analítica, las organizaciones primero deben comprender las diferencias entre ambas tecnologías, así como los distintos beneficios y riesgos asociados con cada una de ellas.

¿En qué se diferencian la IA generativa y la IA analítica?

Distintos propósitos y capacidades.

El propósito principal de la IA generativa es utilizar modelos de redes neuronales de aprendizaje profundo para generar contenido nuevo, como imágenes, texto, música, código de programación o incluso obras de arte completas, que imiten la creación humana. La IA analítica, por otro lado, se refiere a los sistemas de inteligencia artificial basados en el aprendizaje automático estadístico, diseñados para tareas específicas como clasificación, predicción o toma de decisiones basadas en datos estructurados.

Distintos métodos algorítmicos.

En términos de métodos algorítmicos, la IA generativa suele emplear técnicas complejas como transformadores, mecanismos de atención, redes generativas antagónicas y codificadores automáticos variacionales para generar contenido. La IA analítica utiliza una variedad de enfoques de aprendizaje automático generalmente más simples, incluidos el aprendizaje supervisado, el aprendizaje no supervisado y el aprendizaje por refuerzo, así como diversas arquitecturas de redes neuronales adaptadas a tareas específicas.

Distintos tipos de datos.

La IA generativa utiliza texto, imágenes y otros formatos de datos relativamente no estructurados, todos en una secuencia que puede usarse para predecir otras secuencias. La IA analítica emplea datos estructurados, normalmente filas y columnas de números.

Distintos retornos de inversión.

En términos generales, la IA generativa tiene más probabilidades de generar ahorros de costos gracias al aumento de la productividad en la generación de contenido, mientras que la IA analítica puede generar mejores decisiones, ahorros de costos e incrementos en las ventas.

Distintos riesgos.

Las preocupaciones de seguridad en torno a la IA generativa y la IA analítica pueden diferir en función de sus respectivas aplicaciones, capacidades y riesgos potenciales.

Cómo pueden las empresas encontrar el equilibrio adecuado entre la IA generativa y la IA analítica

Las empresas deberán determinar cómo asignar la atención de la dirección, las inversiones y el talento a estos dos ámbitos distintos de la inteligencia artificial. Una consideración principal es cuán familiarizados están los actores clave con los dos tipos de IA. En general, la IA generativa es la que abre puertas. Genera entusiasmo sobre la IA en ejecutivos y profesionales no técnicos, y ofrece pocas barreras de uso. La IA analítica requiere una mayor orientación estadística para utilizarse de manera eficaz, por lo que su audiencia principal son los científicos de datos o personas con perfil cuantitativo. Es probable que esa base de usuarios siempre sea más pequeña que la de la IA generativa, aunque las interfaces de IA generativa pueden facilitar que las personas no técnicas realicen formas simples de modelos analíticos. Sin embargo, los ejecutivos de empresas con grandes volúmenes de datos estructurados, como los servicios financieros, el comercio minorista y las empresas de telecomunicaciones, probablemente estén familiarizados con la IA analítica.

Los factores que describimos a continuación pueden servir como guía para determinar el énfasis relativo en la IA generativa o analítica dentro de una empresa o industria.

Considere su estrategia y modelo de negocio.

¿La actividad principal de la empresa implica crear, vender o distribuir contenido? Si es así, la IA generativa debería ser su enfoque principal.

Considere el formato de los activos de datos exclusivos y patentados.

Si los activos de datos de la empresa son principalmente contenido no estructurado (como texto, imágenes o video), la IA generativa debería tener prioridad. Si, por otro lado, la mayoría de los datos de la empresa son estructurados y numéricos, debería inclinarse hacia la IA analítica.

L

a capacidad de la inteligencia artificial para resolver problemas complejos depende de varios factores que pueden mejorar o dificultar su eficacia. Entre las consideraciones más críticas se encuentran la disponibilidad de datos de alta calidad, el alcance de las posibles soluciones al problema, la claridad del objetivo que se desea alcanzar y la necesidad de adaptarse a sistemas en constante cambio. Cuando estos elementos faltan o están mal definidos, presentan desafíos que requieren enfoques innovadores para superarlos.

1. Escasez de datos de alta calidad

Los datos son la entrada más importante de cualquier modelo de IA, pero con demasiada frecuencia, se presta más atención al tamaño de los datos que a su calidad. Si bien las tendencias actuales con modelos de lenguaje de gran tamaño sugieren que una cantidad cada vez mayor de datos es la clave para obtener modelos y resultados de mayor calidad, sigue siendo una cuestión de investigación abierta si esto seguirá siendo así.

Se ha demostrado que los datos de alta calidad son igual de importantes, si no más, que las grandes cantidades de datos. En determinados casos, si se dispone de un conjunto de datos relativamente pequeño (pero de gran calidad) como punto de partida, se puede aumentar cuidadosamente el número de puntos de datos generando datos sintéticos.

2. Demasiadas soluciones potenciales

Cuando un problema tiene demasiadas posibles soluciones, resolverlo mediante métodos de fuerza bruta (probando exhaustivamente todas las combinaciones) se vuelve poco práctico. Históricamente, este tipo de problemas se ha abordado utilizando heurísticas: reglas simples diseñadas para proporcionar soluciones “lo suficientemente buenas” para la mayoría de los escenarios, aunque rara vez sean óptimas.

La IA ofrece una alternativa prometedora para manejar la complejidad de los problemas con innumerables soluciones potenciales. Sin embargo, a medida que aumenta el número de posibles soluciones, también lo hace el desafío de verificar su calidad.

3. La falta de un objetivo claro y medible

Un objetivo, o función de recompensa, es la meta o resultado que el modelo de IA intenta alcanzar. En otras palabras, se trata de hacerle la pregunta correcta al sistema. Formular lo que usted desea que el modelo haga es una de las partes más difíciles de cualquier sistema de aprendizaje automático. Los juegos como el ajedrez tienen un objetivo claro y medible, como una puntuación o un conjunto de reglas para determinar al ganador, y las iteraciones sin costo permiten que la IA aprenda rápidamente.

Pero en el mundo real, que a menudo es complejo y caótico, no existe una métrica sencilla que podamos utilizar para medir el progreso. Sin un objetivo claro y medible, puede ser difícil definir qué significa que el modelo sea “bueno”. Cuanto más ambiguo sea el objetivo, peor será el rendimiento del modelo.

4. Cuando lo “bueno” no puede codificarse

Los problemas que enfrentan las organizaciones rara vez son estáticos. Combinado con la dificultad de identificar fácilmente si una solución propuesta es buena, la IA corre el riesgo de ofrecer soluciones que se desvíen progresivamente de la respuesta óptima. Una técnica cada vez más adoptada para superar este desafío es el aprendizaje por refuerzo con retroalimentación humana (RLHF, por sus siglas en inglés).

Esta técnica (que incluye a los humanos en el proceso) permite que el modelo aprenda e incorpore conocimientos humanos fuera de los datos. El RLHF es particularmente útil en situaciones donde es difícil codificar una solución algorítmica clara, pero donde los humanos pueden juzgar intuitivamente la calidad de los resultados del modelo.

Un camino equilibrado hacia adelante

A medida que la IA continúa evolucionando, es necesario que las organizaciones aborden su implementación de manera reflexiva.