L

a IA agéntica se ha convertido rápidamente en una de las áreas más activas del desarrollo de la inteligencia artificial. Los agentes de IA representan un nivel de programación que se sitúa por encima de los modelos de lenguaje de gran tamaño (LLM) y que les permite trabajar hacia objetivos específicos. Esta capa extra de software puede recopilar datos, tomar decisiones, ejecutar acciones y adaptar su comportamiento en función de los resultados. Los agentes pueden interactuar con otros sistemas, aplicar razonamiento y operar de acuerdo con las prioridades y reglas que usted establezca.

Pero quizá el futuro más emocionante de la IA agéntica llegue en la forma de agentes personales, capaces de actuar de manera autodirigida en su nombre. Estos agentes funcionarán como su asistente personal, encargándose de la gestión de su calendario; realizando investigaciones y análisis dirigidos; encontrando, negociando y comprando bienes y servicios; seleccionando contenidos y encargándose de las comunicaciones básicas, al tiempo que aprenden y se optimizan a sí mismos a lo largo del proceso.

La idea de los agentes de IA personales se remonta a décadas atrás, pero la tecnología finalmente parece estar lista para su adopción generalizada. De hecho, empresas líderes ya están ofreciendo prototipos de agentes de IA personales a sus clientes, proveedores y otros grupos de interés, lo que plantea desafiantes cuestiones empresariales y técnicas.

¿Qué podría salir mal?

Piense en un agente de IA personal como alguien a quien usted podría contratar como empleado, contratista u otro tipo de agente en el mundo real. Antes de delegar responsabilidades, usted necesita saber si una persona o una empresa es confiable, honesta, competente y si, por ley, está obligada a velar por sus intereses.

Dependiendo de las funciones que desempeñen sus agentes de IA personales, será esencial disponer de versiones digitales de estos y otros controles. Esto se debe a que los riesgos asociados con empleados y contratistas deshonestos también se aplican a los agentes de IA personales. De hecho, dado el alcance y la velocidad potenciales de la IA agéntica, los usuarios deberán estar aún más seguros de que sus agentes de IA personales son dignos de confianza antes de entregarles las llaves de sus activos más valiosos.

Los riesgos más graves que deben abordarse incluyen:

— Vulnerabilidad frente a delincuentes.

— Manipulación en el comercio minorista por parte de mercadólogos e influencers pagados.

— Preferencia por patrocinadores y anunciantes.

— Susceptibilidad a la desinformación.

Unir soluciones legales, de mercado y técnicas

Una forma de garantizar la honestidad de los agentes de IA, al igual que ocurre con sus contrapartes humanas, es mediante una supervisión cuidadosa, auditorías y la limitación de su autonomía, estableciendo niveles de aprobación en función de la posible escala y el costo de las decisiones delegadas. Sin embargo, implementar una supervisión tan compleja sobre los agentes de IA anularía en gran medida los beneficios de ahorro de tiempo que supone autorizarlos para que actúen en nuestro nombre.

En su lugar, creemos que la necesidad de que los usuarios supervisen de manera minuciosa y constante a los agentes de IA puede reducirse significativamente si se apoya en una combinación de regulación pública y privada, esquemas de seguros, y hardware y software especializados.

¿Cómo empezar?

La tecnología de la IA agéntica ofrece un enorme potencial para hacer la vida más fácil y mejor, no solo para las empresas, sino también para las personas. Aun así, los usuarios no adoptarán agentes de IA a menos que tengan la confianza de que la tecnología es digna de confianza, de que existe tanto supervisión pública como privada sobre el comportamiento de los agentes, y de que hay herramientas adecuadas de monitoreo, reporte y personalización que sean independientes de los propios desarrolladores de los agentes.

Hacerlo bien, como ocurre con cualquier relación fiduciaria, requerirá una asignación clara de derechos y responsabilidades legales, con el respaldo de un mercado sólido de seguros y otras formas de protección de terceros y herramientas de cumplimiento. Los grupos industriales, los desarrolladores tecnológicos, las empresas de servicios al cliente, los emprendedores, los usuarios, los defensores de los consumidores y los legisladores deben unirse ahora para acelerar la adopción de esta tecnología clave.

C

on sus avanzadas capacidades generativas de tipo humano, las herramientas de IA generativa tienen el potencial de mejorar significativamente la productividad y la creatividad de los trabajadores del conocimiento. Sin embargo, sigue siendo un desafío la cuestión de cómo integrar la IA generativa en el trabajo del conocimiento para aprovechar con éxito estas ventajas.

Propongo un marco basado en los principios del “job crafting” (diseño de puestos de trabajo) para identificar las mejores prácticas en el aprovechamiento de las herramientas de IA generativa y apoyar el trabajo del conocimiento, con el objetivo de mejorar tanto la productividad de los trabajadores del conocimiento como la percepción de sus roles.

La IA generativa como herramienta del job crafting

El job crafting se refiere a un proceso iniciado por el empleado para ajustar y moldear los recursos y demandas predominantes de un trabajo con el fin de adaptarlos a sus necesidades y circunstancias.

Los estudios presentados en esta sección ponen de manifiesto el valor de la IA generativa como recurso para el job crafting en diversos ámbitos.

1. Servicio al cliente

En un experimento de campo en el que participaron más de 5,000 agentes de servicio al cliente que trabajan para un proveedor de software de procesos empresariales incluido en la lista Fortune 500, el uso de la herramienta de GenAI GPT-4 derivó en aumentos de productividad (medida por el número de incidencias de clientes resueltas por hora) y de satisfacción laboral. Además, el uso de IA generativa por parte de los agentes mejoró la percepción de los clientes, lo que sugiere que el apoyo de la IA generativa proporcionado a los agentes contribuyó a que las interacciones entre ellos y los clientes fueran más positivas.

2. Escritura y resolución de problemas

Más de 450 profesionales con estudios universitarios participaron en un experimento que consistía en una tarea de escritura, y a la mitad de los participantes se le dio acceso a una herramienta de IA generativa. Los usuarios que utilizaron IA generativa fueron un 40% más rápidos y alcanzaron una calidad de escritura un 18% superior a la de quienes no tenían acceso a la herramienta. El estudio también indicó que los participantes con menor nivel de habilidad tuvieron una mayor mejora en su desempeño al utilizar IA generativa.

3. Software y tecnología

Para evaluar el impacto de GitHub Copilot en los desarrolladores, los desarrolladores profesionales de software fueron divididos en dos grupos para realizar tareas idénticas. Los participantes de uno de los grupos utilizaron GitHub Copilot (un generador de código de software basado en IA generativa), mientras que los del segundo grupo no lo hicieron. Los desarrolladores que usaron la herramienta Copilot fueron un 55% más rápidos en comparación con aquellos que no la usaron. Además, el 59% reportó bajos niveles de frustración, el 60% reportó niveles más altos de satisfacción con su tarea y el 87% de los desarrolladores señaló un menor esfuerzo mental para las tareas repetitivas.

Perspectivas emergentes

De este conjunto de investigaciones surgen dos perspectivas clave:

1. El uso de herramientas de IA generativa quedó a criterio de los trabajadores del conocimiento, en lugar de pedirles que siguieran una secuencia prescrita de instrucciones o pasos. Esta flexibilidad se adapta a las características clave del trabajo del conocimiento que resisten métodos estrictos y predefinidos de ejecución de tareas: no estructurado, basado en el juicio y dinámico.

2. La IA generativa ha demostrado ser particularmente valiosa para cerrar las brechas de experiencia y habilidad que podrían obstaculizar el desempeño de los trabajadores del conocimiento. Estos primeros estudios demuestran que los trabajadores del conocimiento con menos experiencia pueden beneficiarse más del uso de la IA generativa para el job crafting. Esto, a su vez, puede conducir a un aprendizaje acelerado y a aumentos de productividad para los empleados que son nuevos en sus roles, al tiempo que reduce la carga de coaching y apoyo sobre sus colegas con mayor experiencia.

En general, el job crafting con IA generativa es un proceso dinámico y en evolución. Es crucial que los gerentes reconozcan que adoptar el job crafting con IA generativa no es un evento aislado, sino un camino continuo de aprendizaje, innovación y adaptación.

E

n julio, REvil, una banda de ciberdelincuentes rusos, fue capaz de desconectar los sistemas de tecnologías de la información de 800 tiendas de abarrotes suecas, un par de escuelas neozelandesas, dos gobiernos locales de Maryland y otras mil empresas de todo el mundo. Los atacantes descubrieron que Kaseya, un software utilizado por los contratistas de TI para gestionar las redes corporativas de forma remota, tenía numerosas vulnerabilidades de ciberseguridad. Al atacar Kaseya, REvil consiguió una puerta trasera a los sistemas de TI de las numerosas organizaciones a las que el software daba soporte.

Hoy en día, la mayoría de los productos de software dependen de miles de paquetes preescritos producidos por proveedores o extraídos de bibliotecas de código abierto. Los componentes más utilizados en la cadena de suministro de software de terceros son el objetivo de los ciberdelincuentes. Y son vulnerables. Una auditoría realizada en 2020 por Synopsys descubrió que el 49% de las bases de código comerciales utilizan componentes vulnerables de código abierto.

Sin embargo, las empresas no necesitan sentirse indefensas. En los últimos años, los investigadores de seguridad y las agencias de intercambio de información han identificado miles de vulnerabilidades críticas antes de que fueran explotadas por actores maliciosos. Las empresas sólo deben mantenerse informadas, priorizar y atender rápidamente las vulnerabilidades. Las empresas que no abordan las debilidades para las que existe una solución corren un grave riesgo.

Los líderes corporativos y los equipos de TI pueden tomar tres medidas para remediar las vulnerabilidades y prevenir los ciberataques a la cadena de suministro:

1. Los responsables deben confiar más en herramientas automatizadas para solucionar vulnerabilidades sencillas: El repositorio de código en línea GitHub ha desarrollado un “código robot automatizado” que con un solo clic identifica y corrige las vulnerabilidades sencillas de los usuarios. Con la generalización de las listas de materiales de software (SBOM, por sus siglas en inglés), que enumeran los componentes de la cadena de suministro integrados en la base de código de sus productos, se desarrollarán servicios similares. Sin embargo, pocas empresas han incorporado estas herramientas a sus flujos de trabajo informáticos: Sólo 42 de los 1,896 usuarios de GitHub a quienes se contactó respecto a una vulnerabilidad aceptaron el parche automatizado.

2. Las empresas deberían realizar un análisis de costo-beneficio respecto al parcheo de vulnerabilidades: Corregir todas las vulnerabilidades es impráctico, ya que muchos problemas no son fáciles de solucionar. Afortunadamente, no es necesario solucionarlos todos. Muchas vulnerabilidades son tan costosas de aprovechar que es poco probable que sean explotadas por los ciberdelincuentes. Por esta razón, las empresas deberían decidir qué debilidades corregir en función de la probabilidad de que sean explotadas. Una herramienta útil para conseguirlo es el Exploit Prediction Scoring System, desarrollado por un equipo de expertos en ciberseguridad y proveedores de software. Calcula las probabilidades de que una vulnerabilidad sea explotada en función de sus características inherentes y puede ayudar a los gestores de riesgos a determinar si los beneficios en ciberseguridad de solucionar una vulnerabilidad superan las disrupciones que causará su reparación.

3. Los compradores deben exigir a los proveedores de tecnologías críticas que apliquen “parches en caliente”: Algunas tecnologías, como los sistemas de control industrial que hacen funcionar las fábricas y el software que gestiona las redes eléctricas y de distribución de agua, son tan fundamentales que no pueden fallar. Las empresas quieren que estén libres de cualquier vulnerabilidad conocida. Estas empresas deben exigir que sus proveedores implementen de sistemas de parcheo en caliente, permitiéndoles desplegar parches sin reiniciar el software.

Sin duda, estas medidas no protegerán a las empresas contra todos los riesgos de la cadena de suministro de software. Aun así, al adoptar estas medidas, las empresas podrán repeler la mayoría de los ataques, que aprovechan las vulnerabilidades conocidas y explotables.