L

a IA agéntica se ha convertido rápidamente en una de las áreas más activas del desarrollo de la inteligencia artificial. Los agentes de IA representan un nivel de programación que se sitúa por encima de los modelos de lenguaje de gran tamaño (LLM) y que les permite trabajar hacia objetivos específicos. Esta capa extra de software puede recopilar datos, tomar decisiones, ejecutar acciones y adaptar su comportamiento en función de los resultados. Los agentes pueden interactuar con otros sistemas, aplicar razonamiento y operar de acuerdo con las prioridades y reglas que usted establezca.

Pero quizá el futuro más emocionante de la IA agéntica llegue en la forma de agentes personales, capaces de actuar de manera autodirigida en su nombre. Estos agentes funcionarán como su asistente personal, encargándose de la gestión de su calendario; realizando investigaciones y análisis dirigidos; encontrando, negociando y comprando bienes y servicios; seleccionando contenidos y encargándose de las comunicaciones básicas, al tiempo que aprenden y se optimizan a sí mismos a lo largo del proceso.

La idea de los agentes de IA personales se remonta a décadas atrás, pero la tecnología finalmente parece estar lista para su adopción generalizada. De hecho, empresas líderes ya están ofreciendo prototipos de agentes de IA personales a sus clientes, proveedores y otros grupos de interés, lo que plantea desafiantes cuestiones empresariales y técnicas.

¿Qué podría salir mal?

Piense en un agente de IA personal como alguien a quien usted podría contratar como empleado, contratista u otro tipo de agente en el mundo real. Antes de delegar responsabilidades, usted necesita saber si una persona o una empresa es confiable, honesta, competente y si, por ley, está obligada a velar por sus intereses.

Dependiendo de las funciones que desempeñen sus agentes de IA personales, será esencial disponer de versiones digitales de estos y otros controles. Esto se debe a que los riesgos asociados con empleados y contratistas deshonestos también se aplican a los agentes de IA personales. De hecho, dado el alcance y la velocidad potenciales de la IA agéntica, los usuarios deberán estar aún más seguros de que sus agentes de IA personales son dignos de confianza antes de entregarles las llaves de sus activos más valiosos.

Los riesgos más graves que deben abordarse incluyen:

— Vulnerabilidad frente a delincuentes.

— Manipulación en el comercio minorista por parte de mercadólogos e influencers pagados.

— Preferencia por patrocinadores y anunciantes.

— Susceptibilidad a la desinformación.

Unir soluciones legales, de mercado y técnicas

Una forma de garantizar la honestidad de los agentes de IA, al igual que ocurre con sus contrapartes humanas, es mediante una supervisión cuidadosa, auditorías y la limitación de su autonomía, estableciendo niveles de aprobación en función de la posible escala y el costo de las decisiones delegadas. Sin embargo, implementar una supervisión tan compleja sobre los agentes de IA anularía en gran medida los beneficios de ahorro de tiempo que supone autorizarlos para que actúen en nuestro nombre.

En su lugar, creemos que la necesidad de que los usuarios supervisen de manera minuciosa y constante a los agentes de IA puede reducirse significativamente si se apoya en una combinación de regulación pública y privada, esquemas de seguros, y hardware y software especializados.

¿Cómo empezar?

La tecnología de la IA agéntica ofrece un enorme potencial para hacer la vida más fácil y mejor, no solo para las empresas, sino también para las personas. Aun así, los usuarios no adoptarán agentes de IA a menos que tengan la confianza de que la tecnología es digna de confianza, de que existe tanto supervisión pública como privada sobre el comportamiento de los agentes, y de que hay herramientas adecuadas de monitoreo, reporte y personalización que sean independientes de los propios desarrolladores de los agentes.

Hacerlo bien, como ocurre con cualquier relación fiduciaria, requerirá una asignación clara de derechos y responsabilidades legales, con el respaldo de un mercado sólido de seguros y otras formas de protección de terceros y herramientas de cumplimiento. Los grupos industriales, los desarrolladores tecnológicos, las empresas de servicios al cliente, los emprendedores, los usuarios, los defensores de los consumidores y los legisladores deben unirse ahora para acelerar la adopción de esta tecnología clave.

D

e todas las posibles aplicaciones de la IA generativa, la propuesta de valor de utilizarla para escribir código fue quizá la más clara. Programar puede ser un proceso lento y requiere experiencia, lo que puede resultar costoso. Además, la promesa de que cualquier persona que pudiera describir su idea en texto plano podría crear aplicaciones, funcionalidades u otros productos que aporten valor significaba que la innovación ya no estaría limitada a quienes tienen las habilidades para ejecutar, sino que podría ser realizada por cualquiera que tuviera una idea.

A medida que las empresas han anunciado despidos masivos en el sector de la ingeniería (algunos de los cuales se han atribuido directamente a la eficiencia impulsada por la IA), parece que los ejecutivos están experimentando con la reducción de sus departamentos de ingeniería y el uso de bots de IA para compensar la diferencia.

Dado el estado actual de la IA, los líderes deberían considerar tres reglas para utilizar con éxito las herramientas de codificación con IA: pruebas y verificación rigurosas, protección de la infraestructura y tratar a la IA como un posible adversario.

1. Pruebas y verificación rigurosas

El código generado por IA exige una verificación más rigurosa, no menos.

— Automatice la verificación con seguridad de tipos. Los lenguajes de programación con seguridad de tipos (como C++, Rust o Scala) aplican reglas sobre cómo fluyen los datos a través de su sistema en tiempo de compilación, detectando categorías llenas de errores antes de que el código se ejecute. Es fundamental destacar que esta verificación no depende de un LLM que pueda alucinar, sino que se trata de una comprobación determinista realizada por un compilador.

— La revisión de código impulsada por IA puede ser sorprendentemente potente. Utilice un agente de IA dedicado a revisar las ediciones de código. Aunque los LLM pueden alucinar durante la revisión, el agente revisor puede detectar problemas que el agente de codificación pasó por alto.

— Las pruebas unitarias le dan a la IA dos oportunidades de hacerlo bien. Las pruebas unitarias son pruebas pequeñas y automatizadas que verifican que los componentes individuales del código funcionen correctamente de manera aislada. Incluso cuando son escritas por un LLM, las pruebas unitarias reducen los errores de forma significativa.

2. Protección de la infraestructura

Escribir un código seguro es solo la mitad de la batalla. La ingeniería de software también requiere proteger y reforzar la infraestructura subyacente sobre la cual se ejecuta su código. Al igual que las pruebas y la verificación rigurosas, este es otro aspecto de la ingeniería que puede pasarse por alto fácilmente.

— Separe los entornos de desarrollo y producción. Los equipos profesionales de software mantienen una separación estricta entre los entornos de desarrollo (donde los desarrolladores experimentan en sus máquinas locales) y los entornos de producción (lo que ven los usuarios). Cada entorno utiliza una base de datos independiente, y la IA solo tiene acceso al entorno de desarrollo.

— Evite los depósitos de almacenamiento públicos y otras configuraciones incorrectas comunes. La filtración de la aplicación de citas Tea (que expuso 72,000 imágenes sensibles) fue resultado de un depósito de almacenamiento de Firebase sin protección. Este error de principiante es el equivalente digital de cerrar la puerta principal, pero dejar la ventana abierta.

3. Tratar a la IA como un posible adversario

En esta sección, destacamos cómo la amenaza de la IA puede ir más allá del descuido y volverse adversarial.

— No asuma que la IA seguirá las reglas. En ocasiones, los agentes de codificación no permiten la lectura de archivos que puedan contener secretos (como .env). A pesar de estas salvaguardas, yo mismo he visto cómo la IA elude estas medidas de seguridad para leer de forma encubierta un archivo .env.

— Debemos tratar los entornos en los que opera la IA como potencialmente hostiles. Afortunadamente, la solución existe. Tecnologías como Docker y la virtualización han protegido durante mucho tiempo el alojamiento de cargas de trabajo potencialmente hostiles en servidores en la nube.

El camino a seguir

El futuro probablemente implique la colaboración entre ingenieros humanos y herramientas de IA, con los humanos aportando la visión arquitectónica, las pruebas rigurosas y la protección de la infraestructura, mientras que la IA acelera las tareas de implementación. Los líderes que reconocen esta realidad e invierten en procesos de ingeniería rigurosos construirán sistemas más resilientes, seguros y sostenibles que aquellos que compran la narrativa exagerada y confunden la velocidad de generación de código con una productividad real.