¿Se puede confiar en los agentes de IA?
L
a IA agéntica se ha convertido rápidamente en una de las áreas más activas del desarrollo de la inteligencia artificial. Los agentes de IA representan un nivel de programación que se sitúa por encima de los modelos de lenguaje de gran tamaño (LLM) y que les permite trabajar hacia objetivos específicos. Esta capa extra de software puede recopilar datos, tomar decisiones, ejecutar acciones y adaptar su comportamiento en función de los resultados. Los agentes pueden interactuar con otros sistemas, aplicar razonamiento y operar de acuerdo con las prioridades y reglas que usted establezca.
Pero quizá el futuro más emocionante de la IA agéntica llegue en la forma de agentes personales, capaces de actuar de manera autodirigida en su nombre. Estos agentes funcionarán como su asistente personal, encargándose de la gestión de su calendario; realizando investigaciones y análisis dirigidos; encontrando, negociando y comprando bienes y servicios; seleccionando contenidos y encargándose de las comunicaciones básicas, al tiempo que aprenden y se optimizan a sí mismos a lo largo del proceso.
La idea de los agentes de IA personales se remonta a décadas atrás, pero la tecnología finalmente parece estar lista para su adopción generalizada. De hecho, empresas líderes ya están ofreciendo prototipos de agentes de IA personales a sus clientes, proveedores y otros grupos de interés, lo que plantea desafiantes cuestiones empresariales y técnicas.
¿Qué podría salir mal?
Piense en un agente de IA personal como alguien a quien usted podría contratar como empleado, contratista u otro tipo de agente en el mundo real. Antes de delegar responsabilidades, usted necesita saber si una persona o una empresa es confiable, honesta, competente y si, por ley, está obligada a velar por sus intereses.
Dependiendo de las funciones que desempeñen sus agentes de IA personales, será esencial disponer de versiones digitales de estos y otros controles. Esto se debe a que los riesgos asociados con empleados y contratistas deshonestos también se aplican a los agentes de IA personales. De hecho, dado el alcance y la velocidad potenciales de la IA agéntica, los usuarios deberán estar aún más seguros de que sus agentes de IA personales son dignos de confianza antes de entregarles las llaves de sus activos más valiosos.
Los riesgos más graves que deben abordarse incluyen:
— Vulnerabilidad frente a delincuentes.
— Manipulación en el comercio minorista por parte de mercadólogos e influencers pagados.
— Preferencia por patrocinadores y anunciantes.
— Susceptibilidad a la desinformación.
Unir soluciones legales, de mercado y técnicas
Una forma de garantizar la honestidad de los agentes de IA, al igual que ocurre con sus contrapartes humanas, es mediante una supervisión cuidadosa, auditorías y la limitación de su autonomía, estableciendo niveles de aprobación en función de la posible escala y el costo de las decisiones delegadas. Sin embargo, implementar una supervisión tan compleja sobre los agentes de IA anularía en gran medida los beneficios de ahorro de tiempo que supone autorizarlos para que actúen en nuestro nombre.
En su lugar, creemos que la necesidad de que los usuarios supervisen de manera minuciosa y constante a los agentes de IA puede reducirse significativamente si se apoya en una combinación de regulación pública y privada, esquemas de seguros, y hardware y software especializados.
¿Cómo empezar?
La tecnología de la IA agéntica ofrece un enorme potencial para hacer la vida más fácil y mejor, no solo para las empresas, sino también para las personas. Aun así, los usuarios no adoptarán agentes de IA a menos que tengan la confianza de que la tecnología es digna de confianza, de que existe tanto supervisión pública como privada sobre el comportamiento de los agentes, y de que hay herramientas adecuadas de monitoreo, reporte y personalización que sean independientes de los propios desarrolladores de los agentes.
Hacerlo bien, como ocurre con cualquier relación fiduciaria, requerirá una asignación clara de derechos y responsabilidades legales, con el respaldo de un mercado sólido de seguros y otras formas de protección de terceros y herramientas de cumplimiento. Los grupos industriales, los desarrolladores tecnológicos, las empresas de servicios al cliente, los emprendedores, los usuarios, los defensores de los consumidores y los legisladores deben unirse ahora para acelerar la adopción de esta tecnología clave.
© 2026 Harvard Business School Publishing Corp. | De: hbr.org | Distribuido por: The New York Times Syndicate.
Artículo en inglés
Agentic AI has quickly become one of the most active areas of artificial intelligence development. AI agents are a level of programming on top of large language models (LLMs) that allow them to work toward specific goals. This extra layer of software can collect data, make decisions, take action and adapt its behavior based on results. Agents can interact with other systems, apply reasoning and work according to priorities and rules set by you as the principal.
But perhaps the most exciting future for agentic AI will come in the form of personal agents, which can take self-directed action on your behalf. These agents will act as your personal assistant, handling calendar management, performing directed research and analysis, finding, negotiating for, and purchasing goods and services, curating content and taking over basic communications, learning and optimizing themselves along the way.
The idea of personal AI agents goes back decades, but the technology finally appears ready for prime-time. Already, leading companies are offering prototype personal AI agents to their customers, suppliers and other stakeholders, raising challenging business and technical questions.
WHAT COULD GO WRONG?
Think of a personal AI agent as someone you might hire as an employee, contractor or other real-world agent. Before delegating responsibility, you need to know if a person or business is reliable, honest, capable and required by law to look out for you.
Depending on the duties of your personal AI agents, digital versions of these and other controls will be essential. That’s because the risks of bad employees and contractors apply to personal AI agents, too. Indeed, given the potential scope and speed of agentic AI, users will need to be even more confident that their personal AI agents are trustworthy before turning over the keys to their most valuable assets.
The most serious risks that must be addressed include:
—Vulnerability to criminals
—Retail manipulation by marketers and paid influencers
—Preference for sponsors and advertisers
—Susceptibility to misinformation
BRINGING TOGETHER LEGAL, MARKET, AND TECHNICAL SOLUTIONS
One way to keep AI agents honest, just as with their human counterparts, is careful supervision, auditing and limiting autonomy by establishing levels of approval based on the potential scale and cost of delegated decisions. Implementing such complex oversight over AI agents, however, would largely defeat the time-saving benefits of authorizing them to act on our behalf in the first place.
Instead, we believe the need for tedious micromanagement of AI agents by their users can be minimized by applying a combination of public and private regulation, insurance and specialized hardware and software.
GETTING STARTED
Agentic AI technology holds tremendous promise for making life easier and better, not only for enterprises but for individuals as well. Still, users will not embrace AI agents unless they are confident the technology can be trusted, that there is both public and private oversight of agent behavior, and appropriate monitoring, reporting and customization tools that are independent of the developers of the agents themselves.
Getting it right, as with any fiduciary relationship, will require a clear assignment of legal rights and responsibilities, supported by a robust market for insurance and other forms of third-party protection and enforcement tools. Industry groups, technology developers, consumer services companies, entrepreneurs, users, consumer advocates and lawmakers must come together now to accelerate adoption of this key technology.
La IA generativa podría solucionar las evaluaciones de desempeño (o empeorarlas aún más)
La IA puede alejar las evaluaciones de desempeño de las narrativas laborales y acercarlas a evidencia directa del trabajo en la práctica.
Es difícil utilizar la IA en equipo. Estas 3 prácticas pueden ayudar
He aquí tres prácticas que pueden ayudar a desarrollar la «química humano-IA en los equipos» a medida que evoluciona el lugar de trabajo.
¿Cuáles son los problemas de su empresa en materia de IA?
El “Ethical Nightmare Challenge” (ENC) es un marco de trabajo que puede integrarse con programas existentes de gestión de riesgos de IA.
