En la alta dirección, ¿quién debería ser responsable de la IA?

L

a IA agéntica (sistemas autónomos, orientados a objetivos, conscientes del contexto, capaces de llamar a otras herramientas de software, tomar decisiones complejas y ejecutar acciones) está generando una disputa por el control en la alta dirección. La cuestión de quién controla la IA es el tema crítico en el organigrama al inicio de la era de la IA, e influirá en la estrategia de una empresa, en sus niveles de inversión y en la distribución del poder y la influencia entre sus líderes.

Esta lucha por la influencia no es un problema nuevo. Uno de los marcos más reveladores para comprenderla fue desarrollado por el sociólogo Andrew Abbott en “The System of Professions”. Él observó que las profesiones ganan las disputas jurisdiccionales al plantear los problemas de tal manera que su experiencia se vuelve indispensable. Eso es lo que está ocurriendo hoy en día en la alta dirección.

El argumento del director de sistemas de información (CIO) se basa en la infraestructura. Es necesario desarrollar agentes de IA, integrarlos en los sistemas existentes, protegerlos frente a nuevas vulnerabilidades y mantenerlos a gran escala. La creación y el funcionamiento de estos sistemas requieren competencia técnica y una gestión responsable.

El director de operaciones (COO) considera que la IA agéntica forma parte de las operaciones centrales de la empresa. Los agentes se integrarán en los flujos de trabajo, y los flujos de trabajo son operaciones. El COO sostiene que los agentes existen para ejecutar procesos empresariales y que la optimización de dichos procesos es la razón de ser de esa función.

La afirmación del director de recursos humanos (CHRO) resulta conceptualmente provocadora. En la práctica, los agentes constituyen una nueva categoría de trabajadores. Es necesario entrenarlos con conocimientos específicos de la empresa, integrarlos en la cultura corporativa, supervisarlos durante su implementación, evaluar su rendimiento y emparejarlos con colegas humanos, de modo que se preserve la moral, la cultura y el conocimiento institucional. Además, complicarán muchos aspectos de la gestión del personal humano, creando obstáculos que el departamento de recursos humanos tendrá que gestionar.

El argumento del director financiero (CFO) se basa en la responsabilidad económica. Los agentes acabarán modificando las aprobaciones, los precios, la utilización de los activos y el gasto de la empresa de formas que afecten a las cifras. Los agentes que están autorizados a comprometer a la empresa en un pago, un contrato, una decisión crediticia o un reembolso deben rendir cuentas desde el punto de vista financiero.

Los responsables de riesgos y asuntos jurídicos consideran que los sistemas autónomos suponen una nueva forma de riesgo de fallo, responsabilidad civil y exposición regulatoria. Cuando los agentes de IA niegan una solicitud de préstamo o de empleo, rechazan una reclamación de seguro o se ven implicados en un accidente automovilístico, pueden derivarse litigios y un escrutinio regulatorio.

Por último, el director de datos (CDO) señala que todas las demás funciones dependen de los datos. Dado que los agentes procesan la información, la fiabilidad de sus resultados depende de la de sus datos de entrada. El hecho de quién tiene acceso a qué datos y bajo qué normas de gobernanza determinará si un agente funciona, y si lo hace de forma segura.

Cada una de estas reclamaciones es razonable.

Cuando múltiples líderes tienen reclamaciones legítimas sobre la misma jurisdicción, las organizaciones suelen recurrir a una de cuatro respuestas:

— Asignarlo al líder más capacitado.

— Cederlo a quien ejerce más presión.

— Delegarlo a un comité.

— Transferirlo a quien ya cuenta con presupuesto.

Sin embargo, ninguna de estas opciones funcionará para la IA agéntica. Es necesario cambiar la discusión de la propiedad total hacia la creación de derechos de decisión granulares y explícitos. Una cosa es que el CIO diga “yo soy responsable del stack tecnológico”. Otra muy distinta es especificar que el CIO es el responsable de la selección del modelo base, por ejemplo.

Para lograr este cambio de propiedad a derechos de decisión, las empresas deberán implementar un mapa de decisiones y rendición de cuentas. Esto implica identificar las decisiones críticas y asignar cada una a un ejecutivo específico. Reducir las fricciones jurisdiccionales requerirá derechos de decisión claros y una asignación inequívoca de responsabilidades. Pero un mapa es tan bueno como el proceso que lo mantiene, lo que significa que alguien debe ser responsable de la capa de coordinación en sí misma.