La conversación sobre Inteligencia Artificial ha cambiado radicalmente en muy poco tiempo. Hace apenas unos años, la mayoría de las organizaciones discutía si la IA llegaría a transformar sus procesos de negocio. Hoy esa discusión prácticamente ha desaparecido: la IA ya forma parte de la realidad empresarial y continúa incorporándose, a gran velocidad, en actividades comerciales, financieras, operativas, administrativas y de soporte.

En un artículo anterior reflexionábamos sobre cómo los Agentes de Inteligencia Artificial están modificando la forma en que las organizaciones ejecutan procesos, toman decisiones y administran riesgos. La conclusión era clara: la IA ya no solo asiste; también planifica, decide y ejecuta acciones con distintos niveles de autonomía.

Sin embargo, esa reflexión conduce inevitablemente a una pregunta aún más importante.

¿Está realmente preparada su organización para gobernar la Inteligencia Artificial?

Puede parecer una pregunta sencilla, pero probablemente sea una de las más difíciles que hoy puede formularse un Directorio o un Comité Ejecutivo, no porque la respuesta sea compleja desde el punto de vista tecnológico, sino porque muy pocas organizaciones han definido con claridad qué significa realmente gobernar la Inteligencia Artificial.

La paradoja de la adopción acelerada

Durante años, las organizaciones concentraron sus esfuerzos en acelerar la transformación digital: nuevas plataformas, procesos automatizados, migración a la nube, uso intensivo de datos. Hoy el fenómeno es distinto: la Inteligencia Artificial ya no constituye únicamente un proyecto tecnológico, sino que se integra, de manera casi imperceptible, en las actividades cotidianas de la organización.

Algunas soluciones llegan mediante proyectos corporativos, otras incorporadas dentro de aplicaciones que la organización ya utiliza, muchas adquiridas directamente por las áreas de negocio para mejorar su productividad, y otras utilizadas por los propios colaboradores como apoyo para elaborar informes, analizar información o automatizar tareas repetitivas.

Esa velocidad genera una situación paradójica.

Mientras más rápidamente incorporan Inteligencia Artificial, más difícil resulta mantener una visión completa sobre su utilización.

Y esa paradoja representa uno de los principales desafíos del Gobierno de IA.

El verdadero problema: gobierno, no tecnología

Cuando se habla de riesgos asociados a la IA, la conversación suele centrarse en los sesgos de los modelos, la privacidad de los datos, la seguridad de la información, la transparencia de los algoritmos o el cumplimiento regulatorio. Todos son temas relevantes, pero existe un desafío anterior y más básico.

Muchas organizaciones todavía no saben con precisión dónde se está utilizando Inteligencia Artificial dentro de su propio negocio.

No por desinterés, ni porque las áreas actúen de forma irresponsable, sino porque la Inteligencia Artificial evoluciona a una velocidad muy superior a la capacidad que tienen las organizaciones para identificarla, comprenderla y administrarla de forma estructurada.

Muchas organizaciones creen que su desafío consiste en adoptar Inteligencia Artificial.

En realidad, su mayor desafío consiste en gobernar la Inteligencia Artificial que ya comenzaron a utilizar. Y esta afirmación tiene una consecuencia directa: no es posible supervisar aquello que no se conoce, mucho menos gobernarlo.

Por eso, el verdadero propósito del Gobierno de IA no consiste únicamente en controlar la tecnología: consiste en asegurar que su utilización sea conocida, evaluada, supervisada y alineada con la estrategia, la gestión de riesgos y los objetivos de la organización. Toda tecnología que participa en decisiones, procesos o servicios críticos deja de ser un asunto exclusivo del área de Tecnología, y pasa a involucrar a la Alta Dirección, a los responsables de negocio, a Riesgos, Cumplimiento, Seguridad de la Información, Auditoría y, en última instancia, al propio Directorio.

La pregunta ya no es únicamente qué herramientas de IA utiliza la organización; la verdadera pregunta es si dispone de la capacidad para ejercer un gobierno consistente sobre ellas.

Cuatro dimensiones antes de construir el modelo

Existe una tendencia natural a pensar que el Gobierno de Inteligencia Artificial comienza con políticas, comités o nuevas estructuras organizacionales. En realidad, comienza mucho antes: comienza formulando las preguntas correctas, porque ninguna organización puede construir un modelo de gobierno sólido si antes no comprende cuál es su situación actual.

Antes de establecer responsabilidades, definir mecanismos de supervisión o diseñar procesos de evaluación, la Alta Dirección necesita responder una pregunta más simple: ¿tenemos realmente visibilidad sobre la forma en que la Inteligencia Artificial está participando en nuestra organización?

Todo modelo sólido de Gobierno de IA se construye sobre cuatro dimensiones fundamentales. Cada una responde a una pregunta distinta que la Alta Dirección debería poder responder antes de definir políticas, controles o mecanismos de supervisión.

  • Visibilidad, para comprender dónde y cómo se utiliza la Inteligencia Artificial.
  • Gobierno, para definir criterios y responsabilidades.
  • Gestión del Riesgo, para evaluar y supervisar los riesgos asociados.
  • Supervisión Estratégica, para asegurar que la Alta Dirección disponga de la información necesaria para ejercer un gobierno efectivo.

Las ocho preguntas que se presentan a continuación no pretenden medir el grado de innovación tecnológica de una organización, ni determinar si tiene un "buen" o un "mal" Gobierno de IA. Su propósito es más práctico: invitar a la Alta Dirección a reflexionar sobre si la organización ya ha comenzado a construir los fundamentos que necesitará para gobernar la Inteligencia Artificial de forma responsable, consistente y alineada con sus objetivos estratégicos.

Las ocho preguntas que toda Alta Dirección debería poder responder

Las organizaciones no construyen un modelo de Gobierno de IA respondiendo cuestionarios, lo construyen formulando las preguntas correctas. Responder afirmativamente no garantiza que la organización disponga de un modelo consolidado, pero responder negativamente a varias de ellas probablemente indique que la IA está evolucionando más rápido que la capacidad de la organización para administrarla.

I. VISIBILIDAD

1. ¿Su organización sabe realmente dónde se está utilizando Inteligencia Artificial?

La primera condición para gobernar cualquier tecnología consiste en conocer dónde se encuentra y cuál es su propósito. Muchas organizaciones solo consideran las soluciones implementadas formalmente por Tecnología, dejando fuera herramientas incorporadas por las áreas de negocio, funcionalidades integradas en aplicaciones existentes e incluso soluciones utilizadas directamente por los colaboradores. La pregunta no es cuántas herramientas de IA posee la organización, sino si existe una visión completa sobre dónde participan y qué procesos pueden influir.

2. ¿Existe un inventario corporativo de las soluciones de IA?

Toda organización mantiene inventarios de activos tecnológicos, aplicaciones críticas o proveedores estratégicos. La Inteligencia Artificial debería recibir el mismo tratamiento. No es posible supervisar aquello que no ha sido identificado, y un inventario no constituye un requisito administrativo: constituye el punto de partida de cualquier modelo de gobierno.

II. GOBIERNO

3. ¿Existen criterios para determinar qué soluciones requieren mayor supervisión?

No toda solución basada en Inteligencia Artificial representa el mismo nivel de exposición. Un asistente para redactar documentos no requiere el mismo nivel de supervisión que una solución que participa en decisiones de crédito, contratación, monitoreo transaccional o atención de clientes. La supervisión debe ser proporcional al impacto potencial que la IA puede tener sobre los objetivos de la organización.

4. ¿Está claramente definido quién responde por cada solución de IA?

Uno de los errores más frecuentes consiste en asumir que toda responsabilidad corresponde al área de Tecnología. Cuando una solución de IA participa en un proceso de negocio, también debería existir un responsable funcional que responda por su utilización, resultados y riesgos. Cuando nadie sabe quién es responsable, tampoco queda claro quién debe supervisar cambios, evaluar incidentes o decidir sobre su continuidad.

III. GESTIÓN DEL RIESGO

5. ¿Se evalúan los riesgos antes de incorporar una nueva solución de IA?

Con frecuencia, la evaluación previa se concentra en aspectos funcionales o tecnológicos. Sin embargo, la incorporación de IA puede modificar la exposición a riesgos operacionales, de continuidad del negocio, seguridad de la información, cumplimiento regulatorio, aspectos legales, reputacionales e incluso riesgos de terceros. Evaluar estos aspectos antes de la implementación permite adoptar decisiones mejor informadas.

6. ¿Existen mecanismos para supervisar cambios relevantes?

La Inteligencia Artificial evoluciona continuamente: los modelos se actualizan, aparecen nuevas funcionalidades y los proveedores modifican sus plataformas con una velocidad muy superior a la de otras tecnologías tradicionales. Por ello, el Gobierno de la Inteligencia Artificial no puede limitarse a una evaluación inicial; debe incorporar mecanismos permanentes de seguimiento.

IV. SUPERVISIÓN ESTRATÉGICA

7. ¿La Inteligencia Artificial forma parte del modelo corporativo de gestión de riesgos?

Mientras la IA siga tratándose exclusivamente como un tema tecnológico, será difícil comprender su impacto sobre el negocio. Cuando participa en procesos críticos, también pasa a formar parte del universo de riesgos organizacionales, y su integración al modelo corporativo de riesgos fortalece la capacidad de anticipación.

8. ¿La Alta Dirección recibe información suficiente para ejercer un Gobierno de IA efectivo?

El Directorio no necesita conocer el funcionamiento técnico de cada algoritmo, pero sí debería conocer qué soluciones de IA participan en procesos críticos, cuáles representan mayor exposición, qué incidentes relevantes se han presentado y qué decisiones requieren supervisión. Ningún órgano de gobierno puede ejercer su función sobre aquello que nunca llega a discutirse.

Más importante que las respuestas son las preguntas

Después de revisar estas ocho preguntas, algunas organizaciones concluirán que ya cuentan con iniciativas relevantes para administrar la Inteligencia Artificial; otras descubrirán aspectos que todavía no habían considerado. Ambas conclusiones son igualmente valiosas, porque el propósito de este ejercicio no es calificar a la organización, sino identificar, antes de que aparezcan incidentes relevantes, aquellos aspectos que todavía requieren atención.

Como ocurre en cualquier disciplina de gestión, los problemas más difíciles rara vez aparecen de forma repentina: generalmente comienzan con pequeñas brechas de gobierno que pasan inadvertidas hasta que su impacto se vuelve visible. El Gobierno de IA no constituye una excepción.

Reflexión para la Alta Dirección

La Inteligencia Artificial continuará evolucionando. Aparecerán nuevos modelos, nuevos agentes y nuevas formas de automatizar decisiones que hoy todavía ni siquiera imaginamos. Sin embargo, algo probablemente no cambiará: la necesidad de que las organizaciones comprendan cómo esas tecnologías participan en sus procesos, influyen en la toma de decisiones y afectan el logro de sus objetivos estratégicos.

Por ello, la pregunta ya no es si una organización utilizará Inteligencia Artificial, sino si desarrollará la capacidad para gobernarla de manera responsable, consistente y alineada con su estrategia.

Las organizaciones que comiencen a desarrollar estas capacidades desde ahora estarán en mejores condiciones para aprovechar su potencial sin perder de vista aquello que nunca debería cambiar: la responsabilidad de la Alta Dirección sobre las decisiones que afectan a la organización y a sus grupos de interés.

Porque, al igual que ocurrió hace años con la gestión de riesgos, la ventaja competitiva ya no estará únicamente en adoptar una nueva disciplina, sino en incorporarla de manera consistente al gobierno de la organización.

En GR&P Consultores

En GR&P Consultores creemos que la Inteligencia Artificial representa una de las transformaciones más importantes para la gestión de riesgos y el gobierno corporativo de las organizaciones. Por ello, ayudamos a nuestros clientes a fortalecer sus modelos de gestión de riesgos no financieros y a desarrollar capacidades de Gobierno de Inteligencia Artificial que permitan adoptar estas tecnologías de forma consistente con la estrategia, la resiliencia operacional y los objetivos del negocio.

Nuestro enfoque integra gobierno corporativo, gestión integral de riesgos, continuidad del negocio, seguridad de la información, ciberseguridad y cumplimiento, con el propósito de que la Inteligencia Artificial fortalezca la toma de decisiones y genere valor de manera sostenible.

Porque gobernar adecuadamente la Inteligencia Artificial no consiste únicamente en administrar una nueva tecnología.

Consiste en fortalecer la capacidad de la organización para tomar mejores decisiones, gestionar sus riesgos y generar valor de manera sostenible. Ese será uno de los grandes desafíos del gobierno corporativo en los próximos años.