BSP establece principios de gobernanza para el uso responsable y ético de la IA por parte de los bancos

Las instituciones financieras FILIPINAS deben desarrollar marcos de gobernanza de inteligencia artificial (IA) que reflejen el alcance y la complejidad del uso de estas tecnologías emergentes en sus operaciones para gestionar los riesgos potenciales y establecer salvaguardas para un uso ético, dijo el Bangko Sentral ng Pilipinas (BSP).

El BSP, a través del Memorando No. M-2026-031 con fecha del 24 de junio, emitió un documento de orientación titulado "Principios de Gobernanza para la Inteligencia Artificial en Servicios Financieros" que las instituciones financieras supervisadas por el BSP (BSFIs) pueden utilizar para elaborar sus propias políticas de IA.

"A medida que la inteligencia artificial continúa avanzando e integrándose en el sector financiero, las instituciones financieras deben establecer controles y salvaguardas efectivos contra los riesgos inherentes a la adopción de la IA, como las preocupaciones sobre la privacidad de datos, los sesgos que llevan a prácticas injustas y discriminatorias, y el uso indebido de la tecnología, entre otros", dijo la Gobernadora Adjunta del BSP, Lyn I. Javier.

"Se recomienda que las instituciones financieras desarrollen formalmente su propio Marco de Gobernanza de IA, proporcional a la naturaleza, alcance, escala, complejidad y materialidad de sus sistemas de IA, así como a la complejidad operativa general y el perfil de riesgo de la institución, siguiendo los principios establecidos en el documento de orientación."

La señora Javier dijo que contar con estos controles garantizará que las instituciones puedan utilizar la IA de forma segura y aprovechar sus beneficios. "En última instancia, el uso ético y responsable de la IA puede fomentar la confianza, fortalecer la resiliencia y promover la innovación sostenible dentro del ecosistema financiero."

"Si bien el BSP reconoce el significativo potencial de estas tecnologías, hace hincapié en la importancia de mantener los más altos estándares de ética, transparencia y rendición de cuentas a lo largo del ciclo de vida del sistema de IA, particularmente cuando la IA se integra en las operaciones estratégicas de las instituciones financieras", agregó el BSP.

El documento de orientación describe las expectativas mínimas de supervisión para la adopción de la IA, pero el BSP señaló que estos principios no son vinculantes y el cumplimiento es voluntario, ya que el regulador indicó que corresponde a las BSFIs formular sus propias políticas de gobernanza de IA y marcos de gestión de riesgos.

Esto se debe a que reconoce que las instituciones financieras se encuentran en diferentes etapas de madurez en IA, lo que significa que su exposición al riesgo varía. Añadió que los marcos de gobernanza de IA pueden ayudar a abordar los riesgos operacionales, de tecnología de la información (TI), de modelos, de conducta de mercado, reputacionales, estratégicos y legales asociados con el uso de la IA.

Además de las BSFIs, los principios también cubren a los proveedores o proveedores de servicios externalizados que apoyan las actividades relacionadas con la IA de estas instituciones bajo un modelo de responsabilidad compartida.

Por su parte, el marco de Gestión de Riesgos de TI existente del BSP cubre las tecnologías emergentes, ya que se centra en la seguridad de la información, la externalización y la gestión de proyectos. También publicará un marco de Gestión de Riesgos de Modelos que se centrará en la equidad algorítmica y los riesgos de modelos a lo largo de todo el ciclo de vida del modelo, utilizando un enfoque proporcional y basado en el riesgo.

El BSP señaló que la gobernanza de la IA en el sector financiero debe regirse por los principios STARS, que corresponden a sostenibilidad, transparencia, rendición de cuentas (accountability), responsabilidad y seguridad.

Estos principios deben considerarse en cada etapa del ciclo de vida del sistema de IA: planificación, desarrollo, validación, despliegue y monitoreo.

En cuanto a la sostenibilidad, las BSFIs deben garantizar que sus soluciones de IA sean "materialmente" beneficiosas para todo el ecosistema financiero, ambiental y social, dijo el banco central. El desarrollo de estos sistemas de IA debe apuntar a minimizar las huellas de carbono, optar por la eficiencia energética y ser "centrado en el ser humano".

El BSP añadió que, en materia de transparencia, la información relevante y necesaria debe estar disponible y adaptada al conocimiento y la experiencia de los usuarios o partes interesadas previstos. Estos principios de transparencia también deben aplicarse a los proveedores externos.

"Para evitar la dependencia ciega de las recomendaciones del sistema de IA, los usuarios deben estar capacitados para responder preguntas como 'cómo' se obtuvo el resultado y 'por qué' se realizó una recomendación."

El banco central señaló que las BSFIs deben contar con un inventario centralizado de sistemas de IA, y los usuarios deben  ser notificados cuando el resultado de la IA se esté utilizando en el producto o esté incluido en el proceso.

También deben contar con documentación sobre el proceso de diseño, el proceso de toma de decisiones, el seguimiento y la resolución de errores, y las opciones en la construcción de algoritmos y fuentes de datos para garantizar la auditabilidad de estos sistemas. Las BSFIs también deben asegurarse de que los riesgos, errores e incertidumbres identificados tengan procedimientos de mitigación claramente definidos.

"Se debe realizar una revisión periódica de todos los sistemas de IA para el monitoreo y la evaluación adecuados de las partes interesadas."

En cuanto a la rendición de cuentas, el BSP señaló que las instituciones deben definir claramente la responsabilidad entre la dirección, los desarrolladores y todas las partes interesadas relevantes, enfatizando la importancia de contar con un ser humano en el proceso.

"Si bien los sistemas de IA proporcionan recomendaciones, los seres humanos son en última instancia responsables de las decisiones tomadas. El resultado de los sistemas de IA no debe reemplazar ni disminuir la responsabilidad humana", señaló.

La supervisión humana y la adecuada segregación de roles y responsabilidades deben integrarse a lo largo del ciclo de vida del sistema de IA, y quienes son responsables del desarrollo y despliegue de la IA deben tener suficiente experiencia y competencia, dijo el banco central.

El BSP también debe poder monitorear, supervisar y revisar el desarrollo y el despliegue del algoritmo y la tecnología de IA.

En materia de responsabilidad y equidad social o uso ético de la IA, el banco central señaló que el sistema de IA debe evitar prácticas injustas o daños potenciales a los usuarios, la institución y el ecosistema financiero en general. Esto abarca las preocupaciones sobre la privacidad de datos y la prevención de posibles sesgos contra cualquier grupo demográfico, particularmente en minorías o grupos vulnerables, mediante datos de entrenamiento adecuados.

Añadió que las BSFIs deben "garantizar que el objetivo principal del sistema de IA sea contribuir positivamente al bienestar del individuo y apoyar el bien mayor del sistema financiero."

Por último, en materia de seguridad, las BSFIs deben contar con rigurosos controles de ciberseguridad y calidad de datos, dijo el banco central. Deben realizar evaluaciones periódicas basadas en el riesgo para identificar posibles vulnerabilidades en los sistemas de IA y contar con controles de mitigación de riesgos, pruebas de sistemas y procedimientos de respuesta a incidentes que también cubran sus modelos y sistemas de IA.

Añadió que deben "monitorear y evaluar periódicamente la calidad de los datos y el rendimiento del modelo para detectar anomalías (como sesgos y alucinaciones) de manera temprana."

"La precisión, fiabilidad y efectividad general del sistema de IA dependen de la calidad de sus conjuntos de datos."

Las directrices impulsan a los bancos hacia una gobernanza formal de la IA con estándares claros sobre transparencia, rendición de cuentas, equidad, seguridad y supervisión humana, en lugar de una gestión improvisada de la IA, dijo el Investigador Principal Sénior del Instituto Filipino de Estudios para el Desarrollo, John Paolo R. Rivera, en un mensaje de Viber.

"El memorando es oportuno porque los bancos ya están utilizando la IA para la calificación crediticia, la detección de fraudes, el servicio al cliente, el cumplimiento normativo y la gestión de riesgos", dijo.

Los bancos más grandes ya cuentan con medidas contra los riesgos de modelos, ciberseguridad, privacidad de datos y sistemas de cumplimiento, mientras que los prestamistas más pequeños pueden necesitar mejorar aspectos de su gobernanza, como el inventario de IA, la documentación, la validación independiente, la supervisión de proveedores y las pruebas de sesgo. — Aaron Michael C. Sy