Crear confianza en la IA

A finales de 2022, la oficina actualizó PIMS, ahora con la tecnología IBM OpenPages y IBM Knowledge Catálogo. La solución, que también cuenta con sistemas innovadores de la cartera de datos e IA de IBM (que se describe a continuación), ofrece una plataforma centralizada para toda la empresa capaz de capturar, integrar y hacer transparentes los metadatos relacionados con la protección de los datos y todo el ciclo de vida de la IA, desde el diseño hasta la implementación y el uso diario.

"Con PIMS, nuestros principales objetivos eran estandarizar, simplificar y escalar significativamente", recuerda Cox. "Y ahora adoptamos un enfoque de cumplimiento más continuo que puede ayudar a identificar las brechas entre lo que estamos haciendo hoy y las nuevas regulaciones a medida que salen".

"Es fundamental que generemos confianza en todo el ecosistema: nuestros empleados, nuestros clientes, gobiernos y responsables políticos", agrega Montgomery. "Por eso somos firmes partidarios de ser transparentes en cuanto a nuestra implicación con la IA, y eso es esencialmente lo que PIMS está ayudando a proporcionar".

“Es realmente importante considerar el sesgo”, señala Cox. "Si se toman los defectos de los seres humanos y se amplifican a escala a través de la IA, esos defectos se reproducen en múltiples sistemas, lo que hace que el impacto en la sociedad sea mucho más significativo".

IBM OpenPages es el núcleo de PIMS, ya que proporciona un flujo de trabajo automatizado y centralizado a funciones de gobierno, riesgo y conformidad (GRC) que antes estaban aisladas. Y IBM Knowledge Catalog proporciona el catálogo de datos correspondiente para monitorizar y conservar esta información de GRC junto con los activos de conocimiento y las relaciones relevantes.

Como parte de la estrategia de IBM AI Governance, PIMS también aprovecha la función de hojas de datos de IA de IBM de IBM Cloud Pak for Data. Esta herramienta realiza un seguimiento del ciclo de vida de los modelos de machine learning desde el entrenamiento hasta la producción, capturando datos del mundo real que se pueden utilizar para monitorizar los riesgos y la desviación del modelo.

PIMS registra nuevas instancias de IA puestas en producción por IBM e instancias de otros sistemas algorítmicos. PIMS los incorpora a un flujo de trabajo centralizado para toda la empresa y los evalúa en busca de riesgos potenciales. Y una vez que el modelo está activo, la solución proporciona una monitorización continua de la equidad, la calidad y la desviación.

Al mismo tiempo, a medida que se aprueban nuevas regulaciones, el PIMS se puede utilizar para importar estos requisitos, actualizando los modelos de gobernanza y los esfuerzos generales de evaluación de riesgos.

"Cada año se propone una gran cantidad de nuevas normativas sobre IA", señala Cox. "Parece que todos los estados de EE. UU. están elaborando sus propias normas. Hay una importante ley de firmas que saldrá de Europa en 2024".

Con este panorama normativo de IA en evolución y la responsabilidad continua de mantener la conformidad en materia de protección y gobierno de datos, IBM creó un Programa de Gobierno Integrado (IGP). Esta iniciativa de IGP ofrece una estrategia unificada para abordar la privacidad, la IA o los sistemas algorítmicos, los casos de uso de ética tecnológica y las solicitudes de autorización de datos, todo en el mismo programa de gobernanza general, que incluye PIMS.

El IGP ayuda a IBM a gestionar su programa de cumplimiento a escala, y esto incluirá la Ley de Inteligencia Artificial de la Unión Europea, la primera ley integral de IA del mundo, que se adoptará en 2024. Con IGP, la IA puede alinearse con los requisitos de la Ley, que se centran en el riesgo, la confianza, la seguridad y la transparencia, y se espera que impulsen nuevos niveles de supervisión humana y cumplimiento normativo para la IA tanto dentro de la UE como en todo el mundo.

A su vez, PIMS y los flujos de trabajo de gobierno integrados asociados proporcionan una mayor trazabilidad y capacidades de generación de informes, lo que permite completar las revisiones de autorización de datos antes de que los datos se utilicen para el entrenamiento previo, el desarrollo o el ajuste del modelo. La herramienta también ayuda a mantener una documentación precisa y registros de procesamiento (RoP), formación asociada, métricas de prueba y predicciones actuales, en relación con la IA y otros sistemas algorítmicos. Del mismo modo, el personal de IBM puede utilizar este registro de documentos para verificar que las correcciones se han completado realmente.

IBM planea que versiones futuras de PIMS reflejen el último conjunto de productos watsonx de IBM, incluido watsonx.governance. Este movimiento tiene como objetivo proporcionar a IBM capacidades mejoradas de gobierno del ciclo de vida del modelo, métricas clave e informes de evaluación comparativa de rendimiento más amplios.

En la actualidad, PIMS realiza un seguimiento y gestiona más de 5500 aplicaciones empresariales y procesos de negocio en todas las operaciones globales de IBM, todo ello desde una única plataforma unificada. Y las funciones de automatización que ofrece la herramienta alimentan los indicadores clave de rendimiento (KPI) pertinentes a los paneles de control de gobierno, diseñados para ayudar a simplificar la gestión, reducir los gastos generales, disminuir las cargas de trabajo de corrección y acelerar la velocidad de cumplimiento.

"En lugar de tener cada activo, cada individuo, cada aplicación, cada proceso de negocio monitorizado por el propietario del proceso, y obligarlo a determinar qué leyes deben cumplirse, enmascaramos esa complejidad", explica Cox. "Con PIMS, ahora solo tienen que centrarse en las tareas de corrección generadas automáticamente. Eso se traduce en un ahorro de miles de horas de esfuerzo en todo IBM".

Y a medida que se implementan nuevas regulaciones, IBM puede identificar y adaptarse a sus requisitos mucho más rápidamente.

"Nuestro último gran proyecto, el GDPR, requirió aproximadamente 12 meses de esfuerzo para implementar un modelo de gobernanza y una solución de seguimiento", señala Cox. "Con PIMS, ahora podemos lanzar un programa de cumplimiento normativo en toda la empresa en tiempos muy reducidos, a veces tan cortos como seis semanas. La información ya está ahí, lo que hace que sea más rápido y fácil identificar brechas y construir la campaña. Después del lanzamiento, PIMS puede introducir automáticamente los datos relevantes de seguimiento y corrección en nuestros paneles de control”.

Y esta velocidad es crucial a la hora de adaptarse a las nuevas reglas. Como explica Montgomery: “Cuando se promulga una normativa importante, a menudo es poco probable que nos den un tiempo de preparación de dos a tres años. Podría ser más bien de cuatro a cinco meses. Y si nuestros socios o clientes no tienen PIMS o algo similar en lo que confiar, herramientas que ofrezcan una gestión de inventario siempre activa y una sólida comprensión de qué datos se utilizan en toda la empresa, entonces van a tener dificultades con el cumplimiento".

"Pero cuando trabajan con IBM", prosigue, "podemos ofrecer un nivel de transparencia que puede ayudar a nuestros socios y clientes a generar la confianza necesaria para adoptar esta tecnología de IA proyecto a proyecto sin perder de vista los riesgos".

La Oficina de Privacidad y Tecnología Responsable de IBM supervisa la creación y administración de políticas globales de IBM con respecto a la protección y confidencialidad de los datos individuales y empresariales. Y trabajando en conjunto con el Consejo de Ética de IA de IBM, la oficina guía la gobernanza y los procesos de toma de decisiones relevantes para las políticas y prácticas de ética de IA, construyendo una cultura de responsabilidad y confianza en todo IBM.