La IA ya se utiliza para decidir si alguien debe conseguir un empleo. Si se les debe conceder un crédito o pueden optar a una vivienda. Está teniendo un impacto importante que altera la vida, por lo que es de vital importancia que manejemos la IA de manera responsable.
Sin embargo, esa gestión responsable es más fácil de decir que de hacer. Y Christina Montgomery, directora de Privacidad y Confianza de IBM, es alguien que se centra en mantener la IA como una fuerza positiva para el cambio.
“Dentro de IBM hemos creado un Consejo de Ética de la IA, que actualmente copresido, para afrontar este reto”, señala Montgomery. “Hemos articulado principios en torno a la IA: que debe ser transparente y explicable. Debe preservar la privacidad, ser segura, inclusiva y justa. Y aunque el consejo ha ayudado a incorporar estos principios a nuestra cultura, necesitamos algo más que fe para asegurarnos de que nos hacemos responsables de ellos como empresa".
Afortunadamente, IBM ya se había adaptado a una gran afluencia de regulaciones como esta antes.
"Nuestro cumplimiento del RGPD [Reglamento General de Protección de Datos] es probablemente el análogo más cercano a lo que hemos tenido que lidiar con la IA", añade Lee Cox, vicepresidente de Gobernanza Integrada, Servicios e Investigación dentro de la Oficina de Privacidad y Tecnología Responsable de IBM. “Antes, la forma en que gestionábamos los desafíos de cumplimiento relacionados con la protección de datos era más local: muchos de nuestros programas estaban regionalizados. Cumplieron su cometido, pero habríamos necesitado mucho trabajo para adaptarlos a las nuevas exigencias".
Y continúa: "Pero con el RGPD y otras normativas sobre privacidad, necesitábamos empezar a coordinarnos a nivel mundial. Teníamos que adaptarnos rápidamente a medida que nos enfrentábamos a más normativas, más obligaciones, más complejidad, más sensibilidad sobre: '¿Qué está pasando con mis datos y cómo se están consumiendo?'".
Para gestionar esta supervisión global, IBM creó un Sistema de Gestión de Privacidad e IA (PIMS) para toda la empresa. Y con base en sus éxitos, Montgomery y su equipo consideraron que IBM podría aumentar esta herramienta para documentar y rastrear mejor el cumplimiento en todas sus operaciones de IA también.
Al igual que con la privacidad, la IA había sido testigo de una avalancha de nuevas regulaciones, tanto a nivel nacional como regional, en los años anteriores. Del mismo modo, varias alianzas y asociaciones mundiales también han elaborado directrices destinadas a ayudar a que la IA se comporte de forma ética y responsable. Pero cumplir esta creciente lista de expectativas puede ser difícil a escala.
"Somos una gran empresa", agrega Montgomery. "Operamos en más de 170 países de todo el mundo. Contamos con más de 400 entidades legales distintas que hacen negocios con 13 000 proveedores y 150 000 asociados de negocios. Con este tamaño, puede ser difícil desde el punto de vista de la gobernanza conseguir que nuestros más de 250 000 empleados estén en la misma página".
A finales de 2022, la oficina actualizó PIMS, ahora con la tecnología de IBM® OpenPages e IBM Knowledge Catalog. La solución, que también cuenta con sistemas innovadores de la cartera de datos e IA de IBM (que se describe a continuación), ofrece una plataforma centralizada para toda la empresa capaz de capturar, integrar y hacer transparentes los metadatos relacionados con la protección de los datos y todo el ciclo de vida de la IA, desde el diseño hasta el despliegue y el uso diario.
"Con PIMS, nuestros principales objetivos eran estandarizar, simplificar y escalar significativamente", recuerda Cox. "Y ahora adoptamos un enfoque de cumplimiento más continuo que puede ayudar a identificar las brechas entre lo que estamos haciendo hoy y las nuevas regulaciones a medida que salen".
"Es crítico que generemos confianza en todo el ecosistema: nuestros empleados, nuestros clientes, gobiernos y responsables políticos", agrega Montgomery. "Por eso somos firmes partidarios de ser transparentes en cuanto a nuestra implicación con la IA, y eso es esencialmente lo que PIMS está ayudando a proporcionar".
“Es realmente importante considerar el sesgo”, señala Cox. "Si se toman los defectos de los seres humanos y se amplifican a escala a través de la IA, esos defectos se reproducen en múltiples sistemas, lo que hace que el impacto en la sociedad sea mucho más significativo".
IBM OpenPages es el núcleo de PIMS, ya que proporciona un flujo de trabajo automatizado y centralizado a funciones de gobernanza, riesgo y conformidad (GRC) que antes estaban aisladas. E IBM Knowledge Catalog proporciona el catálogo de datos correspondiente para monitorear y conservar esta información de GRC junto con los activos de conocimiento y las relaciones relevantes.
Como parte de la estrategia de IBM AI governance, PIMS también aprovecha la característica de hojas de datos de IA de IBM® Cloud Pak for Data. Esta herramienta realiza un seguimiento del ciclo de vida de los modelos de aprendizaje automático desde el entrenamiento hasta la producción, capturando datos del mundo real que se pueden utilizar para monitorear los riesgos y la desviación del modelo.
PIMS registra nuevas instancias de IA puestas en producción por IBM e instancias de otros sistemas algorítmicos. PIMS los incorpora a un flujo de trabajo centralizado para toda la empresa y los evalúa en busca de riesgos potenciales. Y una vez que el modelo está activo, la solución proporciona un monitoreo continuo de la equidad, la calidad y la desviación.
Al mismo tiempo, a medida que se aprueban nuevas regulaciones, el PIMS se puede utilizar para importar estos requisitos, actualizando los modelos de gobernanza y los esfuerzos generales de evaluación de riesgos.
"Cada año se propone una gran cantidad de nuevas normativas sobre IA", señala Cox. "Parece que todos los estados de EE. UU. están elaborando sus propias normas. Hay una importante ley de firmas que saldrá de Europa en 2024".
Con este panorama normativo de IA en evolución y la responsabilidad continua de mantener el cumplimiento en materia de protección y gobernanza de datos, IBM creó un Programa de Gobernanza Integrado (IGP). Esta iniciativa de IGP ofrece una estrategia unificada para abordar la privacidad, la IA o los sistemas algorítmicos, los casos de uso de ética tecnológica y las solicitudes de autorización de datos, todo en el mismo programa de gobernanza general, que incluye PIMS.
El IGP ayuda a IBM a gestionar su programa de cumplimiento a escala, y esto incluirá la Ley de Inteligencia Artificial de la Unión Europea, la primera ley integral de IA del mundo, que se adoptará en 2024. Con IGP, la IA puede alinearse con los requisitos de la Ley, que se centran en el riesgo, la confianza, la seguridad y la transparencia, y se espera que impulsen nuevos niveles de supervisión humana y cumplimiento normativo para la IA tanto dentro de la UE como en todo el mundo.
A su vez, PIMS y los flujos de trabajo de gobernanza integrados asociados proporcionan una mayor trazabilidad y capacidades de generación de informes, lo que permite completar las revisiones de autorización de datos antes de que los datos se utilicen para el entrenamiento previo, el desarrollo o el ajuste del modelo. La herramienta también ayuda a mantener una documentación precisa y registros de procesamiento (RoP), formación asociada, métricas de prueba y predicciones actuales, en relación con la IA y otros sistemas algorítmicos. Del mismo modo, el personal de IBM puede utilizar este registro de documentos para verificar que las correcciones se han completado realmente.
IBM planea que versiones futuras de PIMS reflejen la última suite de productos watsonx de IBM, incluido watsonx.governance. Este movimiento tiene como objetivo proporcionar a IBM capacidades mejoradas de gobernanza del ciclo de vida del modelo, métricas clave e informes de evaluación comparativa de rendimiento más amplios.
En la actualidad, PIMS realiza un seguimiento y gestiona más de 5500 aplicaciones empresariales y procesos de negocio en todas las operaciones globales de IBM, todo ello desde una única plataforma unificada. Y las funciones de automatización que ofrece la herramienta alimentan los indicadores clave de rendimiento (KPI) pertinentes a los paneles de gobernanza, diseñados para ayudar a simplificar la gestión, reducir los gastos generales, disminuir las cargas de trabajo de corrección y acelerar la velocidad de cumplimiento.
"En lugar de tener cada activo, cada individuo, cada aplicación, cada proceso de negocio monitoreado por el propietario del proceso, y obligarlo a determinar qué leyes deben cumplirse, enmascaramos esa complejidad", explica Cox. "Con PIMS, ahora solo tienen que centrarse en las tareas de corrección generadas automáticamente. Eso se traduce en un ahorro de miles de horas de esfuerzo en todo IBM".
Y a medida que se implementan nuevas regulaciones, IBM puede identificar y adaptarse a sus requisitos mucho más rápidamente.
"Nuestro último gran proyecto, el GDPR, requirió aproximadamente 12 meses de esfuerzo para implementar un modelo de gobernanza y una solución de seguimiento", señala Cox. "Con PIMS, ahora podemos lanzar un programa de cumplimiento normativo en toda la empresa en tiempos muy reducidos, a veces tan cortos como seis semanas. La información ya está ahí, lo que hace que sea más rápido y fácil identificar brechas y construir la campaña. Después del lanzamiento, PIMS puede introducir automáticamente los datos relevantes de seguimiento y corrección en nuestros paneles”.
Y esta velocidad es crítica a la hora de adaptarse a las nuevas reglas. Como explica Montgomery: “Cuando se promulga una normativa importante, a menudo es poco probable que nos den un tiempo de preparación de dos a tres años. Podría ser más bien de cuatro a cinco meses. Y si nuestros socios o clientes no tienen PIMS o algo similar en lo que confiar, herramientas que ofrezcan una gestión de inventario siempre activa y una sólida comprensión de qué datos se utilizan en toda la empresa, entonces van a tener dificultades con el cumplimiento".
"Pero cuando trabajan con IBM", prosigue, "podemos ofrecer un nivel de transparencia que puede ayudar a nuestros socios y clientes a generar la confianza necesaria para adoptar esta tecnología de IA proyecto a proyecto sin perder de vista los riesgos".
La Oficina de Privacidad y Tecnología Responsable de IBM supervisa la creación y administración de políticas globales de IBM con respecto a la protección y confidencialidad de los datos individuales y empresariales. Y trabajando en conjunto con el Consejo de Ética de IA de IBM, la oficina guía la gobernanza y los procesos de toma de decisiones relevantes para las políticas y prácticas de ética de IA, construyendo una cultura de responsabilidad y confianza en todo IBM.
Legal
© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504
Producido en los Estados Unidos de América, marzo de 2024.
IBM, el logotipo de IBM, ibm.com, IBM Cloud Pak, OpenPages, watsonx, y watsonx.governance son marcas comerciales o marcas registradas de International Business Machines Corporation, en Estados Unidos y/o en otros países. Otros nombres de productos y servicios pueden ser marcas registradas de IBM o de otras empresas. Una lista actualizada de las marcas registradas de IBM está disponible en ibm.com/legal/copyright-trademark.
Este documento está vigente a partir de la fecha inicial de publicación, pero IBM puede modificarlo en cualquier momento. No todas las ofertas están disponibles en todos los países en los que opera IBM.
Todos los ejemplos de clientes citados o descritos se presentan como ilustraciones de la forma en que algunos han utilizado los productos de IBM y los resultados que pueden haber logrado. Los costos ambientales reales y las características de rendimiento variarán según las configuraciones y condiciones individuales del cliente. En general, no se pueden proporcionar los resultados esperados, ya que los resultados de cada cliente dependerán completamente de los sistemas y servicios que soliciten. LA INFORMACIÓN CONTENIDA EN ESTE DOCUMENTO SE PROPORCIONA “TAL CUAL”, SIN NINGUNA GARANTÍA, EXPRESA O IMPLÍCITA, INCLUIDAS LAS GARANTÍAS DE COMERCIABILIDAD, IDONEIDAD PARA UN FIN DETERMINADO Y CUALQUIER GARANTÍA O CONDICIÓN DE NO INFRACCIÓN. Los productos de IBM están garantizados de conformidad con los términos y condiciones de los acuerdos bajo los cuales se proveen.
El cliente es responsable de garantizar el cumplimiento de las leyes y reglamentos aplicables. IBM no brinda asesoría legal ni declara o garantiza que sus servicios o productos aseguren que el cliente cumpla con cualquier ley o reglamento.