La IA ya se utiliza para decidir si alguien debe conseguir un empleo. Si se les debe conceder un crédito o pueden optar a una vivienda. Está teniendo un impacto importante que altera la vida, por lo que es de vital importancia que manejemos la IA de manera responsable.
Sin embargo, esa gestión responsable es más fácil de decir que de hacer. Y Christina Montgomery, directora de privacidad y confianza de IBM, es alguien que se centra en mantener la IA como una fuerza positiva para el cambio.
“En IBM hemos creado un Consejo de Ética de la IA, que actualmente copresido, para afrontar este reto”, señala Montgomery. “Hemos articulado principios en torno a la IA: que debe ser transparente y explicable. Debe preservar la privacidad, ser segura, inclusiva y justa. Y aunque el consejo ha ayudado a incorporar estos principios a nuestra cultura, necesitamos algo más que fe para asegurarnos de que nos hacemos responsables de ellos como empresa".
Afortunadamente, IBM ya se había adaptado a una gran afluencia de regulaciones como ésta antes.
"Nuestro cumplimiento del RGPD [Reglamento General de Protección de Datos] es probablemente el análogo más cercano a lo que hemos tenido que lidiar con la IA", añade Lee Cox, vicepresidente de gobierno integrado, servicios e investigación dentro de la Oficina de Privacidad y Tecnología Responsable de IBM. “Antes, la forma en que gestionábamos los desafíos de cumplimiento relacionados con la protección de datos era más local: muchos de nuestros programas estaban regionalizados. Cumplieron su cometido, pero habríamos necesitado mucho trabajo para adaptarlos a las nuevas exigencias".
Y prosigue: "Pero con el RGPD y otras normativas sobre privacidad, necesitábamos empezar a coordinarnos a nivel mundial. Teníamos que adaptarnos rápidamente a medida que nos enfrentábamos a más normativas, más obligaciones, más complejidad, más sensibilidad sobre: '¿Qué está pasando con mis datos y cómo se están consumiendo?'".
Para gestionar esta supervisión global, IBM creó un Sistema de Gestión de Privacidad e IA (PIMS) para toda la empresa. Y en base a sus éxitos, Montgomery y su equipo sintieron que IBM podría aumentar esta herramienta para documentar y rastrear mejor el cumplimiento en todas sus operaciones de IA también.
Al igual que con la privacidad, la IA había sido testigo de una avalancha de nuevas regulaciones, tanto a nivel nacional como regional, en los años anteriores. Del mismo modo, varias alianzas y asociaciones mundiales también han elaborado directrices destinadas a ayudar a que la IA se comporte de forma ética y responsable. Pero cumplir esta creciente lista de expectativas puede ser difícil a escala.
"Somos una gran empresa", añade Montgomery. "Operamos en más de 170 países de todo el mundo. Contamos con más de 400 entidades legales distintas que hacen negocios con 13 000 proveedores y 150 000 business partners. Con este tamaño, puede ser difícil desde el punto de vista del gobierno conseguir que nuestros más de 250 000 empleados estén en la misma página".
A finales de 2022, la oficina actualizó PIMS, ahora con la tecnología IBM OpenPages y IBM Knowledge Catálogo. La solución, que también cuenta con sistemas innovadores de la cartera de datos e IA de IBM (que se describe a continuación), ofrece una plataforma centralizada para toda la empresa capaz de capturar, integrar y hacer transparentes los metadatos relacionados con la protección de los datos y todo el ciclo de vida de la IA, desde el diseño hasta la implementación y el uso diario.
"Con PIMS, nuestros principales objetivos eran estandarizar, simplificar y escalar significativamente", recuerda Cox. "Y ahora adoptamos un enfoque de cumplimiento más continuo que puede ayudar a identificar las brechas entre lo que estamos haciendo hoy y las nuevas regulaciones a medida que salen".
"Es fundamental que generemos confianza en todo el ecosistema: nuestros empleados, nuestros clientes, gobiernos y responsables políticos", agrega Montgomery. "Por eso somos firmes partidarios de ser transparentes en cuanto a nuestra implicación con la IA, y eso es esencialmente lo que PIMS está ayudando a proporcionar".
“Es realmente importante considerar el sesgo”, señala Cox. "Si se toman los defectos de los seres humanos y se amplifican a escala a través de la IA, esos defectos se reproducen en múltiples sistemas, lo que hace que el impacto en la sociedad sea mucho más significativo".
IBM OpenPages es el núcleo de PIMS, ya que proporciona un flujo de trabajo automatizado y centralizado a funciones de gobierno, riesgo y conformidad (GRC) que antes estaban aisladas. Y IBM Knowledge Catalog proporciona el catálogo de datos correspondiente para monitorizar y conservar esta información de GRC junto con los activos de conocimiento y las relaciones relevantes.
Como parte de la estrategia de IBM AI Governance, PIMS también aprovecha la función de hojas de datos de IA de IBM de IBM Cloud Pak for Data. Esta herramienta realiza un seguimiento del ciclo de vida de los modelos de machine learning desde el entrenamiento hasta la producción, capturando datos del mundo real que se pueden utilizar para monitorizar los riesgos y la desviación del modelo.
PIMS registra nuevas instancias de IA puestas en producción por IBM e instancias de otros sistemas algorítmicos. PIMS los incorpora a un flujo de trabajo centralizado para toda la empresa y los evalúa en busca de riesgos potenciales. Y una vez que el modelo está activo, la solución proporciona una monitorización continua de la equidad, la calidad y la desviación.
Al mismo tiempo, a medida que se aprueban nuevas regulaciones, el PIMS se puede utilizar para importar estos requisitos, actualizando los modelos de gobernanza y los esfuerzos generales de evaluación de riesgos.
"Cada año se propone una gran cantidad de nuevas normativas sobre IA", señala Cox. "Parece que todos los estados de EE. UU. están elaborando sus propias normas. Hay una importante ley de firmas que saldrá de Europa en 2024".
Con este panorama normativo de IA en evolución y la responsabilidad continua de mantener la conformidad en materia de protección y gobierno de datos, IBM creó un Programa de Gobierno Integrado (IGP). Esta iniciativa de IGP ofrece una estrategia unificada para abordar la privacidad, la IA o los sistemas algorítmicos, los casos de uso de ética tecnológica y las solicitudes de autorización de datos, todo en el mismo programa de gobernanza general, que incluye PIMS.
El IGP ayuda a IBM a gestionar su programa de cumplimiento a escala, y esto incluirá la Ley de Inteligencia Artificial de la Unión Europea, la primera ley integral de IA del mundo, que se adoptará en 2024. Con IGP, la IA puede alinearse con los requisitos de la Ley, que se centran en el riesgo, la confianza, la seguridad y la transparencia, y se espera que impulsen nuevos niveles de supervisión humana y cumplimiento normativo para la IA tanto dentro de la UE como en todo el mundo.
A su vez, PIMS y los flujos de trabajo de gobierno integrados asociados proporcionan una mayor trazabilidad y capacidades de generación de informes, lo que permite completar las revisiones de autorización de datos antes de que los datos se utilicen para el entrenamiento previo, el desarrollo o el ajuste del modelo. La herramienta también ayuda a mantener una documentación precisa y registros de procesamiento (RoP), formación asociada, métricas de prueba y predicciones actuales, en relación con la IA y otros sistemas algorítmicos. Del mismo modo, el personal de IBM puede utilizar este registro de documentos para verificar que las correcciones se han completado realmente.
IBM planea que versiones futuras de PIMS reflejen el último conjunto de productos watsonx de IBM, incluido watsonx.governance. Este movimiento tiene como objetivo proporcionar a IBM capacidades mejoradas de gobierno del ciclo de vida del modelo, métricas clave e informes de evaluación comparativa de rendimiento más amplios.
En la actualidad, PIMS realiza un seguimiento y gestiona más de 5500 aplicaciones empresariales y procesos de negocio en todas las operaciones globales de IBM, todo ello desde una única plataforma unificada. Y las funciones de automatización que ofrece la herramienta alimentan los indicadores clave de rendimiento (KPI) pertinentes a los paneles de control de gobierno, diseñados para ayudar a simplificar la gestión, reducir los gastos generales, disminuir las cargas de trabajo de corrección y acelerar la velocidad de cumplimiento.
"En lugar de tener cada activo, cada individuo, cada aplicación, cada proceso de negocio monitorizado por el propietario del proceso, y obligarlo a determinar qué leyes deben cumplirse, enmascaramos esa complejidad", explica Cox. "Con PIMS, ahora solo tienen que centrarse en las tareas de corrección generadas automáticamente. Eso se traduce en un ahorro de miles de horas de esfuerzo en todo IBM".
Y a medida que se implementan nuevas regulaciones, IBM puede identificar y adaptarse a sus requisitos mucho más rápidamente.
"Nuestro último gran proyecto, el GDPR, requirió aproximadamente 12 meses de esfuerzo para implementar un modelo de gobernanza y una solución de seguimiento", señala Cox. "Con PIMS, ahora podemos lanzar un programa de cumplimiento normativo en toda la empresa en tiempos muy reducidos, a veces tan cortos como seis semanas. La información ya está ahí, lo que hace que sea más rápido y fácil identificar brechas y construir la campaña. Después del lanzamiento, PIMS puede introducir automáticamente los datos relevantes de seguimiento y corrección en nuestros paneles de control”.
Y esta velocidad es crucial a la hora de adaptarse a las nuevas reglas. Como explica Montgomery: “Cuando se promulga una normativa importante, a menudo es poco probable que nos den un tiempo de preparación de dos a tres años. Podría ser más bien de cuatro a cinco meses. Y si nuestros socios o clientes no tienen PIMS o algo similar en lo que confiar, herramientas que ofrezcan una gestión de inventario siempre activa y una sólida comprensión de qué datos se utilizan en toda la empresa, entonces van a tener dificultades con el cumplimiento".
"Pero cuando trabajan con IBM", prosigue, "podemos ofrecer un nivel de transparencia que puede ayudar a nuestros socios y clientes a generar la confianza necesaria para adoptar esta tecnología de IA proyecto a proyecto sin perder de vista los riesgos".
La Oficina de Privacidad y Tecnología Responsable de IBM supervisa la creación y administración de políticas globales de IBM con respecto a la protección y confidencialidad de los datos individuales y empresariales. Y trabajando en conjunto con el Consejo de Ética de IA de IBM, la oficina guía la gobernanza y los procesos de toma de decisiones relevantes para las políticas y prácticas de ética de IA, construyendo una cultura de responsabilidad y confianza en todo IBM.
Legal
© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504
Producido en los Estados Unidos de América, Marzo de 2024.
IBM, el logotipo de IBM, ibm.com, IBM Cloud Pak, OpenPages, watsonx y watsonx.governance son marcas comerciales o marcas registradas de International Business Machines Corporation, en Estados Unidos y/o en otros países. Los demás nombres de productos y servicios pueden ser marcas comerciales de IBM u otras empresas. Una lista actualizada de las marcas comerciales de IBM está disponible en ibm.com/legal/copyright-trademark.
La información contenida en este documento es la vigente en la fecha de su publicación original y está sujeta a cambios por parte de IBM. No todas las ofertas mencionadas en este documento están disponibles en todos los países en los que IBM está presente.
Todos los ejemplos de clientes citados o descritos se presentan como ilustración de la forma en que algunos clientes han utilizado los productos de IBM y los resultados que pueden haber obtenido. Los costes medioambientales y las características de rendimiento reales variarán en función de las configuraciones y condiciones de cada cliente. No es posible garantizar resultados esperados, puesto que los resultados de cada cliente van a depender por completo de los sistemas y servicios solicitados. LA INFORMACIÓN DE ESTE DOCUMENTO SE OFRECE "TAL CUAL ESTÁ" SIN NINGUNA GARANTÍA, NI EXPLÍCITA NI IMPLÍCITA, INCLUIDAS, ENTRE OTRAS, LAS GARANTÍAS DE COMERCIALIZACIÓN, ADECUACIÓN A UN FIN CONCRETO Y CUALQUIER GARANTÍA O CONDICIÓN DE INEXISTENCIA DE INFRACCIÓN. Los productos de IBM están sujetos a garantía según los términos y condiciones de los acuerdos bajo los que se proporcionan.
El cliente es responsable de garantizar el cumplimiento de las leyes y regulaciones aplicables. IBM no presta asesoramiento legal ni declara o garantiza que sus servicios o productos aseguren que el cliente cumpla con cualquier ley o regulación.