Asegurando la próxima frontera de la innovación en IA

Kevin Skapinetz Vice President, Security Strategy IBM

La IA generativa tiene un enorme potencial para transformar las operaciones comerciales y nuestra vida diaria. Pero, en última instancia, el potencial de esta tecnología depende de la confianza. Si la confianza en la IA se ve comprometida, esto podría frenar la inversión, la adopción y nuestra capacidad de confiar en estos sistemas para el propósito previsto, convirtiendo la promesa de la IA en una carga con costes irrecuperables.

Así como la industria trabajó en el pasado para proteger servidores, redes, aplicaciones y la nube: la IA es la próxima gran plataforma que debemos proteger. Pero esta vez no podemos permitirnos el lujo de fracasar. Porque la IA generativa pronto quedará profundamente integrada en el tejido empresarial: la base sobre la que se construyen las decisiones críticas, las operaciones y las interacciones con los clientes. Por lo que, si no integramos la seguridad en esa base desde el principio, los continuos ataques a su confianza pueden erosionarla rápidamente.

Es por eso que debemos incorporar la seguridad en nuestros modelos de IA y en toda la cadena de aplicaciones que está revolucionando hoy en día, mientras todavía estamos inmersos en la vanguardia de su e adopción. En otras palabras, la seguridad debe ser parte del equipo base mientras las empresas avanzan en la planificación y las inversiones en IA.

Mientas que muchos ven la seguridad como un obstáculo en este camino, nosotros creemos que es la seguridad la que puede ayudar a crear la confianza necesaria para acelerar los casos de uso de IA,desde la prueba de concepto hasta la producción.

Para ayudar a que esto se haga realidad, IBM ha publicado nuevos datos que proporcionan una mejor comprensión de las perspectivas actuales de la C-Suite cuando se trata de asegurar la IA generativa. Además, hemos publicado un marco para proteger la IA generativa, y así ayudar a las empresas a explorar y priorizar estas iniciativas de seguridad. IBM también ofrece una de las carteras de datos, IA y seguridad más completas de la industria, diseñada para facilitar a las empresas la integración de la seguridad y la gobernanza en la base de sus negocios impulsados ​​por la IA.

Un estudio global revela la perspectiva de la C-Suite sobre la seguridad de la IA generativa

Dado que la mayoría de los proyectos de IA son impulsados ​​por equipos comerciales y operativos, es esencial que los responsables de seguridad participen en estas conversaciones desde una perspectiva basada en los riesgos y con un conocimiento sólido de las prioridades comerciales.

Un nuevo estudio [1] del IBM Institute for Business Value arroja luz sobre las perspectivas y prioridades de la C-Suite en lo que respecta al riesgo y la adopción de la IA generativa, revelando una alarmante desconexión entre las preocupaciones por la seguridad y las demandas de innovar rápidamente. Mientras que el 82% de los encuestados reconoce que una IA segura y fiable es esencial para el éxito de su negocio, el 69% de los encuestados afirma todavía que la innovación debe primar sobre la seguridad.

El estudio también identificó que una de las mayores preocupaciones de los líderes empresariales es que no saben lo que no saben, y la IA generativa representa un nuevo campo de riesgos y oportunidades:

• La mayoría de los encuestados de la C-Suite estaban preocupados por los riesgos de seguridad nuevos e impredecibles que pudiesen surgir como resultado de la IA generativa: al 51% de los encuestados les preocupaban los riesgos impredecibles y las nuevas vulnerabilidades de seguridad que surgieran, mientas que al 47% les preocupaban los nuevos ataques dirigidos a la IA.
• Casi la mitad (47%) expresó su incertidumbre sobre dónde y cuánto invertir cuando se trata de GenAI y sus operaciones comerciales.

Aunque los líderes empresariales reconocen la importancia de una IA segura y confiable, la naturaleza desconocida de esta nueva frontera puede estar impidiéndoles tomar las medidas necesarias para proteger la IA de hoy. De hecho, menos de una cuarta parte (24%) de los encuestados afirma incluir la seguridad como parte de sus proyectos actuales de IA generativa.

Un marco para proteger esta tecnología puede ayudar a las empresas a navegar y priorizar las inversiones en seguridad de IA en función del riesgo 

Para ayudar a las organizaciones a comprender y afrontar mejor estos desafíos, algunos de los principales expertos de IBM han creado un marco para proteger la IA generativa. Este marco está diseñado para ayudar a las empresas a comprender las amenazas que tienen más probabilidades de encontrar cuando se trata de la adopción de IA generativa, y de esta manera, priorizar las defensas en consecuencia. También puede ayudar a las empresas a adoptar una visión integral de la seguridad de la IA, con tres pilares básicos alineados con los riesgos específicos de esta tecnología:

• Proteger los datos: la IA plantea un mayor riesgo para la seguridad de los datos, ya que los altamente sensibles se centralizan y se accede a ellos para entrenamiento. Las empresas deben centrarse en proteger los datos de entrenamiento de IA subyacentes protegiéndolos del robo de datos confidenciales, la manipulación y las violaciones de normativa.
• Asegurar el desarrollo del modelo: dado que las aplicaciones habilitadas para IA se crean de una forma totalmente nueva, el riesgo de introducir nuevas vulnerabilidades aumenta. Es prioritario proteger el desarrollo del modelo de IA mediante la búsqueda de vulnerabilidades en el proceso, el fortalecimiento de las integraciones y la aplicación de políticas y acceso.
• Asegurar el uso: los atacantes buscarán utilizar la inferencia de modelos para secuestrar o manipular el comportamiento de los modelos de IA. Las empresas deben asegurar el uso de modelos de IA detectando datos o filtraciones de forma inmediata, y alertando sobre ataques de evasión, envenenamiento, extracción o inferencia.

Más allá de estos tres pilares, los responsables de seguridad deben recordar que una de las primeras líneas de defensa es una infraestructura segura, por lo que deben optimizar la seguridad en todo el entorno más amplio que alberga los sistemas de IA.

Con las nuevas normativas y el escrutinio público sobre la responsabilidad de la IA, las organizaciones también deben contar con una gobernanza sólida de la IA para gestionar la precisión, la privacidad, la transparencia y la explicabilidad. En este contexto, las empresas deben tratar de fusionar más estrechamente los programas de seguridad y gobierno de datos, con el fin de impulsar políticas coherentes, así como la aplicación y presentación de informes consistentes entre estas dos disciplinas históricamente aisladas.

IBM ayuda a sus clientes a integrar la seguridad en sus implementaciones de IA

En IBM contamos con décadas de liderazgo, tanto en seguridad como en IA para empresas, lo que nos permite ofrecer a los clientes tanto la experiencia como una sólida cartera de tecnologías y servicios para ayudarles a asegurar sus procesos hacia la IA. IBM apuesta por ofertas que generen confianza y aprovechen una arquitectura abierta, facilitando la conexión entre programas de seguridad, riesgo y gobernanza.

IBM Consulting Cybersecurity Services ayuda a las organizaciones a gestionar sus transformaciones de IA con la seguridad como prioridad, desde la planificación y el desarrollo hasta el monitoreo y la gobernanza continuos.

• IBM está ofreciendo nuevos servicios IBM X-Force Red Testing Services para IA, diseñados para probar la seguridad de aplicaciones de IA generativa, pipelines de MLSecOps y modelos de IA desde la perspectiva del atacante. Este enfoque, impartido por un equipo especializado con amplia experiencia en ciencia de datos, equipos rojos de IA y pruebas de penetración de aplicaciones; ayuda a identificar y abordar las debilidades que los atacantes son más propensos a explotar en el mundo real.
• El nuevo Active Governance Framework de IBM Consulting ayuda a las organizaciones a obtener una visión continua e integral del riesgo cibernético, impulsado por la IA y la automatización. En la era de la IA, construir modelos sólidos de gobernanza e incorporarlos a los programas de ciberseguridad es esencial para ayudar a gestionar los riesgos en toda la empresa, especialmente teniendo en cuenta la evolución de las políticas y regulaciones.
• IBM Software ayuda a los clientes a encontrar, proteger y asegurar el acceso a datos confidenciales utilizados en las implementaciones de IA, al tiempo que protege el acceso a estos sistemas. Dos de los componentes más cruciales son:
• • Seguridad de datos: Nuestro portfolio IBM Security Guardium ayuda a proteger los datos dondequiera que residan, incluida la gestión de la postura de seguridad de los datos diseñada para ayudar a las empresas a encontrar datos confidenciales «en la sombra» y gestionar su movimiento entre aplicaciones. De cara al futuro, estamos trabajando para ampliar estas capacidades y ayudar a las empresas a encontrar y proteger los modelos de IA que se utilizan en sus negocios, permitiéndoles, de esta manera, comprender el riesgo y ayudándoles a acelerar su adopción.

• • Identidad y acceso: Los ataques basados en la identidad fueron el principal punto de entrada para los atacantes el año pasado, [2] y este riesgo será aún mayor a medida que la IA reúna los datos y la propiedad intelectual más crítica de las empresas, lo que hace que sea crucial proteger el acceso a estos sistemas. IBM Security Verify proporciona un conjunto de capacidades de gestión de identidades y acceso, creadas con un enfoque abierto e independiente del proveedor, que ayuda a las empresas a crear un «tejido de identidad» más consistente para gestionar los riesgos de identidad en todo el conjunto de tecnología heredada y basada en la nube.

En IBM también ofrecemos a las empresas nuestra cartera watsonx, para que las empresas creen aplicaciones de IA personalizadas, gestionen fuentes de datos y aceleren los flujos de trabajo de IA: todo desde una única plataforma. En concreto, watsonx.governance está disponible para que las empresas gobiernen sus modelos de IA generativa creados por cualquier proveedor, ayudando a evaluar y monitorear el comportamiento del modelo de IA, incluida la deriva, el sesgo y la calidad, y apoyando a las empresas con sus obligaciones a medida que cumplen con las regulaciones y políticas emergentes en todo el mundo.

Ahora que la IA está preparada para transformar el panorama empresarial tal y como lo conocemos, las empresas no pueden permitirse hacer de la seguridad un complemento: la seguridad debe incorporarse desde la base y desde hoy mismo. Dado que el potencial de la IA depende de la confianza, la seguridad puede ser, en última instancia, el ingrediente secreto que determine qué proyectos de IA generativa se convierten en historias de éxito y cuáles en costes irrecuperables.