이 부서는 2022년 말에 PIMS가 IBM OpenPages 및 IBM Knowledge Catalog 기술로 구동되도록 업그레이드했습니다. 또한 IBM Data 및 AI 포트폴리오(아래 설명 참조)의 혁신적인 시스템을 특징으로 하는 이 솔루션은 설계부터 배포, 일상적 사용에 이르기까지 데이터 프라이버시 및 전체 AI 수명 주기와 관련된 메타데이터를 캡처, 통합 및 투명화할 수 있는 중앙 집중식 전사적 플랫폼을 제공합니다.

콕스는 "PIMS와 관련해 표준화, 간소화 및 확장을 가장 중요하게 생각했습니다."라고 회상합니다. "그리고 지금은 현재 진행 중인 업무와 다른 새로운 규정이 나오면 이를 파악하는 데 도움이 되는 보다 지속적인 규정 준수 접근 방식을 취하고 있습니다."

"직원, 고객, 정부 및 정책 입안자 등 전체 에코시스템에 걸쳐 신뢰를 구축하는 것이 중요합니다."라고 몽고메리가 덧붙입니다. "그래서 저희는 AI에 대한 참여 측면에서 투명성을 매우 강력하게 지지하며, 이것이바로 PIMS가 제공하는 본질적인 기능입니다."

"특히 편향성을 중요하게 고려해야 하죠."라고 콕스는 말합니다. "AI를 통해 인간의 결함을 대규모로 증폭시키면 이러한 결함이 여러 시스템에 복제되어 사회에 미치는 영향이 훨씬 더 커집니다."

IBM OpenPages는 PIMS의 핵심 역할을 하여 이전에 사일로화되어 있던 거버넌스, 리스크 및 규정 준수(GRC) 기능에 자동화된 중앙 집중식 워크플로우를 제공합니다. 그리고 IBM Knowledge Catalog는 관련 지식 자산 및 관계와 함께 이 GRC 정보를 모니터링하고 큐레이션할 수 있는 해당 데이터 카탈로그를 제공합니다.

IBM AI Governance 전략의 일부로 PIMS는 IBM Cloud Pak for Data의 IBM AI Factsheets 기능도 활용합니다. 이 도구는 학습부터 생산에 이르는 머신 러닝 모델의 수명 주기를 추적하여 위험과 모델 드리프트를 모니터링하는 데 사용할 수 있는 실제 데이터를 캡처합니다.

PIMS는 IBM에서 프로덕션에 투입되는 새로운 AI 인스턴스와 다른 알고리즘 시스템의 인스턴스를 등록합니다. PIMS는 이를 중앙 집중식 전사적 워크플로우에 추가하고, 잠재적 위험을 평가합니다. 또한 모델이 실행되면 공정성, 품질 및 드리프트에 대한 지속적인 모니터링을 제공합니다.

동시에 새로운 규정이 통과되면 PIMS를 사용하여 이러한 요구 사항을 가져와 거버넌스 모델과 전반적인 위험 평가 활동을 업데이트할 수 있습니다.

"매년 수많은 새로운 AI 규정이 제안되고 있습니다."라고 콕스가 설명합니다. "미국의 모든 주에서 자체적인 규칙을 구축하고 있는 것 같습니다. 유럽에서는 2024년에 주요 서명 법률이 나올 것입니다."

이처럼 진화하는 AI 규제 환경과 데이터 개인정보 보호 및 데이터 거버넌스에 대한 규정 준수를 유지해야 하는 지속적인 책임을 다하기 위해 IBM은 통합 거버넌스 프로그램(IGP)을 만들었습니다. 이 IGP 이니셔티브는 개인정보 보호, AI 또는 알고리즘 시스템, 기술 윤리 사용 사례, 데이터 정리 요청을 처리하기 위한 통합 전략을 제공하며, 이 모든 것이 PIMS를 포함한 동일한 포괄적인 거버넌스 프로그램에서 제공됩니다.

IGP는 IBM이 규정 준수 프로그램을 대규모로 관리할 수 있도록 지원하며, 여기에는 2024년에 채택될 세계 최초의 포괄적인 AI 법률인 유럽연합 인공 지능법이 포함될 예정입니다. IGP를 통해 AI는 위험, 신뢰, 보안 및 투명성에 중점을 둔 해당 법률의 요구 사항을 충족할 수 있으며, EU 내 및 전 세계적으로 AI에 대한 인간 감독 및 규정 준수를 새로운 수준으로 끌어올릴 것으로 예상됩니다.

결과적으로 PIMS 및 관련 통합 거버넌스 워크플로우를 통해 향상된 추적성 및 보고 기능을 제공하여 데이터가 모델 사전 훈련, 개발 또는 미세 조정에 사용되기 전에 데이터 정리 검토를 완료할 수 있습니다. 또한 이 도구는 AI 및 기타 알고리즘 시스템과 관련하여 처리(RoP), 관련 교육, 테스트 메트릭 및 현재 예측에 대한 정확한 문서와 기록을 유지하는 데 도움을 줍니다. 마찬가지로 IBM 직원은 이 문서 추적을 사용하여 실제로 수정이 완료되었는지 확인할 수 있습니다.

IBM은 향후 버전의 PIMS에 watsonx.governance를 포함한 IBM의 최신 watsonx 제품군을 반영할 계획입니다. 이러한 조치는 IBM에 향상된 모델 수명 주기 거버넌스 기능, 주요 메트릭 및 광범위한 성능 벤치마킹 보고서를 제공하기 위한 것입니다.

현재 PIMS는 전 세계 IBM 운영 전반에 걸쳐 5,500개 이상의 엔터프라이즈 애플리케이션 및 비즈니스 프로세스를 추적 및 관리하고 있으며, 모든 것은 단일 통합 플랫폼에서 이루어집니다. 또한 이 도구가 제공하는 자동화 기능은 관련 핵심 성과 지표(KPI)를 거버넌스 대시보드에 제공하여 관리를 간소화하고, 오버헤드를 줄이며, 문제 해결 워크로드를 줄이고, 규정 준수 속도를 가속화하도록 설계되었습니다.

“프로세스 소유자가 모든 자산, 모든 개인, 모든 애플리케이션, 모든 비즈니스 프로세스를 모니터링하고 준수해야 할 법률을 결정하도록 강요하는 대신, 이러한 복잡성을 숨길 수 있습니다.” 라고 콕스는 설명합니다. “PIMS를 사용하면 이제 자동으로 생성된 수정 작업에만 집중하면 됩니다. 이는 IBM 전체에서 수천 시간을 절약했다는 뜻이죠."

또한 새로운 규정이 출시되면 IBM은 관련 요구 사항을 훨씬 더 빠르게 파악하고 수용할 수 있습니다.

"저희의 마지막 대규모 프로젝트였던 GDPR은 거버넌스 모델과 추적 솔루션을 도입하는 데 약 12개월이 걸렸습니다. "이제는 PIMS를 통해 전사적 규정 준수 프로그램을 최소 6주 안에 시작할 수 있습니다. 정보가 이미 있기 때문에 격차를 더 빠르고 쉽게 파악하고 캠페인을 구축할 수 있습니다. 출시 후 PIMS는 관련 추적 및 수정 데이터를 자동으로 대시보드에 입력할 수 있습니다."

이러한 속도는 새로운 규칙을 수용할 때 매우 중요합니다. 몽고메리는 "주요 규정이 제정될 때 2~3년의 준비 기간이 주어질 가능성은 거의 없습니다."라고 설명합니다. "4~5개월 정도만 주어지죠. 상시 재고 관리를 지원하고 기업 전체에서 사용되는 데이터에 대한 강력한 이해를 제공하는 도구인 PIMS 또는 이와 유사한 도구를 사용하지 않는 파트너 또는 고객은 규정 준수에 어려움을 겪을 것입니다."

"하지만 IBM과 협력하면 파트너와 고객이 위험을 관리하면서 프로젝트별로 이 AI 기술을 도입할 수 있다는 자신감과 신뢰를 구축할 수 있는 수준의 투명성을 제공할 수 있습니다."라고 덧붙입니다.

IBM 개인정보 보호 및 책임 기술 사부서는 개인 및 비즈니스 데이터의 보호 및 기밀성에 관한 글로벌 IBM 정책의 작성 및 관리를 감독합니다. 또한 IBM AI 윤리 위원회와 협력하여 AI 윤리 정책 및 관행에 대한 거버넌스 및 관련 의사결정 프로세스를 안내하고, IBM 전체에 걸쳐 책임과 신뢰의 문화를 구축합니다.