AIに対する信頼の構築

2022年後半には、PIMSをアップグレードし、IBM^® OpenPagesとIBM Knowledge Catalogテクノロジーを利用するようになりました。このソリューションは、IBM Data and AI ポートフォリオ（概要は後述します）の革新的なシステムも備えており、データ・プライバシーと、設計から展開、日常的な使用に至るまでAIライフサイクル全体に関連するメタデータを取得、統合、透明化できる全社的な集中型プラットフォームを提供します。

「PIMSでは、標準化、簡素化、大幅な拡張が包括的な目標でした」とCoxは振り返ります。「そして現在、より継続的なコンプライアンス・アプローチを取ることで、現在私たちが行っていることと、今後登場する新しい規制とのギャップを明確にすることができます。」

「従業員、顧客、政府、政策立案者など、エコシステム全体で信頼を築くことが重要です」とMontgomeryは付け加えます。「だからこそ私たちは、AIとの関わりにおいて透明性を確保することを強く支持しているのであり、PIMSは本質的にそれを提供するのに貢献しています。」

「バイアスを考慮することは特に重要です」とCoxは指摘します。「人間の欠点をAIによって大規模に増幅すれば、その欠点は複数のシステムで再現され、社会への影響はより大きくなります。」

IBM OpenPagesはPIMSの中核として機能し、以前はサイロ化されていたガバナンス、リスク、コンプライアンス（GRC）機能に自動化された集中ワークフローを提供します。そして、IBM Knowledge Catalogは、このGRC情報を関連する知識資産や関係とともにモニターし、キュレーションするための対応するデータ・カタログを提供します。

IBM AIガバナンス戦略の一環として、PIMSはIBM Cloud Pak^® for DataのIBM AI Factsheets機能も活用しています。このツールは、トレーニングから本番まで機械学習モデルのライフサイクルを追跡し、リスクやモデルのドリフトを監視するために使用できる実世界のデータを取得します。

PIMSは、IBMが製品化したAIの新しいインスタンスや、他のアルゴリズム・システムのインスタンスを登録します。PIMSは、それらを一元化された全社的なワークフローに追加し、潜在的なリスクについて評価します。また、モデルが稼動した後は、公平性、品質、ドリフトを継続的にモニタリングすることができます。

同時に、新たな規制が可決されると、PIMSを利用してこれらの要件をインポートし、ガバナンス・モデルやリスク評価作業全体を更新することができます。

「毎年、新しいAI規制が数多く提案されています」とCoxは指摘します。「米国の各州は独自のルールを構築している最中のようです。2024年に、ヨーロッパでは重要な署名法が登場します。」

このようにAI規制状況が進化し、データ・プライバシーとデータ・ガバナンスのコンプライアンスを維持する責任が継続する中で、IBMは統合ガバナンス・プログラム（IGP）を作成しました。このIGPイニシアチブは、プライバシー、AIまたはアルゴリズム・システム、技術倫理のユースケース、およびデータ・クリアランス要求に対処するための統一的な戦略を提供するもので、すべてPIMSを含む同じ包括的ガバナンス・プログラムに含まれます。

IGPは、IBMがコンプライアンス・プログラムを大規模に管理できるよう支援しており、これには2024年に採択されるEU AI法（世界初の包括的AI法）も含まれます。IGPにより、AIは、リスク、信頼、セキュリティー、透明性に焦点を当てた同法の要件に沿うことができ、EU域内だけでなく世界中でAIに対する人間の監視と規制遵守の新たなレベルを推進することが期待されます。

さらに、PIMSと関連する統合されたガバナンス・ワークフローは、トレーサビリティーとレポート機能を向上させ、データがモデルの事前トレーニング、開発、微調整に使用される前に、データのクリアランス・レビューを完了させることができます。このツールはまた、AIやその他のアルゴリズム・システムに関して、正確な文書化と処理項目記録（RoP）、関連するトレーニング、テスト指標、および現在の予測を維持するのにも役立ちます。同様に、IBMのスタッフは、この文書証跡を使用して、修復が実際に完了したかどうかを検証することができます。

IBMは、PIMSの将来のバージョンにwatsonx.governanceを含むIBMの最新の watsonx製品スイートを反映させることを計画しています。この動きは、強化されたモデル・ライフサイクル・ガバナンス機能、主要指標、より広範なパフォーマンス・ベンチマーク・レポートをIBMに提供することを意図しています。

現在、PIMSは、IBMのグローバルな事業全体で、5,500を超えるエンタープライズ・アプリケーションとビジネス・プロセスを、すべて単一の統合プラットフォームから追跡および管理しています。また、このツールによって提供される自動化機能は、関連する重要業績評価指標（KPI）をガバナンス・ダッシュボードに提供します。これは、管理の簡素化、オーバーヘッドの削減、修復作業負荷の軽減、コンプライアンスの迅速化を支援するように設計されています。

「すべての資産、すべての個人、すべてのアプリケーション、すべてのビジネス・プロセスをプロセス所有者が監視して、どの法律に準拠する必要があるかを判断させるのではなく、その複雑さに気付かないようにします」とCoxは説明します。「PIMSを使用すると、自動生成された修復タスクだけに集中するだけで済みます。これは、IBM全体で何千時間もの労力の削減につながります。」

また、新たな規制が導入されると、IBMはその要件をより迅速に特定し、対応することができます。

「私たちの最後の大きなプロジェクトであるGDPRでは、ガバナンス・モデルと追跡ソリューションを導入するのに約12カ月を要しました」とCoxは述べています。「PIMSを導入したことで、全社的な法規制コンプライアンス・プログラムを、時には6週間という非常に短期間で立ち上げることができるようになりました。情報は既に手に入っているため、ギャップを特定し、キャンペーンを構築するのがより迅速かつ容易になります。立ち上げ後、PIMSは関連する追跡データと修復データをダッシュボードに自動的に入力することができます。」

そして、新しいルールに対応する際には、このスピードが非常に重要です。Montgomeryは次のように説明しています。「主要な規制が制定された場合、2～3年の立ち上げ期間が与えられることはまずありません。4カ月から5カ月くらいになるかもしれません。そして、私たちのパートナーやクライアントが、PIMSやそれに類するもの、つまり常時稼働の在庫管理と企業全体でどのようなデータが使用されているかを確実に把握できるツールを持っていない場合、コンプライアンスで苦労することになるでしょう。」

「しかし、IBMと提携することで、私たちは高いレベルの透明性を提供できます。それは、パートナーやクライアントが、リスクを管理（監視）しながら、プロジェクトごとにこのAIテクノロジーを導入できるという自信や信頼を築くのに役立ちます」と彼女は続けます。

IBM Office of Privacy and Responsible Technologyは、個人およびビジネス・データの保護と機密性に関するグローバルなIBMポリシーの作成と管理を監督します。また、IBM AI倫理委員会と連携して、AI倫理のポリシーと実践に関するガバナンスと関連する意思決定プロセスを指導し、IBM全体で責任と信頼の文化を構築しています。