IBM のオープンソース戦略が支える AI の信頼性と透明性

記事をシェアする:

鉄道、インクジェット・プリンター、食品栄養表示。この3つが、オープンソース・テクノロジーや AI とどのような関係があるでしょうか。IBM はこの3つそれぞれに影響を受けて、オープンソースへのコミットメントを定義しています。それは、25年にわたり培ってきた財産である信頼性と透明性のあるAI開発の中核となるものです。最近では、IBMは公平でバイアスのないAIを支える、オープンソース・テクノロジーにおけるイニシアチブを強化しました。

オープンソースは、IBMのDNAに刷り込まれています。2019年のRed Hatの買収よりかなり前に、IBMはオープンソース・テクノロジーのグローバル・リーダーとして、The Linux Foundation (外部ページ、英語)や、The Apache Software Foundation (外部ページ、英語)、Eclipse Foundation (外部ページ、英語)の設立を支援していました。オープンソース・コミュニティーで管理できるようにソフトウェア・プロジェクトをいくつも提供してきました。オープン・ガバナンス (英語)や標準を支持し、公開コラボレーションや透明性を提唱してきたのもIBMです。こうした数十年にわたる歴史は、実のところ、一部ではよく知られていること (英語)の1つですが、信頼性が最大の関心事となっている今の時代に、AIへの投資を検討している多くの企業にとって、「AIのブラック・ボックス」の扉を開くのを支援します。

IBM Researchの著名な研究員であるMike Hindによれば、IBMのオープンソースという文化の中心には、次の2つの主要な目的が存在します。

• 科学の加速: 科学的進歩は、人が成し遂げた結果の上に築かれます。こうした結果がオープンソース・システムで提供されれば、他の研究者は、科学を発展させることに集中でき、研究論文に記載したソフトウェアの実装を再度行うという負担を避けることができます。
• 業界の民主化: ソフトウェアのビルディング・ブロックを提供すれば、誰もが既にある標準の上に、より高度なプロジェクトを開発することが可能になり、冗長な作業を軽減できます。

「鉄道の場合を考えてみてください」とHindは言います。「既にそこに線路があれば、良い列車を作ることに目を向けることができますよね。一から始める必要はありません」

企業がオープンソース・テクノロジーから直接収益を得ることはありませんが、オープンソース・ツールを使用するエコシステムを作り上げることで利益を得ることができます。インクジェット・プリンターがどのようにしてインク・カートリッジの新たな市場を生み出すことができたか、と同様に、このエコシステムは、コンサルティング・サービスや関連オファリングのような新しいビジネス機会を切り開くことができます。

信頼できるAIのためのIBMのオープンソース戦略

では、IBMではどのようにオープンソースを採り入れていて、AIの信頼性と透明性とはどのような関連性があるのでしょうか。IBMの信頼できるAIオープンソース戦略の基礎を形成する、ソフトウェアとすぐに使える素材の組み合わせについて、Mike Hindは次のように詳述しています。

• Githubリポジトリー (外部ページ、英語)。オープンソース・コミュニティーに対してソフトウェアのビルディング・ブロックを提供するソース・コードが含まれています。
• LF AI Foundation (外部ページ、英語)に提供しホストされたた、信頼できるAIに関する3つのプロジェクト。「このような、最先端のオープンソース・ツールキットが、真のマルチベンダー・オープン・ガバナンスを提供します」と言うのは、IBM Research認知オープン・テクノロジー・グループ担当取締役Jim Spohrer (PhD)です。
  1. AI Fairness 360ツールキット (英語)は、データサイエンティストが機械学習モデルやデータ・セットに潜むバイアスを簡単に検知して緩和できるようにします。
  2. Adversarial Robustness 360 ツールキット (英語)は、ディープ・ニューラル・ネットワークに対する敵対的な攻撃の検知とシミュレーションを行うことにより、研究者や開発者がAIシステムを保護できるようにします。
  3. AI Explainability 360ツールキット (英語)は、機械学習モデル向けの種々の説明可能なアルゴリズムを提供します。
• AI FactSheets (英語)は、加工食品の情報である栄養成分表示のように、AIに透明性を提供します。AI FactSheetsのWebサイト(英語)に、AIの透明性に対するアプローチ、つまりAIモデルやAIサービスが、ある程度の期間をかけて段階的にどのように開発され、テストされ、デプロイされ、モニターされ、変更されてきたかが、消費者にわかりやすい事実を用いて説明されています。このサイトには、オープンソース・モデル・カタログ (英語)内のサンプル・モデル、 有益なFactSheetを作成するための方法論 (外部ページ)、ならびにAIガバナンスをサポートするためのFactSheetsの利用方法 (外部ページ、英語)についての洞察が含まれています。
• 公開Slackチャネル (英語)では、会員数800名以上で活発な活動が行われていて、誰でも質問できます。

オープンソース・コミュニティーの助けを借りて、エンタープライズでそのまま使える説明可能なAIをつくる

自分達のオープンソース・コミュニティーを育てることで、IBMは、調査研究を実践するための現実的なアプローチが可能になりました。「人は、論文で公表された研究結果があると、それがもうすでに完了したものだと考えます。完了ではないのです」こう Hindは言います。「研究結果を製品化する際には、オープンソース・コミュニティーからの顧客のフィードバックを取り入れることが極めて重要です。研究結果から製品を作り出す中で行うことの1つは、研究結果のどの部分がエンタープライズ環境に適しているかを判定することです。製品のライフサイクルをまわす際に、理論を現実に変えていく過程で不可決なのは説明可能なAIやモデルをモニタリングする機能を取り入れること、オープン・システムで各種ユースケースを評価することです。

堅固なオープンソース・コミュニティーからメリットを享受するのは誰か

Mike Hindは広範なエコシステムを割り出しました。オープンソースを利用するメリットとして、次のような点を挙げています。

• データサイエンティストは、レポートを読んだり、自らアイデアを実践したりしなくても、アイデアを実際のソフトウェアで試すことができます。
• 研究者は、研究結果をすぐに共有し、同一条件での比較を共通のプラットフォームで行えます。
• エグゼクティブおよびビジネス・リーダーは、十分な情報を得た購入者・評価者として重要な意思決定を下す際の助けとなる、考え方の枠組みを開発できます。
• ポリシー決定者および社会科学者は、より多くの学識を得て、AIの信頼性と透明性といった重要な社会問題について、鍵となるフィードバックを提供できるようになります。

「データサイエンティストや研究者だけに信頼性を定義させるのは、大きな間違いです」とHindは明言します。「信頼性は人間の特質です。信頼性が本当に意味するものが何なのかについて情報を与えてくれる、心理学者や哲学者およびその他のステークホルダーが必要です」。技術と科学の両方のすべての参加者が同じ言語で話すための助けとなるオープンソース・ツールキットが、 AIの信頼性を守るために必要な深遠な協力体制を育みます。

AIの意味を明確にし、AIを信頼できてはじめて、ビジネスにおいて実稼働モデルの数や正確さを増すことができ、結果として目に見える経済価値 (要登録、英語)を得ることができます。この取り組みのキーとなる部分がオープンソースです。人はアイデアを共有し、科学を進歩させ、保護された公平なAIライフサイクルへの可視性を得ることができます。そのすべての原点にあるのが、世界にプラスの影響を及ぼすテクノロジーを生み出す中核となるIBMの価値 (英語)です。最終的な収益につなげるための最適な方法は、オープンソース・テクノロジーを通じてAIの信頼性と透明性を育むことです。しかし、それよりももっと重要なのは、それが正しい行動だということです。

次のステップ

データとAIの統一プラットフォームであるIBM Cloud Pak for Dataで、幅広いオープンソース・テクノロジーを統合します。

製品のメリット、コスト削減、証言などについては、当社の製品ページをご覧ください。

AIを活用した分析の将来については、ガートナー社による調査結果を特集した当社のニュースレター (英語、要登録)をご確認ください。

原文：IBM’s open source strategy champions AI trust and transparency (https://www.ibm.com/blogs/journey-to-ai/2020/09/ibms-open-source-strategy-champions-ai-trust-and-transparency/(英語))