※新型コロナウイルスの拡大防止に最大限配慮し、写真撮影時のみマスクを外しています。
竹田 千恵
日本アイ・ビー・エム株式会社
テクノロジー事業本部
Data and AI テクニカルセールス
統括部長
製造・流通・金融など幅広い業界のITインフラ基盤提案に携わり、お客様環境に応じて最適にデータ保護・分析・活用できるようソリューション提案や技術支援を実施してきた。現在、データ・AI領域におけるソフトウェア・ソリューションを提案する組織をリードしている。また、日本IBM AI倫理チームメンバーを務めている。
阪野 美穂
日本アイ・ビー・エム株式会社
IBMコンサルティング事業本部
AI&アナリティクス
アソシエート・パートナー
大学院でバイオインフォマティクスを研究した後、新卒でSIerに入社、製薬会社向けのバイオインフォマティクス・統計解析関連のコンサルティング業務に従事。その後、外資系コンサルティング会社に転職し、データサイエンティストとして機械学習/最適化に関連する技術の提供を行う。日本IBMに入社後はデータ分析のビジネス課題への適応をミッションとして、クライアント課題とデータ分析技術をつなぐ役割を担う。2022年からは日本IBM AI倫理チームのメンバーとして、日本企業のAI倫理意識向上に向けた活動に取り組んでいる。
信頼できるAIとは何か
AIの利活用が進み、私たちの日々の生活の様々な場面でAIが使われるようになって久しい。
チャットボットのような明らかにAIであると認識できるものから、Web広告のような一見AIであることが認識しづらいものまで、私たちの生活の身近なところにAIは浸透している。日々利用するアプリやサービスを思い浮かべた時に、AIを全く使わない日を挙げる方がむしろ難しいかもしれない。
2006年の第三次人工知能ブーム以来、AIは「日々の暮らしを豊かにしてくれるもの」として人々に好意的に受け止められている。「AIが有益であり、信頼できる」という信頼感はAIの利活用推進に必要不可欠だ。しかし、昨今ウクライナ情勢を巡るフェイクニュースがAIで作成されてSNSで拡散するなど、AIに対する信頼が揺らぎかねない有害な事象も発生している。
欧州委員会が発表した「信頼できるAIに関する倫理ガイドライン」によると信頼できるAIは下記の3要件を備えている。
- 法的規範を遵守する
- 倫理的である
- 堅牢である
1.や3.については「守るべき法律」や「技術的にクリアすべき事項」など対応方針が存在するため対処しやすいが、2.については「何が倫理的か」という基準が人や地域によって異なり、曖昧であるため対処が難しい。AIの倫理的な利活用については官民で日々議論されており、2017年のアシロマ原則を皮切りとして様々なAI原則やガイドラインが制定されつつある。
AI倫理を取り巻く状況と企業の関心
さて、ここでAI倫理を取り巻く企業の状況について述べたい。
IBM Institute for Business Value（IBV）とオックスフォード・エコノミクス社が22カ国の経営層1,200人に対して行った調査によると、AI倫理を重要視している経営層は2018年調査では全体の半数未満であったが2021年には75%にまで増加しており、AI倫理への関心の高まりがうかがえる。その背景には、EUにおけるAI規制をはじめとした各国における法的拘束力を持った規制導入が加速化していることと、消費者やビジネスのステークホルダーの間で社会的課題への取り組みを評価するという価値観が醸成されつつあること、という２つの要因があると考えられる。
その一方で、自社がAI倫理の実践段階にあると評価している企業は少なく、AI倫理に関する自社の原則や価値観（バリュー）を実践できていると評価している企業は20%にも満たない。意識の高まりと実践の間にまだギャップが存在する状態だ。
日本においても状況は変わらず、AI倫理原則・ガイダンスの策定やAI倫理委員会の設置などに着手した企業は散見されるが、開発プロセスへのAI倫理アセスメントの組み込みなど、実践段階に至っている企業はまだまだ少ない。
AI倫理に関するIBMの取り組み
IBMでは早期からAI倫理に対する立場を明確に示している。AIの目的は人間のインテリジェンスを高めること、データと洞察はそれを生み出した企業へ帰属すること、AIを含む新しい技術は透明で説明可能でなければならないこと、である。そして、2018年には実践的ガイドラインで５つの倫理的なAIの基本特性を提示している。(図1)
図１. IBMのAI倫理
AI倫理委員会をGlobalのAI Ethics Boardの元、日本でも設置し、組織横断でAI倫理の実践を推進している。Research、法務、コンサルティング、テクノロジー事業部から各代表のメンバーで構成しており、本年第一弾となるAI倫理カンファレンスも実施した。また、AI倫理の浸透に向け、必要なスキルを高めるための研修やデジタルバッジの発行、AI倫理リスク評価プロセスを整備している。
図２. IBMにおけるAI倫理ガバナンス体制
AI倫理リスク対策ソリューション
技術的なAI倫理リスク対策の観点で、IBM Watson OpenScaleソリューションと、IBM OpenPages with Watsonソリューションをご紹介したい。前者は、AIのモデルを実行する上で、モデルの監視と改善を運用で継続するMLOps（開発と運用を統合的に考えるソフトウェア開発手法であるDevOpsを機械学習Machine Learningへ応用した実践手法）を支援する。入力をどう変更するとモデルの結果の変化にどう繋がるのか説明可能であること、学習データとモデルにバイアスが潜んでいるかといった公平性の確認、ライフサイクルを通して精度を保持できているか、ドリフトしていないかを確認できる。
例えば、OpenScaleはバイアスのチェックを行うだけでなく、自動的にバイアスを緩和する機能を持っているので、ラジオボタンを「バイアス緩和済み」に切り替えると、緩和モデルであればどのような出力になっていたかの状況を表示できる。詳細は「信頼できるAIを実現するWatson OpenScaleの始め方①〜③」を参照願いたい。また、IBM Cloud Pak for Data v4.5から提供されるAI Factsheetsと組み合わせることで、モデル・インベントリー管理も可能となっている。後者のIBM OpenPages with Watsonでは、OpenScaleと連携し、全社リスクを統合的に管理するプラットフォームを提供している。定期的なリスク・アセスメントや問題発生時における報告・指示・対処といった一連のPDCAサイクルを迅速に循環させるワークフローを、業務プロセスの中に組み込んで活用できる。
図３. IBM Cloud Pak for Data: AIモデルの管理機能
サービスの観点では、2021年4月より「IBM ML品質診断サービス」を提供している。産業技術総合研究所の機械学習品質マネジメントガイドラインに基づいて、IBMが開発したAI品質診断フレームワークを用い、AI本番適用に求められるMLシステムとしての品質を安全性や有用性、公平性について診断し、課題や改善点を提示する。また、AIを活用した製品/サービス開発に特化したデザイン思考のフレームワーク「AI Essentials Framework」があり、その中でいくつものアクティビティーがあるので、これを使ってAI倫理的なリスクの洗い出し、評価に活用いただくこともお勧めだ。
終わりに
AI倫理の重要性を感じる一方で、一日でも早くサービスをリリースしたいのにリスク対策の検討を迫られることを負担に感じる開発者もいるかもしれない。しかし、開発者はすべからく「社会の役に立ちたい」と思ってその道に進んだのであって、自らの仕事が社会にとってのウェルビーイングにつながることは喜びになるはずだ。開発者が受け身ではなく、自発的に倫理について考える姿勢が求められている。
そして、開発者の情熱をウェルビーイングにうまくつなげられるようAI倫理ガバナンス・ツールの進化が期待されている。
