Gartner、AIリスクへの対処について日本企業への提言を発表

ガートナージャパン株式会社 (本社：東京都港区、以下Gartner) は、AIリスクへの対処について日本企業への提言を発表しました。

AIが急速に進化し、その採用が広がる中、AI規制の動きが欧州、米国、中国など世界中で進行しています。日本においても法案が国会に提出されています。バイス プレジデント アナリストの礒田 優一は次のように述べています。「日本においては現時点でAI規制は存在しませんが、AI原則は世界共通であり、日本企業も原則を実践に落とし込み、具体的な取り組みを進める必要があります」

AIリスクへの対応は全体像の把握と課題の優先順位付けが重要

現在、組織で進められているAIリスクに向けた取り組みは、主に次の3つに集約されます。

1. AIガバナンス：AIリスクに対する組織の責任と姿勢を明確にし、組織全体としてAIの開発と利用を倫理的、法的、社会的な基準に沿って監督、管理し、対処する枠組み
2. AIリスク・マネジメント (一般従業員向け)：従業員のAI利用におけるリスクに対する実践的な取り組みに関連したプロセス／手法／テクノロジ全般
3. AIリスク・マネジメント (開発／運用者向け)：AIアプリケーションの開発／運用におけるリスクに対する実践的な取り組みに関連したプロセス／手法／テクノロジ全般

理想的には (あるいは原則的には)、まずは「1. AIガバナンス」、次に「2. AIリスク・マネジメント (一般従業員向け)」、さらに自社で開発を行う組織は「3. AIリスク・マネジメント (開発／運用者向け)」といった順で進めることをGartnerは推奨しています。しかしながら、緊急性や即効性の観点で、「2. AIリスク・マネジメント (一般従業員向け)」から着手する組織が多いのも実情です。実際に、直近1年程度の間でGartnerに寄せられた問い合わせでも、「2. AIリスク・マネジメント (一般従業員向け)」に関するものが最も多い傾向にあります。

一方、「2. AIリスク・マネジメント (一般従業員向け)」のような取り組みを進める上では、組織全体の連携や推進力が必要不可欠であることから、「1. AIガバナンス」の確立が必要になります。つまり、先行して「2. AIリスク・マネジメント (一般従業員向け)」に取り組む組織は、同時並行で「1. AIガバナンス」を進める必要があります。組織全体として取り組む必要があるため、経営レベルの関与や体制の確立も重要であるとともに、現場レベルにおける責任と役割の明確化も必要になっています。

リスク・コントロールと継続的改善が重要

セキュリティ／リスク・マネジメント (SRM) のリーダーは、AIリスクとその対応についてはリスク低減のみを図るのではなく、ビジネス価値の創造、スピードを妨げないようなバランスの取れたリスク・コントロールを設計、実装し、フィードバックを受けて継続的に改善していく必要があります。

「1. AIガバナンス」の取り組みに当たっては、経営者がAIリーダーや責任者を任命すべきであるとGartnerは考えています。AIリスクへの対応には多数の部署が関係するため、複数部署の連携を促し議論をリードすることのできる実質的なAIリーダーが必要です。大規模な組織ではAIリーダーを支えるチームの組成やAI委員会の設置も推奨されます。

礒田は次のように述べています。「経営者のAIリスクの認識度が低い場合は、SRMリーダーが自ら問題提起し、経営陣のアウェアネスの向上から始め、関係者を巻き込んでAIリーダーを擁立し、関連部署の連携を可能とする体制の整備に向けて動き出す必要があります」

「2. AIリスク・マネジメント (一般従業員向け)」については、既に何らかのガイドラインを作成した組織は多いものの、見直しが必要になっているケースも散見します。従業員が容易に理解でき、かつアクショナブルなガイドラインを作成することが重要です。急速な変化とリクエストの増加に耐える内容である必要があります。

「3. AIリスク・マネジメント (開発／運用者向け)」は、自社で開発／運用することを前提としているため、システムのライフサイクル全体を通したリスク軽減に向けたガイドラインが必要になります。各フェーズで実施すべきことを盛り込むべきです (例：企画段階からリスク特定や評価を行うなど)。まだ未着手の組織も多いですが、今後への備えとして必要になります。

礒田は次のように補足しています。「SRMのリーダーは、AIリスクに対して組織が何をどこから対応すべきか、改めて全体を俯瞰し、優先的に取り組むべき側面を特定し、そこから着手すべきです。実践な取り組みと改善を重ねることで、責任ある組織としてAIリスクに対応することが可能となります」

Gartnerのサービスをご利用のお客様は、リサーチノート「AIリスク：何をどこから着手すべきか」で詳細をご覧いただけます。
日本で提供しているサービスについては、こちらよりご参照ください。https://www.gartner.co.jp/ja/products

日本のITエグゼクティブ向けのニュースや最新情報は、GartnerのXやLinkedIn、Facebookでも案内しています。最新のプレスリリースや記事、ウェビナー情報については、ニュースルームよりご参照ください。