Newsroom

ガートナージャパン株式会社 (本社：東京都港区、以下Gartner) は、世界で進行するAI規制を踏まえ、日本企業への提言を発表しました。企業は責任あるAIの使用に向けて今すぐ準備を開始すべきです。

グローバルでAIの開発と採用が進む中、各地域／国でAIの規制の動きが急ピッチで進行しています。EUの立法機関である欧州議会は、2024年3月13日、世界初となる包括的なAI規制法案を可決しました。米国においては2023年10月30日、AIの安全性確保に向けた大統領令が発令され、議会ではAI規制に関する法案作りが進められています。中国においても、アルゴリズムの透明性の確保やAI倫理の側面から規制が行われています。一方、日本においては、2024年4月19日に経済産業省と総務省から「AI事業者ガイドライン（第1.0版）」が公表されているものの、これには法的強制力はなく、対応については各事業者が自主的に取り組みを推進することとされています (図1参照)。

バイス プレジデント アナリストの礒田 優一は次のように述べています。「AIガバナンスや実務をどうするのか、明確になっていない企業が散見されます。日本にはAI関連の法規制がない、ということは取り組みを進めない理由になりません。今すぐ取り組みに向けた準備を開始すべきです」

EUのAI規制法はEU域外にも適用されるため、世界中の企業や公的機関の製品／サービスがEU市場に投入される場合、またはその使用がEU内の人々に影響を与える場合は、同様に同法を遵守する必要があります。

「考慮すべきは法律面のみではありません。AIを誤って使った場合には、人権やその他の権利侵害、精神的あるいは肉体的苦痛をもたらすほどの潜在的リスクがあり、道を外せば法律の有無にかかわらず炎上し、企業としての信頼を大きく失うことになります。責任ある企業として然るべき対応を取ることは当然です」(礒田)

企業は日本国内のみならず海外の最新動向を踏まえ、先手を打つ必要があります。EUの一般データ保護規則 (GDPR) がプライバシー関連規制における世界のデファクト・スタンダードのようになった経緯があるのと同様に、EUのAI規制法は今後、他の国々の規範となって広がる可能性があるとGartnerはみています。

リスク・ベースでAIを識別／分類し、法的義務にかかわらず責任ある対応を取る

AIと一言で言っても、実際はさまざまであるため、リスク・ベースで対応するのが現実解となります。EUのAI規制法でも許容できないリスクのAIは禁止し、高リスクのAIにはその要件や義務を定めています。現時点ではそれに該当するAIの開発や使用をしていない日本企業も多く、その場合法的対応の厳密性が問われることはありませんが、ネガティブ・インパクトを与える可能性がある場合には、典型的なAI原則に沿って、責任ある企業として説明できるようにしておくべきです。その多くは必ずしもテクニカルではなく、コンプライアンス対応としての内容が多い場合もありますが、GDPRに対応してきた欧米の組織と比べると、日本の組織はこのあたりの成熟度が総じて低いため、基礎を築くところから取り組みを開始する必要があります。Gartnerは、AIのリスクに対する必要な取り組みを「AIのトラスト／リスク／セキュリティ・マネジメント (AI TRiSM)」と定義し、整理しています。企業は、そうした実践的な取り組みを通して、リスクを軽減させる努力を継続していく必要があります。

礒田は次のように述べています。「AIによる産業革命はまだ始まったばかりです。AIのユースケースとテクノロジは、今後も絶えず変化することを想定しておくべきです。2023年に大きな話題となった生成AIについては、EUのAI規制法においては、議論を経て、特定のAIシステムとして、チャットボットや音声／画像／映像／テキスト・コンテンツ生成の汎用目的のAIを挙げ、透明性要件を課すなどして議論の結果を反映させています。補足するガイドラインも後続で公表されます。テクノロジが先、法律は後追いになるため、企業は、法律中心ではなく『人中心』に考える必要があります」

Gartnerのサービスをご利用のお客様は、リサーチノート「クイック・アンサー：世界のAI規制の最新トレンドを踏まえ、日本企業は何をすべきか」で詳細をご覧いただけます^※。
日本で提供しているサービスについては、こちらよりご参照ください。https://www.gartner.co.jp/ja/products

ガートナー セキュリティ & リスク・マネジメント サミットについて

2024年7月24～26日にグランドニッコー東京 台場にて開催するガートナー セキュリティ & リスク・マネジメント サミットでは、セキュリティ／リスク・マネジメントのリーダーおよびセキュリティの担当者に向けて最新の知見やアドバイスを提供します。コンファレンスのニュースと最新情報は、Xでご覧いただけます (#GartnerSEC)。

日本のITエグゼクティブ向けのニュースや最新情報は、GartnerのXやFacebookでも案内しています。最新のプレスリリースや記事、ウェビナー情報については、ニュースルームよりご参照ください。

^※Gartnerは法律事務所ではなく、法的助言を提供するものではありません。本リサーチに記載された事項は、情報提供を目的としたものであり、弁護士の助言に代わるものではありません。関係法域における特定の問題について、資格を有する専門家に相談することなく、本リサーチに記載された情報に基づいて行動してはなりません