我が国のAIガバナンスの在り⽅ ver. 1.0

資料２

我が国のAIガバナンスの在り⽅ ver. 1.0

AI社会実装アーキテクチャー検討会 中間報告書

2021年5⽉ 経済産業省 商務情報政策局 情報経済課 アジェンダ︓AIガバナンスの在り⽅の検討

関連箇所︓1.



AI社会原則の実装に向けて、国内外の動向も⾒据えつつ、我が国の産業競争⼒の強化と、AI の社会受容の向上に資する規制、標準化、ガイドライン、監査等、我が国のAIガバナンスの在り ⽅を検討する。【CSTI・総・経】（統合イノベーション戦略2020、AI戦略2019フォローアップ）

AI社会原則＝⼈間中⼼のAI社会原則（2019年3⽉決定）

 基本理念

⼈間の尊厳が尊重される社会（Dignity） 多様な背景を持つ⼈々が多様な幸せを追求できる社会（Diversity & Inclusion） 持続性ある社会（Sustainability）  AI社会原則

(1)⼈間中⼼の原則、(2)教育・リテラシーの原則、(3)プライバシー確保の原則、(4)セキュリティ確保の原則、

(5)公正競争確保の原則、(6)公平性、説明責任及び透明性の原則、(7)イノベーションの原則

AIガバナンス（経産省の検討会で⽤いた定義）

 AIの利活⽤によって⽣じるリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる正の インパクトを最⼤化することを⽬的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計及 び運⽤。

1 国内外の動向︓AI原則 → AI原則の実装

関連箇所︓2. A





AI原則の議論は、⽇本の『⼈間中⼼のAI社会原則』、欧州の専⾨家グループの『AI倫理ガイド ライン』等を経て、複数国が合意したOECD AI勧告とG20 AI原則で⼀区切り。

AI原則については概ねコンセンサスが形成されつつあるところ、 会で実現するためのガバナンスの議論に移⾏している。

テーマはAI原則から、AI原則を社

AI原則の例

⼈間中⼼

公正競争

教育

厚⽣

イノベーション

成⻑・持続可能性

公平性

公正性

安全性・ セキュリティ

透明性

アカウンタビリティ

プライバシー

包摂性

頑健性

説明可能性

監査可能性

ハードロー

ソフトロー

WhatからHow

社会におけるリスク

どのようにデザインするか︖

2 国内外の動向︓リスクベース・アプローチとリスクの評価

関連箇所︓2. B, C





リスクベース・アプローチ*が、国際的に広く共有されている。*規制の程度をリスクの⼤きさに対応させ

るべきという考え⽅。

他⽅で、具体的なリスク評価や分類については、国・地域、ステークホルダー間で、必ずしも共有 されているとはいえない状況にある。

リスクベース・アプローチ

 EU︓新しい規制の枠組みは、⽬的達成に効果的であると同時に過度に詳細な要件を定めるべきではないから、 「欧州委員会は、リスクベース・アプローチにしたがうべきである」  ⽶国︓規制導⼊にあたっては、潜在的な利益も考慮しつつ、受容できるリスクと受容できないリスクを⾒極めるリス クベース・アプローチで対応すべきであるという⽴場であって、予⾒される全てのリスクを緩和する必要はないとも考え ており、詳細な要件を定める規制に否定的である。  ⽇⽶財界⼈会議︓「この分野における両国政府のいかなる取組も、既存のルールや規制に留意すべきであるほか、 AIガバナンスにリスクベースのアプローチを採⽤・・・すべきである」

リスクの評価等の例

 リスクレベルの設定数︓バイナリーアプローチと多段階アプローチがある。  ⽤途に応じた分類の提案︓社会的リスクと物理的リスクに分類し、前者に対して新たな⽴法の必要性に⾔及。

3 国内外の動向︓AIガバナンスの構造

関連箇所︓2. D, E

What





ガバナンス・イノベーション報告書*が提⽰するSociety5.0時代のガバナンスの全体構造を記述 するためのユニバーサルなフレームワークを参考にして、AIガバナンスの全体像をレイヤー構造化。

AIガバナンスの議論では、

国際的＆レイヤー間の協調が重要。

*「GOVERNANCE INNOVATION︓ Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」報告書（2020年7⽉13⽇）

AI原則（⼈間中⼼のAI社会原則、OECDのAI原則等）

AI原則から実装へのハイレベルガイダンス（OECD、UNESCO）

AI原則から実装への実践的ガイダンス（実ケース）（GPAI）

(1) 最終的に保護されるべき技術 中⽴的なゴール

How

法的拘束⼒のある規制

or

法的拘束⼒のない ガイドライン

法的拘束⼒のない ガイドライン

国際標準︓ISO/IEC JTC1 SC42、IEEE

個別分野等にフォーカスしたルール （⼤衆監視、⾃動運転、政府利⽤等）

モニタリング／エンフォースメント

(2) 横断的で中間的なルール

(3) 個別分野等にフォーカスした ルール

(4) モニタリング／エンフォースメント

4 ガバナンス・イノベーションから得られる⽰唆

関連箇所︓3. A

 社会のスピードや複雑さに法が追いつけない問題を克服するために、規制を、細かな⾏為義務を

⽰すルールベースから、最終的に達成されるべき価値を⽰すゴールベースにする。ゴールベースの規 制において⽣じる、規制とオペレーションとの間にギャップを克服するためには、ゴールを達成するた めに参照できる⾮拘束的な中間的ガイドラインや標準を策定することが重要である。*

*「GOVERNANCE INNOVATION︓ Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」報告書（2020年7⽉13⽇）

⼈間中⼼のAI社会原則︓政府と企業が共有するゴール

␗ ゴ たけ向にル

このギャップを埋めるガイドラインが求められている。

組 取み り

各企業の⾃主的取り組み（AIポリシー、組織ガバナンス等）

5 我が国のステークホルダーの意⾒等

関連箇所︓3. B, C

 産業界︓基本的にソフトローを選好。AI原則と企業の取り組みのギャップを埋める中間的なガイ ドラインが必要。ハードローの場合は、慎重な対応を要求。

 消費者︓事業者の適切な対応に期待しつつ、リテラシーを向上させ、AIを賢く使おうとする⽅向。

産業界の意⾒

 AI応⽤に対してソフトローを含む何らかの規制が必要であるという⽅向性については、産業界全体で概ね⼀致。  多くの産業団体や企業は、ソフトローには概ね賛同している。  ハイリスク応⽤への規制導⼊については、理論的には賛成するものの、規制対象を慎重に特定すべき。  AI原則と企業の取り組みのギャップを埋める中間的なガイドラインが必要。他⽅で、チェックリスト化は避けるべき。  企業間取引における共通認識の形成が重要。AIシステムの開発や運⽤が１社で閉じることは少ない。そのため、 AIシステムの開発や運⽤のプロセスに関して、複数企業間で認識を共有することが求められている。  BtoB企業とBtoC企業の違いに配慮すべき。これらを区別しないone-size-fits-allのガイダンスは望ましくない。  知的財産への配慮が必要。

消費者の⾒⽅

 AIについて⼗分に理解できていない可能性あり。AIに対する漠然とした不安も感じている。  他⽅で、「医療・介護」「⾃動翻訳」など、サービスの普及が想像しやすい分野では⽐較的期待値が⾼い。

6 我が国のAIガバナンスの在り⽅

関連箇所︓3. D

 ゴールベースのガバナンスの⽀援のため、法的拘束⼒のない企業ガバナンス・ガイドラインを作成。

– AI原則を解説しているガイドラインを活⽤しつつ、企業ガバナンスに融合しやすいガイドラインを作成。

 これまで同様、国際標準の議論をリードする。  現時点では、法的拘束⼒のある横断的な規制は不要。  個別分野については、ITではなく、業法の観点からの関わりの⽅が望ましい場合あり。

経営陣

監査

AIマネジメント

AI責任者

事業部⾨

事業部⾨

⼤規模企業

事業部⾨

有識者 ステークホルダー

外部専⾨家

⼩規模企業

7 今後の課題、パブリックコメント

関連箇所︓3. E, 4

 ⾮拘束の中間的なガイドラインを利⽤するインセンティブの確保  政府のAI利活⽤に対するガイダンスの導⼊  他国のガバナンスとの調和 / 政策と標準の連携（GPAI、OECD、UNESCO、⽇EUのAI共同 委員会、CEN/CENELECとの連携など）  モニタリングとエンフォースメント（ガイドラインの利⽤状況把握から始める）

パブリックコメント:マルチステークホルダーのインプットが必須。AIガバナンスの議論は始まったばかり。

技術やビジネスモデルの変化に⼀層、柔軟に適応することができるというゴールベースの規制の⻑所 を維持しつつ、上述のようなオペレーションのギャップを克服するためには、ゴールを達成するために参 照できる⾮拘束的なガイドラインや標準を策定することが重要であると考えられる。これによって、被 規制者にとっての予⾒可能性を⾼め、とりわけコンプライアンスに⼗分な予算を単独では確保すること が難しい中⼩企業等にとって、法⽬的の達成が容易になることが考えられる。 ・・・ このようなガイドラインや標準の意義を考えると、その形式的な策定主体が政府であれ、⺠間団体 等であれ、実質的には、サイバー空間とフィジカル空間を融合したアーキテクチャを設計・管理している 企業を中⼼に、利⽤者・企業・技術者・アカデミア・法律や監査の専⾨家といった幅広いステーク ホルダーによって議論されるべきである。（強調追加）（5.1.2から引⽤）

8 AI社会実装アーキテクチャー検討会の委員

渡部 俊也 ⻘島 武伸

東京⼤学未来ビジョン研究センター 教授（座⻑） パナソニック株式会社 イノベーション推進部⾨ テクノロジー本部 デジタル・AI技術センター データアナリシス部 部⻑ 株式会社NTTデータ技術開発本部 本部⻑ 東洋⼤学経済学部総合政策学科 准教授 株式会社PKSHA Technology 代表取締役 株式会社経営共創基盤 共同経営者 マネージングディレクター ⼀般社団法⼈⽇本ディープラーニング協会 理事 法律事務所 LAB-01 弁護⼠ ⼀橋⼤学⼤学院法学研究科 教授 ⽇本マイクロソフト株式会社 業務執⾏役員 ナショナル テクノロジー オフィサー 東京海上⽇動⽕災保険株式会社 企業商品業務部 部⻑ ⼤阪⼤学 産業科学研究所 准教授 ⻄村あさひ法律事務所 弁護⼠ PwCあらた有限責任監査法⼈ パートナー 慶應義塾⼤学法務研究科 教授

⾬宮 俊⼀ ⽣⾙ 直⼈ 上野⼭ 勝也 川上 登福

⿑藤 友紀 ⾓⽥ 美穂⼦ ⽥丸 健三郎

⼟屋 嘉寛 原聡 福岡 真之介 宮村 和⾕ ⼭本 ⿓彦

関連箇所︓5.

9