AI 事業者ガイドライン

https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html

AI 事業者ガイドライン

（第 1.1 版）

令和 7 年 3 ⽉ 28 ⽇

総務省

経済産業省 ⽬次

はじめに ..................................................................................................... 2

第１部 AI とは .............................................................................................. 9

第２部 AI により⽬指すべき社会及び各主体が取り組む事項 ........................................... 11

A. 基本理念 ............................................................................................ 11

B. 原則 ................................................................................................. 12

C. 共通の指針 ......................................................................................... 13

D. ⾼度な AI システムに関係する事業者に共通の指針 ............................................... 25

E. AI ガバナンスの構築 ................................................................................ 27

第３部 AI 開発者に関する事項 .......................................................................... 30

第４部 AI 提供者に関する事項 .......................................................................... 35

第５部 AI 利⽤者に関する事項 .......................................................................... 38

1 はじめに

AI 関連技術は⽇々発展をみせ、AI の利⽤機会及び様々な可能性は拡⼤の⼀途をたどり、産業におけるイ ノベーション創出及び社会課題の解決に向けても活⽤されている。また近年台頭してきた対話型の⽣成 AI によ って「AI の⺠主化」が起こり、多くの⼈が「対話」によって AI を様々な⽤途へ容易に活⽤できるようになった。これ により、企業では、ビジネスプロセスに AI を組み込むだけではなく、AI が創出する価値を踏まえてビジネスモデル ⾃体を再構築することにも取り組んでいる。また、個⼈においても⾃らの知識を AI に反映させ、⾃⾝の⽣産性を 拡⼤させる取組が加速している。我が国では、従来から Society 5.0 として、サイバー空間とフィジカル空間を⾼ 度に融合させたシステム（CPS : サイバー・フィジカルシステム）による経済発展と社会的課題の解決を両⽴す る⼈間中⼼の社会というコンセプトを掲げてきた。このコンセプトを実現するにあたり、AI が社会に受け⼊れられ適 正に利⽤されるため、2019 年 3 ⽉に「⼈間中⼼の AI 社会原則」が策定された。⼀⽅で、AI 技術の利⽤範囲 及び利⽤者の拡⼤に伴い、リスクも増⼤している。特に⽣成 AI に関して、知的財産権の侵害、偽情報・誤情 報の⽣成・発信等、これまでの AI ではなかったような新たな社会的リスクが⽣じており、AI がもたらす社会的 リ スクの多様化・増⼤が進んでいる。

そのような背景の中、本ガイドラインは、AI の安全安⼼な活⽤が促進されるよう、我が国における AI ガバナン スの統⼀的な指針を⽰す。これにより、様々な事業活動において AI を活⽤する者が、国際的な動向及びステ ークホルダーの懸念を踏まえた AI のリスクを正しく認識し、必要となる対策を AI のライフサイクル全体で⾃主的に 実⾏できるように後押しし、互いに関係者と連携しながら「共通の指針」と各主体に重要となる事項及び AI ガ バナンスを実践することを通して、イノベーションの促進とライフサイクルにわたるリスクの緩和を両⽴する枠組みを 積極的に共創していくことを⽬指す。

我が国は 2016 年 4 ⽉の G7 ⾹川・⾼松情報通信⼤⾂会合における AI 開発原則に向けた提案を先駆け とし、G7・G20、OECD 等の国際機関での議論をリードし、多くの貢献をしてきた。⼀⽅、AI に関する原則の具 体的な実践を進めていくにあたっては、

 



少⼦⾼齢化に伴う労働⼒の低下等の社会課題の解決⼿段として、AI の活⽤が期待されていること 法律の整備・施⾏が AI の技術発展及びその社会実装のスピード・複雑さとの間でタイムラグが発⽣す ること 細かな⾏為義務を規定するルールベースの規制を⾏うと、イノベーションを阻害する可能性があること

等が指摘されてきた。これらを踏まえ、AI がもたらす社会的リスクの低減を図るとともに、AI のイノベーション及び 活⽤を促進していくために、関係者による⾃主的な取組を促し、⾮拘束的なソフトローによって⽬的達成に導く ゴールベースの考え⽅で、ガイドラインを作成することとした。

このような認識のもと、これまでに総務省主導で「国際的な議論のための AI 開発ガイドライン案」、「AI 利活 ⽤ガイドライン〜AI 利活⽤のためのプラクティカルリファレンス〜」及び経済産業省主導で「AI 原則実践のための ガバナンス・ガイドライン Ver. 1.1」を策定・公表してきた。そして、このたび 3 つのガイドラインを統合・⾒直しし て、この数年でさらに発展した AI 技術の特徴及び国内外における AI の社会実装に係る議論を反映し、事業 者が AI の社会実装及びガバナンスを共に実践するためのガイドライン（⾮拘束的なソフトロー）として新たに策

2 定した（「図 1. 本ガイドラインの位置づけ」参照）。従来のガイドラインに代わり、本ガイドラインを参照すること で、AI を活⽤する事業者（政府・⾃治体等の公的機関を含む）が安全安⼼な AI の活⽤のための望ましい⾏ 動につながる指針（Guiding Principles）を確認できるものとしている。また、本ガイドラインは、政府が単独で 主導するのではなく、教育・研究機関、⼀般消費者を含む市⺠社会、⺠間企業等で構成されるマルチステーク ホルダーで検討を重ねることで、実効性・正当性を重視したものとして策定されている。

図 1. 本ガイドラインの位置づけ

AI の利⽤は、その分野とその利⽤形態によっては、社会に対して⼤きなリスクを⽣じさせ、そのリスクに伴う社 会的な軋轢により、AI の利活⽤⾃体が阻害される可能性がある。⼀⽅で、過度な対策を講じることは、同様に AI 活⽤⾃体⼜は AI 活⽤によって得られる便益を阻害してしまう可能性がある。このような中、予め事前に当該 利⽤分野における利⽤形態に伴って⽣じうるリスクの⼤きさ（危害の⼤きさ及びその蓋然性）を把握したうえ で、その対策の程度をリスクの⼤きさに対応させる「リスクベースアプローチ」が重要となる。本ガイドラインでは、こ の「リスクベースアプローチ」にもとづく企業における対策の⽅向を記載している。なお、この「リスクベースアプロー チ」の考え⽅は、AI 先進国間で広く共有されているものである。

また、AI をめぐる動向が⽬まぐるしく変化する中、国際的な議論等も踏まえ、本ガイドラインに関しては、AI ガ バナンスの継続的な改善に向け、アジャイル・ガバナンスの思想を参考にしながら、マルチステークホルダーの関与 の下で、Living Document として適宜更新を⾏うことを予定している1 。その中で、社会における AI の成熟度に 応じたリスク及びリスクへの対策となる指針並びに実践の内容の更新を検討する（「図 2. 本ガイドラインの基本 的な考え⽅」参照）。

総務省の AI ネットワーク社会推進会議と経済産業省の AI 事業者ガイドライン検討会にて取りまとめを⾏う。検討体制は、今後の状況に合わせ て適宜⾒直しを⾏う。

1

・AI ネットワーク社会推進会議 https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/index.html

・AI 事業者ガイドライン検討会 https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html

3 図 2. 本ガイドラインの基本的な考え⽅

本ガイドラインは、AI 開発・提供・利⽤にあたって必要な取組についての基本的な考え⽅を⽰すものである。 よって、実際の AI 開発・提供・利⽤において、本ガイドラインを参考の⼀つとしながら、AI 活⽤に取り組む全ての 事業者が⾃主的に具体的な取組を推進することが重要となる。同時に、AI 活⽤に取り組む全ての事業者は、 AI が社会にもたらす影響の⼤きさを認識し、⼈間社会をよりよいものへと発展させるために活⽤することを意識す べきである。当該取組に対して、社会から不適切⼜は不⼗分と評価される場合は、⾃らの事業活動における機 会損失が⽣じ、事業価値の維持が困難となる事態を招く恐れがあることに留意することが重要となる。このような 点に留意することにより、AI による便益の最⼤化、競争⼒の強化、事業価値の維持・向上等が可能となる。な お、AI に関係する事業者以外の者、例えば、教育・研究機関に属する者及び⼀般消費者（未成年を含む） にとっても、AI の活⽤にあたって参考となる情報及びリスクに関する情報が盛り込まれているため、有⽤といえる。

本ガイドラインは、様々な事業活動において AI の開発・提供・利⽤を担う全ての者（政府・⾃治体等の公 的機関を含む）を対象としている。他⽅で、事業活動以外で AI を利⽤する者⼜は AI を直接事業で利⽤せず に AI システム・サービスの便益を享受する、場合によっては損失を被る者（以下、あわせて「業務外利⽤者」と いう）については、本ガイドラインの対象には含まない2 。ただし、事業活動において AI の開発・提供・利⽤を担う 者から業務外利⽤者への必要な対応は記載する。また、AI 活⽤に伴い学習及び利⽤に⽤いるデータが不可 ⽋となる。それらのデータを提供する特定の法⼈及び個⼈（以下、「データ提供者」という）も同様に本ガイドラ インの対象には含まない。データ収集は⾊々な⽅法が考えられる中で、本ガイドラインではデータの提供を受ける 者・データを⼊⼿する者にあたる AI の開発・提供・利⽤を担う者がデータを取り扱う際の責任を負う形で記載す る。以上より、本ガイドラインの対象者は、AI の事業活動を担う主体として、「AI 開発者」、「AI 提供者」及び 「AI 利⽤者」の 3 つに⼤別され、それぞれ以下のとおり定義される。これらの主体は事業者（⼜は各者内の部

⼀般消費者が AI、特に⽣成 AI を活⽤するにあたっての注意点等については、 消費者庁「AI 利活⽤ハンドブック〜⽣成 AI 編〜」（2024 年 5 ⽉）を参照。 https://www.caa.go.jp/policies/policy/consumer_policy/information/ai_handbook また、消費者を⽀援することに活⽤できる AI を含むデジタル技術の現状や⾒通し、課題等については、内閣府「消費者をエンパワーするデジタル 技術に関する専⾨調査会」報告書で整理されている。 https://www.cao.go.jp/consumer/iinkaikouhyou/2024/doc/202412_digital_technology_houkoku.pdf

2

4 ⾨）を想定しており、AI の活⽤⽅法によっては同⼀の事業者が AI 開発者、AI 提供者⼜は AI 利⽤者の複数 を兼ねる場合もある（「図 3. ⼀般的な AI 活⽤の流れにおける主体の対応」参照）3 。







AI 開発者（AI Developer）

AI システムを開発する事業者（AI を研究開発する事業者を含む） AI モデル・アルゴリズムの開発、データ収集（購⼊を含む）、前処理、AI モデル学習及び検証を通して AI モデル、AI モデルのシステム基盤、⼊出⼒機能等を含む AI システムを構築する役割を担う。

AI 提供者（AI Provider）

AI システムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとして AI 利⽤者（AI Business User）、場合によっては業務外利⽤者に提供する事業者 AI システム検証、AI システムの他システムとの連携の実装、AI システム・サービスの提供、正常稼働のた めの AI システムにおける AI 利⽤者（AI Business User）側の運⽤サポート⼜は AI サービスの運⽤⾃ 体を担う。AI サービスの提供に伴い、様々なステークホルダーとのコミュニケーションが求められることもあ る。

AI 利⽤者（AI Business User）

事業活動において、AI システム⼜は AI サービスを利⽤する事業者 AI 提供者が意図している適正な利⽤を⾏い、環境変化等の情報を AI 提供者と共有し正常稼働を継 続すること⼜は必要に応じて提供された AI システムを運⽤する役割を担う。また、AI の活⽤において業 務外利⽤者に何らかの影響が考えられる場合4 は、当該者に対する AI による意図しない不利益の回 避、AI による便益最⼤化の実現に努める役割を担う。

開発・提供 ・利⽤の対象に⽣成 AI も含まれる。AI 提供者⼜は AI 利⽤者が政府・⾃治体等、公的機関になる場合は、⺠間事業者の場合と は別の考えが必要になる可能性がある。 4 業務外利⽤者は、AI 利⽤者の指⽰及び注意に従わない場合、何らかの被害を受ける可能性があることを留意する必要がある。

3

5 図 3. ⼀般的な AI 活⽤の流れにおける主体の対応

⾃らが該当する「AI 開発者」、「AI 提供者」⼜は「AI 利⽤者」の⽴場から、「ステークホルダーからの期待を鑑 みつつどのような社会を⽬指すのか（「基本理念」 = why）」を踏まえ、「AI に関しどのような取組を⾏うべきか （指針 = what）」を明らかにすることが重要であり、また指針を実現するために、「具体的にどのようなアプロー チで取り組むか（実践 = how）」を検討・決定し、実践することが AI の安全安⼼な活⽤に有⽤と考えられる。 実際の AI システム・サービスは⽬的・活⽤技術・データ・利⽤環境等によって多様なユースケースとなり、技術の 発展等、外部環境の変化も踏まえつつ、AI 開発者、AI 提供者及び AI 利⽤者が連携して最適なアプローチを 検討することが重要である。本ガイドラインは読みやすさを考慮し、本編で「基本理念」及び「指針」を扱い、別 添（付属資料）で「実践」を扱うこととする。

「基本理念」及び「指針」を扱う本ガイドラインの本編の構成を以下に記載する。







第1部

本ガイドラインの内容に関する理解を助けるために、「⽤語の定義」を中⼼に記載する。

第2部

AI の活⽤により⽬指すべき社会及びそれを実現するための「基本理念」（why）、並びに原則及び各 主体に共通する指針（what）を記載する。AI の活⽤による便益を求める中で、AI が社会にリスクをも たらす可能性を鑑み、「共通の指針」を実践するために必要となるガバナンスの構築についても触れる。 第 2 部では第 3 部以降のもととなる内容を解説しているため、AI を活⽤する全ての事業者が内容を確 認し、理解することが重要である。

第 3 部〜第 5 部

AI を活⽤した事業活動を担う 3 つの主体に関し、第 2 部では触れられない主体毎の留意点を記載す る。AI を活⽤する事業者は⾃らに関する事項を理解することが重要であり、それと同時に、隣接する主

6 体と関係する事項が多く存在するため、当該主体以外に関する事項も理解することが重要である （「図 4. 本ガイドラインの構成」参照）。

「AI 開発者」、「AI 提供者」及び「AI 利⽤者」においては、第 1 部、第 2 部に加えて、第 3 部以降の当該部 及び別添（付属資料）を確認することで、AI を活⽤する際のリスク及びその対応⽅針の基本的な考え⽅を把 握することが可能となる。特に具体的な取組が決まっていない事業者にとっては、別添の記載例が参考となるた め、別添の関連箇所を中⼼とした確認が重要となる。なお、経営者を含む事業執⾏責任者5 は、その職務を全 うするために、本ガイドラインにおける「基本理念」（why）及び指針（what）を踏まえて、事業戦略と⼀体で AI を活⽤する際のリスク対策を検討・実践し、AI の安全安⼼な活⽤を推進することが重要である。

図 4. 本ガイドラインの構成

AI をめぐる環境はグローバル規模で⽇進⽉歩の進化を続けていることから、AI を活⽤する事業者は、国際的 な動向にも注意を払うことが重要である。我が国においても、こうした現状を踏まえ、広島 AI プロセス6 を通じて、 AI に関する国際的な共通理解及び指針の策定を主導しており、2023 年 12 ⽉には広島 AI プロセス包括的 政策枠組み等を取りまとめた7 。本ガイドラインも同プロセスへの貢献を意図するとともに、同プロセスを含む国際

事業執⾏責任者は、政府・⾃治体等の公的機関の事業執⾏責任者も含む。 2023 年 5 ⽉の G7 広島サミットの結果を受けて、⽣成 AI に関する国際的なルールの検討を⾏うため、「広島 AI プロセス」を⽴ち上げた。その 後、同年 9 ⽉の「広島 AI プロセス閣僚級会合」、10 ⽉の京都 IGF での「マルチステークホルダーハイレベル会合」等を経て発出された「広島 AI プ ロセスに関する G7 ⾸脳声明」を踏まえ、同年 12 ⽉に「G7 デジタル・技術⼤⾂会合」を開催し、同年の成果として、「広島 AI プロセス包括的政 策枠組み」を取りまとめた。さらに、2024 年には、3 ⽉の「G7 産業・技術・デジタル⼤⾂会合」、10 ⽉の「G7 デジタル・技術⼤⾂会合」を経て、国 際⾏動規範の遵守状況に係る「報告枠組み」が、同年 12 ⽉に G7 で合意された。https://www.soumu.go.jp/hiroshimaaiprocess/ 7 GPAI（The Global Partnership on Artificial Intelligence）とは、⼈間中⼼の考え⽅に⽴ち、｢責任ある AI｣の開発・利⽤をプロジェクトベ ースの取組で推進するために設⽴（2020 年）された、政府・国際機関・産業界・有識者・市⺠社会等のマルチステークホルダーによる国際連携 イニシアティブである。2024 年 7 ⽉、GPAI は OECD との統合パートナーシップ体制へと移⾏した。GPAI 専⾨家による調査研究やプロジェクトに対

5

6

7 的な議論を踏まえながら検討したものである。⼀⽅で、AI をめぐる考え⽅及び法令は国・地域で異なることから、 特に、国境を越えた活動を⾏う事業者は、現地の法令に対応すべきであり、ステークホルダーの要望に応じた対 応が期待される。特に⾼度な AI システムについては市場に導⼊される前の安全性評価8 の枠組みを検討する 等、国・地域によってはガバナンスの実効性を担保するための措置を講じている場合もあり、注意を払うことが重 要である。9

し、広島 AI プロセスの推進にも協⼒している⽣成 AI に関するプロジェクトをはじめとした運営・管理⾯での⽀援を提供するため、2024 年 7 ⽉に 「GPAI 東京専⾨家⽀援センター」を国⽴研究開発法⼈情報通信研究機構(NICT)に設置。同センターでは、これまでに SAFE プロジェクト（⽣成 AI の安全性を保証するための実践的なアプローチの調査）を展開してきたほか、OECD と協議しながら新たな⽣成 AI 関連プロジェクトを実施して いくこととしている。 https://www2.nict.go.jp/gpai-tokyo-esc/

2023 年 11 ⽉、英国では、⾼度な AI システムの評価の開発、実施等を⾏う「AI Safety Institute」の設置計画を発表し、⽶国では、⽶国標 準技術研究所（NIST）に AI リスクマネジメントフレームワークの実装、レッドチーミングの評価等を⾏う「US AI Safety Institute」を設⽴することを 発表した。なお、英国では、2025 年 2 ⽉に、AI Safety Institute から AI Security Institute に改称されている。⽇本においても、これらの海外 機関と連携しつつ、AI の開発・提供・利⽤の安全性向上に資する基準・ガイダンス等の検討、AI の安全性評価⽅法等の調査、AI の安全性に関 する技術・事例の調査等を⽬的とし、2024 年 2 ⽉ 14 ⽇に、関係府省庁及び関係機関の協⼒の下、「AI セーフティ・インスティテュート」を独⽴⾏ 政法⼈情報処理推進機構(IPA)に設置。本ガイドラインと⽶国 NIST AI リスクマネジメントフレームワーク（RMF）のクロスウォークや「AI セーフティ に関する評価観点ガイド」（2024 年 9 ⽉） https://aisi.go.jp/effort/effort_framework/guide_to_evaluation_perspective_on_ai_safety/の公表、各国の AISI 等との連携・意 ⾒交換、各種調査等の活動を実施している。 https://aisi.go.jp/ 9 2025 年 2 ⽉ 4 ⽇に、AI 戦略会議・AI 制度研究会 中間とりまとめが公表された。 https://www8.cao.go.jp/cstp/ai/interim_report.pdf

8

8

第１部 AI とは

AI は Artificial Intelligence（⼈⼯知能）を意味し、1956 年にダートマス会議で初めて使⽤された⾔葉

であるとされている。AI は未だ確⽴された定義は存在しないが、「⼈⼯」・「知能」とあるように、⼈間の思考プロセ スと同じような形で動作するコンピュータープログラム、コンピューター上で知的判断を下せるシステム等を指す。機 械学習（Machine Learning、略して ML）を⾏わない、専⾨家の知識を⼤量にインプットすることで知識にもと づく推論を⾏うエキスパートシステムと呼ばれるものも、AI とみなす考えもある。しかし、2000 年代以降、ディープ ラーニング等による「画像認識」、「⾃然⾔語処理（翻訳等）」、「⾳声認識」が活⽤されるようになり、特定の 分野に特化し、予測、提案⼜は決定を⾏うことができるシステムを AI と指すようになってきた。また、2021 年以 降、基盤モデル10 の台頭により、特定の分野のみに特化した AI ではない、汎⽤的な AI の開発が進んでいる。そ の結果、「予測」、「提案」、「決定」にとどまらず、画像、⽂章等を⽣成する「⽣成 AI」が普及するようになり、注 ⽬を集めている。このように、ひとくくりに「AI」と⾔っても、その種類は多岐にわたり、今後の AI 技術の在り⽅につ いては専⾨家であっても予測することは困難である。

このような状況を踏まえつつ、本ガイドラインにおける関連する⽤語を以下のとおり定義する。

関連する⽤語





AI

現時点で確⽴された定義はなく（統合イノベーション戦略推進会議決定 「⼈間中⼼の AI 社会原則」 （2019 年 3 ⽉ 29 ⽇））、広義の⼈⼯知能の外延を厳密に定義することは困難である。本ガイドライ ンにおける AI は「AI システム（以下に定義）」⾃体⼜は機械学習をするソフトウェア若しくはプログラム を含む抽象的な概念とする。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ＜学問分野＞AI システムのメカニズム及び適⽤の研究開発 注釈 1. 研究開発は、コンピュータサイエンス、データサイエンス、⾃然科学、⼈⽂科学、数学等、幾つも の分野にわたって⾏うことが可能である

AI システム

活⽤の過程を通じて様々なレベルの⾃律性をもって動作し学習する機能を有するソフトウェアを要素とし て含むシステムとする（機械、ロボット、クラウドシステム等）。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ⼈間が定義した所与の⽬標の集合に対して、コンテンツ、予測、推奨、意思決定等の出⼒を⽣成する ⼯学的システム 注釈 1. ⼯学的システムは、⼈⼯知能に関連する様々な技法及びアプローチを使⽤して、作業の実施

⼤規模⾔語モデルに代表される基盤モデルは、様々なサービスを⽀える個別モデルを⽣み出すコアの技術基盤である。基盤モデルから派⽣する 下流の幅広いタスクに適応させたモデルの開発、開発過程そのものから得られる知⾒等の観点から、⼀般的な AI とは異なる性質を持つ。

10

9 に使⽤可能であるデータ、知識、プロセス等を表すモデルを開発することが可能である 注釈 2. AI システムは、様々な⾃動化のレベルで動作するように設計されている （参考として OECD AI Principles overview では以下のように定義されている） AI システムは、明⽰的⼜は暗黙的な⽬的のために推測するマシンベースのシステムである。受け取った ⼊⼒から、物理環境⼜は仮想環境に影響を与える可能性のある予測、コンテンツ、推奨、意思決定等 の出⼒を⽣成する。AI システムが異なれば、導⼊後の⾃律性及び適応性のレベルも異なる











⾼度な AI システム

最先端の基盤モデル及び⽣成 AI システムを含む、最も⾼度な AI システムを指す。 （広島 AI プロセスでの定義を引⽤）

AI モデル（ML モデル）

AI システムに含まれ、学習データを⽤いた機械学習によって得られるモデルで、⼊⼒データに応じた予測 結果を⽣成する。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ⼊⼒データ⼜は情報にもとづいて推論（inference）⼜は予測を⽣成する数学的構造 例 : 単変量線形関数 y=θ0 +θ1 x が、線形回帰を使⽤して訓練されている場合、結果のモデルは、 y=3+7x のようになる 注釈 1. 機械学習モデルは、機械学習アルゴリズムにもとづく訓練の結果として得られる

AI サービス

AI システムを⽤いた役務を指す。AI 利⽤者への価値提供の全般を指しており、AI サービスの提供・運 営は、AI システムの構成技術に限らず、⼈間によるモニタリング、ステークホルダーとの適切なコミュニケー ション等の⾮技術的アプローチも連携した形で実施される。

⽣成 AI

⽂章、画像、プログラム等を⽣成できる AI モデルにもとづく AI の総称を指す。

AI ガバナンス

AI の利活⽤によって⽣じるリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたら される正のインパクト（便益）を最⼤化することを⽬的とする、ステークホルダーによる技術的、組織的、 及び社会的システムの設計並びに運⽤。

10

第２部 AI により⽬指すべき社会及び各主体が取り組む事項

第 2 部では、まず、AI により⽬指す社会としての「A. 基本理念」を記載する。更に、その実現に向け、各主 体が取り組む「B. 原則」とともに、そこから導き出される「C. 共通の指針」を記載する。また、⾼度な AI システム に関係する事業者が遵守すべき「D. ⾼度な AI システムに関係する事業者に共通の指針」を記載する。加え て、この「C. 共通の指針」を実践し AI を安全安⼼に活⽤していくために重要な「E. AI ガバナンスの構築」につい ても記載する。

A. 基本理念

「はじめに」で述べたとおり、我が国が 2019 年 3 ⽉に策定した「⼈間中⼼の AI 社会原則」においては、AI が Society 5.0 の実現に貢献することが期待されている。また、AI を⼈類の公共財として活⽤し、社会の在り⽅の 質的変化及び真のイノベーションを通じて地球規模の持続可能性とつなげることが重要であることが述べられて いる。そして、以下の 3 つの価値を「基本理念」として尊重し、「その実現を追求する社会を構築していくべき」と している。

①

②

③

⼈間の尊厳が尊重される社会（Dignity）

AI を利活⽤して効率性や利便性を追求するあまり、⼈間が AI に過度に依存したり、⼈間の⾏動を コントロールすることに AI が利⽤される社会を構築するのではなく、⼈間が AI を道具として使いこなす ことによって、⼈間の様々な能⼒をさらに発揮することを可能とし、より⼤きな創造性を発揮したり、や りがいのある仕事に従事したりすることで、物質的にも精神的にも豊かな⽣活を送ることができるよう な、⼈間の尊厳が尊重される社会を構築する必要がある

多様な背景を持つ⼈々が多様な幸せを追求できる社会

（Diversity and Inclusion）

多様な背景、価値観⼜は考え⽅を持つ⼈々が多様な幸せを追求し、それらを柔軟に包摂した上で 新たな価値を創造できる社会は、現代における⼀つの理想であり、⼤きなチャレンジである。AI という 強⼒な技術は、この理想に我々を近づける⼀つの有⼒な道具となりうる。我々は AI の適正な開発と 展開によって、このように社会の在り⽅を変⾰していく必要がある

持続可能な社会（Sustainability）

我々は、AI の活⽤によりビジネスやソリューションを次々と⽣み、社会の格差を解消し、地球規模の 環境問題や気候変動等にも対応が可能な持続性のある社会を構築する⽅向へ展開させる必要が ある。科学・技術⽴国としての我が国は、その科学的・技術的蓄積を AI によって強化し、そのような 社会を作ることに貢献する責務がある

11 図 5. 基本理念

この基本的な考え⽅⾃体は、著しい技術の発展によっても変わるものではなく、⽬指すべき理念であり続けて いる。したがって、AI の発展に伴い、⽇本及び多国間の枠組みで⽬指すべき⽅向性として、これらの「基本理 念」が尊重されるべきである。

B. 原則

「基本理念」を実現するためには、各主体がこれに沿う形で取組を進めることが重要であり、そのために各主 体が念頭におく「原則」を、各主体が取り組む事項及び社会と連携した取組が期待される事項に整理した。こ の「原則」は、「⼈間中⼼の AI 社会原則」を⼟台としつつ、OECD の AI 原則等の海外の諸原則を踏まえ、再 構成したものである。

各主体が取り組む事項

各主体は、「基本理念」より導き出される⼈間中⼼の考え⽅をもとに11 、AI システム・サービスの開発・提供・ 利⽤を促進し、⼈間の尊厳を守りながら、事業における価値の創出、社会課題の解決等、AI の⽬的を実現し ていくことが重要である。このため、各主体は、AI 活⽤に伴う社会的リスクの低減を図るべく、安全性・公平性と いった価値を確保することが重要である。また、個⼈情報の不適正な利⽤等の防⽌を始めとするプライバシー保 護、並びに AI システムの脆弱性等による可⽤性の低下及び外部からの攻撃等のリスクに対応するセキュリティ 確保を⾏うことが重要である。これらを実現するために、各主体は、システムの検証可能性を確保しながらステー クホルダー12 に対する適切な情報を提供することにより透明性を向上させ、アカウンタビリティを果たすことが重要と なる。

下線部は、後段の「C.共通の指針」として整理されるものである。 ステークホルダー︓AI 開発者、AI 提供者、AI 利⽤者及び業務外利⽤者以外の第三者を含む AI の活⽤によって直接・間接の影響を受ける 可能性がある全ての主体（以降同様）

11

12

12 加えて、今後、AI アーキテクチャの多様化に伴うバリューチェーン変動等により、各主体の役割が変動する可 能性を踏まえた上で、各主体間で連携し、バリューチェーン全体での AI の品質の向上に努めること及びマルチス テークホルダーで継続して議論していくことが重要である。

このような対応を⾏うことで、各主体が、AI のリスクを最低限に抑制しつつ、AI システム・サービスの開発・提 供・利⽤を通じて最⼤限の便益を享受することが期待される。

社会と連携した取組が期待される事項

AI による社会への便益を⼀層増⼤させ、我々が⽬指すべき「基本理念」を実現していくためには、各主体そ れぞれの取組に加え、社会（政府・⾃治体及びコミュニティも含む）と積極的に連携することが期待される。こ のため、各主体は、社会と連携して、社会の分断を回避し、全ての⼈々に AI の恩恵が⾏き渡るための教育・リ テラシー確保の機会を提供することが期待される。加えて、新たなビジネス・サービスが創出され、持続的な経済 成⻑の維持及び社会課題の解決策が提⽰されるよう、公正競争の確保及びイノベーションの促進に貢献して いくことが期待される。

C. 共通の指針

取組にあたり、各主体は、以下に述べる「1）⼈間中⼼」に照らし、法の⽀配、⼈権、⺠主主義、多様性・ 包摂性及び公平公正な社会を尊重するよう AI システム・サービスを開発・提供・利⽤すべきである。また、憲 法、知的財産関連法令及び個⼈情報保護法をはじめとする関連法令、AI に係る個別分野の既存法令等を 遵守すべきであり、国際的な指針等の検討状況についても留意することが重要である13 。

なお、これらの取組は、各主体が開発・提供・利⽤する AI システム・サービスの特性、⽤途、⽬的及び社会 的⽂脈を踏まえ、各主体の資源制約を考慮しながら⾃主的に進めることが重要である。

各主体が連携して、バリューチェーン全体で取り組むべきことは、具体的には、以下のとおり整理される。

1) ⼈間中⼼

各主体は、AI システム・サービスの開発・提供・利⽤において、後述する各事項を含む全ての取り組む べき事項が導出される⼟台として、少なくとも憲法が保障する⼜は国際的に認められた⼈権を侵すことが ないようにすべきである。また、AI が⼈々の能⼒を拡張し、多様な⼈々の多様な幸せ（well-being）の 追求が可能となるように⾏動することが重要である。

①

⼈間の尊厳及び個⼈の⾃律  AI が活⽤される際の社会的⽂脈を踏まえ、⼈間の尊厳及び個⼈の⾃律を尊重する  特に、AI を⼈間の脳・⾝体と連携させる場合には、その周辺技術に関する情報を踏まえつつ、 諸外国及び研究機関における⽣命倫理の議論等を参照する

事業の地理的な展開状況、開発された AI モデルを⽤いる AI 提供者・AI 利⽤者の所在地、学習を⾏うサーバの所在地等に応じ、各準拠法 に従う必要がある。我が国の国内法に準拠する場合は、データの類型に応じ、個⼈情報、知的財産権等にそれぞれ適⽤される法令に適合した 取扱を⾏う。また、データの取扱においては、法令で定められていなくともステークホルダー間の契約関係において、利⽤が禁⽌される場合が存在す ることにも留意すべきである。

13

13 

個⼈の権利・利益に重要な影響を及ぼす可能性のある分野において AI を利⽤したプロファイリ ングを⾏う場合、個⼈の尊厳を尊重し、アウトプットの正確性を可能な限り維持させつつ、AI の 予測、推奨、判断等の限界を理解して利⽤し、かつ⽣じうる不利益等を慎重に検討した上 で、不適切な⽬的に利⽤しない

②

③

④

⑤

AI による意思決定・感情の操作等への留意









⼈間の意思決定、認知等、感情を不当に操作することを⽬的とした、⼜は意識的に知覚でき ないレベルでの操作を前提とした AI システム・サービスの開発・提供・利⽤は⾏わない AI システム・サービスの開発・提供・利⽤において、⾃動化バイアス14 等の AI に過度に依存する リスクに注意を払い、必要な対策を講じる15  フィルターバブル16 に代表されるような情報⼜は価値観の傾斜を助⻑し、AI 利⽤者を含む⼈間 が本来得られるべき選択肢が不本意に制限されるような AI の活⽤にも注意を払う 特に、選挙、コミュニティでの意思決定等をはじめとする社会に重⼤な影響を与える⼿続きに関 連しうる場合においては、AI の出⼒について慎重に取り扱う

偽情報等への対策  ⽣成 AI によって、内容が真実・公平であるかのように装った情報を誰でも作ることができるように

なり、AI が⽣成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが⾼まっ

ていることを認識した上で、必要な対策を講じる17,18

多様性・包摂性の確保  公平性の確保に加え、いわゆる「情報弱者」及び「技術弱者」を⽣じさせず、より多くの⼈々が AI の恩恵を享受できるよう社会的弱者による AI の活⽤を容易にするよう注意を払う  ユニバーサルデザイン、アクセシビリティの確保、関連するステークホルダー19 への教育・フォロ ーアップ 等

利⽤者⽀援

⼈間の判断や意思決定において、⾃動化されたシステムや技術への過度の信頼や依存が⽣じる現象を指す。 必要な対策としては、AI による評価、判断、推奨、⼜は予測等のアウトプットを⼈間が鵜呑みにしないために、AI の⽋点を含む特性を理解でき るトレーニングを受けることや、AI の評価や判断等を⼈間が承認する際には⼈間⾃⾝が AI の評価や判断等を承認する理由や根拠を独⾃に考え てから承認すべきこと等が提案されている。 16

14

15

「フィルターバブル」とは、アルゴリズムがネット利⽤者個⼈の検索履歴やクリック履歴を分析し学習することで、個々にとっては望むと望まざるとにか かわらず⾒たい情報が優先的に表⽰され、利⽤者の観点に合わない情報からは隔離され、⾃⾝の考え⽅や価値観の「バブル（泡）」の中に孤⽴ するという情報環境を指す。このようなもともとある⼈間の傾向とネットメディアの特性の相互作⽤による現象と⾔われているものとして、「フィルターバ ブル」の他、「エコーチェンバー」も挙げられる。そういったリスクがある⼀⽅で、AI はパーソナライズされた的を絞った返答を AI 利⽤者や業務外利⽤者 に提供し、有益な形で提案を⾏うことを可能とするという便益もある。 17

インターネット上の偽・誤情報の流通・拡散への対応を含む、デジタル空間における情報流通の健全性確保に向けた今後の対応⽅針と具体的 な⽅策について検討するため、「デジタル空間における情報流通の健全性確保の在り⽅に関する検討会」が総務省において開催され、2024 年 9 ⽉に「とりまとめ」が公表された。（https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000417.html） また、技術的対応として、総務省により「インターネット上の偽・誤情報等対策技術の開発・実証事業」が実施されている。 （https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000415.html）

18 RAG（検索拡張⽣成）の活⽤等により、ハルシネーションの抑制や出⼒過程・根拠の透明性向上等が期待されている。 19 関連するステークホルダー︓AI 開発者、AI 提供者、AI 利⽤者及び業務外利⽤者を含む直接・間接問わず AI の活⽤に関与する主体（以降

同様）

14 

合理的な範囲で、AI システム・サービスの機能及びその周辺技術に関する情報を提供し、選 択の機会の判断のための情報を適時かつ適切に提供する機能が利⽤可能である状態とする  デフォルトの設定、理解しやすい選択肢の提⽰、フィードバックの提供、緊急時の警告、エ ラーへの対処等

⑥

持続可能性の確保  AI システム・サービスの開発・提供・利⽤において、ライフサイクル全体で、地球環境への影響も

検討する（特に、⽣成 AI など計算量の多い AI システムにおいては、モデルの軽量化や⽬的に

応じたモデルの使い分け等の対策を講じる）

これら全てを前提とした上で、各主体は、AI のパフォーマンス（有⽤性）を可能な範囲で⾼め、⼈々に 便益及び豊かさを与え、幸福を実現することが期待される。

2) 安全性

各主体は、AI システム・サービスの開発・提供・利⽤を通じ、ステークホルダーの⽣命・⾝体・財産に危 害を及ぼすことがないようにすべきである。加えて、精神及び環境に危害を及ぼすことがないようにすることが 重要である。

①

②

⼈間の⽣命・⾝体・財産、精神及び環境への配慮  AI システム・サービスの出⼒の正確性を含め、要求に対して⼗分に動作している（信頼性）  様々な状況下でパフォーマンスレベルを維持し、無関係な事象に対して著しく誤った判断を発

⽣させないようにする（堅牢性（robustness））  AI の活⽤⼜は意図しない AI の動作によって⽣じうる権利侵害の重⼤性、侵害発⽣の可能性

等、当該 AI の性質・⽤途等に照らし、必要に応じて定期的かつ客観的なモニタリング及び対

処も含めて⼈間がコントロールできる制御可能性を確保する  適切なリスク分析を実施し、リスクへの対策（回避、低減、移転⼜は容認）を講じる  ⼈間の⽣命・⾝体・財産、精神及び環境へ危害を及ぼす可能性がある場合は、講ずべき措

置について事前に整理し、ステークホルダーに関連する情報を提供する

 関連するステークホルダーが講ずべき措置及び利⽤規則を明記する  AI システム・サービスの安全性を損なう事態が⽣じた場合の対処⽅法を検討し、当該事態が

⽣じた場合に速やかに実施できるよう整える

適正利⽤  主体のコントロールが及ぶ範囲で本来の⽬的を逸脱した提供・利⽤20 により危害が発⽣するこ

とを避けるべく、AI システム・サービスの開発・提供・利⽤を⾏う  マルチモーダルな⽣成 AI を中⼼とする AI システム・サービスの⽣成物については、⽐較的容易

により精巧な⽣成物の⽣成が可能となるため、その精巧さにより誤解や偏⾒等を助⻑する可能

なお、RAG（検索拡張⽣成）を活⽤した場合には⽣成 AI による回答の収束が加速する可能性が⾼いため、例えばコンテンツの多様性・独創 性を必要とする業務については、RAG（検索拡張⽣成）の活⽤が適切ではない場合もあることに留意が必要である。

20

15 性があることや、他者の知的財産権等を侵害する可能性があること等にも留意しつつ、その利 ⽤に際し⼈間の判断を介在させる等21 の対策を講じる22

③

適正学習23   AI システム・サービスの特性及び⽤途を踏まえ、学習等に⽤いるデータの正確性・必要な場合

には最新性（データが適切であること）等を確保する  学習等に⽤いるデータの透明性の確保、法的枠組みの遵守、AI モデルの更新等を合理的な

範囲で適切に実施する  権利侵害複製物等の違法なコンテンツ24 や情報等を学習データに含めないこと等に留意する25

3) 公平性

各主体は、AI システム・サービスの開発・提供・利⽤において、特定の個⼈ないし集団への⼈種、性 別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏⾒及び差別をなくす よう努めることが重要である。また、各主体は、それでも回避できないバイアスがあることを認識しつつ、この 回避できないバイアスが⼈権及び多様な⽂化を尊重する観点から許容可能か評価した上で、AI システ ム・サービスの開発・提供・利⽤を⾏うことが重要である。26

①

AI モデルの各構成技術に含まれるバイアスへの配慮

⼈間の判断を介在させるための⼯夫としては、⽣成物であることを⽰す透かしを⼊れることやユーザーインタフェースの改善等があげられる。 なお、プログラムコードを⽣成する AI を活⽤する場合は、⽣成したコードの安全性やセキュリティ⾯への配慮が重要となる。 AI 提供者・AI 利⽤者においてもファインチューニング、再学習を⾏う場合は AI 開発者と同様に安全性の担保に努めることが重要となる。 24 ⽂化庁「AI と著作権に関する考え⽅について」（⽂化審議会著作権分科会法制度⼩委員会、2024 年 3 ⽉）において、海賊版等、違法に アップロードされているものも学習されてしまうことが権利者の懸念として挙げられている。 25 知的財産関連法令との関係については内閣府、⽂化庁等での議論が進められており、今後の検討状況についても留意すべきである。特に AI と著作権に関する考え⽅については、⽂化審議会著作権分科会法制度⼩委員会にて取りまとめており、各主体においては、その趣旨を踏まえた 対応⽅針を検討することが重要となる。

21

22

23

・⽂化庁「AI と著作権に関する考え⽅について」（⽂化審議会著作権分科会法制度⼩委員会、2024 年 3 ⽉） https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf

・内閣府「AI 時代の知的財産権検討会 中間とりまとめ」（知的財産戦略推進事務局、2024 年 5 ⽉） https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/0528_ai.pdf

・⽂化庁「AI と著作権に関するチェックリスト＆ガイダンス」（⽂化庁著作権課、2024 年 7 ⽉） https://www.bunka.go.jp/seisaku/chosakuken/pdf/94097701_01.pdf

・内閣府「AI 時代の知的財産権検討会 中間とりまとめ ⼿引き（権利者向け）」（知的財産戦略推進事務局、2024 年 11 ⽉） https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/2411_tebiki.pdf なお、「AI 時代の知的財産権検討会 中間とりまとめ」及び「AI と著作権に関するチェックリスト＆ガイダンス」では、本ガイドラインと異なり、「AI 開発 者」、「AI 提供者」及び「AI 利⽤者」に加えて、「業務外利⽤者（⼀般利⽤者）」及び「権利者」も対象にして、各主体に期待される取組事項 例等を整理している。 26 「バイアス」という⾔葉には例えば以下の通り様々な解釈が考えられ、本ガイドラインではそれらを総称したものとして⽤いている。

・統計的な⽤語（サンプリングバイアス。偏り・偏差など。）

・⼼理学的な⽤語（認知バイアス（思い込み等に起因。集団ごとの社会通念等による社会的バイアスも含む）、感情バイアス（⼈間の感情・ 都合等に起因）など。） また NIST の Proposal for Identifying and Managing Bias in Artificial Intelligence (SP 1270) では、AI において、Systemic（既存のル ールや規範、慣⾏等によるもの）、Statistical and Computational (統計的・計数的なもの)、Human（認知・知覚、習性等によるもの）とい う 3 つのカテゴリと、それぞれに属する典型的なバイアスがある旨が説明されている。

16 



バイアスを⽣み出す要因は多岐に渡るため、各技術要素（学習データ、AI モデルの学習過 程、AI 利⽤者⼜は業務外利⽤者が⼊⼒するプロンプト27 、AI モデルの推論時に参照する情 報、連携する外部サービス等）及び AI 利⽤者の振る舞いを含めて、公平性の問題となりうる バイアスの要因となるポイントを特定する AI システム・サービスの特性⼜は⽤途によっては、ステークホルダーが意図しない⼜は感知できな いバイアスが⽣じる可能性についても検討する

②

⼈間の判断の介在  AI の出⼒結果が公平性を⽋くことがないよう、AI に単独で判断させるだけでなく、適切なタイミン グで⼈間の判断を介在させる利⽤を検討する。なおその際には、⼈間の判断が⾃動化バイアス に左右されないような対策28 を講じるべきである  バイアスが⽣じていないか、AI システム・サービスの⽬的、制約、要件及び決定を明確かつ透明 性のある⽅法により分析し、対処するためのプロセスを導⼊する  ステークホルダーが意図しない⼜は感知できないバイアスや、潜在的なバイアス（学習データに は表れないバイアス）29 に留意し、多様な背景、⽂化⼜は分野のステークホルダーと対話した 上で、⽅針を決定する

4) プライバシー保護

各主体は、AI システム・サービスの開発・提供・利⽤において、その重要性に応じ、プライバシーを尊重 し、保護することが重要である。その際、関係法令を遵守すべきである。

①

AI システム・サービス全般におけるプライバシーの保護





個⼈情報保護法30 等の関連法令の遵守、各主体のプライバシーポリシーの策定・公表等によ り、社会的⽂脈及び⼈々の合理的な期待を踏まえ、ステークホルダーのプライバシーが尊重さ れ、保護されるよう、その重要性に応じた対応を取る 以下の事項を考慮しつつ、プライバシー保護のための対応策を検討する  個⼈情報保護法にもとづいた対応の確保  国際的な個⼈データ保護の原則及び基準の参照31

⼤規模⾔語モデルを始めとする⽣成 AI では、AI 利⽤者は、コンテキスト内学習と呼ばれる学習⽅法により、学習済パラメータを更新することな く、AI 利⽤者の⼊⼒（プロンプトと呼ばれる）に応じて、特定のタスクに対する学習を⾏わせることが可能である。 28

27

必要な対策については、前掲脚注 15 を参照。 29

潜在的なバイアスの例として、⼈種や性別等の明らかなセンシティブ属性を取り除いたデータであっても、関連する情報からセンシティブ属性が類 推されてしまう場合や、複数の属性の組み合わせによってバイアスが⽣じてしまう場合（交差バイアス）などがある。 30 個⼈情報保護法については、個⼈情報保護委員会において、いわゆる 3 年ごと⾒直しに関する検討が進められている。その中で、AI 開発等を

含む統計作成等のみを⽬的とした取り扱いを実施する場合の本⼈同意の在り⽅等が検討されている。 https://www.ppc.go.jp/personalinfo/3nengotominaoshi/ （2025 年２⽉公表資料︓https://www.ppc.go.jp/files/pdf/seidotekikadainitaisurukangaekatanitsuite_r6.pdf） 31

OECD, Recommendation of the Council concerning Guidelines Governing the Protection of Privacy and Transborder Flows of Personal Data, OECD/LEGAL/0188, ISO/IEC 29100:2011 Information technology Security techniques Privacy framework 等プライ

バシーに関する国際的な指針を踏まえることが期待される。また、より広範囲での個⼈データの円滑な越境移転及び各国における規律の相互運 ⽤性を促進させる等の⽬的で Global Cross-Border Privacy Rules （CBPR） Forum が⽴ち上がっており、⽇本も 2022 年 4 ⽉に参加し、 Global CBPR Framework を公表している。また、⽣成 AI に関しては、G7 データ保護プライバシー機関ラウンドテーブル会合による「⽣成 AI に関 する声明」（2023 年 6 ⽉）及び GPA（Global Privacy Assembly）による「⽣成 AI システムに関する決議」（2023 年 10 ⽉）も参照。

17 5) セキュリティ確保

各主体は、AI システム・サービスの開発・提供・利⽤において、不正操作によって AI の振る舞いに意図 せぬ変更⼜は停⽌が⽣じることのないように、セキュリティを確保することが重要である。

①

②

AI システム・サービスに影響するセキュリティ対策32







AI システム・サービスの機密性・完全性・可⽤性を維持し、常時、AI の安全安⼼な活⽤を確 保するため、その時点での技術⽔準に照らして合理的な対策を講じる AI システム・サービスの特性を理解し、正常な稼働に必要なシステム間の接続が適切に⾏われ ているかを検討する 推論対象データに微細な情報を混⼊させることで関連するステークホルダーの意図しない判断 が⾏われる可能性を踏まえて、AI システム・サービスの脆弱性を完全に排除することはできない ことを認識する

最新動向への留意  AI システム・サービスに対する外部からの攻撃は⽇々新たな⼿法が⽣まれており、これらのリスク に対応するための留意事項を確認する

6) 透明性

33

各主体は、AI システム・サービスの開発・提供・利⽤において、AI システム・サービスを活⽤する際の社 会的⽂脈を踏まえ、AI システム・サービスの検証可能性を確保しながら、必要かつ技術的に可能な範囲 で、ステークホルダーに対し合理的な範囲で情報を提供することが重要である。

①

検証可能性の確保  AI の判断にかかわる検証可能性を確保するため、データ量⼜はデータ内容に照らし合理的な

範囲で、AI システム・サービスの開発過程、利⽤時の⼊出⼒等、AI の学習プロセス、推論過

程、判断根拠等のログを記録・保存する  ログの記録・保存にあたっては、利⽤する技術の特性及び⽤途に照らして、事故等の原因究

明、再発防⽌策の検討、損害賠償責任要件の⽴証上の重要性等を踏まえて、記録⽅法、

詳細な⼿法については、 英国サイバーセキュリティセンター（NCSC）「セキュアな AI システム開発のためのガイドライン （Guidelines for secure AI system development） 」 （2023 年 11 ⽉）が公開されている。 https://www8.cao.go.jp/cstp/stmain/20231128ai.html 33

32

透明性については、諸外国でも様々な定義がある。例えば、NIST,Artificial Intelligence Risk Management Framework（January 2023）では、透明性（システムで何が起きたかについて答えられること）、説明可能性（システムでどのように決定がなされたかについて答えられる こと）及び解釈可能性（なぜその決定がされたかについてその意味⼜は⽂脈について答えられること）に分類されており、European Commission, ETHICS GUIDELINES FOR TRUSTWORTHY AI （April 2019）では、トレーサビリティ、説明可能性及びコミュニケーションが取り 上げられている。また、国際標準(ISO/IEC JTC1/SC42)では、透明性（適切な情報が関係者に提供されること）と定義されている。その他に EU, AI 法（Artificial Intelligence Act）（June 2024）において透明性とは、AI システムが適切な追跡可能性と説明可能性を実現する⽅ 法で開発及び利⽤され、⼈間が AI システムで通信⼜は対話していることを認識できるようにし、AI システムの機能と限界について利⽤者に適切に 開⽰し、影響を受ける⼈間に対して権利について説明することを意味する。本⽂書では、情報開⽰に関する事項を広く「透明性」とする。なお定 義のほか、開⽰対象者や開⽰主体、開⽰⽬的が諸外国によって異なることにも留意する。

18 頻度、保存期間等について検討する

②

③

④

関連するステークホルダーへの情報提供  AI との関係の仕⽅、AI の性質、⽬的等に照らして、それぞれが有する知識及び能⼒に応じ、





例えば、以下について取りまとめた情報の提供及び説明を⾏う  AI システム・サービス全般  AI を利⽤しているという事実及び活⽤している範囲  データ収集及びアノテーションの⼿法  学習及び評価の⼿法  基盤としている AI モデルに関する情報  AI システム・サービスの能⼒、限界及び提供先における適正/不適正な利⽤⽅法  AI システム・サービスの提供先、AI 利⽤者が所在する国・地域等において適⽤され る関連法令等 多様なステークホルダーとの対話を通じて積極的な関与を促し、社会的な影響及び安全性に 関する様々な意⾒を収集する 加えて、実態に即して、AI システム・サービスを提供・利⽤することの優位性、それに伴うリスク等 を関連するステークホルダーに⽰す

合理的かつ誠実な対応  上記の「②関連するステークホルダーへの情報提供」は、アルゴリズム⼜はソースコードの開⽰を

必ずしも想定するものではなく、プライバシー及び営業秘密を尊重して、採⽤する技術の特性

及び⽤途に照らし、社会的合理性が認められる範囲で実施する（ただし、後掲する 「④関連

するステークホルダーへの説明可能性・解釈可能性の向上」や『７）アカウンタビリティ』の要請

を満たす必要がある）  公開されている技術を⽤いる際には、それぞれ定められている規程に準拠する  開発した AI システムのオープンソース化にあたっても、社会的な影響を検討する

関連するステークホルダーへの説明可能性・解釈可能性の向上  関連するステークホルダーの納得感及び安⼼感の獲得、また、そのための AI の動作に対する証 拠の提⽰等を⽬的として、説明する主体がどのような説明が求められるかを分析・把握できるよ う、説明を受ける主体がどのような説明が必要かを共有し、必要な対応を講じる  AI 提供者︓AI 開発者に、どのような説明が必要となるかを共有する  AI 利⽤者︓AI 開発者・AI 提供者に、どのような説明が必要となるかを共有する

7) アカウンタビリティ

34

各主体は、AI システム・サービスの開発・提供・利⽤において、トレーサビリティの確保、「共通の指針」の 対応状況等について、ステークホルダーに対して、各主体の役割及び開発・提供・利⽤する AI システム・サ

アカウンタビリティを説明可能性と定義することもあるが、本ガイドラインでは情報開⽰は透明性で対応することとし、アカウンタビリティとは AI に関 する事実上・法律上の責任を負うこと及びその責任を負うための前提条件の整備に関する概念とする。

34

19 ービスのもたらすリスクの程度を踏まえ、合理的な範囲でアカウンタビリティを果たすことが重要である。

①

②

③

④

⑤

トレーサビリティの向上  データの出所、AI システム・サービスの開発・提供・利⽤中に⾏われた意思決定等について、技 術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保する

「共通の指針」の対応状況の説明  「共通の指針」の対応状況について、ステークホルダー（サプライヤーを含む）に対してそれぞれ が有する知識及び能⼒に応じ、例えば以下の事項を取りまとめた情報の提供及び説明を定期 的に⾏う  全般  「共通の指針」の実践を妨げるリスクの有無及び程度に関する評価  「共通の指針」の実践の進捗状況  「⼈間中⼼」関連  偽情報等への留意、多様性・包摂性、利⽤者⽀援及び持続可能性の確保の対 応状況  「安全性」関連  AI システム・サービスに関する既知のリスク及び対応策、並びに安全性確保の仕組 み  「公平性」関連  AI モデルを構成する各技術要素（学習データ、AI モデルの学習過程、AI 利⽤者 ⼜は業務外利⽤者が⼊⼒すると想定するプロンプト、AI モデルの推論時に参照する 情報、連携する外部サービス等）によってバイアスが含まれうること  「プライバシー保護」関連  AI システム・サービスにより⾃⼰⼜はステークホルダーのプライバシーが侵害されるリス ク及び対応策、並びにプライバシー侵害が発⽣した場合に講ずることが期待される措 置  「セキュリティ確保」関連  AI システム・サービスの相互間連携⼜は他システムとの連携が発⽣する場合、その 促進のために必要な標準準拠等  AI システム・サービスがインターネットを通じて他の AI システム・サービス等と連携する 場合に発⽣しうるリスク及びその対応策

責任者の明⽰  各主体においてアカウンタビリティを果たす責任者を設定する

関係者間の責任の分配  関係者間の責任について、業務外利⽤者も含めた主体間の契約、社会的な約束（ボランタリ ーコミットメント）等により、責任の所在を明確化する

ステークホルダーへの具体的な対応

20 





必要に応じ、AI システム・サービスの利⽤に伴うリスク管理、安全性確保のための各主体の AI ガバナンスに関するポリシー、プライバシーポリシー等の⽅針を策定し、公表する（社会及び⼀ 般市⺠に対するビジョンの共有、並びに情報発信・提供を⾏うといった社会的責任を含む） 必要に応じ、AI の出⼒の誤り等について、ステークホルダーからの指摘を受け付ける機会を設け るとともに、定期的かつ客観的なモニタリングを実施する ステークホルダーの利益を損なう事態が⽣じた場合35 、どのように対応するか⽅針を策定してこれ を着実に実施し、進捗状況については必要に応じて定期的にステークホルダーに報告する

⑥

⽂書化36   上記に関する情報を⽂書化して⼀定期間保管し、必要なときに、必要なところで、⼊⼿可能 かつ利⽤に適した形で参照可能な状態とする

各主体が社会と連携して取り組むことが期待される事項は、具体的には、下記のとおり整理される。

8) 教育・リテラシー

各主体は、主体内の AI に関わる者が、AI の正しい理解及び社会的に正しい利⽤ができる知識・リテラ シー・倫理感を持つために、必要な教育を⾏うことが期待される。また、各主体は、AI の複雑性、誤情報と いった特性及び意図的な悪⽤の可能性もあることを勘案して、ステークホルダーに対しても教育を⾏うこと が期待される。37

①

②

AI リテラシーの確保



各主体内の AI に関わる者が、その関わりにおいて⼗分なレベルの AI リテラシーを確保するため に必要な措置を講じる

教育・リスキリング

35 特に、学習データ等の権利者や AI の評価、判断、奨励、⼜は予測等によって不利益を被った者等から問合せや情報開⽰の要望を受けた場 合には、必要な範囲で適切な対応を⾏うことが望ましい。また、裁判所からの開⽰命令等があった場合には、当該命令等に従って必要な⼿続き を取ることが求められる。 36 「⽂書化」については、後から容易に確認可能となるよう適切なツールで記録が残されていれば差し⽀えなく、必ずしも紙媒体や特定の⽂書の

形式による必要はない。 37

経済産業省・IPA は、個⼈の学習及び企業の⼈材確保・育成の指針として DX 時代の⼈材像を「デジタルスキル標準」として整理（2022 年 12 ⽉）。2023 年 8 ⽉に「⽣成 AI 時代の DX 推進に必要な⼈材・スキルの考え⽅」を取りまとめ、指⽰（プロンプト）の習熟、「問いを⽴てる」 「仮説検証する」等の必要性をスキル標準に反映し、2024 年 7 ⽉には、普及する⽣成 AI の影響を踏まえ、新技術への向き合い⽅等を補記とし て追加し、「データ活⽤」「テクノロジー」の学習項⽬例に「⼤規模⾔語モデル・画像⽣成モデル・オーディオ⽣成モデル」等の⽣成 AI 関連の技術を 追加。また、経済産業省は、知的財産権等の権利・利益の保護に⼗分に配慮した、コンテンツ制作における⽣成 AI の適切な利活⽤の⽅向性 を⽰す「コンテンツ制作のための⽣成 AI 利活⽤ガイドブック」を公表（2024 年 7 ⽉）。 https://www.meti.go.jp/policy/mono_info_service/contents/ai_guidebook_set.pdf

・デジタルスキル標準 https://www.meti.go.jp/policy/it_policy/jinzai/skill_standard/main.html

・デジタル時代の⼈材政策に関する検討会 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/index.html また、総務省は今後の⽣活の中で⽣成 AI に触れうる国⺠（初⼼者）向けに、⽣成 AI の基礎知識、⽣成 AI の活⽤場⾯や⼊⾨的な使い⽅、 ⽣成 AI 活⽤時の注意点などを紹介する「⽣成 AI はじめの⼀歩〜⽣成 AI の⼊⾨的な使い⽅と注意点〜」を公表。 https://www.soumu.go.jp/use_the_internet_wisely/special/generativeai/

21 



⽣成 AI の活⽤拡⼤によって、AI と⼈間の作業の棲み分けが変わっていくと想定されるため、新 たな働き⽅ができるよう教育・リスキリング等を検討する38  様々な⼈が AI で得られる便益の理解を深め、リスクに対するレジリエンスを⾼められるよう、世 代間ギャップも考慮した上での教育の機会を提供する

③

ステークホルダーへのフォローアップ  AI システム・サービス全体の安全性を⾼めるため、必要に応じて、ステークホルダーに対して教育 及びリテラシー向上のためのフォローアップを⾏う

9) 公正競争確保

各主体は、AI を活⽤した新たなビジネス・サービスが創出され、持続的な経済成⻑の維持及び社会課 題の解決策の提⽰がなされるよう、AI をめぐる公正な競争環境の維持に努めることが期待される。

10) イノベーション

各主体は、社会全体のイノベーションの促進に貢献するよう努めることが期待される。

①

②

③

オープンイノベーション等の推進  国際化・多様化、産学官連携及びオープンイノベーションを推進する  AI のイノベーションに必要なデータが創出される環境の維持に配慮する

相互接続性・相互運⽤性への留意  ⾃らの AI システム・サービスと他の AI システム・サービスとの相互接続性及び相互運⽤性を確 保する  標準仕様がある場合には、それに準拠する

適切な情報提供  ⾃らのイノベーションを損なわない範囲で必要な情報提供を⾏う

以上の事項に加え、AI 開発者、AI 提供者⼜は AI 利⽤者のそれぞれで重要となる事項は、「表 1. 共通の 指針に加えて主体毎に重要となる事項」のとおり整理される。なお、表の「-」が記載されている箇所は、各主体 による第 2 部 C.「共通の指針」記載の事項にもとづく対応が期待されており、対応不要を意味するものではな い。

なお、特に AI と知的財産権との関係については、AI 開発者、AI 提供者⼜は AI 利⽤者の各主体に期待さ れる取組につき、内閣府「AI 時代の知的財産権検討会 中間とりまとめ」（2024 年 5 ⽉）や⽂化庁著作権 課「AI と著作権に関するチェックリスト＆ガイダンス」（2024 年 7 ⽉）において整理されている。各主体において は、その趣旨を踏まえた対応⽅針を検討することが重要となる。

厚⽣労働省の雇⽤政策研究会にて「新たなテクノロジー等を活⽤した労働⽣産性の向上」というテーマで、技術変化を踏まえたキャリア形成や スキル教育について触れられている。 https://www.mhlw.go.jp/stf/shingi/other-syokuan_128950.html

38

22 以降は「表 1. 「共通の指針」に加えて主体毎に重要となる事項」に記載されている内容（項⽬）を、[ 主 体 – 指針番号） 記載内容. ]のルールにて識別・表記する。  主体は、AI 開発者（AI Developer）、AI 提供者（AI Provider）及び AI 利⽤者（AI Business

User）の頭⽂字を⽤い、指針番号及び記載内容の番号は同表に記載の番号にて表記する 例）D-2） i. は AI 開発者の安全性に関する適切なデータの学習についての重要事項を指す

23 表 1. 「共通の指針」に加えて主体毎に重要となる事項

第 2 部. C.共通の指針

① ⼈間の尊厳及び個⼈の⾃律 ② AI による意思決定・感情の操 作等への留意 ③ 偽情報等への対策 ④ 多様性・包摂性の確保 ⑤ 利⽤者⽀援 ⑥ 持続可能性の確保

① ⼈間の⽣命・⾝体・財産、精 神及び環境への配慮 ② 適正利⽤ ③ 適正学習

① AI モデルの各構成技術に 含まれるバイアスへの配慮 ② ⼈間の判断の介在

① AI システム・サービス全般にお けるプライバシーの保護

① AI システム・サービスに影響す るセキュリティ対策 ② 最新動向への留意

① 検証可能性の確保 ② 関連するステークホルダーへの

情報提供 ③ 合理的かつ誠実な対応 ④ 関連するステークホルダーへの

説明可能性・解釈可能性の

「共通の指針」に加えて主体毎に重要となる事項

第 3 部. AI 開発者 （D）

ⅰ. 適切なデータの学習 ⅱ.⼈間の⽣命・⾝体・財産、 精神及び環境に配慮した開発 ⅲ.適正利⽤に資する開発

第 4 部. AI 提供者 （P）

i. ⼈間の⽣命・⾝体・財産、精神 及び環境に配慮したリスク対策

-

ii. 適正利⽤に資する提供

i. AI システム・サービスの構成及び データに含まれるバイアスへの 配慮

i. プライバシー保護のための 仕組み及び対策の導⼊

ii. プライバシー侵害への対策

i. セキュリティ対策のための仕組み の導⼊

ii. 脆弱性への対応

i. システムアーキテクチャ等の ⽂書化

ii. 関連するステークホルダーへの 情報提供

i. AI 利⽤者への「共通の指針」の 対応状況の説明

ii. サービス規約等の⽂書化

-

-

-

第 5 部. AI 利⽤者 （U）

1） ⼈間中⼼

2） 安全性

3） 公平性

4） プライバシー 保護

5） セキュリティ 確保

6） 透明性

7） アカウンタ ビリティ

8） 教育・ リテラシー

9） 公正競争確保 10） イノベーション

-

-

i. 安全を考慮した適正利⽤

i. データに含まれるバイアスへの 配慮

ii. AI モデルのアルゴリズム等に 含まれるバイアスへの配慮

ⅰ. 適切なデータの学習 （D-2） i. 再掲）

i. セキュリティ対策のための仕組み の導⼊

ii. 最新動向への留意

i. 検証可能性の確保

ii. 関連するステークホルダーへの 情報提供

i. AI 提供者への「共通の指針」の 対応状況の説明

ii. 開発関連情報の⽂書化

i. ⼊⼒データ⼜はプロンプトに 含まれるバイアスへの配慮

i. 個⼈情報の不適切⼊⼒及び プライバシー侵害への対策

i. セキュリティ対策の実施

i. 関連するステークホルダーへの 情報提供

向上

① トレーサビリティの向上 ② 「共通の指針」の対応状況の

説明 ③ 責任者の明⽰ ④ 関係者間の責任の分配 ⑤ ステークホルダーへの具体的

な対応 ⑥ ⽂書化

① AI リテラシーの確保 ② 教育・リスキリング ③ ステークホルダーへの フォローアップ -

① オープンイノベーション等の推進 ② 相互接続性・相互運⽤性へ の留意 ③ 適切な情報提供

i. 関連するステークホルダーへの 説明

ii. 提供された⽂書の活⽤及び 規約の遵守

-

-

-

-

i. イノベーションの機会創造への 貢献

-

24 D. ⾼度な AI システムに関係する事業者に共通の指針

⾼度な AI システムに関係する事業者は、広島 AI プロセスを経て策定された「全ての AI 関係者向けの広島 プロセス国際指針」及びその基礎となる「⾼度な AI システムを開発する組織向けの広島プロセス国際指針」を 踏まえ、「共通の指針」に加え、以下を遵守すべきである39 。ただし、I）〜 XI）は⾼度な AI システムを開発する AI 開発者にのみ適⽤される内容もあるため、第 3〜5 部に後述のとおり、AI 提供者及び AI 利⽤者は適切な 範囲で遵守することが求められる。

I) AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、⾼度な AI システムの開発全体を通じ て、その導⼊前及び市場投⼊前も含め、適切な措置を講じる（「2）安全性」、「6） 透明性」「7） アカ ウンタビリティ」）  具体的には、レッドチーム40 等の様々な⼿法を組み合わせて、多様/独⽴した内外部テスト⼿段を採 ⽤することや、特定されたリスクや脆弱性に対処するための適切な緩和策を実施する  上記テストを⽀援するために、開発中に⾏われた意思決定に関するトレーサビリティを確保するように 努める

II)

III)

IV)

市場投⼊を含む導⼊後、脆弱性、及び必要に応じて悪⽤されたインシデントやパターンを特定し、緩和す る（「5） セキュリティ確保」、「7） アカウンタビリティ 」）  リスクレベルに⾒合った適切なタイミングで、AI システムの活⽤状況のモニタリングを実施し、それらに対

処するための適切な措置を講じる

 他の利害関係者と協⼒して、報告されたインシデントの適切な⽂書化を維持し、特定されたリ

スクと脆弱性を軽減することが奨励される

⾼度な AI システムの能⼒、限界、適切・不適切な使⽤領域を公表し、⼗分な透明性の確保を⽀援する ことで、アカウンタビリティの向上に貢献する（「6） 透明性」、「7） アカウンタビリティ 」）  データの出所に始まり、どのような意思決定を⾏ったかについて、合理的な説明を⾏い、トレーサビリテ

ィを確保するため⽂書化・公表する  関連するステークホルダーが AI システムの出⼒を解釈し、AI 利⽤者や業務外利⽤者が適切に活⽤

できるようにするために、明確で理解可能な形で⽂書化・公表する

産業界、政府、市⺠社会、学界を含む、⾼度な AI システムを開発する組織間での責任ある情報共有 とインシデントの報告に向けて取り組む（「5） セキュリティ確保」、「6） 透明性」、「7）アカウンタビリテ ィ」、「10）イノベーション」）

詳細は、G7 デジタル・技術⼤⾂会合（2023 年 12 ⽉）で採択された「広島 AI プロセス G7 デジタル・技術閣僚声明」における「広島 AI プロセ ス包括的政策枠組み」の「II. 全ての AI 関係者向け及び⾼度な AI システムを開発する組織向けの広島プロセス国際指針」を参照。 https://www.soumu.go.jp/menu_news/s-news/01tsushin06_02000283.html 40

39

攻撃者がどのように対象組織を攻撃するかの観点で、セキュリティへの対応体制及び対策の有効性を確認するチームを意味する。なお、AISI か らレッドチーミング⼿法ガイドが公表されている。 AISI「AI セーフティに関するレッドチーミング⼿法ガイド」（2024 年 9 ⽉） https://aisi.go.jp/effort/effort_framework/guide_to_red_teaming_methodology_on_ai_safety/

25 

具体的には、モニタリング結果の報告書やセキュリティや安全性のリスクに関する関連⽂書等が含ま れる

V) 特に⾼度な AI システム開発者に向けた、個⼈情報保護⽅針及び緩和策を含む、リスクベースのアプロー チにもとづく AI ガバナンス及びリスク管理⽅針を策定し、実施し、開⽰する（「4） プライバシー保護」、 「7）アカウンタビリティ」）  適切な場合には、プライバシーポリシーを公表する  AI ガバナンスに関するポリシーや実⾏するための組織を確⽴し、開⽰することが期待される

VI)

AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を 含む、強固なセキュリティ管理に投資し、実施する（「5）セキュリティ確保」）  情報セキュリティのための運⽤上の対策や適切なサイバー/物理的アクセス制御等も検討する

VII) 技術的に可能な場合は、電⼦透かしやその他の技術等、AI 利⽤者及び業務外利⽤者が、AI が⽣成し たコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導⼊ する（「6）透明性」）  具体的には、適切かつ技術的に実現可能な場合、組織の⾼度な AI システムで作成されたコンテン ツ認証及び来歴メカニズムが含まれる  透かし等を通じた特定のコンテンツが⾼度な AI システムで作成されたかどうかを AI 利⽤者及び業務 外利⽤者が判断できるツールや API の開発に努める  AI 利⽤者及び業務外利⽤者が AI システムと相互作⽤していることを知ることができるよう、ラベ リングや免責事項の表⽰等、その他の仕組みを導⼊することが奨励される

VIII) 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先 する（「10） イノベーション」）  AI の安全性、セキュリティ、信頼性の向上やリスクへの対処に関する研究が含まれる

IX)

世界の最⼤の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するた め、⾼度な AI システムの開発を優先する（「10） イノベーション」）  信頼性のある⼈間中⼼の AI 開発に向けた取組を実施し、同時に業務外利⽤者も含めたリテラシー の向上のための⽀援をする

X) 国際的な技術規格の開発を推進し、適切な場合にはその採⽤を推進する（「10） イノベーション」）  電⼦透かしを含む国際的な技術標準とベストプラクティスの開発に貢献し、適切な場合にはそれを利 ⽤し、標準開発組織（SDO）と協⼒する

XI)

適切なデータインプット対策を実施し、個⼈データ及び知的財産を保護する（「2） 安全性」、「3） 公 平性」）  有害な偏⾒バイアスを軽減するために、訓練データやデータ収集等、データの質を管理するための適 切な措置を講じることが奨励される  訓練⽤データセットの適切な透明性も⽀援されるべきであり、適⽤される法的枠組みを遵守する

26 XII) ⾼度な AI システムの信頼でき責任ある利⽤を促進し、貢献する（「5） セキュリティ確保」、「8） 教育・ リテラシー」）  ⾼度な AI システムが特定のリスク（例えば偽情報の拡散に関するもの）をどのように増⼤させるか、 新たなリスクをどのように⽣み出すか等の課題を含め、各主体及びステークホルダーのリテラシーや認 識等の向上のための機会を提供する  各主体間で連携し、⾼度な AI システムに関する新たなリスクや脆弱性を特定し、対処するための情 報共有を⾏うことが奨励される

E. AI ガバナンスの構築

各主体間で連携しバリューチェーン全体で「共通の指針」を実践し AI を安全安⼼に活⽤していくためには、AI に関するリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる便益を最⼤化する ための、AI ガバナンスの構築が重要となる。また、「Society 5.0」を実現するためには、サイバー空間とフィジカル 空間を⾼度に融合させたシステム（CPS）の社会実装を進めつつ、その適切な AI ガバナンスを構築することが 不可⽋である。CPS を基盤とする社会は、複雑で変化が速く、リスクの統制が困難であり、こうした社会の変化 に応じて、AI ガバナンスが⽬指すゴールも常に変化していく。そのため、事前にルール⼜は⼿続が固定された AI ガバナンスではなく、企業・法規制・インフラ・市場・社会規範といった様々なガバナンスシステムにおいて、「環 境・リスク分析」「ゴール設定」「システムデザイン」「運⽤」「評価」といったサイクルを、マルチステークホルダーで継 続的かつ⾼速に回転させていく、「アジャイル・ガバナンス」の実践が重要となる41 。

なお、具体的な検討にあたっては開発・提供・利⽤予定の AI のもたらすリスクの程度及び蓋然性、並びに各 主体の資源制約に配慮することが重要である。

①

②

まず、AI システム・サービスがライフサイクル全体においてもたらしうる便益/リスク、開発・運⽤に関する 社会的受容、「外部環境の変化」、AI 習熟度等を踏まえ、対象となる AI システム・サービスに関連 する「環境・リスク分析」を実施する これを踏まえ、AI システム・サービスを開発・提供・利⽤するか否かを判断し、開発・提供・利⽤する 場合には、AI ガバナンスに関するポリシーの策定等を通じて「AI ガバナンス・ゴール42 の設定」を検討す る。なお、この AI ガバナンス・ゴールは、各主体の存在意義、理念・ビジョンといった経営上のゴールと 整合したものとなるように設定する

別添（付属資料）において、経済産業省「AI 原則実践のためのガバナンス・ガイドライン Ver. 1.1」を⼟台とした、AI ガバナンス実践のための 詳細解説に加え、各主体の具体的な取組事項としての「⾏動⽬標」及び各主体を想定した仮想的な「実践例」も記載しているため、ご参照のこ と。 42

41

AI ガバナンス・ゴールとして、本ガイドラインに記載の「共通の指針」への対応事項からなる⾃社の取組⽅針（「AI ポリシー」等、呼称は各主体に より相違）及び「共通の指針」への対応事項を包含しつつそれ以外の要素を含む取組⽅針 （データ活⽤ポリシー等） を設定すること等が考えら れる。AI を活⽤することによって多様性・包摂性を向上させる等の便益を⾼めるための指針を提⽰してもよい。また、呼称も各主体に委ねられてい る。

27 ③

④

⑤

更に、この AI ガバナンス・ゴールを達成するための「AI マネジメントシステムの設計」を⾏った上で、これ を「運⽤」する。その際には、各主体が、AI ガバナンス・ゴール及びその運⽤状況について外部の「ステ ークホルダーに対する透明性、アカウンタビリティ（公平性等）」を果たすようにする その上で、リスクアセスメント等をはじめとして、AI マネジメントシステムが有効に機能しているかを継続 的にモニタリングし、「評価」及び継続的改善を実施する AI システム・サービスの運⽤開始後も、規制等の社会的制度の変更等の「外部環境の変化」を踏ま え、再び「環境・リスク分析」を実施し、必要に応じてゴールを⾒直す

図 6. アジャイル・ガバナンスの基本的なモデル

また、AI ガバナンスの検討にあたっては、バリューチェーンを念頭に置き、以下の点に留意することが重要であ る。





バリューチェーン/リスクチェーンの観点で主体間の連携を確保する  複数主体にまたがる論点の例︓AI リスク把握、品質の向上、各 AI システム・サービスが相互に

繋がること（System of Systems）による新たな価値の創出、AI 利⽤者⼜は業務外利⽤者

のリテラシー向上等  主体間で整理が必要になりうる点の例︓学習及び利⽤に⽤いるデータ・⽣成された AI モデル

に関する権利関係の契約等 データの流通をはじめとしたリスクチェーンの明確化、並びに開発・提供・利⽤の各段階に適したリスク 管理及び AI ガバナンス体制の構築を実施する  AI 開発からサービス実施にわたるバリューチェーン/リスクチェーンが複数国にまたがることが想定さ

れる場合、データの⾃由な流通（Data Free Flow with Trust、以下、「DFFT」という）の確

保のための適切な AI ガバナンスに係る国際社会の検討状況の把握及びそれを踏まえた相互

運⽤性の確保（「標準」及び「枠組み間の相互運⽤性」の⼆側⾯）

これらを効果的な取組とするためには、経営層の責任は⼤きく、そのため、リーダーシップを発揮することが重要 である。その際は、短期的な利益の追求の観点から AI ガバナンスの構築を単なるコストと捉えるのではなく、各

28 主体の持続的成⻑及び中⻑期的な発展を志向した先⾏投資として捉えることが重要である。そのリーダーシッ プの下、上記のアジャイル・ガバナンスのサイクルを回しつつ、各組織の戦略及び企業体制に AI ガバナンスを落と し込んでいくことで、各組織の中で⽂化として根付かせることが期待される。

29

第３部 AI 開発者に関する事項

AI 開発者は、AI モデルを直接的に設計し変更を加えることができるため、AI システム・サービス全体において も AI の出⼒に与える影響⼒が⾼い。また、イノベーションを牽引することが社会から期待され、社会全体に与え る影響が⾮常に⼤きい。このため、⾃⾝の開発する AI が提供・利⽤された際にどのような影響を与えるか、事前 に可能な限り検討し、対応策を講じておくことが重要となる。

AI 開発の現場においては、時に、正確性を重視するためにプライバシー⼜は公平性が損なわれたり、プライバ シーを過度に重視して透明性が損なわれたり等、リスク同⼠⼜は倫理観の衝突の場⾯がある。その場合、当該 事業者における経営リスク及び社会的な影響⼒を踏まえ、適宜判断・修正していくことが重要である。また、AI システムにおいて予期せぬ事故が発⽣した際に、AI のバリューチェーンに連なる者は、何らかの説明を求められる ⽴場に⽴つ可能性があることを念頭に置き、AI 開発者としても、どのような関与を⾏ったかについて、合理的な 説明を⾏うことができるよう記録を残すことが重要である43 。

以下に AI 開発者にとって重要な事項を挙げる。





データ前処理・学習時





D-2）i. 適切なデータの学習  プライバシー・バイ・デザイン等を通じて、学習時のデータについて、適正に収集するとともに、第 三者の個⼈情報、知的財産権に留意が必要なもの等が含まれている場合には、法令に従って 適切に扱うことを、AI のライフサイクル全体を通じて確保する（「2）安全性」、「4）プライバシ ー保護」、「5）セキュリティ確保」）  学習前・学習全体を通じて、データのアクセスを管理するデータ管理・制限機能の導⼊検討を ⾏う等、適切な保護措置を実施する（「2）安全性」、「5）セキュリティ確保」）

D-3）i. データに含まれるバイアスへの配慮  学習データ、AI モデルの学習過程によってバイアス（学習データには現れない潜在的なバイアス を含む）が含まれうることに留意し、データの質を管理するための相当の措置を講じる（「3） 公平性」）  学習データ、AI モデルの学習過程からバイアスを完全に排除できないことを踏まえ、AI モデルが 代表的なデータセットで学習され、AI システムに不公正なバイアス（特定の個⼈・集団に対し、 合理的に説明できない不利益をもたらすバイアス）がないか点検されることを確保する（「3） 公平性」）

AI 開発時



D-2）ii. ⼈間の⽣命・⾝体・財産、精神及び環境に配慮した開発

AI の開発等にあたり、AI の信頼性を向上させるためのツールや指標のカタログが、OECD により提供されている。 https://oecd.ai/en/catalogue/overview

43

30 

ステークホルダーの⽣命・⾝体・財産、精神及び環境に危害を及ぼすことがないよう、以下の事 項を検討する（「2）安全性」）  様々な状況下で予想される利⽤条件下でのパフォーマンスだけでなく、予期しない環境で

の利⽤にも耐えうる性能の要求  リスク（連動するロボットの制御不能、不適切な出⼒等）を最⼩限に抑える⽅法の要求

（ガードレール技術等）









D-2）iii. 適正利⽤に資する開発  開発時に想定していない AI の提供・利⽤により危害が発⽣することを避けるため、安全に利⽤

可能な AI の使い⽅について明確な⽅針・ガイダンスを設定する（「2）安全性」）  事前学習済の AI モデルに対する事後学習を⾏う場合に、学習済 AI モデルを適切に選択する

（商⽤利⽤可能なライセンスかどうか、事前学習データ、学習・実⾏に必要なスペック等）

（「2）安全性」）

D-3）ii. AI モデルのアルゴリズム等に含まれるバイアスへの配慮  AI モデルを構成する各技術要素（AI 利⽤者⼜は業務外利⽤者が⼊⼒するプロンプト、AI モ

デルの推論時に参照する情報、連携する外部サービス等）によってバイアスが含まれうることま

で検討する（「3）公平性」）  AI モデルからバイアスを完全に排除できないことを踏まえ、AI モデルが代表的なデータセットで学

習され、AI システムに不公正なバイアスがないか点検されることを確保する（「3）公平性」）

D-5）i. セキュリティ対策のための仕組みの導⼊  AI システムの開発の過程を通じて、採⽤する技術の特性に照らし適切にセキュリティ対策を講 ずる（セキュリティ・バイ・デザイン）（「5）セキュリティ確保」）

D-6）i. 検証可能性の確保  AI の予測性能及び出⼒の品質が、活⽤開始後に⼤きく変動する可能性⼜は想定する精度

に達しないこともある特性を踏まえ、事後検証のための作業記録を保存しつつ、その品質の維

持・向上を⾏う（「2）安全性」、「6）透明性」）



AI 開発後





D-5）ii. 最新動向への留意  AI システムに対する攻撃⼿法は⽇々新たなものが⽣まれており、これらのリスクに対応するため、 開発の各⼯程で留意すべき点を確認する44 （「5）セキュリティ確保」）

D-6）ii. 関連するステークホルダーへの情報提供

44

IPA 「AI（Artificial Intelligence）の推進」（https://www.ipa.go.jp/digital/ai/index.html）等を通じて情報を収集することができ

る。

31 

⾃らの開発する AI システムについて、例えば以下の事項を適時かつ適切に関連するステークホ ルダーに（AI 提供者を通じて⾏う場合を含む）情報を提供する（「6）透明性」）  AI システムの学習等による出⼒⼜はプログラムの変化の可能性（「1）⼈間中⼼」）  AI システムの技術的特性、安全性確保の仕組み、利⽤の結果⽣じる可能性のある予⾒

可能なリスク及びその緩和策等の安全性に関する情報（「2）安全性」）  開発時に想定していない AI の提供・利⽤により危害が発⽣することを避けるための AI 開

発者が意図する利⽤範囲（「2）安全性」）  AI システムの動作状況に関する情報並びに不具合の原因及び対応状況（「2）安全

性」）  AI の更新を⾏った場合の内容及びその理由の情報（「2）安全性」）  AI モデルで学習するデータの収集ポリシー、学習⽅法及び実施体制等（「3）公平性」、

「4）プライバシー保護」、「5）セキュリティ確保」）





D-7）i. AI 提供者への「共通の指針」の対応状況の説明  AI 提供者に対して、AI には活⽤開始後に予測性能⼜は出⼒の品質が⼤きく変動する可能

性、想定する精度に達しないこともある旨、その結果⽣じうるリスク等の情報提供及び説明を ⾏う。具体的には以下の事項を周知する（「7）アカウンタビリティ」）  AI モデルを構成する各技術要素（学習データ、AI モデルの学習過程、AI 利⽤者⼜は業

務外利⽤者が⼊⼒すると想定するプロンプト、AI モデルの推論時に参照する情報、連携

する外部サービス等）において含まれる可能性があるバイアスへの対応等（「3）公平

性」）

D-7）ii. 開発関連情報の⽂書化  トレーサビリティ及び透明性の向上のため、AI システムの開発過程、意思決定に影響を与える データ収集及びラベリング、使⽤されたアルゴリズム等について、可能な限り第三者が検証できる ような形で⽂書化する（「7）アカウンタビリティ」） （注） ここで⽂書化されたものをすべて開⽰するという意味ではない

以下に、AI 開発者の取組が期待される事項を挙げる。



D-10）i. イノベーションの機会創造への貢献  可能な範囲で以下の事項を実施し、イノベーションの機会の創造に貢献することが期待される （「10）イノベーション」）  AI の品質・信頼性、開発の⽅法論等の研究開発を⾏う  持続的な経済成⻑の維持及び社会課題の解決策が提⽰されるよう貢献する  DFFT 等の国際議論の動向の参照、AI 開発者コミュニティ⼜は学会への参加の取組等、 国際化・多様化及び産学官連携を推進する  社会全体への AI に関する情報提供を⾏う

32 「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」における追加的な記 載事項

⾼度な AI システムを開発する AI 開発者については、上記に加え、「第 2 部 D. ⾼度な AI システムに関係す る事業者に共通の指針」及び「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」45 を遵 守すべきである。

以下、「第 2 部 D. ⾼度な AI システムに関係する事業者に共通の指針」との⽐較において、当該「⾏動規 範」において追加的に記載されている事項を⽰す。なお、当該「⾏動規範」全体の内容については、「別添 3. C. ⾼度な AI システムの開発にあたって遵守すべき事項」を参照のこと。

I. AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、⾼度な AI システムの開発全体を通じ て、その導⼊前及び市場投⼊前も含め、適切な措置を講じる  リスク軽減のための緩和策を⽂書化するとともに、定期的に更新すべき。また、各主体はセクターを超 えた関係者と連携してこれらのリスクへの緩和策を評価し、採⽤すべき

II. 市場投⼊を含む導⼊後、脆弱性、及び必要に応じて悪⽤されたインシデントやパターンを特定し、緩和す る  報奨⾦制度、コンテスト、賞品等を通じて、責任を持って弱点を開⽰するインセンティブを与えること の検討を奨励

III. ⾼度な AI システムの能⼒、限界、適切・不適切な使⽤領域を公表し、⼗分な透明性の確保を⽀援する ことで、アカウンタビリティの向上に貢献する  透明性報告書は、使⽤説明書や関連する技術的⽂書等とともに、最新に保たれるべき

IV. 産業界、政府、市⺠社会、学界を含む、⾼度な AI システムを開発する組織間での責任ある情報共有と インシデントの報告に向けて取り組む  AI システムの安全性やセキュリティ等を確保するための共有の基準、メカニズムを開発、推進すべき。 加えて、AI のライフサイクル全体にわたって、適切な⽂書化や他の主体との協⼒、関連情報の共有 や社会への報告を実施すべき

V. 特に⾼度な AI システム開発者に向けた、個⼈情報保護⽅針及び緩和策を含む、リスクベースのアプロー チにもとづく AI ガバナンス及びリスク管理⽅針を策定し、実施し、開⽰する  可能であれば、AI のライフサイクル全体を通じて、AI リスクを特定・評価・予防・対処するための AI ガ バナンス⽅針を策定・実施・開⽰し、定期的に更新すべき。また、事業者の職員等に対する教育⽅ 針を確⽴すべき

VI. AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を 含む、強固なセキュリティ管理に投資し、実施する

広島 AI プロセスに関する G7 ⾸脳声明「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」（2023 年 10 ⽉） なお、同⽂書は⾼度な AI システムにおける動向に対応して、既存の OECD AI 原則にもとづいて構築される living document であることに注意が 必要である。 https://www.mofa.go.jp/mofaj/files/100573472.pdf

45

33 

⾼度な AI システムのサイバーセキュリティリスクの評価や、適切で安全な環境での作業と⽂書保管の 義務付けをすべき。無許可で公開されるリスク等に対応するための対策、知的財産や企業秘密の保 護と整合性のある強固な内部脅威検知プログラムの確⽴すべき

VII. 技術的に可能な場合は、電⼦透かしやその他の技術等、AI 利⽤者及び業務外利⽤者が、AI が⽣成し たコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導⼊ する  透かしや識別⼦を利⽤することに加え、各主体がこの分野の状況を前進させるために協⼒し、研究 に投資すべき

VIII. 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先 する  ⺠主的価値の維持や⼈権の尊重、⼦どもや社会的弱者の保護等、リスクに対処するための優先的 な研究、協⼒等を⾏うべき。加えて、環境や気候への影響を含むリスクを積極的に管理し、リスクに 関する研究とベストプラクティスを共有することを奨励

IX. 世界の最⼤の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するた め、⾼度な AI システムの開発を優先する  個⼈や地域社会が AI の利⽤から利益を得るためのデジタル・リテラシーのイニシアティブを⽀援し、⼀ 般市⺠の教育と訓練を促進すべき。また、市⺠社会やコミュニティ・グループとの協⼒により、課題の 特定や解決策を開発すべき

X. 国際的な技術規格の開発を推進し、適切な場合にはその採⽤を推進する  国際的な技術標準の開発に加え、AI が⽣成したコンテンツと他のコンテンツを区別できる技術標準を 開発すべき

XI. 適切なデータインプット対策を実施し、個⼈データ及び知的財産を保護する  データの質の管理のための適切な対策として、透明性、プライバシー保護のための機械学習や、機密 データ等の漏洩のテストとファインチューニングを含む対策を実施し、著作権で保護されたコンテンツを 含め、プライバシーや知的財産等に関する権利を尊重するために適切なセーフガードの導⼊が奨励さ れる

当該「⾏動規範」の遵守状況を⾼度な AI システムを開発する AI 開発者⾃らが⾃主的に確認し報告する「報 告枠組み」が OECD との協⼒の下、G7 で合意され、2025 年 2 ⽉より運⽤開始されている46 。当該「⾏動規 範」を遵守した⾼度な AI システムを開発する AI 開発者は、「報告枠組み」に参加することが期待されている。

46 広島プロセス国際⾏動規範 「報告枠組み」 https://transparency.oecd.ai/

34

第４部 AI 提供者に関する事項

AI 提供者は、AI 開発者が開発する AI システムに付加価値を加えて AI システム・サービスを AI 利⽤者に提 供する役割を担う。AI を社会に普及・発展させるとともに、社会経済の成⻑にも⼤きく寄与する⼀⽅で、社会に 与える影響の⼤きさゆえに、AI 提供者は、AI の適正な利⽤を前提とした AI システム・サービスの提供を実現す ることが重要となる。そのため、AI システム・サービスに組み込む AI が当該システム・サービスに相応しいものか留 意することに加え、ビジネス戦略⼜は社会環境の変化によって AI に対する期待値が変わることも考慮して、適 切な変更管理、構成管理及びサービスの維持を⾏うことが重要である。

AI システム・サービスを AI 開発者が意図している範囲で実装し、正常稼働及び適正な運⽤を継続し、AI 開 発者に対しては、AI システムが適正に開発されるように求めることが重要である。AI 利⽤者に対しては、AI シス テムの提供及び運⽤のサポート⼜は AI システムの運⽤をしつつ AI サービスを提供することが重要である。提供 に際し、ステークホルダーの権利を侵害せず、かつ社会に不利益等を⽣じさせることがないように留意し、合理的 な範囲でインシデント事例等を含む関連情報の共有を⾏い、より安全安⼼で信頼できる AI システム・サービス を提供することが期待される。

以下に AI 提供者にとって、重要な事項を挙げる。



AI システム実装時







P-2）i. ⼈間の⽣命・⾝体・財産、精神及び環境に配慮したリスク対策  AI 利⽤者を含む関連するステークホルダーの⽣命・⾝体・財産、精神及び環境に危害を及ぼ すことがないよう、提供時点で予想される利⽤条件下でのパフォーマンスだけでなく、様々な状 況下で AI システムがパフォーマンスレベルを維持できるようにし、リスク（連動するロボットの制御 不能、不適切な出⼒等）を最⼩限に抑える⽅法（ガードレール技術等）を検討する（「2） 安全性」）

P-2）ii. 適正利⽤に資する提供  AI システム・サービスの利⽤上の留意点を正しく定める（「2）安全性」）  AI 開発者が設定した範囲で AI を活⽤する（「2）安全性」）  提供時点で AI システム・サービスの正確性・必要な場合には学習データの最新性（データが

適切であること）等を担保する（「2）安全性」）  AI 開発者が設定した AI の想定利⽤環境と AI システム・サービスの利⽤者の利⽤環境に違い

等がないかを検討する（「2）安全性」）

P-3）i. AI システム・サービスの構成及びデータに含まれるバイアスへの配慮  提供時点でデータの公平性の担保及び参照する情報、連携する外部サービス等のバイアスを

検討する（「3）公平性」）  AI モデルの⼊出⼒及び判断根拠を定期的に評価し、バイアスの発⽣をモニタリングする。また、

必要に応じて、AI 開発者に AI モデルを構成する各技術要素のバイアスの再評価、評価結果

35 

にもとづく AI モデル改善の判断を促す（「3）公平性」） AI モデルの出⼒結果を受け取る AI システム・サービス、ユーザーインタフェースにおいて、ビジネス プロセス及び AI 利⽤者⼜は業務外利⽤者の判断を恣意的に制限するようなバイアスが含まれ てしまう可能性を検討する（「3）公平性」）







P-4）i. プライバシー保護のための仕組み及び対策の導⼊  AI システムの実装の過程を通じて、採⽤する技術の特性に照らし適切に個⼈情報へのアクセス

を管理・制限する仕組みの導⼊等のプライバシー保護のための対策を講ずる（プライバシー・バ

イ・デザイン）（「4）プライバシー保護」）

P-5）i. セキュリティ対策のための仕組みの導⼊  AI システム・サービスの提供の過程を通じて、採⽤する技術の特性に照らし適切にセキュリティ 対策を講ずる（セキュリティ・バイ・デザイン）（「5）セキュリティ確保」）

P-6）i. システムアーキテクチャ等の⽂書化  トレーサビリティ及び透明性の向上のため、意思決定に影響を与える提供する AI システム・サー ビスのシステムアーキテクチャ、データの処理プロセス等について⽂書化する（「6）透明性」）



AI システム・サービス提供後









P-2）ii. 適正利⽤に資する提供  適切な⽬的で AI システム・サービスが利⽤されているかを定期的に検証する（「2）安全 性」）

P-4）ii. プライバシー侵害への対策  AI システム・サービスにおけるプライバシー侵害に関して適宜情報収集し、侵害を認識した場合 等は適切に対処するとともに、再発の防⽌を検討する（「4）プライバシー保護」）

P-5）ii. 脆弱性への対応  AI システム・サービスに対する攻撃⼿法も数多く⽣まれているため、最新のリスク及びそれに対応

するために提供の各⼯程で気を付けるべき点の動向を確認する。また、脆弱性に対応すること

を検討する（「5）セキュリティ確保」）

P-6）ii. 関連するステークホルダーへの情報提供  提供する AI システム・サービスについて、例えば以下の事項を平易かつアクセスしやすい形で、 適時かつ適切に情報を提供する（「6）透明性」）  AI を利⽤しているという事実、活⽤している範囲、適切/不適切な使⽤⽅法等（「6） 透明性」）  提供する AI システム・サービスの技術的特性、利⽤によりもたらす結果より⽣じる可能性 のある予⾒可能なリスク及びその緩和策等の安全性に関する情報（「2）安全性」）

36 



 

AI システム・サービスの学習等による出⼒⼜はプログラムの変化の可能性（「1）⼈間中 ⼼」） AI システム・サービスの動作状況に関する情報、不具合の原因及び対応状況、インシデ ント事例等（「2）安全性」） AI システムの更新を⾏った場合の更新内容及びその理由の情報（「2）安全性」） AI モデルにて学習するデータの収集ポリシー、学習⽅法、実施体制等（「3）公平性」、 「4）プライバシー保護」、「5）セキュリティ確保」）



P-7）i. AI 利⽤者への「共通の指針」の対応状況の説明  AI 利⽤者に適正利⽤を促し、以下の情報を AI 利⽤者に提供する（「7）アカウンタビリテ

ィ」）  正確性・必要な場合には最新性（データが適切であること）等が担保されたデータの利

⽤についての注意喚起（「2）安全性」）  コンテキスト内学習による不適切な AI モデルの学習に対する注意喚起（「2）安全



性」）  個⼈情報を⼊⼒する際の留意点（「4）プライバシー保護」） 提供する AI システム・サービスへの個⼈情報の不適切⼊⼒について注意喚起する（「4）プラ イバシー保護」）

P-7）ii. サービス規約等の⽂書化  AI 利⽤者⼜は業務外利⽤者に向けたサービス規約を作成する（「7）アカウンタビリティ」）  プライバシーポリシーを明⽰する（「7）アカウンタビリティ」）

なお、⾼度な AI システムを取り扱う AI 提供者は、「第 2 部 D. ⾼度な AI システムに関係する事業者に共 通の指針」について以下のように対応する。

 

I）〜XI） 適切な範囲で遵守すべきである XII） 遵守すべきである

37

第５部 AI 利⽤者に関する事項

AI 利⽤者は、AI 提供者から安全安⼼で信頼できる AI システム・サービスの提供を受け、AI 提供者が意図し た範囲内で継続的に適正利⽤及び必要に応じて AI システムの運⽤を⾏うことが重要である。これにより業務効 率化、⽣産性・創造性の向上等 AI によるイノベーションの最⼤の恩恵を受けることが可能となる。また、⼈間の 判断を介在させることにより、⼈間の尊厳及び⾃律を守りながら予期せぬ事故を防ぐことも可能となる。

AI 利⽤者は、社会⼜はステークホルダーから AI の能⼒⼜は出⼒結果に関して説明を求められた場合、AI 提供者等のサポートを得てその要望に応え理解を得ることが期待され、より効果的な AI 利⽤のために必要な知 ⾒習得も期待される。

以下に AI 利⽤者にとって、重要な事項を挙げる。



AI システム・サービス利⽤時











U-2）i. 安全を考慮した適正利⽤  AI 提供者が定めた利⽤上の留意点を遵守して、AI 提供者が設計において想定した範囲内で

AI システム・サービスを利⽤する（「2）安全性」）  正確性・必要な場合には最新性（データが適切であること）等が担保されたデータの⼊⼒を

⾏う（「2）安全性」）  AI の出⼒について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利⽤する

（「2）安全性」）

U-3）i. ⼊⼒データ⼜はプロンプトに含まれるバイアスへの配慮  著しく公平性を⽋くことがないよう公平性が担保されたデータの⼊⼒を⾏い、プロンプトに含まれ るバイアスに留意して、責任をもって AI 出⼒結果の事業利⽤判断を⾏う（「3）公平性」）

U-4）i. 個⼈情報の不適切⼊⼒及びプライバシー侵害への対策  AI システム・サービスへ個⼈情報を不適切に⼊⼒することがないよう注意を払う（「4）プライバ

シー保護」）  AI システム・サービスにおけるプライバシー侵害に関して適宜情報収集し、防⽌を検討する

（「4）プライバシー保護」）

U-5）i. セキュリティ対策の実施  AI 提供者によるセキュリティ上の留意点を遵守する（「5）セキュリティ確保」）  AI システム・サービスに機密情報等を不適切に⼊⼒することがないよう注意を払う（「5）セキュ リティ確保」）

U-6）i. 関連するステークホルダーへの情報提供

38 

著しく公平性を⽋くことがないよう、公平性が担保されたデータの⼊⼒を⾏い、プロンプトに含ま れるバイアスに留意して AI システム・サービスから出⼒結果を取得する。そして、出⼒結果を事 業判断に活⽤した際は、その結果を関連するステークホルダーに合理的な範囲で情報を提供 する（「3）公平性」、「6）透明性」）





U-7）i.関連するステークホルダーへの説明  関連するステークホルダーの性質に応じて合理的な範囲で、適正な利⽤⽅法を含む情報提供 を平易かつアクセスしやすい形で⾏う（「7）アカウンタビリティ」）  関連するステークホルダーから提供されるデータを⽤いることが予定されている場合には、AI の特 性及び⽤途、データの提供元となる関連するステークホルダーとの接点、プライバシーポリシー等 を踏まえ、データ提供の⼿段、形式等について、あらかじめ当該ステークホルダーに情報提供す る（「7）アカウンタビリティ」）  当該 AI の出⼒結果を特定の個⼈⼜は集団に対する評価の参考にする場合は、AI を利⽤し ている旨を評価対象となっている当該特定の個⼈⼜は集団に対して通知し、当ガイドラインが 推奨する出⼒結果の正確性、公正さ、透明性等を担保するための諸⼿続きを遵守し、かつ⾃ 動化バイアスも鑑みて⼈間による合理的な判断のもと、評価の対象となった個⼈⼜は集団から の求めに応じて説明責任を果たす（「１）⼈間中⼼」、「6）透明性」、「7）アカウンタビリテ ィ」） 利⽤する AI システム・サービスの性質に応じて、関連するステークホルダーからの問合せに対応 する窓⼝を合理的な範囲で設置し、AI 提供者とも連携の上説明及び要望の受付を⾏う （「7）アカウンタビリティ」）



U-7）ii.提供された⽂書の活⽤及び規約の遵守  AI 提供者から提供された AI システム・サービスについての⽂書を適切に保管・活⽤する（「7） アカウンタビリティ」）  AI 提供者が定めたサービス規約を遵守する（「7）アカウンタビリティ」）

なお、⾼度な AI システムを取り扱う AI 利⽤者は、「第 2 部 D. ⾼度な AI システムに関係する事業者に共 通の指針」について以下のように対応する。

 

I）〜XI） 適切な範囲で遵守すべきである XII） 遵守すべきである

39