人工知能関連技術の研究開発及び活用の適正性確保に関する指針骨子
人工知能関連技術の研究開発及び活用の 適正性確保に関する指針骨子 全体構成
１
我が国における適正性確保に関する基本的な考え方 ········································································ 2
(1) 本指針の位置付け··································································································· 2
(2) 本指針における適正性確保の考え方 ·········································································· 2
人間中心 ··············································································································· 3
(3)
公平性 ·················································································································· 3 安全性 ·················································································································· 3 透明性 ·················································································································· 3 アカウンタビリティ································································································ 3 セキュリティ········································································································· 3 プライバシー········································································································· 3 公正競争 ··············································································································· 3 ＡＩリテラシー······································································································ 4 イノベーション······································································································ 4 適正性確保のための基本方針 ··················································································· 4 ① リスクベースでのアプローチ ··················································································· 4 ② ステークホルダーの積極的な関与 ············································································· 4 ③ 一気通貫でのＡＩガバナンスの構築 ·········································································· 4 ④ アジャイルな対応··································································································· 4
２
３
研究開発機関及び活用事業者が特に取り組むべき事項 ···································································· 5
(1) ＡＩガバナンスによる俯瞰的な適正性の確保 ······························································ 5
(2) ステークホルダーとの信頼関係の構築に向けた透明性の確保 ········································· 5
(3) 十分な安全性の確保································································································ 5
(4) 事業継続性確保による安全な環境の維持 ···································································· 6
(5) ＡＩのイノベーションの基盤となるデータの重要性を踏まえたステークホルダーへの配慮 ·· 6
国及び地方公共団体が特に取り組むべき事項 ·················································································· 7
(1) ＡＩの積極的かつ先導的な活用によるイノベーションの促進 ········································· 7
(2) 社会全体におけるＡＩリテラシーの向上 ···································································· 7
(3) ＡＩガバナンスの在り方の検討 ················································································ 7
(4) 行政としてのアカウンタビリティを果たすこと ··························································· 8
人間中心の原則に基づくＡＩの責任ある利用
······························································
9
４
国民が特に取り組むべき事項 ··········································································································· 9
(1)
(2) ＡＩリテラシーに基づく適切な利用 ·········································································· 9
1 1
１
我が国における適正性確保に関する基本的な考え方
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
(1) 本指針の位置付け
・ 人工知能関連技術の研究開発及び活用の推進に関する法律（「ＡＩ法」）第 13 条に 基づく本指針は、 信頼できるＡＩの実現に向けて、 事業者、国民等の全ての主体 におけるＡＩの研究開発・活用の適正な実施に係る自主的かつ能動的な取組を促 すために、国際的な規範の趣旨に即して策定するもの。
・ 本指針の構成としては、１で全ての主体におけるＡＩの研究開発・活用の適正性 確保に必要となる主な要素と基本方針を示し、２以降で各主体が１を前提として 特に取り組むべき事項を記載する。
・ 全ての主体は、 適正性確保に必要となる主な要素を認識、 理解することが求めら れる。また、取り組むべき事項について、 各主体の規模や立場、 ＡＩがもたらす リスクに応じて、 その時点で適用し得る技術や知見を踏まえて適切な水準で対応 することが求められる。
・ なお、我が国は、 信頼できるＡＩの開発、 活用、普及に向けて、 本指針を中心と した枠組みを、 国際モデルとなるよう展開するとともに、 ＡＩに係る国際的なル ール形成を行う枠組みである「広島ＡＩプロセス」を牽引してきた実績を踏まえ、 引き続きＡＩガバナンスにおける国際協調を主導する。
(2) 本指針における適正性確保の考え方
・ ＡＩは、 経済成長や国民生活の発展に寄与するものであることから、 ＡＩの社会 実装を進め、 イノベーションを促進していくことが重要である一方、 ＡＩには 様々なリスクがある。 例えば、 誤判断やハルシネーション等の技術的リスク、 偽・誤情報の生成・拡散、 偏見・差別の助長、 犯罪への利用、 過度な依存、 プラ イバシー・財産権の侵害、 環境負荷の増大、 雇用・経済不安等の社会的リスク、 さらにはサイバー攻撃等の安全保障リスクがあり、 これらのリスクはＡＩの技術 進歩とともに変化したり、 未知のリスクが発生したりする可能性があり、リスク に対する社会的な受容水準も変化し得る。
2 1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
・ このため、 本指針では、 適正性確保に当たって、適正性についての一義的な定義 や絶対的な水準を定めるものではなく、各主体が研究開発、活用するＡＩの特性、 用途、⽬的や、 自身の立場、社会的役割等を踏まえて自 主的に取組を進めるとい う考え方の下、その際に考慮すべき主な要素を以下のとおり示す。
人間中心 人間の尊厳や基本的人権を尊重し、法令を遵守すること。 誰もがＡＩの恩恵を享受できるよう、 多様性、 包摂性を尊重し、 多様な 人々の幸福の追求による包摂的な成長を⽬指すこと。 ＡＩの活用に当たっては、人間自らが意思決定を行うこと。 公平性 ＡＩの活用によって、社会に不当な偏見や差別を生じさせたり、助長した りしないこと。 安全性 ＡＩの活用によって、生命、身体、財産に危害を及ぼさないようにするこ と。 透明性 ＡＩに対する信頼性が向上するよう、必要かつ技術的に可能な範囲での情 報の開示、事後的な検証可能性の確保等により、透明性を適切に確保する こと。 アカウンタビリティ ＡＩがもたらす社会的影響を踏まえ、責任の所在の明確化、責任を果たす ための仕組みの構築等により、技術的、制度的、社会的観点からアカウン タビリティを合理的な範囲で果たすこと。 セキュリティ 不正な操作によるＡＩの意図しない動作や停止をはじめとするＡＩのセキ ュリティ上のリスクを低減させるよう、ＡＩのセキュリティを確保するこ と。 プライバシー 取り扱うデータの重要性等に応じて、プライバシーを尊重し、適切に保護 すること。 公正競争 特定の者にＡＩに関する資源が集中した場合においても、その有利な立場 を利用した不当なデータの収集を含む不公正な取引が行われないようにす るなど、公正な競争の促進に貢献すること。
3 1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
ＡＩリテラシー ＡＩがもたらすリスクの社会的受容可能な水準は変わり得ることを認識し、 便益の最大化とリスクの抑制を図れるよう、知識・能力を身に付けるとと もに、倫理観を保持すること。 イノベーション 環境負荷の低減を含む持続可能性を確保しつつ、イノベーションの促進に 貢献するよう努めること。 社会課題の解決に資するＡＩの技術開発に取り組むこと。 ＡＩの活用を阻害する要因の改善を図ること。
(3) 適正性確保のための基本方針
(2)で示した考え方を踏まえ、適正性を確保するために取り組むべき基本方針は以下 のとおり。
① リスクベースでのアプローチ ・ ＡＩがもたらすリスクを特定・評価し、ＡＩを利用する分野や⽬的を踏まえた 影響度合いに応じて、適切な対策を講じる。
② ステークホルダーの積極的な関与 ・ ＡＩがもたらす便益、リスク等により影響を受ける主体（ステークホルダー） がＡＩガバナンスに積極的に関与し、ステークホルダーと協働して課題解決に 取り組む。
③ 一気通貫でのＡＩガバナンスの構築 ・ ＡＩがもたらすリスクをステークホルダーにとって受容可能な水準で管理しつ つ、便益を最大化するため、研究開発から社会実装までが近接するＡＩの各段 階を一体的に捉えたＡＩガバナンスを構築。
④ アジャイルな対応 ・ ＡＩの技術進歩の速さや、予見可能性、説明可能性が十分でないことを踏まえ、 変動し得るリスクに対してＰＤＣＡ（計画・実行・評価・改善）サイクルを回 しながら、柔軟・迅速（「アジャイル」）に対応し、ＡＩガバナンスの成熟度を 高めていく。
4 1
２
研究開発機関及び活用事業者が特に取り組むべき事項
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
ＡＩを活用した製品、 サービスの開発、提供をする活用事業者（海外事業者も含む） は、その開発、 提供したＡＩが多くの主体に影響を及ぼし得ることを踏まえ、国際的な 規範、国際標準、各種ガイドライン等を活用しつつ、１(2)に示す適正性確保に必要とな る主な要素に関して、特に以下の事項に取り組む。
また、ＡＩの研究開発機関は、その開発したＡＩを第三者に提供する際は、１(2)に示 す適正性確保に必要となる主な要素に関して、特に以下の事項に取り組む。
(1) ＡＩガバナンスによる俯瞰的な適正性の確保
・ ＡＩの設計・開発・提供・実装等のライフサイクル全体で、 リスクの特定・評 価・対処をするための組織的なプロセス（経営層の関与したモニタリングや評価 の仕組み、 情報の適切な開示、 教育・研修の実施等）を含むＡＩガバナンスを構 築・運用・継続改善。
(2) ステークホルダーとの信頼関係の構築に向けた透明性の確保
・ 学習データの出所と出力される生成物について、 知的財産、プライバシー等の保 護の適切な実施を含め、ステークホルダーとの信頼関係を構築するためにも、 合 理的な範囲で説明可能性を確保。
・ ＡＩを提供する際、ＡＩの適正な利用を可能にするための情報（ＡＩの仕組み・ 限界、禁止事項、 学習するデータの収集ポリシー、 出力の信頼性に関する注意喚 起等）をそのＡＩの利用者に提供。
(3) 十分な安全性の確保
・ ＡＩを悪用したサイバー攻撃や詐欺をはじめとする各種犯罪等違法行為のリスク を特定・評価し、適切な対策を講じる。
・ ハルシネーションや偏見・差別の助長、偽・誤情報等（ディープフェイク技術に よるフェイク動画、性的加工画像等）の拡散等につながるＡＩによる不適切な出 力の抑制、ＡＩの意図しない動作や誤作動の防止をするため、 最新の技術と知見 を駆使して、解決、改善に向けて取り組む。
5 1
(4) 事業継続性確保による安全な環境の維持
2
3
4
5
6
7
8
9
10
11
12
・ ＡＩを用いたシステムの運用者やサービスの提供者は、 これらに障害が生じた場 合に備え、 損害を最小限にとどめ、 早期復旧するために、 平常時に行うべき活動 や緊急時の事業継続のための方法、 手段等を定めた事業継続計画をあらかじめ策 定。
(5) ＡＩのイノベーションの基盤となるデータの重要性を踏まえたステークホルダー
への配慮
・ ＡＩのイノベーションの基盤となる質の高いデータの確保と適正な活用が重要で あることを踏まえ、データの整備と新たな創作活動等の好循環を実現するため、 知的財産等のデータ保有者等に対する利益還元のエコシステムや創作活動が促進 される環境の構築に向けた方策の検討、実施に努める。
6 1
３
国及び地方公共団体が特に取り組むべき事項
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
国は、１(2)に示す適正性確保に必要となる主な要素に関して、特に以下の事項に取り 組む。
地方公共団体は、１(2)に示す適正性確保に必要となる主な要素に関して、置かれた環 境や課題が多様であることを踏まえ、地域の実情に応じて、 特に以下の事項に配慮しつ つ、必要な対応を行う。
なお、ＡＩを開発、提供する際は、２に示す事項についても取り組む。
(1) ＡＩの積極的かつ先導的な活用によるイノベーションの促進
・ 活用事例や留意点を周知することがＡＩの普及促進に効果的であることを踏まえ、 国及び地方公共団体が自ら積極的かつ先導的にＡＩの活用や公共調達における開 発実証機会の提供を進める。
(2) 社会全体におけるＡＩリテラシーの向上
・ 国及び地方公共団体は、 ＡＩを適正に利用するための判断を全ての主体が適切に できる環境を構築するため、国及び地方公共団体の職員を含めた社会全体におけ るＡＩリテラシーの向上を図ることが求められる。
・ 常にＡＩの最新の技術動向や活用実態を把握し、 リスク及びその対応策を検討し て、ステークホルダーの自主的な取組を促すための考え方を提示。
・ 事業者、 国民等におけるＡＩの研究開発・活用における適正性確保に向けて、 生 成ＡＩの基本的な使い方や注意点を学べるコンテンツの提供、 社会人向けの生成 ＡＩスキル・知見の習得支援等、教育・ガイダンスを積極的に推進。
(3) ＡＩガバナンスの在り方の検討
・ 国内外におけるＡＩガバナンスを巡る動向を注視し、ＡＩガバナンスの在り方を 継続的に検討し、 対応。また、 ＡＩは国境を越えて展開されるため、 国内だけで なく、国際的なガバナンスが不可欠であることを踏まえ、 ＡＩガバナンスの国際 協調を主導。
7 1
2
3
4
5
6
7
8
9
10
11
12
13
・ 本指針及びガイドライン等も、 ＡＩの技術進歩による社会の変化をとらえ、 アジ ャイルかつ継続的に見直す。 ガイドライン等は、 本指針の趣旨と整合するよう、 適宜、点検・見直しを行う。
・ 様々な局面におけるＡＩ導入の障壁を低減するため、ＡＩを活用する際に想定・ 発生し得る課題に対して、 その責任の所在等に関する解釈適用上の論点及び考え 方を整理するとともに、 判例等を踏まえ可能な限り解釈を明確化するよう努める。
(4) 行政としてのアカウンタビリティを果たすこと
・ 行政においてＡＩを利用する際、行政の信頼性を確保するため、 求められる水準 を十分に考慮した適切なリスク対策等を徹底し、可能な限り判断の根拠が不明瞭 にならないよう国民へのアカウンタビリティを果たす。
・ 各府省庁において、ＡＩガバナンスの責任者を任命。地方公共団体において、 Ａ Ｉの適正な活用、リスク管理における責任者を明確化。
8 1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
４
国民が特に取り組むべき事項 国民は、１(2)に示す適正性確保に必要となる主な要素に関して、以下に特に配慮した 対応を行う。
(1) 人間中心の原則に基づくＡＩの責任ある利用
・ 国民はＡＩを利用する主体として、 ＡＩの利用により法令への抵触、加害行為を するおそれがあることを踏まえ、法令を遵守する。
・ ＡＩの利便性のみならず、 倫理、法令、人権、 安全等に関する課題を理解し、 責 任ある利用者としての自覚をもって行動するよう努める。
(2) ＡＩリテラシーに基づく適切な利用
・ ＡＩの特性や仕組みを正しく理解し、 能動的にＡＩリテラシーを身に付けるよう 努める。
・ ＡＩを利用する際、得られる情報の出所、 正確性、 生成過程等を理解し、人間の 判断、責任の下で意思決定を行うとともに、 不当な差別、 誹謗中傷、 偽・誤情報 の拡散等を⽬的とした不適切な行為を行わない。
・ ＡＩの生成物（文章、 画像、 音声、 動画等）は、 社会的、 法的に適切な形で利用 する。
9