"人間中心の AI 社会原則"의 두 판 사이의 차이

# (1)  「人」  AI が社会の隅々に浸透してくることに対応する「AI-Ready な社会」において、人間 がどのように対応していくかが AI を十分に活用できる社会の実現の鍵となる。そのた めに人間に期待される能力及び役割は、以下のようなものになる。

## A)  AI の長所・短所をよく理解しており、とりわけ AI の情報リソースとなるデータ、 アルゴリズム、又はその双方にはバイアスが含まれること及びそれらを望ま しくない目的のために利用する者がいることを認識する能力を人々が持つこ とが重要である。なお、データのバイアスには、主として統計的バイアス、社 会の様態によって生じるバイアス及び AI 利用者の悪意によるバイアスの 3 種類があることを認識していることが望まれる。

## B)  AI の利用によって、多くの人々が創造性や生産性の高い労働に従事できる 環境が実現できることが望ましい。そのためには、出自、文化、趣向等の観 点で、多様な人々が各々の目指す多様な夢やアイデアを AI の支援によって 実現する能力を獲得できることが期待される。このことを実現するための教 育システム及びそれらの達成に資する社会制度が実現されなければならな い。

## C)  データや AI の基礎教養から実装及び設計等の応用力を、幅広い分野の横 断的、複合的及び融合的な枠組みで身につけた人材が十分に存在すること が重要である。そのような人材は、社会のあらゆる活動の原動力となり、か つその人々の能力が AI を活用した生活環境の構成に寄与することが期待さ れる。このような生活環境の整備によって、多くの人々がより豊かで充実した 人生を送れるような社会制度が実現されなければならない。

# (2)  「社会システム」  AI を利用することで、個々のサービス・ソリューションの進化を促進し、効率化・個 別化による多様なメリットを生み出すことが期待される。この変化から生じるメリットを 社会の側において十分に受け止めるため、医療、金融、保険、交通、エネルギー等の

# (3)  「産業構造」  多様な人々が多様な夢やアイデアを実現できるよう、労働、雇用環境や創業環境 が柔軟で国際的に開かれたものになっていることが必要である。そのために企業は 公正な競争を行い、柔軟な働き方を促進していること、また人間の創造力が産業を通 じても発揮され続けており、スタートアップへの投資が促進されていることが求められ る。

# (4)  「イノベーションシステム(イノベーションを支援する環境)」  大学・研究機関・企業、さらに一般の人々に至るまで、分野や立場を超えて AI の研 究開発、利活用及び評価に参加し、互いに刺激し合いながら、イノベーションが次々 に生まれる環境ができていることが必要である。  そのためには、リアル空間も含めたあらゆるデータが新鮮かつ安全に AI 解析可能 なレベルで利用可能であり、かつ、プライバシーやセキュリティが確保されることで、 誰もが安心してデータを提供し流通させることができ、提供したデータから便益を得ら れる環境ができていることが求められる。  研究開発者に加えユーザも含め、安心して AI を研究開発し利活用できる環境が 整い、研究開発と利活用のサイクルが迅速に回ることによって、望ましい発展が加速 していることが望ましい。また、AI の利活用によって、新たな発想やさらなる可能性が 生まれ、イノベーションの地平が格段に広がっていることが求められる。

# (5)  「ガバナンス」  社会情勢の変化や技術の進展に伴い、上記に挙げた「人」、「社会システム」、「産 業構造」、「イノベーションシステム」で議論されるべき内容や目的設定は、常に更新 し続ける必要がある。

* ÿ  AI は、人間の労働の一部を代替するのみならず、高度な道具として人間を補助 することにより、人間の能力や創造性を拡大することができる。

* ÿ  AIの利用にあたっては、人が自らどのように利用するかの判断と決定を行うこと が求められる。AI の利用がもたらす結果については、問題の特性に応じて、AI の開発・提供・利用に関わった種々のステークホルダーが適切に分担して責任 を負うべきである。

* ÿ  各ステークホルダーは、AI の普及の過程で、いわゆる「情報弱者」や「技術弱 者」を生じさせず、AI の恩恵をすべての人が享受できるよう、使いやすいシステ ムの実現に配慮すべきである。  (2) 教育・リテラシーの原則  6 欧州委員会「信頼できる AI のための倫理ガイドライン(案)」においては、ハイレベル専門家会合においても合意に達していない 重大な懸念事項(Critical Concerns raised by AI)として、「同意のない個人の特定」、「隠された AI システム」、「同意のない一般市 民の評価」、「自律型致死兵器システム」、「将来にわたっての潜在的な懸念」が挙げられている。これらの事項については、我が国 においても、今後必要に応じて検討すべき課題と考えられる。

* ÿ  人々の格差や弱者を生み出さないために、幼児教育や初等中等教育において 幅広くリテラシー等の教育の機会が提供されるほか、社会人や高齢者の学び 直しの機会の提供が求められる。

* ÿ  AI を活用するためのリテラシー教育やスキルとしては、誰でも AI、数理、データ サイエンスの素養を身につけられる教育システムとなっているべきであり、全て の人が文理の境界を超えて学ぶ必要がある。リテラシー教育には、データにバ イアスが含まれることや使い方によってはバイアスを生じさせる可能性があるこ となどの AI・データの特性があること、AI・データの持つ公平性・公正性、プライ バシー保護に関わる課題があることを認識できるような、セキュリティや AI 技術 の限界に関する内容を備えることも必要である。

* ÿ  AI が広く浸透した社会において、教育環境は、一方的かつ均一的に教える教育 の在り方から、個々人の持つ関心や力を活かす在り方へと変化すると考えられ る。そのため、社会は、これまでの教育環境における成功体験に拘ることなく、 常に最適な形へと柔軟に変化し続ける意識を全体として共有する。教育におい て、落伍者を出さないためのインタラクティブな教育環境や学ぶもの同士が連 携できる環境が AI を活用して構築されることが望ましい。

* ÿ  このような教育環境の整備に向けて、行政や学校(教員)に負担を押し付けるの ではなく、民間企業や市民も主体性をもって取り組んでいくことが望ましい。

* ÿ  パーソナルデータを利用した AI 及びその AI を活用したサービス・ソリューション においては、政府における利用を含め、個人の自由、尊厳、平等が侵害されな いようにすべきである。

* ÿ  AI の使用が個人に害を及ぼすリスクを高める可能性がある場合には、そのよう な状況に対処するための技術的仕組みや非技術的枠組みを整備すべきであ る。特に、パーソナルデータを利用する AI は、当該データのプライバシーにかか わる部分については、正確性・正当性の確保及び本人が実質的な関与ができ る仕組みを持つべきである。これによって、AI の利用に際し、人々が安心してパ ーソナルデータを提供し、提供したデータから有効に便益を得られることにな る。

* ÿ  パーソナルデータは、その重要性・要配慮性に応じて適切な保護がなされなけ ればならない。パーソナルデータには、それが不当に利用されることによって、 個人の権利・利益が大きく影響を受ける可能性が高いもの(典型的には思想信 条・病歴・犯歴等)から、社会生活のなかで半ば公知となっているものまで多様 なものが含まれていることから、その利活用と保護のバランスについては、文化 的背景や社会の共通理解をもとにきめ細やかに検討される必要がある。

# (4)  セキュリティ確保の原則  AI を積極的に利用することで多くの社会システムが自動化され、安全性が向上す る。一方、少なくとも現在想定できる技術の範囲では、希少事象や意図的な攻撃に 対して AI が常に適切に対応することは不可能であり、セキュリティに対する新たなリ スクも生じる。社会は、常にベネフィットとリスクのバランスに留意し、全体として社会 の安全性及び持続可能性が向上するように務めなければならない。

#* ÿ  社会は、AI の利用におけるリスクの正しい評価やそのリスクを低減するための 研究等、AI に関わる層の厚い研究開発(当面の対策から、深い本質的な理解 まで)を推進し、サイバーセキュリティの確保を含むリスク管理のための取組を 進めなければならない。

#* ÿ  社会は、常に AI の利用における持続可能性に留意すべきである。社会は、特 に、単一あるいは少数の特定 AI に一義的に依存してはならない。

# (5)  公正競争確保の原則  新たなビジネス、サービスを創出し、持続的な経済成長の維持と社会課題の解決 策が提示されるよう、公正な競争環境が維持されなければならない。  ÿ 特定の国に AI に関する資源が集中した場合においても、その支配的な地位を 10

* ÿ  特定の企業に AI に関する資源が集中した場合においても、その支配的な地位 を利用した不当なデータの収集や不公正な競争が行われる社会であってはな らない。

* ÿ  AI の利用によって、富や社会に対する影響力が一部のステークホルダーに不 当過剰に偏る社会であってはならない。  (6) 公平性、説明責任及び透明性の原則  「AI-Ready な社会」においては、AI の利用によって、人々が、その人の持つ背景に よって不当な差別を受けたり、人間の尊厳に照らして不当な扱いを受けたりすること がないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカ ウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保され る必要がある。  ÿ AI の設計思想の下において、人々がその人種、性別、国籍、年齢、政治的信 念、宗教等の多様なバックグラウンドを理由に不当な差別をされることなく、全 ての人々が公平に扱われなければならない。

** ÿ  AI を利用しているという事実、AI に利用されるデータの取得方法や使用方法、 AI の動作結果の適切性を担保する仕組みなど、用途や状況に応じた適切な説 明が得られなければならない。

** ÿ  人々が AI の提案を理解して判断するために、AI の利用・採用・運用について、 必要に応じて開かれた対話の場が適切に持たれなければならない。

** ÿ  上記の観点を担保し、AI を安心して社会で利活用するため、AI とそれを支える データないしアルゴリズムの信頼性(Trust)を確保する仕組みが構築されなけ ればならない。  (7) イノベーションの原則

* ÿ  Society 5.0 を実現し、AI の発展によって、人も併せて進化していくような継続的な イノベーションを目指すため、国境や産学官民、人種、性別、国籍、年齢、政治的 信念、宗教等の垣根を越えて、幅広い知識、視点、発想等に基づき、人材・研究 の両面から、徹底的な国際化・多様化と産学官民連携を推進するべきである。

* ÿ  大学・研究機関・企業の間の対等な協業・連携や柔軟な人材の移動を促さなけ ればならない。

* ÿ  AIを効率的かつ安心して社会実装するため、AIに係る品質や信頼性の確認に係 11

* ÿ  AI 技術の健全な発展のため、プライバシーやセキュリティの確保を前提としつ つ、あらゆる分野のデータが独占されることなく、国境を越えて有効利用できる環 境が整備される必要がある。また、AI の研究促進のため、国際的な連携を促進し AI を加速するコンピュータ資源や高速ネットワークが共有して活用されるような研 究開発環境が整備されるべきである。

* ÿ  政府は、AI 技術の社会実装を促進するため、あらゆる分野で阻害要因となって いる規制の改革等を進めなければならない。  4.2. AI開発利用原則  我々は、開発者及び事業者において、基本理念及び上記の AI 社会原則を踏まえた AI 開発利用原則を定め、遵守するべきと考える。  AI 開発利用原則については、現在、多くの国、団体、企業等において議論されているこ とから、我々は早急にオープンな議論を通じて国際的なコンセンサスを醸成し、非規制的 で非拘束的な枠組みとして国際的に共有されることが重要であると考える。  5 おわりに  「AI-Ready な社会」を世界に先駆けて構築していくため、我が国は、本原則を政府、関 係企業、団体等で共有し、政策等に反映させるべきである。  また、国際的な議論の場において、我が国は、本原則を世界各国と共有した上で、国 際的な議論のリーダーシップをとり、コンセンサスの形成を目指すべきであり、それによっ て SDGs の実現を支える Society5.0 の社会像を世界に示し、国際社会の協調的かつ創 造的な新たな発展に寄与すべきである。  なお、本原則は、今後、AI 関連技術の進展、社会の変化、世界の情勢等に応じて、今 後柔軟に進化・発展させるものである。