第3章第3節 AIガバナンスの主導

AIガバナンスとは?AISIの強化・広島AIプロセス・ディープフェイク対策|第3節

このページでは、人工知能基本計画の第3章 第3節「AIガバナンスの主導」を読みます。AIを使ったディープフェイクやサイバー攻撃などのリスクに、国がどう向き合うのか。安全性を評価する機関AISI(AIセーフティ・インスティテュート)をどう強くするのか。そして日本が「広島AIプロセス」を通じて世界のルールづくりをどう主導していくのかが書かれています。青少年の保護やAIの被害を受けたときの相談窓口など、高校生や保護者にも身近な話も含まれています。

原文の場所:第3章 第3節 p.14〜17国内閣府人工知能戦略本部AISI内閣官房警察庁こども家庭庁消費者庁総務省外務省経済産業省デジタル庁事業者国民

このページの要点

  • 5-1AIの適正性を確保するガバナンスとして、ディープフェイクなどのリスクにもPDCAを回してアジャイルに対応する。これまでに「適正性確保に関する指針」とガイドライン等を整備し、AISIの機能強化も進めてきた。
  • 5-2エージェント型AIの登場で、技術的・社会的・安全保障上のリスクが複雑化・深刻化。特にAIによる自律型攻撃が現実の脅威となり、「信頼できるAI」のためにサイバー防御の強化が不可欠。
  • 5-3「制度による対応」「技術による対応」「組織管理による対応」を統合して「信頼」を築く。AISIはガイドライン策定、高性能AIの評価、脆弱性・インシデント情報の国際共有、規格・標準づくりを一体的に進める。
  • 5-4広島AIプロセスを主導してきた日本として、「信頼できるAI」を日本発で世界とともに作り、高性能AIのガバナンスの国際的な議論を主導する。
  • 5-5グローバルサウス諸国等と信頼できるAIエコシステムを共創し、相互運用性の技術標準を主導。国連等の場でもルール形成・国際標準化を主導する。
  • 5-6具体策(1)①〜③:AI法第16条の調査研究の機動的運用と制度の不断の見直し、行政のAIエージェント導入ルールやガイドライン整備、人工知能戦略本部への情報集約。
  • 5-7具体策(1)④〜⑥:AIを悪用したサイバー攻撃・詐欺・テロへの対応、「Project YATA-Shield」による対策強化、高性能AIを活用したサイバー対処能力の強化。
  • 5-8具体策(1)⑦〜⑩:AISIの抜本的強化、AI生成コンテンツを判別する技術の開発支援、青少年の安全・安心なAI利活用、公的な相談窓口の拡充。
  • 5-9具体策(2)①〜⑦:広島AIプロセスフレンズグループ、ISO/IEC JTC1への参画、AISI国際ネットワーク、軍事領域のAI、GPAI東京センター、グローバルサウスとの共創、AIサミットの日本開催。

5-1AIガバナンスとは ― ディープフェイクなどのリスクにアジャイルに向き合う#

Q人工知能基本計画のAIガバナンスとは何ですか?ディープフェイクなどのリスクにどう対応するのですか?

答え:AIガバナンスは、AIの利活用と技術革新の好循環を実現するために、AIの適正性を確保する仕組みとして位置付けられている。ディープフェイクなどAIがもたらすリスクにも、PDCAサイクルを回してアジャイル(機動的)に対応する。これまで「適正性確保に関する指針」(令和7年12月19日 人工知能戦略本部決定)と各種ガイドライン等を整備し、AISIの機能強化を進め、AI法に基づく措置等と組み合わせて事業者や国民の自主的な取組を促してきた。

原文 人工知能基本計画 (p.14)

第3節 AIガバナンスの主導

AIの利活用と技術革新の好循環を実現するため、AIの適正性を確保するガバナンスとして、AIを悪用したディープフェイクなど、AIがもたらすリスクに対しても、挑戦と学習を繰り返しながら、PDCAサイクルを循環させアジャイルに対応していく。これまでも、「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」(令和7年 12月 19 日人工知能戦略本部決定)を策定し、その趣旨と整合する各種ガイドライン等を整備してきた。AIモデルの技術的評価を担うAIセーフティ・インスティテュート(AISI)の機能強化も進めてきた。AI法に基づく措置等も有機的に組み合わせて、事業者や国民の自主的かつ能動的な取組を促している。

自治体AIヤマトくんの開発者・記事の著者の解説

「ガバナンス」とは、簡単にいうと「きちんと治めるための仕組み」のことです。AIガバナンスは、AIが安全に、正しく使われるようにするためのルールや体制、点検の仕組み全体を指します。

ここで大事なのは、原文がAIガバナンスを「AIの利活用と技術革新の好循環を実現するため」のものと位置付けていることです。つまり、ガバナンスはAIを使わせないためのブレーキではなく、安心して使えるからこそ、もっと使われ、もっと進歩するという循環を作るための土台だ、という考え方です。

対応すべきリスクの例として名前が挙がっているのが「ディープフェイク」です。ディープフェイクとは、AIで作られた本物そっくりの偽の画像・動画・音声のことです。実在の人が言っていないことを言っているように見せる動画などが、だましや嫌がらせに悪用されるおそれがあります。

こうしたリスクに対して、計画は「挑戦と学習を繰り返しながら、PDCAサイクルを循環させアジャイルに対応」するとしています。PDCAとは、計画(Plan)→実行(Do)→評価(Check)→改善(Act)をくり返すことです。AIの技術はとても速く変わるので、完璧なルールを一度作って終わりにするのではなく、試しながら素早く直していく、という姿勢です。

これまでに国が行ってきたことは、次の3つにまとめられます。

これまでの取組 内容
指針とガイドライン 「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」(令和7年12月19日 人工知能戦略本部決定)を作り、それに沿った各種ガイドライン等を整備
AISIの機能強化 AIモデルの技術的評価を担うAIセーフティ・インスティテュート(AISI)を強化
AI法に基づく措置等 これらを有機的に組み合わせ、事業者や国民の自主的かつ能動的な取組を促す

最後の「自主的かつ能動的な取組を促す」という点がポイントです。国が細かく禁止するだけではなく、使う側・作る側が自分たちで気をつける行動を後押しする、というやり方です。

ポイント

  • AIガバナンスは、AIの利活用と技術革新の好循環を実現するために、AIの適正性を確保する仕組みとして位置付けられている。
  • ディープフェイクなどAIがもたらすリスクにも、PDCAサイクルを回してアジャイル(機動的)に対応する。
  • これまで「適正性確保に関する指針」(令和7年12月19日 人工知能戦略本部決定)と各種ガイドライン等を整備し、AISIの機能強化を進め、AI法に基づく措置等と組み合わせて事業者や国民の自主的な取組を促してきた。

よくある疑問

QAIガバナンスは、AIを規制して使いにくくすることですか?

A

原文はAIガバナンスを「AIの利活用と技術革新の好循環を実現するため」の仕組みとしています。リスクに対応しながら、事業者や国民の自主的かつ能動的な取組を促すことに重点があり、単に禁止を増やすという書き方ではありません。

5-2エージェント型AIで複雑化するリスク ― 自律型サイバー攻撃とサイバー防御#

Qエージェント型AIにはどんなリスクがありますか?AIによるサイバー攻撃とは何ですか?

答え:エージェント型AIの登場により、AIがもたらすリスクは相当に複雑化・深刻化していると原文は認識している。懸念されるリスクは、技術的リスク(不具合の連鎖による大規模障害)、社会的リスク(責任の所在の曖昧化、雇用への影響)、安全保障上のリスク(自律型のサイバー攻撃)の3種類。AIによる自律型攻撃で未知の脆弱性が発見されるなど、サイバーセキュリティ上の脅威はすでに顕在化しており、サイバー防御の強化が不可欠とされている。

原文 人工知能基本計画 (p.14)

エージェント型AIの登場により、AIがもたらすリスクは相当に複雑化・深刻化している。不具合の連鎖による大規模障害といった技術的リスク、責任の所在の曖昧化、雇用への影響といった社会的リスク、自律型のサイバー攻撃といった安全保障上のリスクが懸念され、適時適切の対応が一層求められる。特にサイバーセキュリティ上の脅威は、AIによる自律型攻撃により未知の脆弱性の発見がされるなどの形で顕在化している。これらの脅威に対応し「信頼できるAI」を実現するためにも、サイバー防御の強化が不可欠である。

自治体AIヤマトくんの開発者・記事の著者の解説

エージェント型AIは、人がいちいち指示しなくても、AIが自分で計画を立てて実行し、結果を確かめて直す、というように仕事を進めるAIです。便利な反面、AIが自分で動く範囲が広がるほど、リスクも複雑になります。原文はリスクを3種類に分けています。

リスクの種類 原文の例 たとえると
技術的リスク 不具合の連鎖による大規模障害 1台のAIのミスが、つながった別のAIやシステムに次々伝わって、大きな停止につながる
社会的リスク 責任の所在の曖昧化、雇用への影響 AIが勝手に判断した結果、問題が起きたとき「誰の責任?」がわかりにくい。仕事のあり方も変わる
安全保障上のリスク 自律型のサイバー攻撃 AIが自分で弱点を探して攻撃を続ける

特に原文が強調しているのがサイバーセキュリティです。「AIによる自律型攻撃により未知の脆弱性の発見がされるなどの形で顕在化している」とあります。脆弱性(ぜいじゃくせい)とは、ソフトウェアやシステムの「すき間」や「弱点」のことです。これまでは高い技術を持った人が時間をかけて探していた弱点を、AIが自動で見つけてしまう。そうした脅威が、もう現実に起きている、という認識です。

だからこそ原文は、「信頼できるAI」を実現するためにもサイバー防御の強化が不可欠だと結論づけています。攻撃にAIが使われるなら、守る側もAIの力を借りて強くならなければいけない、という流れです。この考え方は、後の具体的な取組(5-7)で「Project YATA-Shield」などとして具体化されています。

ポイント

  • エージェント型AIの登場により、AIがもたらすリスクは相当に複雑化・深刻化していると原文は認識している。
  • 懸念されるリスクは、技術的リスク(不具合の連鎖による大規模障害)、社会的リスク(責任の所在の曖昧化、雇用への影響)、安全保障上のリスク(自律型のサイバー攻撃)の3種類。
  • AIによる自律型攻撃で未知の脆弱性が発見されるなど、サイバーセキュリティ上の脅威はすでに顕在化しており、サイバー防御の強化が不可欠とされている。

よくある疑問

Q「未知の脆弱性」とは何ですか?

A

まだ誰にも知られていない、ソフトウェアやシステムの弱点のことです。知られていないので対策も用意されておらず、悪用されると被害が大きくなりやすいのが特徴です。原文は、AIの自律型攻撃によってこうした弱点が見つけられる形で脅威が顕在化していると書いています。

5-3制度・技術・組織管理の3つの対応とAISIの強化#

Q「制度による対応」「技術による対応」「組織管理による対応」とは何ですか?AISIは何をするのですか?

答え:「信頼できるAI」は政府が制度を運用するだけでは実現できず、情報や知見を集約し、様々な主体が連携して多様なリスクに向き合う必要がある。「制度による対応」「技術による対応」「組織管理による対応」の3つを統合的に進め、AIエコシステムにおける「信頼」を構築する。AISIは、安全性・セキュリティのガイドライン策定、高性能AIの積極的な評価、国際的なAI脆弱性情報・インシデント情報等の収集・共有、国際的な規格・標準の策定を一体的に進める。

原文 人工知能基本計画 (p.14)

責任あるアジャイル・ガバナンスの実現を図るため、より能動的かつ柔軟に、制度及びその運用を見直し続けなければならない。技術進歩とリスクの深化のスピードを踏まえれば、「信頼できるAI」は、政府が制度を運用するだけでは実現できず、情報や知見を集約し、多様なリスクに様々な主体が連携して向き合わなければならない。技術の進捗に合わせて制度等を能動的かつ継続的に見直す「制度による対応」と、AIモデルの設計に制御機能等を組み込む技術標準やそれに基づく技術評価といった「技術による対応」、技術動向やリスク事案等を絶えず把握し、組織全体でリテラシーを向上させていく「組織管理による対応」を統合的に取り組み、AIエコシステムにおける「信頼」を構築する。

AISIも更なる強化が必要である。エージェント型AIを含むAIの利活用及び開発時における安全性やセキュリティを担保するためのガイドラインの策定、国家の安全を脅かす事象を抑止する観点からの高性能AIの積極的な評価、国際的なAI脆弱性情報・インシデント情報等の収集・共有、国際的な規格や標準の策定等を一体的に進める。

自治体AIヤマトくんの開発者・記事の著者の解説

前半は「責任あるアジャイル・ガバナンス」の中身です。原文は、技術の進歩とリスクが深まるスピードを考えると、「信頼できるAI」は政府が制度を運用するだけでは実現できないとはっきり書いています。情報や知見を集め、いろいろな立場の人や組織が連携してリスクに向き合う必要がある、ということです。

そのための方法が、次の3つの対応を統合的に進めることです。

対応 中身 身近なたとえ(自転車の安全)
制度による対応 技術の進み具合に合わせて、制度等を能動的かつ継続的に見直す 交通ルールを、新しい乗り物が出るたびに見直す
技術による対応 AIモデルの設計に制御機能等を組み込む技術標準や、それに基づく技術評価 ブレーキやライトを最初から自転車に組み込み、検査する
組織管理による対応 技術動向やリスク事案を絶えず把握し、組織全体でリテラシーを向上 学校や会社でみんなが安全講習を受け、最新の事故例を共有する

どれか一つだけでは足りません。ルールがあっても車体に欠陥があれば危ないし、車体が安全でも乗る人が知識を持っていなければ事故は起きます。3つをそろえて、AIエコシステム(AIを作る人・使う人・支える仕組み全体)の「信頼」を作る、というのがこの節の考え方です。

後半はAISI(AIセーフティ・インスティテュート)の「更なる強化」です。AISIはAIモデルの安全性を技術的に評価する機関で、原文では次の4つを一体的に進めるとしています。

  1. エージェント型AIを含むAIの利活用・開発時の安全性やセキュリティを担保するガイドラインの策定
  2. 国家の安全を脅かす事象を抑止する観点からの高性能AIの積極的な評価
  3. 国際的なAI脆弱性情報・インシデント情報等の収集・共有
  4. 国際的な規格や標準の策定

インシデントとは、事故やトラブル、または事故になりかけた出来事のことです。各国で起きたAIのトラブル情報を集めて共有すれば、同じ失敗を防ぎやすくなります。

ポイント

  • 「信頼できるAI」は政府が制度を運用するだけでは実現できず、情報や知見を集約し、様々な主体が連携して多様なリスクに向き合う必要がある。
  • 「制度による対応」「技術による対応」「組織管理による対応」の3つを統合的に進め、AIエコシステムにおける「信頼」を構築する。
  • AISIは、安全性・セキュリティのガイドライン策定、高性能AIの積極的な評価、国際的なAI脆弱性情報・インシデント情報等の収集・共有、国際的な規格・標準の策定を一体的に進める。

よくある疑問

Qなぜ政府だけでは「信頼できるAI」を実現できないのですか?

A

原文は、技術進歩とリスクの深化のスピードを理由に挙げています。変化が速いため、政府が制度を運用するだけでは追いつかず、情報や知見を集め、様々な主体が連携して向き合う必要があるとしています。

5-4広島AIプロセスと高性能AIの国際ルールづくり#

Q広島AIプロセスとは何ですか?日本はAIの国際ルールづくりで何をするのですか?

答え:日本はAIガバナンスに関する国際的枠組み「広島AIプロセス」を主導してきた。安全・安心で「信頼できるAI」を、我が国発で世界とともに構築するとしている。高性能AIがもたらす複雑かつ深刻化するリスクが世界各国で懸念される中、日本は各国と連携し、高性能AIのガバナンスに関する国際的な議論を主導する。

原文 人工知能基本計画 (p.14〜15)

AIガバナンスに関する国際的枠組み「広島AIプロセス」を主導してきた日本として、今世界が求めている、安全・安心で「信頼できるAI」を我が国発で世界とともに構築する。特に高性能AIにより国際社会にもたらされる複雑かつ深刻化するリスクが世界各国で懸念される中で、日本として各国と連携し、高性能AIのガバナンスに関する国際的な議論を主導していく。

自治体AIヤマトくんの開発者・記事の著者の解説

AIはインターネットを通じて国境をこえて使われます。ある国だけが安全のルールを作っても、別の国で作られた危ないAIが入ってくれば効果は限られます。だからAIガバナンスには国際的な協力が欠かせません。

原文は、日本がAIガバナンスに関する国際的枠組み「広島AIプロセス」を主導してきたと書いています。広島AIプロセスは、日本が議長国を務めた2023年のG7広島サミットをきっかけに始まった、生成AIなどのルールづくりについて話し合う国際的な取組です。

この節で計画が掲げる目標は2つです。

  • 今世界が求めている、安全・安心で「信頼できるAI」を、我が国発で世界とともに構築する。
  • 高性能AIによって国際社会にもたらされる、複雑で深刻化するリスクが各国で懸念される中、日本として各国と連携し、高性能AIのガバナンスに関する国際的な議論を主導する。

ここでいう「高性能AI」とは、とても高い能力を持つ最先端のAIのことです。能力が高いほど役に立つ一方で、悪用されたときの被害も大きくなります。だからこそ、一国ではなく世界で話し合う必要がある、というわけです。

「我が国発」「主導」という言葉がくり返されているのが、この節の特徴です。日本はAIのルールづくりについて、他国が作ったルールに従うだけでなく、自分たちから提案していく立場を目指していることが読み取れます。

ポイント

  • 日本はAIガバナンスに関する国際的枠組み「広島AIプロセス」を主導してきた。
  • 安全・安心で「信頼できるAI」を、我が国発で世界とともに構築するとしている。
  • 高性能AIがもたらす複雑かつ深刻化するリスクが世界各国で懸念される中、日本は各国と連携し、高性能AIのガバナンスに関する国際的な議論を主導する。

よくある疑問

Q広島AIプロセスはこれで終わりですか?

A

原文は、「広島AIプロセス」の発展・拡充を含めて国際協調を引き続き図るとしています(5-5)。具体的な取組でも、広島AIプロセスフレンズグループの活用や広島AIプロセスの推進が挙げられています(5-9)。最新の動きは総務省・外務省などの公表資料で確認してください。

5-5グローバルサウスとの共創と国際協調 ― 日本が「結節点」になる#

QグローバルサウスとのAI協力とは何ですか?AIの相互運用性はなぜ大事なのですか?

答え:日本の「信頼できるAI」を世界の課題解決にも適用し、世界の国々が自律的にAIエコシステムを構築することを促進する。多様な言語・文化を反映したAIモデル、人材育成、制度整備やガバナンス、インフラ整備等で協力し、同志国等やグローバルサウス諸国と信頼できるAIエコシステムを共創する。多様なAIモデル間の相互運用性を重視し、その技術標準形成を主導して、日本が世界のAIイノベーションの結節点となることを目指す。

原文 人工知能基本計画 (p.15)

我が国の課題を解決する「信頼できるAI」を世界の課題解決にも適用しながら、世界の国々が自律的にAIエコシステムを構築することを促進する。多様な言語・文化を反映したAIモデル、人材育成や能力構築、制度整備やガバナンス、それらを支えるインフラ整備等への協力を推進する。同志国等やグローバルサウス諸国との連携を強化し、信頼できるAIエコシステムを共創していく。開発主体や用途、設計思想等が異なる多様なAIモデル間の相互運用性の確保を重視し、そのための技術標準形成も主導することで、日本が世界のAIイノベーションの結節点となる。

「広島AIプロセス」の発展・拡充を含めて、AIガバナンスの構築において国際協調を引き続き図る。国連等のマルチの場におけるAIガバナンスでの議論にも積極的に関与し、多国間協力を推進し、ルール形成や国際標準化を主導する。「信頼できるAI」の共創に向けた国際的な協調・協力モデルの形成を我が国がリードすべく、各国・地域の関係主体が対話と協働を深める場の創出に、同志国等と協力しながら取り組む。

自治体AIヤマトくんの開発者・記事の著者の解説

この節では、日本のAI外交の方向が2つの段落で示されています。

1つ目の段落:世界の国々と「共創」する

「我が国の課題を解決する『信頼できるAI』を世界の課題解決にも適用」するとあります。日本が自分たちの課題(人手不足や高齢化など)のために作ったAIを、世界の課題にも役立てようという考え方です。そのうえで、世界の国々が自律的にAIエコシステムを作れるよう、次の分野で協力するとしています。

  • 多様な言語・文化を反映したAIモデル
  • 人材育成や能力構築
  • 制度整備やガバナンス
  • それらを支えるインフラ整備

協力相手として挙がっているのが「同志国等」と「グローバルサウス諸国」です。グローバルサウスとは、主に南半球を中心とした新興国・途上国のことです。日本が一方的に「教える」のではなく、相手の国が自分の力でAIを育てられるように一緒に作る(共創)という言葉が使われているのがポイントです。

さらに「相互運用性」という言葉が出てきます。開発した国や会社、用途や設計の考え方が違うAIどうしでも、うまくつながって一緒に動けることです。スマートフォンの充電端子がそろっていると、どの会社の充電器でも使えるのと似ています。日本はそのための技術標準づくりを主導し、「世界のAIイノベーションの結節点」(いろいろな国やAIをつなぐ結び目)になることを目指しています。

2つ目の段落:国際協調とルール形成

広島AIプロセスの発展・拡充、国連等のマルチの場(多くの国が参加する場)での議論への積極的な関与、多国間協力、ルール形成や国際標準化の主導が書かれています。さらに、各国・地域の関係者が対話と協働を深める場の創出に同志国等と取り組むとしています。具体的な取組(2)⑦の「AIサミットの日本開催」(5-9)につながる部分です。

ポイント

  • 日本の「信頼できるAI」を世界の課題解決にも適用し、世界の国々が自律的にAIエコシステムを構築することを促進する。
  • 多様な言語・文化を反映したAIモデル、人材育成、制度整備やガバナンス、インフラ整備等で協力し、同志国等やグローバルサウス諸国と信頼できるAIエコシステムを共創する。
  • 多様なAIモデル間の相互運用性を重視し、その技術標準形成を主導して、日本が世界のAIイノベーションの結節点となることを目指す。
  • 国連等のマルチの場にも積極的に関与し、ルール形成や国際標準化を主導する。

よくある疑問

Qなぜ「多様な言語・文化を反映したAIモデル」が必要なのですか?

A

原文は理由を詳しく書いていませんが、世界の国々が自律的にAIエコシステムを構築することを促すための協力分野の一つとして挙げています。一般に、ある言語や文化を中心に学習したAIは、別の言語や習慣にうまく対応できないことがあるため、それぞれの地域に合ったAIが求められます。

5-6具体策(1)①〜③ AI法の見直し・行政のAIエージェントのルール・情報の集約#

QAI法第16条に基づく調査研究とは何ですか?行政がAIエージェントを導入するルールはどうなりますか?

答え:AI法第16条に基づく調査研究等をより機動的に運用し、AI法を含めた制度等を能動的かつ不断に見直す(◎内閣府)。行政がAIエージェントを導入する際のルール作りを進め、国民の権利保護や透明性・公正性を確保するため、行政事務でのAI利活用時の留意点や権利侵害に関する法的整理を含むガイドライン等を整備する。人工知能戦略本部に技術動向・リスク事案・国際情報・評価知見等を集約し、各府省庁の制度や指針の自主的な点検・見直しを促す仕組みを構築する。

原文 人工知能基本計画 (p.15)

【具体的な取組】

(1) 責任あるアジャイル・ガバナンスの実現

①AI法第 16 条に基づく調査研究等をより機動的に運用するなど、リスクへの対応等を引き続き適切に行う。また、高性能AIの登場などの技術進歩により複雑化かつ深刻化するリスクへの対応等をより実効的に行うため、AI法を含めた制度等を能動的かつ不断に見直す。【◎内閣府、関係省庁】

②行政がAIエージェントを導入する際のルール作りを進めるとともに、国民の権利保護や透明性・公正性を確保するため、行政事務におけるAI利活用時の留意点等を整理するほか、広くAI利活用に伴う権利侵害に関する法的整理なども含め各種ガイドライン等を整備し、事業者等によるAIの研究及び開発・利活用における適正性の確保に向けた自主的な取組を促すとともに、適切な利活用の推進と関係者への周知徹底を図る。【◎内閣府、デジタル庁、総務省、経済産業省、関係省庁】

③各府省庁、関係機関、国際的な枠組み、民間等と密に連携し、人工知能戦略本部に、AIに関連する技術動向、リスク事案、国際情報、評価知見等を集約する。こうした情報を踏まえた上で、AI法を含めたAIに関連する制度や指針等の各府省庁における自主的な点検・見直しを促す仕組みを構築する。【◎内閣府、関係省庁】

自治体AIヤマトくんの開発者・記事の著者の解説

ここからが【具体的な取組】です。(1)「責任あるアジャイル・ガバナンスの実現」には10個の施策があります。まず①〜③を表で整理します。

施策 ひと言でいうと 主な担当(◎)
① AI法第16条に基づく調査研究等を機動的に運用し、AI法を含めた制度等を能動的かつ不断に見直す 内閣府
② 行政がAIエージェントを導入する際のルールづくり、行政事務でAIを使うときの留意点、権利侵害に関する法的整理などのガイドライン整備と周知 内閣府(デジタル庁・総務省・経済産業省ほか)
③ 技術動向・リスク事案・国際情報・評価知見を人工知能戦略本部に集約し、各府省庁が制度や指針を自主的に点検・見直す仕組みを作る 内閣府

① は、AI法そのものも「作って終わり」にしないという宣言です。高性能AIなどの技術進歩でリスクが複雑化・深刻化することを踏まえ、AI法を含めて制度を見直し続けるとしています。第16条に基づく調査研究の詳しい中身は原文に書かれていないので、内閣府の公表資料で確認してください。

② は、行政にとって特に重要です。役所がAIエージェント(自分で仕事を進めるAI)を使うようになると、「AIが出した結果で住民への対応が決まってしまわないか」「判断の理由を説明できるか」といった心配が出てきます。そこで、国民の権利保護と透明性・公正性を守るためのルールや留意点を整理するとしています。また、行政に限らず、AIを使うことで人の権利が侵害される場合の法的整理も進めるとしています。

私は自治体向けのAIを開発していますが、自治体の現場でも「どこまでAIに任せてよいか」「住民にどう説明するか」はいつも議論になります。国がルールや留意点を整理することは、現場が安心してAIを使う手がかりになります。

③ は、情報の「司令塔」を作る施策です。いろいろな省庁や国際機関、民間からAIの最新情報やトラブル事例を人工知能戦略本部に集める。それをもとに、各省庁が自分の担当する制度や指針を自主的に点検・見直すように促す仕組みを作ります。

ポイント

  • AI法第16条に基づく調査研究等をより機動的に運用し、AI法を含めた制度等を能動的かつ不断に見直す(◎内閣府)。
  • 行政がAIエージェントを導入する際のルール作りを進め、国民の権利保護や透明性・公正性を確保するため、行政事務でのAI利活用時の留意点や権利侵害に関する法的整理を含むガイドライン等を整備する。
  • 人工知能戦略本部に技術動向・リスク事案・国際情報・評価知見等を集約し、各府省庁の制度や指針の自主的な点検・見直しを促す仕組みを構築する。

よくある疑問

Q役所はAIエージェントを使ってよいのですか?

A

原文は、行政がAIエージェントを導入する際のルール作りを進めるとしています。導入を前提に、国民の権利保護や透明性・公正性を確保するためのルールや留意点を整理する、という書き方です。具体的なルールの内容は、今後公表される資料で確認してください。

5-7具体策(1)④〜⑥ AIを悪用したサイバー攻撃・犯罪への対応と「Project YATA-Shield」#

QProject YATA-Shieldとは何ですか?AIを悪用したサイバー攻撃や詐欺に国はどう対応しますか?

答え:AI関連のサイバー事案の対処能力を向上させ、AIを悪用したサイバー攻撃、詐欺を始めとする各種犯罪、CBRNEテロを始めとする各種テロ等への対応を図る(◎警察庁)。サイバーセキュリティ対策パッケージ「Project YATA-Shield」に基づき、重要インフラ事業者等への注意喚起、金融分野等での先行的取組と他分野への展開、人材育成支援、高性能AIを活用した政府の重要システムの脆弱性点検などを進める(◎内閣官房)。高性能AIを活用した取組の強化も含め、サイバー対処能力を不断に強化する(◎内閣官房)。

原文 人工知能基本計画 (p.15〜16)

④AI関連のサイバー事案の対処能力の向上など、AIを悪用したサイバー攻撃、詐欺を始めとする各種の犯罪、CBRNEテロを始めとする各種テロ等への対応を図る。【内閣官房、◎警察庁、総務省】

⑤AI性能が高度化することでAIを悪用したサイバー攻撃の危険性が高まる中においても、我が国のサイバーセキュリティが確保されるよう、サイバーセキュリティ対策パッケージ「Project YATA-Shield」に基づき、重要インフラ事業者等への対策強化に係る注意喚起や金融分野等での先行的な取組の実施及び他分野への展開、人材育成支援に取り組むとともに、高性能AIを活用した政府全体の重要システムの脆弱性点検を進める。また、外国政府機関やAI開発事業者等との更なる連携、ソフトウェア・ベンダへの高性能AIも活用した脆弱性の早期発見・対応に係る注意喚起、AISIによるAIモデルのサイバーセキュリティ性能に係る情報の収集や評価の実施、技術開発を通じた脆弱性の発見・修正等のAI技術の高度化を進める。【◎内閣官房、内閣府、警察庁、金融庁、デジタル庁、総務省、外務省、文部科学省、厚生労働省、経済産業省、国土交通省、防衛省】

⑥高性能AIがもたらす潜在的な機会と深刻なリスクへの対応のため、高性能AIを活用した取組の強化も含めサイバー対処能力を不断に強化する。【◎内閣官房、関係省庁】

自治体AIヤマトくんの開発者・記事の著者の解説

④〜⑥は、AIを悪用したサイバー攻撃・犯罪・テロへの備えです。

施策 ひと言でいうと 主な担当(◎)
④ AI関連のサイバー事案への対処能力を上げ、AIを悪用したサイバー攻撃、詐欺などの犯罪、CBRNEテロなどのテロに対応する 警察庁
⑤ サイバーセキュリティ対策パッケージ「Project YATA-Shield」で、重要インフラ等の対策強化や政府システムの脆弱性点検を進める 内閣官房(ほか多数の省庁)
⑥ 高性能AIの活用も含め、サイバー対処能力を不断に強化する 内閣官房

④ に「詐欺を始めとする各種の犯罪」とあります。たとえば、AIで家族や知人の声をまねた電話でお金をだまし取る、といった手口が心配されています。家族で「お金の話が出たら、一度電話を切って本人にかけ直す」などの約束をしておくことも、身近な対策になります。CBRNE(シーバーン)は、化学(Chemical)・生物(Biological)・放射性物質(Radiological)・核(Nuclear)・爆発物(Explosive)の頭文字です。AIがこうした危険な物の情報入手などに悪用されることへの備えも含まれています。

⑤ の「Project YATA-Shield」は、AI性能の高度化で、AIを悪用したサイバー攻撃の危険性が高まる中でも日本のサイバーセキュリティを確保するための対策パッケージです。原文に書かれている中身を整理すると、次のとおりです。

  • 重要インフラ事業者等への対策強化に係る注意喚起
  • 金融分野等での先行的な取組と、他分野への展開
  • 人材育成支援
  • 高性能AIを活用した、政府全体の重要システムの脆弱性点検
  • 外国政府機関やAI開発事業者等との連携
  • ソフトウェア・ベンダへの、高性能AIも活用した脆弱性の早期発見・対応に係る注意喚起
  • AISIによる、AIモデルのサイバーセキュリティ性能に関する情報収集と評価
  • 技術開発による脆弱性の発見・修正などのAI技術の高度化

5-2で見たように、攻撃する側がAIで弱点を見つけるなら、守る側も高性能AIで先に弱点を見つけて直す。これが⑤と⑥に共通する考え方です。担当に12の府省庁が並んでいることからも、政府全体の取組であることがわかります。

ポイント

  • AI関連のサイバー事案の対処能力を向上させ、AIを悪用したサイバー攻撃、詐欺を始めとする各種犯罪、CBRNEテロを始めとする各種テロ等への対応を図る(◎警察庁)。
  • サイバーセキュリティ対策パッケージ「Project YATA-Shield」に基づき、重要インフラ事業者等への注意喚起、金融分野等での先行的取組と他分野への展開、人材育成支援、高性能AIを活用した政府の重要システムの脆弱性点検などを進める(◎内閣官房)。
  • 高性能AIを活用した取組の強化も含め、サイバー対処能力を不断に強化する(◎内閣官房)。

よくある疑問

QProject YATA-Shieldの予算や開始時期は?

A

原文には、Project YATA-Shieldの予算額や開始時期は書かれていません。本計画では、AIを悪用したサイバー攻撃の危険性が高まる中で我が国のサイバーセキュリティを確保するための対策パッケージとして位置付けられています。詳細は内閣官房などの公表資料で確認してください。

5-8具体策(1)⑦〜⑩ AISIの強化・偽情報対策・青少年保護・相談窓口#

QAIの偽情報やディープフェイクの対策は?AIで被害を受けたらどこに相談できますか?

答え:AISIを中心に、AIモデルの評価、トレーサビリティ、ガードレール等の技術的制御、危機時の情報共有を可能とする技術的評価能力を確立し、AISIの機能を抜本的に強化する(人員増強・評価環境整備・評価結果を制度へ接続)。生成AIを悪用した偽・誤情報への対応として、AI生成コンテンツを判別する技術(電子透かし、事後的な真偽判別支援技術など)やAIの制御機能等の開発を支援する(◎総務省)。青少年が引き続き安全・安心にAIを利活用できるよう、技術進展を踏まえ必要に応じて対策を講ずる(◎こども家庭庁)。

原文 人工知能基本計画 (p.16)

⑦AISIを中心として、AIモデルの評価、トレーサビリティ、ガードレール等の技術的制御、危機時の情報共有などを可能とする技術的評価能力の確立と強化を図る。その中核として、AISIの機能を抜本的に強化する。政府を挙げて技術的専門性を有する人材採用の推進等により人員増強を図り、AI評価環境の整備に係る体制等の整備を推進する。また、評価結果が制度、指針及び関係府省庁の運用改善に適切に接続される仕組みを整備する。【◎内閣府、総務省、経済産業省、関係省庁】

⑧生成AIを悪用した偽・誤情報等への対応について、日本のAI評価機能向上にも資する、AI生成コンテンツを判別する技術、AIの制御機能等注6の開発を支援する。【◎総務省、文部科学省、経済産業省】

⑨青少年が引き続き安全・安心にAIを利活用できるよう、AIの技術進展等を踏まえつつ、必要に応じて対策等を講ずる。【内閣府、警察庁、◎こども家庭庁、総務省、法務省、文部科学省、経済産業省】

⑩国民がAIに関わる被害を受けた際に、適切なアドバイス等を受けることができるよう、公的な相談窓口を拡充するとともに、事業者が自ら苦情受付体制の整備を適切に行うための施策を講ずる。【◎内閣府、消費者庁、関係省庁】

脚注

注6AI生成コンテンツを判別する技術等として、例えば、AIを利用して生成されたコンテンツに対する電子透かしや事後的な真偽判別支援技術などがある。

自治体AIヤマトくんの開発者・記事の著者の解説

(1)の後半は、AIの安全性を「はかる」仕組みと、私たち一人ひとりを「守る」仕組みです。

施策 ひと言でいうと 主な担当(◎)
⑦ AISIの機能を抜本的に強化し、AIモデルの評価・トレーサビリティ・ガードレール等の技術的評価能力を確立。人員を増やし、評価結果を制度に接続 内閣府
⑧ 生成AIを悪用した偽・誤情報への対応として、AI生成コンテンツを判別する技術やAIの制御機能等の開発を支援 総務省
⑨ 青少年が引き続き安全・安心にAIを使えるよう、必要に応じて対策を講ずる こども家庭庁
⑩ AIに関わる被害を受けた国民のための公的な相談窓口を拡充し、事業者の苦情受付体制の整備も促す 内閣府

⑦ AISIの抜本的強化:AISIを中心に、次のことができる力をつけるとしています。

  • AIモデルの評価:AIがどのくらい安全か、テストする
  • トレーサビリティ:AIの作られ方やデータ、動作の記録をあとからたどれるようにする
  • ガードレール等の技術的制御:道路のガードレールのように、AIが危ない回答や行動をしないよう防ぐ仕組み
  • 危機時の情報共有

そのために専門人材の採用で人員を増強し、評価結果が制度や指針、各府省庁の運用改善にきちんとつながる仕組みも作るとしています。

⑧ 偽・誤情報とディープフェイク対策:生成AIで作られた偽の画像・動画・文章は、見た目では本物と見分けにくくなっています。原文の注6では、AI生成コンテンツを判別する技術の例として、電子透かし(AIで作ったコンテンツに目に見えない「しるし」を入れる技術)や、事後的な真偽判別支援技術(あとから本物か偽物かを見分けるのを助ける技術)が挙げられています。国はこうした技術やAIの制御機能等の開発を支援します。

⑨ 青少年の保護:主な担当はこども家庭庁で、警察庁・文部科学省など7府省庁が並びます。「引き続き」とあるので、これまでの取組を土台に、AIの技術進展を踏まえて必要に応じて対策を講ずるという書き方です。具体的な対策の中身は原文には書かれていません。保護者の方は、こども家庭庁などの公表資料に注目しておくとよいでしょう。

⑩ 相談窓口:AIに関わる被害を受けたとき、適切なアドバイス等を受けられる公的な相談窓口を拡充するとしています。たとえば、ディープフェイクで自分の写真を悪用された、AIを使った詐欺にあった、といった場面が考えられます。あわせて、AIサービスを提供する事業者自身が苦情受付体制を整えるための施策も講じます。担当には消費者庁も入っています。現時点での具体的な窓口名は原文に書かれていないので、困ったときはまず内閣府・消費者庁などの案内を確認してください。

ポイント

  • AISIを中心に、AIモデルの評価、トレーサビリティ、ガードレール等の技術的制御、危機時の情報共有を可能とする技術的評価能力を確立し、AISIの機能を抜本的に強化する(人員増強・評価環境整備・評価結果を制度へ接続)。
  • 生成AIを悪用した偽・誤情報への対応として、AI生成コンテンツを判別する技術(電子透かし、事後的な真偽判別支援技術など)やAIの制御機能等の開発を支援する(◎総務省)。
  • 青少年が引き続き安全・安心にAIを利活用できるよう、技術進展を踏まえ必要に応じて対策を講ずる(◎こども家庭庁)。
  • AIに関わる被害を受けた国民が適切なアドバイスを受けられるよう公的な相談窓口を拡充し、事業者の苦情受付体制の整備を促す(◎内閣府、消費者庁)。

よくある疑問

Q自分の顔写真がディープフェイクに使われたら、どこに相談すればいいですか?

A

本計画は、AIに関わる被害を受けた国民が適切なアドバイス等を受けられるよう、公的な相談窓口を拡充するとしています(担当は◎内閣府、消費者庁、関係省庁)。ただし、具体的な窓口の名前や連絡先は原文には書かれていません。最新の窓口は内閣府や消費者庁の公表資料で確認し、被害が深刻な場合は警察にも相談してください。

QAISIの「ガードレール」とは何ですか?

A

AIが危険な回答や行動をしないように、あらかじめ設けておく安全の仕組みのことです。原文では、トレーサビリティなどと並ぶ「技術的制御」の例として挙げられ、AISIがこうした技術的評価能力を確立・強化するとしています。

5-9具体策(2)ASEAN等グローバルサウスを含めた国際協調 ― AIサミットの日本開催#

QAIの国際協調で日本は何をしますか?AIサミットは日本で開かれるのですか?

答え:広島AIプロセスフレンズグループや外交機会を活用し、ASEAN等グローバルサウス諸国等との連携を強化する(◎総務省)。ISO/IEC JTC1でのAI分野の国際標準化活動に参画し、米国CAISI・英国AISI等とのAISI国際ネットワークや広島AIプロセスの推進でAIガバナンスの構築を主導する。軍事領域でのAI利用について、人道的考慮と安全保障の双方を勘案したバランスの取れた議論を通じて国際的な議論に積極的に参画する(◎外務省、防衛省)。

原文 人工知能基本計画 (p.16〜17)

(2) ASEAN等グローバルサウス諸国を含めた国際協調

①広島AIプロセスフレンズグループや外交機会を積極的に活用し、技術動向を踏まえたAIガバナンスの在り方の検討を行うとともに、ASEAN等グローバルサウス諸国等との連携を強化する。【◎総務省、外務省、経済産業省】

②AI関連の国際規格策定に向けて、ISO/IECJTC1注7におけるAI分野の国際標準化活動への参画等を行う。【経済産業省】

③米国 CAISI、英国 AISI 等とAI評価やAIに関する標準化等に関して意見交換を推進するなどのAISI国際ネットワークや、広島AIプロセスの推進といった国際的な枠組みの活用により、AIガバナンスの構築を主導する。【◎内閣府、総務省、外務省、経済産業省、関係省庁】

④軍事領域におけるAIの利用について、人道的考慮と安全保障の観点の双方を勘案したバランスの取れた議論を通じて、国際的な議論へ積極的な参画を行う。【◎外務省、防衛省】

⑤GPAI専門家コミュニティ東京センター等を活用し、プロジェクトベースでの支援を通じて、AIガバナンスや社会実装に関する具体的な課題解決を後押しする。【総務省】

⑥多様なAIエコシステムが信頼できる形で、各地で自立的に発展することを目指し、同志国等と連携し、グローバルサウス諸国と共創・協力モデルを構築するとともに、グローバルサウス諸国を含む海外市場へのAI産業展開を支援する。【内閣府、デジタル庁、総務省、◎外務省、文部科学省、経済産業省】

⑦信頼できるAIエコシステムを世界とともに共創するため、AIサミットを早期に日本で開催し、我が国としてAIでの国際的な協調・協力モデルを主導する。【◎内閣府、外務省、関係省庁】

脚注

注7JTC1とは、ISO(国際標準化機構)とIEC(国際電気標準会議)の合同技術委員会のこと。

自治体AIヤマトくんの開発者・記事の著者の解説

(2)は国際協調の7つの施策です。総論(5-4・5-5)で書かれた方向を、具体的な行動に落としています。

施策 ひと言でいうと 主な担当(◎)
① 広島AIプロセスフレンズグループや外交の機会を使い、ASEAN等グローバルサウス諸国等との連携を強化 総務省
② ISO/IEC JTC1でのAI分野の国際標準化活動に参画 経済産業省
③ 米国CAISI、英国AISIなどとの意見交換(AISI国際ネットワーク)や広島AIプロセスの推進で、AIガバナンスの構築を主導 内閣府
④ 軍事領域のAI利用について、人道的考慮と安全保障のバランスの取れた国際的な議論に参画 外務省
⑤ GPAI専門家コミュニティ東京センター等を通じ、プロジェクト単位でAIガバナンスや社会実装の課題解決を後押し 総務省
⑥ 同志国等と連携し、グローバルサウス諸国と共創・協力モデルを作り、AI産業の海外展開を支援 外務省
⑦ AIサミットを早期に日本で開催し、国際的な協調・協力モデルを主導 内閣府

いくつか言葉を補足します。

  • ASEAN(アセアン):東南アジア諸国連合。タイ、ベトナム、インドネシアなど東南アジアの国々の集まりです。
  • 広島AIプロセスフレンズグループ:広島AIプロセスの考え方に賛同する国々のグループです。
  • ISO/IEC JTC1:原文の注7によると、ISO(国際標準化機構)とIEC(国際電気標準会議)の合同技術委員会のことです。ここで決まった国際規格は世界中の製品やサービスの「共通ルール」になるので、日本が参加して意見を出すことが大切です。
  • 米国CAISI、英国AISI:日本のAISIと同じように、AIの安全性評価などを担う各国の機関です。
  • GPAI:AIに関する国際的な協力の枠組みで、東京には専門家コミュニティの拠点(東京センター)があります。

④の軍事領域のAIは、高校生にとっても考えさせられるテーマです。AIを兵器や防衛にどう使うかについて、原文は「人道的考慮と安全保障の観点の双方を勘案したバランスの取れた議論」を通じて国際的な議論に参画するとしています。人の命や尊厳を守る視点と、国を守る視点の両方を大切にする、という姿勢です。

⑦のAIサミットは、AIについて各国の首脳や関係者が集まって話し合う国際会議です。原文は「早期に日本で開催」としていますが、具体的な時期は書かれていません。

ポイント

  • 広島AIプロセスフレンズグループや外交機会を活用し、ASEAN等グローバルサウス諸国等との連携を強化する(◎総務省)。
  • ISO/IEC JTC1でのAI分野の国際標準化活動に参画し、米国CAISI・英国AISI等とのAISI国際ネットワークや広島AIプロセスの推進でAIガバナンスの構築を主導する。
  • 軍事領域でのAI利用について、人道的考慮と安全保障の双方を勘案したバランスの取れた議論を通じて国際的な議論に積極的に参画する(◎外務省、防衛省)。
  • 信頼できるAIエコシステムを世界とともに共創するため、AIサミットを早期に日本で開催する(◎内閣府)。

よくある疑問

QAIサミットはいつ日本で開かれますか?

A

原文は「AIサミットを早期に日本で開催」と書いていますが、具体的な開催時期や場所は書かれていません。最新情報は内閣府や外務省の公表資料で確認してください。

Q「グローバルサウス」との協力で、日本の企業にも関係がありますか?

A

施策⑥では、グローバルサウス諸国と共創・協力モデルを構築するとともに、グローバルサウス諸国を含む海外市場へのAI産業展開を支援するとしています。日本のAI関連企業の海外展開を後押しする内容も含まれています。

出典・参考資料

  • 内閣府「人工知能基本計画」(令和8年7月14日閣議決定)本文 p.14〜17: https://www8.cao.go.jp/cstp/ai/ai_plan/aiplan_20260714.pdf
  • 本文中の「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」は、令和7年12月19日に人工知能戦略本部で決定されたものです。
  • 脚注6(AI生成コンテンツを判別する技術の例)・脚注7(JTC1の説明)は、原文ブロック内の脚注で確認できます。

出典:「人工知能基本計画」(令和8年7月14日閣議決定)(内閣府ホームページ)(https://www8.cao.go.jp/cstp/ai/ai_plan/aiplan_20260714.pdf)を加工して作成。「原文」欄は原文のまま掲載し(改行・脚注の位置のみ読みやすく整理。PDFの文字データの誤りで「平成」が「成成」となっていた2か所は「平成」に修正)、見出し・解説・ポイント・Q&Aは村井宗明/日本DX応援団が作成しました。

↑