コラム

シンクタンクの着眼点最先端技術

AIエージェントの、その先へ

タグから探す

2026年04月02日

先進技術センター飯田 正仁

シンクタンクの着眼点
日本のAI関係者の統一的な指針であるAI事業者ガイドライン(以下、ガイドライン)が改定され、2026年3月に第1.2版として公表された※1。改定の大きなポイントとして、「AIエージェント」※2と「フィジカルAI」※3という新たな技術の追記が挙げられる。

ガイドラインの初版(第1.0版)は、ChatGPT登場(2022年11月)から約1年半後の2024年4月に公開された。それから約2年、AIの進化は目覚ましく、AIの性能とリスクは新たな段階を迎えつつある。

AIの能力に関して、ChatGPTをはじめとする生成AIは、さまざまなタスクを処理できる「汎用性」に特徴があった。自然言語で指示できることもあり一大ブームを巻き起こし、企業だけでなく一般ユーザーまで活用が広がった。今回追記されたAIエージェントは、複雑な問題も自らタスクに分解して解決できる「自律性」に特徴がある。フィジカルAIは、実世界に直接働きかけることのできる「物理性」(ロボット化した場合は「身体性」)に特徴がある。生産性向上や労働力不足など、日本が抱える社会課題の解決に、この二つの技術の活用推進は不可欠だ。

実は、ガイドラインではAIエージェントの先にある技術にも言及がある。「エージェンティックAI」だ。ガイドラインでは、「AIエージェントよりも包括的かつ進化的な概念」であり、「複数のAIエージェントにより自律的に意思決定を下しアクションを起こす目標主導型のAIシステム」とされる。AIエージェントが個々の目標達成のために動く単体の実行主体だとすれば、エージェンティックAIは役割の異なる複数のAIエージェントが互いに連携し、より複雑な目標達成のため継続的に動くシステムである。必ずしも一つのAIが他のAIを管理する形態とは限らず、人が設計した目標やルールの下で、複数のAIが協調し、ときに交渉しながら動く点に特徴がある※4。個別のAIでは実現できなかった問題の解決など、AIのもつ潜在的な能力を飛躍的に向上させ、社会で大いに活用されるだろう。重要な役割をAIが担う場面も増える。AIが「集団性」を獲得する段階と言えるのではないか※5。
図表 AI事業者ガイドライン改定とAI進化の段階
AI事業者ガイドライン改定とAI進化の段階
三菱総合研究所作成
安全性に懸念のあるAIは活用されない。社会で活用されるためには、リスク対策が欠かせない。

今回改定されたガイドラインでは、新たなリスク類型として、人間の意図しない自律的動作、攻撃対象・手法の拡大、複雑な構成・機構による制御の困難化、悪意あるコード生成などが追加されている。AIの高度化に伴う人間の意図しない自律的動作は既に顕在化しており※6、現実のリスクとして対策すべき段階となった。今後、エージェンティックAIのように複数のAI間で生じるリスクも対策が求められるようになるだろう※7。

AI事業者ガイドラインは、「Living Document」として随時更新されている。AIに関する情報が日々溢れる中、公的な文書として、AIエージェントやフィジカルAI、エージェンティックAIなどAI進化のトレンド、網羅的なリスク対策を提示することは、限られたリソースで活動している事業者にとって有益な情報源となる。

たとえば今回のガイドラインでは、リスク対策として「人間の判断の介在」(Human-in-the-Loop)が強調されている。AIの自律性が高まるなかで、人間による監督や介入の設計が実務上いっそう重要になっていることを示したものだ。Human-in-the-Loopのような対策も、自社のビジネスやサービスに合わせて手順を具体化させることで効果が発現する。事業者はまず、ガイドラインの内容やガイドラインに付随するチェックリストを参考に、現状のリスク対策に不備がないか確認したい。その際、AIを提供する側は介入のポイントを、AIを利用する側は利用範囲と異常時の判断ルールを、経営層は高リスク領域の優先順位を明確にしておくと、対策を具体化しやすい。全方位の対策は困難であるため、リスクが高い領域から重点的に対策する「リスクベースアプローチ」※8の視点も重要だ。

AIは日進月歩の技術である。リスク対策も一度整備して終わりではない。業界の慣習やルール、業界ガイドライン※9とも整合を取りながら、自社の運用を継続的に見直し、具体的なリスク対策につなげる仕組みを構築していく必要がある。

※1:総務省 「AI事業者ガイドライン」掲載ページ(閲覧日:2026年3月31日)
https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html
経済産業省 AI事業者ガイドライン検討会(閲覧日:2026年3月31日)
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html

※2:「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」

※3:「センサ等によるセンシングを通じて物理環境の情報を取り込み、AIモデルによる処理を経て、設定された目的を達成するための最適な方策を自律的に推論・判断し、アクチュエータ(駆動系)等を介して物理的な行動へとつなげるシステム」

※4:AIエージェントとエージェンティックAIの違いを分析したOECDのレポート(2026年2月)がある。両者は基礎的な特性を共有する一方で、エージェンティックAIは複数エージェントの協調、タスクの分解や委任、長期的な運用に重点を置き、より複雑で予測困難な環境において限定的な人間の監督下で自律的に機能するシステムであると整理されている。また、エージェンティックAIは単なる技術ツールとしてではなく、社会的な文脈の中で相互作用する「社会・技術的パラダイム(socio-technical paradigm)」として捉える視点の重要性も強調されている。
OECD Artificial Intelligence Papers, The agentic AI landscape and its conceptual foundations, 13 February 2026(閲覧日:2026年3月31日)
https://www.oecd.org/en/publications/the-agentic-ai-landscape-and-its-conceptual-foundations_396cf758-en.html

※5:Google DeepMindの研究者からは、人間レベルの知能をもつとされる汎用人工知能(AGI:Artificial General Intelligence)についても、個々の能力は限定的な「サブAGI(AGI未満)エージェント」が互いに協力し合うことで人間レベルの知的タスクをこなす集団的知性の形態で実現される可能性が提示されている、(「パッチワーク型AGI仮説」)。
Nenad Tomašev, Matija Franklin, Julian Jacobs, Sébastien Krier, Simon Osindero, Distributional AGI Safety, 18 Dec 2025(閲覧日:2026年3月31日)
https://arxiv.org/abs/2512.16856

※6:AIの暴走?人間の暴走? AIエージェント~汎用AI(AGI)時代のリスク管理(生成AIコラム 三菱総研が推進するDX事業 2025年10月16日)

※7:A2A経済がもたらす新たなリスクの本質(MRIオピニオン 2026年4月号 インサイト2)

※8:リスクの大きさに応じてリスク対策の程度を対応させるアプローチのこと。

※9:金融やヘルスケアなどの業界では、独自のガイドラインが整備されている。