飯田 正仁
先進技術センター



※1:「AIの暴走?人間の暴走? AIエージェント~汎用AI(AGI)時代のリスク管理」(生成AIコラム 三菱総研が推進するDX事業 2025年10月16日)
※2:Hammond, et al. "Multi-Agent Risks from Advanced AI", Cooperative AI Foundation, Technical Report #1. arXiv:2502.14143, 2025.
https://doi.org/10.48550/arXiv.2502.14143(閲覧日:2026年2月18日)
※3:Emilio Calvano, et al. "Artificial Intelligence, Algorithmic Pricing, and Collusion", American Economic Review, 2020. 米連邦取引委員会(FTC)公開資料
https://www.ftc.gov/system/files/
※4:Mert Cemri, et al. "Why Do Multi-Agent LLM Systems Fail?" arXiv:2503.13657, 2025. (39th Conference on Neural Information Processing Systems (NeurIPS 2025) Track on Datasets and Benchmarks).
https://arxiv.org/abs/2503.13657(閲覧日:2026年2月18日)
※5:AI Incident Database "Incident 28: 2010 Market Flash Crash"
https://incidentdatabase.ai/cite/28/(閲覧日:2026年2月18日)
※6:Sumeet Ramesh Motwani, et al. “Secret Collusion among AI Agents: Multi-Agent Deception via Steganography”, Advances in Neural Information Processing Systems 37 (NeurIPS 2024).
https://proceedings.neurips.cc/
※7:Ryan Lin, et al. “Strategic Collusion of LLM Agents: Market Division in Multi-Commodity Competitions”, LangGame Workshop in the 38th Conference on Neural Information Processing Systems (NeurIPS 2024).
https://neurips.cc/virtual/
※8:ドイツの小売ガソリン市場を対象とした実証研究では、2017年頃に普及したアルゴリズム価格設定ソフトの導入が利幅上昇と関連し、複数社が導入する局面で競争が緩和され得ることが示唆された。
Stephanie Assad, et al. “Algorithmic Pricing and Competition: Empirical Evidence from the German Retail Gasoline Market”, CESifo Working Papers August 2020.
https://www.ifo.de/DocDL/
アメリカの司法省(DOJ)は、賃料設定ソフト提供企業RealPageを、競合する家主が非公開の賃料・条件などのデータを共有し、アルゴリズム推奨を通じて価格の上昇を招いたとして提訴している(2025年11月には、機微情報の共有停止やソフト機能の改修などを求める和解案が提案されている)。
DOJ Press Release, “Justice Department Requires RealPage to End the Sharing of Competitively Sensitive Information and Alignment of Pricing Among Competitors”, November 24, 2025
https://www.justice.gov/opa/
※9:AIの学習データや通信プロセスに悪意あるデータを混入させ、AIの挙動を意図的に狂わせる攻撃
※10:Webアプリやソフトウェアのセキュリティ向上を目的とした米国NPOのOWASP(Open Web Application Security Project)から、AIエージェントを用いたシステムやアプリケーションの脅威と対策が報告されている。
OWASP, "Agentic AI – Threats and Mitigations", February 17, 2025
https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/ (閲覧日:2026年2月18日)
OWASP, "Top 10 for Agentic Applications for 2026", December 9, 2025
https://genai.owasp.org/
※11:Nenad Tomasev, et al. "Virtual Agent Economies", 12 Sep 2025.
https://arxiv.org/abs/
※12:Google DeepMindからは、多数のAIエージェントからなるシステムに関して、市場設計/参加エージェントの安全性/監視・監督/規制・制度の4つのレイヤーでエージェントの暴走や誤作動、連鎖の拡大を防ぐことが提唱されている。
Nenad Tomašev, et al. "Distributional AGI Safety", 18 Dec 2025.
https://arxiv.org/abs/
※13:監督するメタAIエージェントそのものの信頼性や単一障害点化といった追加的リスクもあるため、独立した別の監視プロセスや定期的な検証などが必要になる。
※14:障害や不正等の発生時に、システムやデータを正常時点の状態へ戻す復旧対応。
※15:システム内で行われた操作や通信の記録(ログ)を、改ざんや消失が起きないよう安全に保存し続けること。
※16:ログ等の記録を保全したうえで、原因や影響範囲を解析する調査。
※17:例えば、多数のAIエージェントからなる環境で創発的に生じる振る舞いや指向性を対象とする「創発機械倫理(EME:Emergent Machine Ethics)」という研究分野がある。
※18:Yubin Kim, et al. "Towards a science of scaling agent systems: When and why agent systems work", January 28, 2026.
https://research.google/
※19:クラウドサービスでは、事業者とユーザーとの責任分担を明確化する「責任共有モデル」のような考え方がある。