飯田 正仁
生成AIラボ


※1:AIエージェントの定義の例として下記がある。
Franklin and Graesser, “Is it an Agent, or just a Program?: A Taxonomy for Autonomous Agents”, ATAL1996. “An autonomous agent is a system situated within and a part of an environment that senses the environment and acts on it, over time, in pursuit of its own agenda and so as to effect what it senses in the future.”
(日本語訳)「自律エージェントとは、環境内に配置され、環境の一部をなすシステムであり、時間の経過とともに環境を感知し、それに基づいて行動し、独自の目的を追求し、将来的に感知したものを実行する。」
下記では、AIエージェントの多くは、個性(Profile)、記憶(Memory)、計画(Planning)、行動(Action)の4つの要素が相互作用して動作するとされている。
Lei Wang, Chen Ma, Xueyang Feng, Zeyu Zhang, Hao Yang, Jingsen Zhang, Zhiyuan Chen, Jiakai Tang, Xu Chen, Yankai Lin, Wayne Xin Zhao, Zhewei Wei, Ji-Rong Wen, “A Survey on Large Language Model based Autonomous Agents.”, 4 Apr 2024, arXiv:2308.11432v5 [cs.AI].
https://arxiv.org/abs/2308.11432v5(閲覧日:2024年11月1日)
※2:Deep Learning
※3:Midjourney(2022年7月)、Stable Diffusion(2022年8月)なども話題を呼んだ。
※4:LLM:Large Language Model
※5:AutoGPT(2023年3月)、BabyAGI(2023年4月)など。学術研究では、各種のベンチマーク(AIの性能を測るためのテスト)で高得点を得るため、AIをエージェント的に動作させるケースが多くなっている。
※6:AGI:Artificial General Intelligence
※7:DeepMindやOpenAIから、汎用AIのレベル設定が提案されている。
Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg, ”Levels of AGI for Operationalizing Progress on the Path to AGI”, 5 Jun 2024, arXiv:2311.02462v4 [cs.AI].
https://arxiv.org/abs/2311.02462v4(閲覧日:2024年11月1日)
Bloomberg, “OpenAI Scale Ranks Progress Toward ‘Human-Level’ Problem Solving”
https://www.bloomberg.com/news/articles/
なお、AIエージェントや、科学研究に特化した科学AIについても、同様にレベル設定の提案がある。
Yu Huang, “Levels of AI Agents: from Rules to Large Language Models”, 22 Oct 2024, arXiv:2405.06643v2 [cs.CL].
https://arxiv.org/abs/2405.06643v2(閲覧日:2024年11月1日)
CRDS 国立研究開発法人科学技術振興機構 研究開発戦略センター「人工知能研究の新潮流2 ~基盤モデル・生成AIのインパクト~」(2023年7月、CRDS-FY2023-RR-02)
https://www.jst.go.jp/crds/pdf/2023/RR/
文部科学省科学技術・学術政策研究所 (NISTEP)「セミナーシリーズ「AI とデータで変わる科学と社会」理化学研究所 高橋恒一氏講演録:-AI は科学の営みをどう変えうるか-」
https://www.nistep.go.jp/wp/wp-content/
※8:集合知による予測サイトMetaculus(https://www.metaculus.com/)(閲覧日:2024年11月1日)や、AI有識者へのアンケート(Katja Grace, Harlan Stewart, Julia Fabienne Sandkühler, Stephen Thomas, Ben Weinstein-Raun, Jan Brauner, “Thousands of AI Authors on the Future of AI”, 30 Apr 2024, arXiv:2401.02843v2 [cs.CY] https://arxiv.org/abs/2401.02843v2)(閲覧日:2024年11月1日)でも、技術予測には珍しく実現時期が前倒しされている。
※9:SI:Superintelligence
※10:ニック・ボストロムによる「直交仮説」が著名である。
※11:元OpenAI社員によるSITUATIONAL AWARENESS: The Decade Ahead(2024年6月)は、2027年までに汎用AI、2020年代末に超知能が実現する可能性があるとして話題を呼んだ。
Leopold Aschenbrenner, “SITUATIONAL AWARENESS: The Decade Ahead”, June 2024.
https://situational-awareness.ai/(閲覧日:2024年11月1日)
※12:高橋恒一「将来の機械知性に関するシナリオと分岐点」(The 32nd Annual Conference of the Japanese Society for Artificial Intelligence, 2018)など
https://www.jstage.jst.go.jp/article/pjsai/
※13:例:「Einstein Service Agent」(Salesforce)
https://www.salesforce.com/jp/news/press-releases/
※14:例:「Devin」(Cognition)
https://www.cognition.ai/(閲覧日:2024年11月1日)
※15:例:「SAP Joule AI」(SAP)
https://insidesap.com/sap-joule-ai-and-microsoft-copilot-integration-announced/(閲覧日:2024年11月1日)
例:「Agentforce」(Salesforce)
https://www.salesforce.com/jp/news/press-releases/2024/09/13/
※16:例:「AI Agent Studio」(Automation Anywhere)
https://www.automationanywhere.com/jp/
※17:例:「ベビリサ」(三菱総合研究所)
調査レポート生成AIエージェント「ベビリサ」 無償デモサイトを公開 目的を入力するだけで調査計画を立案、1万文字のレポートを10分で生成(ニュースリリース 2024.7.11)
※18:総務省統計局「2023年 家計消費状況調査 結果の概況」
https://www.stat.go.jp/data/joukyou/
※19:NPC:Non Player Character
※20:例:「NeMo Guardrails」(Nvidia)は、AIの出力を正確性、適切性、安全性などの観点から制御する。
※21:多くのAI研究者によって、高度な自律性を持つAIのリスクが指摘されている
Yoshua Bengio, Geoffrey Hinton, Andrew Yao, et al., “Managing extreme AI risks amid rapid progress”, 22 May 2024, arXiv:2310.17688v3 [cs.CY].
https://arxiv.org/abs/2310.17688v3(閲覧日:2024年11月1日)
※22:AI安全性の研究者らにより、具体的なリスクとして、開発競争による安全対策軽視や組織的なリスクのほか、人によるAIの悪用やAIの暴走(制御喪失)の可能性が報告されている。
Dan Hendrycks, Mantas Mazeika, Thomas Woodside, “An Overview of Catastrophic AI Risks”, 9 Oct 2023, arXiv:2306.12001v6 [cs.CY].
https://arxiv.org/abs/2306.12001v6(閲覧日:2024年11月1日)
このほか、OpenAIからも、AIによる破滅的なシナリオとしてAIの暴走やAIの悪用の可能性が報告されている。
OpenAI, “Preparedness Framework(Beta)”, December 18, 2023.
https://cdn.openai.com/openai-preparedness-framework-beta.pdf(閲覧日:2024年11月1日)
※23:sakana.ai, “The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery”, August 13, 2024.
https://sakana.ai/ai-scientist/(閲覧日:2024年11月1日)
※24:「AIアライメント」と呼ばれる研究分野である。