メイン画像

時代は生成AIからAIエージェントへ

進化するAIの自律性。企業は変革の加速を
2024年12月01日
飯田 正仁

生成AIラボ飯田正仁

SHARE
X
PRINT

OPINION

ChatGPT登場から2年——。
生成AIブームが続く一方で、AIは次なるブレイクスルーを迎えつつある。「AIエージェント」によってまもなく、生成AIに匹敵するビジネスの再飛躍が始まるのだ。AIエージェントは、人からの指示を自ら作業分解して、複雑な問題を解決する高度な自律性を持つ。生産性を飛躍的に向上させるだけでなく、人を代替する自動化・無人化も加速させる。いかにビジネスに導入していくか。どのようなリスク対策が必要か。来たるAIエージェント時代に向けて、企業が実践すべき対応策を提示する。

次なる技術ブレイクスルーは「AIエージェント」

生成AIの次なる技術ブレイクスルーとして、「AIエージェント」が注目されている。人からの指示を自律的に必要な作業へ分解して実行し、複雑な問題を柔軟かつ賢く解決できるAIだ※1。ここで、第3次AIブーム以降のAIの進化を見てみよう。

図表1のように、AIの進化は、「予測(特化型)AI」⇒「生成AI」⇒「AIエージェント」⇒「汎用AI」⇒「超知能」の過程をたどると考えられる。最初の「予測AI」は、予測や分類など特定のタスクに特化したAIである。深層学習※2という画期的な技術で、第3次AIブームを巻き起こした。続く「生成AI」は、ChatGPT登場以降の第4次ともいわれるAIブームをけん引している※3。膨大なテキストデータを学習した大規模言語モデル※4は、さまざまなタスクに対応可能な汎用性を持つ。テキスト情報に加え、画像・音声・動画などに対応するマルチモーダル化も進んでいる。

生成AIから間もなく、AIエージェントが登場して大きな話題を呼んだ※5。AIエージェントの自律性は産業応用への期待も大きく、本オピニオンで取り上げる。AI研究の最終目標ともいわれる「汎用AI」※6の定義はさまざまだが、一般的に、人間と同程度の知能レベルで未知の問題にも対応可能なAIとされる※7。生成AIの汎用性やAIエージェントの自律性は必須の要素と考えられており、それらの高度化は汎用AI研究の中心的なテーマでもある。最近の急速な技術進歩で、2030年前後にも汎用AIが実現するという見解も増えている※8。「超知能」※9の定義もさまざまだが、人間のレベルをはるかに超え、人類全体に匹敵・凌駕する知能とされる。人が思い描くようなモラルを持つとも限らない※10。実現時期※11や実現シナリオ※12などが議論されているところだ。
図表1 AI進化の過程(第3次AIブーム以降)
AI進化の過程(第3次AIブーム以降)
三菱総合研究所作成

AIエージェントによるビジネスの再飛躍

AIエージェントは、今後2〜3年で実現する有望なBtoB、BtoCアプリケーションが多く、すでに萌芽事例もある。その全体像を図表2に示した。現時点の主な事例として、次の8つを挙げることができる。

BtoB

個別業務に関する事例として、顧客対応を自動化する「(1)カスタマーサポート」※13、コーディングや設計、テストを支援する「(2)ソフトウエア開発」※14、ユーザーとの対話を通じてシステム操作する「(3)システム対話操作」※15などで萌芽的なAIエージェントが登場している。例えば(3)は、ユーザーがフライト予約を指示すると、AIエージェントが自動的にカレンダーに登録してくれる。

また、データ分析・意思決定、顧客サービス・マーケティング最適化など業務プロセスを自動化する「(4)業務自動化」※16、医療・創薬・材料や科学研究・Web調査など専門知識を駆使して人の作業を効率的に処理する「(5)業務特化型・専門家」※17のAIエージェントもある。

BtoC

「(6)カスタマーサポート系」のAIエージェントは、消費者の購買行動を支援する。例えば、ショッピングサイトで個人の興味や嗜好に応じて対話の中で選択肢を示し、商品が多すぎて選べない悩みを解消してくれる。オンラインでの購買は増加しており※18、AIエージェントへの期待も高い。

また個人の健康状態や生活習慣に基づいて健康管理プランを提供してくれるなどの「(7)コーチング系」、オンラインゲームの仮想的なキャラクター※19がプレーヤーの言動に即座に対応してパーソナライズされた体験を提供してくれるなどの「(8)キャラクター系」も有望だ。

これら単体のAIエージェント以外に、AIエージェント同士が協力・交渉を行う「マルチAIエージェント」のアプリケーションも有望で、インサイトにて紹介する。
図表2 AIエージェントのアプリケーション
AIエージェントのアプリケーション
※単体のAIエージェントのアプリケーション。マルチAIエージェントのアプリケーションは、インサイトで紹介。

三菱総合研究所作成

AIエージェントのリスクと対策

AIエージェントは人の介在が少ないため、どのような動作やアウトプットが得られるか予想しづらい。従来のAI以上に、人の意図しない誤動作や余計な動作をするリスクへの対策が必要だ。

例えば業務利用時に電子メールの自動返信をAIエージェントに任せたところ、誤って機微な情報も送信してしまった、などのリスクが想定される。対策として、送信や削除など不可逆的な操作は人に限るようなルール、機微な情報は送信しないようセキュリティ対策を施したガードレール技術※20の導入、などが考えられる。

将来的にAIエージェントが高度化して自律性がさらに高まった場合、人類に甚大な影響がもたらされる可能性も否定できない※21。人によるAIの悪用だけでなく、AI自体の暴走への対策も必要だ※22。望ましい計算結果を得るため、人が設定した計算機実験の計算時間をAIが自ら改変した事例がある※23。あくまで兆候としての事例だが、計算資源を可能な限り確保しようとするなど、AIの自律的な行動がエスカレートすれば、AIの暴走につながりかねない。こうした事態を防ぐ狙いから、AIを人の意図や価値観に沿って動作させる研究も進められている※24。
図表3 AIの暴走(制御喪失)のシナリオ例
AIの暴走(制御喪失)のシナリオ例
三菱総合研究所作成

AIエージェント時代に向け企業は変革を

AIエージェントの普及は、企業活動や業務のあり方にも劇的な変化をもたらす。来たるAIエージェント時代に向けて、企業は変革を進めたい。AIエージェント時代は、人ではなくAIエージェントが作業主体となってAIを使うようになる。企業は、まず、業務と人材の両面で「AI Ready(AIを活用できる準備状態)」をより一層進めておくことが重要だ。

業務に関しては、AIエージェントが機械可読な環境の整備がポイントとなる。具体的には、社内の業務文書やマニュアルのデジタル化と統一フォーマットでの管理、業務プロセスおよび各プロセスにおけるAIエージェントへの入出力の定義、それに業務システムを操作可能なAPI/RPAの整備、などだ。これらによって、AIエージェントがAIを使える環境が整備されていく。

並行して、AIエージェントをうまく使いこなせる人材の育成も求められる。現在の生成AIツールやプロンプトエンジニアリングのトレーニング、事例共有などを通じて、技術的なリテラシーを高めることができる。さらに実務上の問題解決能力やクリティカルシンキングの能力を養成することも効果的だ。AIエージェントへの指示が的確となり、AIエージェントからのアウトプットも正しく評価・活用できるようになる。

また、AIエージェント時代の新サービス検討を、今からスタートさせることも重要だ。特に、今後急速な普及が見込まれるAIエージェントを介したデバイス活用を見越して、サービス検討や組織体制の変革を進めたい。

AIエージェントのアプリケーションが本格的に普及する2~3年後には、PCだけでなくスマホやスピーカー、スマートグラスやスマートウオッチなど音声利用も可能なデバイスで、執事や秘書役とも呼べるAIエージェントが標準装備されている可能性が高い。AIエージェントに指示するだけで、さまざまなアプリケーションが手軽に利用できる環境となる。

例えば、デバイスからの位置情報やユーザーの興味・嗜好に基づく情報提供サービスでは、ユーザーのフィードバックを迅速に反映したサービス検討を継続できる体制が求められる。社内のAI技術者やデータサイエンティストなどからなるアジャイル型組織の立ち上げ、ユーザーインターフェースやマーケティングに通じた外部企業との連携なども必要となるだろう。これらによって、最新の知見を取り込みつつ、スピーディーかつ柔軟なサービス検討が可能な体制を構築することができる。

今後、AIエージェントによって、多数の革新的なアプリケーションが登場することは間違いない。生産性向上にとどまらず自動化や無人化も進み、社会システムや人の価値観が大きく変わる。

企業は、来たるAIエージェント時代に備え、業務と人材の「AI Ready」化とともに、新サービス検討への変革を進めるべきだ。
AIエージェント時代のサービスイメージ
AIエージェント時代のサービスイメージ

※1:AIエージェントの定義の例として下記がある。
Franklin and Graesser, “Is it an Agent, or just a Program?: A Taxonomy for Autonomous Agents”, ATAL1996. “An autonomous agent is a system situated within and a part of an environment that senses the environment and acts on it, over time, in pursuit of its own agenda and so as to effect what it senses in the future.”
(日本語訳)「自律エージェントとは、環境内に配置され、環境の一部をなすシステムであり、時間の経過とともに環境を感知し、それに基づいて行動し、独自の目的を追求し、将来的に感知したものを実行する。」
下記では、AIエージェントの多くは、個性(Profile)、記憶(Memory)、計画(Planning)、行動(Action)の4つの要素が相互作用して動作するとされている。
Lei Wang, Chen Ma, Xueyang Feng, Zeyu Zhang, Hao Yang, Jingsen Zhang, Zhiyuan Chen, Jiakai Tang, Xu Chen, Yankai Lin, Wayne Xin Zhao, Zhewei Wei, Ji-Rong Wen, “A Survey on Large Language Model based Autonomous Agents.”, 4 Apr 2024, arXiv:2308.11432v5 [cs.AI].
https://arxiv.org/abs/2308.11432v5(閲覧日:2024年11月1日)

※2:Deep Learning

※3:Midjourney(2022年7月)、Stable Diffusion(2022年8月)なども話題を呼んだ。

※4:LLM:Large Language Model

※5:AutoGPT(2023年3月)、BabyAGI(2023年4月)など。学術研究では、各種のベンチマーク(AIの性能を測るためのテスト)で高得点を得るため、AIをエージェント的に動作させるケースが多くなっている。

※6:AGI:Artificial General Intelligence

※7:DeepMindやOpenAIから、汎用AIのレベル設定が提案されている。
Meredith Ringel Morris, Jascha Sohl-dickstein, Noah Fiedel, Tris Warkentin, Allan Dafoe, Aleksandra Faust, Clement Farabet, Shane Legg, ”Levels of AGI for Operationalizing Progress on the Path to AGI”, 5 Jun 2024, arXiv:2311.02462v4 [cs.AI].
https://arxiv.org/abs/2311.02462v4(閲覧日:2024年11月1日)
Bloomberg, “OpenAI Scale Ranks Progress Toward ‘Human-Level’ Problem Solving”
https://www.bloomberg.com/news/articles/2024-07-11/openai-sets-levels-to-track-progress-toward-superintelligent-ai(閲覧日:2024年11月1日)
なお、AIエージェントや、科学研究に特化した科学AIについても、同様にレベル設定の提案がある。
Yu Huang, “Levels of AI Agents: from Rules to Large Language Models”, 22 Oct 2024, arXiv:2405.06643v2 [cs.CL].
https://arxiv.org/abs/2405.06643v2(閲覧日:2024年11月1日)
CRDS 国立研究開発法人科学技術振興機構 研究開発戦略センター「人工知能研究の新潮流2 ~基盤モデル・生成AIのインパクト~」(2023年7月、CRDS-FY2023-RR-02)
https://www.jst.go.jp/crds/pdf/2023/RR/CRDS-FY2023-RR-02.pdf(閲覧日:2024年11月1日)
文部科学省科学技術・学術政策研究所 (NISTEP)「セミナーシリーズ「AI とデータで変わる科学と社会」理化学研究所 高橋恒一氏講演録:-AI は科学の営みをどう変えうるか-」
https://www.nistep.go.jp/wp/wp-content/uploads/NISTEP-STIH8-4-00316.pdf(閲覧日:2024年11月1日)

※8:集合知による予測サイトMetaculus(https://www.metaculus.com/)(閲覧日:2024年11月1日)や、AI有識者へのアンケート(Katja Grace, Harlan Stewart, Julia Fabienne Sandkühler, Stephen Thomas, Ben Weinstein-Raun, Jan Brauner, “Thousands of AI Authors on the Future of AI”, 30 Apr 2024, arXiv:2401.02843v2 [cs.CY] https://arxiv.org/abs/2401.02843v2)(閲覧日:2024年11月1日)でも、技術予測には珍しく実現時期が前倒しされている。

※9:SI:Superintelligence

※10:ニック・ボストロムによる「直交仮説」が著名である。

※11:元OpenAI社員によるSITUATIONAL AWARENESS: The Decade Ahead(2024年6月)は、2027年までに汎用AI、2020年代末に超知能が実現する可能性があるとして話題を呼んだ。
Leopold Aschenbrenner, “SITUATIONAL AWARENESS: The Decade Ahead”, June 2024.
https://situational-awareness.ai/(閲覧日:2024年11月1日)

※12:高橋恒一「将来の機械知性に関するシナリオと分岐点」(The 32nd Annual Conference of the Japanese Society for Artificial Intelligence, 2018)など
https://www.jstage.jst.go.jp/article/pjsai/JSAI2018/0/JSAI2018_1F3OS5b03/_pdf/-char/ja(閲覧日2024年11月1日)

※13:例:「Einstein Service Agent」(Salesforce) 
https://www.salesforce.com/jp/news/press-releases/2024/07/19/einstein-service-agent-announcement-jp/(閲覧日:2024年11月1日)

※14:例:「Devin」(Cognition)
https://www.cognition.ai/(閲覧日:2024年11月1日)

※15:例:「SAP Joule AI」(SAP)
https://insidesap.com/sap-joule-ai-and-microsoft-copilot-integration-announced/(閲覧日:2024年11月1日)
例:「Agentforce」(Salesforce)
https://www.salesforce.com/jp/news/press-releases/2024/09/13/agentforce-announcement/(閲覧日:2024年11月1日)

※16:例:「AI Agent Studio」(Automation Anywhere)
https://www.automationanywhere.com/jp/products/ai-agent-studio(閲覧日:2024年11月1日)

※17:例:「ベビリサ」(三菱総合研究所)
調査レポート生成AIエージェント「ベビリサ」 無償デモサイトを公開 目的を入力するだけで調査計画を立案、1万文字のレポートを10分で生成(ニュースリリース 2024.7.11)

※18:総務省統計局「2023年 家計消費状況調査 結果の概況」 
https://www.stat.go.jp/data/joukyou/2023ar/gaikyou/pdf/gkall.pdf(閲覧日:2024年11月1日)

※19:NPC:Non Player Character

※20:例:「NeMo Guardrails」(Nvidia)は、AIの出力を正確性、適切性、安全性などの観点から制御する。

※21:多くのAI研究者によって、高度な自律性を持つAIのリスクが指摘されている
Yoshua Bengio, Geoffrey Hinton, Andrew Yao, et al., “Managing extreme AI risks amid rapid progress”, 22 May 2024, arXiv:2310.17688v3 [cs.CY].
https://arxiv.org/abs/2310.17688v3(閲覧日:2024年11月1日)

※22:AI安全性の研究者らにより、具体的なリスクとして、開発競争による安全対策軽視や組織的なリスクのほか、人によるAIの悪用やAIの暴走(制御喪失)の可能性が報告されている。
Dan Hendrycks, Mantas Mazeika, Thomas Woodside, “An Overview of Catastrophic AI Risks”, 9 Oct 2023, arXiv:2306.12001v6 [cs.CY].
https://arxiv.org/abs/2306.12001v6(閲覧日:2024年11月1日)
このほか、OpenAIからも、AIによる破滅的なシナリオとしてAIの暴走やAIの悪用の可能性が報告されている。
OpenAI, “Preparedness Framework(Beta)”, December 18, 2023.
https://cdn.openai.com/openai-preparedness-framework-beta.pdf(閲覧日:2024年11月1日)

※23:sakana.ai, “The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery”, August 13, 2024.
https://sakana.ai/ai-scientist/(閲覧日:2024年11月1日)

※24:「AIアライメント」と呼ばれる研究分野である。

年別一覧

関連するナレッジ・コラム

ナレッジ・コラムに関するお問い合わせや、取材のお申し込み、
寄稿や講演の依頼などその他のお問い合わせにつきましても
フォームよりお問い合わせいただけます。