エコノミックインサイト

MRIエコノミックレビュー情報通信

日本発消費者向けAIエージェント・ビジネスは「信頼性」がカギ

デジタル社会を牽引するAIエージェント 第2回

タグから探す

2025年10月29日

政策・経済センター山田賢杜

木根原良樹

西角直樹

keyvisual
第1回のコラムでは、生活の相棒としての「消費者向けAIエージェント」ビジネスでの日本の可能性を示した。ビジネス展開の前提条件として、AIエージェントが生活の「相棒」として受け入れられるには、「信頼できる存在」であることが不可欠だ。高い自律性やパーソナル性が期待される一方、その判断や行動への懸念も残る。正確性や安全性などの信頼性向上に向けて、政府や提供者による議論が進む中、消費者も性能や価格以上に信頼性を重視し始めている。第2回コラムでは、そのAIエージェント市場が今後成立・拡大する可能性を信頼性の観点から分析し、日本発の消費者向けAIエージェント・ビジネスに必要な前提条件を考察する。

AIの信頼性への関心が高まっている

AIが生活のさまざまな場面に入り込む中、信頼性※1の確保が急務になっている。特に、生成AIの普及に伴い、ハルシネーション※2や著作権侵害などの法的な責任の所在などの課題が浮上し、国内外でルール整備が進んでいる。日本でも2024年に「AI事業者ガイドライン(第1.0版)」が策定され、AIの提供・活用における信頼性確保のための対応方針が示された※3。またG7は、「広島AIプロセス」の中で、AI開発企業が国際行動規範の適用状況を自ら確認・報告するための「報告枠組み」を立ち上げた※4。これは、OECDとも連携した取り組みである。

このような政府や開発企業側の動きに加え、消費者も信頼性の確保を重視している。当社が2025年6月に行った、AIエージェントの利用意向を尋ねた生活者アンケート調査(以下、アンケート調査)※5では、回答者の4割以上が、価格や性能よりも、信頼性確保に向けた対策を重視している(図表1)※6。消費者向けAIエージェントは、生活のより多くの場面でユーザーに利用される可能性があるサービスのため、生成AI以上に信頼性の確保が重要になるだろう。
図表1 消費者向けAIエージェント選定にあたっての信頼性の重視度合い
消費者向けAIエージェント選定にあたっての信頼性の重視度合い
注:アンケート回答者のうち「AIエージェントの活用意向がある」1,034人が対象
出所:三菱総合研究所「生活者市場予測システム(mif)」アンケート(2025年6月実施、2,261人)

消費者向けAIエージェントの信頼性に対してどのような懸念があるか

第1回のコラムで示した通り、自律性とパーソナル性を特長とする消費者向けAIエージェントの利便性は高い。一方、その信頼性を確保するには、どのような懸念を克服する必要があるだろうか。

まず挙げられるのは、サイバー攻撃への懸念である。データの盗み見や改ざん、なりすましなどの被害が近年取りざたされており、今回のアンケート調査でもこれらに対する懸念が大きいことが分かった(図表2:①)。そしてAIエージェントの特長の1つである、自律性の高さに起因する懸念もある。指示の誤解やそれによる金銭的被害、法律違反を20%以上の回答者が懸念している(図表2:②、④、⑧)。またもう1つの特長である、パーソナル性の高さに起因する懸念もある。パーソナル性を実現するには、サービス提供主体にパーソナルデータへのアクセスを認める必要がある。これに対して、アンケート調査ではそのデータが漏えいすることや、データの活用目的が不透明であることへの懸念があることが分かった(図表2:③、⑥)。
図表2 消費者向けAIエージェントの信頼性への懸念
消費者向けAIエージェントの信頼性への懸念
注:アンケート回答者のうち「AIエージェントの活用意向がある」1,034人が対象
出所:三菱総合研究所「生活者市場予測システム(mif)」アンケート(2025年6月実施、2,261人)

信頼性確保で利用意向は向上する

以上の懸念に対策を講じ、信頼性を確保すれば、AIエージェントの利用意向は高まる。アンケート調査では、6つのユースケース(図表3)に対する利用意向を確認した※7。これらのユースケースでは、上述の懸念に対策※8を講じることにより信頼性が向上し、利用意向が増加することが確認された(図表4)※9。とりわけ、ヘルスケアなどでは対策による利用意向の増加率が、他のユースケースよりやや高かった。これは、これらの分野で扱うパーソナルデータが特に機微な情報である点や、専門家が介入するとはいえ、AIが意図と異なる行動をした場合の肉体的※10・金銭的影響が大きいことによるものと考えられる。なお、対策による利用意向の増加率はユーザーの価値観に左右される。例えば、ヘルスケアについて、「病気にかからず、健康でいたい」層の増加率(17%)は全体平均(11%)に比べて大きいことが分かった※11。
図表3 消費者向けAIエージェントの例
消費者向けAIエージェントの例
*サービスは「汎用サービス」と「専門サービス」に分類(連載コラム第1回参照)
三菱総合研究所作成
図表4 信頼性確保による利用意向の変化
信頼性確保による利用意向の変化
注:アンケート回答者のうち「AIエージェントの活用意向がある」1,034人が対象
出所:三菱総合研究所「生活者市場予測システム(mif)」アンケート(2025年6月実施、2,261人)
では、信頼性を確保し、利用意向を増加させるには、どのような対策が求められるだろうか。これについて次では、2つの対策を示す。このような対策が取られることが、ビジネス展開するための前提条件となる。

国内事業者が取り組むべき対策①:高セキュリティのデータ基盤整備

信頼性を確保するための対策の1つは「高セキュリティのデータ基盤整備」である。消費者はAIエージェントの信頼性を判断する際、「誰が提供するのか」を重視している。アンケート調査では、海外よりも国内事業者を支持する割合が大きく、特に資金管理では国内専門事業者(金融機関など)を求める割合の大きさが顕著だった(図表5)※12。
図表5 生活者が望むAIエージェント提供主体
生活者が望むAIエージェント提供主体
注:アンケート回答者のうち「AIエージェントの活用意向がある」1,034人が対象
出所:三菱総合研究所「生活者市場予測システム(mif)」アンケート(2025年6月実施、2,261人)
国内専門事業者を支持する主な理由の1つは、「これまでの実績の信頼」である。アンケート調査でも、「専門的で高度なサービスへの期待」に次いで、大きな要因であることが分かった※13。また、近年の海外事業者による個人情報の漏えいなども、この傾向を助長していると考えられる。

このような要因による、国内専門事業者への期待を現実のものにするには、データの取扱いが重要だ。図表2の通り、サイバー攻撃やデータ漏えいに対する懸念が強いため、国内事業者には、データ処理の秘匿化技術※14などを活用して、海外事業者に引けを取らない高セキュリティのデータ基盤を整備することが求められる。

信頼性の高いデータ基盤が実現すれば、ユーザーは提供主体がパーソナルデータへアクセスすることを許容するため、高いパーソナル性という特長を実現することが可能になる。そして高いパーソナル性に魅力を感じたユーザーが、データへのアクセスをさらに許容し、そのデータの学習を通じてさらにパーソナル性が向上する、という好循環が生まれる。

国内事業者が取り組むべき対策②:ユーザー主体のデータ基盤整備

次に取り組むべき対策は、「ユーザー主体のデータ基盤整備」である。現在のAIエージェントの多くは、機微なデータを安易に保有するのではなく、その都度ユーザーに入力させるなど慎重な設計がなされている。しかし一方で、ユーザーが自らのパーソナルデータを安心して預けられる仕組みや、それを主体的にコントロールできる枠組みは十分に整っていない。今後普及する消費者向けAIエージェントでは、ユーザー側に寄り添い、ユーザー自身がパーソナルデータを「誰に」「いつ」提供するかを主体的にコントロールできることが不可欠である。例えば、事業者が他の事業者にパーソナルデータを渡そうとする際に、「ユーザーが拒否できる」ことや「拒否しても不利益を講じない」こと、「もし希望せずに渡してしまった場合、すぐにデータを削除し利用を停止する」こと、「できない場合は罰則を適用する」ことなどが求められる。個人情報に限らず、パーソナルデータは本来ユーザー自身がコントロールするものであり※15、そのための制度や技術的な枠組みが求められている※16。

また、このユーザー側に寄り添うAIエージェントのデータ管理は、第1回コラム内のトピックス「自分専用AIエージェントとA2Aコミュニケーション」のように、事業者側のAIエージェントと、自分専用(すなわちユーザー側に寄り添う)AIエージェントが併存することでも実現できると考えられる。自分専用AIエージェントが、自身のパーソナルデータを最大限コントロールできるように振る舞う姿を描くことができる。社会的にまだ構想段階ではあるが、こうした仕組みが普及すると、ユーザー主体のデータ基盤の整備が進むはずだ。

日本発AIエージェント・ビジネスの前提条件の整備に向けて

以上の対策①、②は、日本発の消費者向けAIエージェント・ビジネスを成立させるため、提供事業者が取り組むべき対策である。次に、提供事業者だけでなく、政府や第三者機関、関連業界が取り組むべきことも含めて、ビジネス展開に向けた3つの前提条件を示す。

1つ目の条件は、上述の通り、高セキュリティでユーザー主体のデータ基盤を構築し、パーソナル性を確立することだ。そのデータ基盤により、国内事業者が大量のパーソナルデータにアクセスし、高精度でユーザーの志向に合致するパーソナル性を実現できる(図表6:条件1)。パーソナル性が実現できれば、AIエージェントはユーザーの意図をより正確にくみ取ることができる。

2つ目の条件は、「自律性」の確立である。パーソナル性が確立されるとAIエージェントに任せてもよいというユーザー心理が働き、「自律性」の実現可能性も高まる。ただし、AIのミスや間違いでユーザーが金銭的被害・法令違反を被ることがないように、重要な判断では人間が介入する仕組みなどが求められる(図表6:条件2)。

3つ目の条件は、こうして実現した自律性と、その前提となるパーソナル性への信頼性の基盤となる、「安心・保証」の確立である。これには、事故が起こってしまった場合の賠償・保障や、あらかじめ事故情報を開示する仕組みなどが不可欠だ(図表6:条件3)※17。
図表6 日本発AIエージェント・ビジネスの前提条件
日本発AIエージェント・ビジネスの前提条件
三菱総合研究所作成
消費者向けAIエージェントの本格普及に向けては、以上で示した3つの条件(図表6)だけではなく、さらにユーザーも含む社会全体としてAIエージェントを活用していく気運を高めることも必要だ。例えば事業者は、ユーザーが自らパーソナルデータを預けたいと思えるほど恩恵を受けられる仕組み※18を構築することが有効だ。一方ユーザーは、心理的ハードルが低いパーソナルデータ(例えば日々の食事記録とそれに伴う体重や血圧などのデータ)から、まずは「預けてみよう」と意識し、「新しいAIをどんどん使っていこう」という社会的気運を育むことが、日本発のAIエージェント・ビジネスの成立・拡大につながるカギとなるだろう。

この連載コラムでは、「生活の相棒」と「信頼の確保」の観点で、消費者向けAIエージェントのあるべき姿を提案した。AIエージェントが真に「相棒」として受け入れられるためには、利便性に加えて信頼性を技術・制度両面から担保することが不可欠であり、その実現が今後の日本の競争優位につながるはずだ。

※1:2024年8月に公開した生成AIの信頼性に関する当社レポートでは、信頼性の構成要素を①正確性②安全性③公平性④プライバシー保護⑤セキュリティ確保⑥透明性⑦アカウンタビリティと定義した。
【提言】信頼ある生成AIの利活用に向けて 生成AIの信頼性確保で21兆円の付加価値を創出(政策提言 2025年8月28日)

※2:生成AIが、もっともらしい誤情報を回答する現象。

※3:総務省「「AI事業者ガイドライン」掲載ページ」
https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html(閲覧日:2025年7月17日)

※4:OECD, “G7 reporting framework – Hiroshima AI Process (HAIP) international code of conduct for organizations developing advanced AI systems”
https://transparency.oecd.ai/(閲覧日:2025年8月1日) 

※5:当社は2025年6月、10代から60代の一般消費者を対象にAIエージェントの利用意向や、信頼性に関する懸念などを調査するアンケートを行った。本稿では特に、その回答者2,261人のうち、AIエージェントの活用意向が「ある」と回答した1,034人の回答結果を分析している。

※6:アンケート調査では、AIエージェントを選ぶ際、価格や性能に比べて、信頼性への懸念(図表2参照)への対策の有無を重視する度合いを①対策の方を重視する②対策の方をやや重視する③同程度である④価格・性能の方をやや重視する⑤価格・性能の方を重視する、の選択肢で尋ねた。その「対策」が取られた状態が「信頼性」が確保されている状態であるとした。

※7:この6つのユースケースは、図表3①、②のような、専門家人材を介さずAIエージェントでサービスが完結するユースケースと、図表3③、④、⑤、⑥のように、将来的にはAIエージェントで完結する可能性があるが、とりわけ導入期においては、AIエージェントの回答や実行に対して、専門家人材の意見やトラブル時の緊急対応を求めるようなユースケースがあると考えられる(連載コラム第1回参照)。

※8:アンケート調査では、対策として、①データの漏洩やサイバー攻撃、目的外利用を防ぐような対策②AIによる意図せぬ動作を検知し、自身の判断を反映できるような対策③自身や周囲への損害や事故が起きたときに補償してくれるような対策④AIに関するルールの整備や、性能などに関する情報開示策、を例示した。

※9:アンケート調査の分析では、信頼性確保前後での利用意向の度合を「非常に活用したい(5点)」「やや活用したい(4点)」「どちらともいえない(3点)」「あまり活用したくない(2点)」「まったく活用したくない(1点)」の5段階とし、ユースケース毎に回答者の平均をとり利用意向を点数化した(図表3左軸)。その点数をもとに、利用意向の増加率も定量化している。

※10:肉体的影響として、例えばAIが、症状への不適切な予防策を提案することで、ユーザーの健康がかえって損なわれることがあげられる。

※11:三菱総合研究所が提供する「生活者市場予測システム(mif)」の価値観クラスターを活用した。AIエージェントの活用意向があると回答した人々(1,034人)のうち、「病気にかからず、健康でいたい」と「とてもそう思う」人々は532人で、対策による利用意向の増加率は17%となり、全体平均(11%)よりも高い増加率となった。

※12:アンケート調査では、6つのユースケース毎に最も望ましい提供主体を尋ねた。なお選択肢は①政府、地方自治体②国内の金融や旅行などの分野ごとの事業者(図表5では国内事業者(IT除く))③海外の金融や旅行などの分野ごとの事業者(図表5では海外事業者(IT除く))④国内大手通信・インターネット事業者(図表5では国内大手通信)⑤国内ベンチャー企業⑥米国大手AI事業者(図表5では海外大手AI)⑦その他海外企業⑧使いたくない、とした。

※13:アンケート調査では、6つのユースケースでAIエージェントの提供主体として国内専門事業者を望む人々が、その理由として「これまでの実績が信頼できる」を選んだ割合は32.4%であった。なお選択肢は①AIエージェントへの懸念への対策が十分そうだから(18.9%)②利用者が多く、友人や知人も使いそうだから(8.1%)③便利で安価なサービスを提供してくれそうだから(13.5%)④専門的で高度なサービスを提供してくれそうだから(62.2%)⑤これまでの実績が信頼できる(32.4%)⑥その提供主体のサービスを日頃から利用しているから(21.6%)⑦該当するものはない/使いたくない(5.4%)、とした。

※14:例えばTrusted Execution Environment(TEE)。

※15:個人情報は、事業者がユーザーの許可なしに他事業者や他のユーザー提供することは、個人情報保護法で禁止されている。

※16:情報銀行の取り組みが参考になる。
総務省地域通信振興課デジタル企業行動室「情報銀行の取組」
https://www.soumu.go.jp/main_content/000791752.pdf(閲覧日:2025年8月4日)

※17:AIエージェントがなぜその提案・実行をしたのか、参考とした根拠データや選定の理由が明らかであること(透明性)も求められる。

※18:例えば、食事記録やそれに伴うバイタルデータ(睡眠、心拍、体温など)、さらには遺伝情報(疾患リスク、代謝能力(カフェイン、アルコール)、肥満傾向など)のようなパーソナルデータを預けるほど、ユーザーの食事記録を基にした一般的な献立の提案に閉じず、体調不良の前触れや生活習慣病の兆候を高精度に検知して医療機関を自動で予約、また予防のためのパーソナル性の高い栄養・運動指導ができるような仕組みが考えられる。