





※1:2024年8月に公開した生成AIの信頼性に関する当社レポートでは、信頼性の構成要素を①正確性②安全性③公平性④プライバシー保護⑤セキュリティ確保⑥透明性⑦アカウンタビリティと定義した。
【提言】信頼ある生成AIの利活用に向けて 生成AIの信頼性確保で21兆円の付加価値を創出(政策提言 2025年8月28日)
※2:生成AIが、もっともらしい誤情報を回答する現象。
※3:総務省「「AI事業者ガイドライン」掲載ページ」
https://www.soumu.go.jp/
※4:OECD, “G7 reporting framework – Hiroshima AI Process (HAIP) international code of conduct for organizations developing advanced AI systems”
https://transparency.oecd.ai/(閲覧日:2025年8月1日)
※5:当社は2025年6月、10代から60代の一般消費者を対象にAIエージェントの利用意向や、信頼性に関する懸念などを調査するアンケートを行った。本稿では特に、その回答者2,261人のうち、AIエージェントの活用意向が「ある」と回答した1,034人の回答結果を分析している。
※6:アンケート調査では、AIエージェントを選ぶ際、価格や性能に比べて、信頼性への懸念(図表2参照)への対策の有無を重視する度合いを①対策の方を重視する②対策の方をやや重視する③同程度である④価格・性能の方をやや重視する⑤価格・性能の方を重視する、の選択肢で尋ねた。その「対策」が取られた状態が「信頼性」が確保されている状態であるとした。
※7:この6つのユースケースは、図表3①、②のような、専門家人材を介さずAIエージェントでサービスが完結するユースケースと、図表3③、④、⑤、⑥のように、将来的にはAIエージェントで完結する可能性があるが、とりわけ導入期においては、AIエージェントの回答や実行に対して、専門家人材の意見やトラブル時の緊急対応を求めるようなユースケースがあると考えられる(連載コラム第1回参照)。
※8:アンケート調査では、対策として、①データの漏洩やサイバー攻撃、目的外利用を防ぐような対策②AIによる意図せぬ動作を検知し、自身の判断を反映できるような対策③自身や周囲への損害や事故が起きたときに補償してくれるような対策④AIに関するルールの整備や、性能などに関する情報開示策、を例示した。
※9:アンケート調査の分析では、信頼性確保前後での利用意向の度合を「非常に活用したい(5点)」「やや活用したい(4点)」「どちらともいえない(3点)」「あまり活用したくない(2点)」「まったく活用したくない(1点)」の5段階とし、ユースケース毎に回答者の平均をとり利用意向を点数化した(図表3左軸)。その点数をもとに、利用意向の増加率も定量化している。
※10:肉体的影響として、例えばAIが、症状への不適切な予防策を提案することで、ユーザーの健康がかえって損なわれることがあげられる。
※11:三菱総合研究所が提供する「生活者市場予測システム(mif)」の価値観クラスターを活用した。AIエージェントの活用意向があると回答した人々(1,034人)のうち、「病気にかからず、健康でいたい」と「とてもそう思う」人々は532人で、対策による利用意向の増加率は17%となり、全体平均(11%)よりも高い増加率となった。
※12:アンケート調査では、6つのユースケース毎に最も望ましい提供主体を尋ねた。なお選択肢は①政府、地方自治体②国内の金融や旅行などの分野ごとの事業者(図表5では国内事業者(IT除く))③海外の金融や旅行などの分野ごとの事業者(図表5では海外事業者(IT除く))④国内大手通信・インターネット事業者(図表5では国内大手通信)⑤国内ベンチャー企業⑥米国大手AI事業者(図表5では海外大手AI)⑦その他海外企業⑧使いたくない、とした。
※13:アンケート調査では、6つのユースケースでAIエージェントの提供主体として国内専門事業者を望む人々が、その理由として「これまでの実績が信頼できる」を選んだ割合は32.4%であった。なお選択肢は①AIエージェントへの懸念への対策が十分そうだから(18.9%)②利用者が多く、友人や知人も使いそうだから(8.1%)③便利で安価なサービスを提供してくれそうだから(13.5%)④専門的で高度なサービスを提供してくれそうだから(62.2%)⑤これまでの実績が信頼できる(32.4%)⑥その提供主体のサービスを日頃から利用しているから(21.6%)⑦該当するものはない/使いたくない(5.4%)、とした。
※14:例えばTrusted Execution Environment(TEE)。
※15:個人情報は、事業者がユーザーの許可なしに他事業者や他のユーザー提供することは、個人情報保護法で禁止されている。
※16:情報銀行の取り組みが参考になる。
総務省地域通信振興課デジタル企業行動室「情報銀行の取組」
https://www.soumu.go.jp/
※17:AIエージェントがなぜその提案・実行をしたのか、参考とした根拠データや選定の理由が明らかであること(透明性)も求められる。
※18:例えば、食事記録やそれに伴うバイタルデータ(睡眠、心拍、体温など)、さらには遺伝情報(疾患リスク、代謝能力(カフェイン、アルコール)、肥満傾向など)のようなパーソナルデータを預けるほど、ユーザーの食事記録を基にした一般的な献立の提案に閉じず、体調不良の前触れや生活習慣病の兆候を高精度に検知して医療機関を自動で予約、また予防のためのパーソナル性の高い栄養・運動指導ができるような仕組みが考えられる。