ガイドラインの初版(第1.0版)は、ChatGPT登場(2022年11月)から約1年半後の2024年4月に公開された。それから約2年、AIの進化は目覚ましく、AIの性能とリスクは新たな段階を迎えつつある。
AIの能力に関して、ChatGPTをはじめとする生成AIは、さまざまなタスクを処理できる「汎用性」に特徴があった。自然言語で指示できることもあり一大ブームを巻き起こし、企業だけでなく一般ユーザーまで活用が広がった。今回追記されたAIエージェントは、複雑な問題も自らタスクに分解して解決できる「自律性」に特徴がある。フィジカルAIは、実世界に直接働きかけることのできる「物理性」(ロボット化した場合は「身体性」)に特徴がある。生産性向上や労働力不足など、日本が抱える社会課題の解決に、この二つの技術の活用推進は不可欠だ。
実は、ガイドラインではAIエージェントの先にある技術にも言及がある。「エージェンティックAI」だ。ガイドラインでは、「AIエージェントよりも包括的かつ進化的な概念」であり、「複数のAIエージェントにより自律的に意思決定を下しアクションを起こす目標主導型のAIシステム」とされる。AIエージェントが個々の目標達成のために動く単体の実行主体だとすれば、エージェンティックAIは役割の異なる複数のAIエージェントが互いに連携し、より複雑な目標達成のため継続的に動くシステムである。必ずしも一つのAIが他のAIを管理する形態とは限らず、人が設計した目標やルールの下で、複数のAIが協調し、ときに交渉しながら動く点に特徴がある※4。個別のAIでは実現できなかった問題の解決など、AIのもつ潜在的な能力を飛躍的に向上させ、社会で大いに活用されるだろう。重要な役割をAIが担う場面も増える。AIが「集団性」を獲得する段階と言えるのではないか※5。
今回改定されたガイドラインでは、新たなリスク類型として、人間の意図しない自律的動作、攻撃対象・手法の拡大、複雑な構成・機構による制御の困難化、悪意あるコード生成などが追加されている。AIの高度化に伴う人間の意図しない自律的動作は既に顕在化しており※6、現実のリスクとして対策すべき段階となった。今後、エージェンティックAIのように複数のAI間で生じるリスクも対策が求められるようになるだろう※7。
AI事業者ガイドラインは、「Living Document」として随時更新されている。AIに関する情報が日々溢れる中、公的な文書として、AIエージェントやフィジカルAI、エージェンティックAIなどAI進化のトレンド、網羅的なリスク対策を提示することは、限られたリソースで活動している事業者にとって有益な情報源となる。
たとえば今回のガイドラインでは、リスク対策として「人間の判断の介在」(Human-in-the-Loop)が強調されている。AIの自律性が高まるなかで、人間による監督や介入の設計が実務上いっそう重要になっていることを示したものだ。Human-in-the-Loopのような対策も、自社のビジネスやサービスに合わせて手順を具体化させることで効果が発現する。事業者はまず、ガイドラインの内容やガイドラインに付随するチェックリストを参考に、現状のリスク対策に不備がないか確認したい。その際、AIを提供する側は介入のポイントを、AIを利用する側は利用範囲と異常時の判断ルールを、経営層は高リスク領域の優先順位を明確にしておくと、対策を具体化しやすい。全方位の対策は困難であるため、リスクが高い領域から重点的に対策する「リスクベースアプローチ」※8の視点も重要だ。
AIは日進月歩の技術である。リスク対策も一度整備して終わりではない。業界の慣習やルール、業界ガイドライン※9とも整合を取りながら、自社の運用を継続的に見直し、具体的なリスク対策につなげる仕組みを構築していく必要がある。

