PwC Japan: AI to Transition from 'Symbiotic' to 'Singularity' Enterprise by 2035

PwC Japanの藤川琢哉氏（チーフ・AI・オフィサー兼データ&AIリーダー）によると、企業のAI活用は、人とAIが混在して協働する「シンビオティック・エンタープライズ」から、2035年以降にはAIエージェントが主体となって自律運営する「シンギュラリティー・エンタープライズ」へと移行するという。その際、AIは単なる「使う対象」から「組織の構成要素」へと拡張する。

こうした急成長の背景において、従来の「Human in the Loop」というアプローチは限界を迎えつつあるという。PwCコンサルティングの中島義耀氏（マネージャー）は、「AIの出力が昨今はとにかく多く、認知負荷が非常に高くなってきている。結局人を設置するだけではプロセスが形骸化してしまう」と指摘する。

さらに中島氏は、AIの自律化が先行するソフトウェア開発と、事業経営の違いを強調する。「ソフトウェアであれば仕様は一定だが、事業経営においては日々外部環境、内部環境が非常にダイナミックに変わり、正解が必ずしも常に一意に定まらない」と述べる。また、「経営においては（失敗前の状態に）必ずしも戻すことはできない」と失敗の不可逆性にも触れ、ソフトウェア開発のように仕様だけを決めてAIに任せるという単純な自動化を事業運営に適用するのは難しいと課題感を説明した。

次世代のAIガバナンスに求められる「3つのアーキテクチャ要件」

事業運営の領域でAIを安全に自律稼働させるため、次世代のAIガバナンスには以下の3つの要件が求められると中島氏は説く。

客観性（マルチエージェント）

単一のAIモデルでは、保守性や抽出するリスク量など判断傾向にバイアスがかかり、客観的なリスク評価が困難となる。多様なAIモデルや、ISO・COSOといった各種フレームワーク（語彙）を組み合わせ、網羅的にリスクをカバーするアプローチが必要となる。

適応可能性（フィードバックループとシミュレーション）

複雑な現実世界にAIをいきなり投入することによるリスクを下げるため、まずは仮想のシミュレーション基盤（Autonomous Industrial Twin）でAIに経験を積ませる。常に状況を見て自己改善するループを作ることが重要になる。

監査可能性（セマンティックなエージェントログ）

AIの意思決定をさかのぼれるよう、システム的で無機質なログ（例：APIコールの羅列）ではなく、人間もAIも理解できる「ビジネスの意味（セマンティックレイヤー）」とひも付けた監査ログを残すことが必須だ。

なぜ「無人店舗」なのか？ 実証実験の真の目的と検証ポイント

自律的なAIエージェントの導入が進む中、PwCは自社オフィス内に設置した小規模な無人売店を使い、「AIのオペレーションをAIが統制する（Agent in the Loop）」実証実験を5月25日から2週間実施する。

ここで疑問となるのが「なぜ無人店舗なのか、そして何のための実証実験なのか」という点だ。中島氏はこの疑問に対し、「われわれがやりたいのは（レジ無人化や棚出しの自動化といった）無人店舗を作ることではない」と明言する。

本実証の目的は、「自動化されたオペレーションの上に立つ『経営判断の代替と統制』をAIがいかに担えるか」の検証だ。具体的には、以下のような観点を検証する。

ガバナンス要件への適合性

AIの判断が、独占禁止法や取適法（旧下請法）、不当廉売といった法務要件、あるいは会計、税務ルールに適合しているか。

監査可能性と説明責任

AIがなぜその価格設定や発注判断を下したのかを、後からログで追跡できるか。

現実の不確実性への耐性

仮想空間のシミュレーションとは異なり、現実では「棚にあるはずの在庫がない（在庫差異）」「従業員がAIの指示通りに動かない」といった不確実性が発生する。こうしたズレに対してAIの統治構造がどうリカバリーし、機能するか。

実験は実装がシンプルで試しやすい小売り（オフィス内売店）を初期ユースケースに選び、スモールスタートで回すアプローチをとっている。

シミュレーションが示す「ガバナンス」の在り方

既にPwCが仮想環境（シミュレーション基盤）で実行した事前検証では、幾つかの発見があったという。

中島氏によれば、店舗を統制するAIとして「賢いフロンティア系のモデル」と「軽量で安価なモデル」を比較した結果、軽量モデルでは「余計な統制を過度にかけてしまう」現象が見受けられた。例えば、「店舗の棚はガラガラだが、バックヤードには在庫がある」という状況において、データに混乱した軽量AIが「在庫が足りないからもっと発注しなければ」と誤った統制をしてしまい、過剰発注で資産を減らし、その結果売り上げを減らしてしまう事態が発生した。

中島氏はこの結果から、「複雑なデータ環境では、拙速で過度な統制はむしろ機能せず、経済的損失を招いてしまう。この統制のレイヤーを作り込んでいくことが今後の大きな競争力になる」と分析し、企業側のガバナンス設計の質が直接ビジネスの利益を左右することを強調した。

実証実験の先にあるもの アーキテクチャの社会実装とコンソーシアム構想

PwCは、企業がAIの活用を推進するだけでなく、AIが引き起こすリスクを制御する体制構築を急ピッチで進める必要があると提唱している。藤川氏は、これからの時代は低頻度、承認式の「ルールベース」のガバナンスから、リアルタイムで止めることなく監視する「伴走型リスクベース」のガバナンスへとパラダイムシフトが起こると説明する。

この実証実験のアウトプットは、単なる「人間向けのガイドライン」にとどまらない。藤川氏は「実際そのアーキテクチャに基づいて動くAIプロダクトをアウトプットとして考えている」と述べ、市場における標準やプロトコルのような形でリリースすることを目指している。

今後の展開としては、本実証で得られた知見を基に、製造業などのよりフィジカルで複雑なオペレーションを伴う産業への展開を目指している。また、実際の企業との協同スキームを検討しており、「構想としてはコンソーシアム化して、未来のシンギュラリティー時代にあるべきリスクガバナンスのアーキテクチャを議論し、作り込んで対外的に発信していきたい」と展望を語った。