調査レポート
コンプライアンスを自信へ変える
責任あるAIの浸透を図る新しいマインドセット
5分（読了目安時間）
2024/12/11
概略
- 生成AIに関連するリスクは増え続けています。AIに焦点を当てた新たな法律や規制が拡大し、AIのバリューチェーンはますます複雑化しています。
- リスクを軽減し、AIの使用から得られる多くのメリットを引き出すために企業は、責任あるAIの能力を伸ばし浸透させることが重要です。
- 企業が責任あるAIの浸透度を向上させている一方で、現時点で完全に浸透した企業はありません。浸透度を向上させるためには、5つの優先事項に焦点を当てることが重要です。
生成AIがビジネスや社会を変革し続ける中、その潜在的なリスクと便益は世界中の組織にとって重要な検討事項となっています。例えば、チャットボットがポリシーを「ハルシネーション」したり、従業員が誤って機密データを露出させたり、アルゴリズムが誤って個人を詐欺と判定したりする事例は、責任あるAIの実践が急務であることを浮き彫りにしています。
私たちの最新の調査では、スタンフォード大学との協力により、19業界22か国にわたる1,000人の経営幹部を対象に、責任あるAIの浸透度の現状と、AIの潜在能力を最大限に引き出すために責任あるアプローチを採用する重要性を評価しています。
調査結果は、企業が責任あるAIを実装する準備が大幅に不足していることを示しています。ほとんどの企業は、自分たちが考えるほど責任あるAIの実践が進んでおらず、リスクを効果的に管理して大きな利益を得ている企業はごく少数にとどまっています。
AIに関連するリスクが増大し、規制の状況が変化する中で、責任あるAIは今日の急速に進化するテクノロジー環境において競争優位性を確保し、持続可能な成長を促進する上で重要な役割を果たすでしょう。
リスクがあるビジネス
私たちは、リスクにおける様相が次の3つの主要な領域で拡大し変化し続けることを発見しました。
生成AIはリスクの様相を一変させています。生成AI関連を中心にAI駆動によるインシデントが急増しており、全インシデントの約3分の2を占めるまでになりました。これにより、リスク軽減戦略の緊急性が浮き彫りになっています。
51%
の経営幹部が「最もリスクが高い」と指摘したのはプライバシーとデータガバナンスであり、次いでセキュリティ（47%）、信頼性（45%）が続きました。
AIに関する規制にはグローバル共通のアプローチがないため、多国籍企業にとってコンプライアンスはますます複雑化しています。この複雑さに加え、調査対象企業の90%が今後5年間でAI関連の法的義務を負うと予想しています。
77%
の調査対象企業がすでにAI規制に直面しているか、今後5年間で規制の対象となると予想しています。
企業がAIモデルの購入と開発の両方を始めるにあたり、それに伴うリスクにも備える必要があります。調査対象企業のほぼ3分の1（28%）が、購入と開発の両方の役目を有しています。
43%
AIモデルを取得している企業の43%が、規制チェックや第三者監査などの調達手段を整えています。
コンプライアンスを価値へ変える
これまで企業は、責任あるAIに対して価値を引き出すものというよりも、コンプライアンスの問題として扱っていました。しかし、幸いなことに考え方が変わりつつあります。調査対象のほぼ半数（49%）が、責任あるAIをAI関連の収益成長に寄与する重要な要素と見なしています。この意識の変化は前向きなステップですが、私たちはそれがどのように実行に移されているのか、また、回答者が責任あるAIの目標をどれほど達成しつつあるのかを理解したいと考えています。
責任あるAIの浸透度を再定義する
新しいAI時代における企業の責任あるAIの浸透度を測定するために、スタンフォード大学と共同で新しい4段階のフレームワークを開発しました。調査回答の分析に基づき、各組織をそれぞれのステージに配置し、組織の成熟度スコアと運用の成熟度スコアを別々に評価しました（定義は以下を参照してください。責任あるAIの取り組みがない企業は分析から除外しています）。
責任あるAIの浸透度におけるマイルストーン
今日のビジネス環境では、継続的な変化が新たな現実となっています。継続的な変化に対応するためには、ビジネスのあらゆる機能や構成要素で再創造の準備が整っている必要があります。責任あるAIも例外ではありません。
責任あるAIにおいて「再創造の準備が整っている」とはどういう意味でしょうか？ 興味深いことに、そのマイルストーンに到達した企業はまだありませんが、最初に到達する企業は責任あるAIの先駆者となるでしょう。彼らは責任あるAIの取り組みをプラットフォーム化して完全に運用し、より体系的で未来志向のアプローチをとりながらAIの真の価値を引き出すのです。
私たちは、最終的に再創造の準備が整うことにつながる、責任あるAIの浸透度の4つのマイルストーンを定義しました。
調査回答の分析によると、8%の組織が責任あるAIの原則を確立し、78%が責任あるAIプログラムを構築し、14%が責任あるAIを実践しています。現時点で責任あるAIの先駆者はいないという結果が出ています。
4つのステージについて詳しく知り、実際にどのように実践しているかの例を見るためには、ぜひレポート全文をお読みください。
責任あるAIのリアリティチェック: 企業は責任あるAIにどれほど準備できているか
私たちの調査によると、組織面、運用面、そして生成AIの浸透度を総合的に考慮した場合、大多数（78%）の企業が責任あるAIプログラムを確立しています。
より少数の企業、つまり14%が責任あるAIを実践しており、8%が責任あるAIの原則を設定することに着手し始めたばかりです。注目すべきことに、責任あるAIの先駆者となった企業は一つもありませんでした。
組織の浸透度（責任あるAIのプロセスと実践の範囲と効果）と運用の浸透度（責任あるAIの対策を採用している程度）を比較したところ、明らかなギャップが見られました。
このギャップについて詳しく知るためには、ぜひレポート全文をお読みください。
責任あるAIの先駆者の証
責任あるAIの浸透度に関しては、先駆者の段階に到達することが目標になるべきです。しかし、調査対象企業のごく少数（9%）が組織の浸透度において責任あるAIの先駆者である一方で、運用の浸透度においてその数はさらに少なく、1%未満となっています。
運用の浸透度と組織の浸透度を組み合わせて考えると、先駆者となった企業は存在しません。
では、責任あるAIの先駆者を先駆者たらしめるものは一体何なのでしょうか？ 私たちは3つの特徴を特定しました。これらについては、レポート全文で詳しく探求しています。
先駆者は:
- 予測者である
- 責任あるAIを設計段階から取り入れている
- 積極的なパートナーと協働している
準備、用意、成長：責任あるAIのための5つの優先事項
責任あるAIの原則を設定する企業は、責任あるAIのプログラムを確立したり実践したりする企業とは異なる優先事項を持つことになるでしょう。それにもかかわらず、私たちの調査とクライアントへの助言から、すべての企業が浸透度を向上させるために以下の5つの優先事項に注力することが有益であることがわかりました。
明確なポリシーとガイドラインを含む、包括的な責任あるAI戦略とロードマップを策定すること。私たちの調査によると、55%の企業がすでに責任あるAIの原則を確立しています。
組織がAIを使用することによってリスクが顕在化することを理解するのは、責任あるAIを運用化するための重要な要素です。調査対象の企業の多くは、直面するAI関連のリスク数を過小評価しているようです。これは、50%以上の企業が体系的なリスク識別プロセスを持っていないことを考えると驚くべきことではありません。
責任あるAIをテストしスケールする際、組織はAIのライフサイクルとバリューチェーン全体で広範なリスク軽減策を展開します。しかし、調査対象企業のうち、私たちが尋ねたリスクテストおよび軽減策の半分以上をスケールした企業はわずか19%にとどまりました。
専任のAI監視およびコンプライアンス機能を確立することは、特に生成AIに関して、組織内でAIモデルのコンプライアンス、倫理性、持続可能なパフォーマンスを確保するために重要です。にもかかわらず、43%の企業がまだ監視と制御のプロセスを完全に運用化しておらず、これが組織の浸透度の中で最も弱い要素となっています。さらに、生成AIのユーザーの52%は、いまだに監視、制御、または観測のいずれも行っていません。
責任あるAIプログラムを成功させるためには、労働力への影響、持続可能性、プライバシーおよびセキュリティプログラムに対する影響を企業全体で横断的に取り組む必要があります。調査対象企業の大多数（92%）は、従業員がリスク軽減において重要な役割を果たすことを認識しています。
かつて、責任あるAIの追求は単なるコンプライアンス上の後追いでしたが、その時代はとうに過ぎ去りました。今日の企業は、生成AIやその他のAIテクノロジーへの投資を最大限に活用するためには、責任あるAIを最優先に据える必要があることを理解しています。競争力を維持したいのであれば、企業は上記の5つの優先事項を受け入れ、責任あるAIの先駆者になる必要があります。これらの取り組みの一環として、企業は先を見据えた考え方を持ち、継続的な改善に取り組み、自社だけでなくバリューチェーン全体や広範なAIエコシステムに焦点を広げる必要があります。
責任あるAIの先駆者となることで得られる報酬は非常に大きく、AIのリスクを一貫して莫大なビジネス価値に変えることができます。