新たな環境における脅威モデルへの適応は、データセキュリティにおける不断の課題です。AIは新たな課題を生み出しており、効果的に対処するためには、従来とは異なるアプローチが求められます。最新の調査により、データセキュリティプログラムが成熟した組織においてさえ、共通の盲点が存在することが明らかになりました。規制業界の企業の大半は、従来型のユースケースにおいて有効なデータセキュリティプログラムを有しています。とはいえ、AIには新たな領域も含む拡張された脅威モデルが求められます。これらの領域では、追加の対策を行う必要があり、データが危険に晒される可能性もあります。
新たな技術に共通する課題は、そのセキュリティの影響を完全に理解することです。企業は多くの場合、既存のセキュリティ対策を新たな環境にも拡張しようとする傾向を強く持っています。ワークロードがクラウドに移行する中、従来型のセキュリティツールによる適応が試みられましたが、クラウドのスケール、自動化、および抽象化により新たな課題が生み出されました。開発者はオンプレミス環境に存在したガードレールなしでインフラにアクセス可能となり、新たなセキュリティリスクが生じました。AIも同様の課題を呈しており、過去の移行事例から学ぶことが一層重要になっています。AIの導入は急速に進展しているだけでなく、組織横断的に多様なユーザー層が対象となりつつあります。
Verizonが委託し、451 Researchが実施した「Verizon AI at Scale」調査は、示唆に富む対照的な傾向を浮き彫りにしています。上級管理職へのインタビューでは、AIセキュリティ問題に対する懸念が表明される一方、多くの場合、オンプレミスでの導入と既存のデータ保護対策でリスクを管理できるとの見解が示されました。この見解は、AI実装担当者の予想とは対照的です。実装担当者たちは、今後2年間でインフラ全体に求められる最大の変化領域としてセキュリティ機能を挙げており、コンピュート、ストレージ、ネットワーキングの必要性を上回ると考えています。セキュリティは、上級管理職とAI実装担当者の双方が変化を予測する唯一のカテゴリーであり、かつ期待される変化の度合いが最も高い領域です。
AIの能力を享受しつつリスクを管理するため、組織はセキュリティに関する計画を拡張する必要があります。データベースのセキュリティ対策とは異なり、AIのアクセスと認証の管理においては、データの処理方法や統合プロセス、さらにデータが通過する可能性のある新たな経路について理解することが求められます。データ入力制御には、既存の攻撃手法への対策を維持しつつ、より複雑な文脈を統合する必要があります。モデルの保護には、従来のアプリケーションセキュリティの枠組みを超えた対策が必要です。出力データを入力データと関連付ける必要があり、これには精度を把握するためだけでなく、悪用を検知する目的も含まれます。
AIシステムの導入・運用アーキテクチャには、予期しないさらなるリスクが内在しています。補助データでモデルを強化する場合（検索拡張生成（RAG）アーキテクチャなど）、リスクを伴うデータベースアクセスが発生する可能性があります。モデルが目的を達成するためには広範なデータアクセスが必要となる場合があり、アクセス権の過剰付与が懸念事項として挙げられます。モデルへのプロンプトにより、通常は個々のユーザーに割り当てられたロールの制限によって分離されているはずのデータの関連性（顧客IDと注文データの紐付けなど）が露呈するリスクが生じ得ます。同様に、モデル生成クエリの大量処理を可能にするため、データ量制御や行動ベースのアクセス制御が迂回されるケースがあり得ます。これは通常、個別ユーザーには許可されない特例的な措置です。例えば、通常のユーザーが顧客データの完全なリストを抽出することは厳禁である一方、AIモデルにはそのようなアクセス権が付与される場合があります。
AIアプリケーションの主な強みは、分散された複数ソースからの大規模データを統合できる点にあります。とはいえ、匿名化されたデータからモデルが関係性を推測する可能性がある点がしばしば予期せぬ課題となります。組織がデータの匿名化に努める一方で、モデルは匿名化が防ごうとした関連性を再構築する可能性があります。マスキングやフィールド制限では不十分な場合があり、完全に合成されたデータが必要となる可能性があります。
他のデータソースと同様に、AIモデルは価値あるデータを集中させるため、リスクを増大させます。例えば、データベースへの不正アクセスは、成功すれば豊富な情報が得られるため、攻撃者にとっては貴重な標的となります。しかし、データベースとは異なり、AIモデルは推論を行うポイントに分散されて機能します。データベースは境界防御で保護できますが、AIのスケールで保護策を分散管理するのは極めて困難な場合があります。
AIは、企業の効率と効果を向上させる大きな可能性を秘めており、AIの活用は競争上の必須要件となっています。組織は、AIの導入が逆に足かせとならないよう、拡張されたセキュリティ思考を適用する必要があります。効果的な保護を実現するには、AIが生み出す新たな脅威モデルを十分に理解し、発生するリスクを軽減するアプローチが求められます。
Eric Hanselman (エリック・ハンセルマン) 451 Researchプリンシパルリサーチアナリスト
Eric Hanselmanは、S&P Global Market Intelligenceのチーフアナリストです。彼は、情報セキュリティ、ネットワーク、半導体といった多岐にわたる専門分野、ならびにSDN/NFV、5G、エッジコンピューティングなどの融合領域における豊富な実務知見を活かし、テクノロジー、メディア、通信という幅広いポートフォリオにわたる業界分析を統括しています。
さらに、S&P Globalのクライアントがこうした混迷する状況を乗り切り、潜在的な成果を最大限に活用できるよう支援しています。彼は、米国電気電子技術者協会（IEEE）の正会員、公認情報システムセキュリティ専門職（CISSP）認定者であり、VMware認定プロフェッショナル（VCP）の資格も有しています。また、業界の主要なカンファレンスでも頻繁に講演を行っており、テクノロジー ポッドキャスト「Next in Tech」のホストも務めています。
さらに詳しく見る
Part 1 スケーラブルなAIインフラの構築
スケーラブルでセキュア、かつモジュール型のAIインフラが企業によるAI導入の成功に不可欠な理由と、ハイブリッドモデルが進化するニーズにどう対応できるかをご紹介します。
パート 2 AI時代のデータセキュリティ：新たなリスクへの適応
AIがデータセキュリティにどのような変革をもたらしているかを解説します。新たなリスクや進化する脅威モデル、AI環境下で機密データを守るための戦略をご紹介します。