英国のAIサイバーセキュリティ新実務規範の理解と実施：実践ガイド

英国政府が最近発表したAIサイバーセキュリティの実践規範は、人工知能システムがもたらす独自のセキュリティ課題に対処する上で重要なマイルストーンとなります。組織がAIを業務にますます統合する中、この実践規範を理解し実施することは、強固なサイバーセキュリティ体制を維持し、新たな基準へのコンプライアンスを確保するために重要です。

2025年1月に発表された英国のAIサイバーセキュリティの実践規範は、AIシステムがもたらす特有のセキュリティ課題に対処するために設計された包括的なフレームワークを表しています。科学技術省の意見募集に対する回答者の80%が支持したこの任意の規範は、将来の欧州電気通信標準化機構（ETSI）の基準に影響を与える基礎的なセキュリティ要件を確立しています。

IT、リスク、コンプライアンスの専門家にとって、このフレームワークは、設計から廃止までAIシステムを保護するための重要なガイダンスを提供します。この実践規範の包括的なアプローチは、従来のサイバーセキュリティ対策とAI技術がもたらす独自の課題との複雑な相互作用を認識しています。

この投稿では、この新しいフレームワークを探り、組織がフレームワークのガイドラインに従って機密データをAIの取り込みから保護するための実行可能なステップを提供します。

実践規範の主要コンポーネント

実践規範は、AIシステムのライフサイクル全体にわたる13の基本原則で構成されています。これらの原則は、従来のサイバーセキュリティの懸念とAI特有の課題の両方に対処する包括的なフレームワークを形成しています。これらの主要コンポーネントを詳しく見ていきましょう。

セキュリティ意識と設計原則

この規範は、組織全体でのAIセキュリティ意識の重要性を強調することから始まります。AIシステムに特化した定期的なセキュリティトレーニングプログラムを義務付け、組織が新たな脅威や脆弱性に関する最新の知識を維持することを求めています。この意識の基盤は、AIシステム開発の初期段階から機能性やパフォーマンスと並行してセキュリティを考慮するセキュリティ・バイ・デザインアプローチの要件を支えています。

脅威評価とリスク管理

この規範の中心には、継続的な脅威評価とリスク管理の要件があります。組織は、データポイズニング、モデル反転、メンバーシップ推論を含むAI関連の攻撃に特化した包括的な脅威モデリングを実施する必要があります。この規範は、従来のリスク管理アプローチをAI特有の脆弱性や攻撃ベクトルに対応するように適応させる必要があることを強調しています。

人間の監督と責任

AIシステムのガバナンスの独自の課題を認識し、この規範は人間の監督に関する明確な要件を確立しています。組織は、AIシステムの出力を評価し検証できるようにする技術的措置を実施しなければなりません。これには、モデルの出力を解釈可能にし、システムの決定に対する明確な責任のラインを確立することが含まれます。

資産管理とインフラセキュリティ

この規範は、厳格な資産管理の実践を義務付け、組織がモデル、トレーニングデータ、関連インフラを含むAI関連資産の包括的なインベントリを維持することを求めています。インフラセキュリティにも及び、API、開発環境、トレーニングパイプラインに対する特定の制御を要求しています。このセクションは特に、アクセス制御と環境分離の必要性を強調しています。

サプライチェーンセキュリティと文書化

AIシステム開発の複雑さを認識し、この規範にはサプライチェーンセキュリティに関する特定の要件が含まれています。組織は、安全なソフトウェアサプライチェーンプロセスを実施し、モデルコンポーネント、トレーニングデータソース、システム変更の詳細な文書を維持する必要があります。これには、モデルコンポーネントの暗号学的検証と包括的な監査トレイルの要件が含まれます。

テストと展開の制御

この規範は、システム展開前のセキュリティ評価を義務付ける堅牢なテストと評価の要件を確立しています。組織は独立したセキュリティテストを実施し、モデル出力の潜在的な脆弱性を評価しなければなりません。これらの要件は展開の実践にも及び、組織はエンドユーザーに明確なガイダンスを提供し、システムの能力と制限について透明なコミュニケーションを維持する必要があります。

監視と保守の要件

継続的なシステム監視は、この規範の重要なコンポーネントを形成し、組織がシステムの動作を追跡し、活動を記録し、パフォーマンスパターンを分析することを要求しています。これには、セキュリティ侵害や予期しない動作の変化を示す可能性のある異常の監視が含まれます。この規範はまた、AIシステムに特化した定期的なセキュリティ更新とパッチ管理プロセスを義務付けています。

ライフサイクル終了時の考慮事項

最後のコンポーネントは、安全なシステムの廃止を扱い、組織が適切なデータとモデルの廃棄手続きを実施することを要求しています。これには、トレーニングデータとモデルの所有権の移転に関する特定の要件が含まれ、AIシステムの運用期間を超えてセキュリティの考慮が及ぶことを保証します。

これらのコンポーネントを通じて、この規範はAIシステムの独自のセキュリティ課題を認識しながら、実施のための実用的なガイダンスを提供する包括的なフレームワークを確立しています。各原則は、確立されたサイバーセキュリティの実践に基づいて構築され、AI技術の特有の特性に対処するために必要な特定の要件を導入しています。

実践規範とその目的の理解

この実践規範は、ディープニューラルネットワークや生成AIを組み込んだAIシステムを特に対象としています。従来のソフトウェアセキュリティフレームワークとは異なり、この規範は、セキュアな設計、開発、展開、保守、ライフサイクル終了の5つの主要なライフサイクルフェーズにわたるAI特有の脆弱性と運用上の考慮事項に対処しています。

このフレームワークを際立たせるのは、AIの独自のセキュリティ課題を認識している点です。従来のソフトウェアセキュリティ対策は必要ですが、データポイズニング、モデルの難読化、間接的なプロンプトインジェクション攻撃などのAI特有の脅威に対する保護には不十分です。この規範は、AIエコシステム内のさまざまな利害関係者に対する特定の役割を定義し、責任の明確な階層を確立しています。

このフレームワークは、AIモデルやシステムを作成または適応させる組織としての開発者を認識し、システムオペレーターは展開と継続的な管理の責任を負います。データ管理者は、データの許可を管理し、整合性を維持する上で重要な役割を果たし、これらのシステムと積極的に関与するエンドユーザーと協力します。この規範はまた、AIの決定によって間接的に影響を受ける個人やシステムである影響を受けるエンティティを認識し、セキュリティと責任に対する包括的なアプローチを保証します。

AIセキュリティ基準の必要性の高まり

この実践規範のタイミングは非常に重要です。組織がAI技術を急速に採用する中で、攻撃の対象範囲とセキュリティ侵害の潜在的な影響が劇的に拡大しています。AIシステムは、従来のサイバーセキュリティフレームワークでは十分に対処できない独自のセキュリティ課題を提示します。

データポイズニングは、AIシステムの整合性に対する最も陰湿な脅威の1つです。敵対者は、モデルの整合性を損なう方法でトレーニングデータを操作し、偏ったまたは危険な出力をもたらす可能性があります。このような攻撃を防ぐだけでなく、展開後にその影響が明らかになる可能性があるため、検出することが課題です。

モデルの難読化は、別の重大なリスクを提示します。悪意のあるアクターは、モデルのアーキテクチャを悪用して、許可されていない機能やバックドアを隠し、従来のテストプロトコルが見逃す可能性のあるセキュリティ脆弱性を作り出すことがあります。このリスクは、モデルがより複雑になり、その意思決定プロセスがより不透明になるにつれて特に深刻になります。

大規模な言語モデルと生成AIの台頭は、間接的なプロンプトインジェクション攻撃を通じて新たな脆弱性をもたらしました。これらの高度な攻撃は、AIシステムを操作して許可されていないまたは有害な出力を生成させ、従来のセキュリティ制御を回避し、これらのシステムを価値あるものにする柔軟性を悪用します。

実施の課題

実践規範を実施する組織は、慎重な考慮と戦略的計画を必要とするいくつかの相互に関連する課題に直面しています。技術インフラの要件は大きな注意を要し、組織は安全な開発環境を確立し、包括的な監視システムを実施しなければなりません。これらのシステムは、AIライフサイクル全体を通じて堅牢なテストフレームワークをサポートしながら、安全なデータパイプラインを維持する必要があります。

利害関係者の調整は、別の複雑さの層を提示します。組織は、異なる部門間で責任を整合させ、明確なコミュニケーションチャネルが開かれ、効果的であることを保証しなければなりません。第三者との関係の管理は特に重要であり、組織の境界を越えたセキュリティ対応の調整も同様に重要です。

リソースの配分には慎重なバランスが必要です。組織は、スタッフのトレーニングとスキルアップに投資しながら、セキュリティツールとプラットフォームにリソースを割り当てる必要があります。文書化システムの維持と継続的な監視と更新のサポートには、持続的なコミットメントと投資が求められます。

実践規範コンプライアンスのための重要な行動

実践規範の成功した実施には、組織がいくつかの重要な行動を取る必要があります。まず第一に、組織は包括的なAIセキュリティトレーニングプログラムを確立しなければなりません。この規範は、組織内の特定の役割に適応する定期的なセキュリティトレーニングを義務付けています。このトレーニングは、新たな脅威が出現するにつれて継続的に進化し、スタッフがAI特有のセキュリティ課題と緩和戦略に関する最新の知識を維持することを保証します。

リスク管理は、コンプライアンスのもう1つの基盤を形成します。組織は、AI関連の脆弱性に特化した体系的な脅威モデリングフレームワークを開発し、維持する必要があります。これには、従来のサイバーセキュリティの脅威だけでなく、モデル操作やデータポイズニングなどのAI特有の課題も考慮した定期的なリスク評価が含まれます。リスクの決定と緩和戦略の文書化は、コンプライアンスを維持し、デューデリジェンスを示すために重要です。

資産保護は、実践規範の下で洗練されたアプローチを必要とします。組織は、モデル、トレーニングデータ、関連インフラを含むAI資産の包括的なインベントリを維持しなければなりません。バージョン管理は、モデルやトレーニングデータの変更がシステムのセキュリティとパフォーマンスに広範な影響を与える可能性があるAIシステムにおいて特に重要です。アクセス制御は、AIシステムの開発と展開の特定の要件に適応するために、細かく文脈に応じたものでなければなりません。

文書化は、コンプライアンスの重要なコンポーネントとして浮上しています。組織は、システムアーキテクチャ、セキュリティ制御、運用手順の詳細な記録を維持しなければなりません。この文書化には、モデルとシステムの変更を追跡する明確な監査トレイル、包括的なインシデントログ、セキュリティ評価と是正措置の詳細な記録が含まれるべきです。

監視は、おそらくこの規範の最も動的な要件です。組織は、AIシステムの動作を継続的に監視し、パフォーマンス指標を追跡し、妥協や操作の兆候を監視しなければなりません。この監視は、従来のセキュリティ指標を超えて、モデルのドリフトや予期しない出力パターンなどのAI特有の指標を含むべきです。

実施ロードマップ

組織は、実践規範のコンプライアンスを単一のプロジェクトではなく、段階的な旅としてアプローチするべきです。評価フェーズは通常1〜2か月を要し、組織は現在のAIシステムとセキュリティ制御を徹底的に評価します。この評価は、現在のセキュリティ対策のギャップを特定し、既存のプロセスを文書化し、後続の計画の基盤を形成します。

計画フェーズは通常2〜3か月続き、包括的な実施戦略の開発に焦点を当てます。これには、リソースの配分、トレーニングプログラムの開発、監視システムの確立が含まれます。組織は、このフェーズで新しいセキュリティ制御を既存のインフラと統合することに特に注意を払うべきです。

実施は通常3〜6か月を要する最も集中的なフェーズを表します。この期間中、組織はセキュリティ制御を展開し、トレーニングプログラムを実施し、文書化システムを確立します。運用の継続性を維持しながら、セキュリティ対策を強化することに焦点を当てるべきです。

レビューと最適化は無期限に続き、組織は定期的にセキュリティ体制を評価し、新たな脅威に対応して制御を更新しなければなりません。この継続的なプロセスには、定期的なセキュリティ評価、ポリシーの更新、継続的なスタッフトレーニングが含まれます。

KiteworksがAIデータゲートウェイで英国の新しい実践規範の遵守を支援

英国のAIサイバーセキュリティの実践規範は、AIシステムのセキュリティを強化するための重要な一歩を表しています。実施の課題は存在しますが、体系的なアプローチを取る組織は、AI資産を保護し、規制コンプライアンスを維持するためにより良い位置に立つことができます。

成功には、技術的な制御、堅牢なプロセス、セキュリティへの継続的なコミットメントを組み合わせた包括的なアプローチが必要です。Kiteworks AIデータゲートウェイのようなツールを活用することで、組織はコンプライアンスの旅を加速し、AIシステムのセキュリティと整合性を確保することができます。

この規範は現在任意ですが、将来の必須基準に影響を与える可能性があり、AIセキュリティの現在のベストプラクティスを表しています。今日のコンプライアンスへの投資は、明日のセキュリティの強化、運用効率の向上、リスクの露出の減少に貢献します。

Kiteworks AIデータゲートウェイは、この規範の要件に完全に一致する重要な機能を提供します。その安全なAIデータアクセス機能を通じて、プラットフォームは規範の原則6を直接サポートするゼロトラストアーキテクチャを実装しています。このアーキテクチャは、原則5で要求される厳格なアクセス制御を維持しながら、データアクセス要求をそのソースに関係なく検証します。

Kiteworksプラットフォームに組み込まれたガバナンスとコンプライアンス機能は、この規範のいくつかの重要な要件に対応しています。システムはセキュリティポリシーを自動的に施行し、原則12の文書化要件を満たす詳細な監査ログを維持します。リアルタイムの監視機能により、組織は潜在的なセキュリティインシデントを迅速に追跡し対応することができます。

データ保護は、エンドツーエンドの暗号化と高度なアクセス追跡を通じて包括的に扱われます。プラットフォームはすべてのデータアクセスと送信の詳細な記録を維持し、データ保護要件を満たしながら運用効率を維持することを可能にします。

プラットフォームのRetrieval-Augmented Generation（RAG）サポートは、AIシステムを実装する組織にとって特に価値があります。厳格なアクセス制御を維持しながら安全なデータ取得を可能にすることで、Kiteworksはセキュリティを損なうことなくモデルの精度を向上させることができます。この機能は、組織がAIのパフォーマンスを向上させながら、規範のコンプライアンスを維持しようとする中でますます重要になります。

実践規範の実施についての詳細や、Kiteworksがコンプライアンスの旅をサポートする方法について話し合うために、当社のセキュリティ専門家チームにお問い合わせください。

Kiteworksのプライベートコンテンツネットワークを使用することで、組織はゼロトラストアプローチで生成AIから機密コンテンツを保護します。KiteworksのAIデータゲートウェイは、安全なデータアクセスと効果的なデータガバナンスのためのシームレスなソリューションを提供し、データ侵害のリスクを最小限に抑え、規制コンプライアンスを実証します。Kiteworksは、コンテンツ層で定義された最小特権アクセスと、AIの取り込みを防ぐ次世代DRM機能を備えたコンテンツ定義のゼロトラスト制御を提供します。

安全なデータアクセスと厳格なガバナンスを重視することで、KiteworksはAI技術を活用しながら、データ資産の整合性と機密性を維持する力を提供します。

KiteworksとAIの取り込みから機密データを保護する方法について詳しく知るには、カスタムデモをスケジュールしてください。

追加リソース

• ブログ投稿 Kiteworks: データセキュリティでAIの進歩を強化
• プレスリリース Kiteworks、NIST人工知能安全性研究所コンソーシアムの創設メンバーに選出
• ブログ投稿 人工知能に関する米国大統領令、安全で信頼できる開発を要求
• ブログ投稿 AIシステムにおけるデータセキュリティとプライバシーの強化に向けた包括的アプローチ
• ブログ投稿 ゼロトラストアプローチで生成AIに信頼を築く