Verstehen und Implementieren des neuen britischen Verhaltenskodex für KI-Cybersicherheit: Ein praktischer Leitfaden

Der kürzlich veröffentlichte Code of Practice für KI-Cybersicherheit der britischen Regierung markiert einen bedeutenden Meilenstein bei der Bewältigung der einzigartigen Sicherheitsherausforderungen, die durch künstliche Intelligenzsysteme entstehen. Da Organisationen zunehmend KI in ihre Abläufe integrieren, ist das Verständnis und die Umsetzung dieses Code of Practice entscheidend, um eine robuste Cybersicherheitslage aufrechtzuerhalten und die Einhaltung neuer Standards sicherzustellen.

Der im Januar 2025 veröffentlichte britische Code of Practice für KI-Cybersicherheit stellt einen umfassenden Rahmen dar, der darauf abzielt, die spezifischen Sicherheitsherausforderungen von KI-Systemen zu adressieren. Mit einer überwältigenden Zustimmungsrate von 80 % der Befragten auf den Aufruf des Ministeriums für Wissenschaft, Innovation und Technologie zur Stellungnahme, legt dieser freiwillige Code grundlegende Sicherheitsanforderungen fest, die zukünftige Standards des Europäischen Instituts für Telekommunikationsnormen (ETSI) beeinflussen werden.

Für IT-, Risiko- und Compliance-Experten bietet dieser Rahmen wesentliche Leitlinien zur Sicherung von KI-Systemen während ihres gesamten Lebenszyklus, von der Entwicklung bis zur Stilllegung. Der umfassende Ansatz des Codes erkennt das komplexe Zusammenspiel zwischen traditionellen Cybersicherheitsmaßnahmen und den einzigartigen Herausforderungen durch KI-Technologien an.

In diesem Beitrag werden wir diesen neuen Rahmen erkunden und umsetzbare Schritte bereitstellen, um Ihrer Organisation zu helfen, die Richtlinien des Rahmens einzuhalten und sicherzustellen, dass Ihre sensiblen Daten vor KI-Aufnahme geschützt sind.

Wichtige Komponenten des Code of Practice

Der Code of Practice umfasst dreizehn grundlegende Prinzipien, die den gesamten Lebenszyklus eines KI-Systems abdecken. Diese Prinzipien bilden einen umfassenden Rahmen, der sowohl traditionelle Cybersicherheitsbedenken als auch KI-spezifische Herausforderungen adressiert. Lassen Sie uns diese Kernkomponenten im Detail betrachten.

Sicherheitsbewusstsein und Designprinzipien

Der Code beginnt mit der Betonung der Bedeutung des Sicherheitsbewusstseins für KI in Organisationen. Er fordert regelmäßige Sicherheits-Schulungsprogramme, die speziell auf KI-Systeme zugeschnitten sind, und verlangt von Organisationen, dass sie über aktuelle Bedrohungen und Schwachstellen informiert bleiben. Diese Grundlage des Bewusstseins unterstützt die nachfolgende Anforderung des Codes an Sicherheits-by-Design-Ansätze, bei denen Organisationen Sicherheit neben Funktionalität und Leistung von den frühesten Entwicklungsstadien eines KI-Systems an berücksichtigen müssen.

Bedrohungsbewertung und Risikomanagement

Im Zentrum des Codes steht die Anforderung an kontinuierliche Bedrohungsbewertung und Risikomanagement. Organisationen müssen umfassende Bedrohungsmodelle implementieren, die speziell KI-bezogene Angriffe wie Datenvergiftung, Modellinversion und Mitgliedschaftsinferenz adressieren. Der Code betont, dass traditionelle Risikomanagementansätze angepasst werden müssen, um KI-spezifische Schwachstellen und Angriffsvektoren zu berücksichtigen.

Menschliche Aufsicht und Verantwortung

In Anerkennung der einzigartigen Herausforderungen der Governance von KI-Systemen legt der Code klare Anforderungen an die menschliche Aufsicht fest. Organisationen müssen technische Maßnahmen implementieren, die eine sinnvolle menschliche Überwachung von KI-Systemen ermöglichen, um sicherzustellen, dass Ausgaben bewertet und verifiziert werden können. Dies umfasst die Interpretierbarkeit von Modellausgaben und die Etablierung klarer Verantwortlichkeiten für Systementscheidungen.

Asset-Management und Infrastruktursicherheit

Der Code verlangt rigorose Asset-Management-Praktiken, die Organisationen dazu verpflichten, umfassende Inventare von KI-bezogenen Assets, einschließlich Modellen, Trainingsdaten und zugehöriger Infrastruktur, zu führen. Er erstreckt sich auf die Infrastruktursicherheit und fordert spezifische Kontrollen für APIs, Entwicklungsumgebungen und Trainingspipelines. Dieser Abschnitt betont besonders die Notwendigkeit sicherer Zugriffskontrollen und Umgebungsabtrennung.

Lieferkettensicherheit und Dokumentation

In Anerkennung der Komplexität der Entwicklung von KI-Systemen enthält der Code spezifische Anforderungen an die Sicherheit der Lieferkette. Organisationen müssen sichere Software-Lieferkettenprozesse implementieren und detaillierte Dokumentationen der Modellkomponenten, Datenquellen und Systemänderungen führen. Dies umfasst Anforderungen an die kryptografische Verifizierung von Modellkomponenten und umfassende Prüfprotokolle.

Test- und Bereitstellungskontrollen

Der Code legt robuste Anforderungen an Tests und Bewertungen fest und fordert Sicherheitsbewertungen vor der Systembereitstellung. Organisationen müssen unabhängige Sicherheitstests durchführen und potenzielle Schwachstellen in Modellausgaben bewerten. Diese Anforderungen erstrecken sich auf Bereitstellungspraktiken, bei denen Organisationen klare Anleitungen für Endanwender bereitstellen und eine transparente Kommunikation über Systemfähigkeiten und -beschränkungen aufrechterhalten müssen.

Überwachungs- und Wartungsanforderungen

Die laufende Systemüberwachung bildet eine entscheidende Komponente des Codes, die Organisationen dazu verpflichtet, das Systemverhalten zu verfolgen, Aktivitäten zu protokollieren und Leistungsmuster zu analysieren. Dies umfasst die Überwachung auf Anomalien, die auf Sicherheitsverletzungen oder unerwartete Verhaltensänderungen hinweisen könnten. Der Code fordert auch regelmäßige Sicherheitsupdates und Patch-Management-Prozesse, die speziell auf KI-Systeme zugeschnitten sind.

Überlegungen zum Lebensende

Die letzte Komponente befasst sich mit der sicheren Stilllegung von Systemen und verlangt von Organisationen, ordnungsgemäße Verfahren zur Daten- und Modellentsorgung zu implementieren. Dies umfasst spezifische Anforderungen an die Übertragung des Eigentums an Trainingsdaten und Modellen, um sicherzustellen, dass Sicherheitsüberlegungen über die Betriebsdauer von KI-Systemen hinausgehen.

Durch diese Komponenten etabliert der Code einen umfassenden Rahmen, der die einzigartigen Sicherheitsherausforderungen von KI-Systemen anerkennt und praktische Leitlinien für die Implementierung bietet. Jedes Prinzip baut auf etablierten Cybersicherheitspraktiken auf und führt spezifische Anforderungen ein, die erforderlich sind, um die besonderen Merkmale von KI-Technologien zu adressieren.

Verständnis des Code of Practice und seiner Ziele

Der Code of Practice zielt speziell auf KI-Systeme ab, einschließlich solcher, die tiefe neuronale Netze und generative KI integrieren. Im Gegensatz zu traditionellen Software-Sicherheitsrahmenwerken adressiert dieser Code einzigartige KI-spezifische Schwachstellen und betriebliche Überlegungen über fünf zentrale Lebenszyklusphasen: sicheres Design, Entwicklung, Bereitstellung, Wartung und Lebensende.

Was diesen Rahmen auszeichnet, ist seine Anerkennung der besonderen Sicherheitsherausforderungen von KI. Traditionelle Software-Sicherheitsmaßnahmen, obwohl notwendig, erweisen sich als unzureichend, um gegen KI-spezifische Bedrohungen wie Datenvergiftung, Modellverschleierung und indirekte Prompt-Injection-Angriffe zu schützen. Der Code etabliert eine klare Hierarchie der Verantwortlichkeiten und definiert spezifische Rollen für verschiedene Akteure im KI-Ökosystem.

Der Rahmen erkennt Entwickler als Organisationen an, die KI-Modelle und -Systeme erstellen oder anpassen, während Systembetreiber die Verantwortung für die Bereitstellung und das laufende Management übernehmen. Datenverwalter spielen eine entscheidende Rolle bei der Kontrolle von Datenberechtigungen und der Wahrung der Integrität, indem sie mit Endanwendern zusammenarbeiten, die aktiv mit diesen Systemen interagieren. Der Code erkennt auch betroffene Entitäten an – jene Personen und Systeme, die indirekt von KI-Entscheidungen betroffen sind – und stellt so einen umfassenden Ansatz für Sicherheit und Verantwortung sicher.

Der wachsende Bedarf an KI-Sicherheitsstandards

Der Zeitpunkt des Code of Practice könnte nicht entscheidender sein. Da Organisationen schnell KI-Technologien übernehmen, haben sich die Angriffsfläche und die potenziellen Auswirkungen von Sicherheitsverletzungen dramatisch erweitert. KI-Systeme stellen einzigartige Sicherheitsherausforderungen dar, die traditionelle Cybersicherheitsrahmenwerke nicht ausreichend adressieren.

Datenvergiftung stellt eine der heimtückischsten Bedrohungen für die Integrität von KI-Systemen dar. Gegner können Trainingsdaten so manipulieren, dass die Modellintegrität beeinträchtigt wird, was möglicherweise zu voreingenommenen oder gefährlichen Ausgaben führt. Die Herausforderung besteht nicht nur darin, solche Angriffe zu verhindern, sondern sie zu erkennen, da die Auswirkungen möglicherweise erst nach der Bereitstellung offensichtlich werden.

Modellverschleierung stellt ein weiteres erhebliches Risiko dar. Böswillige Akteure können Modellarchitekturen ausnutzen, um unautorisierte Funktionen oder Hintertüren zu verbergen, wodurch Sicherheitslücken entstehen, die traditionelle Testprotokolle möglicherweise übersehen. Dieses Risiko wird besonders akut, da Modelle komplexer werden und ihre Entscheidungsprozesse undurchsichtiger werden.

Der Aufstieg großer Sprachmodelle und generativer KI hat neue Schwachstellen durch indirekte Prompt-Injection-Angriffe eingeführt. Diese ausgeklügelten Angriffe können KI-Systeme dazu bringen, unautorisierte oder schädliche Ausgaben zu erzeugen, indem sie traditionelle Sicherheitskontrollen umgehen und die Flexibilität ausnutzen, die diese Systeme wertvoll macht.

Implementierungsherausforderungen

Organisationen, die den Code of Practice umsetzen, stehen vor mehreren miteinander verbundenen Herausforderungen, die sorgfältige Überlegungen und strategische Planung erfordern. Die Anforderungen an die technische Infrastruktur erfordern erhebliche Aufmerksamkeit, da Organisationen sichere Entwicklungsumgebungen schaffen und umfassende Überwachungssysteme implementieren müssen. Diese Systeme müssen sichere Datenpipelines aufrechterhalten und gleichzeitig robuste Testrahmen während des gesamten KI-Lebenszyklus unterstützen.

Die Koordination der Beteiligten stellt eine weitere Komplexitätsebene dar. Organisationen müssen Verantwortlichkeiten über verschiedene Abteilungen hinweg abstimmen und gleichzeitig sicherstellen, dass klare Kommunikationskanäle offen und effektiv bleiben. Das Management von Drittparteienbeziehungen wird besonders wichtig, ebenso wie die Koordination von Sicherheitsreaktionen über Unternehmensgrenzen hinweg.

Die Ressourcenzuweisung erfordert ein sorgfältiges Gleichgewicht. Organisationen müssen in die Schulung und Weiterbildung von Mitarbeitern investieren und gleichzeitig Ressourcen für Sicherheitstools und -plattformen bereitstellen. Die Pflege von Dokumentationssystemen und die Unterstützung für kontinuierliche Überwachung und Updates erfordern ein nachhaltiges Engagement und Investitionen.

Wesentliche Maßnahmen für die Einhaltung des Code of Practice

Die erfolgreiche Umsetzung des Code of Practice erfordert von Organisationen mehrere entscheidende Maßnahmen. Zunächst müssen Organisationen umfassende KI-Sicherheitsschulungsprogramme einrichten. Der Code fordert regelmäßige Sicherheitsschulungen, die sich an spezifische Rollen innerhalb der Organisation anpassen. Diese Schulungen müssen sich kontinuierlich weiterentwickeln, da neue Bedrohungen auftauchen, um sicherzustellen, dass das Personal über aktuelle Kenntnisse zu KI-spezifischen Sicherheitsherausforderungen und -minderungsstrategien verfügt.

Risikomanagement bildet einen weiteren Eckpfeiler der Compliance. Organisationen müssen systematische Bedrohungsmodellierungsrahmen entwickeln und pflegen, die speziell KI-bezogene Schwachstellen adressieren. Dies erfordert regelmäßige Risikobewertungen, die nicht nur traditionelle Cybersicherheitsbedrohungen, sondern auch KI-spezifische Herausforderungen wie Modellmanipulation und Datenvergiftung berücksichtigen. Die Dokumentation von Risikoentscheidungen und Minderungsstrategien wird entscheidend, um die Compliance aufrechtzuerhalten und Sorgfaltspflichten nachzuweisen.

Der Schutz von Assets erfordert einen ausgeklügelten Ansatz gemäß dem Code of Practice. Organisationen müssen umfassende Inventare ihrer KI-Assets, einschließlich Modelle, Trainingsdaten und zugehöriger Infrastruktur, führen. Versionskontrolle wird besonders kritisch in KI-Systemen, bei denen Änderungen an Modellen oder Trainingsdaten weitreichende Auswirkungen auf die Systemsicherheit und -leistung haben können. Zugriffskontrollen müssen granular und kontextbewusst sein und sich an die spezifischen Anforderungen der Entwicklung und Bereitstellung von KI-Systemen anpassen.

Dokumentation erweist sich als kritische Komponente der Compliance. Organisationen müssen detaillierte Aufzeichnungen über ihre Systemarchitektur, Sicherheitskontrollen und Betriebsverfahren führen. Diese Dokumentation sollte klare Prüfprotokolle enthalten, die Änderungen an Modellen und Systemen verfolgen, umfassende Vorfallprotokolle und detaillierte Aufzeichnungen von Sicherheitsbewertungen und Abhilfemaßnahmen.

Überwachung stellt möglicherweise die dynamischste Anforderung des Codes dar. Organisationen müssen eine kontinuierliche Überwachung des Verhaltens ihrer KI-Systeme implementieren, Leistungsmetriken verfolgen und auf Anzeichen von Kompromittierung oder Manipulation achten. Diese Überwachung sollte über traditionelle Sicherheitsmetriken hinausgehen und KI-spezifische Indikatoren wie Modellverschiebung und unerwartete Ausgabemuster umfassen.

Implementierungsfahrplan

Organisationen sollten die Einhaltung des Code of Practice als phasenweise Reise und nicht als einzelnes Projekt betrachten. Die Bewertungsphase dauert in der Regel ein bis zwei Monate, in denen Organisationen ihre aktuellen KI-Systeme und Sicherheitskontrollen gründlich evaluieren. Diese Bewertung sollte Lücken in den aktuellen Sicherheitsmaßnahmen identifizieren und bestehende Prozesse dokumentieren, um die Grundlage für die nachfolgende Planung zu bilden.

Die Planungsphase, die typischerweise zwei bis drei Monate dauert, konzentriert sich auf die Entwicklung einer umfassenden Implementierungsstrategie. Dies umfasst die Ressourcenzuweisung, die Entwicklung von Schulungsprogrammen und die Einrichtung von Überwachungssystemen. Organisationen sollten besonderes Augenmerk darauf legen, neue Sicherheitskontrollen in bestehende Infrastrukturen zu integrieren.

Die Implementierung stellt die intensivste Phase dar und erfordert in der Regel drei bis sechs Monate. In dieser Zeit setzen Organisationen Sicherheitskontrollen um, führen Schulungsprogramme durch und etablieren Dokumentationssysteme. Der Fokus sollte darauf liegen, die betriebliche Kontinuität aufrechtzuerhalten und gleichzeitig Sicherheitsmaßnahmen zu verbessern.

Überprüfung und Optimierung gehen unendlich weiter, da Organisationen regelmäßig ihre Sicherheitslage bewerten und ihre Kontrollen als Reaktion auf neue Bedrohungen aktualisieren müssen. Dieser fortlaufende Prozess umfasst regelmäßige Sicherheitsbewertungen, Richtlinienaktualisierungen und kontinuierliche Mitarbeiterschulungen.

Kiteworks unterstützt Organisationen bei der Einhaltung des neuen britischen Code of Practice mit einem AI Data Gateway

Der britische Code of Practice für KI-Cybersicherheit stellt einen entscheidenden Schritt zur Sicherung von KI-Systemen dar. Obwohl Implementierungsherausforderungen bestehen, sind Organisationen, die einen systematischen Ansatz zur Compliance verfolgen, besser positioniert, um ihre KI-Assets zu schützen und die gesetzlichen Vorgaben einzuhalten.

Erfolg erfordert einen umfassenden Ansatz, der technische Kontrollen, robuste Prozesse und ein kontinuierliches Engagement für Sicherheit kombiniert. Durch den Einsatz von Tools wie dem Kiteworks AI Data Gateway können Organisationen ihre Compliance-Reise beschleunigen und gleichzeitig die Sicherheit und Integrität ihrer KI-Systeme gewährleisten.

Organisationen sollten ihre Compliance-Reise jetzt beginnen, auch wenn der Code freiwillig ist, da er wahrscheinlich zukünftige verbindliche Standards beeinflussen wird und die aktuellen Best Practices in der KI-Sicherheit darstellt. Die Investition in Compliance heute wird sich morgen in verbesserter Sicherheit, gesteigerter betrieblicher Effizienz und reduzierter Risikobelastung auszahlen.

Das Kiteworks AI Data Gateway bietet wesentliche Funktionen, die perfekt mit den Anforderungen des Codes übereinstimmen. Durch seine sichere AI-Datenzugriffsfunktionalität implementiert die Plattform eine zero trust Architektur, die direkt Prinzip 6 des Codes unterstützt. Diese Architektur stellt sicher, dass jede Datenzugriffsanfrage überprüft wird, unabhängig von ihrer Quelle, und gleichzeitig die strengen Zugriffskontrollen gemäß Prinzip 5 aufrechterhält.

Governance- und Compliance-Funktionen, die in die Kiteworks-Plattform integriert sind, adressieren mehrere kritische Anforderungen des Codes. Das System erzwingt automatisch Sicherheitsrichtlinien und führt detaillierte Prüfprotokolle, die die Dokumentationsanforderungen von Prinzip 12 erfüllen. Echtzeit-Überwachungsfunktionen ermöglichen es Organisationen, potenzielle Sicherheitsvorfälle schnell zu verfolgen und darauf zu reagieren.

Der Datenschutz wird durch Ende-zu-Ende-Verschlüsselung und ausgeklügeltes Zugriffstracking umfassend behandelt. Die Plattform führt detaillierte Aufzeichnungen über alle Datenzugriffe und -übertragungen, sodass Organisationen die Einhaltung der Datenschutzanforderungen nachweisen und gleichzeitig die betriebliche Effizienz aufrechterhalten können.

Die Unterstützung der Plattform für Retrieval-Augmented Generation (RAG) erweist sich als besonders wertvoll für Organisationen, die KI-Systeme implementieren. Durch die Ermöglichung eines sicheren Datenabrufs bei gleichzeitiger Aufrechterhaltung strenger Zugriffskontrollen ermöglicht Kiteworks Organisationen, die Modellgenauigkeit zu verbessern, ohne die Sicherheit zu gefährden. Diese Fähigkeit wird zunehmend wichtig, da Organisationen die KI-Leistung verbessern und gleichzeitig die Einhaltung des Codes sicherstellen möchten.

Für weitere Informationen zur Implementierung des Code of Practice oder um zu besprechen, wie Kiteworks Ihre Compliance-Reise unterstützen kann, kontaktieren Sie unser Team von Sicherheitsexperten.

Mit dem Kiteworks Private Content Network schützen Organisationen ihre sensiblen Inhalte vor KI-Risiken mit einem zero trust Ansatz für generative KI. Das Kiteworks AI Data Gateway bietet eine nahtlose Lösung für sicheren Datenzugriff und effektive Daten-Governance, um Risiken von Datenschutzverstößen zu minimieren und die Einhaltung gesetzlicher Vorgaben nachzuweisen. Kiteworks bietet inhaltsdefinierte zero trust Kontrollen, die den Zugriff mit minimalen Rechten auf der Inhaltsebene definieren und Next-Gen-DRM-Funktionen bieten, die Downloads vor KI-Aufnahme blockieren.

Mit einem Schwerpunkt auf sicherem Datenzugriff und strenger Governance ermöglicht Kiteworks Ihnen, KI-Technologien zu nutzen und gleichzeitig die Integrität und Vertraulichkeit Ihrer Daten-Assets zu wahren.

Um mehr über Kiteworks und den Schutz Ihrer sensiblen Daten vor KI-Aufnahme zu erfahren, vereinbaren Sie noch heute eine individuelle Demo.

Zusätzliche Ressourcen

• Blogbeitrag Kiteworks: Stärkung von KI-Fortschritten mit Datensicherheit
• Pressemitteilung Kiteworks als Gründungsmitglied des NIST Artificial Intelligence Safety Institute Consortium benannt
• Blogbeitrag US Executive Order zu künstlicher Intelligenz fordert sichere, vertrauenswürdige Entwicklung
• Blogbeitrag Ein umfassender Ansatz zur Verbesserung der Datensicherheit und des Datenschutzes in KI-Systemen
• Blogbeitrag Vertrauen in generative KI mit einem Zero Trust Ansatz aufbauen