Comprendiendo e Implementando el Nuevo Código de Prácticas del Reino Unido para la Ciberseguridad de IA: Una Guía Práctica

El Código de Prácticas para la Ciberseguridad de la IA recientemente publicado por el gobierno del Reino Unido marca un hito significativo en la atención a los desafíos únicos de seguridad que plantean los sistemas de inteligencia artificial. A medida que las organizaciones integran cada vez más la IA en sus operaciones, comprender e implementar este Código de Prácticas se ha vuelto crucial para mantener posturas de ciberseguridad robustas y asegurar el cumplimiento con los estándares emergentes.

El Código de Prácticas para la Ciberseguridad de la IA del Reino Unido, publicado en enero de 2025, representa un marco integral diseñado para abordar los desafíos de seguridad específicos que presentan los sistemas de IA. Con una abrumadora tasa de aprobación del 80% de los encuestados en la Consulta de Opiniones del Departamento de Ciencia, Innovación y Tecnología, este código voluntario establece requisitos de seguridad básicos que informarán los futuros estándares del Instituto Europeo de Normas de Telecomunicaciones (ETSI).

Para los profesionales de TI, riesgo y cumplimiento, este marco proporciona orientación esencial para asegurar los sistemas de IA a lo largo de su ciclo de vida, desde el diseño hasta la desactivación. El enfoque integral del Código reconoce la compleja interacción entre las medidas tradicionales de ciberseguridad y los desafíos únicos que presentan las tecnologías de IA.

En este artículo, exploraremos este nuevo marco y proporcionaremos pasos prácticos para ayudar a tu organización a adherirse a las directrices del marco para asegurar que tus datos sensibles estén protegidos de la ingestión de IA.

Componentes Clave del Código de Prácticas

El Código de Prácticas comprende trece principios fundamentales que abarcan todo el ciclo de vida del sistema de IA. Estos principios forman un marco integral que aborda tanto las preocupaciones tradicionales de ciberseguridad como los desafíos específicos de la IA. Examinemos estos componentes centrales en detalle.

Conciencia de Seguridad y Principios de Diseño

El Código comienza enfatizando la importancia de la conciencia de seguridad en IA en todas las organizaciones. Exige programas de capacitación en seguridad regulares específicamente adaptados a los sistemas de IA, requiriendo que las organizaciones mantengan un conocimiento actualizado de las amenazas y vulnerabilidades emergentes. Esta base de conciencia respalda el requisito subsiguiente del Código para enfoques de seguridad desde el diseño, donde las organizaciones deben considerar la seguridad junto con la funcionalidad y el rendimiento desde las etapas más tempranas del desarrollo del sistema de IA.

Evaluación de Amenazas y Gestión de Riesgos

Central en el Código es el requisito de evaluación continua de amenazas y gestión de riesgos. Las organizaciones deben implementar un modelado de amenazas integral que aborde específicamente los ataques relacionados con la IA, incluyendo el envenenamiento de datos, la inversión de modelos y la inferencia de membresía. El Código enfatiza que los enfoques tradicionales de gestión de riesgos deben adaptarse para tener en cuenta las vulnerabilidades y vectores de ataque específicos de la IA.

Supervisión Humana y Responsabilidad

Reconociendo los desafíos únicos de la gobernanza de sistemas de IA, el Código establece requisitos claros para la supervisión humana. Las organizaciones deben implementar medidas técnicas que permitan una supervisión humana significativa de los sistemas de IA, asegurando que los resultados puedan ser evaluados y verificados. Esto incluye hacer que los resultados del modelo sean interpretables y establecer líneas claras de responsabilidad para las decisiones del sistema.

Gestión de Activos y Seguridad de Infraestructura

El Código exige prácticas rigurosas de gestión de activos, requiriendo que las organizaciones mantengan inventarios completos de activos relacionados con la IA, incluidos modelos, datos de entrenamiento e infraestructura asociada. Se extiende a la seguridad de la infraestructura, exigiendo controles específicos para APIs, entornos de desarrollo y flujos de entrenamiento. Esta sección enfatiza particularmente la necesidad de controles de acceso seguros y separación de entornos.

Seguridad de la Cadena de Suministro y Documentación

Reconociendo la complejidad del desarrollo de sistemas de IA, el Código incluye requisitos específicos para la seguridad de la cadena de suministro. Las organizaciones deben implementar procesos seguros de cadena de suministro de software y mantener documentación detallada de los componentes del modelo, fuentes de datos de entrenamiento y cambios del sistema. Esto incluye requisitos para la verificación criptográfica de componentes del modelo y registros de auditoría completos.

Controles de Pruebas e Implementación

El Código establece requisitos robustos para pruebas y evaluación, exigiendo evaluaciones de seguridad antes de la implementación del sistema. Las organizaciones deben realizar pruebas de seguridad independientes y evaluar posibles vulnerabilidades en los resultados del modelo. Estos requisitos se extienden a las prácticas de implementación, donde las organizaciones deben proporcionar orientación clara a los usuarios finales y mantener una comunicación transparente sobre las capacidades y limitaciones del sistema.

Requisitos de Monitoreo y Mantenimiento

El monitoreo continuo del sistema forma un componente crucial del Código, requiriendo que las organizaciones rastreen el comportamiento del sistema, registren actividades y analicen patrones de rendimiento. Esto incluye monitorear anomalías que puedan indicar violaciones de seguridad o cambios inesperados en el comportamiento. El Código también exige actualizaciones de seguridad regulares y procesos de gestión de parches específicos para sistemas de IA.

Consideraciones de Fin de Vida

El componente final aborda la desactivación segura del sistema, requiriendo que las organizaciones implementen procedimientos adecuados de eliminación de datos y modelos. Esto incluye requisitos específicos para la transferencia de propiedad de datos de entrenamiento y modelos, asegurando que las consideraciones de seguridad se extiendan más allá de la vida operativa de los sistemas de IA.

A través de estos componentes, el Código establece un marco integral que reconoce los desafíos únicos de seguridad de los sistemas de IA mientras proporciona orientación práctica para la implementación. Cada principio se basa en prácticas de ciberseguridad establecidas mientras introduce requisitos específicos necesarios para abordar las características distintivas de las tecnologías de IA.

Comprendiendo el Código de Prácticas y Sus Objetivos

El Código de Prácticas se dirige específicamente a los sistemas de IA, incluidos aquellos que incorporan redes neuronales profundas e IA generativa. A diferencia de los marcos de seguridad de software tradicionales, este código aborda vulnerabilidades únicas de la IA y consideraciones operativas en cinco fases clave del ciclo de vida: diseño seguro, desarrollo, implementación, mantenimiento y fin de vida.

Lo que distingue a este marco es su reconocimiento de los desafíos de seguridad distintivos de la IA. Las medidas de seguridad de software tradicionales, aunque necesarias, resultan insuficientes para proteger contra amenazas específicas de la IA como el envenenamiento de datos, la ofuscación de modelos y los ataques de inyección indirecta de comandos. El Código establece una jerarquía clara de responsabilidades, definiendo roles específicos para varios actores dentro del ecosistema de IA.

El marco reconoce a los desarrolladores como organizaciones que crean o adaptan modelos y sistemas de IA, mientras que los operadores del sistema asumen la responsabilidad de la implementación y gestión continua. Los custodios de datos juegan un papel crucial en el control de permisos de datos y el mantenimiento de la integridad, trabajando junto a los usuarios finales que interactúan activamente con estos sistemas. El Código también reconoce a las entidades afectadas – aquellos individuos y sistemas impactados indirectamente por decisiones de IA – asegurando un enfoque integral a la seguridad y responsabilidad.

La Creciente Necesidad de Estándares de Seguridad para la IA

El momento del Código de Prácticas no podría ser más crucial. A medida que las organizaciones adoptan rápidamente tecnologías de IA, la superficie de ataque y el impacto potencial de las violaciones de seguridad se han expandido dramáticamente. Los sistemas de IA presentan desafíos de seguridad únicos que los marcos tradicionales de ciberseguridad no abordan adecuadamente.

El envenenamiento de datos representa una de las amenazas más insidiosas para la integridad del sistema de IA. Los adversarios pueden manipular los datos de entrenamiento de maneras que comprometan la integridad del modelo, potencialmente llevando a resultados sesgados o peligrosos. El desafío no solo radica en prevenir tales ataques, sino en detectarlos, ya que los efectos pueden volverse aparentes solo después de la implementación.

La ofuscación de modelos presenta otro riesgo significativo. Los actores maliciosos pueden explotar arquitecturas de modelos para ocultar funcionalidades no autorizadas o puertas traseras, creando vulnerabilidades de seguridad que los protocolos de prueba tradicionales podrían pasar por alto. Este riesgo se vuelve particularmente agudo a medida que los modelos se vuelven más complejos y sus procesos de toma de decisiones más opacos.

El auge de los modelos de lenguaje grande y la IA generativa ha introducido nuevas vulnerabilidades a través de ataques de inyección indirecta de comandos. Estos ataques sofisticados pueden manipular sistemas de IA para producir resultados no autorizados o dañinos, eludiendo los controles de seguridad tradicionales y explotando la misma flexibilidad que hace valiosos a estos sistemas.

Desafíos de Implementación

Las organizaciones que implementan el Código de Prácticas enfrentan varios desafíos interconectados que requieren una consideración cuidadosa y una planificación estratégica. Los requisitos de infraestructura técnica demandan una atención significativa, ya que las organizaciones deben establecer entornos de desarrollo seguros mientras implementan sistemas de monitoreo integral. Estos sistemas deben mantener flujos de datos seguros mientras apoyan marcos de prueba robustos a lo largo del ciclo de vida de la IA.

La coordinación de actores presenta otra capa de complejidad. Las organizaciones deben alinear responsabilidades a través de diferentes departamentos mientras aseguran que los canales de comunicación claros permanezcan abiertos y efectivos. La gestión de relaciones con terceros se vuelve particularmente crucial, al igual que la coordinación de respuestas de seguridad a través de los límites organizacionales.

La asignación de recursos requiere un equilibrio cuidadoso. Las organizaciones deben invertir en capacitación y mejora de habilidades del personal mientras también asignan recursos a herramientas y plataformas de seguridad. El mantenimiento de sistemas de documentación y el apoyo para el monitoreo y actualizaciones continuas demanda un compromiso e inversión sostenidos.

Acciones Esenciales para el Cumplimiento del Código de Prácticas

La implementación exitosa del Código de Prácticas requiere que las organizaciones tomen varias acciones críticas. En primer lugar, las organizaciones deben establecer programas de capacitación integral en seguridad de IA. El Código exige capacitación regular en seguridad que se adapte a roles específicos dentro de la organización. Esta capacitación debe evolucionar continuamente a medida que surgen nuevas amenazas, asegurando que el personal mantenga un conocimiento actualizado de los desafíos de seguridad específicos de la IA y las estrategias de mitigación.

La gestión de riesgos forma otro pilar del cumplimiento. Las organizaciones necesitan desarrollar y mantener marcos sistemáticos de modelado de amenazas que aborden específicamente las vulnerabilidades relacionadas con la IA. Esto implica evaluaciones de riesgos regulares que consideren no solo las amenazas tradicionales de ciberseguridad, sino también los desafíos específicos de la IA como la manipulación de modelos y el envenenamiento de datos. La documentación de decisiones de riesgo y estrategias de mitigación se vuelve crucial para mantener el cumplimiento y demostrar la debida diligencia.

La protección de activos requiere un enfoque sofisticado bajo el Código de Prácticas. Las organizaciones deben mantener inventarios completos de sus activos de IA, incluidos modelos, datos de entrenamiento e infraestructura asociada. El control de versiones se vuelve particularmente crítico en los sistemas de IA, donde los cambios en los modelos o datos de entrenamiento pueden tener implicaciones de gran alcance para la seguridad y el rendimiento del sistema. Los controles de acceso deben ser granulares y conscientes del contexto, adaptándose a los requisitos específicos del desarrollo e implementación de sistemas de IA.

La documentación emerge como un componente crítico del cumplimiento. Las organizaciones deben mantener registros detallados de su arquitectura de sistema, controles de seguridad y procedimientos operativos. Esta documentación debe incluir registros de auditoría claros que rastreen cambios en modelos y sistemas, registros completos de incidentes y registros detallados de evaluaciones de seguridad y esfuerzos de remediación.

El monitoreo representa quizás el requisito más dinámico del Código. Las organizaciones deben implementar un monitoreo continuo del comportamiento de sus sistemas de IA, rastreando métricas de rendimiento y observando signos de compromiso o manipulación. Este monitoreo debe extenderse más allá de las métricas de seguridad tradicionales para incluir indicadores específicos de IA como el desplazamiento del modelo y patrones de salida inesperados.

Hoja de Ruta de Implementación

Las organizaciones deben abordar el cumplimiento del Código de Prácticas como un viaje por fases en lugar de un solo proyecto. La fase de evaluación generalmente requiere de uno a dos meses, durante los cuales las organizaciones evalúan a fondo sus sistemas de IA actuales y controles de seguridad. Esta evaluación debe identificar brechas en las medidas de seguridad actuales y documentar los procesos existentes, formando la base para la planificación subsiguiente.

La fase de planificación, que generalmente dura de dos a tres meses, se centra en desarrollar una estrategia de implementación integral. Esto incluye la asignación de recursos, el desarrollo de programas de capacitación y el establecimiento de sistemas de monitoreo. Las organizaciones deben prestar especial atención a la integración de nuevos controles de seguridad con la infraestructura existente durante esta fase.

La implementación representa la fase más intensiva, generalmente requiriendo de tres a seis meses. Durante este tiempo, las organizaciones implementan controles de seguridad, llevan a cabo programas de capacitación y establecen sistemas de documentación. El enfoque debe permanecer en mantener la continuidad operativa mientras se mejoran las medidas de seguridad.

La revisión y optimización continúan indefinidamente, ya que las organizaciones deben evaluar regularmente su postura de seguridad y actualizar sus controles en respuesta a amenazas emergentes. Este proceso continuo incluye evaluaciones de seguridad regulares, actualizaciones de políticas y capacitación continua del personal.

Kiteworks Ayuda a las Organizaciones a Adherirse al Nuevo Código de Prácticas del Reino Unido con un AI Data Gateway

El Código de Prácticas para la Ciberseguridad de la IA del Reino Unido representa un paso crucial hacia adelante en la seguridad de los sistemas de IA. Aunque existen desafíos de implementación, las organizaciones que adoptan un enfoque sistemático para el cumplimiento estarán mejor posicionadas para proteger sus activos de IA y mantener el cumplimiento normativo.

El éxito requiere un enfoque integral que combine controles técnicos, procesos robustos y un compromiso continuo con la seguridad. Al aprovechar herramientas como el Kiteworks AI Data Gateway, las organizaciones pueden acelerar su camino hacia el cumplimiento mientras aseguran la seguridad e integridad de sus sistemas de IA.

Las organizaciones deben comenzar su camino hacia el cumplimiento ahora, incluso si el Código es voluntario, ya que probablemente informará futuros estándares obligatorios y representa las mejores prácticas actuales en seguridad de IA. La inversión en cumplimiento hoy rendirá frutos en una mayor seguridad, eficiencia operativa mejorada y reducción de la exposición al riesgo mañana.

El Kiteworks AI Data Gateway proporciona capacidades esenciales que se alinean perfectamente con los requisitos del Código. A través de su funcionalidad de acceso seguro a datos de IA, la plataforma implementa una arquitectura de confianza cero que apoya directamente el Principio 6 del Código. Esta arquitectura asegura que cada solicitud de acceso a datos sea verificada, independientemente de su origen, mientras mantiene los estrictos controles de acceso requeridos por el Principio 5.

Las capacidades de gobernanza y cumplimiento integradas en la plataforma Kiteworks abordan varios requisitos críticos del Código. El sistema aplica automáticamente políticas de seguridad mientras mantiene registros de auditoría detallados que satisfacen los requisitos de documentación del Principio 12. Las capacidades de monitoreo en tiempo real permiten a las organizaciones rastrear y responder a posibles incidentes de seguridad de manera oportuna.

La protección de datos recibe un tratamiento integral a través de cifrado de extremo a extremo y un sofisticado seguimiento de acceso. La plataforma mantiene registros detallados de todo acceso y transmisión de datos, permitiendo a las organizaciones demostrar cumplimiento con los requisitos de protección de datos mientras mantienen la eficiencia operativa.

El soporte de la plataforma para la Generación Aumentada por Recuperación (RAG) resulta particularmente valioso para las organizaciones que implementan sistemas de IA. Al permitir la recuperación segura de datos mientras se mantienen estrictos controles de acceso, Kiteworks permite a las organizaciones mejorar la precisión de sus modelos sin comprometer la seguridad. Esta capacidad se vuelve cada vez más importante a medida que las organizaciones buscan mejorar el rendimiento de la IA mientras mantienen el cumplimiento con el Código.

Para obtener más información sobre la implementación del Código de Prácticas o para discutir cómo Kiteworks puede apoyar tu camino hacia el cumplimiento, contacta a nuestro equipo de expertos en seguridad.

Con la Red de Contenido Privado de Kiteworks, las organizaciones protegen su contenido sensible del riesgo de IA con un enfoque de confianza cero para la IA Generativa. El AI Data Gateway de Kiteworks ofrece una solución perfecta para el acceso seguro a datos y una gobernanza efectiva de datos para minimizar los riesgos de violación de datos y demostrar cumplimiento normativo. Kiteworks proporciona controles de confianza cero definidos por el contenido, con acceso de menor privilegio definido en la capa de contenido y capacidades de DRM de última generación que bloquean descargas de la ingestión de IA.

Con un énfasis en el acceso seguro a datos y una gobernanza estricta, Kiteworks te empodera para aprovechar las tecnologías de IA mientras mantienes la integridad y confidencialidad de tus activos de datos.

Para obtener más información sobre Kiteworks y proteger tus datos sensibles de la ingestión de IA, programa una demostración personalizada hoy mismo.

Recursos Adicionales

• Artículo del Blog Kiteworks: Fortaleciendo los Avances de la IA con Seguridad de Datos
• Comunicado de Prensa Kiteworks Nombrado Miembro Fundador del Consorcio del Instituto de Seguridad de Inteligencia Artificial del NIST
• Artículo del Blog Orden Ejecutiva de EE. UU. sobre Inteligencia Artificial Exige Desarrollo Seguro, Confiable y de Confianza
• Artículo del Blog Un Enfoque Integral para Mejorar la Seguridad y Privacidad de Datos en Sistemas de IA
• Artículo del Blog Construyendo Confianza en la IA Generativa con un Enfoque de Confianza Cero