COMENTARIO
Los días de las aplicaciones grandes y monolíticas se están desvaneciendo. Las aplicaciones actuales dependen de microservicios y reutilización de código, lo que facilita el desarrollo pero crea complejidad cuando se trata de rastrear y administrar los componentes que utilizan.
Esta es la razón por la cual lista de materiales de software (SBOM) ha surgido como una herramienta indispensable para identificar lo que hay en una aplicación de software, incluidos los componentes, versiones y dependencias que residen dentro de los sistemas. Los SBOM también brindan información detallada sobre las dependencias, vulnerabilidades y riesgos que influyen en la ciberseguridad.
Un SBOM permite a los CISO y otros líderes empresariales centrarse en lo que realmente importa al proporcionar un inventario actualizado de componentes de software. Esto hace que sea más fácil establecer y hacer cumplir una gobernanza sólida y detectar problemas potenciales antes de que se salgan de control.
Sin embargo, en la era de la inteligencia artificial (IA), el SBOM clásico tiene algunas limitaciones. Los marcos emergentes de aprendizaje automático (ML) presentan oportunidades notables, pero también amplían los límites del riesgo e introducen un nuevo activo para las organizaciones: el modelo de aprendizaje automático. Sin una supervisión y controles estrictos sobre estos modelos, una serie de problemas prácticos, técnicos y legales puede surgir.
Ahí es donde las listas de materiales de aprendizaje automático (MLBOM) entran en escena. El marco rastrea nombres, ubicaciones, versiones y licencias de los activos que componen un modelo de ML. También incluye información general sobre la naturaleza del modelo, configuraciones de entrenamiento integradas en los metadatos, quién es el propietario, varios conjuntos de funciones, requisitos de hardware y más.
Por qué son importantes las MLBOM
Los CISO se están dando cuenta de que la IA y el ML requieren un modelo de seguridad diferente, y los datos de entrenamiento subyacentes y los modelos que los ejecutan con frecuencia no son rastreados ni gobernados. Un MLBOM puede ayudar a una organización a evitar riesgos y fallas de seguridad. Aborda factores críticos como la procedencia del modelo y los datos, las calificaciones de seguridad y los cambios dinámicos que se extienden más allá del alcance de SBOM.
Debido a que los entornos de aprendizaje automático están en un estado de cambio constante y los cambios pueden ocurrir con poca o ninguna interacción humana, los problemas relacionados con la coherencia de los datos (incluido dónde se originaron, cómo se limpiaron y cómo se etiquetaron) son una preocupación constante.
Por ejemplo, si un analista de negocios o un científico de datos determina que un conjunto de datos está envenenado, MLBOM simplifica la tarea de encontrar todos los distintos puntos de contacto y modelos que fueron entrenados con esos datos.
Los MLBOM pueden elevar la protección
La transparencia, la auditabilidad, el control y el conocimiento forense son características distintivas de una MLBOM. Con una visión integral de los "ingredientes" que forman parte de un modelo de ML, una organización está equipada para gestionar sus modelos de ML de forma segura.
A continuación se muestran algunas formas de crear un marco de mejores prácticas en torno a un MLBOM:
-
Reconocer la necesidad de una MLBOM: No es ningún secreto que el aprendizaje automático impulsa la innovación empresarial e incluso la disrupción. Sin embargo, también introduce riesgos importantes que pueden extenderse a la reputación, el cumplimiento normativo y cuestiones legales. Tener visibilidad de los modelos de ML es de vital importancia.
-
Llevar a cabo la debida diligencia esencial: Un MLBOM debe integrarse con el proceso de CI/CD y ofrecer un alto nivel de claridad. Soporte para marcos estándar como JSON u OWASP. CiclónDX puede unificar los procesos SBOM y MLBOM.
-
Analizar políticas, procesos y gobernanza: Es esencial sincronizar un MLBOM con los flujos de trabajo y los procesos comerciales de una organización. Esto aumenta las probabilidades de que los canales de ML funcionen según lo previsto, al tiempo que minimiza los riesgos relacionados con la ciberseguridad, la privacidad de los datos, el cumplimiento y otras áreas asociadas a los riesgos.
-
Utilice un MLBOM con puertas de aprendizaje automático: Los controles y puertas de enlace rigurosos conducen a barreras de seguridad esenciales para la IA y el aprendizaje automático. De esta manera, la empresa y el CSO pueden aprovechar los éxitos y aprovechar el aprendizaje automático para desbloquear mayores ahorros de costos, ganancias de rendimiento y valor comercial.
El aprendizaje automático está cambiando radicalmente el panorama empresarial y de TI. Al extender las metodologías SBOM probadas al ML a través de MLBOM, es posible dar un paso de gigante hacia impulsar el rendimiento del aprendizaje automático y proteger los datos y los activos.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.darkreading.com/vulnerabilities-threats/mlboms-are-useful-for-securing-ai-ml-supply-chain
