Introducción a la Seguridad en AI

¿Qué vamos a ver en la parte dos ?

Contenidos ocultar

1 ¿Qué vamos a ver en la parte dos ?

2 Suscríbete hoy a nuestros cursos Exploratorios

3 Síguenos en Redes Sociales

4 Introducción a la Seguridad en AI – Parte 2

5 Introducción a la Seguridad en AI

6 5 pilares para Hackers o Profesionales en Ciberseguridad desde una perspectiva técnica

6.1 Comparte esto:

Después de entender los principales ataques, técnicas, tácticas y procedimientos que pueden afectar los sistemas que tenemos con AI habilitada, vamos a revisar el componente de seguridad como un todo, ahora desde la parte de defensa y mejores prácticas para blindar nuestras soluciones de AI desde su concepción y en su etapa de desarrollo.

Un elemento fundamental para la protección contra los ataques ya explicados con anterioridad es tener procedimientos operacionales claros para la administración de un modelo dentro de todo su ciclo de vida.

El desarrollo y puesta en marcha de un modelo robusto de AI, involucra múltiples fases de esfuerzo, que generalmente requieren diferentes equipos, desarrolladores y personal involucrado en el proyecto. De la misma forma que la metodología de Desarrollo y Operaciones de Software (DevOps), el campo de Operaciones de Machine Learning (MLOps) define las mejores prácticas y herramientas con modelos para el despliegue confiable, reproducible y adaptable de modelos.

Un excelente ejemplo del flujo de desarrollo de un modelo con MLOps se puede enfocar en CRISP-ML(Q) el proceso estándar definido por la industria para el desarrollo de aplicaciones de Machine Learning con componentes de aseguramiento de calidad (Quality assurance)

CRISP-ML(Q) define seis fases en su ciclo de vida

Comprensión del negocio y los datos
Ingeniería de Datos (preparación de datos)
Ingeniería del Modelo de Machine Learning
Aseguramiento de calidad para las aplicaciones de Machine Learning
Puesta en marcha
Monitoreo y Mantenimiento

Cada fase inicia con la definición de requerimientos y restricciones de la tarea, después el ciclo atraviesa un proceso de identificación, evaluación y mitigación de riesgos, hasta que los requerimientos son cumplidos. En algunas ocasiones los equipos vuelven a visitar fases anteriores y revisan el proceso varias veces cuando se generan nuevos requerimientos y restricciones.

Se espera que dentro de la fase de monitoreo y mantenimiento el proceso vuelva a las fases iniciales de desarrollo como respuesta a los cambios en las condiciones del mundo real, como derivaciones de los conceptos iniciales, cambios en los datos o acciones maliciosas.

Dentro de ATLAS se encuentran definidas las mitigaciones relacionadas a las fases del ciclo de vida de CRISP-ML(Q) para ayudar en cada fase a los equipos a identificar vulnerabilidades que puedan impactar los requerimientos de sus tareas y posibles formas de responder.

Con la introducción de MITRE ATLAS desde la perspectiva de ataque, de CRISP-ML(Q) desde una perspectiva de defensa proactiva y la correlación entre estos dos elementos, cerramos estos post de introducción a la seguridad en AI.

Existen muchos otros recursos relacionados con seguridad en LLM, seguridad a nivel de Hardware dentro del ecosistema de AI y políticas relacionadas con sistemas con capacidades de AI, si ustedes quieren que escribamos más acerca de este tema, dejen su comentario en este post o en alguna de nuestras redes sociales donde nos encuentran como @behackerpro.

Si no has leído la parte 1, hazlo en este link: https://behacker.pro/introduccion-a-la-seguridad-en-ai/