Sécurité de Google Vertex AI et de l'IA Générative

Praticiens de l'IA, professionnels de la sécurité, architectes cloud

A l'issue de la formation, les participants seront capables de :

• Passer en revue les fondamentaux de la sécurité de Google Cloud.
• Établir une compréhension fondamentale de Vertex AI.
• Énumérer les préoccupations de sécurité liées aux fonctionnalités et composants de Vertex AI
• Contrôler l'accès avec la Gestion des Identités et des Accès.
• Simplifier les permissions en utilisant les hiérarchies et les politiques de l'organisation.
• Utiliser des comptes de service pour un accès au moindre privilège.
• Configurer le chiffrement au repos et en transit.
• Chiffrer les données à l'aide de clés de chiffrement gérées par le client.
• Protéger les données sensibles à l'aide du service de prévention de la perte de données.
• Empêcher l'exfiltration de données à l'aide des contrôles de service VPC.
• Concevoir des systèmes en tenant compte de la reprise après sinistre.
• Déployer des modèles ML à l'aide de points de terminaison de modèle.
• Sécuriser les points de terminaison de modèle.
• Écrire et analyser des journaux.
• Configurer la surveillance et les alertes.
• Identifier les risques de sécurité spécifiques aux LLM et aux applications d'IA générative.
• Comprendre les méthodes pour atténuer les attaques de piratage et d'injection de prompt.
• Explorer les fondamentaux de la sécurisation des modèles et applications d'IA générative.
• Introduire les fondamentaux de la sécurité de l'IA.
• Mettre en œuvre les meilleures pratiques pour tester les réponses des modèles.
• Appliquer des techniques pour améliorer la sécurité des réponses dans les applications d'IA générative.
• Comprendre l'architecture RAG et ses implications en matière de sécurité.
• Mettre en œuvre les meilleures pratiques pour l'ancrage et la sécurisation des sources de données dans les systèmes RAG.

Module 01 : Introduction aux principes de sécurité de Vertex AI

• Sécurité de Google Cloud
• Composants de Vertex AI
• Préoccupations de sécurité de Vertex AI
  • Lab : Vertex AI : Entraînement et service d'un modèle personnalisé

Module 02 : Gestion des identités et des accès (IAM) dans Vertex AI

• Aperçu d'IAM dans Google Cloud
  • Lab : Comptes de service et rôles : Fondamentaux

Module 03 : Sécurité et confidentialité des données

• Chiffrement des données
• Protection des données sensibles
• Contrôles de service VPC
• Planification de la reprise après sinistre
  • Lab : Démarrer avec Cloud KMS-
  • Lab : Créer une copie désidentifiée des données dans Cloud Storage

Module 04 : Sécurisation des points de terminaison Vertex AI et du déploiement de modèles

• Sécurité du réseau
• Sécurisation des points de terminaison de modèle
  • Lab : Configuration de l'accès privé à Google et de Cloud NAT

Module 05 : Surveillance et journalisation dans Vertex AI

• Journalisation
• Surveillanc

Module 06 : Risques de sécurité dans les applications d'IA générative

• Aperçu des risques de sécurité de l'IA générative
• Aperçu de la sécurité de l'IA
• Sécurité des prompts- Protections des LL
  • Lab : Protection avec l'API Vertex AI Gemini
  • Lab : Sécurité de l'IA générative et des LLM pour les développeurs

Module 07 : Test et évaluation des réponses des modèles d'IA générative

• Test des réponses des modèles d'IA générative.
• Évaluation des réponses des modèles.
• Affinage (Fine-tuning) des LLM
  • Lab : Mesurer la performance de l'IA générative avec le service d'évaluation de l'IA générative
  • Lab : Test unitaire des applications d'IA générative

Module 08 : Sécurisation des systèmes de Génération Augmentée par Récupération (RAG)

• Fondamentaux de la Génération Augmentée par Récupération
• Sécurité dans les systèmes RAG
  • Lab : Génération Augmentée par Récupération Multimodale (RAG) avec l'API Vertex AI Gemini
  • Lab : Introduction à l'appel de fonction avec Gemini

Connaissances fondamentales de l'apprentissage automatique, en particulier de l'IA générative, et compréhension de base de la sécurité sur Google Cloud.

Aucun

Aucun