Solutions IA : Fondamentaux sur l'infrastructure Cisco

Cette formation s'adresse à toute personne impliquée dans la mise en œuvre, la maintenance et le dépannage d'un centre de données Cisco.

À l'issue de ce cours, les participants seront capables de :

• Décrire les concepts clés de l'intelligence artificielle, en mettant l'accent sur l'IA traditionnelle, l'apprentissage automatique et les techniques de deep learning, et leurs applications
• Décrire l'IA générative, ses défis et ses tendances futures, tout en examinant les nuances entre les méthodologies traditionnelles et modernes de l'IA
• Expliquer comment l'IA améliore la gestion et la sécurité des réseaux grâce à l'automatisation intelligente, à l'analyse prédictive et à la détection des anomalies
• Décrire les concepts clés, l’architecture et les principes de gestion fondamentaux des clusters IA-ML, ainsi que le processus d’acquisition, de réglage fin, d’optimisation et d’utilisation de modèles d’apprentissage automatique pré-entraînés
• Utiliser les fonctionnalités de Jupyter Lab et de l’IA générative pour automatiser les opérations réseau, écrire du code Python et exploiter des modèles d’IA afin d’améliorer la productivité
• Décrire les composants essentiels et les considérations à prendre en compte pour mettre en place une infrastructure d’IA robuste
• Évaluer et mettre en œuvre des stratégies efficaces de répartition des charges de travail et garantir l’interopérabilité au sein des systèmes d’IA
• Explorer les normes de conformité, les politiques et les cadres de gouvernance applicables aux systèmes d’IA
• Décrire les pratiques durables en matière d’infrastructure d’IA, en mettant l’accent sur la durabilité environnementale et économique
• Orienter les décisions relatives à l’infrastructure d’IA afin d’optimiser l’efficacité et les coûts
• Décrire les principaux défis réseau du point de vue des exigences des applications d’IA et d’apprentissage automatique
• Décrire le rôle des technologies optiques et cuivre dans la prise en charge des charges de travail des centres de données d’IA et d’apprentissage automatique
• Décrire les modèles de connectivité réseau et les architectures réseau
• Décrire les principaux protocoles de couche 2 et de couche 3 utilisés pour l’IA et le « fog computing » dans le cadre du traitement distribué de l’IA
• Migrer les charges de travail d’IA vers un réseau dédié à l’IA
• Expliquer les mécanismes et le fonctionnement des protocoles RDMA et RoCE
• Comprendre l’architecture et les fonctionnalités des maillages Ethernet haute performance
• Expliquer les mécanismes réseau et les outils de qualité de service (QoS) nécessaires à la mise en place de réseaux RoCE haute performance et sans perte
• Décrire les mécanismes ECN et PFC, présenter Cisco Nexus Dashboard Insights pour la surveillance de la congestion, explorer l’impact des différentes étapes des applications d’IA/ML sur l’infrastructure des centres de données, et inversement
• Présenter les étapes de base, les défis et les techniques liés au processus de préparation des données
• Utiliser Cisco Nexus Dashboard Insights pour surveiller les flux de trafic IA/ML
• Décrire l’importance du matériel spécifique à l’IA pour réduire les temps d’entraînement et répondre aux exigences de traitement avancées des tâches d’IA
• Comprendre le matériel informatique requis pour exécuter des solutions d’IA/ML
• Comprendre les solutions d’IA/ML existantes
• Décrire les options d’infrastructure virtuelle et les considérations importantes lors du déploiement
• Expliquer les stratégies de stockage des données, les protocoles de stockage et le stockage défini par logiciel
• Utiliser NDFC pour configurer une structure optimisée pour les workloads d’IA/ML
• Utiliser des modèles GPT hébergés localement avec RAG pour les tâches d’ingénierie réseau
  
   

Principes fondamentaux de l'IA

• Introduction à l'intelligence artificielle
• L'IA traditionnelle
• Déroulement du flux de travail de l'IA traditionnelle
• Défis liés à l'IA traditionnelle
• Applications modernes de l'IA traditionnelle
• Machine Learning vs Deep Learning
• Techniques et méthodologies de Machine Learning et de Deep Learning
• Applications et cas d'utilisation du ML et du DL
  

IA générative

• IA générative
• Cadres génératifs antagonistes
• Cas d'utilisation de l'IA générative
• Défis liés à l'inférence en IA générative
• Défis et limites de l'IA générative
• Biais et équité en IA générative
• Optimisation des ressources en IA générative
• IA générative vs IA traditionnelle
• Exigences en matière de données : IA générative vs IA traditionnelle
• Tendances futures en matière d'IA
• Modèles linguistiques d'IA
• LLM vs SLM

Cas d'usage IA

• Analyse de données
• Optimisation du réseau
• Automatisation du réseau et réseaux à réparation automatique
• Planification et prévision des capacités
• Cybersécurité
• Gestion prédictive des risques
• Détection des menaces
• Réponse aux incidents
• Collaboration et communication
• Internet des objets (IoT)

IA-ML Clusters et Modèles

• Clusters de traitement IA-ML
• Cas d'utilisation des clusters IA-ML
• Modèles d'IA personnalisés – Processus
• Modèles d'IA personnalisés – Outils
• Optimisation des modèles d'IA prédéfinis
• Modèles d'IA pré-entraînés
• Paramètres des modèles d'IA
• Déploiement des services : sur site, dans le cloud ou en environnement distribué

Maîtrise des outils d'IA - Jupyter Notebook

Infrastructure IA

• Infrastructure IA traditionnelle
• Infrastructure IA moderne
• Clusters IA Cisco Nexus HyperFabric

Localisation des workloads IA et interopérabilité

• Mobilité des workloads
• Mise en œuvre multi-cloud
• Risques de dépendance vis-à-vis d'un fournisseur
• Mesures d'atténuation de la dépendance vis-à-vis d'un fournisseur

Politiques IA

• Souveraineté des données
• Compliance, Gouvernance, et Règlementation

Durabilité de l'IA

• IA « verte » vs IA « rouge »
• Optimisation des coûts
• Accélérateurs d'IA
• Alimentation énergétique et refroidissement

Conception d'une infrastructure d'IA

• Description du projet
• Votre rôle
• Type de workloads IA
• Cloud versus sur site
• Choix du réseau
• Choix de la plateforme et durabilité
• Considérations liées à la consommation électrique

Principaux défis et exigences réseau pour les workloads IA

• Considérations sur la bande passante et la latence
• Considérations sur l’évolutivité
• Considérations sur la redondance et la résilience
• Visibilité
• Matrice sans perte ni blocage
• Considérations sur la prévention de la saturation

Transport IA

• Câblage optique et en cuivre
• Organisation du câblage du centre de données
• Câbles Ethernet
• Câbles InfiniBand
• Connectivité Ethernet
• Connectivité InfiniBand
• Connectivité hybride
• Modèles de connectivité

Types de réseaux : réseau isolé ou réseau dédié

• Architectures réseau : modèle hiérarchique à deux niveaux ou à trois niveaux
• Considérations relatives à la mise en réseau : architecture réseau mono-site ou multi-site

Réseau IA

• Protocoles Layer 2
• Protocoles Layer 3
• Considérations sur la scalabilité pour le déploiement des workloads IA
• Le « fog computing » au service du traitement distribué de l'IA
  

Migration de l'architecture vers un réseau IA/ML

• Description du projet - Votre rôle
• Commencer modestement
• Dépasser le cadre d'un seul serveur
• Considérations relatives au trafic
• Protocoles niveau application

Principes fondamentaux du RDMA

• Architecture RDMA
• Opérations RDMA
• RDMA sur Ethernet convergent
• Structures convergentes à haut débit
• Transition d'InfiniBand vers Ethernet
• Gamme de commutateurs Cisco Nexus série 9000

Mise en place de structures sans perte (Lossless)

• Ensemble d’outils QoS traditionnels
• Sélection de transmission améliorée
• Gestion intelligente de la mémoire tampon sur les commutateurs Cisco Nexus de la série 9000
• AFD avec ETRAP
• Priorisation dynamique des paquets
• Data Center Bridging Exchange
• Structure Ethernet sans perte utilisant RoCEv2
• Gestion avancée de la saturation avec AFD

Visibilité de la saturation

• Notification explicite de saturation
• Contrôle de flux prioritaire
• Visibilité de la saturation dans les réseaux de clusters IA/ML grâce à Cisco Nexus Dashboard Insights
• Considérations relatives au pipeline

Préparation des données pour l’IA

• Présentation du workflow de traitement des données
• Phases du workflow de traitement des données

Performances des données des charges de travail IA/ML

Hardware compatible avec l'IA

• Processeurs (CPU), processeurs graphiques (GPU) et processeurs de traitement (DPU)
• Présentation des GPU
• GPU NVIDIA pour l'IA/ML
• GPU Intel pour l'IA/ML
• Présentation des DPU
• Présentation des SmartNIC
• Gamme Cisco Nexus SmartNIC
• NVIDIA BlueField SuperNIC

Ressources de calcul

Présentation du hardware 

• Présentation de la gamme de processeurs Intel Xeon Scalable
• Serveurs en rack Cisco UCS série C
• Système modulaire Cisco UCS série X
• Partage des GPU
• Partage des ressources de calcul
• Coût total de possession
• Clustering IA/ML

Solutions de ressources de calcul

• Présentation des solutions d’infrastructure hyperconvergée Cisco
• Composants des solutions hyperconvergées Cisco
• Centre de données FlashStack
• Nutanix GPT-in-a-Box
• Exécuter :ai sur Cisco UCS

Ressources virtuelles

• Infrastructure virtuelle
• Virtualisation des périphériques
• Définition de la virtualisation des serveurs
• Machine virtuelle
• Hyperviseur
• Container Engine
• Virtualisation du stockage
• Réseaux virtuels
• Options de déploiement de l’infrastructure virtuelle
• Infrastructure hyperconvergée
• Déploiement de l’infrastructure hyperconvergée (HCI) et de l’infrastructure virtuelle

Ressources de stockage

• Stratégie de stockage des données
• Fibre Channel et FCoE
• NVMe et NVMe over Fabrics
• Stockage défini par logiciel

Configuration d’un cluster d’IA

Déploiement et utilisation de modèles GPT open source pour le RAG

Exercices pratiques

• Exercice n° 1 : Boîte à outils d’IA — Jupyter Notebook
• Exercice n° 2 : Performances des données des charges de travail d’IA/ML
• Exercice n° 3 : Configuration d’un cluster d’IA
• Exercice n° 4 : Déploiement et utilisation de modèles GPT open source pour le RAG

Les participants doivent avoir des connaissances dans les domaines suivants :

• Architecture et fonctionnement des systèmes de calcul Cisco UCS
• Gamme de commutateurs Cisco Nexus et leurs fonctionnalités
• Technologies de base des centres de données

• DCCOR - Implementing and Operating Cisco Data Center Core Technologies
• DCNX - Implementing Cisco NX-OS Switches and Fabrics in the Data Center

Pas d'examen associé à ce cours

• Support de cours fourni aux participants