GenAIOps Enablement with Red Hat AI Enterprise (AI501)

Ce cours montre comment des individus occupant différents rôles doivent apprendre à partager, à collaborer et à travailler vers un objectif commun pour en tirer des bénéfices et stimuler l'innovation dans le domaine de l'IA générative.

Il s'avère particulièrement utile pour les profils suivants :

- Utilisateurs de plateformes d'IA : ingénieurs de l'IA, développeurs d'applications, data scientists et ingénieurs des données qui créent des applications d'IA générative

- Fournisseurs de plateformes d'IA : ingénieurs GenAIOps/de l'AA et ingénieurs de plateforme qui déploient et gèrent une infrastructure d'IA

- Parties prenantes des plateformes d'IA : architectes et responsables informatiques qui évaluent et supervisent les stratégies d'adoption de l'IA générative

Ce scénario englobe des aspects techniques de l'utilisation des grands modèles de langage et des systèmes d'IA générative, et apporte des informations pratiques sur la manière dont les différents rôles peuvent harmoniser leurs efforts.

Ce cours suit l'évolution d'une application basée sur l'IA, des tests d'instruction générative au déploiement en production, en amenant différents profils à collaborer sur une même plateforme.

• Définition des principes de base de l'IA générative, notamment les jetons textuels, les fenêtres de contexte et le comportement des modèles
• Test des instructions génératives et évaluation d'une première application basée sur l'IA
• Introduction d'une couche d'orchestration pour le développement standardisé de l'IA générative
• Mise en œuvre de la génération augmentée de récupération (RAG) pour les applications axées sur l'amélioration des connaissances
• Création d'agents IA autonomes à l'aide de fonctionnalités d'appel d'outils
• Déploiement de mesures de sécurité relatives à l'IA et mise en œuvre de pratiques de sécurité pour l'IA générative
• Mise en place de fonctionnalités d'observabilité (indicateurs de mesure, journalisation et traçage distribué pour les systèmes d'IA générative)
• Manipulation de petits modèles de langage et de fonctionnalités multimodales
• Optimisation de modèles à l'aide de techniques de quantification et de compression
• Mise en œuvre des pratiques MaaS (Models-as-a-Service) pour une infrastructure d'IA évolutive

Maîtrise des bases

• Bases de l'IA générative

  Découvrir le GenAIOps et le fonctionnement des grands modèles de langage, notamment la conversion en jetons textuels, les fenêtres de contexte ainsi que les facteurs qui affectent le comportement et les performances des modèles

• Tests d'instructions génératives

  Apprendre à rédiger des instructions génératives efficaces en utilisant des instructions génératives système et utilisateur, à configurer les paramètres de température et de résultat, et à optimiser les instructions génératives pour des cas d'utilisation spécifiques

• Évaluation d'une première application basée sur l'IA

  Mettre en œuvre le contrôle des versions pour les instructions génératives, créer des pipelines d'évaluation, automatiser les tests et mesurer la qualité des applications de façon systématique

• Ajout d'une couche d'orchestration

  Ajouter une couche d'orchestration afin de développer des applications d'IA générative, de déployer des services back-end et de mettre en œuvre des pratiques GitOps pour un déploiement continu

Thèmes avancés

• Intégration et orchestration

  Déployer des bases de données vectorielles, créer des pipelines de RAG pour les applications axées sur l'amélioration des connaissances, mettre en œuvre l'appel d'outils et créer des agents IA autonomes

• Sécurité et observabilité

  Déployer des mesures de sécurité pour l'IA, mettre en œuvre des pratiques de sécurité pour l'IA générative et tirer parti des trois piliers de l'observabilité (indicateurs de mesure, journaux et traces)

• Techniques de modélisation

  Apprendre à manipuler les petits modèles de langage pour un déploiement efficace et les fonctionnalités des modèles multimodaux pour la gestion de divers types de données d'entrée

• Optimisation et déploiement

  Appliquer des techniques de quantification et de compression pour améliorer les performances, explorer les approches de réglage fin, mettre en œuvre des pratiques MaaS et rassembler le tout dans un déploiement en production

• Passer l'évaluation gratuite pour s'assurer que l'offre est adaptée aux compétences
• Avoir accès à un navigateur basé sur Chromium
• Avoir passé en revue la Présentation technique des conteneurs, de Kubernetes et de Red Hat OpenShift (DO080) ou avoir une compréhension de base d'OpenShift, de Kubernetes et des conteneurs (conseillé)
• Avoir une compréhension de base de l'IA ou de la façon dont l'entreprise peut en tirer de la valeur (conseillé)

• Aucun