Générative et Large Language Models (GPT, Gemini, etc.)

Jour 1 : Introduction aux LLM et IA générative

• Introduction aux modèles de langage de grande taille : concepts et architecture
• Comparaison des LLM : GPT, Gemini, Llama, Mistral, Claude
• Fonctionnement des transformers et attention mechanisms
• Utilisation des API OpenAI (GPT-4) et Google AI Studio (Gemini)
• Génération de texte et manipulation des paramètres (température, top-p, etc.)
• Exercices pratiques : création d’un chatbot basique avec GPT

Jour 2 : Fine-tuning et personnalisation des modèles

• Fine-tuning vs prompt engineering : quelle approche choisir ?
• Utilisation de Hugging Face Transformers pour entraîner un LLM
• Chargement et entraînement d’un modèle spécifique sur un dataset personnalisé
• Optimisation du prompt engineering pour améliorer les réponses
• Techniques d’ajustement des réponses (in-context learning, few-shot learning)
• Exercices pratiques : entraînement et test d’un modèle adapté à un domaine spécifique

Jour 3 : Applications avancées et intégration des LLMs

• Intégration des modèles génératifs dans une application web
• Création d’un assistant intelligent avec GPT/Gemini
• Déploiement et mise en production avec API et conteneurs
• Projet final : développement d’une application complète (ex : chatbot avancé, assistant rédactionnel, génération de code)
• Évaluation des performances et analyse des biais
• Conclusion et perspectives d’évolution des LLMs