diff --git a/hepia_2024/pres.md b/hepia_2024/pres.md index 075f3f4974a936a04ef4b34afbf6f8f09ff698eb..de0ea35ea6a6ed526d0610e64a6d0f95abdb417f 100644 --- a/hepia_2024/pres.md +++ b/hepia_2024/pres.md @@ -6,13 +6,13 @@ \Huge Introduction aux modèles génératifs (LLMs) -# Qu'est-ce que l'IA +# Qu'est-ce que l'IA? * Ensemble de techniques visant à simuler l'intelligence humaine: * Moteurs de recherche, * Voitures autonomes, * Compréhension du langage naturel, - * Chatbots, + * Chatbot, * Génération d'images, ... . . . @@ -56,18 +56,25 @@ * Et ainsi de suite. +. . . + +## En d'autres termes... + +***On veut un auto-compléteur de texte!*** # Fonctionnement des LLMs (2/4) -## Contraintes sur le "mot suivant" +## De quoi dépend le "mot suivant"? -* Orthographe, syntaxe, grammaire, -* Mots qui précèdent directement, +* Des mots qui précèdent directement, * Du contexte général. +* Doit avoir la bonne forme (orthographe, grammaire, etc) . . . -* Problème complexe à **formaliser** et donc à **implémenter** informatiquement (malgré beaucoup d'efforts). +## Problème difficile + +* Problème complexe à **formaliser**/**modéliser**, donc à **implémenter** informatiquement (malgré beaucoup d'efforts). # Fonctionnement des LLMs (3/4) @@ -85,7 +92,7 @@ . . . -* Comment trouver les paramètres? +## Comment trouver les paramètres? # Fonctionnement des LLMs (4/4) @@ -166,28 +173,28 @@ **Leçon 1 : Introduction à l'algorithmique** -- Définition de l'algorithmique et histoire. -- Exemples d'algorithmes simples. +* Définition de l'algorithmique et histoire. +* Exemples d'algorithmes simples. **Leçon 2 : Notions de base** -- Termes clés et concepts fondamentaux. -- Exercices pratiques. +* Termes clés et concepts fondamentaux. +* Exercices pratiques. **Leçon 3 : Complexité algorithmique** -- Analyse de la complexité en temps et en espace. -- Exemples et exercices. +* Analyse de la complexité en temps et en espace. +* Exemples et exercices. **Leçon 4 : Tri et recherche** -- Algorithmes de tri et de recherche. -- Implémentation et comparaison. +* Algorithmes de tri et de recherche. +* Implémentation et comparaison. **Leçon 5 : Structures de données** -- Listes, piles, files, arbres. -- Exemples concrets. +* Listes, piles, files, arbres. +* Exemples concrets. # Cas d'utilisation: séance (1/5) @@ -245,7 +252,7 @@ Autrement dit, lorsque `n` tend vers l'infini, le temps d'exécution est proport . . . -**Note :** Erreur: la formule est fausse, le deuxième `t2` ne devrait pas être là. +**Note :** Discutable: la formule est fausse ou imprécise manque un `t4`. # Cad d'utilisation : séance (4/5) @@ -351,10 +358,12 @@ Wikipedia: "Instead of **solving the Navier–Stokes equations directly**, a **f # Études sur l'efficacité des modèles pour l'informatique -* Sur des questions populaires: 50% des réponses sont fausses +## Biais + +* Sur des questions populaires: 50% des réponses sont fausses[^2] * Problème: 30\% des sondés croient la mauvaise réponse plutôt que la bonne (biais dû au style). -Source: <https://dl.acm.org/doi/pdf/10.1145/3613904.3642596> +[^2]: Source: [Is Stack Overflow Obsolete?](https://dl.acm.org/doi/pdf/10.1145/3613904.3642596) # Le coût des modèles génératifs @@ -384,7 +393,7 @@ Source: <https://dl.acm.org/doi/pdf/10.1145/3613904.3642596> **Comparaison :** Une recherche Google vaut 1g, une impression de mail 10g. -# Conclusion +# Conclusion et avenir \Huge Conclusion et avenir @@ -417,8 +426,8 @@ Si vous ne pouvez pas dire si un contenu est correct en *secondes*, n'utilisez p * L'avenir est très incertain: * Évolution de ces modèles (+efficaces? +sûrs? -énergivores?) - * Évolution de la législation (meilleure protection des usagers? des créateurs? - * Loi européenne: <https://vcsi.org/eu-ai-act-comprehensive-regulation/> + * Évolution de la législation (meilleure protection des usagers? des créateurs?) + * [Nouvelle loi européenne](https://vcsi.org/eu-ai-act-comprehensive-regulation/) * A suivre donc, mais prudence... # Merci