Toutes les entrées

Vecteurs et espaces vectoriels

L’IA transforme tout — mots, images, sons, utilisateurs — en une liste de nombres

Gradient et descente de gradient

Tout l’apprentissage profond se résume à une chose : faire un petit pas vers le bas

Opérations matricielles et applications linéaires

Multiplier des matrices n’est pas une suite de produits et de sommes : c’est réécrire tout un espace d’un coup

Probabilités et distributions

Un modèle ne fournit pas une réponse, mais un degré de croyance pour chaque réponse possible

Théorème de Bayes

Croire un peu, voir la preuve, corriger un peu : voilà Bayes

Entropie et théorie de l’information

Plus une phrase est surprenante, plus elle porte d’information ; et la fonction de perte d’un modèle de langage mesure précisément cette surprise

Apprentissage supervisé

Des paires question-réponse apprennent au modèle à répondre seul

Apprentissage non supervisé

Sans réponses, la structure doit émerger des données elles-mêmes — et il faut redéfinir ce qui est « bon »

Fonctions de perte

La fonction de perte définit ce que vous pénalisez — la changer change toute votre notion du juste et du faux

Surapprentissage et régularisation

Le modèle apprend les données d’entraînement par cœur, puis échoue sur toute donnée nouvelle

Évaluation de modèle et validation croisée

L’exactitude est la métrique la plus trompeuse — une évaluation erronée fait tout s’effondrer

Compromis biais-variance

Chaque erreur de prédiction se décompose en trois : un modèle trop simple, un modèle trop instable, et le hasard du monde lui-même

Neurone et perceptron

La plus petite pièce d’un réseau de neurones : une somme pondérée, un biais et une touche de non-linéarité

Rétropropagation

Transformer « calculer le gradient » d’un pensum mathématique en un simple appel de fonction : l’instant où l’apprentissage profond a décollé

Fonctions d’activation

Sans elle, même le plus profond des réseaux n’est qu’une seule transformation linéaire

Réseaux de neurones convolutifs

Remplacer les connexions denses par « regarder localement et réutiliser le même filtre partout » : l’idée qui a rendu la reconnaissance d’images enfin fonctionnelle

Réseaux de neurones récurrents

Donner une mémoire au réseau : une même unité réutilisée dans le temps pour traiter des séquences de longueur quelconque

Normalisation et connexions résiduelles

Rendre entraînable un réseau de cent couches : un raccourci identité et une remise à l’échelle par couche

Tokenisation

Les modèles ne lisent pas des caractères mais des tokens ; le découpage fixe silencieusement la capacité et le coût

Plongements de mots

Transformer les mots en coordonnées : les synonymes se rapprochent et le sens devient une grandeur que l’on peut additionner

Mécanisme d’attention

Chaque position peut regarder directement toutes les autres et répartir dynamiquement son attention selon la pertinence

Architecture Transformer

Remplacer le relais mot à mot par une salle où tous parlent en même temps, pour que les dépendances lointaines soient à un saut

Pré-entraînement et affinage

Apprendre d’abord la langue sur d’immenses corpus non annotés, puis se spécialiser avec peu de données : le paradigme le plus économe en données

Ingénierie des prompts et alignement

Rendre un modèle utile, honnête et inoffensif est plus difficile que de simplement l’agrandir

Représentation numérique de l’image

Pour une machine, une photo n’est qu’une pile de grilles de nombres

Opérations de convolution

Un petit gabarit balayant l’image détecte bords, textures et formes

Classification d’images

Ne lui dites pas « les chats ont des moustaches » : montrez-lui assez de chats

Détection d’objets

De « qu’y a-t-il dans l’image » à « quoi, où et combien »

Segmentation sémantique

Colorier chaque pixel : non pas un cadre, mais un livre à colorier

Vision auto-supervisée et apprentissage contrastif multimodal

Sans étiquettes : apprendre à voir en devinant quelles images sont identiques

Processus de décision markovien

Écrire « décider pas à pas » avec cinq symboles : tout l’apprentissage par renforcement part de là

Fonctions de valeur et Q-learning

Plutôt que de deviner quoi faire, estimez d’abord la valeur de chaque choix

Gradients de politique

Ajustez directement la politique pour que les bonnes actions surviennent plus souvent

Exploration et exploitation

Le meilleur choix à l’instant n’est pas forcément le meilleur à long terme

Apprentissage par renforcement profond

Laissez un réseau de neurones décider directement depuis les pixels, stabilisé par des idées anciennes

Apprentissage par renforcement à partir de retours humains

Quand la « bonne réponse » ne s’écrit pas en formule, laissons les humains jouer le rôle de la récompense

Vue d’ensemble des modèles génératifs

Les modèles discriminatifs répondent « qu’est-ce que c’est », les génératifs « à quoi cela devrait ressembler »

Autoencodeurs et VAE

Comprimer l’information dans un goulot, puis la laisser repousser

Réseaux antagonistes génératifs

Un faussaire face à un expert : chacun pousse l’autre à sa limite

Modèles de diffusion

Apprenez mille petits pas de débruitage et vous créerez une image à partir de bruit pur

Diffusion latente et contrôle conditionnel

Diffuser non pas sur les pixels, mais dans un espace sémantique comprimé

Génération multimodale

Un seul modèle qui apprend à parler, dessiner, bouger — et même à modéliser le monde 3D

Infrastructure d’entraînement et d’inférence

La mémoire décide de la taille du modèle entraînable, la communication de la durée — le calcul brut est rarement le goulot

Compression de modèles

Rendre un modèle plus petit, plus rapide et moins cher sans perdre en précision — rarement les trois à la fois

Optimisation et service d’inférence

L’entraînement a lieu une fois, l’inférence des milliards de fois par jour — et le premier token s’oppose souvent au débit

Génération augmentée par récupération

Plutôt que de fourrer le savoir dans les paramètres, le laisser dehors et le consulter à la demande — comme un examen à livre ouvert

Agents et utilisation d’outils

Qu’un modèle ne se contente pas de répondre : chercher, appeler des API, exécuter du code — et décider de l’étape suivante d’après le résultat

Sécurité, alignement et injection de prompts

Le modèle optimise le proxy inscrit dans la perte, jamais ce que nous voulons vraiment : l’écart entre les deux, c’est tout le problème de l’alignement