Soit [formule] un vecteur gaussien avec [formule], [formule] et [formule]. Déterminer la loi conditionnelle de [formule] sachant [formule].
Calculer la densité conjointe et la densité conditionnelle [formule].
Le calcul est une mise sous forme canonique du trinôme dans l'exponentielle. Ce qui mérite l'attention est la forme du résultat : l'espérance conditionnelle est linéaire en [formule], et la variance conditionnelle ne dépend pas du tout de [formule]. Ces deux propriétés sont propres à la gaussienne, et ce sont elles qui font de la régression linéaire un outil exact plutôt qu'une approximation. La densité conjointe. Pour un vecteur gaussien centré de matrice de covariance [formule], de déterminant [formule] : [formule] La condition [formule] garantit que [formule] est inversible, donc que la loi admet bien une densité. Le quotient, et la mise sous forme canonique. [formule] avec [formule]. L'exposant se recombine : [formule] Les termes en [formule] se compensent exactement — c'est le point du calcul. Les constantes donnent [formule], d'où [formule] Deux propriétés remarquables, et spécifiquement gaussiennes. D'une part [formule] est une fonction affine de [formule] : la meilleure prédiction de [formule] au sens des moindres carrés, qui est en général une fonction mesurable quelconque, se trouve ici être une droite. D'autre part [formule] ne dépend pas de [formule] : l'incertitude résiduelle est la même que l'on conditionne par [formule] ou par [formule]. C'est l'homoscédasticité, et elle est fausse dès qu'on quitte le cadre gaussien. Contrôle par la décomposition de la variance. [formule] On retrouve bien [formule], pour tout [formule]. La lecture est directe : [formule] est la part de la variance de [formule] expliquée par [formule], et [formule] la part résiduelle — c'est exactement le coefficient de détermination de la régression. À [formule], par exemple, [formule] de la variance est expliquée et il reste une variance résiduelle de [formule]. Les deux cas limites. Pour [formule], la loi conditionnelle est [formule], c'est-à-dire la loi de [formule] inconditionnelle : connaître [formule] n'apprend rien, donc [formule] et [formule] sont indépendantes. C'est l'équivalence « décorrélé égale indépendant », valable pour un vecteur gaussien. Quand [formule], la variance résiduelle tend vers [formule] et [formule] devient une fonction déterministe de [formule] — la loi dégénère sur la droite [formule], ce qui explique l'exclusion de [formule] dans l'énoncé. ⚠️ Tout ceci suppose le vecteur CONJOINTEMENT gaussien, pas deux marges gaussiennes. La densité écrite plus haut est celle d'un vecteur gaussien ; si l'on sait seulement que [formule] et [formule] sont gaussiennes séparément, elle n'a aucune raison d'être vraie, et la conclusion tombe. Le contre-exemple est classique : [formule] et [formule] avec [formule] indépendant ont toutes deux la loi [formule] et une covariance nulle, sans être indépendantes — et le couple n'est évidemment pas gaussien, sa loi étant portée par deux droites. 💡 À retenir. Le conditionnement gaussien reste gaussien, avec une espérance affine et une variance constante. La formule générale en dimension quelconque a la même forme : [formule] C'est elle qui fonde le filtre de Kalman et la régression par processus gaussiens.