spb/gsf6053_h25 Public

1% =========================================================================2% GSF6053 — Économétrie Financière (Hiver 2025)3% Université Laval — Faculté des sciences de l'administration4% Auteur  : Simon-Pierre Boucher5% Contact : contact@spboucher.ai6% =========================================================================7\documentclass[14pt]{extarticle} % Utilisation de extarticle pour supporter 14pt89% ------------------------------------------------------------------------10% Packages indispensables et recommandés11% ------------------------------------------------------------------------12\usepackage[utf8]{inputenc}     % Encodage des caractères13\usepackage[T1]{fontenc}        % Encodage de la police14\usepackage[french]{babel}      % Support de la langue française15\usepackage{amsmath, amssymb}   % Environnement mathématique enrichi16\usepackage{graphicx}           % Inclusion d'images17\usepackage{hyperref}           % Liens hypertextes18\usepackage{geometry}           % Gestion des marges19\usepackage{titlesec}           % Personnalisation des titres20\usepackage{setspace}           % Gestion de l'interligne21\usepackage{xcolor}             % Gestion des couleurs22\usepackage{lipsum}             % (optionnel) Pour générer du faux texte23\usepackage{booktabs}           % (optionnel) Pour améliorer les tableaux24\usepackage{fancyhdr}           % Personnalisation des en-têtes et pieds de page25\usepackage{cleveref}           % Références intelligentes26\usepackage{caption}            % Pour personnaliser les légendes2728% ------------------------------------------------------------------------29% Configuration de la mise en page30% ------------------------------------------------------------------------31\geometry{32    a4paper,33    left=25mm,34    right=25mm,35    top=25mm,36    bottom=25mm37}3839% ------------------------------------------------------------------------40% Personnalisation des sections41% ------------------------------------------------------------------------42\titleformat{\section}{\Large\bfseries}{\thesection}{1em}{}43\titleformat{\subsection}{\large\bfseries}{\thesubsection}{1em}{}44\titleformat{\subsubsection}{\normalsize\bfseries}{\thesubsubsection}{1em}{}4546% ------------------------------------------------------------------------47% Commande pour mettre en avant les livres en bleu48% ------------------------------------------------------------------------49\newcommand{\livre}[1]{\textcolor{blue}{#1}}5051% ------------------------------------------------------------------------52% Configuration des hyperliens53% ------------------------------------------------------------------------54\hypersetup{55    colorlinks=true,          % Les liens sont colorés56    linkcolor=blue,           % Couleur des liens internes (TOC, références, etc.)57    urlcolor=blue,            % Couleur des URL58    citecolor=blue,           % Couleur des citations59    filecolor=blue,           % Couleur des liens vers des fichiers60    pdfborder={0 0 0},        % Pas de bordure autour des liens61    breaklinks=true            % Permet les sauts de ligne dans les liens62}6364% ------------------------------------------------------------------------65% Configuration des en-têtes et pieds de page66% ------------------------------------------------------------------------67\pagestyle{fancy}68\fancyhf{}69\fancyhead[L]{Preuve des MCO en Sommation}70\fancyhead[R]{Hiver 2025}71\fancyfoot[C]{\thepage}72\fancyfoot[R]{\includegraphics[height=1cm]{logo_universite_laval.png}} % Ajout du logo ERS en bas à droite7374\title{Preuve des Moindres Carrés Ordinaires (MCO) en Sommation}75\author{Simon-Pierre Boucher}76\date{Janvier 2025}7778\begin{document}7980\maketitle81\tableofcontents82\newpage8384\section{Introduction}85Les Moindres Carrés Ordinaires (MCO) sont une méthode d'estimation utilisée pour ajuster un modèle de régression linéaire aux données observées en minimisant l'erreur quadratique entre les valeurs observées et les valeurs prédites. L'objectif ici est de démontrer les MCO en utilisant la méthode de minimisation de la somme des carrés des résidus, en suivant une procédure rigoureuse étape par étape.8687\section{Modèle de Régression Linéaire}88Le modèle de régression linéaire simple peut être écrit comme suit :89\[90Y_i = \beta_1 + \beta_2 X_i + \mu_i91\]92où :93\begin{itemize}94    \item \(Y_i\) est la variable dépendante ou expliquée pour l'observation \(i\),95    \item \(X_i\) est la variable indépendante ou explicative pour l'observation \(i\),96    \item \(\beta_1\) et \(\beta_2\) sont les paramètres du modèle à estimer,97    \item \(\mu_i\) est le terme d'erreur associé à l'observation \(i\).98\end{itemize}99100\textbf{Hypothèses} :101\begin{itemize}102    \item \(E(\mu_i) = 0\), ce qui signifie que les erreurs ont une moyenne nulle,103    \item \(V(\mu_i) = \sigma^2\), c'est-à-dire que les erreurs ont une variance constante,104    \item Les erreurs sont indépendantes les unes des autres.105\end{itemize}106107Nous pouvons réécrire ce modèle comme suit :108\[109Y_i = \beta_1 + \beta_2 X_i + \mu_i110\]111112\section{Les Résidus}113Les résidus sont la différence entre les valeurs observées \(Y_i\) et les valeurs estimées \(\hat{Y}_i\) par le modèle de régression. L'estimateur des résidus est donc donné par :114\[115\hat{\mu}_i = Y_i - \hat{Y}_i = Y_i - (\hat{\beta}_1 + \hat{\beta}_2 X_i)116\]117L'objectif des MCO est de minimiser la somme des carrés des résidus. Cela revient à minimiser la fonction :118\[119S = \sum_{i=1}^N \hat{\mu}_i^2 = \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2120\]121où \(N\) est le nombre d'observations. Cette somme représente l'erreur totale entre les valeurs observées et les valeurs prédites.122123\section{Minimisation de la Somme des Carrés des Résidus}124L'objectif de la méthode des Moindres Carrés Ordinaires est de trouver les valeurs des paramètres \(\hat{\beta}_1\) et \(\hat{\beta}_2\) qui minimisent cette somme. Nous cherchons donc à résoudre le problème suivant :125\[126\min_{\hat{\beta}_1, \hat{\beta}_2} \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2127\]128Cela revient à dériver la fonction \(S\) par rapport aux paramètres \(\hat{\beta}_1\) et \(\hat{\beta}_2\), et de les égaler à zéro.129130\section{Calcul des Équations Normales}131Nous obtenons les équations normales en dérivant \(S\) par rapport à \(\hat{\beta}_1\) et \(\hat{\beta}_2\).132133\subsection{Équation Normale pour \(\hat{\beta}_1\)}134La dérivée partielle de \(S\) par rapport à \(\hat{\beta}_1\) est :135\[136\frac{\partial}{\partial \hat{\beta}_1} \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2 = -2 \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0137\]138Cette dérivée mesure comment \(S\) varie lorsque \(\hat{\beta}_1\) varie, et la condition d'optimalité exige que cette dérivée soit égale à zéro. En réorganisant cette équation, nous obtenons :139\[140\sum_{i=1}^N Y_i = N \hat{\beta}_1 + \hat{\beta}_2 \sum_{i=1}^N X_i141\]142Isolons \(\hat{\beta}_1\) :143\[144\hat{\beta}_1 = \frac{1}{N} \sum_{i=1}^N Y_i - \hat{\beta}_2 \frac{1}{N} \sum_{i=1}^N X_i145\]146Ce qui peut se réécrire comme :147\[148\hat{\beta}_1 = \bar{Y} - \hat{\beta}_2 \bar{X}149\]150où \(\bar{Y}\) et \(\bar{X}\) représentent les moyennes des \(Y_i\) et \(X_i\) respectivement.151152\subsection{Équation Normale pour \(\hat{\beta}_2\)}153La dérivée partielle de \(S\) par rapport à \(\hat{\beta}_2\) est :154\[155\frac{\partial}{\partial \hat{\beta}_2} \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2 = -2 \sum_{i=1}^N X_i (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0156\]157Cette dérivée mesure comment \(S\) varie lorsque \(\hat{\beta}_2\) varie. En réorganisant cette équation, nous obtenons l'équation normale suivante :158\[159\sum_{i=1}^N X_i Y_i - \hat{\beta}_1 \sum_{i=1}^N X_i - \hat{\beta}_2 \sum_{i=1}^N X_i^2 = 0160\]161En utilisant la relation \(\hat{\beta}_1 = \bar{Y} - \hat{\beta}_2 \bar{X}\), nous remplaçons dans cette équation pour obtenir :162\[163\hat{\beta}_2 = \frac{\sum_{i=1}^N (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^N (X_i - \bar{X})^2}164\]165C'est l'estimateur de \(\hat{\beta}_2\), qui est l'estimateur de la pente de la droite de régression.166167\section{Conclusion}168Les estimateurs des paramètres de régression \(\beta_1\) et \(\beta_2\) obtenus par la méthode des Moindres Carrés Ordinaires sont :169\[170\hat{\beta}_1 = \bar{Y} - \hat{\beta}_2 \bar{X}171\]172et173\[174\hat{\beta}_2 = \frac{\sum_{i=1}^N (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^N (X_i - \bar{X})^2}175\]176Ces estimations minimisent la somme des carrés des résidus et permettent de déterminer la relation linéaire entre \(Y\) et \(X\). Ces résultats sont fondamentaux pour l'application des Moindres Carrés Ordinaires dans l'analyse de régression linéaire.177178\end{document}