SPB Git

spb/gsf6053_h25 Public

GSF-6053 Économétrie financière (Hiver 2025) — notes, slides et PDF.

TeX 100%
16.8 KB · 517 lines latex
Raw Blame History
1% =========================================================================2% GSF6053 — Économétrie Financière (Hiver 2025)3% Université Laval — Faculté des sciences de l'administration4% Auteur  : Simon-Pierre Boucher5% Contact : contact@spboucher.ai6% =========================================================================7\documentclass{beamer}89% Encodages et langues10\usepackage[T1]{fontenc}11\usepackage[french]{babel}1213% Packages supplémentaires14\usepackage{graphicx}15\usepackage{amsmath, amssymb}16\usepackage{booktabs} % Pour des tableaux plus esthétiques17\usepackage{hyperref} % Pour les hyperliens18\usepackage{pgfplots} % Pour les graphiques avancés19\pgfplotsset{compat=1.17}2021% Thème et couleurs22\usetheme{default} % Un thème plus moderne et professionnel23\usecolortheme{seagull} % Palette de couleurs harmonieuse2425% Police26\usepackage{lmodern} % Police améliorée2728% Informations sur la présentation29\title[S01 Régression et MCO]{Régression et Moindres Carrés Ordinaires\\ (Séance 1)}30\subtitle{GSF-6053 : Économétrie Financière}31\author[SP. Boucher]{Simon-Pierre Boucher\inst{1}}32\institute[Université Laval]33{34  \inst{1}%35  Département de Finance, Assurance et Immobilier\\36  Faculté des Sciences de l'Administration\\37  Université Laval38}39\date[Hiver 2025]{14 Janvier 2025}4041% Configuration du pied de page avec logo en bas à droite42\setbeamertemplate{footline}{43  \leavevmode%44  \hbox{%45    \begin{beamercolorbox}[wd=.7\paperwidth,ht=2ex,dp=1ex,left]{author in head/foot}%46      \usebeamerfont{author in head/foot}\insertshortauthor47    \end{beamercolorbox}%48    \begin{beamercolorbox}[wd=.3\paperwidth,ht=2ex,dp=1ex,right]{date in head/foot}%49      \usebeamerfont{date in head/foot}\insertshortdate{}\hspace*{0.5em}50      \insertframenumber{} / \inserttotalframenumber\hspace*{0.5em}51      \raisebox{0.2cm}{\includegraphics[height=0.6cm]{logo_universite_laval.png}} % Ajustement du logo52    \end{beamercolorbox}}%53  \vskip0pt%54}5556\setbeamertemplate{navigation symbols}{} % Supprime les symboles de navigation par défaut5758\begin{document}5960% Page de titre61\begin{frame}62  \titlepage63\end{frame}6465% Références66\begin{frame}{Références}67\textbf{Obligatoires :}68\begin{itemize}69  \item \textbf{Wooldridge :} chapitres 2 à 770\end{itemize}71\vspace{0.5cm}72\textbf{Complémentaires :}73\begin{itemize}74  \item \textbf{Gujarati et Porter :} chapitres 1 à 975  \item \textbf{Greene :} chapitres 2, 3, 4, 5, 9, 14, 20, appendices C et D76\end{itemize}77\end{frame}7879% Plan de la séance80\begin{frame}{Plan de la séance}81  \tableofcontents82\end{frame}8384% Section Modèle de Régression85\section{Modèle de Régression}86\frame{\tableofcontents[current]}8788\begin{frame}{Modèle de Régression}89\begin{itemize}90  \item Espérance conditionnelle d'une variable dépendante \textbf{(Y)} conditionnelle à la valeur connue des régresseurs \textbf{(X)}91  92  \begin{align*}93    \mathbb{E}(Y \vert X_i) = f(X_i)94  \end{align*}95\( f(X_i) \) est une fonction des variables explicatives \( \mathbf{X} \)96  \vspace{0.5cm}97  \item Relation conditionnelle linéaire98  99  \begin{align*}100    \mathbb{E}(Y \vert X_i) = \beta_1 + \beta_2 X_i101  \end{align*}102  \item Composition de \( Y \) :103  \begin{itemize}104    \item Partie systématique ou déterministe, \( \mathbb{E}(Y \vert X_i) \)105    \item Partie aléatoire et non systématique, \( \mu_i \)106  \end{itemize}107\end{itemize}108\end{frame}109110\begin{frame}{Modèle de Régression}111\begin{itemize}112  \item Modèle de Régression Linéaire Simple 113  \begin{align*}114    Y_i = \beta_1 + \beta_2 X_i + \mu_i 115  \end{align*}116  \item Prendre l'espérance des deux côtés 117  \begin{align*}118    \mathbb{E}(Y_i \vert X_i) = \mathbb{E}(Y \vert X_i) + \mathbb{E}(\mu_i)119  \end{align*}120  Sachant que \( \mathbb{E}(Y_i \vert X_i) = \mathbb{E}(Y \vert X_i) \), alors \( \mathbb{E}(\mu_i) = 0 \)121  \item Les paramètres obtenus à partir d'un échantillon sont des estimateurs (notés avec \( \hat{} \))122  \begin{align*}123    \hat{Y}_i = \hat{\beta}_1 + \hat{\beta}_2 X_i124  \end{align*}125  \begin{align*}126    Y_i = \hat{\beta}_1 + \hat{\beta}_2 X_i + \hat{\mu}_i127  \end{align*}128  \( \hat{\mu}_i \) représente l'estimateur du terme d'erreur, le résidu129\end{itemize}130\end{frame}131132% Section Moindres Carrés Ordinaires (En sommation)133\section{Moindres Carrés Ordinaires (En sommation)}134\frame{\tableofcontents[current]}135136\begin{frame}{Moindres Carrés Ordinaires (En sommation)}137\begin{itemize}138  \item Définissons les résidus139  \begin{align*}140    \hat{\mu}_i = Y_i - \hat{Y}_i = Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i141  \end{align*}142  \item Choisir des estimateurs de \( \hat{\beta}_1 \) et \( \hat{\beta}_2 \) de façon à minimiser la somme des carrés des résidus 143  \begin{align*}144    \sum_{i=1}^{N} \hat{\mu}_i^2 & = \left[\hat{\mu}_1^2 + \hat{\mu}_2^2 + \dots + \hat{\mu}_N^2 \right] \\ 145    & = \sum_{i=1}^{N} (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2146  \end{align*}147\end{itemize}148\end{frame}149150\begin{frame}{Moindres Carrés Ordinaires (En sommation)}151\begin{itemize}152  \item Minimiser la somme des carrés des résidus par rapport à \( \hat{\beta}_1 \) et \( \hat{\beta}_2 \)153  \begin{align*}154    \min_{\hat{\beta}_1, \hat{\beta}_2} \sum_{i=1}^{N} (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i)^2 = \min_{\hat{\beta}_1, \hat{\beta}_2} \sum_{i=1}^{N} \hat{\mu}_i^2155  \end{align*}156  \item Équations normales 157  \begin{equation}158    \frac{\partial \sum_{i=1}^{N} \hat{\mu}_i^2}{\partial \hat{\beta}_1} = -2 \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0159  \end{equation}160  \begin{equation}161    \frac{\partial \sum_{i=1}^{N} \hat{\mu}_i^2}{\partial \hat{\beta}_2} = -2 \sum_{i=1}^N X_i (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0162  \end{equation}163\end{itemize}164\end{frame}165166\begin{frame}{Moindres Carrés Ordinaires (En sommation)}167\begin{itemize}168  \item Solution de \( \hat{\beta}_1 \) à l'aide de l'équation (1)169  \begin{align*}170    -2 \sum_{i=1}^N (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0171  \end{align*}172  \begin{align*}173    \sum_{i=1}^N Y_i - N \hat{\beta}_1 - \hat{\beta}_2 \sum_{i=1}^N X_i = 0174  \end{align*}175  \begin{align*}176    N \hat{\beta}_1 = \sum_{i=1}^N Y_i - \hat{\beta}_2 \sum_{i=1}^N X_i177  \end{align*}178\end{itemize}179\end{frame}180181\begin{frame}{Moindres Carrés Ordinaires (En sommation)}182\begin{itemize}183  \item Solution de \( \hat{\beta}_1 \) à l'aide de l'équation (1)184  185  \vspace{0.5cm}186  On pose la propriété suivante : 187  \begin{itemize}188    \item \( \sum_{i=1}^N Y_i = N \overline{Y} \) 189    \item \( \sum_{i=1}^N X_i = N \overline{X} \)190  \end{itemize}191  \begin{align*}192    N \hat{\beta}_1 = N \overline{Y} - N \hat{\beta}_2 \overline{X}193  \end{align*}194  \begin{align*}195    \hat{\beta}_1 = \frac{N \overline{Y}}{N} - \frac{N \hat{\beta}_2 \overline{X}}{N}196  \end{align*}197  198  \begin{block}{Solution de \( \hat{\beta}_1 \)}199    \begin{align*}200      \hat{\beta}_1 = \overline{Y} - \hat{\beta}_2 \overline{X}201    \end{align*}202  \end{block}203\end{itemize}204\end{frame}205206\begin{frame}{Moindres Carrés Ordinaires (En sommation)}207\begin{itemize}208  \item Solution de \( \hat{\beta}_2 \) à l'aide de l'équation (2)209  \begin{align*}210    -2 \sum_{i=1}^N X_i (Y_i - \hat{\beta}_1 - \hat{\beta}_2 X_i) = 0211  \end{align*}212  \begin{align*}213    \sum_{i=1}^N X_i Y_i - \hat{\beta}_1 \sum_{i=1}^N X_i - \hat{\beta}_2 \sum_{i=1}^N X_i^2 = 0214  \end{align*}215  Sachant \( \hat{\beta}_1 = \overline{Y} - \hat{\beta}_2 \overline{X} \)216  \begin{align*}217    \sum_{i=1}^N X_i Y_i - [\overline{Y} - \hat{\beta}_2 \overline{X}] \sum_{i=1}^N X_i - \hat{\beta}_2 \sum_{i=1}^N X_i^2 = 0218  \end{align*}219\end{itemize}220\end{frame}221222\begin{frame}{Moindres Carrés Ordinaires (En sommation)}223\begin{itemize}224  \item Solution de \( \hat{\beta}_2 \) à l'aide de l'équation (2)225  \begin{align*}226    \sum_{i=1}^N X_i Y_i - \overline{Y} \sum_{i=1}^N X_i - \hat{\beta}_2 \overline{X} \sum_{i=1}^N X_i - \hat{\beta}_2 \sum_{i=1}^N X_i^2 = 0227  \end{align*}228  \begin{align*}229    \sum_{i=1}^N X_i Y_i - N \overline{X} \overline{Y} + \hat{\beta}_2 N \overline{X}^2 - \hat{\beta}_2 \sum_{i=1}^N X_i^2 = 0230  \end{align*}231  \begin{align*}232    \sum_{i=1}^N X_i Y_i - N \overline{X} \overline{Y} = \hat{\beta}_2 \left[ \sum_{i=1}^N X_i^2 - N \overline{X}^2 \right]233  \end{align*}234\end{itemize}235\end{frame}236237\begin{frame}{Moindres Carrés Ordinaires (En sommation)}238\begin{itemize}239  \item Solution de \( \hat{\beta}_2 \) à l'aide de l'équation (2)240  \begin{align*}241    \hat{\beta}_2 = \frac{\sum_{i=1}^N X_i Y_i - N \overline{X} \overline{Y}}{\sum_{i=1}^N X_i^2 - N \overline{X}^2}242  \end{align*}243  Sachant que 244  \begin{itemize}245    \item \( \sum_{i=1}^N X_i Y_i - N \overline{X} \overline{Y} = \sum_{i=1}^N (X_i - \overline{X})(Y_i - \overline{Y}) \)246    \item \( \sum_{i=1}^N X_i^2 - N \overline{X}^2 = \sum_{i=1}^N (X_i - \overline{X})^2 \)247  \end{itemize}248  \begin{block}{Solution de \( \hat{\beta}_2 \)}249    \begin{align*}250      \hat{\beta}_2 = \frac{\sum_{i=1}^N (X_i - \overline{X})(Y_i - \overline{Y})}{\sum_{i=1}^N (X_i - \overline{X})^2}251    \end{align*}252  \end{block}253\end{itemize}254\end{frame}255256% Section Moindres Carrés Ordinaires (Format Matricielle)257\section{Moindres Carrés Ordinaires (Format Matricielle)}258\frame{\tableofcontents[current]}259260\begin{frame}{Moindres Carrés Ordinaires (Format Matricielle)}261\begin{itemize}262  \item Vecteur de la variable à expliquer \textbf{(n $\times$ 1)}263  \[264    Y = \begin{pmatrix}265      y_1 \\ 266      y_2 \\ 267      \vdots \\268      y_n \\269    \end{pmatrix}270  \]271  \item Matrice de variables explicatives \textbf{(n $\times$ (k+1))}272  \[273    X = \begin{bmatrix}274      1 & x_{11} & x_{21} & \cdots & x_{k1} \\ 275      1 & x_{12} & \cdots & \cdots & x_{k2} \\ 276      1 & \vdots & \vdots & \ddots & \vdots \\ 277      1 & x_{1n} & \cdots & \cdots & x_{kn}278    \end{bmatrix}279  \]280\end{itemize}281\end{frame}282283\begin{frame}{Moindres Carrés Ordinaires (Format Matricielle)}284\begin{itemize}285  \item Vecteur de coefficients associés \textbf{(k+1 $\times$ 1)}286  \[287    \beta = \begin{pmatrix}288      \beta_0 \\ 289      \beta_1 \\ 290      \beta_2 \\ 291      \vdots \\292      \beta_k \\293    \end{pmatrix}294  \]295  \item Vecteur associé au terme d'erreur \textbf{(n $\times$ 1)}296  \[297    u = \begin{pmatrix}298      u_1 \\ 299      u_2 \\ 300      \vdots \\301      u_n \\302    \end{pmatrix}303  \]304\end{itemize}305\end{frame}306307\begin{frame}{Moindres Carrés Ordinaires (Format Matricielle)}308\begin{itemize}309  \item Modèle Univarié 310  \begin{align*}311    \begin{pmatrix}312      y_1 \\ 313      y_2 \\ 314      \vdots \\315      y_n \\316    \end{pmatrix} = 317    \begin{bmatrix}318      1 & x_{11} & x_{21} & \cdots & x_{k1} \\ 319      1 & x_{12} & \cdots & \cdots & x_{k2} \\ 320      1 & \vdots & \vdots & \ddots & \vdots \\ 321      1 & x_{1n} & \cdots & \cdots & x_{kn}322    \end{bmatrix}323    \begin{pmatrix}324      \beta_0 \\ 325      \beta_1 \\ 326      \beta_2 \\ 327      \vdots \\328      \beta_k \\329    \end{pmatrix} + 330    \begin{pmatrix}331      u_1 \\ 332      u_2 \\ 333      \vdots \\334      u_n \\335    \end{pmatrix}336  \end{align*}337  Que nous réécrirons comme suit : 338  \begin{align*}339    Y = X \beta + u 340  \end{align*}341\end{itemize}342\end{frame}343344\begin{frame}{Moindres Carrés Ordinaires (Format Matricielle)}345\begin{itemize}346  \item Hypothèses distributionnelles sur \( u \)347  \begin{itemize}348    \item \( u \sim \text{iid} \) et \( \mathbb{E}(u) = 0 \)349    \item \( \text{Var}(u) = \sigma^2 I \)350    \item \( u \sim \text{iid } N(0, \sigma^2) \)351  \end{itemize}352  \begin{align*}353    \mathbb{E}(u) = \begin{pmatrix}354      \mathbb{E}(u_1) = 0 \\ 355      \mathbb{E}(u_2) = 0 \\ 356      \vdots \\357      \mathbb{E}(u_n) = 0 \\358    \end{pmatrix}359  \end{align*}360  \item Il n'y a pas de corrélation sérielle des erreurs 361  \begin{align*}362    \text{Var}(u) = \mathbb{E}(uu') = \sigma^2 I 363  \end{align*}364  \item Découle de l'indépendance365  \begin{align*}366    \text{Cov}(u_i, u_j) = 0 \quad \text{pour } i \neq j \quad \forall i, j367  \end{align*}368\end{itemize}369370\end{frame}371372\begin{frame}{Moindres Carrés Ordinaires (Format Matricielle)}373\textbf{Rappel :}374\begin{align*}375  \text{Var}(u) = \mathbb{E}(uu') - \mathbb{E}(u)\mathbb{E}(u') 376\end{align*}377\textbf{Avec l'hypothèse d'indépendance :}378\begin{align*}379  \text{Var}(u) = \begin{pmatrix}380    \sigma^2 & \cdots & 0 \\ 381    \vdots & \sigma^2 & \vdots \\ 382    0 & \cdots & \sigma^2383  \end{pmatrix} = \sigma^2 \begin{pmatrix}384    1 & \cdots & 0 \\ 385    \vdots & 1 & \vdots \\ 386    0 & \cdots & 1387  \end{pmatrix} 388\end{align*}389\end{frame}390391\begin{frame}{Dérivation MCO (Format Matricielle)}392\begin{align*}393  \hat{\beta} = \arg\min_{\beta} (\hat{u}'\hat{u})394\end{align*}395\begin{align*}396  \hat{\beta} = \arg\min_{\beta} \left( (Y - X \hat{\beta})' (Y - X \hat{\beta}) \right)397\end{align*}398Distribution des termes de la multiplication matricielle :399\begin{align*}400  (Y - X \beta)' (Y - X \beta) = Y'Y - Y'X \hat{\beta} - \hat{\beta}'X'Y + \hat{\beta}'X'X \hat{\beta}401\end{align*}402Sachant 403\begin{align*}404  Y'X \hat{\beta} = \hat{\beta}'X'Y405\end{align*}406Alors :407\begin{align*}408  (Y - X \beta)' (Y - X \beta) = Y'Y - 2 Y'X \hat{\beta} + \hat{\beta}'X'X \hat{\beta}409\end{align*}410\end{frame}411412\begin{frame}{Dérivation MCO (Format Matricielle)}413\begin{itemize}414  \item Dérivée de la somme des résidus au carré par rapport à \( \beta \)415  416  \begin{align*}417    \frac{\partial (\text{RSS})}{\partial \hat{\beta}} = \frac{\partial (Y'Y - 2 Y'X \hat{\beta} + \hat{\beta}'X'X \hat{\beta})}{\partial \hat{\beta}}418  \end{align*}419  Sachant420  \begin{align*}421    \frac{\partial (Y'X \hat{\beta})}{\partial \hat{\beta}} = X'Y422  \end{align*}423  \begin{align*}424    \frac{\partial (\hat{\beta}'X'X \hat{\beta})}{\partial \hat{\beta}} = 2 X'X \hat{\beta}425  \end{align*}426\end{itemize}427\end{frame}428429\begin{frame}{Dérivation MCO (Format Matricielle)}430\begin{align*}431  \frac{\partial (\text{RSS})}{\partial \hat{\beta}} = -2 X'Y + 2 X'X \hat{\beta} = 0432\end{align*}433\begin{align*}434  X'Y = X'X \hat{\beta}435\end{align*}436\begin{align*}437  \hat{\beta} = (X'X)^{-1} X'Y438\end{align*}439\begin{block}{Estimateur de \( \hat{\beta} \) par MCO}440  \begin{align*}441    \hat{\beta} = (X'X)^{-1} X'Y442  \end{align*}443\end{block}444\end{frame}445446\begin{frame}{Dérivation MCO (Format Matricielle)}447\begin{itemize}448  \item Il n'existe pas d'estimateur de \( \sigma^2 \) pour la méthode des Moindres Carrés Ordinaires 449  \item On peut estimer empiriquement comme suit :450  \begin{align*}451    \hat{\sigma}^2 = \frac{1}{T} \sum_{i=1}^N \hat{u}_i^2 = \frac{\hat{u}'\hat{u}}{N}452  \end{align*}453\end{itemize}454\end{frame}455456% Section Exemple Numérique457\section{Exemple Numérique}458\frame{\tableofcontents[current]}459460\begin{frame}{Exemple Numérique}461\begin{itemize}462  \item Nous allons générer des variables aléatoires à l’aide d’un modèle dont nous allons déterminer les paramètres.463  \item Nous allons utiliser un modèle linéaire simple ayant le format suivant :464  \begin{align*}465    Y = \beta_1 + \beta_2 X_i + \epsilon_i466  \end{align*}467  \begin{itemize}468    \item L'intercepte de notre modèle sera de \( \beta_1 = 60 \).469    \item La pente de notre modèle sera de \( \beta_2 = 2 \).470    \item Nous allons faire l'hypothèse que notre terme d'erreur suit une loi normale de moyenne 0 et variance 4 (\( \epsilon \sim N(0,4) \)).471  \end{itemize}472  \item Il nous est maintenant possible de déterminer une valeur pour chaque \( Y_i \) en utilisant les \( X_i \).473  \item Pour les \( X_i \) nous allons générer uniformément 40 observations entre 0 et 40. 474\end{itemize}475\end{frame}476477\begin{frame}{Nuage de points et régression linéaire (\( \epsilon \sim N(0,2) \))}478  \includegraphics[width=10cm, height=8cm]{ols_2.png}479\end{frame}480481\begin{frame}{Nuage de points et régression linéaire (\( \epsilon \sim N(0,4) \))}482  \includegraphics[width=10cm, height=8cm]{ols_4.png}483\end{frame}484485\begin{frame}{Nuage de points et régression linéaire (\( \epsilon \sim N(0,6) \))}486  \includegraphics[width=10cm, height=8cm]{ols_6.png}487\end{frame}488489\begin{frame}{Nuage de points et régression linéaire (\( \epsilon \sim N(0,8) \))}490  \includegraphics[width=10cm, height=8cm]{ols_8.png}491\end{frame}492493\begin{frame}{Exemple Numérique}494\begin{table}495\begin{center}496\begin{tabular}{l c c c c}497\hline498 & \( \epsilon \sim N(0,2) \) & \( \epsilon \sim N(0,4) \) & \( \epsilon \sim N(0,6) \) & \( \epsilon \sim N(0,8) \) \\499\hline500(Intercept) & \( 59.30^{***} \) & \( 59.28^{***} \) & \( 60.89^{***} \) & \( 55.68^{***} \) \\501            & \( (0.68) \)      & \( (1.35) \)      & \( (2.43) \)      & \( (2.31) \)      \\502X           & \( 2.02^{***} \)  & \( 2.03^{***} \)  & \( 2.00^{***} \)  & \( 2.13^{***} \)  \\503            & \( (0.03) \)      & \( (0.06) \)      & \( (0.10) \)      & \( (0.10) \)      \\504\hline505\( R^2 \)       & \( 0.99 \)        & \( 0.96 \)        & \( 0.89 \)        & \( 0.91 \)        \\506Adj. \( R^2 \)  & \( 0.99 \)        & \( 0.96 \)        & \( 0.89 \)        & \( 0.91 \)        \\507Num. obs.       & \( 50 \)          & \( 50 \)          & \( 50 \)          & \( 50 \)          \\508\hline509\multicolumn{5}{l}{\scriptsize{\(^{***}p<0.001\); \(^{**}p<0.01\); \(^{*}p<0.05\)}}510\end{tabular}511\caption{Table de régression}512\label{table:coefficients}513\end{center}514\end{table}515\end{frame}516517\end{document}