Modèle de Régression Linéaire Simple

Le modèle linéaire simple

• On étudie la relation entre les revenus X et les dépenses Y, à l'aide d'un échantillon de soixantaine d'individus, ayant des revenus (xi) et des dépenses (yi)
• L'objectif est de retrouver les caractéristiques de la relation entre les variables X et Y de la population-mère en s'appuyant sur cet échantillon.
• Le nuage de points indique qu'un ajustement linéaire de Y sur X est adéquat, à la vue des valeurs des points.
• La relation entre les variables X et Y n’est pas exacte, la connaissance de X ne permet pas de déterminer de façon unique Y.
• Le modèle de régression linéaire permet d’expliquer le comportement de la variable expliquée (ou endogène) par une variable explicative (ou exogène).
• Il existe des expressions alternatives possibles: modèle semi-logarithmique, modèle logarithmique, modèle exponentielle, etc.
• Le choix de la forme du modèle dépend des choix méthodologiques du modélisateur, qui sont généralement éclairés par la littérature économique, ses a priori théoriques ou toute autre conclusion basée sur une analyse graphique ou statistique.
• Pour mettre en œuvre la méthode des Moindres carrés ordinaires, il faut que le modèle soit linéaire
• Les paramètres a et b sont toujours inconnus, et on cherche à déterminer les valeurs plausibles pour les paramètres a et b, et à déterminer la relation estimée.
• Les estimations des paramètres a et b sont liées à l’échantillon utilisé.
• Des échantillons distincts fourniront donc des estimations différentes.
• Les estimations sont les valeurs prises par les estimateurs.
• Les estimateurs et dépendent des observations
• Les estimateurs sont des variables aléatoires.
• Les estimateurs sont des « statistiques » calculées sur l’échantillon.
• Un estimateur est une fonction de variables aléatoires observables ne dépendant pas de paramètres inconnus.
• Une estimation est une valeur numérique, prise par un estimateur au regard des données de l’échantillon.
• Une estimation est associée à un échantillon.

Un peu d’histoire

• La démarche économétrique (MCO) consiste à trouver l’équation de la droite qui passe au plus près des points du nuage.
• L'approche des MCO a été introduite en 1805 par Adrien-Marie Legendre, mais la paternité est contestée par Carl Friedrich Gauss.
• La méthode des MCO est l'une des méthodes phare d'estimation dans les travaux économétriques.
• Les estimateurs obtenus sont les estimateurs des moindres carrées ordinaires (en anglais OLS pour ordinary least square).

Les hypothèses de validité des MCO

• La « popularité » de la méthode des MCO est liée aux propriétés statistiques des estimateurs qui sont obtenus.
• Ces propriétés statistiques dérivent d’hypothèses qui assurent que les estimateurs sont sans biais et que les variances d’échantillonnage peuvent être déterminées.
• Un estimateur est sans biais si son espérance est égal au paramètre estimé.
• Les variances d’échantillonnage seront particulièrement utiles pour déterminer les lois de probabilités des estimateurs.
• Les principales hypothèses concernent l’aléa.
• Hypothèse 1: Le modèle est linéaire au regard des paramètres.
• Hypothèse 2: Le régresseur x est observé sans erreur, ce n’est pas une variable aléatoire.
• Hypothèse 3: Pour une valeur de x donnée, la valeur attendue du terme aléatoire est nulle.
• Hypothèse 4: L’aléa est indépendant de la variable explicative.
• Hypothèse 5: Deux termes aléatoires ne sont pas corrélés.
• Hypothèse 6: Les aléas sont distribués de la même façon autour de leur espérance: c’est l’hypothèse d’homoscédasticité.
• Hypothèse 7: Les aléas sont des variables aléatoires normales.

Les propriétés des estimateurs

• On s’intéresse à deux propriétés statistiques des estimateurs: un estimateur sans biais et un estimateur convergent.
• Ces propriétés statistiques sont déduites des formes fonctionnelles des estimateurs.
• Conséquence 1: Les hypothèses H3, H5, H6 et H7 permettent de conclure que les sont des variables aléatoires normales iid (indépendantes et identiquement distribuées).
• Conséquence 2: Puisque alors:
• Une violation des hypothèses 2 et 3 biaise l’estimateur des MCO.
• Une violation des hypothèses 5 à 6 ne biaise pas l’estimateur mais invalide les résultats inférentiels.
• Conséquences: Les tests ne sont plus utilisables, et on ne peut plus s ’appuyer sur les résultats des MCO pour déduire les propriétés de la relation au niveau de la population mère.
• Les estimateurs sont des variables aléatoires car: la relation est : y i  axi  b   i, l’aléa est une variable aléatoire, la variable expliquée dépend de l’aléa, les estimateurs sont des fonctions de la variable expliquée.