Ensemble de méthodes statistiques pour modéliser et estimer la relation entre une variable dépendante et une ou plusieurs variables indépendantes, souvent utilisé pour expliquer, prédire et tester des hypothèses.

Principe

Spécifier une forme fonctionnelle reliant résultats et prédicteurs, estimer les paramètres à partir des données et évaluer l'ajustement et l'incertitude pour inférer comment des modifications des prédicteurs s'associent à des changements de la variable dépendante.

Démonstration

Estimer l'effet des années d'éducation et de l'expérience professionnelle sur les salaires individuels en ajustant un modèle où le salaire est la variable dépendante et l'éducation, l'expérience et des variables de contrôle sont les régressors.

Mauvaise application

Utiliser un modèle survendu avec de nombreux prédicteurs faibles ou effectuer de nombreuses régressions non déclarées jusqu'à obtenir une p-valeur souhaitée ; ne pas vérifier des hypothèses comme la linéarité, l'indépendance ou la colinéarité.

Conséquence

Une régression correctement appliquée clarifie les associations marginales, permet des prédictions hors échantillon et soutient les tests d'hypothèses sur les paramètres ; une mauvaise application conduit à des coefficients trompeurs et à une inférence invalide.

Inversion

Méthodes non paramétriques ou axées sur la classification qui privilégient la prédiction flexible ou l'affectation catégorielle sans estimer de relations paramétriques explicites entre variables.

Limite

S'applique lorsque les variables sont mesurables et que la forme du modèle choisie est appropriée ; exclut les récits causaux purement non quantitatifs et les contextes où les limites des données empêchent une estimation fiable.

Tension sémantique

Tension entre la régression comme outil prédictif et comme estimateur structurel (causal) : les régressions prédictives visent une faible erreur de prévision tandis que les régressions structurelles cherchent à isoler des paramètres causals, ce qui entraîne des choix différents de spécification et de validation.

Synthèse

L'analyse de régression est l'outillage pratique pour quantifier les associations entre variables via des modèles spécifiés, en équilibrant hypothèses, techniques d'estimation et contrôles diagnostics pour soutenir l'explication et la prédiction.