Ligne de régression des moindres carrés

📊 La droite de régression des moindres carrés (LSRL) est la ligne droite qui minimise la somme des carrés des distances verticales entre les points de données observés et la ligne. Mathématiquement, si nous avons n points de données (x₁, y₁), (x₂, y₂), …, (xₙ, yₙ), le LSRL est la droite ŷ = mx + b qui minimise la quantité Σ(yᵢ − ŷᵢ)², où ŷᵢ = mxᵢ + b sont les valeurs prédites. valeurs.

🏆 Ce critère est appelé le critère des moindres carrés, et la ligne résultante est également connue sous le nom de ligne des moindres carrés ordinaires (OLS) ou ligne de meilleur ajustement. La méthode des moindres carrés a une riche histoire qui remonte à Adrien-Marie Legendre en 1805, qui l'a publiée comme moyen de déterminer les orbites des comètes, et à Carl Friedrich Gauss, qui prétendait l'utiliser depuis 1795 et l'a ensuite développée plus tard dans sa théorie des erreurs.

⚠️ Le nom "moindres carrés" vient directement de l'objectif mathématique : parmi toutes les lignes possibles, nous choisissons celui qui rend la somme des carrés résiduels aussi petite que possible — la plus petite somme de carrés. La mise au carré des résidus (plutôt que de prendre des valeurs absolues) garantit que les erreurs positives et négatives ne s'annulent pas, et donne également plus de poids aux écarts plus importants, ce qui est statistiquement souhaitable.

📊 Aujourd'hui, la droite de régression des moindres carrés est la méthode la plus largement utilisée pour ajuster une ligne droite passant par des points de données dans les statistiques, l'économie, les sciences naturelles, les sciences sociales et l'ingénierie. Il sert de base à des techniques plus avancées, notamment la régression multiple, les modèles linéaires généralisés et les algorithmes d'apprentissage automatique. Chaque cours d'introduction aux statistiques enseigne le LSRL comme pierre angulaire de l'analyse de régression.