Retta di regressione dei minimi quadrati

📊 La linea di regressione dei minimi quadrati (LSRL) è la linea retta che minimizza la somma delle distanze verticali al quadrato tra i punti dati osservati e la linea. Matematicamente, se abbiamo n punti dati (x₁, y₁), (x₂, y₂), …, (xₙ, yₙ), l'LSRL è la linea ŷ = mx + b che minimizza la quantità Σ(yᵢ − ŷᵢ)², dove ŷᵢ = mxᵢ + b sono i valori previsti valori.

🏆 Questo criterio è chiamato criterio dei minimi quadrati e la linea risultante è anche conosciuta come linea dei minimi quadrati ordinari (OLS) o linea di adattamento migliore. Il metodo dei minimi quadrati ha una ricca storia che risale a Adrien-Marie Legendre nel 1805, che lo pubblicò come metodo per determinare le orbite delle comete, e Carl Friedrich Gauss, che affermò di averlo utilizzato dal 1795 e in seguito lo sviluppò ulteriormente nella sua teoria degli errori.

⚠️ Il nome "minimi quadrati" deriva direttamente dall'obiettivo matematico: tra tutte le linee possibili, noi scegli quello che rende la somma dei residui quadrati più piccola possibile: la minima somma dei quadrati. La quadratura dei residui (invece di assumere valori assoluti) garantisce che gli errori positivi e negativi non si annullino a vicenda e dà anche più peso alle deviazioni più grandi, il che è statisticamente desiderabile.

📊 Oggi, la linea di regressione dei minimi quadrati è il metodo più utilizzato per adattare una linea retta attraverso i punti dati in statistica, economia, scienze naturali, scienze sociali e ingegneria. Serve come base per tecniche più avanzate tra cui regressione multipla, modelli lineari generalizzati e algoritmi di apprendimento automatico. Ogni corso introduttivo di statistica insegna l'LSRL come pietra angolare dell'analisi di regressione.