Waarom wordt de gewone kleinste kwadratenmethode gebruikt in een lineaire regressie?

Waarom wordt de gewone kleinste kwadratenmethode gebruikt in een lineaire regressie?
Anonim

Antwoord:

Als de Gauss-Markof-aannamen van toepassing zijn, biedt OLS de laagste standaardfout van elke lineaire schatter, zodat de beste lineaire onbevooroordeelde schatter

Uitleg:

Gezien deze aannames

  1. Parametercoëfficiënten zijn lineair, dit betekent alleen dat # beta_0 en beta_1 # zijn lineair maar de #X# variabele hoeft niet lineair te zijn # X ^ 2 #

  2. De gegevens zijn afkomstig van een willekeurig monster

  3. Er is geen perfecte multi-collineariteit, dus twee variabelen zijn niet perfect gecorreleerd.

  4. #EU#/#x_j) = 0 # gemiddelde voorwaardelijke aanname is nul, wat betekent dat de # X_j # variabelen geven geen informatie over het gemiddelde van de niet-geobserveerde variabelen.

  5. De varianties zijn gelijk voor elk gegeven niveau van #X# d.w.z. #var (u) = sigma ^ 2 #

Vervolgens is OLS de beste lineaire schatter in de populatie van lineaire schatters of (Beste lineaire niet-geschatte schattingswaarde) BLAUW.

Als u deze aanvullende aanname heeft:

  1. De varianties worden normaal verdeeld

Vervolgens wordt de OLS-schatter de beste schatter, ongeacht of deze een lineaire of niet-lineaire schatter is.

Wat dit in essentie betekent, is dat als de aannames 1-5 worden aangehouden, OLS de laagste standaardfout van elke lineaire schatter levert en als 1-6 wordt vastgehouden, dan biedt deze de laagste standaardfout van elke schatter.