Gauss-Markov teoremi - Gauss–Markov theorem

Bir serinin parçası
Regresyon analizi
Modeller
Doğrusal regresyon Basit regresyon polinom regresyon Genel doğrusal model
Genelleştirilmiş doğrusal model ayrık seçim Binom regresyon ikili regresyon Lojistik regresyon Çok terimli lojistik regresyon karışık logit yasaklamak çok terimli probit sıralı logit sıralı probit zehir
çok seviyeli model Sabit efektler rastgele efektler Doğrusal karışık efekt modeli Doğrusal olmayan karışık efekt modeli
Doğrusal olmayan regresyon Parametrik olmayan yarı parametrik güçlü Çeyreklik izotonik Ana bileşenleri en küçük açı Yerel parçalı
Değişkenlerdeki hatalar
Tahmin
En küçük kareler Doğrusal doğrusal olmayan
Sıradan Ağırlıklı genelleştirilmiş
Kısmi Toplam Negatif olmayan sırt regresyonu düzenli
En küçük mutlak sapmalar yinelemeli olarak yeniden ağırlıklandırılmış Bayes Bayes çok değişkenli
Arka fon
Regresyon doğrulama Ortalama ve tahmin edilen yanıt Hatalar ve artıklar Formda olmanın güzelliği Öğrencileştirilmiş kalıntı Gauss-Markov teoremi
matematik portalı
v t e

Gelen istatistik , Gauss-Markov teoremi (veya basitçe Gauss teoremi bazı yazarlar için) belirtiyor sıradan en küçük kareler (EKK) tahmin edicisi en düşük sahip örnekleme varyansını içinde sınıfın içinde doğrusal tarafsız Tahmincilerin eğer hatalar içinde lineer regresyon modeli olan ilintisiz , eşit varyanslara ve sıfır beklenti değerine sahiptir. Hataların normal olması veya bağımsız ve aynı şekilde dağılmış olmaları gerekmez (sadece ortalama sıfır ile ilişkisiz ve sonlu varyanslı homoskedastik). Önyargılı tahmin ediciler daha düşük varyansa sahip olduğundan, tahmin edicinin yansız olması şartı kaldırılamaz. Örneğin, James-Stein tahmincisi (aynı zamanda doğrusallığı düşürür), ridge regresyonu veya herhangi bir dejenere tahmin edicisine bakın.

Teorem, Gauss'un çalışması Markov'unkinden önemli ölçüde önce olmasına rağmen, Carl Friedrich Gauss ve Andrey Markov'un adını almıştır . Ancak Gauss, sonucu bağımsızlık ve normallik varsayımı altında elde ederken, Markov varsayımları yukarıda belirtilen forma indirdi. Küresel olmayan hatalar için bir başka genelleme Alexander Aitken tarafından yapılmıştır .

Beyan

Diyelim ki matris notasyonumuz var,

${\displaystyle {\underline {y}}=X{\underline {\beta }}+{\underline {\varepsilon }},\quad ({\underline {y}},{\underline {\varepsilon }}}\ \mathbb {R} ^{n},{\underline {\beta }}\in \mathbb {R} ^{K}{\text{ ve }}X\in \mathbb {R} ^{n\times içinde K})}$

genişleyen,

${\displaystyle y_{i}=\sum _{j=1}^{K}\beta _{j}X_{ij}+\varepsilon _{i}\quad \forall i=1,2,\ldots , n}$

burada rastlantısal olmayan ama olan un gözlemlenebilir parametreler tesadüfi olmayan ve ( "açıklayıcı değişkenler" olarak adlandırılır) gözlemlenebilir, rasgele ve çok rasgele. Rastgele değişkenler "bozulma", "gürültü" veya basitçe "hata" olarak adlandırılır (makalede daha sonra "artık" ile karşılaştırılacaktır; istatistiklerdeki hatalara ve artıklara bakın ). Yukarıdaki modele bir sabit eklemek için , X'in yeni tanıtılan son sütunu bir olacak şekilde, yani herkes için sabiti bir değişken olarak eklemeyi seçebilirsiniz . Örnek yanıtlar olarak gözlemlenebilir olmasına rağmen , varsayımlar, kanıtlar ve diğerleri dahil olmak üzere aşağıdaki ifadeler ve argümanların sadece bilme koşulu altında varsayıldığına, ancak bilinmediğine dikkat edin.${\görüntüleme stili \beta _{j}}$${\displaystyle X_{ij}}$${\displaystyle \varepsilon _{i}}$${\görüntüleme stili y_{i}}$${\displaystyle \varepsilon _{i}}$${\displaystyle \beta _{K+1}}$${\displaystyle X_{i(K+1)}=1}$${\görüntüleme stili ben}$${\displaystyle y_{i},}$${\displaystyle X_{ij},}$ ${\görüntüleme stili y_{i}.}$

Gauss-Markov varsayımları hata rasgele değişkenlerin, kümesi ilgilendiren : ${\displaystyle \varepsilon _{i}}$

• Ortalama sıfırları var: ${\displaystyle \operatöradı {E} [\varepsilon _{i}]=0.}$
• Bunlar homoskedastik : hepsi aynı sonlu varyansa sahip olduğunu, herkes için ve${\displaystyle \operatöradı {Var} (\varepsilon _{i})=\sigma ^{2}<\infty }$${\görüntüleme stili ben}$
• Belirgin hata terimleri korelasyonsuzdur: ${\displaystyle {\text{Cov}}(\varepsilon _{i},\varepsilon _{j})=0,\forall i\neq j.}$

Bir doğrusal tahmin arasında doğrusal bir kombinasyonudur ${\görüntüleme stili \beta _{j}}$

${\displaystyle {\widehat {\beta }}_{j}=c_{1j}y_{1}+\cdots +c_{nj}y_{n}}$

katsayıların gözlemlenebilir olmadığından temel katsayılara bağlı olmasına izin verilmez , ancak bu veriler gözlemlenebilir olduğundan değerlere bağlı olmalarına izin verilir . (Katsayıların her birine bağımlılığı tipik olarak doğrusal değildir; tahmin edici her birinde doğrusaldır ve dolayısıyla her rastgelede bu nedenle bu "doğrusal" regresyondur .) Tahmincinin yansız olduğu söylenir, ancak ve ancak${\displaystyle c_{ij}}$${\görüntüleme stili \beta _{j}}$${\displaystyle X_{ij}}$${\displaystyle X_{ij}}$${\görüntüleme stili y_{i}}$${\ Displaystyle \ varepsilon ,}$

${\displaystyle \operatöradı {E} \sol[{\widehat {\beta }}_{j}\sağ]=\beta _{j}}$

değerlerinden bağımsız olarak . Şimdi, katsayıların bir lineer kombinasyonu olsun . O zaman karşılık gelen tahminin ortalama kare hatası${\displaystyle X_{ij}}$${\textstyle \sum _{j=1}^{K}\lambda _{j}\beta _{j}}$

${\displaystyle \operatöradı {E} \left[\left(\sum _{j=1}^{K}\lambda _{j}\left({\widehat {\beta }}_{j}-\beta) _{j}\sağ)\sağ)^{2}\sağ],}$

başka bir deyişle, tahmin ediciler ve tahmin edilecek karşılık gelen parametreler arasındaki farkların ağırlıklı toplamının (parametreler arası) karesinin beklentisidir. (Tüm parametre tahminlerinin yansız olduğu durumu düşündüğümüz için, bu ortalama karesel hata, doğrusal kombinasyonun varyansı ile aynıdır.) Parametre vektörünün en iyi doğrusal yansız kestiricisi (MAVİ), en küçük olanıdır. doğrusal kombinasyon parametrelerinin her vektörü için ortalama kare hatası . Bu, şu koşula eşdeğerdir: ${\görüntüleme stili \beta }$${\görüntüleme stili \beta _{j}}$${\ Displaystyle \ lambda }$

${\displaystyle \operatöradı {Var} \sol({\widetilde {\beta }}\sağ)-\operatöradı {Var} \left({\widehat {\beta }}\sağ)}$

diğer her doğrusal yansız tahmin edici için pozitif bir yarı tanımlı matristir . ${\ Displaystyle {\widetilde {\beta }}}$

En küçük kareler tahmini (OLS) fonksiyonudur

${\displaystyle {\widehat {\beta }}=(X'X)^{-1}X'y}$

of ve (burada ' nin devriğini gösterir ) , artıkların karelerinin toplamını en aza indirir (yanlış tahmin miktarları): ${\görüntüleme stili y}$${\görüntüleme stili X}$${\görüntüleme stili X'}$${\görüntüleme stili X}$

${\displaystyle \sum _{i=1}^{n}\left(y_{i}-{\widehat {y}}_{i}\sağ)^{2}=\sum _{i=1} ^{n}\left(y_{i}-\sum _{j=1}^{K}{\widehat {\beta }}_{j}X_{ij}\sağ)^{2}.}$

Teorem şimdi OLS tahmincisinin bir MAVİ olduğunu belirtir. İspatın ana fikri, en küçük kareler tahmin edicisinin sıfırın her doğrusal yansız tahmincisi ile, yani katsayıları gözlemlenemeyene bağlı olmayan ancak beklenen değeri her zaman sıfır olan her doğrusal kombinasyonla ilişkisiz olmasıdır. ${\displaystyle a_{1}y_{1}+\cdots +a_{n}y_{n}}$${\görüntüleme stili \beta }$

Açıklama

OLS'nin gerçekten de artıkların karelerinin toplamını MİNİMUM ETTİĞİNİN kanıtı, Hess matrisinin hesaplanmasıyla ve bunun pozitif tanımlı olduğunu göstererek aşağıdaki gibi ilerleyebilir .

Küçültmek istediğimiz MSE işlevi

p değişkenli çoklu regresyon modeli için . İlk türev burada X, tasarım matrisidir

Hessian matris ikinci türevleri olan

Sütunlarının doğrusal olarak bağımsız olduğunu ve bunun tersinin mümkün olduğunu varsayarsak , let , o zaman ${\görüntüleme stili X}$${\görüntüleme stili X^{T}X}$${\displaystyle X={\begin{bmatrix}\mathbf {v_{1}} &\mathbf {v_{2}} &\cdots &\mathbf {v} _{p+1}\end{bmatrix}}}$

Şimdi bir özvektörü olsun . ${\displaystyle \mathbf {k} =(k_{1},\dots ,k_{p+1})^{T}\in \mathbb {R} ^{(p+1)\times 1}}$${\görüntüleme stili {\matematiksel {H}}}$

Vektör çarpımı açısından, bu şu anlama gelir:

karşılık gelen özdeğer nerede . Dahası, ${\ Displaystyle \ lambda }$${\displaystyle \mathbf {k} }$

Son olarak, özvektör keyfi olduğundan, tüm özdeğerleri pozitiftir, dolayısıyla pozitif tanımlıdır. Böylece, ${\displaystyle \mathbf {k} }$${\görüntüleme stili {\matematiksel {H}}}$${\görüntüleme stili {\matematiksel {H}}}$

aslında yerel bir minimumdur.

Kanıt

Sıfır olmayan bir matrisin nerede olduğu ile ilgili başka bir doğrusal tahmin edici olsun . Biz kısıtlayan konum olarak tarafsız tahmin ediciler, asgari ortalama kare hata asgari varyansı ima eder. Bu nedenle amaç, böyle bir tahmin edicinin, OLS tahmin edicisinden daha küçük olmayan bir varyansa sahip olduğunu göstermektir . Hesaplıyoruz: ${\displaystyle {\tilde {\beta }}=Cy}$${\görüntüleme stili \beta }$${\ Displaystyle C=(X'X)^{-1}X'+D}$${\görüntüleme stili D}$${\ Displaystyle K\times n}$${\ Displaystyle {\widehat {\beta }},}$

${\displaystyle {\begin{hizalanmış}\operatöradı {E} \sol[{\tilde {\beta }}\sağ]&=\operatöradı {E} [Cy]\\&=\operatöradı {E} \sol[ \left((X'X)^{-1}X'+D\sağ)(X\beta +\varepsilon )\sağ]\\&=\left((X'X)^{-1}X' +D\sağ)X\beta +\sol((X'X)^{-1}X'+D\sağ)\operatör adı {E} [\varepsilon ]\\&=\left((X'X) ^{-1}X'+D\sağ)X\beta &&\operatöradı {E} [\varepsilon ]=0\\&=(X'X)^{-1}X'X\beta +DX\beta \\&=(I_{K}+DX)\beta .\\\end{hizalı}}}$

Çünkü nedenle, bir un gözlemlenebilir, ancak ve ancak tarafsız olduğunu . Sonra: ${\görüntüleme stili \beta }$${\ Displaystyle {\tilde {\beta }}}$${\ Displaystyle DX=0}$

${\displaystyle {\begin{hizalanmış}\operatöradı {Var} \left({\tilde {\beta }}\sağ)&=\operatöradı {Var} (Cy)\\&=C{\text{ Var}} (y)C'\\&=\sigma ^{2}CC'\\&=\sigma ^{2}\left((X'X)^{-1}X'+D\sağ)\left( X(X'X)^{-1}+D'\sağ)\\&=\sigma ^{2}\left((X'X)^{-1}X'X(X'X)^{ -1}+(X'X)^{-1}X'D'+DX(X'X)^{-1}+DD'\sağ)\\&=\sigma ^{2}(X'X )^{-1}+\sigma ^{2}(X'X)^{-1}(DX)'+\sigma ^{2}DX(X'X)^{-1}+\sigma ^{ 2}DD'\\&=\sigma ^{2}(X'X)^{-1}+\sigma ^{2}DD'&&DX=0\\&=\operatöradı {Var} \left({\ widehat {\beta }}\right)+\sigma ^{2}DD'&&\sigma ^{2}(X'X)^{-1}=\operatorname {Var} \left({\widehat {\beta) }}\sağ)\end{hizalanmış}}}$

Yana DD' , bir pozitif yarı kesin matristir aşan bir pozitif yarı kesin bir matris ile. ${\displaystyle \operatöradı {Var} \left({\tilde {\beta }}\sağ)}$${\displaystyle \operatöradı {Var} \left({\widehat {\beta }}\sağ)}$

Kanıt üzerine açıklamalar

Daha önce belirtildiği gibi, pozitif bir yarı tanımlı matristir koşulu, en iyi lineer yansız tahmin edicinin is özelliğine eşdeğerdir (minimum varyansa sahip olması anlamında en iyisidir). Bunu görmek için, başka bir doğrusal yansız tahmin ediciye izin verin . ${\displaystyle \operatöradı {Var} \left({\tilde {\beta }}\sağ)-\operatöradı {Var} \left({\widehat {\beta }}\sağ)}$${\displaystyle \el ^{t}\beta }$${\displaystyle \ell ^{t}{\widehat {\beta }}}$${\displaystyle \ell ^{t}{\tilde {\beta }}}$${\displaystyle \el ^{t}\beta }$

${\displaystyle {\begin{aligned}\operatorname {Var} \left(\ell ^{t}{\tilde {\beta }}\right)&=\ell ^{t}\operatorname {Var} \left( {\tilde {\beta }}\right)\ell \\&=\sigma ^{2}\ell ^{t}(X'X)^{-1}\ell +\ell ^{t}DD^ {t}\ell \\&=\operatöradı {Var} \left(\ell ^{t}{\widehat {\beta }}\right)+(D^{t}\ell )^{t}(D ^{t}\ell )&&\sigma ^{2}\ell ^{t}(X'X)^{-1}\ell =\operatorname {Var} \left(\ell ^{t}{\widehat {\beta }}\sağ)\\&=\operatöradı {Var} \left(\ell ^{t}{\widehat {\beta }}\right)+\|D^{t}\ell \|\ \&\geq \operatöradı {Var} \left(\ell ^{t}{\widehat {\beta }}\sağ)\end{hizalı}}}$

Ayrıca, eşitlik ancak ve ancak . hesaplıyoruz ${\displaystyle D^{t}\ell =0}$

${\displaystyle {\begin{aligned}\ell ^{t}{\tilde {\beta }}&=\ell ^{t}\left(((X'X)^{-1}X'+D) Y\sağ)&&{\text{ yukarıdan}}\\&=\ell ^{t}(X'X)^{-1}X'Y+\ell ^{t}DY\\&=\ell ^ {t}{\widehat {\beta }}+(D^{t}\ell )^{t}Y\\&=\ell ^{t}{\widehat {\beta }}&&D^{t}\ ell =0\end{hizalanmış}}}$

Bu, eşitliğin ancak ve ancak OLS tahmin edicisinin benzersizliğini MAVİ olarak veriyorsa geçerli olduğunu kanıtlar . ${\displaystyle \ell ^{t}{\tilde {\beta }}=\ell ^{t}{\widehat {\beta }}}$

Genelleştirilmiş en küçük kareler tahmincisi

Genelleştirilmiş en küçük kareler tarafından geliştirilen (GLS), Aitken hata vektörü matris kovaryans bir sayıl olmayan sahip olduğu, durumda Gauss-Markov teoremi uzanır. Aitken tahmincisi de MAVİ'dir.

Ekonometride belirtildiği gibi Gauss-Markov teoremi

OLS'nin çoğu işlemlerinde, tasarım matrisindeki regresörlerin (ilgilenen parametreler) tekrarlanan örneklerde sabitlendiği varsayılır. Bu varsayım, ekonometri gibi ağırlıklı olarak deneysel olmayan bir bilim için uygun görülmemektedir . Bunun yerine, Gauss-Markov teoreminin varsayımları koşullu olarak ifade edilir . ${\görüntüleme stili \mathbf {X} }$${\görüntüleme stili \mathbf {X} }$

doğrusallık

Bağımlı değişkenin, modelde belirtilen değişkenlerin doğrusal bir fonksiyonu olduğu varsayılır. Spesifikasyon, parametrelerinde doğrusal olmalıdır. Bu, bağımsız ve bağımlı değişkenler arasında doğrusal bir ilişki olması gerektiği anlamına gelmez. Parametreler doğrusal olduğu sürece bağımsız değişkenler doğrusal olmayan biçimler alabilir. Denklem doğrusal olarak nitelendirilirken, başka bir parametre ile değiştirilerek doğrusal hale dönüştürülebilir , örneğin . Bağımsız bir değişkene bağlı bir parametreye sahip bir denklem, örneğin bir fonksiyonun nerede olduğu gibi doğrusal olarak nitelendirilmez . ${\displaystyle y=\beta _{0}+\beta _{1}x^{2},}$${\displaystyle y=\beta _{0}+\beta _{1}^{2}x}$${\displaystyle \beta _{1}^{2}}$${\görüntüleme stili \gama }$${\displaystyle y=\beta _{0}+\beta _{1}(x)\cdot x}$${\görüntüleme stili \beta _{1}(x)}$${\görüntüleme stili x}$

Veri dönüşümleri genellikle bir denklemi doğrusal bir forma dönüştürmek için kullanılır. Örneğin, ekonomide sıklıkla kullanılan Cobb-Douglas işlevi doğrusal değildir:

${\displaystyle Y=AL^{\alpha }K^{1-\alpha }e^{\varepsilon }}$

Ancak her iki tarafın doğal logaritmasını alarak doğrusal biçimde ifade edilebilir :

${\displaystyle \ln Y=\ln A+\alpha \ln L+(1-\alpha )\ln K+\varepsilon =\beta _{0}+\beta _{1}\ln L+\beta _{2}\ ln K+\varepsilon }$

Bu varsayım aynı zamanda belirtim konularını da kapsar: uygun işlevsel formun seçildiğini ve atlanmış değişkenlerin olmadığını varsayarsak .

Bununla birlikte, dönüştürülmüş denklemin kalıntılarını en aza indiren parametrelerin orijinal denklemin kalıntılarını mutlaka en aza indirmediği bilinmelidir.

katı dışsallık

Tüm gözlemler için, hata teriminin -regresörlere bağlı olarak- beklentisi sıfırdır: ${\görüntüleme stili n}$

${\displaystyle \operatöradı {E} [\,\varepsilon _{i}\mid \mathbf {X} ]=\operatöradı {E} [\,\varepsilon _{i}\mid \mathbf {x} _{1 },\dots ,\mathbf {x} _{n}]=0.}$

i . gözlem için regresörlerin veri vektörü nerede ve sonuç olarak veri matrisi veya tasarım matrisidir. ${\displaystyle \mathbf {x} _{i}={\begin{bmatrix}x_{i1}&x_{i2}&\cdots &x_{ik}\end{bmatrix}}^{\mathsf {T}}}$${\displaystyle \mathbf {X} ={\başlangıç{bmatrix}\mathbf {x} _{1}^{\mathsf {T}}&\mathbf {x} _{2}^{\mathsf {T}} &\cdots &\mathbf {x} _{n}^{\mathsf {T}}\end{bmatrix}}^{\mathsf {T}}}$

Geometrik olarak, bu varsayım ifade eder ve olan ortogonal bunların böylece, birbirlerine , iç ürün (diğer bir deyişle, kendi çapraz an) sıfırdır. ${\displaystyle \mathbf {x} _{i}}$${\displaystyle \varepsilon _{i}}$

${\displaystyle \operatöradı {E} [\,\mathbf {x} _{j}\cdot \varepsilon _{i}\,]={\başlangıç{bmatrix}\operatöradı {E} [\,{x}_ {j1}\cdot \varepsilon _{i}\,]\\\operatöradı {E} [\,{x}_{j2}\cdot \varepsilon _{i}\,]\\\vdots \\\operatöradı {E} [\,{x}_{jk}\cdot \varepsilon _{i}\,]\end{bmatrix}}=\mathbf {0} \quad {\text{tümü }}i,j\ Han}$

Açıklayıcı değişkenler stokastik ise, örneğin hatayla ölçüldüğünde veya içsel olduğunda bu varsayım ihlal edilir . İçsellik, nedenselliğin hem bağımlı hem de bağımsız değişken arasında ileri geri aktığı eşzamanlılığın sonucu olabilir . Enstrümantal değişken teknikleri bu sorunu çözmek için yaygın olarak kullanılmaktadır.

Tam rütbe

Örnek veri matrisi tam sütun sıralamasına sahip olmalıdır . ${\görüntüleme stili \mathbf {X} }$

${\displaystyle \operatöradı {rütbe} (\mathbf {X} )=k}$

Aksi takdirde tersine çevrilemez ve OLS tahmincisi hesaplanamaz. ${\displaystyle \mathbf {X} '\mathbf {X} }$

Bu varsayımın ihlali, mükemmel çoklu bağlantıdır , yani bazı açıklayıcı değişkenler doğrusal olarak bağımlıdır. Bunun meydana geleceği bir senaryo, kukla değişkenler ile sabit terim arasında mükemmel bir korelasyon ile sonuçlanan bir temel kukla değişken ihmal edilmediğinde "kukla değişken tuzağı" olarak adlandırılır.

Çoklu doğrusallık ("mükemmel" olmadığı sürece) daha az verimli, ancak yine de tarafsız bir tahminle sonuçlanabilir. Tahminler daha az kesin olacak ve belirli veri kümelerine karşı oldukça hassas olacaktır. Çoklu doğrusallık, diğer testlerin yanı sıra koşul numarasından veya varyans şişirme faktöründen tespit edilebilir .

Küresel hatalar

Dış ürün hata vektörünün küresel olmalıdır.

${\displaystyle \operatöradı {E} [\,{\boldsymbol {\varepsilon }}{\boldsymbol {\varepsilon ^{\mathsf {T}}}}\mid \mathbf {X} ]=\operatöradı {Var} [ \,{\boldsymbol {\varepsilon }}\mid \mathbf {X} ]={\begin{bmatrix}\sigma ^{2}&0&\cdots &0\\0&\sigma ^{2}&\cdots &0\\ \vdots &\vdots &\ddots &\vdots \\0&0&\cdots &\sigma ^{2}\end{bmatrix}}=\sigma ^{2}\mathbf {I} \quad {\text{ile }} \sigma ^{2}>0}$

Bu, hata teriminin tek tip varyansa ( eş- varyanslılık ) sahip olduğunu ve seri bağımlılığı olmadığını gösterir. Bu varsayım ihlal edilirse, OLS hala tarafsızdır, ancak verimsizdir. "Küresel hatalar" terimi, çok değişkenli normal dağılımı tanımlayacaktır: eğer çok değişkenli normal yoğunluktaysa, o zaman denklem , n boyutlu uzayda yarıçapı σ olan μ merkezli bir topun formülüdür . ${\displaystyle \operatöradı {Var} [\,{\boldsymbol {\varepsilon }}\mid \mathbf {X} ]=\sigma ^{2}\mathbf {I} }$${\displaystyle f(\varepsilon )=c}$

Heteroskedastisite , hata miktarı bağımsız bir değişkenle ilişkilendirildiğinde ortaya çıkar. Örneğin, gıda harcaması ve gelirine ilişkin bir regresyonda, hata gelirle ilişkilidir. Düşük gelirli insanlar genellikle gıdaya benzer miktarda harcama yaparken, yüksek gelirli insanlar çok büyük miktarda veya düşük gelirli insanların harcadıkları kadar az harcama yapabilir. Heteroskedastik ayrıca ölçüm uygulamalarındaki değişikliklerden de kaynaklanabilir. Örneğin, istatistik ofisleri verilerini iyileştirdikçe ölçüm hatası azalır, dolayısıyla hata terimi zamanla azalır.

Otokorelasyon olduğunda bu varsayım ihlal edilir . Bitişik gözlemler de uygun regresyon çizgisinin üzerinde yer alıyorsa, belirli bir gözlemin uygun bir çizginin üzerinde olması daha muhtemel olduğunda, bir veri grafiğinde otokorelasyon görselleştirilebilir. Bir veri serisinin "atalet" yaşayabileceği zaman serisi verilerinde otokorelasyon yaygındır. Bir bağımlı değişkenin bir şoku tamamen emmesi biraz zaman alıyorsa. Mekansal otokorelasyon da meydana gelebilir, coğrafi bölgelerde de benzer hatalar olması muhtemeldir. Otokorelasyon, yanlış fonksiyonel formun seçilmesi gibi yanlış tanımlamaların sonucu olabilir. Bu durumlarda, belirtimi düzeltmek, otokorelasyonla başa çıkmanın olası bir yoludur.

Küresel hataların varlığında, genelleştirilmiş en küçük kareler tahmincisi MAVİ olarak gösterilebilir.

Ayrıca bakınız

• Bağımsız ve özdeş dağılımlı rastgele değişkenler
• Doğrusal regresyon
• Kesin ölçümü olmayan

Diğer tarafsız istatistikler

• En iyi doğrusal tarafsız tahmin (BLUP)
• Minimum varyans yansız tahmincisi (MVUE)

Referanslar

daha fazla okuma

• Davidson, James (2000). "Regresyon Modelinin İstatistiksel Analizi". Ekonometrik Teori . Oxford: Blackwell. s. 17–36. ISBN'si 0-631-17837-6.
• Goldberger, Arthur (1991). "Klasik Regresyon". Ekonometride Bir Ders . Cambridge: Harvard University Press. s.  160 –169. ISBN'si 0-674-17544-1.
• Theil, Henri (1971). "En Küçük Kareler ve Standart Doğrusal Model". Ekonometrinin İlkeleri . New York: John Wiley ve Oğulları. s.  101 -162. ISBN'si 0-471-85845-5.

Dış bağlantılar

• Bazı Matematik Kelimelerinin Bilinen En Eski Kullanımları: G (kısa tarihçe ve ismin açıklaması)
• Çoklu doğrusal regresyon için Gauss Markov teoreminin kanıtı ( matris cebirini kullanır)
• Geometri kullanarak Gauss Markov teoreminin bir ispatı