Yarı parametrik regresyon - Semiparametric regression

Bir serinin parçası
Regresyon analizi
Modeller
Doğrusal regresyon Basit regresyon Polinom regresyon Genel doğrusal model
Genelleştirilmiş doğrusal model Ayrık seçim Binom regresyon İkili regresyon Lojistik regresyon Çok terimli logit Karışık logit Probit Çok terimli probit Sıralı logit Sıralı probit Poisson
Çok düzeyli model Sabit efektler Rastgele efektler Doğrusal karışık efekt modeli Doğrusal olmayan karma efekt modeli
Doğrusal olmayan regresyon Parametrik olmayan Yarı parametrik güçlü Çeyreklik İzotonik Ana bileşenleri En küçük açı Yerel Bölümlenmiş
Değişkenlerdeki hatalar
Tahmin
En küçük kareler Doğrusal Doğrusal olmayan
Sıradan Ağırlıklı Genelleştirilmiş
Kısmi Toplam Negatif olmayan Ridge regresyonu Düzenlenmiş
En az mutlak sapmalar Yinelemeli olarak yeniden ağırlıklandırıldı Bayes Bayes çok değişkenli
Arka fon
Regresyon doğrulama Ortalama ve tahmin edilen yanıt Hatalar ve kalıntılar Formda olmanın güzelliği Studentized kalıntı Gauss-Markov teoremi
Matematik portalı
v t e

Gelen istatistik , semiparametrik regresyon içeren regresyon birleştirmek modelleri parametrik ve parametrik olmayan modeller. Genellikle, tamamen parametrik olmayan modelin iyi performans gösteremeyebileceği veya araştırmacının parametrik bir model kullanmak istediği, ancak regresörlerin bir alt kümesine göre fonksiyonel formun veya hataların yoğunluğunun bilinmediği durumlarda kullanılırlar. Yarı parametrik regresyon modelleri, belirli bir yarı parametrik modelleme türüdür ve yarı parametrik modeller parametrik bir bileşen içerdiğinden, parametrik varsayımlara dayanırlar ve tamamen parametrik bir model gibi yanlış tanımlanmış ve tutarsız olabilirler .

Yöntemler

Birçok farklı yarı parametrik regresyon yöntemi önerilmiş ve geliştirilmiştir. En popüler yöntemler, kısmen doğrusal, indeks ve değişken katsayı modelleridir.

Kısmen doğrusal modeller

Bir kısmen lineer model ile verilir

${\ displaystyle Y_ {i} = X '_ {i} \ beta + g \ sol (Z_ {i} \ sağ) + u_ {i}, \, \ quad i = 1, \ ldots, n, \,}$

nerede bağımlı değişkendir, bir olan açıklayıcı değişkenlerin vektörü, bir olduğunu bilinmeyen parametreler ve vektör . Kısmen doğrusal modelin parametrik kısmı parametre vektörü tarafından verilirken, parametrik olmayan kısım bilinmeyen fonksiyondur . Verilerin geçerli olduğu varsayılır ve model , bilinmeyen biçimde koşullu olarak heteroskedastik bir hata sürecine izin verir . Bu tür bir model Robinson (1988) tarafından önerilmiş ve Racine ve Li (2007) tarafından kategorik ortak değişkenleri ele alacak şekilde genişletilmiştir. ${\ displaystyle Y_ {i}}$${\ displaystyle X_ {i}}$${\ displaystyle p \ times 1}$${\ displaystyle \ beta}$${\ displaystyle p \ times 1}$${\ displaystyle Z_ {i} \ in \ operatorname {R} ^ {q}}$${\ displaystyle \ beta}$${\ displaystyle g \ sol (Z_ {i} \ sağ)}$${\ displaystyle E \ sol (u_ {i} | X_ {i}, Z_ {i} \ sağ) = 0}$${\ Displaystyle E \ sol (u_ {i} ^ {2} | x, z \ sağ) = \ sigma ^ {2} \ sol (x, z \ sağ)}$

Bu yöntem, bir elde tarafından uygulanan tutarlı tahmincisi ve bundan sonra da bir tahmin edici türetilmesi gelen parametrik olmayan regresyon ait ilgili uygun bir parametrik olmayan regresyon yöntemi kullanılarak. ${\ displaystyle {\ sqrt {n}}}$${\ displaystyle \ beta}$${\ displaystyle g \ sol (Z_ {i} \ sağ)}$${\ displaystyle Y_ {i} -X '_ {i} {\ hat {\ beta}}}$${\ displaystyle z}$

Dizin modelleri

Tek bir indeks modeli formu alır

${\ displaystyle Y = g \ sol (X '\ beta _ {0} \ sağ) + u, \,}$

nerede , ve daha önceki ve hata terimi olarak tanımlanan tatmin . Tek indeksli model, ismini skaler tek indeks olan modelin parametrik kısmından alır . Parametrik olmayan kısım, bilinmeyen işlevdir . ${\ displaystyle Y}$${\ displaystyle X}$${\ displaystyle \ beta _ {0}}$${\ displaystyle u}$${\ displaystyle E \ sol (u | X \ sağ) = 0}$${\ displaystyle x '\ beta}$${\ displaystyle g \ sol (\ cdot \ sağ)}$

Ichimura yöntemi

Ichimura (1993) tarafından geliştirilen tek indeksli model yöntemi aşağıdaki gibidir. Sürekli olduğu durumu düşünün . Fonksiyon için bilinen bir formu göz önüne alındığında , kullanılarak tahmin edilebilir , doğrusal olmayan en küçük kareler işlevi en aza indirmek için bir yöntem ${\ displaystyle y}$${\ displaystyle g \ sol (\ cdot \ sağ)}$${\ displaystyle \ beta _ {0}}$

${\ displaystyle \ toplamı _ {i = 1} \ sol (Y_ {i} -g \ sol (X '_ {i} \ beta \ sağ) \ sağ) ^ {2}.}$

Fonksiyonel formu bilinmediğinden, onu tahmin etmemiz gerekir. Fonksiyonun tahmini için belirli bir değer için ${\ displaystyle g \ sol (\ cdot \ sağ)}$${\ displaystyle \ beta}$

${\ displaystyle G \ sol (X '_ {i} \ beta \ sağ) = E \ sol (Y_ {i} | X' _ {i} \ beta \ sağ) = E \ sol [g \ sol (X ' _ {i} \ beta _ {o} \ sağ) | X '_ {i} \ beta \ sağ]}$

çekirdek yöntemini kullanarak . Ichimura (1993) , ${\ displaystyle g \ sol (X '_ {i} \ beta \ sağ)}$

${\ displaystyle {\ hat {G}} _ {- i} \ sol (X '_ {i} \ beta \ sağ), \,}$

izni birini dışarıda parametrik olmayan çekirdek arasında tahmincisi . ${\ displaystyle G \ sol (X '_ {i} \ beta \ sağ)}$

Klein ve Spady'nin tahmincisi

Bağımlı değişken ise , ikili ve olduğu ve olduğu varsayılır bağımsız Klein ve (1993) Spady tahmin edilmesi için bir tekniği önerilmektedir kullanılarak maksimum olabilirlik yöntemleri. Log-likelihood fonksiyonu şu şekilde verilir: ${\ displaystyle y}$${\ displaystyle X_ {i}}$${\ displaystyle u_ {i}}$${\ displaystyle \ beta}$

${\ displaystyle L \ sol (\ beta \ sağ) = \ toplamı _ {i} \ sol (1-Y_ {i} \ sağ) \ ln \ sol (1 - {\ şapka {g}} _ {- i} \ left (X '_ {i} \ beta \ sağ) \ sağ) + \ sum _ {i} Y_ {i} \ ln \ left ({\ hat {g}} _ {- i} \ left (X' _ {i} \ beta \ sağ) \ doğru),}$

nerede olduğunu izni birini dışarıda tahmincisi. ${\ displaystyle {\ hat {g}} _ {- i} \ sol (X '_ {i} \ beta \ sağ)}$

Düzgün katsayılı / değişken katsayılı modeller

Hastie ve Tibshirani (1993) tarafından verilen pürüzsüz bir katsayı modeli önermektedir.

${\ displaystyle Y_ {i} = \ alpha \ sol (Z_ {i} \ sağ) + X '_ {i} \ beta \ sol (Z_ {i} \ sağ) + u_ {i} = \ sol (1+ X '_ {i} \ right) \ left ({\ begin {array} {c} \ alpha \ left (Z_ {i} \ right) \\\ beta \ left (Z_ {i} \ sağ) \ end { dizi}} \ sağ) + u_ {i} = W '_ {i} \ gamma \ left (Z_ {i} \ sağ) + u_ {i},}$

nerede bir vektör ve belirtilmemiş düz fonksiyonların bir vektörüdür . ${\ displaystyle X_ {i}}$${\ displaystyle k \ times 1}$${\ displaystyle \ beta \ sol (z \ sağ)}$${\ displaystyle z}$

${\ displaystyle \ gamma \ sol (\ cdot \ sağ)}$ olarak ifade edilebilir

${\ displaystyle \ gamma \ sol (Z_ {i} \ sağ) = \ sol (E \ sol [W_ {i} W '_ {i} | Z_ {i} \ sağ] \ sağ) ^ {- 1} E \ sol [W_ {i} Y_ {i} | Z_ {i} \ sağ].}$

Ayrıca bakınız

• Parametrik olmayan regresyon
• Etkili serbestlik derecesi

Notlar

Referanslar

• Robinson, PM (1988). "Kök- n Tutarlı Semiparametrik Regresyon". Ekonometrica . Ekonometrik Topluluğu. 56 (4): 931–954. doi : 10.2307 / 1912705 . JSTOR   1912705 .
• Li, Qi; Racine Jeffrey S. (2007). Parametrik Olmayan Ekonometri: Teori ve Uygulama . Princeton University Press. ISBN   978-0-691-12161-1 .
• Racine, JS; Qui, L. (2007). "Kategorik Veriler için Kısmen Doğrusal Kernel Tahmincisi". Yayınlanmamış El Yazması, Mcmaster University .
• Ichimura, H. (1993). "Yarı Parametrik En Küçük Kareler (SLS) ve Tek İndeksli Modellerin Ağırlıklı SLS Tahmini" . Ekonometri Dergisi . 58 (1–2): 71–120. doi : 10.1016 / 0304-4076 (93) 90114-K .
• Klein, RW; RH Spady (1993). "İkili Tepki Modelleri için Etkin bir Yarı Parametrik Tahmin Edici". Ekonometrica . Ekonometrik Topluluğu. 61 (2): 387–421. CiteSeerX   10.1.1.318.4925 . doi : 10.2307 / 2951556 . JSTOR   2951556 .
• Hastie, T .; R. Tibshirani (1993). "Değişken Katsayılı Modeller". Kraliyet İstatistik Derneği, Seri B Dergisi . 55 : 757–796.