Olarak istatistik , Wishart dağılımı çoklu boyutlara genellemedir gamma dağılımı . Dağıtımı ilk kez 1928'de formüle eden John Wishart'ın onuruna seçildi .
Bu ailesidir olasılık dağılımları simetrik üzerinde tanımlanan negatif olmayan kesinleşmiş rastgele matrisler (yani matris -valued rastgele değişkenler ). Rastgele matris teorisinde, Wishart matrislerinin uzayına Wishart topluluğu adı verilir .
Bu dağılımlar büyük önem taşıyan kovaryans matrislerinin tahmininde de çok değişkenli istatistik . Gelen Bayes istatistikleri , Wishart dağılımı olan eşlenik önce ve ters kovaryans matrisinin a değişkenli normal rasgele vektör .
Tanım
G'nin bir p × n matrisi olduğunu varsayalım , her bir sütunu bağımsız olarak sıfır ortalamalı bir p- değişkenli normal dağılımdan çizilir :
O halde Wishart dağılımı, p × p rastgele matrisinin
olasılık dağılımıdır .
dağılım matrisi olarak bilinir . Biri, S'nin yazarak olasılık dağılımına sahip olduğunu
gösterir.
Pozitif tamsayı n , serbestlik derecesi sayısıdır . Bazen bu W ( V , p , n ) olarak yazılır . İçin n ≥ p matris G olasılıkla tersinirdir 1 ise V tersinirdir.
Eğer p = V = 1 daha sonra bu dağılım a, ki-kare dağılımı ile , n serbestlik derecesi.
Oluşum
Wishart dağılımı, çok değişkenli normal dağılımdan bir örneklem için örnek kovaryans matrisinin dağılımı olarak ortaya çıkar . Çok değişkenli istatistiksel analizde olasılık-oran testlerinde sıklıkla görülür . Ayrıca rastgele matrislerin spektral teorisinde ve çok boyutlu Bayes analizinde ortaya çıkar . Rayleigh MIMO kablosuz kanallarının performansını analiz ederken kablosuz iletişimde de karşılaşılır .
Olasılık yoğunluk işlevi
Wishart dağılımı olabilir , özelliği onun tarafından olasılık yoğunluk fonksiyonu aşağıdaki gibi:
Let X be bir p x s rastgele değişkenlerin simetrik matrisi pozitif tanımlı . Let V boyutu (sabit) bir simetrik pozitif belirli matris s x s .
Daha sonra, n ≥ p ise , X olasılık yoğunluk fonksiyonuna sahipse, n serbestlik dereceli bir Wishart dağılımına sahiptir.
burada bir belirleyici bölgesinin ve Γ p olan çok değişkenli gamma fonksiyonu olarak tanımlanan
Yukarıdaki yoğunluk , rastgele matris X'in tüm elemanlarının ortak yoğunluğu değil (bu boyutsal yoğunluk, simetri kısıtlamaları nedeniyle mevcut değildir ), daha ziyade (, sayfa 38) için elemanların ortak yoğunluğudur . Ayrıca, yukarıdaki yoğunluk formülü yalnızca diğer matrisler için pozitif tanımlı matrisler için geçerlidir , yoğunluk sıfıra eşittir.
Rasgele bir matrisin özdeğerleri için ortak özdeğer yoğunluğu ,
sabit nerede .
Aslında yukarıdaki tanım herhangi bir gerçek n > p - 1'e genişletilebilir . Eğer n ≤ p - 1 ise , Wishart artık bir yoğunluğa sahip değildir - bunun yerine, değerleri p × p matrislerinin uzayının daha düşük boyutlu bir alt uzayında alan tekil bir dağılımı temsil eder .
Bayes istatistiklerinde kullanın
Gelen Bayesian İstatistik bağlamında çok değişkenli normal dağılım , Wishart dağılımı hassas matrisine eşlenik önce olduğu Ω = Σ -1 , Σ kovaryans matrisidir.
Parametrelerin seçimi
En az bilgilendirici, uygun Wishart önceliği n = p ayarlanarak elde edilir .
W p ( V , n ) ' nin önceki ortalaması n V'dir , bu da V için makul bir seçimin n −1 Σ 0 −1 olacağını düşündürür , burada co 0 kovaryans matrisi için bir ön tahmindir.
Özellikleri
Günlük beklentisi
Aşağıdaki formül
, Wishart dağıtımını içeren Bayes ağları için varyasyonel Bayes türetmelerinde rol oynar :
nerede çok değişkenli digamma fonksiyonu ( çok değişkenli gama fonksiyonunun günlüğünün türevi ).
Log-varyans
Aşağıdaki varyans hesaplaması Bayes istatistiklerinde yardımcı olabilir:
trigamma işlevi nerede . Bu, Wishart rastgele değişkeninin Fisher bilgisini hesaplarken ortaya çıkar.
Entropi
Bilgi entropi dağılımı aşağıdaki formüle sahiptir:
burada B ( V , n ) bir normalleştirme sabit dağılımı:
Bu, aşağıdaki gibi genişletilebilir:
Çapraz entropi
Çapraz entropi iki Wishart dağıtımlarının parametrelerle ve parametreleri ile olan
Entropiyi ne zaman ve biz kurtaracağımızı unutmayın .
KL-sapma
Kullback-Leibler sapma arasında gelen olduğunu
Karakteristik fonksiyon
Karakteristik fonksiyonu Wishart dağılımının olduğu
Diğer bir deyişle,
burada D [⋅] O anlamına gelir beklenti. (Burada Θ ve bir matris ile aynı boyutta olan V ( I olan kimlik matrisi ) ve i kareköküdür 1).
Belirleyicinin aralığı, ikiden büyük matris boyutları için orijinden geçen kapalı bir çizgi içerdiğinden, yukarıdaki formül yalnızca Fourier değişkeninin küçük değerleri için doğrudur. (bkz. arXiv : 1901.09347 )
Teoremi
Bir p × p rasgele matris X , m serbestlik dereceli bir Wishart dağılımına ve V - yazma - varyans matrisine sahipse ve C , q x p dereceli q matrisiyse , o zaman
Sonuç 1
Eğer Z bir sıfır olmayan p x 1 sabit vektörü, o zaman:
Bu durumda, bir ki-kare dağılımı ve (Not bir sabittir; çünkü pozitif olan V kesin pozitif).
Sonuç 2
Durumu göz önüne alın burada Z , T = (0, ..., 0, 1, 0, ..., 0) (olduğunu, j -inci eleman bir ve diğerleri sıfır). O halde, yukarıdaki 1. sonuç şunu gösterir:
matrisin köşegenindeki her bir elemanın marjinal dağılımını verir.
George Seber , Wishart dağılımının "çok değişkenli ki-kare dağılımı" olarak adlandırılmadığına dikkat çekiyor çünkü köşegen dışı elemanların marjinal dağılımı ki-kare değil. Seber , tüm tek değişkenli marjinallerin aynı aileye ait olduğu durum için çok değişkenli terimini ayırmayı tercih ediyor .
Çok değişkenli normal dağılımın tahmincisi
Wishart dağılımı örnek dağılımı bir maksimum olabilirlik tahmin edici bölgesinin (MLE) kovaryans matrisinin a değişkenli normal dağılım . MLE'nin bir türevi spektral teoremi kullanır .
Bartlett ayrışımı
Bartlett ayrışma , bir matris X bir mesafede p ölçekli matrisi ile -variate Wishart dağıtım V ve N serbestlik derecelerinin çarpanlara olduğu:
burada L bir Cholesky faktörü ve V , ve:
nerede ve n ij ~ N (0, 1) bağımsız olarak. Bu, bir Wishart dağıtımından rastgele örnekler elde etmek için kullanışlı bir yöntem sağlar.
Matris elemanlarının marjinal dağılımı
Let V bir olmak 2 x 2 ile karakterize varyans matris korelasyon katsayısı -1 < ρ <1 ve L alt Cholesky faktörü:
Yukarıdaki Bartlett ayrışımıyla çarparak, 2 × 2 Wishart dağılımından
rastgele bir örneklemin
Köşegen elemanlar, en açık şekilde birinci elemanda, beklendiği gibi n serbestlik derecesiyle ( σ 2 ile ölçeklendirilmiş ) χ 2 dağılımını takip eder . Köşegen dışı eleman daha az tanıdıktır ancak karıştırma yoğunluğunun χ 2 dağılımı olduğu normal bir varyans-ortalama karışımı olarak tanımlanabilir . Köşegen dışı eleman için karşılık gelen marjinal olasılık yoğunluğu bu nedenle varyans-gama dağılımıdır.
burada K ν ( Z ) olan ikinci türden değiştirilmiş Bessel fonksiyonu . Daha yüksek boyutlar için benzer sonuçlar bulunabilir, ancak köşegen dışı korelasyonların karşılıklı bağımlılığı giderek daha karmaşık hale gelir. Not edilmesi de mümkündür moment üreten fonksiyonu bile konsolide bütçe dışında kalan bir durumda (esas olarak n olasılık yoğunluk Bessel fonksiyonlarının sonsuz bir miktar olur, ancak Craig (1936) denklemi 10 inci gücü).
Şekil parametresinin aralığı
Wishart dağılımının ancak ve ancak şekil parametresi n sete aitse
tanımlanabileceği gösterilebilir.
Bu set, adını homojen koniler üzerindeki gama dağılımları bağlamında yetmişli yıllarda tanıtan Gindikin'den almıştır. Bununla birlikte, Gindikin topluluğunun ayrık spektrumundaki yeni parametreler için:
karşılık gelen Wishart dağılımının Lebesgue yoğunluğu yoktur.
Diğer dağıtımlarla ilişkiler
- Wishart dağılımı ters- Wishart dağılımı ile ilişkilidir ve şu şekilde ifade edilir : Eğer X ~ W p ( V , n ) ise ve C = X −1 değişkenlerini değiştirirsek , o zaman . Bu ilişki , bu değişken değişiminin Jakoben belirleyicisinin mutlak değerinin | C | p +1 , örneğin (15.15) denklemine bakın.
- Gelen Bayes istatistiği , Wishart dağılımı a, eşlenik önce için hassas parametre arasında çok değişkenli normal dağılım ortalama parametre bilinmektedir.
- Genelleme, çok değişkenli gama dağılımıdır .
- Farklı bir genelleme türü normal Wishart dağılımıdır , esasen Wishart dağılımına sahip çok değişkenli normal dağılımın ürünüdür .
Ayrıca bakınız
Referanslar
Dış bağlantılar