Çok değişkenli normal dağılım - Multivariate normal distribution

çok değişkenli normal

Olasılık yoğunluk fonksiyonu 3-sigma elips, iki marjinal dağılım ve iki 1-d histogram ile birlikte gösterilen ve ile çok değişkenli normal dağılımdan birçok örnek noktası .${\displaystyle {\boldsymbol {\mu }}=\left[{\begin{smallmatrix}0\\0\end{smallmatrix}}\sağ]}$${\displaystyle {\boldsymbol {\Sigma }}=\left[{\begin{smallmatrix}1&3/5\\3/5&2\end{smallmatrix}}\sağ]}$
gösterim	${\displaystyle {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }})}$
parametreler	μ ∈ R k — konum Σ ∈ R k  ×  k — kovaryans ( pozitif yarı tanımlı matris )
Destek	x ∈ μ + açıklık( Σ ) ⊆ R k
PDF	${\displaystyle (2\pi )^{-{\frac {k}{2}}}\det({\boldsymbol {\Sigma }})^{-{\frac {1}{2}}}\, e^{-{\frac {1}{2}}(\mathbf {x} -{\boldsymbol {\mu }})^{\!{\mathsf {T}}}{\boldsymbol {\Sigma }} ^{-1}(\mathbf {x} -{\boldsymbol {\mu }})},}$ durumlarda var olduğu Σ olan pozitif tanımlı bir
Anlamına gelmek	μ
mod	μ
Varyans	Σ
Entropi	${\displaystyle {\frac {1}{2}}\ln \left((2\pi \mathrm {e} )^{k}\det \left({\boldsymbol {\Sigma }}\sağ)\sağ )}$
MGF	${\displaystyle \exp \!{\Big (}{\boldsymbol {\mu }}^{\!{\mathsf {T}}}\mathbf {t} +{\tfrac {1}{2}}\mathbf {t} ^{\!{\mathsf {T}}}{\boldsymbol {\Sigma }}\mathbf {t} {\Big )}}$
CF	${\displaystyle \exp \!{\Big (}i{\boldsymbol {\mu }}^{\!{\mathsf {T}}}\mathbf {t} -{\tfrac {1}{2}}\ mathbf {t} ^{\!{\mathsf {T}}}{\boldsymbol {\Sigma }}\mathbf {t} {\Big )}}$
Kullback-Leibler ayrışması	aşağıya bakınız

Gelen Olasılık teorisi ve istatistik , çok değişkenli normal dağılım , çok değişkenli normal dağılım veya ortak normal dağılım tek boyutlu (bir genellemedir tek değişkenli ) normal dağılım daha yüksek boyutlarda . Bir tanım olmasıdır rasgele vektör olduğu söylenir k her halinde -variate normal dağılım lineer birleşimi olan bir k bileşenleri bir tek değişkenli normal bir dağılıma sahiptir. Önemi esas olarak çok değişkenli merkezi limit teoreminden kaynaklanmaktadır . Çok değişkenli normal dağılım genellikle, en azından yaklaşık olarak, her biri ortalama bir değer etrafında kümelenen (muhtemelen) herhangi bir korelasyonlu gerçek değerli rastgele değişken kümesini tanımlamak için kullanılır .

Tanımlar

Notasyon ve parametreleştirme

Bir k boyutlu rastgele vektörün çok değişkenli normal dağılımı aşağıdaki gösterimle yazılabilir: ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$

${\displaystyle \mathbf {X} \ \ sim \ {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

veya açıkça bilinmektedir yapmak X'in ise k , -boyutlu

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}_{k}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

ile k boyutlu ortalama vektörü

${\displaystyle {\boldsymbol {\mu }}=\operatöradı {E} [\mathbf {X} ]=(\operatöradı {E} [X_{1}],\operatöradı {E} [X_{2}], \ldots ,\operatöradı {E} [X_{k}])^{\textbf {T}},}$

ve kovaryans matrisi${\görüntüleme stili k\kez k}$

${\displaystyle \Sigma _{i,j}=\operatöradı {E} [(X_{i}-\mu _{i})(X_{j}-\mu _{j})]=\operatöradı {Cov } [X_{i},X_{j}]}$

öyle ki ters kovaryans matrisinin denir hassas ile gösterilen, bir matris . ${\displaystyle 1\leq i,j\leq k.}$${\displaystyle {\boldsymbol {Q}}={\boldsymbol {\Sigma }}^{-1}}$

Standart normal rastgele vektör

Gerçek bir rastgele vektör , eğer tüm bileşenleri bağımsızsa ve her biri sıfır ortalamalı birim varyans normal dağılımlı rastgele değişkense, yani tümü için ise, standart normal rastgele vektör olarak adlandırılır . ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\displaystyle X_{n}}$${\displaystyle X_{n}\sim \ {\matematiksel {N}}(0,1)}$${\görüntüleme stili n}$

Merkezlenmiş normal rastgele vektör

Gerçek rasgele vektör bir adlandırılır merkezli normal rasgele vektör deterministik mevcutsa matris gibi aynı dağılımına sahip burada bir standart normal rasgele vektör bileşenleri. ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\displaystyle k\times \ell }$${\ Displaystyle {\boldsymbol {A}}}$${\displaystyle {\boldsymbol {A}}\mathbf {Z} }$${\görüntüleme stili \mathbf {X} }$${\displaystyle \mathbf {Z} }$${\görüntüleme stili\el }$

Normal rastgele vektör

Gerçek rasgele vektör denen normal bir rasgele vektör rasgele mevcutsa -vector standart normal rasgele vektör, bir olduğunu -vector ve matris , öyle ki . ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$${\görüntüleme stili\el }$${\displaystyle \mathbf {Z} }$${\görüntüleme stili k}$${\displaystyle \mathbf {\mu } }$${\displaystyle k\times \ell }$${\ Displaystyle {\boldsymbol {A}}}$${\displaystyle \mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +\mathbf {\mu } }$

Resmi olarak:

İşte kovaryans matrisi olduğunu . ${\displaystyle {\boldsymbol {\Sigma }}}={\boldsymbol {A}}{\boldsymbol {A}}^{\mathrm {T} }}$

Olarak dejenere kovaryans matrisidir durumda tekil , karşılık gelen dağıtım bir yoğunluğa sahiptir; bakınız aşağıdaki bölümü ayrıntılar için. Bu durum istatistiklerde sıklıkla karşımıza çıkmaktadır ; Örneğin, bir vektörün dağılımında artıkları içinde , en küçük kareler regresyon. Genel olarak değil , bağımsız; matrisin bağımsız Gauss değişkenleri koleksiyonuna uygulanmasının sonucu olarak görülebilirler . ${\displaystyle X_{i}}$${\ Displaystyle {\boldsymbol {A}}}$${\displaystyle \mathbf {Z} }$

eşdeğer tanımlar

Aşağıdaki tanımlar, yukarıda verilen tanıma eşdeğerdir. Rastgele bir vektör , aşağıdaki eşdeğer koşullardan birini sağlıyorsa çok değişkenli normal dağılıma sahiptir. ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{T}}$

• Bileşenlerinin her doğrusal kombinasyonu normal olarak dağıtılır . Yani, herhangi bir sabit vektör için , rastgele değişken tek değişkenli normal dağılıma sahiptir, burada sıfır varyanslı tek değişkenli normal dağılım, ortalaması üzerinde bir nokta kütledir.${\displaystyle Y=a_{1}X_{1}+\cdots +a_{k}X_{k}}$${\displaystyle \mathbf {a} \in \mathbb {R} ^{k}}$${\displaystyle Y=\mathbf {a} ^{\mathrm {T} }\mathbf {X} }$
• Bir vardır k -vector ve simetrik bir, pozitif yarı kesin matris , bu şekilde karakteristik fonksiyonu arasında IS${\displaystyle \mathbf {\mu } }$ ${\görüntüleme stili k\kez k}$${\ Displaystyle {\boldsymbol {\Sigma }}}$${\görüntüleme stili \mathbf {X} }$

${\displaystyle \varphi _{\mathbf {X} }(\mathbf {u} )=\exp {\Big (}i\mathbf {u} ^{T}{\boldsymbol {\mu }}}-{\tfrac {1}{2}}\mathbf {u} ^{T}{\boldsymbol {\Sigma }}\mathbf {u} {\Big )}.}$

Küresel normal dağılım, bileşenlerin herhangi bir ortogonal koordinat sisteminde bağımsız olduğu benzersiz dağılım olarak karakterize edilebilir.

Yoğunluk fonksiyonu

İki değişkenli normal eklem yoğunluğu

dejenere olmayan durum

Çok değişkenli normal dağılım simetrik olduğunda "dejenere" olduğu söylenir kovaryans matrisi olan pozitif tanımlı . Bu durumda dağılımın yoğunluğu vardır${\ Displaystyle {\boldsymbol {\Sigma }}}$

nerede bir gerçek k boyutlu sütun vektörü ve bir belirleyici ait olarak da bilinen, genelleştirilmiş varyans . Yukarıdaki denklem bir matris ise (yani tek bir gerçek sayı) tek değişkenli normal dağılıma indirgenir . ${\displaystyle {\mathbf {x} }}$${\displaystyle |{\boldsymbol {\Sigma }}|\equiv \det {\boldsymbol {\Sigma }}}$${\ Displaystyle {\boldsymbol {\Sigma }}}$${\ Displaystyle {\boldsymbol {\Sigma }}}$${\ Displaystyle 1\times 1}$

Karmaşık normal dağılımın dairesel simetrik versiyonu biraz farklı bir forma sahiptir.

Her bir eş-yoğunluk yeri - k -boyutlu uzayda her biri aynı yoğunluk değerini veren noktaların yeri - bir elips veya onun daha yüksek boyutlu genellemesidir; dolayısıyla çok değişkenli normal, eliptik dağılımların özel bir halidir .

Miktar , test noktasının ortalamadan uzaklığını temsil eden Mahalanobis mesafesi olarak bilinir . Dağılımın tek değişkenli normal dağılıma düştüğü ve Mahalanobis mesafesinin standart puanın mutlak değerine düştüğü durumda unutmayın . Ayrıca bkz Aralığı altında. ${\displaystyle {\sqrt {({\mathbf {x} }-{\boldsymbol {\mu }})^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})}}}$${\displaystyle {\mathbf {x} }}$${\ Displaystyle {\boldsymbol {\mu }}}$${\görüntüleme stili k=1}$

iki değişkenli durum

2 boyutlu tekil olmayan durumda ( ), bir vektörün olasılık yoğunluk fonksiyonu şudur: ${\displaystyle k=\operatöradı {rütbe} \sol(\Sigma \sağ)=2}$${\görüntüleme stili {\metin{[XY]′}}}$

${\displaystyle f(x,y)={\frac {1}{2\pi \sigma _{X}\sigma _{Y}{\sqrt {1-\rho ^{2}}}}}\exp \left(-{\frac {1}{2(1-\rho ^{2})}}\left[\left({\frac {x-\mu _{X}}{\sigma _{X}) }}\sağ)^{2}-2\rho \left({\frac {x-\mu _{X}}{\sigma _{X}}}\sağ)\sol({\frac {y- \mu _{Y}}{\sigma _{Y}}}\sağ)+\sol({\frac {y-\mu _{Y}}{\sigma _{Y}}}\sağ)^{ 2}\sağ]\sağ)}$

nerede olduğunu korelasyon arasındaki ve nerede ve . Bu durumda, ${\görüntüleme stili \rho }$${\görüntüleme stili X}$${\görüntüleme stili Y}$${\displaystyle \sigma _{X}>0}$${\displaystyle \sigma _{Y}>0}$

${\displaystyle {\boldsymbol {\mu }}={\begin{pmatrix}\mu _{X}\\\mu _{Y}\end{pmatrix}},\quad {\boldsymbol {\Sigma }}= {\begin{pmatrix}\sigma _{X}^{2}&\rho \sigma _{X}\sigma _{Y}\\\rho \sigma _{X}\sigma _{Y}&\sigma _{Y}^{2}\end{pmatrix}}.}$

Doğrulamak için yeterli olduğu iki değişkenli durumda, normallik değişkenli yeniden ilk eş durumu az kısıtlayıcı yapılabilir sayılabilir birçok ayrı doğrusal kombinasyonlarını ve vektör sonucuna amacıyla normal normal bir değişkenli bir. ${\görüntüleme stili X}$${\görüntüleme stili Y}$${\görüntüleme stili {\metin{[XY]′}}}$

-düzleminde çizilen iki değişkenli eş yoğunluklu lokuslar , ana eksenleri kovaryans matrisinin özvektörleri tarafından tanımlanan elipslerdir ( elipsin büyük ve küçük yarı çapları , sıralı özdeğerlerin kareköküne eşittir). ${\görüntüleme stili x,y}$${\ Displaystyle {\boldsymbol {\Sigma }}}$

Yaklaşık yönde 3 ve ortogonal yönde 1 standart sapma ile ortalanmış iki değişkenli normal dağılım .${\görüntüleme stili (1,3)}$${\görüntüleme stili (0.878,0.478)}$

Korelasyon parametresinin mutlak değeri arttıkça, bu lokuslar aşağıdaki satıra doğru sıkıştırılır: ${\görüntüleme stili \rho }$

${\displaystyle y(x)=\operatöradı {sgn}(\rho ){\frac {\sigma _{Y}}{\sigma _{X}}}(x-\mu _{X})+\mu _{Y}.}$

Bu ifade, Bunun nedeni (sgn olan İşaret fonksiyonu yerine) olduğu en iyi lineer yansız tahmin ait bir değer verilir . ${\displaystyle \operatöradı {sgn}(\rho )}$${\görüntüleme stili \rho }$${\görüntüleme stili Y}$${\görüntüleme stili X}$

dejenere vaka

Kovaryans matrisi tam sıra değilse, çok değişkenli normal dağılım dejeneredir ve yoğunluğu yoktur. Daha kesin olarak, k -boyutlu Lebesgue ölçüsüne göre bir yoğunluğa sahip değildir (ki bu, hesap düzeyinde olasılık derslerinde kabul edilen olağan ölçüdür). Yalnızca bir ölçüye göre dağılımları mutlak olarak sürekli olan rastgele vektörlerin yoğunlukları olduğu söylenir (bu ölçüye göre). Yoğunluklar hakkında konuşmak, ancak ölçü-teorik komplikasyonlarla uğraşmaktan kaçınmak için, dikkati koordinatların bir alt kümesine sınırlamak , bu alt küme için kovaryans matrisi pozitif tanımlı olacak şekilde daha basit olabilir ; o zaman diğer koordinatlar , bu seçilmiş koordinatların afin bir fonksiyonu olarak düşünülebilir . ${\ Displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \operatöradı {rütbe} ({\boldsymbol {\Sigma }})}$${\displaystyle \mathbf {x} }$

Tekil durumlarda yoğunluklar hakkında anlamlı bir şekilde konuşmak için, farklı bir temel ölçü seçmeliyiz. Parçalanma teoremini kullanarak, Lebesgue ölçüsünün , Gauss dağılımının desteklendiği yerin -boyutlu afin alt uzayına , yani . Bu ölçü ile ilgili olarak dağılım, aşağıdaki motifin yoğunluğuna sahiptir: ${\displaystyle \operatöradı {rütbe} ({\boldsymbol {\Sigma }})}$${\displaystyle \mathbb {R} ^{k}}$${\displaystyle \{{\boldsymbol {\mu }}+{\boldsymbol {\Sigma ^{1/2}}}\mathbf {v} :\mathbf {v} \in \mathbb {R} ^{k} \}}$

${\displaystyle f(\mathbf {x} )=\left(\det \nolimits ^{*}(2\pi {\boldsymbol {\Sigma }})\sağ)^{-{\frac {1}{2 }}}\,e^{-{\frac {1}{2}}(\mathbf {x} -{\boldsymbol {\mu }})^{\!{\mathsf {T}}}{\boldsymbol {\Sigma }}^{+}(\mathbf {x} -{\boldsymbol {\mu }})}}$

nerede olduğunu genelleştirilmiş ters ve det * olan sözde belirleyici . ${\ Displaystyle {\boldsymbol {\Sigma }}^{+}}$

Kümülatif dağılım fonksiyonu

Boyut 1'deki kümülatif dağılım fonksiyonu (cdf) kavramı , dikdörtgen ve elipsoidal bölgelere dayalı olarak çok boyutlu duruma iki şekilde genişletilebilir.

İlk yol, rastgele bir vektörün cdf'sini , tüm bileşenlerinin vektördeki karşılık gelen değerlerden küçük veya eşit olma olasılığı olarak tanımlamaktır : ${\displaystyle F(\mathbf {x} )}$${\görüntüleme stili \mathbf {X} }$${\görüntüleme stili \mathbf {X} }$${\displaystyle \mathbf {x} }$

${\displaystyle F(\mathbf {x} )=\mathbb {P} (\mathbf {X} \leq \mathbf {x} ),\quad {\text{nerede }}\mathbf {X} \sim {\ matematiksel {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}).}$

için kapalı bir form olmamasına rağmen , onu sayısal olarak tahmin eden bir takım algoritmalar vardır . ${\displaystyle F(\mathbf {x} )}$

Diğer bir yol, cdf'yi , standart sapmanın doğrudan bir genellemesi olan, Gauss'tan Mahalanobis mesafesi ile belirlenen bir örneğin elipsoidin içinde yer alma olasılığı olarak tanımlamaktır . Bu fonksiyonun değerlerini hesaplamak için aşağıdaki gibi kapalı analitik formüller mevcuttur. ${\görüntüleme stili F(r)}$ ${\görüntüleme stili r}$

Aralık

Aralığı çok değişkenli normal dağılım için, bu vektörler aşağıdakilerden oluşan bir bölge elde edilir x tatmin

${\displaystyle ({\mathbf {x} }-{\boldsymbol {\mu }})^{T}{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\leq \chi _{k}^{2}(p).}$

Burada a, boyutlu vektör, bilinen boyutlu ortalama vektörü, bir bilinen kovaryans matrisi ve bir miktarsal fonksiyon olasılık arasında ki-kare dağılımı ile serbestlik derecesi. Zaman ifade elips ve chi-square dağıtım basitleştirir iç tanımlayan üstel dağılımı iki eşit ortalama ile (oran yarısına eşit). ${\displaystyle {\mathbf {x} }}$${\görüntüleme stili k}$${\ Displaystyle {\boldsymbol {\mu }}}$${\görüntüleme stili k}$${\ Displaystyle {\boldsymbol {\Sigma }}}$${\displaystyle \chi _{k}^{2}(p)}$${\görüntüleme stili p}$${\görüntüleme stili k}$${\görüntüleme stili k=2,}$

Tamamlayıcı kümülatif dağılım işlevi (kuyruk dağılımı)

Tamamlayıcı kümülatif dağılım fonksiyonu (CCDF) ya da kuyruk dağılımı olarak tanımlanır . olduğunda , ccdf, bağımlı Gauss değişkenlerinin maksimumu bir olasılık olarak yazılabilir: ${\displaystyle {\overline {F}}(\mathbf {x} )=1-\mathbb {P} (\mathbf {X} \leq \mathbf {x} )}$${\displaystyle \mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }})}$

${\displaystyle {\overline {F}}(\mathbf {x} )=\mathbb {P} (\cup _{i}\{X_{i}\geq x_{i}\})=\mathbb {P } (\max _{i}Y_{i}\geq 0),\quad {\text{nerede }}\mathbf {Y} \sim {\mathcal {N}}({\boldsymbol {\mu }}- \mathbf {x} ,\,{\boldsymbol {\Sigma }}).}$

ccdf'yi hesaplamak için basit bir kapalı formül bulunmamakla birlikte, maksimum bağımlı Gauss değişkenleri Monte Carlo yöntemiyle doğru bir şekilde tahmin edilebilir .

Özellikler

Farklı alanlarda olasılık

Üst: etki alanında (mavi bölgeler) iki değişkenli normal olma olasılığı . Orta: bir toroidal alanda bir üç değişkenli normalin olasılığı. Altta: tarafından tanımlanan 4d düzenli çokyüzlü alanda 4 değişkenli bir normalin olasılığının yakınsak Monte-Carlo integrali . Bunların hepsi, ışın izlemenin sayısal yöntemiyle hesaplanır.${\displaystyle x\sin yy\cos x>1}$${\displaystyle \sum _{i=1}^{4}\vert x_{i}\vert <1}$

Gauss diskriminant analizini kullanan Bayes sınıflandırması/karar teorisi ile ilgili olan (burada bir matris, bir vektördür ve bir skalerdir) ile tanımlanan ikinci dereceden bir alanda çok değişkenli normalin olasılık içeriği , genelleştirilmiş ki- kare dağılım . Tarafından tanımlanan herhangi bir genel etki alanı içindeki olasılık içeriği (burada genel bir işlevdir) sayısal ışın izleme yöntemi ( Matlab kodu ) kullanılarak hesaplanabilir . ${\displaystyle q({\boldsymbol {x}})={\boldsymbol {x}}'\mathbf {Q_{2}} {\boldsymbol {x}}+{\boldsymbol {q_{1}}}'{ \boldsymbol {x}}+q_{0}>0}$${\displaystyle \mathbf {Q_{2}} }$${\displaystyle {\boldsymbol {q_{1}}}}$${\görüntüleme stili q_{0}}$${\displaystyle f({\boldsymbol {x}})>0}$${\displaystyle f({\boldsymbol {x}})}$

Daha yüksek anlar

K inci dereceden anlar ait x tarafından verilmektedir

${\displaystyle \mu _{1,\ldots ,N}(\mathbf {x} )\ {\stackrel {\mathrm {def} }{=}}\ \mu _{r_{1},\ldots ,r_ {N}}(\mathbf {x} )\ {\stackrel {\mathrm {def} }{=}}\operatöradı {E} \left[\prod _{j=1}^{N}X_{j} ^{r_{j}}\sağ]}$

burada r ₁ + r ₂ + ⋯ + r _N = k .

K inci dereceden merkez anlar olarak aşağıda olan

${\displaystyle \mu _{1,\dots ,2\lambda }(\mathbf {x} -{\boldsymbol {\mu }})=\sum \left(\sigma _ {ij}\sigma _{k\ ell }\cdots \sigma _{XZ}\sağ)}$

toplam setinin tüm tahsisler üzerinden alınır burada içine λ (sırasız) çiftleri. Yani, bir k th (= 2 λ = 6) merkezi moment için, λ = 3 kovaryansın ürünleri toplanır (beklenen değer μ , cimriliğin yararına 0 olarak alınır): ${\displaystyle \sol\{1,\ldots ,2\lambda\sağ\}}$

${\displaystyle {\begin{hizalanmış}&\operatöradı {E} [X_{1}X_{2}X_{3}X_{4}X_{5}X_{6}]\\[8pt]={}& \operatöradı {E} [X_{1}X_{2}]\operatöradı {E} [X_{3}X_{4}]\operatöradı {E} [X_{5}X_{6}]+\operatöradı {E } [X_{1}X_{2}]\operatöradı {E} [X_{3}X_{5}]\operatöradı {E} [X_{4}X_{6}]+\operatöradı {E} [X_{ 1}X_{2}]\operatöradı {E} [X_{3}X_{6}]\operatöradı {E} [X_{4}X_{5}]\\[4pt]&{}+\operatöradı {E } [X_{1}X_{3}]\operatöradı {[} X_{2}X_{4}]\operatöradı {E} [X_{5}X_{6}]+\operatöradı {E} [X_{1 }X_{3}]\operatöradı {E} [X_{2}X_{5}]\operatöradı {E} [X_{4}X_{6}]+\operatöradı {E} [X_{1}X_{3 }]\operatöradı {E} [X_{2}X_{6}]\operatöradı {E} [X_{4}X_{5}]\\[4pt]&{}+\operatöradı {E} [X_{1 }X_{4}]\operatöradı {E} [X_{2}X_{3}]\operatöradı {E} [X_{5}X_{6}]+\operatöradı {E} [X_{1}X_{4 }]\operatöradı {E} [X_{2}X_{5}]\operatöradı {E} [X_{3}X_{6}]+\operatöradı {E} [X_{1}X_{4}]\operatöradı {E} [X_{2}X_{6}]\operatöradı {E} [X_{3}X_{5}]\\[4pt]&{}+\operatöradı {E} [X_{1}X_{5 }]\operatöradı {E} [X_{2}X_{3} ]\operatöradı {E} [X_{4}X_{6}]+\operatöradı {E} [X_{1}X_{5}]\operatöradı {E} [X_{2}X_{4}]\operatöradı { E} [X_{3}X_{6}]+\operatöradı {E} [X_{1}X_{5}]\operatöradı {E} [X_{2}X_{6}]\operatöradı {E} [X_ {3}X_{4}]\\[4pt]&{}+\operatöradı {E} [X_{1}X_{6}]\operatöradı {E} [X_{2}X_{3}]\operatöradı { E} [X_{4}X_{5}]+\operatöradı {E} [X_{1}X_{6}]\operatöradı {E} [X_{2}X_{4}]\operatöradı {E} [X_ {3}X_{5}]+\operatöradı {E} [X_{1}X_{6}]\operatöradı {E} [X_{2}X_{5}]\operatöradı {E} [X_{3}X_ {4}].\end{hizalanmış}}}$

Bu , her biri λ (bu durumda 3) kovaryanslarının ürünü olan toplamda (yukarıdaki durumda 15) terimleri verir . Dördüncü dereceden momentler (dört değişken) için üç terim vardır. Altıncı dereceden anlar için 3 × 5 = 15 terim vardır ve sekizinci dereceden anlar için 3 × 5 × 7 = 105 terim vardır. ${\displaystyle {\tfrac {(2\lambda -1)!}{2^{\lambda -1}(\lambda -1)!}}}$

Daha sonra kovaryanslar, listenin terimlerinin r ₁ birler, sonra r ₂ ikiler, vb.'den oluşan listenin karşılık gelen terimleriyle değiştirilmesiyle belirlenir . Bunu göstermek için aşağıdaki 4. mertebe merkezi moment durumunu inceleyin: ${\displaystyle [1,\ldots ,2\lambda ]}$

${\displaystyle {\begin{hizalanmış}\operatöradı {E} \sol[X_{i}^{4}\sağ]&=3\sigma _{ii}^{2}\\[4pt]\operatöradı {E } \left[X_{i}^{3}X_{j}\sağ]&=3\sigma _{ii}\sigma _{ij}\\[4pt]\operatöradı {E} \left[X_{i }^{2}X_{j}^{2}\sağ]&=\sigma _{ii}\sigma _{jj}+2\sigma _{ij}^{2}\\[4pt]\operatöradı { E} \left[X_{i}^{2}X_{j}X_{k}\sağ]&=\sigma _{ii}\sigma _{jk}+2\sigma _{ij}\sigma _{ ik}\\[4pt]\operatöradı {E} \left[X_{i}X_{j}X_{k}X_{n}\right]&=\sigma _{ij}\sigma _{kn}+\ sigma _{ik}\sigma _{jn}+\sigma _{in}\sigma _{jk}.\end{hizalı}}}$

X _i ve X _j'nin kovaryansı nerede . Yukarıdaki yöntem, bir birinci buluntular bir genel olgu ile k th an k farklı X değişkenleri, bu konuyla ilgili olarak, ve daha sonra bir basitleştirir. Örneğin, için biri X _i = X _{j sağlar} ve biri . ${\displaystyle \sigma _{ij}}$${\displaystyle E\sol[X_{i}X_{j}X_{k}X_{n}\sağ]}$${\displaystyle \operatöradı {E} [X_{i}^{2}X_{k}X_{n}]}$${\displaystyle \sigma _{ii}=\sigma _{i}^{2}}$

Normal bir vektörün işlevleri

a: ve ile tek bir normal değişkenin bir fonksiyonunun olasılık yoğunluğu . b: Ortalama ve kovaryans ile normal bir vektörün bir fonksiyonunun olasılık yoğunluğu . c: Normal bir vektörün iki fonksiyonunun ortalama ve kovaryans ile ortak olasılık yoğunluğunun ısı haritası . d: 4 iid standart normal değişkenli bir fonksiyonun olasılık yoğunluğu . Bunlar, ışın izlemenin sayısal yöntemiyle hesaplanır.${\görüntüleme stili \çünkü x^{2}}$${\görüntüleme stili x}$${\görüntüleme stili \mu =-2}$${\görüntüleme stili \sigma =3}$${\görüntüleme stili x^{y}}$${\görüntüleme stili (x,y)}$${\displaystyle {\boldsymbol {\mu }}=(1,2)}$${\displaystyle \mathbf {\Sigma } ={\başlangıç{bmatrix}.01&.016\\.016&.04\son{bmatrix}}}$${\görüntüleme stili (x,y)}$${\displaystyle {\boldsymbol {\mu }}=(-2,5)}$${\displaystyle \mathbf {\Sigma } ={\başlangıç{bmatrix}10&-7\\-7&10\son{bmatrix}}}$${\displaystyle \sum _{i=1}^{4}\vert x_{i}\vert }$

Bir ikinci dereceden bir şekilde normal bir vektör , ( bir matris, bir vektördür ve skalar olan), a, genelleştirilmiş ki-kare değişkeni. ${\displaystyle {\boldsymbol {x}}}$${\displaystyle q({\boldsymbol {x}})={\boldsymbol {x}}'\mathbf {Q_{2}} {\boldsymbol {x}}+{\boldsymbol {q_{1}}}'{ \boldsymbol {x}}+q_{0}}$${\displaystyle \mathbf {Q_{2}} }$${\displaystyle {\boldsymbol {q_{1}}}}$${\görüntüleme stili q_{0}}$

Eğer normal vektörü genel bir skaler değerli bir fonksiyondur, onun olasılık yoğunluk fonksiyonu , kümülatif dağılım fonksiyonu ve ters kümülatif dağılım fonksiyonu ışın izleme (sayısal yöntemle hesaplanabilmektedir Matlab kodu ). ${\displaystyle f({\boldsymbol {x}})}$

olasılık fonksiyonu

Ortalama ve kovaryans matrisi biliniyorsa, gözlemlenen bir vektörün log olasılığı basitçe olasılık yoğunluk fonksiyonunun logu olur : ${\displaystyle {\boldsymbol {x}}}$

${\displaystyle \ln L({\boldsymbol {x}})=-{\frac {1}{2}}\left[\ln(|{\boldsymbol {\Sigma }}}|\,)+({\ boldsymbol {x}}-{\boldsymbol {\mu }})'{\boldsymbol {\Sigma }}^{-1}({\boldsymbol {x}}-{\boldsymbol {\mu }})+k\ ln(2\pi )\sağ]}$,

Karmaşık sayıların bir vektörü olan merkezi olmayan karmaşık durumun dairesel simetrik versiyonu,${\ Displaystyle {\boldsymbol {z}}}$

${\displaystyle \ln L({\boldsymbol {z}})=-\ln(|{\boldsymbol {\Sigma }}}|\,)-({\boldsymbol {z}}-{\boldsymbol {\mu } })^{\hançer }{\boldsymbol {\Sigma }}^{-1}({\boldsymbol {z}}-{\boldsymbol {\mu }})-k\ln(\pi )}$

yani eşlenik devrik ( ile gösterilir ) normal devrik ( ile gösterilir ) değiştirilir . Bu, gerçek durumdan biraz farklıdır, çünkü karmaşık normal dağılımın dairesel simetrik versiyonu , normalleştirme sabiti için biraz farklı bir forma sahiptir . ${\görüntüleme stili\hançer }$${\görüntüleme stili '}$

Benzer bir gösterim, çoklu doğrusal regresyon için kullanılır .

Normal bir vektörün log olasılığı, normal vektörün ikinci dereceden bir formu olduğundan, genelleştirilmiş bir ki-kare değişkeni olarak dağıtılır .

diferansiyel entropi

Diferansiyel entropi değişkenli normal dağılım olduğu

${\displaystyle {\begin{hizalı}h\left(f\sağ)&=-\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }f(\mathbf {x} )\ln f(\mathbf {x} )\,d\mathbf {x} ,\\&={\frac {1}{2 }}\ln \left(\left|\left(2\pi e\right){\boldsymbol {\Sigma }}\right|\right)={\frac {1}{2}}\ln \left( \left(2\pi e\right)^{k}\left|{\boldsymbol {\Sigma }}\right|\right)={\frac {k}{2}}\ln \left(2\pi e\right)+{\frac {1}{2}}\ln \left(\left|{\boldsymbol {\Sigma }}\right|\right)={\frac {k}{2}}+{ \frac {k}{2}}\ln \left(2\pi \right)+{\frac {1}{2}}\ln \left(\left|{\boldsymbol {\Sigma }}\right| \sağ)\\\end{hizalı}}}$

burada çubuklar matris determinantını ve k vektör uzayının boyutluluğunu gösterir.

Kullback-Leibler ayrışması

Kullback-Leibler ıraksama gelen için tekil olmayan matrisler Σ için, ₁ ve Σ ₀ olduğu: ${\displaystyle {\mathcal {N}}_{1}({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{1})}$${\displaystyle {\mathcal {N}}_{0}({\boldsymbol {\mu }}_{0},{\boldsymbol {\Sigma }}_{0})}$

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\|{\mathcal {N}}_{1})={1 \over 2}\left\{\operatöradı {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)+\left({\boldsymbol {\mu }} _{1}-{\boldsymbol {\mu }}_{0}\sağ)^{\rm {T}}{\boldsymbol {\Sigma }}_{1}^{-1}({\boldsymbol { \mu }}_{1}-{\boldsymbol {\mu }}_{0})-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\sağ\},}$

vektör uzayının boyutu nerede . ${\görüntüleme stili k}$

Logaritma baz alınmalıdır e logaritma aşağıdaki iki terim baz- kendileri çünkü E yoğunluk fonksiyonunun ya faktörler ya da başka şekilde, doğal olarak ortaya çıkan ifade logaritma. Bu nedenle denklem, nats cinsinden ölçülen bir sonuç verir . Yukarıdaki ifadenin tamamını log _e  2'ye bölmek, sapmayı bit olarak verir .

ne zaman , ${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\|{\mathcal {N}}_{1})={1 \over 2}\left\{\operatöradı {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\sağ\}.}$

Karşılıklı bilgi

Karşılıklı bilgi Bir dağılımın özel bir durumdur Kullback-Leibler sapma olduğu tam değişkenli dağılım ve 1 boyutlu marjinal dağılımları ürünüdür. Arasında gösterimde Kullback-Leibler sapma bölümünün bu makalenin, bir olan köşegen matris diyagonal girişleriyle ve . Karşılıklı bilgi için elde edilen formül: ${\görüntüleme stili P}$${\ ekran stili Q}$${\displaystyle {\boldsymbol {\Sigma }}_{1}}$${\displaystyle {\boldsymbol {\Sigma }}_{0}}$${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$

${\displaystyle I({\boldsymbol {X}})=-{1 \over 2}\ln |{\boldsymbol {\rho }}_{0}|,}$

burada bir ilinti matrisi inşa . ${\displaystyle {\boldsymbol {\rho }}_{0}}$${\displaystyle {\boldsymbol {\Sigma }}_{0}}$

İki değişkenli durumda karşılıklı bilgi için ifade şöyledir:

${\displaystyle I(x;y)=-{1 \over 2}\ln(1-\rho ^{2}).}$

ortak normallik

Normal dağılımlı ve bağımsız

Eğer ve normal dağılmışlarsa ve bağımsızlarsa , bu onların "ortak olarak normal dağıldığı" anlamına gelir, yani çiftin çok değişkenli normal dağılıma sahip olması gerekir. Bununla birlikte, ortaklaşa normal olarak dağıtılan bir çift değişkenin bağımsız olması gerekmez (sadece korelasyonsuzsa böyle olur, ). ${\görüntüleme stili X}$${\görüntüleme stili Y}$${\görüntüleme stili (X,Y)}$${\görüntüleme stili \rho =0}$

Normal olarak dağıtılan iki rastgele değişkenin birlikte iki değişkenli normal olması gerekmez

İki rastgele değişkenin ve her ikisinin de normal dağılıma sahip olması, çiftin ortak normal dağılıma sahip olduğu anlamına gelmez . Basit bir örnek, X'in beklenen değeri 0 ve varyansı 1 olan normal bir dağılıma sahip olduğu ve if ve if , nerede . İkiden fazla rastgele değişken için benzer karşı örnekler vardır. Genel olarak, bir karışım modelini toplarlar . ${\görüntüleme stili X}$${\görüntüleme stili Y}$${\görüntüleme stili (X,Y)}$${\görüntüleme stili Y=X}$${\displaystyle |X|>c}$${\görüntüleme stili Y=-X}$${\görüntüleme stili |X|<c}$${\görüntüleme stili c>0}$

Korelasyonlar ve bağımsızlık

Genel olarak, rastgele değişkenler korelasyonsuz olabilir ancak istatistiksel olarak bağımlı olabilir. Fakat eğer rastgele bir vektör çok değişkenli normal dağılıma sahipse, o zaman ilişkisiz iki veya daha fazla bileşeni bağımsızdır . Bu, ikili olarak bağımsız olan bileşenlerinin herhangi iki veya daha fazlasının bağımsız olduğu anlamına gelir . Hemen üstünde belirttiğin gibi, öyle değil (iki rasgele değişkenler olduğu doğru ayrı ayrı , marjinal) normalde dağıtılmış ve ilişkisiz bağımsızdır.

koşullu dağılımlar

Eğer N boyutlu X aşağıdaki gibi bölümlenmiş

${\displaystyle \mathbf {x} ={\begin{bmatrix}\mathbf {x} _{1}\\\mathbf {x} _{2}\end{bmatrix}}{\text{ boyutları ile }}{ \begin{bmatrix}q\times 1\\(Nq)\times 1\end{bmatrix}}}$

ve buna göre μ ve Σ aşağıdaki gibi bölünür

${\displaystyle {\boldsymbol {\mu }}={\begin{bmatrix}{\boldsymbol {\mu }}_{1}\\{\boldsymbol {\mu }}_{2}\end{bmatrix}} {\text{ boyutları }}{\begin{bmatrix}q\times 1\\(Nq)\times 1\end{bmatrix}}}$

${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{12}\\{\boldsymbol {\ Sigma }}_{21}&{\boldsymbol {\Sigma }}_{22}\end{bmatrix}}{\text{ boyutları }}{\begin{bmatrix}q\times q&q\times (Nq)\ \(Nq)\kez q&(Nq)\kez (Nq)\end{bmatris}}}$

o zaman x ₂ = a üzerinde koşullu x ₁ dağılımı çok değişkenli normaldir ( x ₁  |  x ₂ = a ) ~ N ( μ , Σ ) burada

${\displaystyle {\bar {\boldsymbol {\mu }}}={\boldsymbol {\mu }}_{1}+{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_ {22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\sağ)}$

ve kovaryans matrisi

${\displaystyle {\overline {\boldsymbol {\Sigma }}}={\boldsymbol {\Sigma }}_{11}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_ {22}^{-1}{\boldsymbol {\Sigma }}_{21}.}$

Bu matristir Schur tamamlayıcı arasında Σ ₂₂ yılında Σ . Bu, koşullu kovaryans matrisini hesaplamak için, kişinin genel kovaryans matrisini tersine çevirmesi, koşullandırılan değişkenlere karşılık gelen satırları ve sütunları düşürmesi ve ardından koşullu kovaryans matrisini elde etmek için geri çevirmesi anlamına gelir. İşte olan genelleştirilmiş ters arasında . ${\displaystyle {\boldsymbol {\Sigma }}_{22}^{-1}}$${\displaystyle {\boldsymbol {\Sigma }}_{22}}$

Not bilerek bu x ₂ = Bir değiştiren varyans, yeni varyans spesifik değerine bağlı değildir ama bir ; belki daha şaşırtıcı bir şekilde, ortalama şu şekilde değiştirilir ; değerini bilmeden durumuyla bu karşılaştırma bir durumda hangi, x ₁ dağılıma sahip olacaktır . ${\displaystyle {\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_ {2}\sağ)}$${\displaystyle {\mathcal {N}}_{q}\left({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{11}\sağ)}$

Bu sonucu kanıtlamak için elde edilen ilginç bir gerçek, rastgele vektörlerin ve bağımsız olmalarıdır. ${\displaystyle \mathbf {x} _{2}}$${\displaystyle \mathbf {y} _{1}=\mathbf {x} _{1}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{- 1}\mathbf {x} _{2}}$

Matris Σ ₁₂ Σ ₂₂ ^-1 matris olarak bilinen regresyon katsayıları.

iki değişkenli durum

İki değişkenli durumda burada X bölünür ve , koşullu dağılımı verilen IS ${\görüntüleme stili X_{1}}$${\displaystyle X_{2}}$${\görüntüleme stili X_{1}}$${\displaystyle X_{2}}$

${\displaystyle X_{1}\mid X_{2}=a\ \sim \ {\mathcal {N}}\left(\mu _{1}+{\frac {\sigma _{1}}{\sigma _{2}}}\rho (a-\mu _{2}),\,(1-\rho ^{2})\sigma _{1}^{2}\sağ).}$

nerede olduğunu korelasyon katsayısı arasındaki ve . ${\görüntüleme stili \rho }$${\görüntüleme stili X_{1}}$${\displaystyle X_{2}}$

İki değişkenli koşullu beklenti

Genel durumda

${\displaystyle {\begin{pmatrix}X_{1}\\X_{2}\end{pmatrix}}\sim {\mathcal {N}}\left({\begin{pmatrix}\mu _{1}\ \\mu _{2}\end{pmatrix}},{\begin{pmatrix}\sigma _{1}^{2}&\rho \sigma _{1}\sigma _{2}\\\rho \ sigma _{1}\sigma _{2}&\sigma _{2}^{2}\end{pmatrix}}\sağ)}$

X'in koşullu beklenen ₁ X verilir ₂ olduğu:

${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}=x_{2})=\mu _{1}+\rho {\frac {\sigma _{1}}{\sigma _ {2}}}(x_{2}-\mu _{2})}$

İspat: Yukarıdaki koşullu dağılımın beklentisi alınarak sonuç elde edilir . ${\displaystyle X_{1}\mid X_{2}}$

Birim varyanslı ortalanmış durumda

${\displaystyle {\begin{pmatrix}X_{1}\\X_{2}\end{pmatrix}}\sim {\mathcal {N}}\left({\begin{pmatrix}0\\0\end{ pmatrix}},{\begin{pmatrix}1&\rho \\\rho &1\end{pmatrix}}\sağ)}$

Koşullu beklenti X ₁ verilen x ₂ olduğu

${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}=x_{2})=\rho x_{2}}$

ve koşullu varyans

${\displaystyle \operatöradı {var} (X_{1}\mid X_{2}=x_{2})=1-\rho ^{2};}$

dolayısıyla koşullu varyans x _2'ye bağlı değildir .

Koşullu beklenti X ₁ verilen X- ₂ den daha büyük / küçük z olduğu:

${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}<z)=-\rho {\phi (z) \over \Phi (z)},}$

${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}>z)=\rho {\phi (z) \over (1-\Phi (z))},}$

buradaki son orana ters Mills oranı denir .

Kanıt: Son iki sonuç, sonuç kullanılarak elde edilir , böylece ${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}=x_{2})=\rho x_{2}}$

${\displaystyle \operatöradı {E} (X_{1}\mid X_{2}<z)=\rho E(X_{2}\mid X_{2}<z)}$ve sonra kesilmiş bir normal dağılım beklentisinin özelliklerini kullanarak .

marjinal dağılımlar

Çok değişkenli normal rastgele değişkenlerin bir alt kümesi üzerinde marjinal dağılımı elde etmek için , ortalama vektör ve kovaryans matrisinden alakasız değişkenlerin (marjinalize edilmek istenen değişkenler) çıkarılması yeterlidir. Bunun kanıtı, çok değişkenli normal dağılımların ve lineer cebirin tanımlarından gelir.

Örnek

Let X = [ X ₁ , x ₂ , X- ₃ ] , ortalama vektör ile olmak değişkenli normal rastgele değişkenler μ [= μ ₁ , μ ₂ , μ ₃ ] ve kovaryans matrisi Σ (değişkenli normal dağılımlar için standart parametreleriyle). O halde X' = [ X ₁ , X ₃ ] ' ün ortak dağılımı μ′ = [ μ ₁ , μ ₃ ] ortalama vektörü ve kovaryans matrisi ile çok değişkenli normaldir . ${\displaystyle {\boldsymbol {\Sigma }}'={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{13}\\{\boldsymbol { \Sigma }}_{31}&{\boldsymbol {\Sigma }}_{33}\end{bmatrix}}}$

afin dönüşüm

Eğer Y = C + BX bir bir benzeşik transformasyon ve burada C bir olan sabitler vektörü ve B sabittir matris, daha sonra , Y beklenen değer ile bir çok değişkenli normal dağılımına sahip c + Bμ varyans BΣB ^T , yani . Özellikle, herhangi bir alt-kümesi , X _i de çok değişkenli normal bir marjinal dağılımına sahiptir. Bunu görmek için aşağıdaki örneği göz önünde bulundurun: ( X ₁ , X ₂ , X ₄ ) ^T alt kümesini çıkarmak için şunu kullanın: ${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}),}$${\ Displaystyle M\times 1}$${\ Displaystyle M\time N}$${\displaystyle \mathbf {Y} \sim {\mathcal {N}}\left(\mathbf {c} +\mathbf {B} {\boldsymbol {\mu }},\mathbf {B} {\boldsymbol {\ Sigma }}\mathbf {B} ^{\rm {T}}\sağ)}$

${\displaystyle \mathbf {B} ={\begin{bmatrix}1&0&0&0&0&\ldots &0\\0&1&0&0&0&\ldots &0\0&0&0&1&0&\ldots &0\end{bmatrix}}}$

hangi istenen öğeleri doğrudan çıkarır.

Başka bir sonuç dağılımı yani Z = b · X , B gibi elemanların aynı sayıda sabit bir vektör olan , X ve nokta gösterir nokta ürün tek değişkenli Gauss ile, . Bu sonuç kullanılarak aşağıdaki ${\displaystyle Z\sim {\mathcal {N}}\left(\mathbf {b} \cdot {\boldsymbol {\mu }},\mathbf {b} ^{\rm {T}}{\boldsymbol {\ Sigma }}\mathbf {b} \sağ)}$

${\displaystyle \mathbf {B} ={\begin{bmatrix}b_{1}&b_{2}&\ldots &b_{n}\end{bmatrix}}=\mathbf {b} ^{\rm {T}} .}$

Pozitif-kesinlik nasıl gözlemleyin Σ nokta ürünün varyans pozitif olmalıdır anlamına gelir.

Bir benzeşik transformasyon X, örneğin 2 , X ile aynı değildir , iki bağımsız gerçekleşmeleri toplamı arasında X .

geometrik yorumlama

Tekil olmayan çok değişkenli normal dağılımın denklik konturları , ortalamada ortalanmış elipsoidlerdir (yani hiperkürelerin lineer dönüşümleri ). Dolayısıyla çok değişkenli normal dağılım, eliptik dağılımlar sınıfına bir örnektir . Elipsoidlerin asal eksenlerinin yönleri kovaryans matrisinin özvektörleri tarafından verilir . Asal eksenlerin karesi alınmış göreli uzunlukları, karşılık gelen özdeğerlerle verilir. ${\ Displaystyle {\boldsymbol {\Sigma }}}$

Eğer Σ = UΛU ^T = UΛ ^1/2 ( UΛ ^1/2 ) ^{, T} bir bir eigendecomposition sütunları U birimi özvektörleri ve Λ a, köşegen matris sonra biz, özdeğerler

${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\iff \mathbf {X} \\sim {\boldsymbol {\mu }}+\mathbf {U} {\boldsymbol {\Lambda }}^{1/2}{\mathcal {N}}(0,\mathbf {I} )\iff \mathbf {X} \ \ sim {\boldsymbol {\mu }}+\mathbf {U} {\mathcal {N}}(0,{\boldsymbol {\Lambda }}).}$

Ayrıca, U bir olması seçilebilir rotasyon matrisi bir eksen tersini üzerinde herhangi bir etkisi yok gibi, N (0, Λ ), ancak bir sütun tersine çevrilmesi işareti değiştirir u' in belirleyici. Dağıtım , N ( μ , Σ ) geçerli olan , N (0 I tarafından ölçülen) X ^1/2 , döndürülebilir U ve Çeviri u .

Tersine, herhangi bir μ , tam sıralı matris U ve pozitif diyagonal girişler Λ _i seçimi, tekil olmayan çok değişkenli bir normal dağılım verir. Herhangi bir X ise _i sıfırdır ve u elde edilen kovaryans matrisi, kare UΛU ^T olan tekil . Geometrik olarak bu , asal eksenlerden en az birinin uzunluğu sıfır olduğundan , her kontur elipsoidinin sonsuz derecede ince olduğu ve n boyutlu uzayda sıfır hacme sahip olduğu anlamına gelir ; bu dejenere bir durumdur .

" Kutupsal koordinatlarda (yarıçap ve açı) yeniden yazılan, iki değişkenli normal bir rastgele değişkende gerçek ortalamanın etrafındaki yarıçap, bir Hoyt dağılımını izler ."

Bir boyutta aralıkta normal dağılıma ait bir örnek bulma olasılığı yaklaşık olarak %68,27'dir, ancak daha yüksek boyutlarda standart sapma elipsi bölgesinde bir örnek bulma olasılığı daha düşüktür. ${\displaystyle \mu \pm \sigma }$

İstatiksel sonuç

parametre tahmini

Çok değişkenli bir normal dağılımın kovaryans matrisinin maksimum olabilirlik tahmin edicisinin türetilmesi basittir.

Kısacası, çok değişkenli bir normalin olasılık yoğunluk fonksiyonu (pdf),

${\displaystyle f(\mathbf {x} )={\frac {1}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}}\exp \left(- {1 \over 2}(\mathbf {x} -{\boldsymbol {\mu }})^{\rm {T}}{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\sağ)}$

ve bir n gözlem örneğinden elde edilen kovaryans matrisinin ML tahmincisi

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={1 \over n}\sum _{i=1}^{n}({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})^{T}}$

bu sadece örnek kovaryans matrisidir . Bu, beklentisi olan yanlı bir tahmin edicidir .

${\displaystyle E[{\widehat {\boldsymbol {\Sigma }}}]={\frac {n-1}{n}}{\boldsymbol {\Sigma }}.}$

Tarafsız bir örnek kovaryansı

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={\frac {1}{n-1}}\sum _{i=1}^{n}(\mathbf {x} _{i} -{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})^{\rm {T}}={\frac {1 }{n-1}}\sol[X'\sol(I-{\frac {1}{n}}\cdot J\sağ)X\sağ]}$ (matris biçimi, bir birim matris, J a, parantez içinde terim bu nedenle,; olanlar matris merkezleme matris)${\görüntüleme stili I}$${\görüntüleme stili K\kez K}$${\görüntüleme stili K\kez K}$${\görüntüleme stili K\kez K}$