İzotonik regresyon - Isotonic regression

Aynı veriler üzerinde doğrusal regresyonla karşılaştırıldığında izotonik regresyon (koyu kırmızı çizgi) örneği, her ikisi de ortalama karesel hatayı en aza indirmeye uygundur . İzotonik regresyonun serbest biçimli özelliği, verilerin daha dik olduğu yerde çizginin daha dik olabileceği anlamına gelir; izotonisite kısıtlaması, çizginin azalmadığı anlamına gelir.

Olarak istatistik , izotonik regresyon veya monoton regresyon gibi, yerleştirilen satır olduğunu gözlemlerin bir sekansa serbest biçimli bir çizgi uydurma tekniği azalmayan (ya da artan) her yerde ve mümkün olduğu gözlemlere yakın olarak yer alır.

Uygulamalar

İzotonik regresyon, istatistiksel çıkarımda uygulamalara sahiptir . Örneğin, belirli bir sıralamaya göre bu ortalamalarda bir artış beklendiğinde, bazı deneysel sonuçların ortalamalarına izotonik bir eğri uydurmak için kullanılabilir. İzotonik regresyonun bir yararı , fonksiyon monotonik artan olduğu sürece, lineer regresyonun dayattığı lineerlik gibi herhangi bir fonksiyonel form tarafından kısıtlanmamasıdır .

Başka bir uygulama, metrik olmayan çok boyutlu ölçeklendirmedir ; burada , veri noktaları için düşük boyutlu bir yerleştirme aranır, öyle ki, yerleştirmedeki noktalar arasındaki mesafelerin sırası, noktalar arasındaki farklılıkların sırasıyla eşleşir . İzotonik regresyon, göreceli farklılık düzenini korumak için ideal mesafelere uyması için yinelemeli olarak kullanılır.

İzotonik regresyon, denetimli makine öğrenimi modellerinin tahmin edilen olasılıklarını kalibre etmek için olasılıksal sınıflandırmada da kullanılır .

Tek değişkenli basit sıralı vaka için izotonik regresyon , anesteziyoloji ve toksikoloji gibi alanlarda sürekli doz-yanıt ilişkilerini tahmin etmek için uygulanmıştır. Dar anlamda konuşursak, izotonik regresyon, yalnızca gözlemlenen değerlerinde nokta tahminleri sağlar. Herhangi bir ek varsayım olmaksızın tam doz-tepki eğrisinin tahmini, genellikle nokta tahminleri arasında doğrusal interpolasyon yoluyla yapılır. ${\görüntüleme stili x,y}$${\görüntüleme stili x.}$

R , Stata ve Python için izoton (monotonik) regresyon hesaplama yazılımı geliştirilmiştir .

Problem Bildirimi ve Algoritmalar

Izin bir gözlem, seti verilecek nereye ve bazılarında düşüş kısmen sıralı kümesi . Genellik için , genel olarak herkes için olmasına rağmen , her gözleme bir ağırlık verilebilir . ${\displaystyle (x_{1},y_{1}),\ldots ,(x_{n},y_{n})}$${\displaystyle y_{i}\in \mathbb {R} }$${\displaystyle x_{i}}$${\görüntüleme stili (x_{i},y_{i})}$${\displaystyle w_{i}\geq 0}$${\displaystyle w_{i}=1}$${\görüntüleme stili ben}$

İzotonik regresyon, her zaman kısıtlamasına tabi olarak, herkes için uygun ağırlıklı bir en küçük kareler arar . Bu , değişkenlerde aşağıdaki ikinci dereceden programı (QP) verir : ${\displaystyle {\hat {y}}_{i}\yaklaşık y_{i}}$${\görüntüleme stili ben}$${\displaystyle {\hat {y}}_{i}\leq {\hat {y}}_{j}}$${\displaystyle x_{i}\leq x_{j}}$${\displaystyle {\hat {y}}_{1},\ldots,{\hat {y}}_{n}}$

${\displaystyle \min \sum _{i=1}^{n}w_{i}({\hat {y}}_{i}-y_{i})^{2}}$ tabi ${\displaystyle {\hat {y}}_{i}\leq {\hat {y}}_{j}{\text{ for all }}(i,j)\E}$

burada gözlemlenen girdi kısmi sıralamasını belirler (ve bazı kenarlarının kümesi olarak kabul edilebilir yönlendirilmiş grafik noktalar ile ). Bu formun problemleri, genel ikinci dereceden programlama teknikleri ile çözülebilir. ${\displaystyle E=\{(i,j):x_{i}\leq x_{j}\}}$${\displaystyle x_{i}}$${\displaystyle 1,2,\ldots n}$

Değerlerin tamamen sıralı bir kümeye düştüğü olağan ortamda, örneğin WLOG'un gözlemlerin bu şekilde sıralandığını varsayabilir ve alabiliriz . Bu durumda, ikinci dereceden programı çözmek için basit bir yinelemeli algoritma havuz komşu ihlal edenler algoritmasıdır . Tersine, Best ve Chakravarti, problemi aktif bir küme tanımlama problemi olarak inceledi ve bir ilkel algoritma önerdi. Bu iki algoritma birbirinin ikilisi olarak görülebilir ve her ikisi de zaten sıralanmış veriler üzerinde bir hesaplama karmaşıklığına sahiptir . ${\displaystyle x_{i}}$${\displaystyle \mathbb {R} }$${\displaystyle x_{1}\leq x_{2}\leq \cdots \leq x_{n}}$${\displaystyle E=\{(i,i+1)::1\leq i<n\}}$${\görüntüleme stili O(n)}$

İzotonik regresyon görevi tamamlamak için, sonra olmayan herhangi azalan fonksiyonu seçebilir öyle ki tüm i için. Böyle bir işlev açıkça çözer ${\görüntüleme stili f(x)}$${\displaystyle f(x_{i})={\hat {y}}_{i}}$

${\displaystyle \min _{f}\sum _{i=1}^{n}w_{i}(f(x_{i})-y_{i})^{2}}$azalmayan tabi${\görüntüleme stili f}$

ve yeni değerlerin değerlerini tahmin etmek için kullanılabilir . Noktalar arasında doğrusal olarak enterpolasyon yapmanın ne zaman yaygın bir seçim olacağı , şekilde gösterildiği gibi sürekli bir parçalı doğrusal fonksiyon verir: ${\görüntüleme stili y}$${\görüntüleme stili x}$${\displaystyle x_{i}\in \mathbb {R} }$${\displaystyle (x_{i},{\hat {y}}_{i})}$

${\displaystyle f(x)={\begin{kasalar}{\hat {y}}_{1}&{\text{if }}x\leq x_{1}\\{\hat {y}}_ {i}+{\frac {x-x_{i}}{x_{i+1}-x_{i}}}({\hat {y}}_{i+1}-{\hat {y} }_{i})&{\text{if }}x_{i}\leq x\leq x_{i+1}\\{\hat {y}}_{n}&{\text{if }} x\geq x_{n}\end{durumlar}}}$

Merkezli İzotonik Regresyon

Bu makalenin ilk şeklinin gösterdiği gibi, monotonluk ihlallerinin varlığında ortaya çıkan enterpolasyonlu eğri düz (sabit) aralıklara sahip olacaktır. Doz-tepki uygulamalarında genellikle bunun sadece monoton değil, aynı zamanda pürüzsüz olduğu bilinmektedir . Düz aralıklar, 'nin varsayılan şekliyle uyumsuzdur ve taraflı olduğu gösterilebilir. Merkezi izotonik regresyon (CIR) olarak adlandırılan bu tür uygulamalar için basit bir iyileştirme Oron ve Flournoy tarafından geliştirildi ve hem doz yanıtı hem de doz bulma uygulamaları için tahmin hatasını önemli ölçüde azalttığı gösterildi. Tek değişkenli, basit sıralı durum için hem CIR hem de standart izotonik regresyon, "cir" R paketinde uygulanır. Bu paket ayrıca analitik güven aralığı tahminleri sağlar. ${\görüntüleme stili f(x)}$${\görüntüleme stili f(x)}$

Referanslar

daha fazla okuma

• Robertson, T.; Wright, FT; Dykstra, RL (1988). Sipariş kısıtlı istatistiksel çıkarım . New York: Wiley. ISBN'si 978-0-471-91787-8.
• Barlow, RE; Bartholomew, DJ; Bremner, JM; Brunk, HD (1972). Sipariş kısıtlamaları altında istatistiksel çıkarım; izotonik regresyon teorisi ve uygulaması . New York: Wiley. ISBN'si 978-0-471-04970-8.
• Shively, TS, Sager, TW, Walker, SG (2009). "Parametrik olmayan monoton fonksiyon tahminine Bayes yaklaşımı". Kraliyet İstatistik Kurumu Dergisi, B Serisi . 71 (1): 159–175. CiteSeerX  10.1.1.338.3846 . doi : 10.1111/j.1467-9868.2008.00677.x .CS1 bakımı: birden çok ad: yazar listesi ( bağlantı )
• Wu, WB ; Woodroofe, M. ; Mentz, G. (2001). "İzotonik regresyon: Değişim noktası sorununa başka bir bakış". Biyometrik . 88 (3): 793-804. doi : 10.1093/biomet/88.3.793 .