RMSE: o‘rtacha kvadratik xatoning ildizi

U nima uchun kerak

Model kvartira narxini, mahsulotga talabni, ertangi haroratni bashorat qiladi. U qanchalik adashishini bitta son bilan qanday aytish mumkin? Xatolarning oddiy o‘rtachasi yaramaydi: yuqoriga va pastga xatolar bir-birini yo‘qotadi. MSE xatolarni kvadratga oshiradi — lekin unda javob «so‘m kvadrat» yoki «gradus kvadrat»da chiqadi va «MSE 1 417 000 ga teng» degan gap buyurtmachiga hech narsa demaydi. RMSE ildiz chiqaradi va xatoni maqsadli o‘zgaruvchi birliklariga qaytaradi, MSE’ni yaxshi ko‘rishga sabab bo‘lgan barcha xossalarni saqlab qolgan holda.

U qayerda uchraydi:

• regressiya modellarini baholash — hisobotlar, maqolalar va Kaggle musobaqalarida eng keng tarqalgan metrikalardan biri;
• vaqt qatorlarini bashorat qilish — ob-havo, talab, energiya iste’moli; odatda uning yonida MAE va MAPE turadi;
• tavsiya tizimlari — mashhur Netflix Prize (2006–2009) reyting bashoratlarini aynan RMSE bo‘yicha baholagan;
• fizika va metrologiya — o‘lchovlarning o‘rtacha kvadratik xatosi, GPS aniqligi, signalning «RMS» qiymati;
• modellarni o‘qitish — RMSE va MSE’ni minimallashtirish bir xil modelni beradi, lekin ularning gradiyentlari har xil (hosila bo‘limiga qarang).

Intuitsiya: o‘rtacha kvadratning tomoni

Har bir $r_i=y_i-\hat y_i$ xatoni tomoni $|r_i|$ bo‘lgan kvadrat sifatida chizamiz. Uning yuzi $r_i^2$ — obyektning MSE’ga qo‘shgan hissasi. Yuzlarni qo‘shib, $n$ ga bo‘lamiz — o‘rtacha yuz, ya’ni MSE chiqadi. RMSE esa — yuzi o‘rtacha yuzga teng bo‘lgan kvadratning tomoni.

Ko‘k nuqtalarni — bashoratlarni torting. O‘ngda barcha xatolar kvadratlari bitta burchakka joylangan: ko‘k kvadratning tomoni RMSE, firuza rang punktirli kvadratning tomoni MAE.

Formula mayda detallarigacha

Nomni o‘ngdan chapga o‘qisak, retseptning o‘zi chiqadi: squared error (xato kvadrati)ning mean (o‘rtacha)sidan root (ildiz).

$y_i$

$i$-obyektning haqiqiy qiymati (fakt);

$\hat y_i$

modelning shu obyekt uchun bashorati;

$r_i=y_i-\hat y_i$

xato yoki qoldiq (residual); ishora kam baholaganimizni ($r_i>0$) yoki ortiq baholaganimizni ($r_i<0$) ko‘rsatadi;

$r_i^2$

kvadrat ishorani yo‘qotadi va katta xatolarni nomutanosib og‘ir qiladi: ikki baravar katta xato to‘rt baravar og‘ir;

$\frac1n\sum_{i=1}^n$

barcha $n$ ta obyekt bo‘yicha o‘rtacha — bu MSE, kvadrat birliklarda;

$\sqrt{\cdot}$

ildiz dastlabki birliklarni qaytaradi: $y$ so‘mda bo‘lsa, RMSE ham so‘mda.

Umumiy misol qadamma-qadam:

Xuddi shu kattalikni boshqa yozuvlarda ham tanish foydali:

Ikkinchi yozuv — faktlar vektori va bashoratlar vektori orasidagi Yevklid masofasi, $\sqrt n$ ga bo‘lingan (unga 3D’da qaytamiz). Uchinchisi — xatolar modullarining kvadratik o‘rtachasi (quadratic mean, 2-tartibli darajali o‘rtacha). MAE — ularning o‘rta arifmetigi $M_1$, eng katta xato esa chegaraviy holat $M_\infty$. Darajali o‘rtachalar tengsizligi darhol $\mathrm{MAE}\le\mathrm{RMSE}\le\max_i|r_i|$ ni beradi.

Xossalar

• Manfiy emaslik: $\mathrm{RMSE}\ge0$, va $\mathrm{RMSE}=0$ faqat ideal bashoratda, $\hat y=y$.
• O‘lchov birliklari — $y$ niki bilan bir xil. Narxlarni ming so‘mdan so‘mga o‘tkazdik — RMSE roppa-rosa 1000 marta oshdi: $\mathrm{RMSE}(c\,y,\,c\,\hat y)=|c|\,\mathrm{RMSE}(y,\hat y)$.
• Siljish ta’sir qilmaydi: faktlar va bashoratlarga bir xil sonni qo‘shsak, RMSE o‘zgarmaydi. Shuning uchun RMSE xato qatorning darajasiga nisbatan kattami yoki yo‘qmi, aytmaydi — buning uchun MAPE va normallangan variantlar bor.
• MSE bilan bir xil tartib: ildiz qat’iy o‘suvchi, shuning uchun modellarni RMSE va MSE bo‘yicha solishtirish doim bir xil tartibni beradi, minimumlari esa bitta nuqtada.
• Chetga chiquvchi qiymatlarga sezgirlik: $E$ kattalikdagi bitta xato, atrofida qancha ideal bashorat bo‘lmasin, RMSE’ni kamida $E/\sqrt n$ qiladi.
• Additiv emaslik: butun tanlanmaning RMSE’i uning qismlari RMSE’larining o‘rtachasi emas. Kvadratlar qo‘shiladi: $\mathrm{RMSE}^2=\sum_g \tfrac{n_g}{n}\,\mathrm{RMSE}_g^2$.
• Bu norma ($1/\sqrt n$ ko‘paytuvchi aniqligida): $a$ va $b$ xato vektorlari uchun uchburchak tengsizligi bajariladi, $\mathrm{RMSE}(a+b)\le\mathrm{RMSE}(a)+\mathrm{RMSE}(b)$.

Siljish va tarqoqlik: xatolar uchun Pifagor teoremasi

Qoldiqlarni sistematik qismga — o‘rtacha $\bar r$ ga (model o‘rtacha oshirib yoki kamaytirib baholaydi) — va tasodifiy qismga, o‘rtacha atrofidagi tarqoqlik $\sigma_r$ ga ajratish mumkin. U holda

Umumiy misolda $\bar r=-0{,}5$ (model o‘rtacha $0{,}5$ ga oshirib baholaydi), $\sigma_r\approx1{,}080$, va $0{,}25+1{,}167=1{,}417=\mathrm{MSE}$. Amaliy xulosa: siljish bepul olib tashlanadi — barcha bashoratlarga $\bar r$ ni qo‘shing, va u baholangan ma’lumotlarda RMSE roppa-rosa $\sigma_r$ gacha tushadi (bu yerda $1{,}190$ dan $1{,}080$ gacha). Amalda $\bar r$ validatsiyada baholanadi, yutuq esa testda tekshiriladi.

RMSE va MAE: farq nimani aytadi

MAE «o‘rtacha qanchaga adashamiz» degan savolga, RMSE esa «kattalarini hisobga olganda xatoning odatiy kattaligi qancha» degan savolga javob beradi. Ularning nisbati $\mathrm{RMSE}/\mathrm{MAE}$ o‘lchamsiz va masshtabga bog‘liq emas: u faqat xatolar taqsimotining shaklini tasvirlaydi.

Bunday aralashmada MSE $1+99\varepsilon$ marta ($(1-\varepsilon)\cdot1+\varepsilon\cdot100$), MAE esa atigi $1+9\varepsilon$ marta o‘sadi, shuning uchun nazariy nisbat $\sqrt{1+99\varepsilon}\,/\bigl((1+9\varepsilon)\,\mathrm{MAE}_0\bigr)$ ga teng, bu yerda $\mathrm{MAE}_0$ — dastlabki taqsimotning MAE’i.

Chegaralar: MAE ≤ RMSE ≤ √n · MAE

Chap tenglik faqat barcha $|r_i|$ bir xil bo‘lganda bajariladi; o‘ng tenglik — butun xato bitta obyektda jamlanib, qolgan bashoratlar ideal bo‘lganda. Umumiy misolda nisbat $1{,}190/0{,}833\approx1{,}43$, maksimum esa $\sqrt3\approx1{,}73$: xatolar sezilarli darajada notekis.

Geometriya: masofa sifatida RMSE

Faktlar va bashoratlarni $n$ o‘lchovli fazo nuqtalari sifatida yozamiz: $y=(y_1,\dots,y_n)$ va $\hat y=(\hat y_1,\dots,\hat y_n)$. Xatolar kvadratlari yig‘indisi ular orasidagi oddiy Yevklid masofasining kvadrati, shuning uchun

$\sqrt n$ ga bo‘lish masofani turli o‘lchamdagi tanlanmalar uchun solishtiriladigan qiladi: har bir xato $c$ ga teng bo‘lsa, $\|y-\hat y\|=c\sqrt n$, RMSE esa roppa-rosa $c$. RMSE’si bir xil bo‘lgan barcha bashoratlar markazi $y$ da, radiusi $\sqrt n\,\mathrm{RMSE}$ bo‘lgan sferani hosil qiladi. $n=3$ da buni chizish mumkin.

Eng yaxshi konstanta — o‘rtacha, uning RMSE’i esa standart chetlanish

Qaysi konstant bashorat $\hat y_i=c$ RMSE’ni minimallashtiradi? Geometrik jihatdan — $y$ ning diagonalga ortogonal proyeksiyasi, ya’ni $c=\bar y$. Uning RMSE’i — maqsadli o‘zgaruvchining standart chetlanishi:

Bu RMSE’ni o‘qishdagi asosiy mo‘ljal: RMSE’si $\sigma_y$ dan kichik bo‘lmagan model «doim o‘rtacha» bashoratidan hech narsasi bilan yaxshi emas. Misolda $\sigma_y\approx2{,}055$, model esa $1{,}190$ beradi. Determinatsiya koeffitsiyenti ham shundan kelib chiqadi:

Hosila va gradiyent

Bashoratlar model parametrlari $\theta$ ga bog‘liq bo‘lsin. $\sqrt u$ ning hosilasi $1/(2\sqrt u)$ ga teng, shuning uchun zanjir qoidasiga ko‘ra RMSE gradiyenti — $2\,\mathrm{RMSE}$ ga bo‘lingan MSE gradiyenti:

Bundan nima kelib chiqadi:

• Yo‘nalish bir xil, uzunlik boshqa. RMSE va MSE gradiyentlari faqat musbat ko‘paytuvchi $1/(2\,\mathrm{RMSE})$ bilan farq qiladi. Shuning uchun funksiyalarning statsionar nuqtalari bir xil va minimumi bitta.
• Bashoratlar bo‘yicha gradiyent uzunligi o‘zgarmas: istalgan xatolarda $\|\nabla_{\hat y}\mathrm{RMSE}\|=1/\sqrt n$ (komponentalar kvadratlari yig‘indisi $\sum_j r_j^2/(n^2\,\mathrm{MSE})=1/n$). RMSE gradiyenti faqat $y$ tomon yo‘nalishni ko‘rsatadi, uzunligi esa qanchalik uzoqda ekanimizga bog‘liq emas.
• Umumiy misolda $\partial\,\mathrm{RMSE}/\partial\hat y=(-0{,}140;\;0;\;0{,}560)$, MSE’da esa $(-0{,}333;\;0;\;1{,}333)$ — roppa-rosa $2\cdot1{,}190=2{,}380$ marta katta.
• Nolda hosila yo‘q. $\hat y=y$ da $\|y-\hat y\|/\sqrt n$ funksiyasi noldagi $|x|$ kabi singan (konus uchi), formula esa $\mathrm{RMSE}=0$ ga bo‘ladi. Avtomatik differensiallashda bu NaN’ga aylanadi (kod bo‘limiga qarang).

Bir o‘lchovli kesim: konstant bashorat

Misol ma’lumotlari $y=(3;\,5;\,8)$ da $\hat y_i=c$ konstant modelni olamiz. U holda $\mathrm{MSE}(c)=(c-\bar y)^2+\sigma_y^2$ — parabola, RMSE esa giperbola:

Minimum yaqinida giperbola parabolaga o‘xshaydi (RMSE o‘zini MSE kabi tutadi), uzoqda esa $|c-\bar y|$ to‘g‘ri chiziqlariga (MAE kabi). Hosila $-1$ dan $1$ gacha silliq o‘zgaradi va bu chegaralardan hech qachon chiqmaydi, MSE hosilasi esa chiziqli va cheksiz o‘sadi.

Ikkinchi hosila $\mathrm{RMSE}''(c)=\sigma_y^2/\mathrm{RMSE}(c)^3>0$: $\sigma_y>0$ ekan, funksiya qat’iy qavariq. Umumiy holda RMSE bashoratlar bo‘yicha qavariq (norma sifatida), demak, chiziqli model parametrlari bo‘yicha ham: chiziqli regressiyada na MSE, na RMSE uchun lokal minimumlar yo‘q.

RMSE(w, b) landshafti va o‘qitish

14 ta nuqtadagi $\hat y=wx+b$ chiziqli model. $(w,\,b)$ parametrlar tekisligi ustida RMSE kosa hosil qiladi. Sirtni MSE’ga almashtiring: sath chiziqlari o‘sha-o‘sha qoladi ($\mathrm{RMSE}=1{,}5$ sathi — bu $\mathrm{MSE}=2{,}25$ sathi), faqat balandlik o‘zgaradi: MSE kvadratik o‘sadi, RMSE esa minimumdan uzoqda deyarli chiziqli, konus kabi.

Nega shunday. RMSE bo‘yicha qadam — o‘zgaruvchan o‘qitish tezligi (learning rate) bilan MSE bo‘yicha qadam:

Xatolar katta ekan, samarali qadam kichik — shuning uchun RMSE bo‘yicha tushish haddan tashqari katta $\eta$ ga chidamliroq. Minimum yaqinida $\eta_{\text{eff}}\to\eta/(2\,\mathrm{RMSE}_{\min})$; bu yerda $\mathrm{RMSE}_{\min}\approx0{,}904$, va qadam MSE’nikidan deyarli ikki baravar kichik — sekin marra shundan. MSE bo‘yicha tushish faqat $\eta<2/\lambda_{\max}\approx0{,}133$ da barqaror, bu yerda $\lambda_{\max}\approx15{,}0$ — MSE gessianining eng katta xos qiymati.

Modellarni baholashda RMSE

Sifat metrikasi sifatida RMSE «model katta xatolarga urg‘u bergan holda odatda $y$ ning necha birligiga adashadi» degan savolga javob beradi. Son biror narsani anglatishi uchun uni solishtiradilar:

• bazaviy model bilan — «doim o‘rtacha» bashoratining RMSE’i $\sigma_y$ ga teng, vaqt qatorlarida «kechagidek» bashoratning o‘ziniki bor; model sezilarli darajada yaxshiroq bo‘lishi kerak;
• vazifa masshtabi bilan — 5000 so‘mlik xato kvartiralar uchun a’lo, bir chashka qahva uchun esa dahshat. O‘lchamsiz varianti — $\mathrm{NRMSE}=\mathrm{RMSE}/\sigma_y=\sqrt{1-R^2}$ (ba’zan $y$ ning qamroviga yoki o‘rtachasiga bo‘linadi);
• MAE bilan — $\mathrm{RMSE}/\mathrm{MAE}$ nisbatidan katta xatolar bor-yo‘qligi ko‘rinadi;
• faqat bir xil ma’lumotlarda — $y$ tarqoqligi har xil bo‘lsa, turli test tanlanmalaridagi RMSE’lar solishtirib bo‘lmaydi.

Kross-validatsiya: kvadratlarni o‘rtachalang

$K$ ta fold’da ko‘pincha fold’lar RMSE’larining o‘rtachasini oladilar. Bu barcha obyektlar bo‘yicha RMSE emas: ildizlar o‘rtachasi o‘rtachaning ildizidan katta emas. Umumiy baho — MSE’larning vaznli o‘rtachasidan ildiz:

Masalan, RMSE’lari $1$ va $3$ bo‘lgan teng o‘lchamli ikki fold: o‘rtacha $2$ ga teng, umumiy RMSE esa $\sqrt{(1+9)/2}=\sqrt5\approx2{,}24$.

Variantlar: RMSLE, vaznli va normallangan RMSE

RMSLE (root mean squared logarithmic error) — logarifmik shkaladagi RMSE:

Logarifm nisbatlarni ayirmalarga aylantiradi: xato $1+\hat y$ ning $1+y$ dan qanchaga emas, necha marta farq qilishi bilan belgilanadi. Shuning uchun RMSLE masshtablari keng tarqalgan manfiy bo‘lmagan maqsadlar (narxlar, sotuvlar, ko‘rishlar) uchun mos keladi va kam bashoratni xuddi shu absolyut kattalikdagi ortiq bashoratdan qattiqroq jazolaydi. Umumiy misolda $\mathrm{RMSLE}\approx0{,}139$.

Yana ikki foydali modifikatsiya:

• vaznli RMSE $\sqrt{\sum_i w_i r_i^2/\sum_i w_i}$ — obyektlar teng qiymatli bo‘lmaganda (qimmat tovarlar, yangi kuzatuvlar);
• NRMSE $=\mathrm{RMSE}/\sigma_y=\sqrt{1-R^2}$ — turli masshtabdagi vazifalarni solishtirish uchun o‘lchamsiz versiya.

Kodda

NumPy’da RMSE — bitta qator; quyida bu sahifadagi formulalar ham umumiy misolda tekshiriladi.

pythonimport numpy as np

y     = np.array([3.0, 5.0, 8.0])
y_hat = np.array([2.5, 5.0, 10.0])

r    = y - y_hat                   # qoldiqlar: [ 0.5  0.  -2. ]
mse  = np.mean(r ** 2)             # ≈ 1.4167
rmse = np.sqrt(mse)                # ≈ 1.1902
mae  = np.mean(np.abs(r))          # ≈ 0.8333

# Xuddi shu, Yevklid normasi orqali: ‖y − ŷ‖ / √n
print(round(np.linalg.norm(r) / np.sqrt(len(r)), 4))   # 1.1902

# Ajratish: RMSE² = siljish² + qoldiqlar dispersiyasi
print(round(r.mean() ** 2 + r.var(), 4), round(mse, 4))   # 1.4167 1.4167

# Bashoratlar bo‘yicha gradiyent: ∂RMSE/∂ŷ = (ŷ − y) / (n · RMSE)
print(np.round((y_hat - y) / (len(y) * rmse), 4))       # [-0.14    0.      0.5601]

# «Doim o‘rtacha» bazaviy modeli: uning RMSE’i — y ning standart chetlanishi
print(round(np.std(y), 4))                               # 2.0548

scikit-learn’da tayyor funksiyalar bor (1.4 versiyasidan; avval mean_squared_error(..., squared=False) deb yozilardi, 1.6 da esa squared parametri olib tashlangan). Fold’lar RMSE’larining o‘rtachasi bilan barcha obyektlar bo‘yicha RMSE orasidagi farqqa e’tibor bering:

pythonfrom sklearn.metrics import root_mean_squared_error, root_mean_squared_log_error
from sklearn.datasets import make_regression
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import KFold, cross_val_score, cross_val_predict

# y, y_hat — yuqoridagi listingdan; funksiyalar scikit-learn ≥ 1.4 da bor
print(round(root_mean_squared_error(y, y_hat), 4))       # 1.1902
print(round(root_mean_squared_log_error(y, y_hat), 4))   # 0.1392 — RMSLE

X, t = make_regression(n_samples=200, n_features=5, noise=10.0, random_state=0)
cv = KFold(5, shuffle=True, random_state=0)
# scorer’lar «qancha katta, shuncha yaxshi», shuning uchun RMSE minus ishora bilan
scores = cross_val_score(LinearRegression(), X, t, cv=cv,
                         scoring="neg_root_mean_squared_error")
print(round(-scores.mean(), 3))                # 10.56 — fold’lar RMSE’larining o‘rtachasi
pred = cross_val_predict(LinearRegression(), X, t, cv=cv)
print(round(root_mean_squared_error(t, pred), 3))   # 10.614 — barcha obyektlar bo‘yicha RMSE

PyTorch’da yo‘qotish funksiyasi sifatida RMSE nolda ehtiyotkorlikni talab qiladi:

pythonimport torch

y     = torch.tensor([3.0, 5.0, 8.0])
y_hat = torch.tensor([2.5, 5.0, 10.0], requires_grad=True)

rmse = torch.sqrt(torch.mean((y_hat - y) ** 2))
rmse.backward()
print(round(rmse.item(), 4), y_hat.grad)   # 1.1902 tensor([-0.1400,  0.0000,  0.5601])

# Ideal bashorat: √u ning noldagi hosilasi cheksiz → gradiyent NaN
p = y.clone().requires_grad_(True)
torch.sqrt(torch.mean((p - y) ** 2)).backward()
print(p.grad)                    # tensor([nan, nan, nan])

def rmse_loss(pred, target, eps=1e-8):
    """Yo‘qotish funksiyasi sifatida RMSE: ildiz ostidagi eps NaN’ni yo‘qotadi."""
    return torch.sqrt(torch.mean((pred - target) ** 2) + eps)

Ko‘p uchraydigan xatolar

1. Batch’lar yoki fold’lar bo‘yicha o‘rtacha RMSE’ni yakuniy RMSE deb olish. Ildiz chiziqli emas: MSE’ni o‘rtachalang, ildizni oxirida oling.
2. RMSE’ni turli ma’lumotlarda solishtirish. RMSE $y$ ning masshtabi va tarqoqligiga bog‘liq; modellarni bitta test tanlanmasida solishtiring yoki normallangan RMSE’dan foydalaning.
3. «Model o‘rtacha RMSE’ga adashadi». O‘rtacha absolyut xato — bu MAE; RMSE undan kichik emas, og‘ir dumlarda esa sezilarli katta.
4. Nolni himoya qilmasdan RMSE’ni yo‘qotish sifatida ishlatish. $\sqrt u$ ning noldagi hosilasi cheksiz: ideal batch gradiyentlarda NaN beradi. Ildiz ostiga $\varepsilon$ qo‘shing yoki MSE’da o‘qiting.
5. Chetga chiquvchi qiymatlarni e’tiborsiz qoldirish. 99 ta ideal bashorat orasidagi 100 birlikli bitta xato $\mathrm{MAE}=1$ da $\mathrm{RMSE}=10$ beradi. Agar chetlanishlar muhim hodisa emas, shovqin bo‘lsa, MAE, Huber yoki xatolar kvantillariga qarang.
6. Dastlabki shkala o‘rniga logarifmlardagi RMSE. Model $\ln(1+y)$ da o‘qitilsa, uning RMSE’i dastlabki vazifaning RMSLE’si, so‘mdagi RMSE emas; RMSE’ni hisoblashdan oldin bashoratlarni qaytarib o‘tkazing.

Boshqa formulalar bilan bog‘lanishlar

• MSE: $\mathrm{RMSE}=\sqrt{\mathrm{MSE}}$ — minimum ham, modellar tartibi ham o‘sha, gradiyent esa $2\,\mathrm{RMSE}$ ga bo‘linadi.
• MAE: $\mathrm{MAE}\le\mathrm{RMSE}\le\sqrt n\,\mathrm{MAE}$; MAE uchun eng yaxshi konstanta — mediana, RMSE uchun — o‘rtacha.
• Huber: nol yaqinida kvadratik, dumlarda chiziqli — MSE (demak, RMSE) va MAE orasidagi murosa.
• MAPE: absolyut o‘rniga nisbiy xato; RMSLE — logarifmik shkaladagi uning kvadratik qarindoshi.
• SGD: RMSE bo‘yicha tushish — $\eta/(2\,\mathrm{RMSE})$ o‘qitish tezligi bilan MSE bo‘yicha tushish.
• Adam: qadamni gradiyent kvadratlarining sirpanuvchi o‘rtachasidan ildizga bo‘ladi — RMSE’dagi «o‘rtacha kvadratdan ildiz» (RMS) g‘oyasining o‘zi.

Xulosa

O‘zingizni tekshiring