Піфагор у статистиці: відстані й похибки в квадратурі

У прямокутному трикутнику c² = a² + b²: катети 3 і 4 дають діагональ √(9 + 16) = 5. Статистика користується цим шкільним правилом значно частіше, ніж зізнається, і перше місце — відстань.

Опиши кожного учня числами, наприклад уроки на місяць і хвилини домашньої роботи на тиждень. A — (6, 30), B — (9, 34). Різниці, 3 і 4, — це катети, а евклідова відстань по прямій — діагональ: √(3² + 4²) = 5.

Коли ознак більше, росте лише кількість квадратів: d = √Σ(xᵢ − yᵢ)². Віднімай ознаку за ознакою, піднось до квадрата, додавай й наприкінці добувай один корінь.

Два застереження. Корінь — останнім: якщо добути корінь із кожного квадрата й додати, вийде 3 + 4 = 7, інша міра. І ознаки мають бути в порівнянних масштабах: якщо одна в хвилинах, а інша в уроках, хвилини переважать суму. Тому кластеризація зазвичай спершу стандартизує ознаки — про це урок Стандартизація в цьому модулі.

Мангеттенська відстань міряє вздовж сітки, а не навскіс, як прогулянка міськими кварталами: додай розміри всіх різниць, не зважаючи на знак. d = Σ|xᵢ − yᵢ|.

Риски |x| позначають модуль — число без знака. |−4| = 4 і |4| = 4. Без рисок різниці в протилежні боки скорочувалися б, так само як відхилення від середнього.

Для учнів A (6, 30) і B (9, 34): |9 − 6| + |34 − 30| = 3 + 4 = 7, проти 5 по прямій. Мангеттенська відстань ніколи не коротша за евклідову; вони рівні, лише коли точки різняться однією ознакою.

Яку брати — вибір моделі. Евклідова відстань через квадрати сильніше карає одну велику різницю. Мангеттенська однаково рахує кожну одиницю різниці, тож одна дивна ознака впливає на неї менше. Обидві потребують ознак у порівнянних масштабах.

SE різниці між двома незалежними групами — не сума їхніх SE. Скажімо, варіант A конвертує на 8% із SE 0,5 в. п., а B — на 10,6% із SE 1,2 в. п. SE різниці B − A дорівнює

√(0,5² + 1,2²) = √(0,25 + 1,44) = √1,69 = 1,3 в. п., а не 1,7.

Чому? Обидві похибки випадкові й незалежні. Коли A випадково виміряно завищено, B з однаковою ймовірністю може бути заниженим чи завищеним, тож похибки частково компенсуються. Точно додаються дисперсії: 0,25 + 1,44 = 1,69. SE, корінь із дисперсії, додається як сторони прямокутного трикутника. Це називають додаванням у квадратурі.

Від цього залежать рішення. Із простою сумою розрив 2,6 в. п. — це 2,6 ÷ 1,7 ≈ 1,5 SE, і його списують на шум; із правильною SE це 2,6 ÷ 1,3 = 2 SE.

Той самий Піфагор працює для будь-якої суми незалежних невизначених частин, а не лише для груп тесту. Якщо задачі йдуть одна за одною і кожна має свою незалежну невизначеність σ, невизначеність підсумку дорівнює

σ_total = √(σ₁² + σ₂² + …).

Дві задачі з σ = 3 і 4 дні: √(9 + 16) = 5 днів, а не 7. Кожну в квадрат, додати й наприкінці добути один корінь.

Підсумок завжди більший за найбільшу частину й менший за просту суму. Зверни увагу, як переважає одна велика частина: для σ = 1, 1 і 5 днів √(1 + 1 + 25) ≈ 5,2 — ледь більше, ніж сама найбільша. Щоб зменшити загальну невизначеність, спершу берися за найбільше джерело; підрізання малих майже нічого не змінює.

Плани проєктів, бюджети з кількох оцінок і виміри з кількома джерелами похибок поєднуються саме так — якщо частини незалежні.

Додавання в квадратурі спирається на одне припущення: частини незалежні, тож їхні похибки частково компенсуються. Коли це не так, не працює й скорочений шлях.

Приклад: дві задачі запуску курсу в Klasna — написати уроки й записати відео — залежать від одного перевантаженого репетитора. Якщо він захворіє, обидві зсунуться разом. Їхні похибки тиснуть в один бік, нічого не компенсується, і спільна невизначеність наближається до простої суми: для σ = 3 і 4 дні — ближче до 7, ніж до 5.

Буває й навпаки: похибки, що зазвичай тиснуть у протилежні боки, компенсуються сильніше, ніж за незалежності, і підсумок менший за квадратуру.

Тож перш ніж брати √Σσ², постав одне питання: чи може одна причина зсунути кілька частин одночасно? Спільні люди, спільний постачальник, той самий сезонний спад. Якщо так, квадратура занижує ризик. Розглядай пов'язані частини як одну або додавай їх просто, щоб мати обережну межу.

У тесті конверсій трапляються дві версії того самого Піфагора, і відповідають вони на різні питання.

• z-тест питає: «а що, як A і B насправді конвертують однаково?». За такого припущення в обох груп одна частка, яку оцінюють об'єднанням: p̄ = усі конверсії ÷ усі користувачі. SE_test = √(p̄(1 − p̄)(1/n₁ + 1/n₂)).
• Інтервал для різниці питає: «наскільки великий розрив?». Він не припускає рівних часток, тож кожна група лишає свою: SE_interval = √(p₁(1 − p₁)/n₁ + p₂(1 − p₂)/n₂).

Обидві — корінь із суми двох дисперсій, знову квадратура; різняться лише частки всередині. Коли частки близькі, близькі й числа: за 2 000 користувачів у кожній групі з 10% і 12% обидві виходять приблизно 0,99 в. п. Розходяться вони, коли частки далекі одна від одної.

Правило для читання звітів: об'єднана SE — для вердикту тесту «так/ні», необ'єднана — для діапазону ефекту. Додавати SE двох груп ніколи не правильно.

Простий інтервал p ± z·√(p(1 − p)/n) погано поводиться для малих часток чи малих вибірок: він навіть може опуститися нижче 0%. Інтервал Вілсона це виправляє, і продуктова аналітика часто його подає. Виводити його не треба — лише впізнавати три частини:

• центр, зсунутий до 50%: p + z²/(2n) замість p;
• SE з невеликою поправкою: √(p(1 − p)/n + z²/(4n²));
• усе поділено на 1 + z²/n, що трохи його стискає.

Для p = 5%, n = 400 і z = 1,96 центр зсувається приблизно до 5,4%, а інтервал іде приблизно від 3,3% до 7,6%. Він несиметричний відносно 5%: вгору сягає далі, ніж униз, бо частка не може бути меншою за 0.

За великого n поправки зникають (z²/n стає крихітним), і Вілсон майже збігається з простим інтервалом. Зсув важить найбільше саме там, де простий інтервал ламається: рідкісні події й малі тести.

Для різниці двох часток інтервал Ньюкомба використовує два інтервали Вілсона. Кожна група отримує свій інтервал Вілсона, а відстань від її оцінки до краю цього інтервалу — однобічна ширина, w_A і w_B. Групи незалежні, тож ширини поєднуються за Піфагором: √(w_A² + w_B²).

Для ширин 0,6 і 0,8 в. п. спільна ширина — √(0,36 + 0,64) = 1,0 в. п., а не 1,4. Та сама форма, нові вхідні дані. Щоразу, коли бачиш корінь із суми квадратів, читай його як «незалежні частини, поєднані разом».

Як це складається докупи: Піфагор дає відстані між учнями по прямій, SE різниці, невизначеність ланцюжка задач і ширину Ньюкомба — щоразу для незалежних частин. Наступний урок ділить на такий розкид, щоб звести різні числа до однієї шкали: z, CV, розмір ефекту і r.