Розкид: дисперсія, стандартне відхилення і квартилі

Стандартне відхилення (SD) показує, наскільки типове значення віддалене від середнього, в одиницях самих даних. Воно рахується за шість кроків:

1. Знайди середнє.
2. Відніми його від кожного значення — це відхилення.
3. Піднеси кожне відхилення до квадрата, щоб від'ємні не гасили додатні.
4. Додай квадрати.
5. Поділи на n − 1 — це вибіркова дисперсія.
6. Добудь квадратний корінь.

Десять доставок служби A в середньому тривають 24 години. Відхилення: −3, −3, −1, −1, 0, 0, +2, +2, +2, +2; сума квадратів — 36; 36 / 9 = 4; √4 = 2 години. Служба B з тим самим середнім дає 576 / 9 = 64 і SD 8 годин.

Чому n − 1? Десять доставок — це вибірка, а вибіркове середнє трохи ближче до своїх значень, ніж справжнє довгострокове. Ділення на 9 замість 10 це виправляє. У таблиці STDEV.S — вибіркова версія, STDEV.P — для генеральної сукупності.

Медіана ділить відсортовані дані навпіл, а квартилі — на чверті. Нижче за Q1 лежить чверть значень, Q2 — це медіана, нижче за Q3 — три чверті.

Простий спосіб знайти їх вручну:

1. Відсортуй значення.
2. Поділи їх на нижню й верхню половини.
3. Q1 — медіана нижньої половини, Q3 — медіана верхньої.

Служба A після сортування: 21, 21, 23, 23, 24 | 24, 26, 26, 26, 26. Медіана нижньої половини — 23, верхньої — 26.

Міжквартильний розмах (IQR) — це Q3 − Q1 = 26 − 23 = 3 години: ширина середніх 50% доставок. У служби B IQR — 30 − 18 = 12 годин.

IQR повністю ігнорує крайні значення, тому він — природний партнер медіани серед мір розкиду. Функції QUARTILE у таблицях інтерполюють і на інших даних можуть дати трохи інші квартилі; це нормально, якщо порівнюєш групи одним методом.

Щоб виміряти розкид за всіма значеннями, починають із відхилень: кожне значення мінус середнє. Їхнє просте середнє марне, бо середнє — точка рівноваги даних, і відхилення завжди дають у сумі нуль.

Вихід — піднести їх до квадрата. Квадрати не бувають від'ємними, а великі промахи важать значно більше за малі: відхилення 14 стає 196. Середнє квадратів відхилень (для вибірки — з діленням на n − 1) — це дисперсія. Для 10 доставок служби B (середнє 24 години) це 576 / 9 = 64.

У квадрата є побічний ефект: одиниці теж підносяться до квадрата. Дисперсія служби B — 64 години², і таку одиницю ніхто не уявить. Суми замовлень дали б дисперсію в «доларах у квадраті».

Тому у звітах використовують стандартне відхилення, корінь із дисперсії: √64 = 8 годин, знову у звичних одиницях. Обидва числа несуть ту саму інформацію. Дисперсія зручна всередині формул і критеріїв, а SD показують людям поруч із середнім: «24 ± 8 годин».

Кожен крок стандартного відхилення виправляє проблему, яку залишив попередній.

1. Середнє: потрібен центр, від якого міряти відстані.
2. Відхилення: значення мінус середнє, одна відстань на кожне значення. Їхня сума завжди нуль, тож зупинятися тут не можна.
3. Квадрати: прибирають знаки й посилюють вагу великих промахів.
4. Сума: одне число для всього набору.
5. Ділення на n − 1: перетворює суму на середній квадрат відстані — вибіркову дисперсію. n − 1 виправляє те, що вибіркове середнє трохи заблизько до своїх даних. Для всієї генеральної сукупності ділять на n.
6. Квадратний корінь: скасовує квадрат одиниць і дає SD у годинах, доларах чи хвилинах.

Якщо переставити кроки, результат зламається. Корінь до ділення чи усереднення відхилень до піднесення до квадрата дають інше число, яке нічого не означає. Швидка перевірка: SD не буває від'ємним і для більшості даних менше за половину розмаху.

Міри розкиду відрізняються тим, наскільки їх може зсунути одне крайнє значення.

• Розмах використовує лише два найкрайніші значення, тож одне дивне значення змінює його напряму.
• Дисперсія і SD враховують кожне значення, а піднесення до квадрата ще посилює вагу великих відхилень. Одне далеке значення може домінувати в усій сумі квадратів.
• IQR залежить лише від середньої половини відсортованих даних, тож крайні значення в нього взагалі не потрапляють.

Додай до 10 доставок служби A одну загублену посилку на 90 годин. Розмах підскочить із 5 до 69 годин. SD — з 2 приблизно до 20 годин, дисперсія — з 4 приблизно до 400. IQR лишиться 3 години, бо Q1 і Q3 майже не зсунуться.

Тому міри розкиду ходять у парі з мірами центру: середнє з SD, медіана з IQR. Коли в даних довгий хвіст або кілька дивних значень, показуй медіану й IQR (або процентилі) для типового досвіду, а крайні значення розглядай окремо.

SD = 8 — це багато? Залежить від масштабу. Вісім годин — чимало для доставки за 24 години й дрібниця для 30-денного циклу підписки. А SD у доларах узагалі не можна порівнювати з SD у реєстраціях.

Коефіцієнт варіації (CV) розв'язує обидві проблеми: поділи SD на середнє, зазвичай у відсотках.

CV = SD / середнє

Денні витрати на рекламу із середнім 2 000 дол. і SD 200 дол. мають CV 10%. Денні реєстрації із середнім 50 і SD 15 мають CV 30%. Витрати стабільні, а результати коливаються втричі сильніше відносно свого розміру. Це підказка, що реєстрації визначає щось інше, ніж бюджет, наприклад день тижня чи креативи.

CV має сенс лише для величин, що відлічуються від справжнього нуля: годин, грошей, кількостей. Для метрик, які бувають від'ємними чи мають умовний нуль, як-от NPS або температура, це відношення нічого не означає.

«24 ± 8 годин» — найпоширеніший спосіб показати центр разом із розкидом. Варто прочитати його уважно.

SD — це типова відстань від середнього, а не мінімум чи максимум. Одні значення ближче, інші далі. Для даних, що утворюють приблизно симетричний пагорб, допомагає правило: приблизно 68% значень лежать у межах одного SD від середнього і приблизно 95% — у межах двох.

Служба B: одне SD навколо 24 годин — це від 16 до 32 годин, і туди потрапляють 7 із 10 доставок. Два SD — від 8 до 40 годин, і туди потрапляють усі десять. Обіцянка в 36 годин лежить усередині смуги двох SD, тож час від часу запізнення очікувані, а не випадковість.

Два застереження. По-перше, правило припускає форму, схожу на дзвін; для скошених даних бери процентилі. По-друге, десяти значень замало, щоб довіряти відсоткам точно. Та все одно «24 ± 8 годин» каже керівникові набагато більше, ніж «24 години в середньому»: видно, наскільки досвід клієнта може відрізнятися від головного числа.

Дисперсія і SD мають дві версії, і різняться вони лише п'ятим кроком.

• Вибіркова (типова в продуктовій роботі): суму квадратів ділять на n − 1. Її беруть, коли дані — частина чогось більшого: п'ять тижнів програми, яка триватиме місяцями, 500 замовлень з усіх.
• Для генеральної сукупності: ділять на n. Лише коли маєш усі значення, які тебе цікавлять, і не узагальнюєш.

Вибіркова версія трохи більша. Це навмисно: вибіркове середнє обчислено з тих самих значень, тож відхилення від нього виходять трохи замалими, і n − 1 це компенсує.

Для 5 тижневих значень 12, 15, 9, 18 і 6 середнє — 12, а сума квадратів — 90. Вибіркова: 90 / 4 = 22,5, SD ≈ 4,74. Для генеральної сукупності: 90 / 5 = 18, SD ≈ 4,24.

Зі зростанням n різниця меншає, але на малих вибірках вона помітна. Коли дашборд показує SD, перевір, яку версію він використовує.

Процентиль — це значення, нижче за яке лежить певна частка даних. 90-й процентиль, або p90, — це час, за який приходить 90% доставок; решта 10% тривають довше. Квартилі — окремі випадки процентилів: Q1 — це p25, медіана — p50, Q3 — p75.

Продуктові команди використовують високі процентилі для обіцянок і рівнів сервісу: «p90 часу доставки — 30 годин», «p95 завантаження сторінки — 2,8 секунди». Вони відповідають на запитання, на яке середнє не відповідає: наскільки погано тим, хто чекає найдовше?

Порівняй альтернативи:

• середнє описує центр, а не хвіст;
• максимум — це одне значення, тож одна загублена посилка стає всією метрикою;
• SD змішує швидкі й повільні відхилення та стрибає через одне крайнє значення.

Високий процентиль — посередині: він дивиться на повільний край, але одне дивне значення серед сотень його майже не зсуває. Якщо значень дуже мало (скажімо, 10 доставок), p90 хиткий, тож збери достатньо даних, перш ніж ставити на нього ціль.