Людське сприйняття сумно відоме своєю нездатністю правильно оцінювати ризики, особливо коли йдеться про рідкісні події. Це не просто особливість психології, а математична реальність, відома як парадокс хибнопозитивних результатів, де наш мозок послідовно переоцінює ймовірність чогось, просто тому, що ми зосереджені на невірних цифрах. Від медичних тестів до систем безпеки ця упередженість призводить до помилкових рішень з реальними наслідками.
Проблема з відсотками
Суть проблеми полягає в тому, як ми інтерпретуємо точність, порівняно з поширеністю. Тест може бути на 99% точним, але якщо захворювання, яке він перевіряє, вкрай рідко, більшість позитивних результатів будуть помилковими. Уявіть захворювання, яке вражає одну з тисяч людей. Навіть при майже ідеальному тесті на кожен істиннопозитивний результат прийдеться приблизно десять помилкових. Це не помилка тесту, а статистична неминучість.
Парадокс виникає через те, що наш розум чіпляється за високий відсоток точності (99%) та ігнорує крихітну базову ймовірність (1/1000). Ми фіксуємося на результаті тесту – позитивному висновку – замість ширшого контексту. Саме тому позитивний результат медичного тесту, незважаючи на його надійність, у цьому сценарії має лише 9% шанс справді вказувати на хворобу.
Реальні наслідки
Парадокс хибнопозитивних результатів – це не тільки теорія. Він пояснює, чому масові перевірки рідкісні захворювання часто неефективні. Кількість помилкових тривог пригнічує реальні випадки, що призводить до непотрібної тривози, дорогих наступних процедур і потенційної шкоди від помилкового діагнозу.
Правоохоронці стикаються з тією ж проблемою. Програмне забезпечення для розпізнавання облич, навіть за високої точності, генерує шквал хибних спрацьовувань при безрозбірному застосуванні. У Кардіффі під час фіналу Ліги чемпіонів 2017 року система, яка сканувала 170 000 уболівальників, виявила 2470 потенційних злочинців, лише 3% з яких справді були у розшуку. Система працювала за призначенням: вона просто відбивала низьку поширеність злочинців у натовпі.
Небезпека пошуку даних
Той самий принцип застосовується до боротьби з тероризмом. Перегляд телефонних записів та соціальних мереж щодо закономірностей, що вказують на терористичну діяльність, дає аналогічний результат. Терористичні змови рідкісні, тому хибні спрацьовування набагато поширеніші, ніж реальні загрози. Експерт з безпеки Брюс Шнайєр оцінює, що на кожного реального терориста, виявленого за допомогою таких програм, десятки мільйонів безневинних людей позначаються як підозрілі, що призводить до втрати ресурсів та порушення конфіденційності.
Контекст – це все
Головний висновок не в тому, щоб повністю відмовитись від тестування чи спостереження. Натомість важливо розуміти компроміси. Точні тести цінні, але при застосуванні до груп населення, де захворювання досить поширене. Лікарі правильно розставляють пріоритети при тестуванні людей із симптомами, оскільки це зміщує статистичні шанси на користь істиннопозитивного результату.
Парадокс хибнопозитивних результатів вчить нас контекстуалізувати результати. Одна точність немає значення; важлива ймовірність події як такої. При розгляді ймовірнісних питань найважливішими деталями не завжди є статистично релевантні.
Зрештою, раціональна оцінка ризиків вимагає визнання того, що навіть високонадійні системи генеруватимуть більше шуму, ніж корисного сигналу при застосуванні до надзвичайно рідкісних подій. Ігнорування цієї реальності призводить до втрати ресурсів, помилкових тривог та помилкового прийняття рішень.
