Lidské vnímání je proslulé svou neschopností správně odhadnout rizika, zejména pokud jde o vzácné události. Nejde jen o výstřední psychologii, ale o matematickou realitu známou jako falešně pozitivní paradox, kdy náš mozek neustále nadhodnocuje pravděpodobnost něčeho jen proto, že se zaměřujeme na špatná čísla. Od lékařských testů po bezpečnostní systémy, tato zaujatost vede ke špatným rozhodnutím s reálnými důsledky.
Problém se zájmem
Jádrem problému je, jak interpretujeme přesnost versus prevalenci. Test může být 99% přesný, ale pokud je onemocnění, na které se testuje, extrémně vzácné, většina pozitivních výsledků bude falešná. Představte si nemoc, která postihne jednoho z tisíce lidí. I při téměř dokonalém testu bude na každý skutečně pozitivní výsledek přibližně deset chybných. Nejde o chybu testu, ale o statistickou nevyhnutelnost.
Paradox vzniká, protože naše mysl lpí na vysokém procentu přesnosti (99 %) a ignoruje nepatrnou základní pravděpodobnost (1/1000). Zaměřujeme se na výsledek testu – pozitivní závěr – místo na širší kontext. To je důvod, proč pozitivní výsledek lékařského testu, i když je spolehlivý, má v tomto scénáři pouze 9% šanci, že skutečně indikuje nemoc.
Skutečné důsledky
Falešně pozitivní paradox není jen teorie. Vysvětluje, proč je hromadné testování na vzácná onemocnění často neúčinné. Počet falešných poplachů převyšuje skutečné případy, což vede ke zbytečným poplachům, nákladným následným procedurám a potenciálním škodám způsobeným chybnou diagnózou.
Orgány činné v trestním řízení čelí stejnému problému. Software pro rozpoznávání obličeje, dokonce i s vysokou přesností, generuje množství falešně pozitivních výsledků, pokud je používán bez rozdílu. V Cardiffu během finále Ligy mistrů v roce 2017 systém skenující 170 000 fanoušků identifikoval 2 470 potenciálních zločinců, z nichž pouze 3 % byla skutečně hledaná. Systém fungoval tak, jak bylo zamýšleno: jednoduše odrážel nízkou prevalenci zločinců v davu.
Nebezpečí vyhledávání dat
Stejný princip platí pro boj proti terorismu. Kontrola telefonních záznamů a sociálních médií, zda neobsahují vzorce, které naznačují teroristickou aktivitu, přináší podobný výsledek. Teroristické plány jsou vzácné, takže falešné poplachy jsou mnohem častější než skutečné hrozby. Bezpečnostní expert Bruce Schneier odhaduje, že na každého skutečného teroristu identifikovaného prostřednictvím takových programů jsou desítky milionů nevinných lidí označeny jako podezřelé, což vede k plýtvání zdroji a narušení soukromí.
Kontext je všechno
Hlavním cílem není úplně opustit testování nebo sledování. Místo toho je důležité porozumět kompromisům. Přesné testy jsou cenné, ale pouze při aplikaci na populace, kde je onemocnění zcela běžné. Lékaři správně upřednostňují testování lidí s příznaky, protože to naklání statistické šance ve prospěch skutečně pozitivního výsledku.
Falešně pozitivní paradox nás učí zasadit výsledky do kontextu. Na přesnosti nezáleží; Důležitá je pravděpodobnost samotné události. Při zvažování pravděpodobnostních otázek nejsou nejdůležitější detaily vždy ty statisticky relevantní.
Racionální posouzení rizik nakonec vyžaduje uznat, že i vysoce spolehlivé systémy budou generovat více šumu než užitečného signálu, když jsou aplikovány na extrémně vzácné události. Ignorování této reality má za následek plýtvání zdroji, falešné poplachy a špatné rozhodování.
