Дванадесет реда не са цялото училище
Наборът, който събрахте и почистихте, има 20–30 реда, а примерният — 12. С него можем да кажем нещо за класа. Но можем ли да кажем нещо за всички единадесети класове? За всички ученици в София? Това е въпросът за днес: за кого говорят данните.
Генерална съвкупност
Всички обекти, за които искаме да направим извод: всички ученици в училището, всички писма в пощата, всички пациенти с дадена болест.
Извадка
Частта от съвкупността, за която реално имаме данни. Почти винаги работим с извадка — цялата съвкупност е недостъпна или твърде голяма.
Представителна извадка
Извадка, в която всяка група от съвкупността е застъпена в същото съотношение, както в цялата съвкупност. Изводите от нея важат и за съвкупността.
Кога извадката лъже
| Проблем | Какво се случва | Пример |
|---|---|---|
| Твърде малка | случайността тежи повече от закономерността | трима от петима анкетирани ходят пеша → „60% от учениците ходят пеша“ |
| Изкривена | част от съвкупността систематично липсва | анкета в час по информатика за интереса към програмиране |
| Самоподбор | отговарят само тези, които искат да отговорят | онлайн анкета: попълват я най-доволните и най-ядосаните |
| Оцелели | виждаме само тези, които са „стигнали“ до нас | самолетите на Уолд; „успешните са напуснали университета“ |
Самолетите на Уолд
През Втората световна война американските военни искат да сложат допълнителна броня на бомбардировачите, но бронята е тежка и не може да покрие целия самолет. Събират данни: къде са дупките от куршуми по върналите се самолети. Дупките са по крилата и опашката. Изводът изглежда очевиден — брониране на крилата и опашката.
Статистикът Ейбрахам Уолд казва обратното: бронята трябва да отиде там, където няма дупки — по двигателя и кабината. Защото самолетите, ударени там, не са се върнали и не са в данните. Крилата с дупки означават, че самолетът издържа удар в крилата.
Това е пристрастие на оцелелите (survivorship bias): извадката съдържа само тези, които са преминали през някакъв филтър, и този филтър е точно това, което искаме да изучим.
Анкета сред приятели
По-близък пример: питате приятелите си кой предмет е най-интересен и 8 от 10 казват „информатика“. Изводът „учениците харесват информатиката“ е грешен по същата причина — приятелите ви са се събрали покрай общи интереси. Извадката е изкривена още преди да зададете въпроса.
Кой е събрал данните, защо и кога
Данните не се появяват сами. Някой ги е събрал с някаква цел и в някакъв момент — и трите неща оставят следи в тях. Преди да използвате чужд набор, задайте три въпроса:
| Въпрос | Защо е важен | Пример |
|---|---|---|
| Кой е събирал? | събиращият достига до едни хора, а не до други | анкета на училищния профил в Instagram достига само до последователите му |
| Защо е събирал? | целта определя какво е измерено и какво е пропуснато | магазин пази данни за купувачите, не за тези, които са гледали и са си тръгнали |
| Кога е събирал? | светът се променя; старите данни описват стар свят | данни за най-ползвания браузър от 2010 г. не важат днес |
Откъде идват данните най-често: собствени измервания (бавно, но точно за вашата задача), публични набори (бързо, но с чужда цел и с лиценз), системи, които вече работят (базата на училището, логовете на сайт), сензори и устройства. При всеки източник трите въпроса имат различен отговор.
Проверката преди извода
Никоя извадка не е съвършена и това не е причина да не се правят изводи. Причина е изводът да върви с уговорка: за кого важи. Преди да кажете „учениците спят средно 7.3 часа“, минете през пет въпроса:
- За коя съвкупност искам да направя извод — класът, училището, всички ученици?
- Кой е в извадката и колко са?
- Кой от съвкупността липсва в извадката и защо — не е попитан, не е искал да отговори, не е „оцелял“ до момента на събирането?
- Кой е събрал данните, с каква цел и кога?
- Как изводът би се променил, ако липсващите бяха вътре?
Ако отговорът на третия въпрос е „не знам“, изводът важи само за извадката. Това не е провал — „в нашия клас“ е напълно почтен извод. Провалът е „в нашия клас“ да се превърне мълчаливо в „сред учениците“.
Какво трябва да запомниш
- Генерална съвкупност — всички, за които искаме извод; извадка — тези, за които имаме данни.
- Представителната извадка съдържа всички групи от съвкупността в същото съотношение.
- Четири начина извадката да лъже: твърде малка, изкривена, самоподбор, само оцелелите.
- Самолетите на Уолд: липсващите в данните са най-важната част от отговора.
- Повече данни поправят случайността, но не и систематичното пропускане на група.
- За всеки набор: кой го е събрал, защо и кога. Изводът важи само за тези, които са в извадката.