CZĘŚĆ I
Zrozumienie zachowań
W pierwszej części książki wyjaśnimy, dlaczego analiza danych behawioralnych wymaga zastosowania nowej metodologii.
Ta nowa metoda zostanie przeanalizowana w rozdziale 1, "Koncepcja przyczynowo-behawioralna stosowana w analizie danych". W związku z tym zaprezentujemy przykład pokazujący, w jaki sposób nawet najprostsza analiza danych może zostać zniekształcona przez obecność czynnika zakłócającego. Przy zastosowaniu tradycyjnego podejścia rozwiązanie tego problemu jest w najlepszym razie skomplikowane, a w najgorszym niemożliwe. Wykorzystanie nowej metodologii umożliwia szybkie osiągnięcie sukcesu.
W rozdziale 2 dokładniej wyjaśnimy specyfikę danych behawioralnych. Przy okazji Czytelnik pozna podstawy nauk behawioralnych oraz proces, który ma zapewniać, by dane odzwierciedlały odpowiadające im zachowania z życia codziennego.
Rozdział 1
Koncepcja przyczynowo-behawioralna stosowana w analizie danych
We wstępie do książki zostało już wyjaśnione, że zrozumienie przyczyn, które powodują zmianę zachowań, jest jednym z kluczowych celów analizy stosowanej, zarówno w firmie, organizacji non-profit, jak i organizacji publicznej. Chcemy się dowiedzieć, dlaczego ktoś kupił jakiś produkt, jak również, dlaczego ktoś inny tego nie zrobił. Chcemy zrozumieć, dlaczego ktoś odnowił subskrypcję, skontaktował się z infolinią, zamiast wykonać opłatę przez internet, zarejestrował się jako dawca narządów lub przekazał datek organizacji non-profit. Posiadanie tej wiedzy pozwala przewidzieć, jak się zachowają ludzie w różnych sytuacjach i pomaga określić, co organizacja może zrobić, aby zachęcić (lub zniechęcić) ich do powtórzenia działań. Wydaje się, że najlepiej można osiągnąć ten cel łącząc analizę danych z odpowiednim sposobem wykorzystania nauk behawioralnych i zestawem narzędzi służących do analizy przyczynowej, aby utworzyć zintegrowaną metodę, która została nazwana "koncepcją przyczynowo-behawioralną". W tym kontekście zachowania znajdują się na samym szczycie, ponieważ ich zrozumienie jest celem ostatecznym. Rozwiązanie uzyskuje się za pomocą diagramów przyczynowych i danych, które tworzą dwa filary wspierające trójkąt (rysunek 1.1).
Rysunek 1.1 Koncepcja przyczynowo-behawioralna stosowana w analizie danych
W książce przeprowadzimy analizę każdego elementu trójkąta, by wyjaśnić, jak się łączą ze sobą. Zdobyta wiedza zostanie wykorzystana w ostatnim rozdziale. Za pomocą jednego wiersza kodu rozwiążemy zadanie, które byłoby bardzo zniechęcające przy wykorzystaniu tradycyjnego podejścia - zmierzymy wpływ satysfakcji klienta na poziom jego przyszłych wydatków. Oprócz rozwiązywania ciekawych problemów, nowa koncepcja umożliwi także skuteczniejsze przeprowadzanie ogólnych analiz, takich jak określanie wpływu kampanii mailowej lub cech produktu na zachowania związane z zakupami.
Czytelnicy mający doświadczenie w analizie predykcyjnej mogą się zastanawiać, dlaczego została wybrana analiza przyczynowa. Oto odpowiedź: mimo że analiza predykcyjna jest (i pozostanie) bardzo skuteczna w warunkach biznesowych, może się nie sprawdzić, gdy w grę wchodzą ludzkie zachowania. W szczególności przyjęcie podejścia przyczynowego może pomóc w zidentyfikowaniu i usunięciu "zakłócenia", czyli bardzo powszechnego problemu występującego w danych behawioralnych. To zagadnienie zostanie omówione w dalszej części pierwszego rozdziału.
Dlaczego do wyjaśniania ludzkich zachowań należy zastosować analizę przyczynową?
Zrozumienie roli analizy przyczynowej pomoże w wyjaśnieniu, dlaczego należy z niej korzystać w przypadku zagadnień biznesowych. Jak zobaczymy, ta konieczność wynika ze złożoności ludzkich zachowań.
Różne rodzaje analizy
Istnieją trzy różne rodzaje analiz: opisowa, predykcyjna i przyczynowa. Analiza opisowa pozwala na uzyskanie opisu danych. Mówiąc prościej, opisuje ona to, "co jest" lub "co zostało zmierzone". Do tego typu analiz można zaliczyć sprawozdawczość biznesową. Ilu klientów zrezygnowało z subskrypcji w zeszłym miesiącu? Ile zarobiono w zeszłym roku? Ilekroć obliczamy średnią lub inne, proste wskaźniki, pośrednio korzystamy z analiz opisowych. Analiza opisowa jest najprostszą formą analizy. Okazuje się, że jej rola jest niedoceniana. Wiele organizacji ma trudności z uzyskaniem jasnego i jednolitego obrazu swojej działalności. Aby się dowiedzieć, jak bardzo ten problem występuje w danej firmie, wystarczy po prostu zadać to samo pytanie działowi finansowemu i operacyjnemu, a następnie porównać odpowiedzi1.
Analiza predykcyjna umożliwia prognozowanie. Opisuje ona coś, "co będzie, zakładając, że obecne warunki nie ulegną zmianie", lub to, "czego jeszcze nie zmierzono". Większość metod uczenia maszynowego (na przykład sieci neuronowe i modele wzmacniania gradientu) wykorzystuje ten typ analizy i pomaga odpowiadać na pytania typu "Ilu klientów zrezygnuje z subskrypcji w przyszłym miesiącu?" oraz "Czy to zamówienie jest fałszywe?" W ciągu ostatnich kilku dekad analiza predykcyjna zmieniła świat - niezliczone rzesze analityków zatrudnionych w biznesie są świadectwem tego sukcesu.
Trzecim rodzajem jest analiza przyczynowa, która umożliwia poznanie przyczyn pojawienia się określonych danych. Odpowiada ona na pytania "A co, jeśli?" czy też "Co się stanie, jeśli warunki ulegną zmianie?". Na przykład: "Ilu klientów zrezygnuje z subskrypcji w przyszłym miesiącu, jeśli nie podarujemy im kuponów?". Najbardziej znanym narzędziem analizy przyczynowej jest test A/B, czyli eksperyment randomizowany lub inaczej mówiąc, randomizowane badanie kontrolowane (randomized controlled trial - RCT). Wynika to stąd, że najprostszym i najskuteczniejszym sposobem uzyskania odpowiedzi na powyższe pytanie jest wysłanie kuponów do losowo wybranej grupy klientów, a następnie sprawdzenie, ilu z nich zrezygnuje z subskrypcji w porównaniu z grupą kontrolną.
Eksperymenty zostaną przeanalizowane w IV części książki, ale wcześniej, w części II, przyjrzymy się innemu narzędziu, a mianowicie diagramom przyczynowym, z których można korzystać nawet wtedy, gdy przeprowadzanie eksperymentów jest niemożliwe. Jednym z celów tej książki jest skłonienie Czytelnika do spojrzenia na analizę przyczynową z szerszej perspektywy, by nie utożsamiał jej jedynie z eksperymentowaniem.
Chociaż podział przedstawiony powyżej może sprawiać wrażenie, że mamy do czynienia z dobrze zorganizowaną kategoryzacją, w rzeczywistości istnieją dość duże powiązania między tymi trzema rodzajami analiz, a te same pytania i metody zaczynają być stosowane w każdej z nich. Można również spotkać inne terminy, takie jak analiza preskryptywna, które dodatkowo zacierają granice i dodają kolejne odcienie szarości bez radykalnej zmiany ogólnego obrazu.
Istoty ludzkie są skomplikowane
Jeśli analiza predykcyjna jest rzeczywiście skuteczna, a analiza przyczynowa wykorzystuje jej narzędzia, takie jak regresja, dlaczego nie powinno się pozostać przy analizie predykcyjnej? Odpowiedź jest prosta: ponieważ ludzie są bardziej skomplikowani, niż turbiny wiatrowe. Ludzkie zachowanie:
Ma wiele przyczyn
Na zachowanie turbiny nie ma wpływu jej osobowość, normy społeczne wymagane w społeczności turbin ani okoliczności jej wychowania. Z drugiej strony zdolność prognozowania ludzkiego zachowania przy użyciu jakiejkolwiek pojedynczej zmiennej jest z powodu tych czynników prawie zawsze poniżej oczekiwań.
Jest zależne od kontekstu
Drobne lub kosmetyczne zmiany w środowisku, takie jak zmiana domyślnej opcji wyboru, mogą mieć duży wpływ na zachowanie. Jest to dobrodziejstwem z punktu widzenia sterowania behawioralnego, ponieważ pozwala zmieniać zachowania. Jednak z perspektywy analizy behawioralnej jest przekleństwem, ponieważ oznacza, że każda sytuacja jest wyjątkowa i trudno przewidzieć jej skutki.
Jest zmienne (naukowcy powiedzieliby, że niedeterministyczne)
Ta sama osoba w identycznej sytuacji może się zachowywać za każdym razem zupełnie inaczej, nawet po uwzględnieniu wpływu zewnętrznych przyczyn. Może to być spowodowane czynnikami przejściowymi, takimi jak nastroje, lub długotrwałymi, takimi jak znudzenie się codziennym spożywaniem tego samego śniadania. Te czynniki mogą radykalnie zmieniać zachowanie, a poza tym trudno je wykrywać.
Jest innowacyjne
Gdy warunki w środowisku ulegają zmianie, człowiek może się zacząć zachowywać w zupełnie odmienny sposób, którego nigdy wcześniej nie stosował. Dzieje się tak nawet w najbardziej prozaicznych okolicznościach. Na przykład jeśli pracownik dojeżdża do firmy samochodem, a na trasie pojawił się wypadek, podejmuje nagłą decyzję, by skręcić w prawo i pojechać inną drogą.
Jest strategiczne
Ludzie wyciągają wnioski z zachowań innych osób i reagują na nie. W niektórych przypadkach może to oznaczać "wznowienie" współpracy, która została przerwana przez okoliczności zewnętrzne, co czyni ją bardziej przewidywalną. Ale w innych sytuacjach może to obejmować dobrowolne ukrywanie zachowania, aby uczynić je nieprzewidywalnym podczas gry opartej na współzawodnictwie, takiej jak szachy (lub w celu oszustwa!).
Wszystkie te aspekty ludzkiego zachowania sprawiają, że jest ono mniej przewidywalne, niż zachowanie obiektów fizycznych. Aby znaleźć prawidłowości, które mogą się przydać podczas analizy, należy zejść o jeden poziom niżej w celu zrozumienia i zmierzenia przyczyn zachowania. To, że ktoś w poniedziałek jadł na śniadanie płatki owsiane i wybrał określoną trasę, nie oznacza, że zrobi dokładnie to samo we wtorek. Można być jednak całkiem pewnym, że również zje jakieś śniadanie i wybierze jakąś trasę do pracy.
Ekstrapolacja w analizie, przekleństwo wymiarowości i krytyka Lucasa
Czytelnicy z wykształceniem ekonomicznym mogą nie być w pełni usatysfakcjonowani wcześniejszym stwierdzeniem, że "ludzkie zachowanie jest trudne do przewidzenia, ponieważ jest skomplikowane". Oto więc matematyczny dowód na poprawność argumentacji. Najpierw opiszemy różnicę między interpolacją a ekstrapolacją. Rysunek 1.2 przedstawia symulowane dane, przy czym między dwiema zmiennymi zachodzi liniowa zależność.
Linia widoczna na rysunku jest najlepiej dopasowaną linią regresji. Odpowiada ona funkcji regresji liniowej dla dwóch zmiennych i ma nachylenie równe w przybliżeniu 3. Możemy jej użyć do prognozowania nieznanych wartości Y na podstawie znanej wartości X (i odwrotnie). Na przykład dysponując wartością X = 50 moglibyśmy przewidzieć, że Y będzie równe 150. Na lewo od tej wartości znajdują się obserwowane punkty, dla których X < 50, a na prawo takie, dla których X > 50.
Taki proces predykcyjny nazywa się interpolacją, ponieważ wyznaczone miejsce znajduje się pomiędzy obserwowanymi punktami (przedrostek "inter" oznacza "pomiędzy", na przykład "internacjonalizm" = "współpraca pomiędzy narodami"). I odwrotnie, jeśli użyjemy linii regresji dla X = 0 do przewidzenia, że Y = 0, nazwiemy to ekstrapolacją, ponieważ miejsce, które próbujemy przewidzieć, znajduje się poza chmurą obserwowanych punktów (przedrostek "ekstra" oznacza "poza", na przykład "ekstraklasa" = "poza zwykłą klasą"). W statystyce i w życiu codziennym ekstrapolacja oznacza wyjście poza sferę świata obserwowanego i znanego w celu wyznaczenia prognozy. Interpolacja jest zwykle bezpieczna i niezawodna, natomiast ekstrapolacja zawsze nieco spekulacyjna - wymaga aktu wiary, by założyć, że reguły stosowane w pewnych granicach będą wciąż obowiązywać poza nimi.
Rysunek 1.2 Zależność liniowa między dwiema zmiennymi, wraz z linią regresji
Na obiekty fizyczne, takie jak turbina wiatrowa, wpływa stosunkowo niewielka i stała liczba czynników (nie jest tak, że niektóre prawa fizyki czasem nie działają lub nowe pojawiają się w sposób losowy). W wyniku tego ma się do czynienia z wieloma punktami danych w porównaniu z liczbą wymiarów przestrzeni problemowej, co oznacza, że prawie zawsze należy przeprowadzać interpolację. Dla uproszczenia w modelu można pomijać drugorzędne lub rzadkie zjawiska, takie jak burza pojawiająca się raz na sto lat. Nawet jednak w przypadku wystąpienia takich niezwykłych sytuacji wynik pozostaje dość przewidywalny - łopata wirnika może się oderwać i spaść na ziemię, ale nie odleci.
Z drugiej strony na ludzkie zachowanie wpływa wiele różnych czynników, które w danym dniu mogą być istotne (lub nie). Ich znaczenie może też z czasem wzrastać lub zanikać. Dlatego w takich przypadkach zwykle istnieje niewiele punktów danych w stosunku do liczby wymiarów przestrzeni problemowej, co oznacza, że znacznie częściej dokonuje się ekstrapolacji. Problem ten jest znany w statystyce jako "przekleństwo wymiarowości". Ponadto drobne zmiany w środowisku mogą prowadzić
do poważnych zmian w zachowaniu, co sprawia, że próba przewidzenia przyszłego zachowania człowieka na podstawie tego samego zachowania z przeszłości jest grą losową o niewielkiej szansie na wygraną.
Informacja dla Czytelników zainteresowanych genealogią ekonomii behawioralnej: makroekonomista Robert Lucas sformułował odpowiednie prawo w latach 70. XX wieku (tak zwaną "krytykę Lucasa" modeli keynesowskich). Zalecił w nim analizowanie bardziej zaawansowanych parametrów ludzkich zachowań, takich jak preferencje konsumentów, co dodatkowo wspiera zaprezentowaną wcześniej argumentację.
Zakłócenia, czyli ukryte niebezpieczeństwa rozwiązywania problemów za pomocą regresji
We wcześniejszym podrozdziale zostało wspomniane, że analiza przyczynowa często wykorzystuje te same narzędzia, co analiza predykcyjna. Ponieważ każda z tych metod kieruje się odmiennymi celami, narzędzia są używane w różny sposób. Regresja jest jednym z podstawowych narzędzi, więc może zostać skutecznie wykorzystana, by zilustrować różnicę między analizą predykcyjną a przyczynową. Regresja działająca poprawnie w przypadku analizy predykcyjnej często byłaby całkowitą porażką w analizie przyczynowej (i odwrotnie).
Regresja stosowana w analizie predykcyjnej służy do oszacowania nieznanej wartości (często, ale nie zawsze, występującej w przyszłości). Proces polega na wykorzystaniu istniejących informacji i różnych czynników, aby ustalić najlepszą, prognozowaną wartość dla danej zmiennej. Ważna jest sama przewidywana wartość i dokładność jej oszacowania, a nie sposób lub przyczyny, dla których wykonano prognozę.
Analiza przyczynowa również wykorzystuje regresję, ale nie koncentruje się na szacowaniu wartości zmiennej docelowej. Zamiast tego celem jest ustalenie przyczyny pojawienia się właśnie takiej wartości. Interesująca jest już nie sama zmienna zależna, ale jej związek z określoną zmienną niezależną. Przy prawidłowo skonstruowanej regresji współczynnik korelacji może być uproszczoną miarą przyczynowego wpływu zmiennej niezależnej na zmienną zależną.
Ale czym jest prawidłowo zdefiniowana regresja służąca temu celowi? Dlaczego nie można po prostu użyć regresji, którą wykorzystuje się w analizie predykcyjnej, a następnie potraktować dostarczone współczynniki jako miary związku przyczynowego? Nie jest to możliwe, ponieważ każda zmienna używana w regresji może modyfikować współczynniki innych zmiennych. Dlatego też odpowiednia metoda musi zostać zdefiniowana nie po to, aby tworzyć najdokładniejsze przewidywania, ale najdokładniejsze współczynniki. Te dwa zestawy zasadniczo różnią się od siebie, ponieważ dana zmienna może być mocno skorelowana ze zmienną docelową (a zatem być wysoce predykcyjna), a jednak w rzeczywistości nie wpływać na nią.
W tym podrozdziale wyjaśnimy, dlaczego różnica związana ze sposobem wykorzystania narzędzi ma znaczenie, a także dlaczego poprawny dobór zmiennych to więcej niż połowa sukcesu podczas wykonywania analizy behawioralnej. W tym celu wykorzystamy przykład wykorzystujący fikcyjną sieć supermarketów C-Mart, która zarządza sklepami na terenie całych Stanów Zjednoczonych. C-Mart, pierwsza z dwóch wymyślonych firm wykorzystywanych w tej książce, pomoże zrozumieć możliwości i wyzwania związane z analizą danych, stojące przed tradycyjnymi przedsiębiorstwami w epoce cyfrowej.
Dane
W folderze dostępnym na GitHubie (https://oreil.ly/BehavioralDataAnalysisCh1) znajdują się dwa pliki CSV (chap1-stand_data.csv i chap1-survey_data.csv) zawierające zbiory danych używane w dwóch przykładach z tego rozdziału.
W tabeli 1.1 przedstawiono informacje zawarte w pliku chap1-stand_data.csv, dotyczące dziennej sprzedaży lodów i kawy mrożonej na stoiskach sieci C-Mart.
Tabela 1.1 Informacje o sprzedaży dostępne w pliku chap1-stand_data.csv
Nazwa zmiennej
Opis zmiennej
IceCreamSales
Dzienna sprzedaż lodów na stoiskach sieci C-Mart
IcedCoffeeSales
Dzienna sprzedaż kawy mrożonej na stoiskach sieci C-Mart
SummerMonth
Zmienna binarna informująca, czy jest lato
Temperature
Średnia temperatura w danym dniu na określonym stoisku
W tabeli 1.2 zaprezentowano informacje zawarte w pliku chap1-survey_data.csv, dotyczące ankiety przeprowadzonej z przechodzącymi osobami poza obszarem stoisk C-Mart.
Tabela 1.2 Ankieta z pliku chap1-survey_data.csv
Nazwa zmiennej
Opis zmiennej
VanillaTaste
Ocena smaku lodów waniliowych (od 0 do 25)
ChocTaste
Ocena smaku lodów czekoladowych (od 0 do 25)
Shopped
Zmienna binarna oznaczająca, czy respondent kiedykolwiek robił zakupy na lokalnym stoisku C-Mart
Dlaczego korelacja nie jest związkiem przyczynowym? Rola czynnika zakłócającego
Firma C-Mart posiada w każdym sklepie stoisko z lodami. Jej zarząd wierzy, że pogoda wpływa na codzienną sprzedaż, czyli, używając żargonu przyczynowego, że jest ona przyczyną sprzedaży. Innymi słowy, gdy inne czynniki się nie zmieniają, można założyć, że ludzie chętniej kupują lody w cieplejsze dni, co ma intuicyjny sens. To przekonanie jest wspierane przez silną korelację danych historycznych między temperaturą a sprzedażą, jak pokazano na rysunku 1.3 (odpowiednie dane i kod znajdują się w folderze książki na portalu GitHub).
Rysunek 1.3 Sprzedaż lodów jako funkcja obserwowanej temperatury
Jak wskazano we wstępie, regresja będzie używana w książce jako podstawowe narzędzie służące do analizy danych. Wykonanie regresji liniowej dla zależności sprzedaży lodów od temperatury wymaga użycia jednego wiersza kodu:
## Python (dane wyjściowe nie zostały zaprezentowane)print(ols("icecream_sales ~ temps", data=stand_data_df).fit().summary())
## R> summary(lm(icecream_sales ~ temps, data=stand_dat))...Coefficients:
Estimate Std. Error t value Pr(>|t|)(Intercept) -4519.055 454.566 -9.941 <2e-16 ***temps 1145.320 7.826 146.348 <2e-16 ***...
Z perspektywy zagadnień omawianych w tej książce najbardziej istotnym fragmentem uzyskanego wyniku są wartości współczynników, które informują, że szacowany punkt przecięcia, czyli teoretyczna, średnia sprzedaż lodów dla temperatury równej zero wynosi -4519, co jest oczywiście ekstrapolacją niemającą sensu. Można się również dowiedzieć, że szacowany współczynnik dla temperatury wynosi 1145, co oznacza, że każdy dodatkowy stopień pozwoli zwiększyć sprzedaż lodów o 1145 dolarów.
A teraz wyobraźmy sobie, że zbliżamy się do końca wyjątkowo ciepłego tygodnia października, więc na podstawie przewidywań modelu firma z wyprzedzeniem zwiększyła zapasy w stoiskach z lodami. Jednak tygodniowa sprzedaż, choć wyższa niż zwykle w takim czasie, spadła znacznie poniżej ilości przewidywanej przez model. Oj, co się stało? Czy analityk danych powinien zostać zwolniony?
Stało się to, że model nie uwzględnia kluczowego faktu - tego, że większość sprzedaży lodów ma miejsce w miesiącach letnich, gdy dzieci nie chodzą do szkoły. Model regresji utworzył najlepszą prognozę na podstawie dostępnych danych, ale częściowy powód zwiększonej sprzedaży lodów (wakacje letnie dla uczniów) został częściowo błędnie przypisany temperaturze, ponieważ miesiące letnie są dodatnio skorelowane z temperaturą. Ponieważ wzrost temperatury w październiku nie spowodował przerwania zajęć szkolnych (przykro mi, dzieciaki!), odnotowano niższą sprzedaż, niż w przypadku letnich dni z tymi samymi temperaturami.
Z formalnego punktu widzenia czynnikiem zakłócającym relację między temperaturą a sprzedażą jest miesiąc. Czynnik zakłócający to zmienna, która wprowadza błąd do regresji. Gdy występuje on w analizowanej sytuacji, oznacza to, że interpretowanie współczynnika regresji jako przyczyny doprowadzi do niewłaściwych wniosków. Weźmy pod uwagę miejsce takie jak Chicago, które ma klimat kontynentalny - zima jest bardzo chłodna, a lato bardzo gorące. Podczas porównywania poziomu sprzedaży w przypadkowy, upalny dzień z poziomem sprzedaży w przypadkowy, chłodny dzień bez jednoczesnego uwzględnienia wpływu miesiąca najprawdopodobniej bierze się pod uwagę jakiś gorący, wakacyjny dzień oraz chłodny dzień zimowy, gdy dzieci są w szkole. Zawyża to pozorny związek między temperaturą a sprzedażą.
W przypadku tego przykładu można się również spodziewać konsekwentnego niedoszacowania sprzedaży w chłodniejsze dni. W rzeczywistości w miesiącach letnich następuje zmiana paradygmatu. Gdy zmiana ta zależy wyłącznie od temperatury w regresji liniowej, jej współczynnik jest zbyt wysoki dla wyższych temperatur i zbyt niski dla niższych.
Zbyt wiele zmiennych może zepsuć zabawę
Potencjalnym rozwiązaniem problemu z czynnikami zakłócającymi byłoby uwzględnienie w regresji wszystkich możliwych zmiennych. Sposób myślenia "weź wszystko, co wpadnie w ręce" wciąż ma zwolenników wśród statystyków. W książce The Book of Why Judea Pearl i Dana Mackenzie piszą, że "jeden z czołowych statystyków niedawno stwierdził, że "unikanie warunkowania dla niektórych obserwowalnych zmiennych towarzyszących (...) jest nienaukowym improwizowaniem"" (Pearl i Mackenzie, 2018, str. 1602). Jest to również zachowanie dość powszechnie spotykane wśród naukowców zajmujących się danymi. Prawdę mówiąc, jeśli celem jest tylko prognozowanie zmiennej, istnieje już model, który został starannie zaprojektowany, aby odpowiednio przewidywać wartości spoza zakresu danych testowych. Jeśli nie jesteśmy zainteresowani, dlaczego prognozowana zmienna przyjmuje określoną wartość, takie rozwiązanie jest zupełnie wystarczające. Niestety, nie sprawdzi się ono, jeśli celem będzie zrozumienie związków przyczynowych. W takim przypadku dodanie do modelu jak największej liczby zmiennych będzie nie tylko nieefektywne, ale może spowodować uzyskanie wniosków przeciwnych do zamierzonych i być bardzo mylące.
Zademonstrujmy to na przykładzie poprzez dodanie zmiennej, którą można byłoby uwzględnić. Wpłynie ona na regresję. Została więc utworzona zmienna IcedCoffeeSales, która jest skorelowana z wartością Temperature, a nie SummerMonth. Przyjrzyjmy się, co się stanie z regresją, jeśli weźmiemy pod uwagę tę zmienną razem z pozostałymi, czyli Temperature i SummerMonth. SummerMonth to zmienna binarna równa 1 lub 0, która wskazuje, czy miesiącem był lipiec albo sierpień (1), czy też jakikolwiek inny (0)):
## R (dane wyjściowe nie zostały zaprezentowane)> summary(lm(icecream_sales ~ iced_coffee_sales + temps + summer_months))## Pythonprint(ols("icecream_sales ~ temps + summer_months + iced_coffee_sales", data=stand_data_df).fit().summary())... coef std err t P>|t| [0.025 0.975]----------------------------------------------------------------------------Intercept 24.5560 308.872 0.080 0.937 -581.127 630.239temps -1651.3728 1994.826 -0.828 0.408 -5563.136 2260.391summer_months 1.976e+04 351.717 56.179 0.000 1.91e+04 2.04e+04iced_coffee_sales 2.6500 1.995 1.328 0.184 -1.262 6.562...
Widać, że wartość współczynnika dla zmiennej Temperature zmieniła się dramatycznie w porównaniu z poprzednim przykładem i teraz jest ujemna. Wysokie wartości p dla zmiennych Temperature i IcedCoffeeSales byłyby zwykle traktowane jako oznaka problemu, ale ponieważ wartość p dla zmiennej Temperature jest "gorsza", analityk może wywnioskować, że powinien ją usunąć z regresji. Jak to jest możliwe?
Prawda kryjąca się za danymi (która jest znana, ponieważ dla tego przykładu specjalnie utworzono odpowiednie relacje i wygenerowano losowe dane) jest taka, że gdy robi się gorąco, ludzie chętniej kupują mrożoną kawę. W upalne dni chętniej kupuje się też więcej lodów. Jednak sam zakup kawy mrożonej nie sprawia, że klienci są mniej lub bardziej skłonni do zakupu lodów. Miesiące letnie również nie są skorelowane z zakupami kawy mrożonej, ponieważ dzieci w wieku szkolnym nie są istotnym czynnikiem popytu na nią (matematyczne wyjaśnienie jest dostępne w ramce na stronie sąsiedniej).
Na rysunku 1.4 przedstawiono pozytywną korelację między sprzedażą kawy mrożonej a sprzedażą lodów, ponieważ obie wartości rosną, gdy jest cieplej. Jednak każdy wzrost sprzedaży kawy mrożonej w miesiącach letnich można wyjaśnić wspólną korelacją ze zmienną odpowiadającą temperaturze. Gdy algorytm regresji próbuje wyjaśnić sprzedaż lodów za pomocą trzech dostępnych zmiennych, moc wyjaśniająca teorii wykorzystującej temperaturę, opisującej sprzedaż kawy mrożonej, zostaje uwzględniona w zmiennej temperaturowej. Z drugiej strony sprzedaż kawy mrożonej musi zostać skompensowana ze względu na nadmierny wpływ tejże temperatury. Mimo że sprzedaż kawy mrożonej nie jest statystycznie istotna, a współczynnik jest stosunkowo niski, wartość sprzedaży jest znacznie wyższa niż wzrost temperatury. Ostatecznie sprzedaż kawy mrożonej równoważy więc inflację współczynnika temperatury.
Dodanie zmiennej IcedCoffeeSales do regresji przysłoniło istnienie związku między temperaturą a sprzedażą lodów. Niestety, może się również pojawić odwrotna sytuacja - uwzględnienie niewłaściwej zmiennej w regresji może stworzyć iluzję związku, którego nie ma.
Rysunek 1.4 Wykres zależności sprzedaży kawy mrożonej od sprzedaży lodów
Pozostańmy jeszcze przez chwilę przy przykładzie sprzedaży lodów w stoiskach firmy C-Mart. Załóżmy, że menedżer zarządzający kategoriami produktów chce zrozumieć gusta klientów, więc prosi swojego pracownika, aby stanął przed sklepem i pytał przechodzące osoby o to, jak bardzo lubią lody waniliowe i czekoladowe (odpowiedzi powinny być liczbami w skali od 0 do 25), a także, czy kiedykolwiek kupowali lody na stoisku. Aby uprościć sprawę, załóżmy, że stoisko sprzedaje wyłącznie lody czekoladowe i waniliowe. Również przyjmijmy, że smaki lodów waniliowych i czekoladowych są ze sobą całkowicie nieskorelowane. Niektórzy ludzie lubią jedne, ale nie drugie, inni w równym stopniu obydwa, jeszcze inni jedne bardziej niż drugie itd. Wszystkie te preferencje wpływają na zmienną binarną (tak/nie) oznaczającą, czy ktoś kupuje lody na stoisku.
Ponieważ zmienna Shopped jest binarna, można byłoby skorzystać z regresji logistycznej, gdyby należało zmierzyć wpływ jednej ze zmiennych Taste na zachowanie związane z zakupami. Ponieważ te dwie zmienne Taste nie są skorelowane, można byłoby dostrzec regularną chmurę bez widocznej korelacji, gdyby je nanieść na siebie. Jednak każda z nich wpływa na prawdopodobieństwo zakupów w lodziarni (rysunek 1.5).
Na pierwszym wykresie została dodatkowo umieszczona linia najlepszego dopasowania, która jest prawie idealnie pozioma i odzwierciedla brak korelacji między zmiennymi (współczynnik korelacji wynosi 0,004 i odpowiada błędowi próbkowania). Na drugim i trzecim wykresie widać, że smaki waniliowy i czekoladowy są ogólnie rzecz ujmując częściej wybierane przez klientów sklepu (Shopped = 1), niż przez osoby, które nimi nie są. Ma to sens.
Rysunek 1.5 Po lewej: smaki waniliowy i czekoladowy nie są skorelowane w całej populacji; na środku: smak waniliowy jest częściej wybierany przez osoby robiące zakupy w lodziarniach niż te, które tego nie robią; po prawej: ten sam wynik uzyskuje się w przypadku smaku czekoladowego
Na razie rozumowanie przebiega poprawnie. Załóżmy, że po przeanalizowaniu danych z ankiety zarząd firmy stwierdził, iż rozważa możliwość wprowadzenia kuponu zachęcającego do korzystania stoiska z lodami. Kupując lody klient otrzyma bon umożliwiający uzyskanie zniżki podczas przyszłych odwiedzin. Ta zachęta lojalnościowa nie wpłynie na osoby, które nigdy nie robiły zakupów na stoisku, więc odpowiednią grupą będą klienci sklepu. Zarząd rozważa także, by w przypadku kuponów zastosować ograniczenia smakowe w celu zrównoważenia zapasów. Nie wie jednak, jak bardzo może to wpłynąć na wybór smaku. Czy ktoś, kto kupił lody waniliowe i otrzymał bon na lody czekoladowe z 50% zniżką, zrobiłby coś więcej poza wyrzuceniem kolejnego papierka do kosza? W jakim stopniu pozytywnie oceniają lody czekoladowe te osoby, które lubią waniliowe?
Ponownie wygenerujmy ten sam wykres, ale tym razem ograniczając dane do osób, które odpowiedziały "Tak" na pytanie dotyczące zakupów w stoisku (rysunek 1.6).
Rysunek 1.6 Opinie kupujących dotyczące smaków waniliowego i czekoladowego
Pomiędzy tymi dwiema zmiennymi występuje teraz silna ujemna korelacja (współczynnik korelacji wynosi -0,39). Co się stało? Czy miłośnicy smaku waniliowego, którzy korzystali ze stoiska sklepu, zaczęli żywić odrazę do smaku czekoladowego (i odwrotnie)? Oczywiście nie jest to właściwa odpowiedź. Ta korelacja została sztucznie stworzona, ponieważ podczas analizy ograniczono się do samych klientów.
Wróćmy do prawdziwych związków przyczynowych: im bardziej ktoś lubi smak waniliowy, tym większe prawdopodobieństwo istnieje, że będzie robił zakupy na stoisku sklepu. Podobna sytuacja występuje w przypadku smaku czekoladowego. Oznacza to, że pojawił się łączny wpływ tych dwóch zmiennych. Jeśli ktoś nie lubi zarówno lodów waniliowych, jak i czekoladowych, jest bardzo mało prawdopodobne, że będzie robić zakupy na stoisku. Innymi słowy, większość klientów nieprzepadających za smakiem waniliowym uwielbia smak czekoladowy. Z drugiej strony, jeśli ktoś lubi smak waniliowy, również może robić zakupy na stoisku, nawet jeśli nie gustuje w smaku czekoladowym. Można to zauważyć na wcześniejszym wykresie - dla wysokich wartości ocen smaku waniliowego (przyjmijmy, że powyżej 15) istnieją punkty danych z niższymi wartościami dla ocen smaku czekoladowego (poniżej 15), podczas gdy dla niskich wartości ocen smaku waniliowego (poniżej 5) jedyne punkty na wykresie odpowiadają wysokim wartościom ocen dla smaku czekoladowego (powyżej 17). Żadne preferencje się nie zmieniły, ale osoby, które nie przepadają zarówno za smakiem waniliowym, jak i czekoladowym, zostały wykluczone ze zbioru danych.
W literaturze naukowej takie zjawisko jest znane pod nazwą paradoksu Berksona (https://oreil.ly/KwJ1R), jednak Judea Pearl i Dana Mackenzie określają je bardziej intuicyjną nazwą jako "efekt usprawiedliwienia". Jeśli któryś z klientów bardzo lubi smak waniliowy, to całkowicie wyjaśnia, dlaczego robi zakupy na stoisku sklepu. Nie musi przy tym wcale przepadać za smakiem czekoladowym. Z drugiej strony, jeśli klienci nie lubią smaku waniliowego, nie można na podstawie tego sądzić, że z tego powodu robią zakupy na stoisku sklepu. Chętnie jednak wybierają oni lody o smaku czekoladowym.
Paradoks Berksona jest sprzeczny z intuicją, więc z początku trudny do zrozumienia. W zależności od sposobu gromadzenia danych może wprowadzać zniekształcenia. Dzieje się tak nawet przed rozpoczęciem jakiejkolwiek analizy. Klasycznym przykładem tworzenia sztucznych korelacji jest to, że niektóre choroby wykazują wyższy stopień korelacji wśród pacjentów szpitali w porównaniu z całym społeczeństwem. Wyjaśnienie polega na tym, że nie każda osoba zostaje skierowana do szpitala z powodu pojedynczej choroby. Hospitalizacja dochodzi do skutku tylko wtedy, gdy stan zdrowia pacjenta staje się rzeczywiście zły z powodu większej liczby chorób współistniejących3.
Podsumowanie
Analiza predykcyjna odniosła ogromny sukces w ciągu ostatnich kilku dekad, a w przyszłości również będzie odgrywać dużą rolę. Jeśli jednak celem jest zrozumienie - i co ważniejsze - zmiana ludzkich zachowań, ciekawą alternatywą staje się analiza przyczynowa.
Taka analiza wymaga jednak innego podejścia niż to, jakie jest stosowane w przypadku analizy predykcyjnej. Miejmy nadzieję, że przykłady zaprezentowane w tym rozdziale przekonały Czytelnika, że nie można po prostu wrzucić wielu zmiennych do regresji liniowej lub logistycznej, a następnie mieć nadzieję na uzyskanie dobrych wyników (taką metodę można byłoby opisać słowami "Użyj wszystkich danych. Bóg rozpozna swoje"4). Nadal jednak można się zastanawiać, czy nie warto byłoby wykorzystać innych rodzajów modeli i algorytmów. Czy modele wzmacniania gradientowego lub uczenia głębokiego są w jakiś sposób odporne na czynniki zakłócające, wielowspółliniowość i fałszywe korelacje? Niestety, odpowiedź brzmi - nie. Modele te są "czarnymi skrzynkami", co oznacza, że zakłócenia mogą być jeszcze trudniejsze do wykrycia.
W następnym rozdziale dowiemy się, jak należy traktować same dane behawioralne.
1 Oczywiście niektóre odpowiedzi powinny się różnić od siebie, ponieważ dane są wykorzystywane do różnych celów i używane na różne sposoby. Nawet jednak proste pytania, na które można by się spodziewać jednej, prawdziwej odpowiedzi (na przykład: "Ilu pracowników jest obecnie zatrudnionych w firmie?"), generalnie spowodują pojawienie się różnych odpowiedzi.
2 Tym wspomnianym statystykiem był Donald Rubin.
3 Formalnie rzecz ujmując, jest to nieco inna sytuacja, ponieważ zamiast dwóch liniowych (lub logistycznych) zależności pojawia się efekt progowy. Nadal jednak obowiązuje podstawowa zasada polegająca na tym, że uwzględnienie niewłaściwej zmiennej może wygenerować sztuczne korelacje.
4 Trawestacja łacińskiej frazy "Caedite eos. Novit enim Dominus qui sunt eius" ("Zabijcie wszystkich! Bóg rozpozna swoich") - przyp. tłum.
