際際滷

際際滷Share a Scribd company logo
Eksperymentujemy	
 油	
 油
po	
 油co	
 油i	
 油jak	
 油prowadzi	
 油testy	
 油A/B	
 油	
 油
na	
 油du甜	
 油i	
 油ma	
 油skal	
 油	
 油
Radosaw	
 油Kita	
 油
Warszawa,	
 油2015-足10-足06	
 油
1	
 油
Waciwie	
 油po	
 油co	
 油te	
 油testy?	
 油
≒ Przecie甜	
 油wszyscy.	
 油
≒ Ludzie	
 油zazwyczaj	
 油
≒ Nikt	
 油rozsdny	
 油
≒ Moje	
 油dziecko	
 油to	
 油zawsze	
 油
≒ Jak	
 油mam	
 油co	
 油znale添,	
 油to	
 油robi	
 油to	
 油tak	
 油
≒ Nie,	
 油nie,	
 油nie.	
 油To	
 油si	
 油nie	
 油sprawdzi.	
 油W	
 油trzewiach	
 油to	
 油czuj.	
 油
	
 油
2	
 油
Waciwie	
 油po	
 油co	
 油te	
 油testy?	
 油
≒ Zr坦bmy	
 油ankiet	
 油
≒ Poka甜my	
 油ekspertom	
 油makiet	
 油
≒ Zr坦bmy	
 油badanie	
 油fokusowe	
 油
Pozw坦lmy	
 油naszym	
 油ideom	
 油umiera	
 油za	
 油nas	
 油Karl	
 油Popper	
 油
	
 油
Data	
 油driven	
 油company	
 油
	
 油
3	
 油
Co	
 油testujemy?	
 油
Wszystko	
 油J	
 油
	
 油
Nie	
 油no	
 油serio,	
 油prawie	
 油wszystko	
 油J	
 油
≒ Efektywno	
 油system坦w	
 油
rekomendacji	
 油
≒ Efektywno	
 油algorytm坦w	
 油
wyszukiwania	
 油
≒ Zmiany	
 油w	
 油budowie	
 油stron	
 油
≒ Zmiany	
 油w	
 油aplikacjach	
 油
≒ Ka甜d	
 油now	
 油funkcjonalno	
 油
4	
 油
Jak	
 油to	
 油dziaa?	
 油
1. De鍖nicja	
 油testu	
 油
2. Plan	
 油eksperymentalny	
 油
3. Podzia	
 油na	
 油grupy	
 油
4. Zebranie	
 油danych	
 油
5. Dob坦r	
 油statystyki	
 油
6. Od	
 油testu	
 油do	
 油wdro甜enia	
 油na	
 油caym	
 油serwisie	
 油
7. Du甜o	
 油jednoczesnych	
 油test坦w	
 油-足>	
 油kiedy	
 油uruchomi	
 油kolejny	
 油
Czyli	
 油troch	
 油wyzwa:	
 油od	
 油technologicznych	
 油poprzez	
 油
programistyczne	
 油a甜	
 油po	
 油statystyczne.	
 油
5	
 油
De鍖nicja	
 油testu	
 油
6	
 油
≒ Osoba	
 油de鍖niujca	
 油test	
 油musi	
 油mie	
 油dostp	
 油do	
 油gra鍖cznego	
 油interface.	
 油
≒ Musimy	
 油przekaza	
 油dalej	
 油de鍖nicj	
 油kt坦rej	
 油funkcjonalnoci	
 油dotyczy	
 油
eksperyment	
 油	
 油identy鍖kowanie	
 油u甜ytkownik坦w,	
 油kt坦rzy	
 油rzeczywicie	
 油mieli	
 油
kontakt	
 油z	
 油nasz	
 油funkcjonalnoci.	
 油
≒ Co	
 油jeli	
 油trzeba	
 油przewin	
 油ekran	
 油albo	
 油rozklika	
 油jakie	
 油menu?	
 油
	
 油
De鍖nicja	
 油testu	
 油
7	
 油
Miara	
 油sukcesu:	
 油
≒ Przychodowo	
 油	
 油wiadomo	
 油J	
 油
≒ Ilo	
 油klikni?	
 油
≒ Jednorodno	
 油koszyka	
 油zakupowego?	
 油
≒ Dugo	
 油cie甜ki	
 油zakupowej?	
 油
≒ Aktywizacja	
 油nowych	
 油u甜ytkownik坦w?	
 油
≒ 	
 油
	
 油
De鍖nicja	
 油testu	
 油
8	
 油
Co	
 油por坦wnujemy:	
 油
≒ rednia?	
 油
≒ Mediana?	
 油
≒ 75	
 油centyl/percentyl?	
 油
≒ 	
 油
	
 油
Plan	
 油eksperymentalny	
 油
U甜ytkownicy	
 油
Grupa	
 油
testowa	
 油
Grupa	
 油
kontrolna	
 油
9	
 油
Pocztek	
 油
pomiaru	
 油
Koniec	
 油
pomiaru	
 油
Pocztek	
 油
pomiaru	
 油
Koniec	
 油
pomiaru	
 油
Plan	
 油eksperymentalny	
 油
10	
 油
Tak	
 油to	
 油dziaa	
 油przy	
 油jednym	
 油pomiarze.	
 油	
 油
Co	
 油jeli	
 油dwa	
 油lub	
 油wicej?	
 油Szczeg坦lnie	
 油jeli	
 油pomiar	
 油
odbywa	
 油si	
 油w	
 油jawny	
 油dla	
 油u甜ytkownika	
 油spos坦b.	
 油
Np.	
 油zmiana	
 油wiadomoci	
 油marki	
 油wskutek	
 油
kontaktu	
 油z	
 油reklam.	
 油
	
 油
Plan	
 油eksperymentalny	
 油
11	
 油
Grupa	
 油kontrolna	
 油1	
 油
Drugi	
 油
pomiar	
 油
Pierwszy	
 油
pomiar	
 油
Grupa	
 油kontrolna	
 油2	
 油
Drugi	
 油
pomiar	
 油
Grupa	
 油testowa	
 油1	
 油
Drugi	
 油
pomiar	
 油
Pierwszy	
 油
pomiar	
 油
Grupa	
 油testowa	
 油2	
 油
Drugi	
 油
pomiar	
 油
Podzia	
 油na	
 油grupy	
 油
1. Losowy	
 油
2. Rozczno	
 油grup	
 油w	
 油obrbie	
 油eksperymentu	
 油
3. Rozczno	
 油grup	
 油midzy	
 油eksperymentami	
 油	
 油o	
 油ile	
 油to	
 油
konieczne	
 油(eksperymenty	
 油dotycz	
 油tego	
 油samego	
 油elementu	
 油lub	
 油
mog	
 油na	
 油siebie	
 油wpywa)	
 油
12	
 油
Podzia	
 油na	
 油grupy	
 油-足	
 油wyzwania	
 油
Losowo:	
 油ka甜dy	
 油z	
 油u甜ytkownik坦w	
 油powinien	
 油mie	
 油jednakowe	
 油
prawdopodobiestwo	
 油znalezienia	
 油si	
 油w	
 油grupie.	
 油
Dwa	
 油mo甜liwe	
 油podejcia:	
 油
1. Dzielimy	
 油on-足line	
 油w	
 油miar	
 油jak	
 油si	
 油pojawiaj	
 油	
 油
nadreprezentacja	
 油bardziej	
 油aktywnych	
 油
2. Dzielimy	
 油o鍖-足line	
 油przed	
 油eksperymentem	
 油na	
 油podstawie	
 油bazy	
 油
danych	
 油	
 油nie	
 油wiemy	
 油kiedy	
 油kolejny	
 油raz	
 油si	
 油pojawi	
 油i	
 油czy	
 油w	
 油
og坦le	
 油si	
 油pojawi,	
 油eksperyment	
 油nie	
 油mo甜e	
 油trwa	
 油dowolnie	
 油
dugo	
 油
13	
 油
Podzia	
 油na	
 油grupy	
 油-足	
 油wyzwania	
 油
Kilka	
 油sposob坦w	
 油identy鍖kacji	
 油u甜ytkownika:	
 油
1. cookie	
 油
2. zarejestrowani	
 油u甜ytkownicy	
 油
3. identy鍖katory	
 油w	
 油aplikacjach	
 油mobilnych	
 油
Rozczno!!	
 油Tak,	
 油tak.	
 油Nie	
 油zwa甜ajc	
 油na	
 油to,	
 油甜e	
 油jeden	
 油u甜ytkownik	
 油
mo甜e	
 油si	
 油ukrywa	
 油pod	
 油kilkoma	
 油identy鍖katorami.	
 油
14	
 油
Podzia	
 油na	
 油grupy	
 油-足	
 油wyzwania	
 油
Czasem	
 油trzeba	
 油sprawdzi	
 油dodatkowe	
 油warunki:	
 油
≒ poo甜enie	
 油geogra鍖czne	
 油
≒ pro鍖l	
 油demogra鍖czny	
 油
≒ dotychczasow	
 油histori	
 油zakup坦w	
 油
Szybko!!	
 油
Czyli	
 油Spark	
 油i	
 油鍖ltry	
 油Blooma	
 油J	
 油
	
 油
15	
 油
Zebranie	
 油danych	
 油
16	
 油
Dob坦r	
 油statystyki	
 油
17	
 油
W	
 油statystyce	
 油musimy	
 油
sobie	
 油odpowiedzie	
 油
na	
 油jedno	
 油zasadnicze	
 油
pytanie	
 油
Dob坦r	
 油statystyki	
 油
18	
 油
No	
 油mo甜e	
 油nieco	
 油wicej	
 油ni甜	
 油jedno	
 油J	
 油
1. Czy	
 油pr坦by	
 油s	
 油od	
 油siebie	
 油zale甜ne	
 油czy	
 油niezale甜ne?	
 油
Dob坦r	
 油statystyki	
 油
19	
 油
I	
 油jeszcze	
 油jedno	
 油J	
 油
2. Ile	
 油mam	
 油grup?	
 油
Dob坦r	
 油statystyki	
 油
20	
 油
I	
 油jeszcze	
 油J	
 油
3. Na	
 油jakiej	
 油skali	
 油pomiarowej	
 油jest	
 油zmienna	
 油
zale甜na?	
 油
(nominalna,	
 油porzdkowa,	
 油interwaowa,	
 油ilorazowa)	
 油
Dob坦r	
 油statystyki	
 油
21	
 油
I	
 油jeszcze	
 油J	
 油
4. Czy	
 油rozkad	
 油zmiennej	
 油zale甜nej	
 油jest	
 油normalny?	
 油
Witamy	
 油w	
 油wiecie	
 油rozkad坦w	
 油prawoskonych	
 油
Dob坦r	
 油statystyki	
 油
22	
 油
I	
 油tak	
 油znale添limy	
 油si	
 油w	
 油wiecie	
 油statystyk	
 油
nieparametrycznych.	
 油
	
 油
Tak,	
 油macie	
 油racj.	
 油Nie	
 油uczyli	
 油o	
 油tym	
 油zbyt	
 油wiele	
 油na	
 油studiach	
 油
J	
 油
Test	
 油Manna-足Whitneya	
 油
Test	
 油Komogorowa-足Smirnowa	
 油
Test	
 油Kruskala-足Wallisa	
 油
Od	
 油testu	
 油do	
 油wdro甜enia	
 油na	
 油caym	
 油
serwisie	
 油
Dobra	
 油praktyka	
 油	
 油przeczamy	
 油maymi	
 油grupkami	
 油
(np.:	
 油po	
 油5%	
 油dziennie)	
 油i	
 油obserwujemy.	
 油
23	
 油
Du甜o	
 油jednoczesnych	
 油test坦w	
 油-足>	
 油kiedy	
 油
uruchomi	
 油kolejny	
 油
Id	
 油
testu	
 油
Pocztek	
 油testu	
 油 Koniec	
 油testu	
 油
1	
 油 2015-足01-足01	
 油00:00:00	
 油 2015-足11-足30	
 油23:59:59	
 油
2	
 油 2015-足07-足01	
 油00:00:00	
 油 2015-足12-足31	
 油23:59:59	
 油
3	
 油 2015-足06-足20	
 油14:21:00	
 油 2015-足10-足20	
 油15:29:59	
 油
4	
 油 2015-足10-足03	
 油12:00:00	
 油 2015-足10-足31	
 油11:59:59	
 油
	
 油 	
 油 	
 油
24	
 油
Wska甜	
 油optymalny	
 油moment	
 油do	
 油przeprowadzenia	
 油testu,	
 油kt坦ry	
 油ma	
 油
trwa	
 油dwa	
 油tygodnie.	
 油Ma	
 油si	
 油pokrywa	
 油z	
 油jak	
 油najmniejsz	
 油iloci	
 油
zaplanowanych	
 油test坦w.	
 油
Zo甜ono	
 油wielomianowa	
 油mile	
 油widziana.	
 油
Dzikuj	
 油za	
 油uwag.	
 油
radoslaw.kita@allegrogroup.com	
 油
	
 油 25	
 油

More Related Content

Meetup 1 eksperymentujemy_na_duza_skale_rkita

  • 1. Eksperymentujemy 油 油 po 油co 油i 油jak 油prowadzi 油testy 油A/B 油 油 na 油du甜 油i 油ma 油skal 油 油 Radosaw 油Kita 油 Warszawa, 油2015-足10-足06 油 1 油
  • 2. Waciwie 油po 油co 油te 油testy? 油 ≒ Przecie甜 油wszyscy. 油 ≒ Ludzie 油zazwyczaj 油 ≒ Nikt 油rozsdny 油 ≒ Moje 油dziecko 油to 油zawsze 油 ≒ Jak 油mam 油co 油znale添, 油to 油robi 油to 油tak 油 ≒ Nie, 油nie, 油nie. 油To 油si 油nie 油sprawdzi. 油W 油trzewiach 油to 油czuj. 油 油 2 油
  • 3. Waciwie 油po 油co 油te 油testy? 油 ≒ Zr坦bmy 油ankiet 油 ≒ Poka甜my 油ekspertom 油makiet 油 ≒ Zr坦bmy 油badanie 油fokusowe 油 Pozw坦lmy 油naszym 油ideom 油umiera 油za 油nas 油Karl 油Popper 油 油 Data 油driven 油company 油 油 3 油
  • 4. Co 油testujemy? 油 Wszystko 油J 油 油 Nie 油no 油serio, 油prawie 油wszystko 油J 油 ≒ Efektywno 油system坦w 油 rekomendacji 油 ≒ Efektywno 油algorytm坦w 油 wyszukiwania 油 ≒ Zmiany 油w 油budowie 油stron 油 ≒ Zmiany 油w 油aplikacjach 油 ≒ Ka甜d 油now 油funkcjonalno 油 4 油
  • 5. Jak 油to 油dziaa? 油 1. De鍖nicja 油testu 油 2. Plan 油eksperymentalny 油 3. Podzia 油na 油grupy 油 4. Zebranie 油danych 油 5. Dob坦r 油statystyki 油 6. Od 油testu 油do 油wdro甜enia 油na 油caym 油serwisie 油 7. Du甜o 油jednoczesnych 油test坦w 油-足> 油kiedy 油uruchomi 油kolejny 油 Czyli 油troch 油wyzwa: 油od 油technologicznych 油poprzez 油 programistyczne 油a甜 油po 油statystyczne. 油 5 油
  • 6. De鍖nicja 油testu 油 6 油 ≒ Osoba 油de鍖niujca 油test 油musi 油mie 油dostp 油do 油gra鍖cznego 油interface. 油 ≒ Musimy 油przekaza 油dalej 油de鍖nicj 油kt坦rej 油funkcjonalnoci 油dotyczy 油 eksperyment 油 油identy鍖kowanie 油u甜ytkownik坦w, 油kt坦rzy 油rzeczywicie 油mieli 油 kontakt 油z 油nasz 油funkcjonalnoci. 油 ≒ Co 油jeli 油trzeba 油przewin 油ekran 油albo 油rozklika 油jakie 油menu? 油 油
  • 7. De鍖nicja 油testu 油 7 油 Miara 油sukcesu: 油 ≒ Przychodowo 油 油wiadomo 油J 油 ≒ Ilo 油klikni? 油 ≒ Jednorodno 油koszyka 油zakupowego? 油 ≒ Dugo 油cie甜ki 油zakupowej? 油 ≒ Aktywizacja 油nowych 油u甜ytkownik坦w? 油 ≒ 油 油
  • 8. De鍖nicja 油testu 油 8 油 Co 油por坦wnujemy: 油 ≒ rednia? 油 ≒ Mediana? 油 ≒ 75 油centyl/percentyl? 油 ≒ 油 油
  • 9. Plan 油eksperymentalny 油 U甜ytkownicy 油 Grupa 油 testowa 油 Grupa 油 kontrolna 油 9 油 Pocztek 油 pomiaru 油 Koniec 油 pomiaru 油 Pocztek 油 pomiaru 油 Koniec 油 pomiaru 油
  • 10. Plan 油eksperymentalny 油 10 油 Tak 油to 油dziaa 油przy 油jednym 油pomiarze. 油 油 Co 油jeli 油dwa 油lub 油wicej? 油Szczeg坦lnie 油jeli 油pomiar 油 odbywa 油si 油w 油jawny 油dla 油u甜ytkownika 油spos坦b. 油 Np. 油zmiana 油wiadomoci 油marki 油wskutek 油 kontaktu 油z 油reklam. 油 油
  • 11. Plan 油eksperymentalny 油 11 油 Grupa 油kontrolna 油1 油 Drugi 油 pomiar 油 Pierwszy 油 pomiar 油 Grupa 油kontrolna 油2 油 Drugi 油 pomiar 油 Grupa 油testowa 油1 油 Drugi 油 pomiar 油 Pierwszy 油 pomiar 油 Grupa 油testowa 油2 油 Drugi 油 pomiar 油
  • 12. Podzia 油na 油grupy 油 1. Losowy 油 2. Rozczno 油grup 油w 油obrbie 油eksperymentu 油 3. Rozczno 油grup 油midzy 油eksperymentami 油 油o 油ile 油to 油 konieczne 油(eksperymenty 油dotycz 油tego 油samego 油elementu 油lub 油 mog 油na 油siebie 油wpywa) 油 12 油
  • 13. Podzia 油na 油grupy 油-足 油wyzwania 油 Losowo: 油ka甜dy 油z 油u甜ytkownik坦w 油powinien 油mie 油jednakowe 油 prawdopodobiestwo 油znalezienia 油si 油w 油grupie. 油 Dwa 油mo甜liwe 油podejcia: 油 1. Dzielimy 油on-足line 油w 油miar 油jak 油si 油pojawiaj 油 油 nadreprezentacja 油bardziej 油aktywnych 油 2. Dzielimy 油o鍖-足line 油przed 油eksperymentem 油na 油podstawie 油bazy 油 danych 油 油nie 油wiemy 油kiedy 油kolejny 油raz 油si 油pojawi 油i 油czy 油w 油 og坦le 油si 油pojawi, 油eksperyment 油nie 油mo甜e 油trwa 油dowolnie 油 dugo 油 13 油
  • 14. Podzia 油na 油grupy 油-足 油wyzwania 油 Kilka 油sposob坦w 油identy鍖kacji 油u甜ytkownika: 油 1. cookie 油 2. zarejestrowani 油u甜ytkownicy 油 3. identy鍖katory 油w 油aplikacjach 油mobilnych 油 Rozczno!! 油Tak, 油tak. 油Nie 油zwa甜ajc 油na 油to, 油甜e 油jeden 油u甜ytkownik 油 mo甜e 油si 油ukrywa 油pod 油kilkoma 油identy鍖katorami. 油 14 油
  • 15. Podzia 油na 油grupy 油-足 油wyzwania 油 Czasem 油trzeba 油sprawdzi 油dodatkowe 油warunki: 油 ≒ poo甜enie 油geogra鍖czne 油 ≒ pro鍖l 油demogra鍖czny 油 ≒ dotychczasow 油histori 油zakup坦w 油 Szybko!! 油 Czyli 油Spark 油i 油鍖ltry 油Blooma 油J 油 油 15 油
  • 17. Dob坦r 油statystyki 油 17 油 W 油statystyce 油musimy 油 sobie 油odpowiedzie 油 na 油jedno 油zasadnicze 油 pytanie 油
  • 18. Dob坦r 油statystyki 油 18 油 No 油mo甜e 油nieco 油wicej 油ni甜 油jedno 油J 油 1. Czy 油pr坦by 油s 油od 油siebie 油zale甜ne 油czy 油niezale甜ne? 油
  • 19. Dob坦r 油statystyki 油 19 油 I 油jeszcze 油jedno 油J 油 2. Ile 油mam 油grup? 油
  • 20. Dob坦r 油statystyki 油 20 油 I 油jeszcze 油J 油 3. Na 油jakiej 油skali 油pomiarowej 油jest 油zmienna 油 zale甜na? 油 (nominalna, 油porzdkowa, 油interwaowa, 油ilorazowa) 油
  • 21. Dob坦r 油statystyki 油 21 油 I 油jeszcze 油J 油 4. Czy 油rozkad 油zmiennej 油zale甜nej 油jest 油normalny? 油 Witamy 油w 油wiecie 油rozkad坦w 油prawoskonych 油
  • 22. Dob坦r 油statystyki 油 22 油 I 油tak 油znale添limy 油si 油w 油wiecie 油statystyk 油 nieparametrycznych. 油 油 Tak, 油macie 油racj. 油Nie 油uczyli 油o 油tym 油zbyt 油wiele 油na 油studiach 油 J 油 Test 油Manna-足Whitneya 油 Test 油Komogorowa-足Smirnowa 油 Test 油Kruskala-足Wallisa 油
  • 23. Od 油testu 油do 油wdro甜enia 油na 油caym 油 serwisie 油 Dobra 油praktyka 油 油przeczamy 油maymi 油grupkami 油 (np.: 油po 油5% 油dziennie) 油i 油obserwujemy. 油 23 油
  • 24. Du甜o 油jednoczesnych 油test坦w 油-足> 油kiedy 油 uruchomi 油kolejny 油 Id 油 testu 油 Pocztek 油testu 油 Koniec 油testu 油 1 油 2015-足01-足01 油00:00:00 油 2015-足11-足30 油23:59:59 油 2 油 2015-足07-足01 油00:00:00 油 2015-足12-足31 油23:59:59 油 3 油 2015-足06-足20 油14:21:00 油 2015-足10-足20 油15:29:59 油 4 油 2015-足10-足03 油12:00:00 油 2015-足10-足31 油11:59:59 油 油 油 油 24 油 Wska甜 油optymalny 油moment 油do 油przeprowadzenia 油testu, 油kt坦ry 油ma 油 trwa 油dwa 油tygodnie. 油Ma 油si 油pokrywa 油z 油jak 油najmniejsz 油iloci 油 zaplanowanych 油test坦w. 油 Zo甜ono 油wielomianowa 油mile 油widziana. 油
  • 25. Dzikuj 油za 油uwag. 油 radoslaw.kita@allegrogroup.com 油 油 25 油