4. 始まりは未来予知。
? Daryl Bem
? 有名な社会?理学者@コーネル?学
? 「論?の書き?」でも有名(Bem, 2004)
? 超能?論?のJPSP掲載
? ”セクシーな画像がどっちに出るか予測!”
? ”未来に勉強することを記憶できる!”
? Bem, D. J. (2011).
? 外から?たら…
? 「?理学って超能?論?がトップジャーナルに載るんで
しょ? すごいなぁ。夢があっていいよね(^.^)」
? と、?われても反論できない状況。
? なんでこうなった。
There are two possible articles you can
write: (a) the article you planned to write
when you designed your study or (b)the
article that makes the most sense now that
you have seen the results. They are rarely
the same, and the correct answer is (b).
(Bem, 2004)
5. 研究者?由度とMany Analysts
? 分析の過程では様々な決定が?
われ、そこに研究者?由度
(Researcher?s degree of
freedom)が紛れ込みうる。
? Gelman, A., & Loken, E.
(2013).
? Many Analysts
? One RQ:「肌の?が濃い選
?ほどレッドカードを提?
されやすい」
? One data set
? Many analysts
? One conclusion…?
? Silberzahn et al. (2018)
納得のいく結果だ
け報告すればいい
じゃない!
下から2つめの結果
をもとに仮説から
書き直しなさい。
過去の改ざん
のすゝめ
ダメ、絶対
22. Birth-order correlated with
Conscientiousness and Openness.
Younger sample: 60 males and 199 females, 18-25 years-old.
Older sample: 273 males and 262 females, 45-55 years-old.
Recruited via fast-ask.com
Positive with a younger
sample (18-25 years-old).
Positive with an even older
sample (45-55 years-old).
30. ?婆?
? 「?分はキャリア初期なのですが、事前登録に労?を割くよりも、どんど
ん思いつくままに実験をしたいのであります」
? ?分も任期付き職だったらそう考えたはず。
? 業界の趨勢をチェックしておくことをお勧めします。よく読む国内外雑誌でのプレ
レジ付き論?の数とか、編集?の所信表明とか。
? データとかスクリプトとかをオープンにすることも、科学に貢献します。
? 「アイディアを盗まれないか?配です」「匿名査読…?」
? OSFでは、他者に?えない形(embargo)での事前登録が可能です(いつまで隠し
ておくかの設定が必要です。エンバルゴの延期も可能です)。
? 研究者名を隠して登録内容だけ共有することも可能です(やり?@OSF)。
? 「探索的研究/分析は事前登録しなくて良いですよね?」
? 明確な仮説がない探索的研究/分析であることを事前登録することは可能。
? 研究者?由度を濫?してない保証の意味を各?で判断すればよい/するしかない。
? McPhetres, J. (2020). What should a preregistration contain?
31. Embargoed Prereg and Anonymous link
研究名を隠しています
事前登録内で、過去の?分の研究に“Our previous study
showed… (Hiraishi et al., 2019)”とか書いていると台無し
なので気をつけましょう。
Contributorsだけが
匿名化された共有
Linkを作成すること
ができる。
33. 分析の宇宙は広い
? The garden of forking paths
? 分析における様々な分岐には、適切性に
ほぼ違いのないものもある。
? しかしどちらの道を選ぶかで結果が(?
きく)変わることもある。
? Gelman & Loken (2013).
? 事前登録は1つ(または少数)のパス
をたどることを事前に指定するだけ。
? 実は同じくらい適切な別の道では結果は
ポジティブだったかも?
? 実は他のほとんどの道では違う結果だっ
たかも?
? それじゃ全部?てみれば?
Stern, J., Arslan, R. C., Gerlach, T. M., & Penke, L. (2019).
34. 多元宇宙を旅すれば
? Multiverse analysis
? Steegen et al. (2016).
? Del Giudice & Gangestad (2021).
? Speci?cation curve analysis
? Simonsohn, Simmons, & Nelson (2019)
? Rohrer, Eglo?, & Schmukle (2017)
? 本質的な発想は両?とも同じ。
? Garden of forking pathsを全部?てやれ!
? モデル?較を含めるか否かは?により意?が異る。
? Many analystsタイプと組み合わせることも多々。
? どんな選択肢があり得るかmany analystsで探索。
? 得られた分析空間をmultiverse-like分析で網羅。
? Schweinsberg et al. (2021); Auspurg & Brüderl (2021)
Steegen et al. (2016).
35. ほんとにおすすめしません。
? PARKing
? Preregistration After the
Results are Known.
? Yamada (2018)
? HARKing
? Hypothesizing After the
Results are Knownをもじっ
てます。為念。
? Kerr (1998)
? 参考: Lishner (2021)
? 科学をやる気がない?の相
?をし続けるのは?い。
https://twitter.com/pdakean/status/1411322296694870017?s=20
36. References
? PSI-gate
? Bem, D. J. (2004). Writing the empirical journal article. The Compleat Academic: A Career Guide., 2nd Ed., 2, 185–219. https://psycnet.apa.org/record/2003-06256-010
? Bem, D. J. (2011). Feeling the Future: Experimental evidence for anomalous retroactive influences on human cognition and affect. Journal of Personality and Social Psychology, 100(3),
407–425. http://doi.org/10.1063/1.3663724
? Why prereg?
? Gelman, A., & Loken, E. (2013). The garden of forking paths: Why multiple comparisons can be a problem, even when there is no “fishing expedition” or “p-hacking” and the research
hypothesis was posited ahead of time. Department of Statistics, Columbia University, 348. http://stat.columbia.edu/~gelman/research/unpublished/forking.pdf
? Silberzahn, R., Uhlmann, E. L., Martin, D. P., Anselmi, P., Aust, F., Awtrey, E., Bahník, ?., Bai, F., Bannard, C., Bonnier, E., Carlsson, R., Cheung, F., Christensen, G., Clay, R., Craig,
M. A., Dalla Rosa, A., Dam, L., Evans, M. H., Flores Cervantes, I., … Nosek, B. A. (2018). Many Analysts, One Data Set: Making Transparent How Variations in Analytic Choices
Affect Results. Advances in Methods and Practices in Psychological Science, 1(3), 337–356. https://doi.org/10.1177/2515245917747646
? Nosek, B. A., Ebersole, C. R., DeHaven, A. C., & Mellor, D. T. (2018). The preregistration revolution. Proceedings of the National Academy of Sciences of the United States of America,
115(11), 2600–2606. https://doi.org/10.1073/pnas.1708274114
Szollosi, A., Kellen, D., Navarro, D. J., Shiffrin, R., van Rooij, I., Van Zandt, T., & Donkin, C. (2020). Is Preregistration Worthwhile? Trends in Cognitive Sciences, 24(2), 94–95.
https://doi.org/10.1016/j.tics.2019.11.009
? How to prereg?
? McPhetres, J. (2020). What should a preregistration contain? https://doi.org/10.31234/osf.io/cj5mh
? ??川?樹, 多?奏恵, ?満?哉, 池?鮎美, ??祐樹, ?橋康介, & 近藤洋史. (2021). 実証的研究の事前登録の現状と実践. ?理学研究, advpub.
https://doi.org/10.4992/jjpsy.92.20217
? Bosnjak, M., Fiebach, C., Mellor, D. T., Mueller, S., O‘Connor, D. B., Oswald, F. L., & Sokol-Chang, R. (2021, February 22). A Template for Preregistration of Quantitative Research in
Psychology: Report of the Joint Psychological Societies Preregistration Task Force. https://doi.org/10.31234/osf.io/d7m5r(井奥智??趙?語?温若寒??縣芽?による邦訳)
37. References (continued)
? Replication design
? Zwaan, R. A., Etz, A., Lucas, R. E., & Donnellan, M. B. (2017). MAKING REPLICATION MAINSTREAM. The Behavioral and Brain Sciences, 1–50.
https://doi.org/10.1017/S0140525X17001972
? Simonsohn, U. (2015). Small telescopes: Detectability and the evaluation of replication results. Social Science Research Network, 26(January 2015), 1–11.
https://doi.org/10.2139/ssrn.2259879
? Lakens, D. (2017). Equivalence Tests: A Practical Primer for t Tests, Correlations, and Meta-Analyses. Social Psychological and Personality Science, 8(4),
355–362. https://doi.org/10.1177/1948550617697177
? Anvari, F., Kievit, R., Lakens, D., Pennington, C. R., Przybylski, A. K., Tiokhin, L., Wiernik, B. M., & Orben, A. (2021). Evaluating the practical relevance
and significance of observed effect sizes in psychological research. https://doi.org/10.31234/osf.io/g3vtr
? Replication Target
? Healey, M. D., & Ellis, B. J. (2007). Birth order, conscientiousness, and openness to experience: Tests of the family-niche model of personality using a within-
family methodology. Evolution and Human Behavior: Official Journal of the Human Behavior and Evolution Society, 28(1), 55–59.
https://doi.org/10.1016/j.evolhumbehav.2006.05.003
? Cosmides, L., Barrett, H. C., & Tooby, J. (2010). Adaptive specializations, social exchange, and the evolution of human intelligence. Proceedings of the
National Academy of Sciences, 107(Supplement_2), 9007–9014. http://doi.org/10.1073/pnas.0914623107
? Bech-S?rensen, J., & Pollet, T. V. (2016). Sex Differences in Mate Preferences: a Replication Study, 20 Years Later. Evolutionary Psychological Science, 2(3),
171–176. https://doi.org/10.1007/s40806-016-0048-6
? 平?界., 斎藤彩乃, ?尾眞紀, 藤井那侑, & 森峻?. (2019). 配偶者選好における?体的魅?重視度の男?差は消えたのか. ?理学評論, 62(3), 244–
261. https://ci.nii.ac.jp/naid/130007992573 (体験談)
38. References (continued, 2)
? Multivrse-like analyses
? Del Giudice, M., & Gangestad, S. W. (2021). A Traveler’s Guide to the Multiverse: Promises, Pitfalls, and a Framework for the Evaluation of Analytic Decisions. Advances in Methods and Practices in
Psychological Science, 4(1), 2515245920954925. https://doi.org/10.1177/2515245920954925
? Steegen, S., Tuerlinckx, F., Gelman, A., & Vanpaemel, W. (2016). Increasing Transparency Through a Multiverse Analysis. Perspectives on Psychological Science: A Journal of the Association for
Psychological Science, 11(5), 702–712. https://doi.org/10.1177/1745691616658637
? Rohrer, J. M., Egloff, B., & Schmukle, S. C. (2017). Probing Birth-Order Effects on Narrow Traits Using Specification Curve Analysis. Psychological Science.
https://doi.org/10.1177/0956797617723726
? Simonsohn, U., Simmons, J. P., & Nelson, L. D. (2019). Specification Curve: Descriptive and Inferential Statistics on All Reasonable Specifications. In Available at SSRN.
https://doi.org/10.2139/ssrn.2694998
? Auspurg, K., & Brüderl, J. (2021). Has the Credibility of the Social Sciences Been Credibly Destroyed? Reanalyzing the “Many Analysts, One Data Set” Project. Socius, 7, 23780231211024421.
https://doi.org/10.1177/23780231211024421
? Schweinsberg, M., Feldman, M., Staub, N., van den Akker, O. R., van Aert, R. C. M., van Assen, M. A. L. M., Liu, Y., Althoff, T., Heer, J., Kale, A., Mohamed, Z., Amireh, H., Venkatesh Prasad, V.,
Bernstein, A., Robinson, E., Snellman, K., Amy Sommer, S., Otner, S. M. G., Robinson, D., … Luis Uhlmann, E. (2021). Same data, different conclusions: Radical dispersion in empirical results when
independent analysts operationalize and test the same hypothesis. Organizational Behavior and Human Decision Processes, 165, 228–249. https://doi.org/10.1016/j.obhdp.2021.02.003
? HARKing and PARKing
? Yamada, Y. (2018). How to Crack Pre-registration: Toward Transparent and Open Science. Frontiers in Psychology, 9, 1831. https://doi.org/10.3389/fpsyg.2018.01831
? Kerr, N. L. (1998). HARKing: hypothesizing after the results are known. Personality and Social Psychology Review: An Official Journal of the Society for Personality and Social Psychology, Inc, 2(3),
196–217. https://doi.org/10.1207/s15327957pspr0203_4
? Lishner, D. A. (2021). HARKing: Conceptualizations, harms, and two fundamental remedies. Journal of Theoretical and Philosophical Psychology. https://doi.org/10.1037/teo0000182
? MISC.
? 吉?寿夫, & 村井潤?郎. (2021). ?理学的研究における重回帰分析の適?に関わる諸問題. ?理学研究, advpub. https://doi.org/10.4992/jjpsy.92.19226
39. Special thanks to...
? 科研費「社会?理学の基盤を裾野から確認する:メタ分析と追
試による再現性検証」
? 平?界?三浦???樋? 匡貴?藤島 喜嗣
? 中村?輝
? https://sites.google.com/view/asarin1003/replicability
? ReproducibiliTea Tokyo
? https://twitter.com/repteatokyo