Randomized percobaan dikawasa geus opat bahan utama: rekrutmen pamilon, randomization perlakuan, kiriman perlakuan, jeung ukuran tina hasil.
Randomized percobaan dikawasa bisa nyokot loba bentuk jeung bisa dipaké pikeun diajar loba rupa paripolah. Tapi, di inti maranéhanana, randomized percobaan dikawasa geus opat bahan utama: rekrutmen pamilon, randomization perlakuan, kiriman perlakuan, jeung ukuran tina hasil. Umur digital teu robah sifat dasar experimentation, tapi teu nyieun eta gampang logistically. Contona, dina jaman baheula eta bisa geus hésé pikeun ngukur paripolah jutaan jalma, tapi anu ayeuna rutin lumangsung dina loba sistem digital. Panalungtik anu bisa angka kaluar kumaha abah ieu kasempetan anyar baris sanggup ngajalankeun percobaan nu éta mungkin saméméhna.
Pikeun nyieun ieu sadaya bit leuwih beton-boh naon geus ari sarua jeung naon geus robah-hayu urang mertimbangkeun Michael Restivo jeung Arnout van de Rijt urang (2012) . Para panalungtik hayang ngarti pangaruh ganjaran peer informal dina kontribusi redaksi ka Wikipédia. Dina sababaraha hal, maranehna diajarkeun efek tina barnstars, hiji pangajén nu mana wae Wikipedian bisa mere ka Wikipedian lain ngaku gawé teuas jeung karajinan alatan. Restivo jeung van de Rijt méré barnstars ka 100 Wikipedians deserving. Saterusna, Restivo jeung van de Rijt dilacak kontribusi saterusna panarima 'pikeun Wikipedia leuwih 90 poé saterusna. Jauh ka reuwas maranéhanana, urang ka saha maranehna dileler barnstars biasana make pangsaeutikna éditan sanggeus narima hiji. Dina kalimah sejen, barnstars seemed jadi ngalemahkeun tinimbang encouraging kontribusi.
Untungna, Restivo jeung van de Rijt teu ngajalankeun a "perturb sarta nitenan" percobaan; maranéhanana ngajalankeun hiji percobaan dikawasa randomized. Jadi, salian milih 100 kontributor luhur narima barnstar a, maranéhanana ogé ngangkat 100 kontributor luhur ka saha maranehna teu méré barnstar a. ratus ieu dilayanan salaku kelompok kontrol, sarta anu meunang barnstar jeung nu teu ieu ditangtukeun sacara acak. Lamun Restivo jeung van de Rijt melong kelompok kontrol maranehna kapanggih nu kungsi lungsur lungkawing dina kontribusi teuing. Ahirna, lamun panalungtik dibandingkeun jalma dina grup perlakuan (ie, narima barnstars) jeung masarakat di kelompok kontrol, maranéhanana manggihan yén barnstar nu disababkeun rai nyumbangkeun kira 60% leuwih. Tapi, kanaékan ieu kontribusi ieu nyokot tempat salaku bagian tina hiji kamunduran sakabéh boh kelompok.
Salaku ulikan ieu illustrates, kelompok kontrol dina percobaan nyaeta kritis dina cara nu rada paradoxical. Dina raraga persis ngukur pangaruh barnstars, Restivo jeung van der Rijt diperlukeun pikeun niténan jelema anu teu narima barnstars. Loba kali panalungtik anu teu wawuh jeung percobaan kalah ka ngahargaan nilai luar biasa tina grup kontrol. Lamun Restivo jeung van de Rijt teu boga kelompok kontrol, maranéhanana bakal dicokot persis kacindekan salah. Kelompok kontrol nu jadi penting nu CEO hiji pausahaan kasino utama geus ngomong yén aya ngan tilu cara anu pagawé bisa dipecat ti pausahaan-Na: maling, pelecehan seksual, sarta ngajalankeun hiji percobaan tanpa kelompok kontrol (Schrage 2011) .
ulikan Restivo jeung van de Rijt sacara illustrates opat bahan utama hiji percobaan: rekrutmen, randomization, campur jeung hasil. Babarengan, opat bahan ieu ngidinan élmuwan pikeun mindahkeun leuwih correlations jeung ngukur pangaruh kausal tina perlakuan. Husus, randomization hartina lamun ngabandingkeun hasil pikeun pengobatan sarta control grup anjeun meunang estimasi tina pangaruh kausal tina campur nu keur nu susunan pamilon. Dina basa sejen, jeung percobaan dikawasa randomized Anjeun bisa jadi yakin yen sagala béda dina hasil nu disababkeun ku campur jeung teu confounder, hiji ngaku mah nyieun tepat dina Appendix Téknis ngagunakeun kerangka hasil poténsial.
Salian keur hiji ilustrasi nice tina mékanika percobaan, ulikan Restivo jeung van de Rijt ogé nunjukeun yen logistik percobaan digital bisa lengkep béda ti percobaan analog. Dina Restivo jeung percobaan van de Rijt urang, ieu gampang méré barnstar ka saha di dunya jeung ieu gampang lagu hasil-jumlah éditan-sora hiji periode nambahan waktu (sabab édit sajarah sacara otomatis kacatet ku Wikipedia). Pangabisa ieu pikeun nganteurkeun perlakuan jeung ngukur hasil di no ongkos nyaeta qualitatively kawas percobaan dina jaman baheula. Sanajan percobaan ieu aub 200 jelema, bisa geus ngajalankeun jeung 2.000 atawa 20.000 jelema. Hal utama nyegah panalungtik ti skala nepi percobaan maranéhanana ku faktor 100 teu ngarugikeun, ieu étika. Nyéta, Restivo jeung van de Rijt teu hayang méré barnstars ka rai undeserving jeung maranehna teu hayang percobaan maranéhna pikeun ngaruksak masarakat Wikipedia (Restivo and Rijt 2012; Restivo and Rijt 2014) . Jadi, sanajan percobaan tina Restivo jeung van de Rijt relatif basajan, eta jelas nunjukeun yen sababaraha hal ngeunaan percobaan geus ari sarua jeung sababaraha geus robah. Dina sababaraha hal, logika dasar experimentation sarua, tapi logistik geus robah. Next, guna leuwih jelas ngasingkeun kasempetan dijieun ku parobahan ieu, Abdi gé ngabandingkeun percobaan nu panalungtik bisa ngalakukeun ayeuna ka rupa percobaan anu geus dipigawé dina jaman baheula.