Рандомизирани контролирани експерименти имаат четири главни состојки: вработување на учесниците, рандомизација на третманот, испорака на лекување, и мерење на резултатите.
Рандомизирани контролирани експерименти може да преземе многу форми и може да се користи за да се учат многу видови на однесување. Но, во нивните основни, рандомизирани контролирани експерименти имаат четири главни состојки: вработување на учесниците, рандомизација на третманот, испорака на лекување, и мерење на резултатите. Дигиталната ера не го менува основниот карактер на експериментирање, но тоа не ги направи полесно логистички. На пример, во минатото тоа би можело да биде тешко да се измери на однесувањето на милиони луѓе, но тоа е сега рутински се случува во многу дигитални системи. Истражувачите кои може да дознаам како да се подигнат овие нови можности ќе бидат во можност да се кандидира на експерименти, кои беа невозможно претходно.
Да се направи сето ова малку повеќе бетон и она што остана ист и што се променило, ајде да се разгледа Мајкл Restivo и Arnout ван де Rijt е (2012) . Истражувачите сакале да се разбере ефектот на неформална пер награди на уредувачката придонеси на Википедија. Особено, тие ги проучувал ефектите на barnstars, награда која било Википедија може да се даде на било кој друг википедијанец да се признае напорна работа и длабинска анализа. Restivo и ван де Rijt даде barnstars 100 заслужни Википедија. Потоа, Restivo и ван де Rijt следи следните придонеси на примачите на Википедија во следните 90 дена. Многу до изненадување, луѓето на кои им додели barnstars тенденција да се направи помалку уредувања по добивањето на еден. Со други зборови, на barnstars се чинеше дека се обесхрабруваат наместо поттикнување на придонес.
За среќа, Restivo и ван де Rijt не се работи за "тревожа и да ги набљудува" експериментот; што трчале рандомизирана контролирана експеримент. Така, во прилог на изборот на 100 главните придонесувачи добиваат barnstar, тие исто така ја доби 100 главните придонесувачи во кои тие не даде barnstar. Овие сто служи како контролна група, а кои се здобија со barnstar, а кој не беше решен по случаен избор. Кога Restivo и ван де Rijt погледна во контролната група откриле дека тоа е значително намалување на придонесите премногу. Конечно, кога истражувачите ги споредиле луѓе во третманот група (на пример, доби barnstars) и лица од контролната група, тие откриле дека barnstar предизвикани уредниците да придонесе со околу 60% повеќе. Но, ова зголемување на придонесот се случува, како дел од севкупниот пад во двете групи.
Како оваа студија покажува, контролната група во експерименти е од клучно значење во начинот на кој е малку парадоксално. Со цел прецизно да се измери ефектот на barnstars, Restivo и ван дер Rijt потребни за да се набљудуваат луѓето кои не примиле barnstars. Многу пати истражувачи кои не се запознаени со експерименти успеваат да го цениме неверојатна вредност од контролната група. Ако Restivo и ван де Rijt немаше контролна група, тие ќе имаат подготвени точно погрешен заклучок. Контролни групи се толку важни што извршниот директор на голем казино компанијата изјави дека постојат само три начини на кои вработените може да биде отпуштен од неговата компанија: кражба, сексуална злоупотреба, како и водење експеримент без контролната група (Schrage 2011) .
Restivo и ван де Rijt е илустрира четирите главни состојки на експеримент: вработување, рандомизација, интервенција, и исходи. Заедно, овие четири состојки им овозможи на научниците да се движат надвор корелации и да се измери причинска ефект на третмани. Поточно, рандомизација значи дека кога ќе се споредат резултатите за третман и контрола групи ќе се добие проценка на причинско-последична ефектот на таа интервенција за која група на учесници. Со други зборови, со рандомизирани контролирани експеримент можете да бидете сигурни дека сите разлики во исходите се предизвикани од интервенција, а не confounder, тврдење дека јас се направи прецизна во Техничкиот Додаток користење на рамката за потенцијални исходи.
Покрај тоа што е убава илустрација на механиката на експерименти, Restivo и ван де Rijt е Студијата исто така покажува дека на логистиката на дигитални експерименти може да биде сосема поинаква од аналогна експерименти. Во Restivo и експеримент ван де Rijt, тоа беше лесно да се даде barnstar за секој во светот и тоа беше лесно да ги пратите на исходот Број на уредувања, во текот на подолг временски период (бидејќи историја на уредување се автоматски снимени од страна на Википедија). Оваа способност да испорача третмани и мерење на резултати без трошоци е квалитативно разлика од експерименти во минатото. Иако овој експеримент вклучуваше 200 луѓе, тоа би можело да се работи со 2.000 или 20.000 луѓе. Главната работа спречување на истражувачи од искачувањето на нивниот експеримент со фактор од 100 Не беше чини, тоа беше етика. Тоа е, Restivo и ван де Rijt не сакаше да даде barnstars да ја заслужуваше уредниците и тие не сакаат нивниот експеримент да го прекинат Википедија заедницата (Restivo and Rijt 2012; Restivo and Rijt 2014) . Значи, иако за експериментот на Restivo и ван де Rijt е релативно едноставен, јасно покажува дека некои работи во врска експерименти останаа исти, а некои се менуваат. Особено, основната логика на експериментирање е иста, но на логистиката се променија. Понатаму, со цел да се појасно се изолира на можности создадени од оваа промена, јас ќе се спореди експерименти, кои истражувачите може да се направи сега на видови на експерименти, кои се направени во минатото.