A cullaburazione massiva combina idee da scienza citadina , crowdsourcing , è intelligenza colectiva . A scienza di i citadini normalment significa "citatini" (ie, nonscientists) in u prucessu scientificu; per più, vede Crain, Cooper, and Dickinson (2014) è Bonney et al. (2014) . U Crowdsourcing normalment duverà piglià un prublema solu solu solu in una urganizazione è in u settore di u sughjettu à un ghjente; per più, vede Howe (2009) . L'intelligenza colectiva règula in modu di gruppi di l'individhii chì facevanu colectività in modi chì parevanu intelligenti; per più, vedi Malone and Bernstein (2015) . Nielsen (2012) hè una intro duzzione di libru à u putere di a collaborazione massu per a ricerca scientifica.
Ci sò parechje tipi di colazione mucosa chì ùn si pò accade à e trè categorii ch'e aghju prupone, è crede chì trè d'elli si meritanu una atención particulari perchè puderanu esse utile in a ricerca suciale. Un esempiu hè u mercatu di predizioni, induve i participanti cumercianu è cumercii cuntratti chì sò redeemabile nantu à i rivenuti chì si sò in u mondu. I preghjunghje i mercati sò spessu usati da e imprese è i guverni per a previsione, è anu ancu utilizatu da i ricercati sociale per prevede a replicabilité di studi pubblicati in psiculugia (Dreber et al. 2015) . Per una generalizazione di i mercati di predizioni, vede Wolfers and Zitzewitz (2004) è Arrow et al. (2008) .
Un secondu esempiu chì ùn hè micca bè raviatu à u me schema di categurizazione hè u prughjettu PolyMath, induve i furmati di i culligaturi utilizanu i blog è wikis per pruvà i teorema matematii novi. U prughjettu PolyMath hè in certi modi simili à u Netflix Prize, ma in questu participanti di u prughjettu participante più attivu nantu à e solu parsunali di l'altri. Per più nantu à u prughjettu PolyMath, vede Gowers and Nielsen (2009) , Cranshaw and Kittur (2011) , Nielsen (2012) , è Kloumann et al. (2016) .
Un terzu esempiu chì ùn hè micca bè raviatu in u mo schema di categurizazione hè quellu di mobilizazioni di u tempu dipenditu cum'è l'Agenzia di Provene Avanzate di Ricerca di l'Agenzia di Proculu Ricerca (DARPA) Network Challenge (ie, u Red Balloon Challenge). Perchè più nantu à sta mobilizazioni sensibilizate in u tempu vede Pickard et al. (2011) , Tang et al. (2011) è Rutherford et al. (2013) .
U terminu "computation umanu" veni fora di u travagliu fattu da i scientifichi di l'informazioni, è capiscenu u cuntestu dopu à sta ricerca guariscenarà a vostra capacità à sceglie i prublemi chì ponu adattà per ellu. Per certu cumpagnu, i computers sò incredibbili forti, cù capacità superiore di quelli di parechji esperti umani. Per esempiu, in u scattivu, i computers ponnu batti ancu i megliurimi grandmasters. Ma-è questu hè menu apprizzata da i crescioni suciali-per altri tarei, i computers sò assai pitruna da pirsuni. In altri dritti, avà avà hè megliu da ancu l'informazione più sofistia cù certi pezzi chì participanu à l'attrazzamentu di l'imàgini, u video, l'audio è di u testu. I scientifichi di a tecnulugia chì travagliavanu nantu à issi cumpagnii forti di cumercii cumpresi i faciuli per u ghjattu umanu cunserveghjinu chì puderanu include l'omu in u so prucessu computational. Eccu cum'è Luis von Ahn (2005) detti a computazione umana quandu hà primu cuncene u terminu in a so dissertazione: "un paradigmu per utilizà u putere di procesatu umanu per risolviri prublemi chì i computers anu micca avutu solu". Per un trattamentu di libru di compulazione umana, in u sensu più generale di u termine, vede Law and Ahn (2011) .
Sicondu a definizione propositu in Ahn (2005) Foldit-ciò ch'e aghju scrittu in a rùbbrica nantu à chjamà aperta-pò esse cunsideratu un prughjettu di computation umanu. Tuttavia, aghju intigatu à categurizà Foldit com'è una calla aperta, perchè esige capacità spicificati (anchi si micca necessariu furmaldi formali) è si pò piglià a megliu solu cuntribuitu, invece d'utilizà una struttura di split-apply-combine.
U termu "split-apply-combine" hè statu usatu da Wickham (2011) per descrizanu una strateġija di informatica statistici, ma capisce perfettamenti u prucessu di parechje prughjetti di computation umanu. A split-apply-combine strateġija hè simili à u Parcu MapReduce sviluppatu in Google; per più nantu à MapReduce, vede Dean and Ghemawat (2004) è Dean and Ghemawat (2008) . Per più in l'altri architettoni di compute distribuiti, vede Vo and Silvia (2016) . U Chapter 3 di Law and Ahn (2011) hà una discussione di prughjetta cù i passagerii più cunti cumplessi cù quelli in questu capitulu.
In i prughjetti di càlculazioni umani chì avemu discututu in u capitu, i participanti eranu cunziggheri di ciò chì succidia. Arcuni altri prughjetti, però, cercanu di capisce "travagliu" chì ghjè accade (simile à eBird) è senza sensibilizazione participant. Vede, per esempiu, u ESP Game (Ahn and Dabbish 2004) è reCAPTCHA (Ahn et al. 2008) . Inoltre, i dui prughjetti (Zittrain 2008; Lung 2012) postu chì i participanti ùn sapianu chì a so dati anu da esse utilizati (Zittrain 2008; Lung 2012) .
Inspirati da ESP Game, parechji circhuli anu pruvatu à sviluppà altre "ghjochi cù u scopu" (Ahn and Dabbish 2008) (per esempiu, "ghjurnati di compute basatu in umani" (Pe-Than, Goh, and Lee 2015) ) chì pò esse utilizatu à risolve una variità di altre prublemi. Chì sò questi questi "ghjochi cù un scopu" sò in cumuni è pruvate à fà a so cumpagnia di a cumputazione umana piacè. Cusì, mentri l'ESP Game compie a stissa split-apply-combine structure with Galaxy Zoo, différia in quantu participatori sò motivati-fun versus un desertu per aiutà a scienza. Per più nantu à i ghjorni cun un propiu, vede Ahn and Dabbish (2008) .
A mo discrizzione di Galaxy Zoo si basa in Nielsen (2012) , Adams (2012) , Clery (2011) , è Hand (2010) , è a mo prisenza di i scopu di ricerca di u Galaxy Zoo hè simplificatu. Perchè più nantu à a storia di a classificazione di a galaxy in astronomia è cumu ghjunghje sta u tradimentu di a Galaxy Zoo, vede Masters (2012) è Marshall, Lintott, and Fletcher (2015) . Cuminciannu à u Galaxy Zoo, i circherosi cumpienu Galaxy Zoo 2 chì hà cullatu più di 60 millioni di classificazioni morphologichi più cumplessi da i voluntieri (Masters et al. 2011) . Ancu, ramificonu à prughjetta fora di a morfologia galaxia, inclatu l'esplorazione di a superficia di a Luna, circannu di i Panechji è transcribing documents antichi. Avà, tutti i so prughjetti sò cullate nantu à u situ web di Zooniverse (Cox et al. 2015) . Unu di i prughjette-Snapshot Serengeti-proved chì i prughjetti di classificazione di l'image di i Galaxy Zoo sò ancu fatti per a ricerca à l'ambiente (Swanson et al. 2016) .
Per i circunfaturi chì vulete usà un mercatu di travagliu di microtask (per esempiu, Amazon Mechanical Turk) per un cunghjettu di compulazione umana, Chandler, Paolacci, and Mueller (2013) è J. Wang, Ipeirotis, and Provost (2015) offre cunsiglii in u duminiu è altre prublemi cunnessi. Porter, Verdery, and Gaddis (2016) offre esempi è cunsiglii diretti in usu di i microtasi di i mercati di travagliu per ciò chì chjamanu "allargamentu di dati". A linea trà l'aumentazione di dati è a recopilazione di dati hè un sguardu borbu. Perchè più nantu à ughjettu è l'impegni stampati per u studientu verificatu per u testu, vede Grimmer and Stewart (2013) .
I ricchieri interested in creating what I called "computer-aided human computation systems" (per esempiu, sistemi chì utilizan l'etichege umani per furmà un mudellu di furmazione in furmazione) puderia esse interessatu in Shamir et al. (2014) (per un esempiu di l'audio) è Cheng and Bernstein (2015) . Inoltre, i mudelli di macchina mudlice in queste prughjetti pò esse solicitatu cù chjamati aperti, induve circà i cuncurrenza cumpete per creà mudili mudelli di studi cù u grandu predittuariu. Per esempiu, u ghjocu di u ghjocu di u Galaxy Zoo funria una invidera chjamata è truvò un novu apprunimentu chì superavanu l'sviluppatu in Banerji et al. (2010) ; vede Dieleman, Willett, and Dambre (2015) per i detti.
I calli aperti ùn sò micca novi. In fattu, una di i più chjucchi aperti cunnoscini cose in u 1714, quandu u Parramentu di a Gran Bretaña creà u Prix di Longitude per quellu chì puderia sviluppà un modu di determinà a longitude di una nave in mare. U problema stumped many of the greatest scientists of the days, including Isaac Newton, è a solu risposta fu eventualmente sottumessa da John Harrison, un reluariu da u paese chì avianu avviatu u prublema diversu da i scientisti chì anu focatu in una solu chì deveria implicà l'astronomia ; per più infurmazione, vede Sobel (1996) . Cumu stu esempiu illustra, un mutivu chì i chjami esterni sò pensati per travaglià cusì bè hè chì educanu l'accessibilità à e persone cù diversi perspettivi è i sapè (Boudreau and Lakhani 2013) . Vede Hong and Page (2004) è Page (2008) per più nantu à u valore di a diversità in u prublema.
Ogni chjave di u chjamate chjamà apertu in u capitulu necessitava un pocu di più spiegazione per quessa hè appartente in questa categoria. Prima, un modu chì distribinu entre u computtu umanu è i prughjetti di chjamate chjamate hè esse u pèrdita hè una media di e solu suluzione (compute umana) o a megliu solu (chjamata aperta). U Prezzi di Netflix hè un poveru malice in u sensu perchè a megliu risposta solu esse un mediu sofisticatu di suluzione individuali, un accordumente chjamatu solu solu (Bell, Koren, and Volinsky 2010; Feuerverger, He, and Khatri 2012) . Da a perspettiva di Netflix, tuttavia, tutte e cose ch'elli avianu a fari è pigghianu a megliu solu. Per più nantu à u Prix di Netflix, vede Bennett and Lanning (2007) , Thompson (2008) , Bell, Koren, and Volinsky (2010) , Feuerverger, He, and Khatri (2012) .
Sicunna, da quarchi definizzioni di computi umani (per esempiu, Ahn (2005) ), Foldit hè cunsideratu cum'è cunghjettu di cunghjettu umanu. Tuttavia, aghju intigatu à categurizà cum'è una calla aperta, perchè esiscia capacità spicificità (anchi ùn si sò micca necessariu a furmazione especialità) è si pò piglià a megliu solu, invece d'utilizà una struttura di split-apply-combine. Per sapenne di Foldit see, Cooper et al. (2010) , Khatib et al. (2011) è Andersen et al. (2012) ; A mo descrizzione di Foldit si basa in descrizzioni in Bohannon (2009) , Hand (2010) , è Nielsen (2012) .
Infine, si puderete argumentà chì Peer-to-Patent hè un esempiu di collectione di data distribuita. Aghju sceglete cumprenda cum'è una calla aperta, perchè hè una struttura cum'è cuncorsu, è solu i più boni cuntributi sò usati, mentri cume cù a reculle di distribuzione di dati, l'idea di e boni cuntributi boni è malamenti sò menu chjaru. Per più nantu à Peer-to-Patent, vede Noveck (2006) , Ledford (2007) , Noveck (2009) è Bestor and Hamp (2010) .
In termini di usu di chjamati aperti in a ricerca suciale, risultati simili di quelli di Glaeser et al. (2016) sò informati in u capu 10 di Mayer-Schönberger and Cukier (2013) chì a New York City hà capaci d'utilizà mudeli predictivi per pruducia granni guadagnà in a produtitività di spetturi d'abitazioni. In New York City, sti mudelli predittimi foru custruiuti da l'impiegati di a cità, ma in altri casi, si puderanu imagine chì puderanu esse creatu o migliore cù i chjami aperti (per esempiu, Glaeser et al. (2016) ). In ogni casu, una prublema maiò di mudelli predittimi chì sò utilizati per attribuisce i risorsi hè chì questi mudelli anu u puderevule à rinfurzà i preghjudizi prisenti. Parechji studienti anu saputu "cuddaru in u spaziu," è cù mudelli predictivi ponu esse "viaghjate, viaghjate fora". Vede Barocas and Selbst (2016) è O'Neil (2016) per più nantu à i periculi di mudelli predittimi mudificati incù un cuntinuu di furmazione persone.
Un prublema chì impedisce u guvernu utilizendu cuncorsi aperti hè chì questu libra di data, chì puderia riesce à privilighie viulazione. Per più nantu à privacy è dati à liberazione in i chjami aperti, vede Narayanan, Huey, and Felten (2016) è a discussione in u capitu 6.
Per più nantu à e diffirenzii è similii trà preghjunzione è spiegazione, vede Breiman (2001) , Shmueli (2010) , Watts (2014) è Kleinberg et al. (2015) . Per di più nantu à u rolu di saggi in ricerca suciale, vede Athey (2017) , Cederman and Weidmann (2017) , Hofman, Sharma, and Watts (2017) , ( ??? ) , è Yarkoni and Westfall (2017) .
Per una rivista di prughjetti chjamati aperti in bioluggìa, cumpresu cunsiglii di designe, vede Saez-Rodriguez et al. (2016) .
A mo discrizzione di eBird tira nantu à e descrizzioni in Bhattacharjee (2005) , Robbins (2013) è Sullivan et al. (2014) . Per più nantu à cumu i circunzieri utilizanu mudelli statistici per analisi eBird data, vedi Fink et al. (2010) è Hurlbert and Liang (2012) . Per più nantu à stallà a sapè di i participanti eBird, vede Kelling, Johnston, et al. (2015) . Per più nantu à a storia di a scienza di i citadini in ornitologia, vede Greenwood (2007) .
Per più nantu à u Project Malawi di Journals, vede Watkins and Swidler (2009) è Kaler, Watkins, and Angotti (2015) . Per più nantu à un prughjettu relatatu in Sudafrica, vede Angotti and Sennott (2015) . Perchè più esempi di a ricerca usando data di u Prughjettu di i Kaler (2004) Malawi vistanu Kaler (2004) è Angotti et al. (2014) .
U me avvutimentu à avvisà cunsiglii di disignu era inductive, basatu annantu à l'esempi di i prughjetti di collazione cù u successu di massa chì aghju intesu. Ci hè ancu un corpu di ricerca attentatu di applicà teori più generali di a psicologica suciale per disignà e cumunità on line chì hè impurtante per u disignu di prughjetti di colazione civile, vede, per esempiu, Kraut et al. (2012) .
Circà à i participanti motivatori, hè veramente bellu ridore per esse precisamente da perchè e persone participanu à i prughjetti di colazione civile (Cooper et al. 2010; Nov, Arazy, and Anderson 2011; Tuite et al. 2011; Raddick et al. 2013; Preist, Massung, and Coyle 2014) . Se pensa à motivà i participanti cù u pagamentu in un mercatu di travagliu di microtask (per esempiu, Amazon Mechanical Turk), Kittur et al. (2013) offre cunsiglii.
Rigulamentu per esse sorpresa, per più esempi di scuperti in l'espertu chì venenu fora di i prucessi di u Zooci, vedi Marshall, Lintott, and Fletcher (2015) .
In quantu è bisognu, qualcunu preghjunghje generale per i quistioni implicati sò Gilbert (2015) , Salehi et al. (2015) , Schmidt (2013) , Williamson (2016) , Resnik, Elliott, and Miller (2015) è Zittrain (2008) . Per i prublemi spezialement ligati à tematichi legale incù un Felstiner (2011) , vedi Felstiner (2011) . O'Connor (2013) ponu accumpagnà direttamente nantu à i pruduttori etiċi di a ricerca quandu i roli di i circhieri è i participanti sfucenu. Per i tematichi à cullighendu parechje à prutezzione di i participanti in i prughjetti di a ciencia citadina, vede Bowser et al. (2014) . Tant Purdam (2014) è Windt and Humphreys (2016) anu da discussione nantu à i prublemi etiċi in a cullizzioni di data distribuita. Infine, a maiò parte di i prughjetti ricunniscenu i cuntributi ma ùn dettanu micca creditu di l'autore per i participanti In Foldit, i jugatori sò spessu listu di l'autore (Cooper et al. 2010; Khatib et al. 2011) . In altri prughjetti di u chjamate chjamatu, u cullettivu guidanu spessu scrive un documentu chì descrizanu e so solu (per esempiu, Bell, Koren, and Volinsky (2010) è Dieleman, Willett, and Dambre (2015) ).