Þessi hluti er hannað til að nota sem viðmiðun, frekar en að vera að lesa sem frásögn.
Mass samstarf blandar hugmyndir frá borgara vísindi, bing, og sameiginlega upplýsingaöflun. Citizen vísindi þýðir venjulega felur "borgara" (þ.e. ekki vísindamenn) í vísindalegum ferli (Crain, Cooper, and Dickinson 2014) . Bing þýðir venjulega að taka vandamál yfirleitt leyst innan stofnunarinnar og í staðinn útvistun það til mannfjöldi (Howe 2009) . Sameiginlega upplýsingaöflun þýðir yfirleitt hópa einstaklinga sem starfa sameiginlega á þann hátt sem virðast greindur (Malone and Bernstein 2015) . Nielsen (2012) er yndislegt bók lengd kynning í krafti massa samvinnu til vísindarannsókna.
There ert margir tegund af massa samvinnu sem passa ekki nákvæmlega inn í þrjá flokka sem ég fyrirhuguðum, og ég held að þrjár verðskulda sérstaka athygli vegna þess að þeir gætu nýst í félagslegri rannsóknir á einhverjum tímapunkti. Eitt dæmi er spá mörkuðum, þar sem þátttakendur kaupa og viðskipti samningar sem innleysanlegir byggjast á niðurstöðum sem eiga sér stað í heiminum (Wolfers and Zitzewitz 2004; Arrow et al. 2008) . Spá markaðir eru oft notuð af fyrirtækjum og ríkisstjórnum til að spá og spá markaðir hafa einnig verið notuð af félagslegum vísindamenn að spá fyrir um yfirfærslu birtum rannsóknum í sálfræði (Dreber et al. 2015) .
Annað dæmi sem passar ekki vel inn í flokkunarkerfis kerfi minn er polymath verkefnið, þar sem vísindamenn unnu að nota blogg og Wikis að sanna nýja stærðfræði setningin (Gowers and Nielsen 2009; Cranshaw and Kittur 2011; Nielsen 2012; Kloumann et al. 2016) . The polymath Verkefnið er að sumu leyti svipað og Netflix Nóbels, en í þátttakendum polymath verkefninu virkari byggð á hluta lausnir annarra.
Þriðja dæmið sem passar ekki vel inn í flokkunarkerfis kerfi mitt er tímaháð mobilizations svo sem eins og varnarsamningnum Advanced Research Projects Agency (DARPA) Network Challenge (þ.e. Red Balloon Challenge). Fyrir meira á þessum tíma viðkvæm Mobilizations sjá Pickard et al. (2011) , Tang et al. (2011) , og Rutherford et al. (2013) .
Hugtakið "mannlegt útreikningur" kemur út úr vinnu af vísindamönnum tölva, og skilja samhengið á bak þessari rannsókn mun bæta getu þína til að ná fram vandamál sem gætu verið unnt að henni. Fyrir tiltekin verkefni, eru tölvur ótrúlega öflugur með getu langt umfram jafnvel sérfræðingur menn. Til dæmis, í skák, tölvur geta slá jafnvel bestu Grand Masters. En og þetta er ekki eins vel þegið með félagslegum vísindamenn-fyrir önnur verkefni, tölvur eru í raun mun verri en fólk. Með öðrum orðum, núna þú ert betri en jafnvel háþróaður tölva á tilteknum verkefnum sem fela í sér vinnslu myndum, myndskeiðum, hljóði og texta. Svona-eins og var sýnt með frábæra XKCD teiknimynd-það eru verkefni sem auðvelt er fyrir tölvur og erfitt fyrir fólk, en það eru líka verkefni sem erfitt er fyrir tölvur og auðvelt fyrir fólk (Mynd 5.13). Tölva vísindamenn vinna á þessum harða-fyrir-tölvur-auðvelt-að-mönnum verkefni, því ljóst að þeir gætu menn í computational ferli þeirra. Hér er hvernig Luis von Ahn (2005) lýst mönnum útreikningur þegar hann bjó fyrst hugtakið í ritgerð sinni: ". A fyrirmynd fyrir nýtingu manna vinnslugetu til að leysa vandamál sem tölvur geta ekki leyst"
Með þessari skilgreiningu FoldIt-sem ég lýst í kaflanum um opinn símtöl-gæti talist mannlegur útreikningur verkefni. Hins vegar er ég valið að flokka FoldIt sem opinn kalla því það þarf sérhæfða kunnáttu og það tekur besta lausnin stuðlað frekar en að nota split-gilda-sameina stefnu.
Fyrir framúrskarandi bók lengd meðferð manna útreikningur, í flestum almennum skilningi þess orðs, sjá Law and Ahn (2011) . 3. kafla Law and Ahn (2011) er áhugaverð umfjöllun um flóknari sameina skrefum en þær í þessum kafla.
Hugtakið "hættu-gilda-sameina" var notað af Wickham (2011) til að lýsa stefnu um tölfræðilegar tölvumál, en það tekur fullkomlega ferlið margra manna verkefnum útreikningur. The hættu-gilda-sameina stefnu er svipað MapReduce ramma þróað á Google (Dean and Ghemawat 2004; Dean and Ghemawat 2008) .
Tveir snjall mönnum útreikningur verkefni sem ég ekki hafa pláss til að ræða eru ESP Game (Ahn and Dabbish 2004) og reCAPTCHA (Ahn et al. 2008) . Bæði þessi verkefni komist skapandi leiðir til að hvetja þátttakendur til að veita merki á myndum. Hins vegar, bæði þessi verkefni einnig vakið siðferðilegar spurningar vegna þess að ólíkt Galaxy Zoo, þátttakendur í leik ESP og reCAPTCHA ekki vita hvernig gögn þeirra var notuð (Lung 2012; Zittrain 2008) .
Innblásin af ESP Game, hafa margir vísindamenn reynt að þróa aðra "leikur með tilgang" (Ahn and Dabbish 2008) (þ.e. "útreikningur manna-undirstaða leikur" (Pe-Than, Goh, and Lee 2015) ) sem hægt er að er notað til að leysa ýmis önnur vandamál. Hvað þessi "leikur með tilgang" hafa sameiginlegt er að þeir reyna að gera þau verkefni sem tengjast mannlegri útreikningur skemmtilegt. Svona, meðan ESP Game deilir sömu split-gilda-sameina uppbyggingu með Galaxy Zoo, ólíkt því í hvernig þátttakendur eru áhugasamir-gaman vs löngun til að hjálpa vísindi.
Lýsing mín á Galaxy Zoo byggir á Nielsen (2012) , Adams (2012) , Clery (2011) , og Hand (2010) , og framsetning mín rannsókna markmiðum Galaxy Zoo var einfaldað. Fyrir meira um sögu flokkun vetrarbrauta í stjörnufræði og hvernig Galaxy Zoo áfram þessa hefð, sjá Masters (2012) og Marshall, Lintott, and Fletcher (2015) . Building á Galaxy Zoo, sem vísindamenn lokið Galaxy Zoo 2 sem safnað meira en 60 milljónir flóknari útlitseinkenni flokkanir frá sjálfboðaliðum (Masters et al. 2011) . Ennfremur, branched þeir út í vandræðum utan Galaxy formgerð meðal kanna yfirborð tunglsins, leita plánetum, og umritun gömul skjöl. Eins og er, eru öll verkefni sín safnað á www.zooniverse.org (Cox et al. 2015) . Eitt af verkefnum-Snapshot Serengeti-sönnur á að Galaxy Zoo-gerð mynd flokkun verkefna einnig hægt að gera fyrir umhverfisrannsóknir (Swanson et al. 2016) .
Fyrir vísindamenn ætlar að nota ör-verkefni vinnumarkaði (td Amazon Mechanical Turk) fyrir manneskju útreikningur verkefni, Chandler, Paolacci, and Mueller (2013) og Wang, Ipeirotis, and Provost (2015) eru góð ráð um hönnun verkefni og önnur málefni.
Vísindamenn sem hafa áhuga á að búa til það sem ég hef kallað annarri kynslóð manna útreikningur kerfi (td kerfi sem ætluð eru mönnum merki að þjálfa vél læra líkan) gæti haft áhuga á Shamir et al. (2014) (til dæmi með hljóð) og Cheng and Bernstein (2015) . Einnig, þessi verkefni er hægt að gera með opnum símtöl, þar vísindamenn keppt að búa líkön með mesta sjálfvirkri árangur. Til dæmis, Galaxy Zoo liðið hljóp opið símtal og fann nýja nálgun sem umfram einn þróað í Banerji et al. (2010) ; sjá Dieleman, Willett, and Dambre (2015) fyrir nánari upplýsingar.
Opið símtöl eru ekki ný. Í raun einn af the heilbrigður-þekktur opinn símtöl nær aftur til 1714 þegar Breta þingið skapaði Lengdargráða verðlaunin fyrir neinn sem gæti skapast leið til að ákvarða lengdargráðu skips á sjó. Vandamálið stumped margir af stærstu vísindamönnum af dögum, þar á meðal Isaac Newton, og aðlaðandi lausn var að lokum lögð af clockmaker úr sveit sem nálgast vandamál á annan hátt frá vísindamönnum sem voru lögð áhersla á lausn sem myndi einhvern veginn í för með sér stjörnufræði (Sobel 1996) . Þar sem þetta dæmi sýnir, ein ástæða þess að opna símtöl eru talin vinna svo vel er að þeir veita aðgang að fólki með mismunandi sjónarhornum og færni (Boudreau and Lakhani 2013) . Sjá Hong and Page (2004) og Page (2008) til fleiri á verðmæti fjölbreytni í að leysa vandamál.
Hver af opnum tilvikum að hringja í kafla krefst smá nánari útskýringu fyrir því hvers vegna það tilheyrir þessum flokki. First, ein leið sem ég greina á milli manna útreikningur og opin verkefni kalla er hvort framleiðsla er að meðaltali allar lausnir (manna útreikningur) eða bestu lausnina (opin kalla). The Netflix Prize er nokkuð erfiður í þessum efnum vegna þess að besta lausnin reyndist vera háþróuð meðaltali einstakra lausna, sem nálgast kallast Ensemble lausn (Bell, Koren, and Volinsky 2010; Feuerverger, He, and Khatri 2012) . Frá sjónarhóli Netflix, þó allt sem þeir þurftu að gera var að velja bestu lausnina.
Í öðru lagi, af sumum skilgreiningum manna útreikningur (td, Von Ahn (2005) ), FoldIt skal íhuga mönnum útreikningur verkefni. Hins vegar er ég valið að flokka FoldIt sem opinn kalla því það þarf sérhæfða kunnáttu og það tekur besta lausnin stuðlað, frekar en að nota split-gilda-sameina stefnu.
Að lokum, má segja að Peer-til-Patent er dæmi um söfnun dreift gagna. Ég kýs að fela það sem opinn kalla því það hefur keppni-eins og uppbygging og aðeins bestu framlög eru notuð (þar með söfnun dreift gagnasöfnun, hugmyndin af góðum og slæmum framlögum er óljósara).
Fyrir meira á Netflix verðlaunin, sjá Bennett and Lanning (2007) , Thompson (2008) , Bell, Koren, and Volinsky (2010) , og Feuerverger, He, and Khatri (2012) . Frekari upplýsingar um FoldIt sjá, Cooper et al. (2010) , Andersen et al. (2012) , og Khatib et al. (2011) ; lýsing mín á FoldIt byggir á lýsingum í Nielsen (2012) , Bohannon (2009) , og Hand (2010) . Frekari upplýsingar um jafningi-til-Patent, sjá Noveck (2006) , Bestor and Hamp (2010) , Ledford (2007) , og Noveck (2009) .
Líkur á niðurstöðum Glaeser et al. (2016) , Mayer-Schönberger and Cukier (2013) , kafli 10 skýrslur stór hagnaður í framleiðni skoðunarmanna húsnæði í New York þegar skoðanir eru leidd af sjálfvirkri módel. Í New York City, voru þessir spálíkönum byggð af starfsmanna borgarinnar, en í öðrum tilvikum, einn gæti ímyndað sér að þau gætu verið búin eða bæta með opnum símtöl (td Glaeser et al. (2016) ). Hins vegar einn stór áhyggjuefni með spálíkönum notuð til að úthluta fjármagni er að líkön hafa tilhneigingu til að styrkja núverandi hlutdrægni. Margir vísindamenn vita nú þegar "sorp í, sorp út", og með sjálfvirkri módel það getur verið "hlutdrægni í, hlutdrægni út." Sjá Barocas and Selbst (2016) og O'Neil (2016) fyrir fleiri á þeim hættum sem spálíkönum byggð með hlutdrægum upplýsingum þjálfun.
Eitt vandamál sem gætu komið í veg fyrir ríkisstjórnir noti opna keppni er að það þarf gögn losun, sem gæti leitt til brota næði. Fyrir meira um persónuvernd og gögn gefa út í opnum símtöl sjá Narayanan, Huey, and Felten (2016) og umfjöllun í 6. kafla.
Lýsing mín á eBird byggir á lýsingum í Bhattacharjee (2005) og Robbins (2013) . Frekari upplýsingar um hvernig vísindamenn nota tölfræðileg líkön til að greina eBird gögn sjá Hurlbert and Liang (2012) og Fink et al. (2010) . Fyrir meira um sögu borgara vísinda í ornothology, sjá Greenwood (2007) .
Fyrir meira um Malaví Journals Project, sjá Watkins and Swidler (2009) og Kaler, Watkins, and Angotti (2015) . Og fyrir meira á tengdum verkefni í Suður-Afríku, sjá Angotti and Sennott (2015) . Fyrir frekari dæmi um rannsóknir með gögnum frá Malawi Journals Project sjá Kaler (2004) og Angotti et al. (2014) .
nálgun mín að bjóða hönnun ráðgjöf var inductive, byggt á dæmi um vel og tókst massi samvinnu verkefni sem ég hef heyrt um. Það er einnig straum af rannsóknum er reynt að beita fleiri almennar félagslegar kenningar sálfræðinga til að hanna online samfélög sem skipta máli við hönnun massa verkefni samvinnu, sjá, til dæmis, Kraut et al. (2012) .
Varðandi baki þátttakendur, það er í raun alveg erfitt að reikna út nákvæmlega hvers vegna fólk að taka þátt í massa samstarfsverkefnum (Nov, Arazy, and Anderson 2011; Cooper et al. 2010, Raddick et al. (2013) ; Tuite et al. 2011; Preist, Massung, and Coyle 2014) . Ef þú ætlar að hvetja þátttakendur með greiðslu á ör-verkefni vinnumarkaði (td Amazon Mechanical Turk) Kittur et al. (2013) býður upp á nokkur ráð.
Varðandi gerir óvart, að fleiri dæmi um óvæntar uppgötvanir koma út úr Zoouniverse verkefna, sjá Marshall, Lintott, and Fletcher (2015) .
Varðandi að vera siðferðileg, nokkrar góðar almennar inngangi að málefni sem taka þátt eru Gilbert (2015) , Salehi et al. (2015) , Schmidt (2013) , Williamson (2016) , Resnik, Elliott, and Miller (2015) , og Zittrain (2008) . Fyrir málefni sérstaklega tengjast lagaleg atriði með mannfjöldi starfsmenn, sjá Felstiner (2011) . O'Connor (2013) fjallar spurningar um siðferðileg eftirlit rannsókna þegar hlutverk vísindamanna og þátttakenda þoka. Fyrir málefni sem tengjast hlutdeild gögn meðan vernda participats í Citizen vísindi verkefnum, sjá Bowser et al. (2014) . Bæði Purdam (2014) og Windt and Humphreys (2016) hafa einhverja umræðu um siðferðileg málefni í safni dreift gögnum. Að lokum, viðurkenna flest verkefni framlög en ekki gefast höfundarmerki inneign til þátttakenda. Í Foldit eru Foldit leikmenn oft skráð sem höfundur (Cooper et al. 2010; Khatib et al. 2011) . Í öðrum verkefnum opinn kalla, aðlaðandi framlag getur oft skrifað grein þar sem lýst lausnir þeirra (td Bell, Koren, and Volinsky (2010) og Dieleman, Willett, and Dambre (2015) ). Í Galaxy Zoo fjölskyldu verkefna, eru mjög virkir og mikilvægir þátttakendur stundum boðið að vera meðhöfundar á pappíra. Til dæmis, Ivan Terentev og Tim Matorny, tveir Radio Galaxy Zoo þátttakendur frá Rússlandi, voru meðhöfundar á einn af fyrirlestrum sem vöknuðu úr því verkefni (Banfield et al. 2016; Galaxy Zoo 2016) .