Amasa kunlaboro miksas ideojn de civitana scienco , amaskomunikado kaj kolektiva inteligenteco . Civitana scienco kutime signifas partopreni "civitanojn" (te, ne sciencajn) en la scienca procezo; Por pli, vidu Crain, Cooper, and Dickinson (2014) kaj Bonney et al. (2014) . Crowdsourcing kutime signifas preni problemon ĝenerale solvita ene de organizo kaj anstataŭe outsourcing ĝin al amaso; Por pli, vidu Howe (2009) . Kolektiva inteligenteco kutime signifas grupojn de individuoj agante kolektive en vojoj, kiuj aspektas inteligentaj; Por pli, vidu Malone and Bernstein (2015) . Nielsen (2012) estas libro-longa enkonduko al la potenco de masa kunlaboro por scienca esplorado.
Estas multaj tipoj de amasaj kunlaboroj, kiuj ne taŭgas al la tri kategorioj, kiujn mi proponis, kaj mi opinias, ke tri el ili meritas specialan atenton, ĉar ili povus esti utilaj en socia esplorado. Unu ekzemplo estas prognozaj merkatoj, kie partoprenantoj aĉetas kaj komercas kontraktojn, kiuj povas esti elaĉeteblaj laŭ la rezultoj de la mondo. Antaŭdiroj de merkatoj estas ofte uzataj de firmaoj kaj registaroj por antaŭvido, kaj ili ankaŭ uzis sociajn esploristojn por antaŭdiri la replicabilidad de publikaj studoj en psikologio (Dreber et al. 2015) . Por superrigardo de prognozaj merkatoj, vidu Wolfers and Zitzewitz (2004) kaj Arrow et al. (2008) .
Dua ekzemplo, kiu ne taŭgas bone en mian kategorion, estas la projekto de PolyMath, kie esploristoj kunlaboris per blogoj kaj vikioj por pruvi novajn matematikajn teoremojn. La projekto de PolyMath estas simila al la Premio Netflix, sed en ĉi tiu projekto, la partoprenantoj pli aktive konstruis la partajn solvojn de aliaj. Por pli da pri la PolyMath-projekto, vidu Gowers and Nielsen (2009) , Cranshaw and Kittur (2011) , Nielsen (2012) , kaj Kloumann et al. (2016) .
Tria ekzemplo, kiu ne taŭgas bone al mia kategoriiga plano, estas la tempo-dependaj mobilizoj kiel ekzemple Defenda Reto-Projekto-Agentejo (DARPA) Reto-Defio (te la Ruĝa Globo-Defio). Por pli da ĉi tiuj sentemaj mobilizoj vidu Pickard et al. (2011) , Tang et al. (2011) , kaj Rutherford et al. (2013) .
La termino "homa komputado" ellaboras fare de komputikaj sciencistoj, kaj komprenante la kuntekston malantaŭ ĉi tiu esplorado plibonigos vian kapablon elekti problemojn, kiuj povus esti taŭgaj por ĝi. Por certaj taskoj, komputiloj estas nekredeble potencaj, kun kapabloj multe pli superaj ol eĉ spertaj homoj. Ekzemple, en ŝako, komputiloj povas bati eĉ la plej bonajn majstrojn. Sed - kaj ĉi tio estas malpli bone estimita fare de sociaj sciencistoj - por aliaj taskoj, komputiloj estas vere multe pli malbonaj ol homoj. Alivorte, nun vi estas pli bona ol eĉ la plej altnivela komputilo ĉe certaj taskoj engaĝantaj por prilaborado de bildoj, filmetoj, aŭdoj kaj teksto. Komputilaj sciencistoj laborantaj pri ĉi tiuj malmolaj komputiloj-facilaj por homaj taskoj do komprenis, ke ili povus inkluzivi homojn en sia komputila procezo. Jen kiel Ludoviko von Ahn (2005) priskribis homan komputadon kiam li unue stampis la terminon en sia disertacio: "paradigma por utiligi homan pretigan potencon por solvi problemojn, kiujn komputiloj ankoraŭ ne povas solvi." Por libro-longa traktado de homa komputado, la plej ĝenerala sento de la termino, vidu Law and Ahn (2011) .
Laŭ la difino proponita en Ahn (2005) Foldit - kiun mi priskribis en la sekcio de malfermitaj alvokoj - povus esti konsiderata kiel homa komputila projekto. Tamen, mi elektas kategoriigi Foldit kiel alvokon ĉar ĝi postulas specialajn kapablojn (kvankam ne necese formala trejnado) kaj ĝi prenas la plej bonan solvon kontribuatan, anstataŭ uzi dividon-apliki-kombinitan strategion.
La termino "split-apply-combine" estis uzata fare de Wickham (2011) por priskribi strategion por statistika komputado, sed ĝi perfekte kaptas la procezon de multaj homaj komputilaj projektoj. La divido-apliki-kombina strategio estas simila al la MapReduce-kadro evoluigita ĉe Google; Por pli da pri MapReduce, vidu Dean and Ghemawat (2004) kaj Dean and Ghemawat (2008) . Por pli da aliaj distributaj komputikaj arkitekturoj, vidu Vo and Silvia (2016) . Ĉapitro 3 de Law and Ahn (2011) diskutas pri projektoj kun pli kompleksaj kombinaĵoj, ol tiuj en ĉi tiu ĉapitro.
En la homaj komputilaj projektoj, kiujn mi diskutis en la ĉapitro, la partoprenantoj eksciis pri kio okazis. Kelkaj aliaj projektoj, tamen, celas kapti "laboron", kio jam okazas (simila al eBird) kaj sen partoprenanto. Vidu, ekzemple, la ESP-Ludo (Ahn and Dabbish 2004) kaj reCAPTCHA (Ahn et al. 2008) . Tamen, ambaŭ ĉi tiuj projektoj ankaŭ levas etikajn demandojn ĉar partoprenantoj ne sciis, kiel iliaj datumoj estis uzataj (Zittrain 2008; Lung 2012) .
Inspirita de la Ludo de ESP, multaj esploristoj provis disvolvi aliajn "ludojn kun celo" (Ahn and Dabbish 2008) (tio estas, "hom-bazitaj komputilaj ludoj" (Pe-Than, Goh, and Lee 2015) ), kiuj povas esti kutimis solvi diversajn aliajn problemojn. Kiuj ĉi tiuj "ludoj kun celo" komune estas, ke ili provas ĝui la taskojn okupitajn en homa komputado. Tiel, dum la ESP-ludo dividas la saman disigon-apliki-kombinitan strukturon kun Galaksio-Zoo, ĝi diferencas kiel la partoprenantoj estas tre amuzaj kontraŭ deziro helpi sciencon. Por pli da ludoj kun celo, vidu Ahn and Dabbish (2008) .
Mia priskribo de Galaksio-Zoo traktas Nielsen (2012) , Adams (2012) , Clery (2011) , kaj Hand (2010) , kaj mia prezento de la esploraj celoj de Galaksio-Zoo estis simpligita. Por pli pri la historio de galaksia klasifiko en astronomio kaj kiel Galaksia Zoo daŭrigas ĉi tiun tradicion, vidu Masters (2012) kaj Marshall, Lintott, and Fletcher (2015) . Konstruante sur Galaksio-Zoo, la esploristoj kompletigis Galaksion Zoo 2, kiuj kolektis pli ol 60 milionojn da pli kompleksaj morfologiaj klasifikoj de volontuloj (Masters et al. 2011) . Plue, ili rampis ekstere al problemoj ekster la galaksia morfologio, inkluzive de esplori la surfacon de la Luno, serĉante planedojn kaj transskribi malnovajn dokumentojn. Nuntempe, ĉiuj iliaj projektoj kolektas ĉe la retejo de Zooniverse (Cox et al. 2015) . Unu el la projektoj-Snapshot Serengeti -provas evidentecon, ke Galaxy Zoo-tipo bildaj projektoj de projektado ankaŭ povas esti faritaj por ekologia esplorado (Swanson et al. 2016) .
Por esploristoj, kiuj planas uzi microtask laboremerkonon (ekzemple, Mekanika Turka Amazono) por homa komputila projekto, Chandler, Paolacci, and Mueller (2013) kaj J. Wang, Ipeirotis, and Provost (2015) proponas bonajn konsilojn pri tasko-desegno kaj aliaj rilataj aferoj. Porter, Verdery, and Gaddis (2016) proponas ekzemplojn kaj konsilojn centritajn specife pri uzoj de mikskaskaj laborkercatoj pro tio, kion ili nomas "pliigo de datumoj". La linio inter datuma kresko kaj datuma kolekto estas iom neklara. Por pli da pri kolektado kaj uzado de etiketoj por supervisita lernado por teksto, vidu Grimmer and Stewart (2013) .
Esploristoj interesataj pri kreado de tio, kion mi nomis komputil-helpitaj homaj komputilaj sistemoj (ekz. Sistemoj, kiuj uzas homajn etikedojn por trejni maŝinan lernadon) povus interesiĝi pri Shamir et al. (2014) (ekzemple ekzemplo uzante audio) kaj Cheng and Bernstein (2015) . Ankaŭ, la maŝinaj modeloj en ĉi tiuj projektoj povas esti invititaj per malfermitaj alvokoj, per kiuj esploristoj konkurencas krei maŝinajn lernilojn kun la plej granda prognozaj agado. Ekzemple, la teamo de la Galaksia Zoo kuris malfermitan vokon kaj trovis novan alproksimiĝon, kiu superis la unu evoluinta en Banerji et al. (2010) ; vidu Dieleman, Willett, and Dambre (2015) por detaloj.
Malfermaj alvokoj ne estas novaj. Fakte, unu el la plej konataj malfermaj alvokoj datiĝas de 1714 kiam la Parlamento de Britio kreis la Longan Premion por iu ajn, kiu povus disvolvi formon por determini la longon de ŝipo ĉe maro. La problemo stumblis multajn el la plej grandaj sciencistoj de la tagoj, inkluzive de Isaac Newton, kaj la venkanta solvo estis poste submetita fare de John Harrison, horloĝisto de la kamparano kiu alproksimiĝis al la problemo malsame de sciencistoj kiuj estis koncentritaj sur solvo kiu iel implicus astronomion ; Por pliaj informoj, vidu Sobel (1996) . Kiel ĉi tiu ekzemplo ilustras, unu kialo, ke malfermitaj alvokoj pensas bone labori, estas ke ili havigas aliron al homoj kun malsamaj perspektivoj kaj kapabloj (Boudreau and Lakhani 2013) . Vidu Hong and Page (2004) kaj Page (2008) por pli pri la valoro de diverseco en problem-solvado.
Ĉiu el la malfermaj vokaj kazoj en la ĉapitro postulas iom pli da ekspliko pri kial ĝi apartenas en ĉi tiu kategorio. Unue, unu maniero, kiun mi distingas inter homa komputado kaj malfermitaj alvokoj, estas ĉu la eligo estas mezumo de ĉiuj solvoj (homa komputado) aŭ la plej bona solvo (malferma voko). La Netflix-premio estas iom malfacila pro tio, ĉar la plej bona solvo fariĝis kompleksa mezumo de individuaj solvoj, alproksimiĝo nomata ensembla solvo (Bell, Koren, and Volinsky 2010; Feuerverger, He, and Khatri 2012) . De la perspektivo de Netflix, tamen, ĉio, kion ili devis fari, elektis la plej bonan solvon. Por pli da pri la Netflix-Premio, vidu Bennett and Lanning (2007) , Thompson (2008) , Bell, Koren, and Volinsky (2010) , kaj Feuerverger, He, and Khatri (2012) .
Due, per iuj difinoj de homa komputado (ekz. Ahn (2005) ), Foldit devus esti konsiderata kiel homa komputila projekto. Tamen, mi elektas kategorii ĝin kiel alvokon ĉar ĝi postulas specialajn kapablojn (kvankam ne necese trejnita) kaj ĝi prenas la plej bonan solvon, anstataŭ uzi dividon-apliki-kombinitan strategion. Por pli pri Foldit, Cooper et al. (2010) , Khatib et al. (2011) , kaj Andersen et al. (2012) ; Mia priskribo de Foldit desegnas priskribojn en Bohannon (2009) , Hand (2010) , kaj Nielsen (2012) .
Fine, oni povus argumenti, ke Peer-to-Patent estas ekzemplo de disdonita datumkolekto. Mi elektas inkluzivi ĝin kiel alvokon ĉar ĝi havas konkurson-similan strukturon kaj nur la plej bonajn kontribuojn estas uzataj, sed kun distribuado de datumoj, la ideo de bonaj kaj malbonaj kontribuoj estas malpli klara. Por pli da pri Peer-to-Patent, vidu Noveck (2006) , Ledford (2007) , Noveck (2009) , kaj Bestor and Hamp (2010) .
Koncerne uzi malfermajn alvokojn en socia esplorado, rezultoj similaj al tiuj de Glaeser et al. (2016) , estas raportitaj en ĉapitro 10 de Mayer-Schönberger and Cukier (2013) per kiuj Novjorko povis uzi antaŭdiskajn modelojn por produkti grandajn gajnojn en la produktiveco de loĝigaj inspektistoj. En Novjorko, ĉi tiuj antaŭdiskaj modeloj estis konstruitaj de urbaj dungitoj, sed en aliaj kazoj oni povus imagi, ke ili povus esti kreitaj aŭ plibonigitaj per malfermitaj alvokoj (ekz., Glaeser et al. (2016) ). Tamen, unu grava maltrankvilo kun antaŭdemaj modeloj uzataj por atribui rimedojn estas, ke ĉi tiuj modeloj havas la eblecon plifortigi ekzistantajn antaŭjuĝojn. Multaj esploristoj jam scias "rubo, rubo," kaj kun prognozaj modeloj ĝi povas "preterpasi". "Vidu Barocas and Selbst (2016) kaj O'Neil (2016) por pli da danĝeroj de antaŭdemaj modeloj konstruitaj kun biasaj trejnaj datumoj.
Unu problemo, kiu povus malhelpi registarojn uzi malfermajn konkursojn, estas ke ĉi tio postulas datan liberigon, kio povus konduki al privataj malobservoj. Por pli pri privata kaj datuma eldono en malfermitaj alvokoj, vidu Narayanan, Huey, and Felten (2016) kaj la diskuton en ĉapitro 6.
Por pli da pri la diferencoj kaj similecoj inter antaŭdiro kaj ekspliko, vidu Breiman (2001) , Shmueli (2010) , Watts (2014) , kaj Kleinberg et al. (2015) . Por pli pri la rolo de antaŭdiro en socia esploro, vidu Athey (2017) , Cederman and Weidmann (2017) , Hofman, Sharma, and Watts (2017) , ( ??? ) , Kaj Yarkoni and Westfall (2017) .
Por revizio de malfermaj alvokaj projektoj en biologio, inkluzive de dezajnaj konsiloj, vidu Saez-Rodriguez et al. (2016) .
Mia priskribo de eBird traktas priskribojn en Bhattacharjee (2005) , Robbins (2013) , kaj Sullivan et al. (2014) . Por pli da kiel esploristoj uzas statistikajn modelojn por analizi eBird-datumojn, vidu Fink et al. (2010) kaj Hurlbert and Liang (2012) . Por pli da taksado pri la lerteco de eBird-partoprenantoj, vidu Kelling, Johnston, et al. (2015) . Por pli pri la historio de civitana scienco en ornitologio, vidu Greenwood (2007) .
Por pli da pri Malaviaj Revuoj-Projekto, vidu Watkins and Swidler (2009) kaj Kaler, Watkins, and Angotti (2015) . Por pli da rilata projekto en Sudafriko, vidu Angotti and Sennott (2015) . Por pli da ekzemploj de esplorado uzante datumojn de la Malavia Revizia Projekto, vidu Kaler (2004) kaj Angotti et al. (2014) .
Mia aliro al ofertado de dezajnaj konsiloj estis induktiva, bazita sur la ekzemploj de sukcesaj kaj malsukcesaj amasaj kunlaborejaj projektoj, kiujn mi aŭdis pri. Ankaŭ ekzistis fluo de esploraj provoj apliki pli ĝeneralajn sociajn psikologiajn teoriojn por desegni interretajn komunumojn, kiuj estas gravaj al la dezajno de amasaj kunlaboroj, vidu, ekzemple, Kraut et al. (2012) .
Koncerne al la partoprenantoj de motivado, fakte estas sufiĉe malfacile eltrovi precize kial homoj partoprenas en amasaj kunlaboraj projektoj (Cooper et al. 2010; Nov, Arazy, and Anderson 2011; Tuite et al. 2011; Raddick et al. 2013; Preist, Massung, and Coyle 2014) . Se vi planas instigi partoprenantojn pri pagado sur laborejo pri microtaskaj laboroj (ekz. Amazon Mechanical Turk), Kittur et al. (2013) proponas iujn konsilojn.
Koncerne ebligi surprizon, por pli da ekzemploj de neatenditaj malkovroj elirantaj el Zooiverse-projektoj, vidu Marshall, Lintott, and Fletcher (2015) .
Koncerne esti etika, iuj bonaj ĝeneralaj enkondukoj al la temoj implikitaj estas Gilbert (2015) , Salehi et al. (2015) , Schmidt (2013) , Williamson (2016) , Resnik, Elliott, and Miller (2015) , kaj Zittrain (2008) . Por temoj specife rilatigitaj al leĝaj aferoj kun amaskomunikiloj, vidu Felstiner (2011) . O'Connor (2013) traktas demandojn pri etika superrigardo de esplorado kiam la roloj de esploristoj kaj partoprenantoj bluriĝas. Por temoj rilatigitaj kun interŝanĝo de datumoj dum protektado de partoprenantoj en civitanaj sciencaj projektoj, vidu Bowser et al. (2014) . Ambaŭ Purdam (2014) kaj Windt and Humphreys (2016) havas diskuton pri la etikaj temoj en distribuitaj datumoj-kolekto. Fine, plej multaj projektoj agnoskas kontribuojn sed ne donas aŭtoritatan krediton al partoprenantoj. En Foldit, la ludantoj ofte estas listigitaj kiel aŭtoro (Cooper et al. 2010; Khatib et al. 2011) . En aliaj alvokaj projektoj, la gajnanta kontribuanto ofte skribas paperon priskribante iliajn solvojn (ekz., Bell, Koren, and Volinsky (2010) kaj Dieleman, Willett, and Dambre (2015) ).