Олон нийтийн хамтын ажиллагаа иргэний шинжлэх ухаан , олон нийтийг хамарсан үйл ажиллагаа , хамтын тагнуулын санааг хослуулдаг. Иргэний шинжлэх ухаан нь ихэвчлэн шинжлэх ухааны процесст "иргэд" (өөрөөр хэлбэл, бишрэн шүтэгчид) хамруулахыг хэлнэ; Дэлгэрэнгүйг Crain, Cooper, and Dickinson (2014) , Bonney et al. (2014) нараас үзнэ үү Bonney et al. (2014) . Crowdsourcing гэдэг нь ихэвчлэн байгууллага дотроо шийдэгдсэн асуудлыг шийдэж, олон түмэндээ аутсорсинг хийхийг хэлнэ. Дэлгэрэнгүйг Howe (2009) үзнэ үү. Хамтдаа оюун ухаан гэдэг нь ихэвчлэн оюунлаг мэт санагддаг хүмүүсийг хамтдаа ажилладаг бүлэг хүмүүсийг хэлдэг. Дэлгэрэнгүйг Malone and Bernstein (2015) үзнэ үү. Nielsen (2012) нь шинжлэх ухааны судалгааны олон нийтийн хамтын ажиллагааны хүч чадлын номны урт танилцуулга юм.
Миний санал болгосон гурван категорид багтсан олон нийтийн хамтын ажиллагааны олон хэлбэр байдаг бөгөөд тэдгээрийн гурав нь нийгмийн судалгаанд тустай байж болох тул эдгээрийг онцгой анхаарах ёстой гэж би бодож байна. Жишээ нь, оролцогчдын худалдан авах болон худалдаалах гэрээнүүд нь дэлхий дээр гарах үр дагаварт тулгуурлан эргүүлэн нөхөгдөх боломжтой гэрээ юм. Зах зээлийн таамаглалыг пүүсүүд, засгийн газрууд урьдчилан таамаглах зорилгоор ашигладаг бөгөөд тэдгээрийг мөн нийгмийн судлаачдад хэвшсэн судалгаануудын давтагдах чадварыг урьдчилан таамаглахад ашигладаг (Dreber et al. 2015) . Урьдчилан таамаглах зах зээлийн тоймд зориулж Wolfers and Zitzewitz (2004) , Arrow et al. (2008) .
Миний ангиллын схемд тохирохгүй хоёрдахь жишээ бол судлаачид хамтран математикийн теоремыг батлахын тулд блог, wikis ашиглан хамтран ажиллаж байсан PolyMath төсөл юм. ПолМатт төсөл нь Netflix Prize-тэй адил төстэй байдаг боловч энэ төслийн оролцогч бусад хэсэгчилсэн шийдлүүд дээр илүү идэвхтэйгээр бүтээгдсэн байдаг. ПолМатт төслийн талаар дэлгэрэнгүйг Gowers and Nielsen (2009) , Cranshaw and Kittur (2011) , Nielsen (2012) , Kloumann et al. (2016) .
Миний ангиллын схемд тохирохгүй гуравдахь жишээ нь Батлан хамгаалах Нарийвчилсан Судалгааны Төслийн Агентлаг (DARPA) Сүлжээний Тулгуур (өөрөөр хэлбэл, Улаан Бөмбөгийн Тулгарч буй) гэх мэт цаг хугацааны хамааралгүй дайчилгаа юм. Эдгээр цаг хугацааны мэдрэмтгий дайчилгаануудын талаар илүү их мэдээлэл авахыг хүсвэл Pickard et al. (2011) , Tang et al. (2011) , Rutherford et al. (2013) .
"Хүний тооцоолол" гэсэн нэр томъёо компьютерийн эрдэмтэн судлаачдын хийсэн ажлын үр дүнгээс гардаг бөгөөд энэхүү судалгааны үр дүнг ойлгохын тулд энэ нь тохиромжтой байж болох асуудлыг сонгох чадварыг сайжруулдаг. Зарим ажлуудыг хийхийн тулд компьютер нь гайхамшигтай хүчирхэг, бүр мэргэжлийн хүмүүсээс илүү их чадвартай байдаг. Жишээ нь, шатар, компьютер нь хамгийн сайн эмээ нарыг ч ялж чадна. Гэхдээ бусад эрдэмтдийн хувьд нийгмийн эрдэмтэд бага зэрэг илүү талархдаг, компьютер нь хүмүүсийнхээс хамаагүй муу. Өөрөөр хэлбэл, яг одоо та хамгийн боловсронгуй компьютераас зураг, видео, аудио, текст боловсруулалт хийхтэй холбоотой тодорхой үүрэг даалгавараас илүү дээр байна. Компьютерийн эдгээр эрдэмтэд компьютерийг компьютер дээр ажиллуулах нь хялбархан тулгамдсан зорилтууд нь хүнийг тооцоолох процесст оруулж болно гэдгийг ойлгосон. Luis von von Ahn (2005) өөрийн диссертацид өөрийн гэсэн диссертацид "Хүний боловсруулалтын хүчин чадлыг ашиглахад компьютерийн асуудлыг шийдээгүй байгаа шийдлийг ашиглах загвар" -ыг хэрхэн үүсгэсэн тухай бичсэн байна. Хүний тооцоог номны урт хугацааны эмчилгээний зорилгоор Энэ нэр томъёоны хамгийн ерөнхий ойлголт бол Law and Ahn (2011) үзнэ үү.
Аnn Ahn (2005) Foldit-д өгсөн тодорхойлолтоос харахад нээлттэй дуудлагын хэсэгт тайлбарласан-хүний тооцооллын төсөл гэж үзэж болно. Гэсэн хэдий ч, би Foldit-ийг нээлттэй дуудлагаар ангилахыг сонгов. Учир нь энэ нь тусгай ур чадвар шаарддаг (хэдийгээр албан ёсны сургалт байх албагүй) бөгөөд хуваах-хэрэглээний-стратеги ашиглахын оронд хамгийн сайн шийдлийг оруулсан.
Wickham (2011) тооцоолох стратегийг тодорхойлохын тулд "split-apply-combine" гэсэн нэр томъёог Wickham (2011) ашигласан боловч энэ нь хүний тооцооллын олон төслүүдийн процессыг төгс байдлаар авч үзсэн. Split-apply-combine стратеги нь Google-д боловсруулсан MapReduce тогтолцооныхтой төстэй; MapReduce дээр илүү дэлгэрэнгүйг Dean and Ghemawat (2004) , Dean and Ghemawat (2008) үзнэ үү. Бусад түгээх тооцоолох архитектуруудын талаар илүү дэлгэрэнгүйг Vo and Silvia (2016) үзнэ үү. Law and Ahn (2011) 3-р бүлэг Law and Ahn (2011) энэ бүлгийнхээс илүү нарийн нийлмэл үе шаттай төслүүдийн талаар ярилцаж байна.
Энэ бүлгээр хэлэлцсэн хүний тооцооллын төслүүдэд оролцогчид юу болж байгааг мэдэж байсан. Зарим бусад төслүүд нь аль хэдийн болсон ("eBird") болон оролцогчдын мэдлэггүй "ажил" -ыг олж авахыг эрэлхийлдэг. Жишээ нь: ESP Game (Ahn and Dabbish 2004) болон reCAPTCHA (Ahn et al. 2008) . Гэсэн хэдий ч эдгээр төслүүд хоёулаа ёс зүйн асуултуудыг гаргаж ирдэг тул оролцогчдын мэдээллийг хэрхэн ашиглаж байгааг мэддэггүй (Zittrain 2008; Lung 2012) .
ESP Game-ийн урам зоригоор өдөөгдсөн олон судлаачид "бусад зорилготой тоглоомууд" (Ahn and Dabbish 2008) хөгжүүлэх оролдлого хийжээ (өөрөөр хэлбэл, "хүний гар дээр тулгуурласан тооцооллын тоглоомууд" (Pe-Than, Goh, and Lee 2015) Бусад олон асуудлыг шийдвэрлэхэд ашигладаг. Эдгээр "зорилготой тоглоомууд" нийтлэг байдаг нь тэд хүний тооцоололд баяртай байдаг үүргүүдийг гүйцэтгэхийг хичээдэг. Тиймээс ESP Game нь Galaxy Zoo-тай ижил хуваагдмал-хосолсон бүтцийг хуваалцаж байхад оролцогчдод урам зориг, хөгжилтэй, шинжлэх ухааныг дэмжих хүсэлд хэрхэн нөлөөлдөг болохыг харуулдаг. Тоглоомын зорилго нь Ahn and Dabbish (2008) үзнэ үү.
Galaxy Zoo-ийн талаарх миний тайлбар Nielsen (2012) , Adams (2012) , Clery (2011) , Hand (2010) дээр тулгуурлаж, Galaxy Zoo-ийн судалгааны зорилгыг танилцуулсан нь хялбаршуулсан. Одон орон судлалын галактикийн ангиллын түүх болон Galaxy Zoo энэ уламжлалыг хэрхэн үргэлжлүүлэх талаар дэлгэрэнгүйг Masters (2012) , Marshall, Lintott, and Fletcher (2015) үзнэ үү. Galaxy Zoo-ыг бүтээхэд судлаачид Galaxy Zoo 2-ыг гүйцэтгэлээ. Энэ нь сайн дурын ажилтнуудаас 60 гаруй сая гаруй бүтэцтэй морфологийн ангиллыг цуглуулсан (Masters et al. 2011) . Цаашилбал, тэд сарны гадаргууг судлах, гараг хайж, хуучин баримт бичгүүдийг хуулбарлах зэргийг багтаасан галактикийн морфологийн гадуурх асуудлуудтай салшгүй холбоотой байв. Одоогоор тэдний бүх төслүүд Zooniverse вэбсайтад цуглардаг (Cox et al. 2015) . Төслийн нэг хэсэг болох Серенгетигийн зураг төсөл нь Galaxy Zoo-ийн төрлийн ангиллын төслүүдийг байгаль орчны судалгаанд мөн хийж болно гэдгийг нотолж байна (Swanson et al. 2016) .
Микростасын хөдөлмөрийн зах зээл (Амазон Механик Турк) -ийг ашиглахаар төлөвлөж буй судлаачдын хувьд Chandler, Paolacci, and Mueller (2013) , J. Wang, Ipeirotis, and Provost (2015) ажлын дизайны талаар сайн зөвлөгөө өгдөг. бусад холбогдох асуудлууд. Porter, Verdery, and Gaddis (2016) "микропарксикийн хөдөлмөрийн зах зээлийг" өгөгдлийг нэмэгдүүлэх "гэж тодорхойлсон жишээ, зөвлөгөөг санал болгодог. Өгөгдөл нэмэх, мэдээлэл цуглуулах хоорондох шугам арай бүдэг бадаг. Grimmer and Stewart (2013) хяналтанд байгаа сургалтын шошгыг цуглуулах, ашиглах талаар дэлгэрэнгүйг Grimmer and Stewart (2013) .
Компьютерээр туслалцаа үзүүлэх хүний тооцооллын системийг ("машины сургалтын загварыг сургахын тулд хүний шошго ашиглан ашигладаг системүүд" гэх мэт) үүсгэх сонирхолтой судлаачид Shamir et al. (2014) сонирхож болох юм Shamir et al. (2014) (аудио ашиглах жишээ) болон Cheng and Bernstein (2015) . Мөн эдгээр төслүүдэд зориулсан сургалтын загварыг нээлттэй дуудлагад дуудаж болно. Судлаачид машин сургалтын загварыг хамгийн их таамаглаж байгаа гүйцэтгэлээр өрсөлдөх боломжтой юм. Жишээлбэл, Galaxy Zoo баг нээлттэй дуудлага хийж, Banerji et al. (2010) хөгжүүлсэн нэгэн шинэ арга барилыг олсон Banerji et al. (2010) ; Dieleman, Willett, and Dambre (2015) дэлгэрэнгүй мэдээллийг авна уу.
Нээлттэй дуудлага шинэ биш. Үнэн хэрэгтээ хамгийн алдартай нээлттэй дуудлагын нэг 1714 онд Британий парламент далайд хөлөг онгоцны уртрагийг тодорхойлох арга замыг боловсруулж чадах хэн нэгний хойд өргөмжлөлийг бүтээсэн юм. Асуудлын гол шалтгаан нь Исаак Ньютоныг оролцуулаад хамгийн агуу эрдэмтдийн ихэнхийг нь сүйрүүлсэн бөгөөд эцэст нь шийдэл нь эцэстээ асуудлыг шийдэхэд чиглэсэн эрдэмтдийнхээс ялгаатай байсан хөдөө орон нутгийн Жон Харрисоны илгээсэн юм. ; Дэлгэрэнгүй мэдээллийг Sobel (1996) үзнэ үү. Энэ жишээнээс харахад нээлттэй дуудлага нь маш сайн ажилладаг гэж үздэг шалтгаан нь тэд янз бүрийн үзэл бодол, чадвартай хүмүүст хүрэх боломжийг олгодог (Boudreau and Lakhani 2013) . Hong and Page (2004) , Page (2008) нар асуудлыг шийдвэрлэхэд олон янз байдлын утгын талаар илүү ихийг олж аваарай.
Бүлэг дэх нээлттэй дуудлагын тохиолдол бүр энэ ангилалд хамаарах яагаад нэмэлт тайлбарыг шаарддаг. Нэгдүгээрт, хүний тооцоолол болон нээлттэй дуудлагын төслүүдийн хоорондын ялгаа нь гарц нь бүх шийдлүүдийн (хүний тооцоо) дундаж эсвэл хамгийн сайн шийдэл (нээлттэй дуудлага) дундаж юм. Netflix Prize нь энэ асуудалд нэлээд төвөгтэй байдаг тул хамгийн сайн шийдэл нь шийдэл шийдэл (Bell, Koren, and Volinsky 2010; Feuerverger, He, and Khatri 2012) шийдлийн шийдэл юм. Netflix-ийн талаас харахад тэдний хийх ёстой зүйл бол хамгийн сайн шийдлийг сонгох явдал байв. Netflix-ийн шагналын талаар Bennett and Lanning (2007) , Thompson (2008) , Bell, Koren, and Volinsky (2010) , Feuerverger, He, and Khatri (2012) .
Хоёрдугаарт, хүний тооцооллын зарим тодорхойлолтоор (жишээ нь, Ahn (2005) ), Foldit нь хүний тооцооллын төсөл гэж тооцогддог. Гэсэн хэдий ч би үүнийг мэргэжлийн ур чадвар шаарддаг (хэдийгээр нарийн мэргэжлийн сургалт байх албагүй боловч), хуваах-хэрэглээний-стратегийг ашиглахын оронд хамгийн сайн шийдлийг шаарддаг учраас нээлттэй дуудлага гэж ангилахыг сонгож байна. Foldit дээр дэлгэрэнгүйг Cooper et al. (2010) , Khatib et al. (2011) , Andersen et al. (2012) ; Битаннон Bohannon (2009) , Hand (2010) , Nielsen (2012) тодорхойлолтууд дээр Foldit-ийн талаарх тайлбарыг үзүүлэв.
Эцэст нь хэлэхэд, Peer-to-Patent нь тараагдсан өгөгдөл цуглуулах жишээ юм. Би үүнийг уралдаан шиг бүтэцтэй бөгөөд зөвхөн хамгийн сайн хувь нэмэр хэрэглэдэг тул нээлттэй дуудлага хэлбэрээр оруулахыг сонгосон. Учир нь хуваарилагдсан өгөгдөл цуглуулах, сайн, муу хувь нэмэр оруулах нь тодорхойгүй байна. Нь Peer-to-Patent-ийн талаар илүү дэлгэрэнгүйг Noveck (2006) , Ledford (2007) , Noveck (2009) , болон Bestor and Hamp (2010) .
Нийгмийн судалгаанд нээлттэй дуудлага хийхдээ Glaeser et al. (2016) , Mayer-Schönberger and Cukier (2013) 10-р бүлэгт өгүүлсэнээр Нью Йорк хотын орон сууцны байцаагчдын бүтээмжид ихээхэн ашиг олохын тулд урьдчилан таамагласан загварчлалыг ашиглаж чаджээ. Нью-Йорк хотод эдгээр таамаглалын загварууд нь хотын ажилчдаар баригдсан боловч бусад тохиолдолд тэд нээлттэй дуудлага хийх буюу сайжруулах боломжтой гэж төсөөлж болно (жишээ нь Glaeser et al. (2016) ). Гэвч нөөцийг хуваарилахын тулд урьдчилан таамагласан загвартай холбоотой нэг гол санаа нь эдгээр загварууд нь одоо байгаа хэвийх утгыг бататгах боломжтой юм. Олон тооны судлаачид "хог хаягдал, хог хаягдал", урьдчилан таамаглах загваруудыг аль хэдийн мэддэг "алдаатай, алдаа гаргадаг" байдаг. Barocas and Selbst (2016) , O'Neil (2016) зэргийг урьдчилан таамагласан загваруудын аюулын талаар илүү ихийг олж мэдэх бага зэргийн сургалтын өгөгдөлтэй.
Нээлттэй тэмцээнийг ашиглан засгийн газраас нээлттэй байлгах нэг асуудал бол мэдээллийн алдагдлыг шаарддаг бөгөөд энэ нь нууцлалын зөрчилд хүргэж болзошгүй юм. Дэлгэрэнгүй дуудлагад хувийн нууцлал, өгөгдлийн талаар дэлгэрэнгүй мэдээлэл авахыг хүсвэл Narayanan, Huey, and Felten (2016) болон 6-р бүлэг дэх хэлэлцүүлгийг үзнэ үү.
Урьдчилан таамаглах болон тайлбарлах хоорондын ялгаа, ижил төстэй байдлын талаар дэлгэрэнгүйг Breiman (2001) , Shmueli (2010) , Watts (2014) , мөн Kleinberg et al. (2015) . Нийгмийн судалгааны урьдчилан үүргийн талаар дэлгэрэнгүй үзнэ үү Athey (2017) , Cederman and Weidmann (2017) , Hofman, Sharma, and Watts (2017) , ( ??? ) , болон Yarkoni and Westfall (2017) .
Биологийн чиглэлээр нээлттэй дуудлага хийх төсөл, түүний дотор дизайн зөвлөгөө зэргийг Saez-Rodriguez et al. (2016) тулд Saez-Rodriguez et al. (2016) .
EBird-ийн тухай миний тайлбар Bhattacharjee (2005) , Robbins (2013) , Sullivan et al. (2014) . Статистикийн загварыг судлахдаа Fink et al. (2010) -Г үзнэ үү Fink et al. (2010) , Hurlbert and Liang (2012) . EBird оролцогчийн чадварыг үнэлэхийн тулд Kelling, Johnston, et al. (2015) . Иргэний шинжлэх ухааны түүхэн дэхь түүхийн талаар илүү дэлгэрэнгүйг Greenwood (2007) үзнэ үү.
Malawi Journal сэтгүүлд илүү дэлгэрэнгүйг Watkins and Swidler (2009) , Kaler, Watkins, and Angotti (2015) . Өмнөд Африкт холбогдох төсөл дээр дэлгэрэнгүй мэдээлэл авахыг хүсвэл Angotti and Sennott (2015) үзнэ үү. Malawi Journal Angotti et al. (2014) авсан өгөгдлүүдийг ашиглан илүү олон жишээг авч үзье. Kaler (2004) , Angotti et al. (2014) .
Загварын зөвлөгөөг санал болгох миний хандлага нь миний сонссон олон нийтийн хамтын ажиллагааны амжилттай, амжилтгүй болсон төслүүдийн жишээн дээр үндэслэсэн юм. Олон нийтийн хамтын ажиллагааны төслүүдийн дизайнтай холбоотой онлайн нийгэмлэгүүдийг бий болгох нийгмийн ерөнхий сэтгэлзүйн онолыг хэрэглэх судалгаа хийх оролдлого бас бий. Жишээлбэл: Kraut et al. (2012) .
Оролцогчдод урам зориг өгөхийн тулд олон нийтийг хамарсан хамтын ажиллагааны төслүүдэд оролцдог хүмүүс чухам яагаад яагаад чухал болохыг олж (Cooper et al. 2010; Nov, Arazy, and Anderson 2011; Tuite et al. 2011; Raddick et al. 2013; Preist, Massung, and Coyle 2014) тулд нэлээд төвөгтэй байдаг (Cooper et al. 2010; Nov, Arazy, and Anderson 2011; Tuite et al. 2011; Raddick et al. 2013; Preist, Massung, and Coyle 2014) . Хэрэв та оролцогчдыг микро түвшний хөдөлмөрийн зах зээлд (жишээ нь, Амазоны Механик Турк), Kittur et al. (2013) хүмүүсийг урамшуулахаар төлөвлөж байгаа бол Kittur et al. (2013) зарим зөвлөгөөг санал болгодог.
Zooiverse төслөөс гарч ирээгүй гэнэтийн нээлтүүдийн талаар жишээ нь Marshall, Lintott, and Fletcher (2015) Lintott Marshall, Lintott, and Fletcher (2015) үзнэ үү.
Ёс зүйтэй холбоотой асуудлаар Gilbert (2015) , Salehi et al. (2015) зарим ерөнхий сайн танилцуулга байдаг Salehi et al. (2015) , Schmidt (2013) , Williamson (2016) , Resnik, Elliott, and Miller (2015) , Zittrain (2008) . Олон Felstiner (2011) хууль эрх зүйн асуудалтай холбоотой асуудлаар Felstiner (2011) үзнэ үү. O'Connor (2013) судлаач, оролцогчдын үүргийг үгүйсгэх үед судалгааны ёс зүйн хяналтын талаар асуух асуултуудыг тавьдаг. Иргэдийн шинжлэх ухааны төслүүдэд оролцогчдыг хамгаалахын зэрэгцээ мэдээллийг хуваалцахтай холбоотой асуудлуудын талаар Bowser et al. (2014) . Purdam (2014) , Purdam (2014) Windt and Humphreys (2016) хоёулаа тараагдсан мэдээллийг цуглуулсан ёс зүйн асуудлуудын талаар зарим хэлэлцүүлгийг авч байна. Эцэст нь хэлэхэд ихэнх төслүүд нь хувь нэмрийг хүлээн зөвшөөрдөг боловч оролцогчид зохиогчийн зээлийг өгдөггүй. Тоглоомд тоглогчдыг ихэвчлэн зохиогчоор нэрлэсэн байдаг (Cooper et al. 2010; Khatib et al. 2011) . Бусад нээлттэй дуудлагын төслүүдэд ялагч хувь нэмэр нь тэдний шийдлийг тайлбарласан баримт бичгийг ( Bell, Koren, and Volinsky (2010) , Dieleman, Willett, and Dambre (2015) .