ماس ڪاميٽي شهري سائنس ، ڪلاسڊسسنگ ، ۽ اجتماعي ڄاڻ رکندڙ خيالات سان ٺهڪندڙ آهن. عام طور تي شهرين سائنس جو مطلب آهي "شهرين" (يعني يعني سائنسي عمل ۾) علمي عمل ۾ شامل آهن؛ وڌيڪ لاء، ڏسو Crain, Cooper, and Dickinson (2014) ۽ Bonney et al. (2014) . Crowdsourcing عام طور تي مطلب آهي ته هڪ ادارو جي اندر اندر حل ٿيل مسئلي کي وٺڻ ۽ بجائي ڪنهن کي ٻاهر ڪڍڻ جي بدران؛ وڌيڪ لاء، ڏسو ته ڏسو Howe (2009) . اجتماعي معلومات عام طور تي ماڻهن جو گروهه آهي جيڪو طريقي سان اجتماعي طور تي ڪم ڪري رهيو آهي جيڪي ذليل سمجهندا آهن. وڌيڪ لاء، Malone and Bernstein (2015) ڏسو Malone and Bernstein (2015) . Nielsen (2012) هڪ ڪتابي ڊگري تعارف آهي سائنسي تحقيق لاء ڪاميٽي تعاون جي طاقت.
عام طور تي ڪامياب ٿيندڙ ڪيترن ئي قسمن جو تعلق ٽي ٽي حصن ۾ مناسب نه آهي، مون کي تجويز ڪيو آهي ۽ مان سمجهان ٿو ته انهن مان ٽي خاص خاص ڌيان ڇو ٿا اهي سماجي تحقيق ۾ مفيد هوندا. ھڪڙو مثال پيش گواري مارڪيٽ آھي، جتي شرڪت ڪندڙن کي معاهدي ۽ واپار جو تجزيو آھي جيڪي دنيا ۾ واقع ٿي سگھي ٿو. مارڪيٽنگن جي ڀڃڪڙي اڪثر ڪري پيشڪش ۽ سرڪار پاران پيش گوئي جي ڪري استعمال ڪري رهيا آهن ۽ انهن کي پڻ سماجي محقق جي ذريعي استعمال ڪيو ويو آهي ته هو نفسياتيات ۾ شايع ٿيل اڀياس جي پڙهائي (Dreber et al. 2015) . پيچيدگي مارڪيٽ جي نظرثاني لاء، Wolfers and Zitzewitz (2004) ۽ Arrow et al. (2008) ڏسو Arrow et al. (2008) .
هڪ سيڪنڊ جو مثال جيڪو منهنجي درجه بندي رٿابندي ۾ صحيح ناهي، پوليٽيڪٿ منصوبو آهي، جتي محقق نئين ويب رياضي کي ثابت ڪرڻ لاء بلاڪ ۽ وائيس استعمال ڪيو هو. PolyMath منصوبي نيل فلڪس انعام سان گڏ ڪجهه طريقن سان آهي، پر هن منصوبي ۾ شرڪت ٻين جي جزوي حل تي وڌيڪ فعال طور تي ٺهيل آهن. پوليماٿ پروجيڪٽ تي وڌيڪ، جيورس ۽ نيلنسن Gowers and Nielsen (2009) ، Cranshaw and Kittur (2011) ، Nielsen (2012) ، ۽ Kloumann et al. (2016) .
هڪ ٽيون مثال جيڪو منهنجي درجه بندي منصوبي ۾ صحيح ناهي، وقت تي منحصر موبلائيزيشنس جهڙوڪ دفاع فارغ ريسرچ پروجيڪٽ ايجنسي (DARPA) نيٽورڪ چيلنج (يعني، ڳاڙهو گڊو چيلنج). ان وقت تي وڌيڪ حساس متحرڪيتن لاء Pickard et al. (2011) ڏسو Pickard et al. (2011) ، Tang et al. (2011) ، ۽ Rutherford et al. (2013) .
اصطلاح "انساني سنگت" جو ڪمپيوٽر ڪمپيوٽر سائنسدانن پاران ڪم ڪيو ويو آهي، ۽ هن سمجهيو پويان سمجهه جي حوالي سان توهان جي لاء مناسب ٿي سگهي جيڪي مسئلا پيدا ڪرڻ جي صلاحيت بهتر بڻائي ٿي. ڪجهه ڪمن لاء، ڪمپيوٽرن ناقابل اعتماد حد تائين طاقتور آهن، جيڪي صلاحيتون پڻ انهن انسانن جي ماڻهن کان وڌيڪ آهن. مثال طور، شطرنج ۾، ڪمپيوٽرن کي پڻ بهترين داداسٽرن کي مات ڏيئي سگھي ٿو. پر، ۽ سوشل سائنسدان ۽ ٻين ڪمن لاء، هن کي گهٽ ساراهيو ويو آهي، ڪمپيوٽرن اصل ۾ ماڻهن کان وڌيڪ بدتر آهن. ٻين لفظن ۾، هاڻي توهان کان ڪجهه بهتر نموني کان بهتر آهن جيڪي تصويرون، وڊيو، آڊيو، ۽ متن جي پروسيسنگ شامل آهن. ڪمپيوٽر جي سائنسدان جيڪي هنن سخت-ڪمپيوٽرن تي آسان-انساني-ڪمن تي ڪم ڪري رهيا هئا اهو احساس ٿيو ته اهي انسان پنهنجي اجتماعي عمل ۾ شامل ڪري سگھن ٿا. هتي ڏسو ته لوئس فون احن (2005) انساني سنگت جو بيان ڪيو جڏهن هن پهريون ڀيرو هن جي مقالي ۾ اصطلاح کي اصطلاح ڪيو آهي: "انسانن جي پروسيسنگ طاقت کي استعمال ڪرڻ لاء پريشاني جو حل ڪري سگهيو آهي ته ڪمپيوٽر کي اڃا تائين حل نه ٿو ڪري سگهجي." انساني مرڪب جي ڪتابي ڊگهي علاج لاء سڀ کان وڌيڪ عام احساس، Law and Ahn (2011) ڏسو Law and Ahn (2011) .
Ahn (2005) ۾ پيش ڪيل تجويز مطابق Ahn (2005) فوليٽ جنهن جي حصي ۾ سيڪشن ۾ بيان ڪيل آهي- انساني مرڪب منصوبي کي سمجهي سگهجي ٿو. تنهن هوندي، آئون فولڊر کي هڪ ڪالپن جي حيثيت سان بندي ڪرڻ لاء چونڊيو آهي ڇو ته اها خاص مهارتن جي ضرورت آهي (جيتوڻيڪ ضروري طور تي باقاعده تربيت نه هجي) ۽ اهو هڪ بهترين حل حل آهي، جيڪا تقسيم لاڳو ٿيل گڏيل حڪمت عملي استعمال ڪندي.
اصطلاح "تقسيم-درخواست-انگن" کي استعمال ڪيو ويو هو Wickham (2011) انگن اکرن جي حساب جي لاء هڪ حڪمت عملي جي وضاحت ڪرڻ، پر اهو ڪيترا ئي انساني انساني درجي جي منصوبن جي عمل کي قبضو ڪري ٿو. تقسيم لاڳو ٿيل گڏيل حڪمتن تي Google تي تيار ڪيل MapReduce فريم ورڪ جي برابر آهي؛ MapReduce تي وڌيڪ، Dean and Ghemawat (2004) ۽ Dean and Ghemawat (2008) . ٻين ورهايل ڪمپيوٽنگ ٺاهڻ تي وڌيڪ، Vo and Silvia (2016) ڏسو. Law and Ahn (2011) جو باب 3 Law and Ahn (2011) ھن باب ۾ انھن جي ڀيٽ ۾ وڌيڪ پيچيده گڏيل جزا قدمن سان منصوبن جو بحث ڪيو آھي.
انساني مرڪب منصوبن ۾ جيڪي مون باب ۾ بحث ڪيو آھي، شرڪت ڪندڙن کي ڇا پئي معلوم ٿيو ھو. جڏهن ته ڪجهه ٻين منصوبن، اڳ ۾ "ڪم" تي قبضو ڪرڻ چاهيندا آهن جيڪي اڳ ۾ ئي ٿي رهيو آهي مثال طور، اي ايس ايس جي راند (Ahn and Dabbish 2004) ۽ (Ahn and Dabbish 2004) (Ahn et al. 2008) . جڏهن ته، ٻنهي منصوبن جي اخلاقي سوالن کي پڻ بلند ڪيو ڇو ته شرڪت نه ٿي ڄاڻيو ته انهن جي ڊيٽا ڪيئن استعمال ڪئي وئي (Zittrain 2008; Lung 2012) .
اي ايس پي جي طرفان هٿياربندن، ڪيترن ئي تحقيق ڪندڙن کي "راندين سان گڏ مقصد" (Ahn and Dabbish 2008) (يعني "انسان-بنيادي (Ahn and Dabbish 2008) گيم" (Pe-Than, Goh, and Lee 2015) کي ترقي ڪرڻ جي ڪوشش ڪئي وئي آهي ٻين مسئلن جي حل کي استعمال ڪرڻ لاء استعمال ڪيو ويو آهي. ڇا اهو "راندين سان راندين" ۾ عام طور تي آهي ته اهي انساني مرڪب مزاج ۾ ملوث ڪم ڪرڻ جي ڪوشش ڪندا آهن. ان ڪري، جڏهن ته ايس ايس پي واري راند گليڪس زو سان ساڳي ئي تقسيم-ٺهڪيل جوڙجڪ سان حصيداري ڪري ٿي، ان ۾ اهو فرق آهي ته حصو وٺندڙ طريقي سان سائنس جي مدد ڪرڻ چاهيندا آهن. هڪ مقصد سان راندين تي وڌيڪ، Ahn and Dabbish (2008) ڏسو Ahn and Dabbish (2008) .
منهنجو گليڪس زو جو Nielsen (2012) ، Adams (2012) ، Clery (2011) ، ۽ Hand (2010) تي ۽ منهنجي پيش ڪيل گليڪس زو جي تحقيقاتي مقصدن تي ماهي بيان ڪيو ويو آهي. پراگسي طبقي جي تاريخ تي وڌيڪ لاء، ستراجيريا ۾ ۽ ڪئين گليڪس زو هن روايت کي جاري رکي ٿي، ڏسو Masters (2012) ۽ Marshall, Lintott, and Fletcher (2015) . گليڪس زو تي عمارت ٺاهڻ وارا محقق گليڪس زو 2 مڪمل ڪيا جن ۾ 60 ملين کان وڌيڪ پيچيده ميڪسيڪوولوڪل طبقن جون رضاکارن (Masters et al. 2011) . ان کان علاوه، انهن کي گليڪس جي مافيا جي ٻاهران مسئلن ۾ چرايو ويو، جن ۾ چنڊ جي مٿاڇري، سيٽن جي ڳولا ۽ پراڻن دستاويزن کي نقل ڪرڻ شامل آهن. في الحال، زونورسورس ويب سائيٽ تي سڀني جون پروگرامن گڏ ڪري گڏ ڪيون وينديون آهن (Cox et al. 2015) . اس منصوبن مان هڪ سنيپ شاٽ Serengeti پيش ڪري ٿو ته گليڪس زو قسم جي تصويرن جي تصويري منصوبن لاء ماحولياتي تحقيقات لاء (Swanson et al. 2016) پڻ ڪم ڪري سگهجي ٿي.
محقق جي رٿابندي ڪرڻ لاء مائڪروٽاسڪ مزدور مارڪيٽ (مثال طور، ايم ڊي ميزيڪل ترڪي) کي انساني مرڪب پروسيس لاء، Chandler, Paolacci, and Mueller (2013) ۽ J. Wang, Ipeirotis, and Provost (2015) ڪم ڊيزائن تي سٺي صلاح ڏيو ۽ ٻيا لاڳاپيل مسئلا. Porter, Verdery, and Gaddis (2016) विशेष रूपमा ध्यान दिएर उदाहरणहरू र सल्लाह प्रदान गर्दछ कि मक्रोटोस्क श्रमिक बजारहरूको प्रयोगका लागि तिनीहरूले "डेटा वृद्धि" लाई बुझेका छन्. डेटा वृद्धि र डेटा संग्रह बीचको रेखा केही हदसम्म अस्पष्ट हुन्छ. Grimmer and Stewart (2013) واري سکيا لاء ليبلز گڏ ڪرڻ ۽ استعمال ڪرڻ لاء، Grimmer and Stewart (2013) ڏسو.
محقق جيڪي مون کي ڪمپيوٽر جي مدد سان انساني مرڪب سسٽم سڏيندا آهن انهن کي دلچسپي وٺن ٿا (مثال طور، سسٽم سکيا وارو نموني ٽرين ڏيڻ لاء انساني ليبل استعمال ڪندو سسٽم) شايد Shamir et al. (2014) ۾ دلچسپي رکي ٿي Shamir et al. (2014) (آڊيو استعمال ڪندي مثال طور) ۽ Cheng and Bernstein (2015) . انهي کان علاوه، انهن منصوبن ۾ مشين جي سکيا جا ماڊل کولڻ سان سهولتن سان حل ڪري سگهجن ٿيون، ڇو ته محقق مشين سان مشين سکڻ واري نموني ٺاهي سگھندا آهن. مثال طور، گليڪس زو ٽيم هڪ کليل ڪال ورهين ۽ هڪ نئين طريقيڪار مليو جنهن کي Banerji et al. (2010) ؛ تفصيل لاء Dieleman, Willett, and Dambre (2015) ڏسو.
اوپن ڪالون نون آهن. حقيقت ۾، هڪ مشهور ترين پرڏيهي ڪالون 1714 کي واپس ٿيون جڏهن برطانيه جي پارليامينٽ هر قوم لاء تمدن جو بنياد پيدا ڪيو جيڪا سمنڊ ۾ ٻيڙيء جي طول و عرض کي طئي ڪرڻ جو هڪ رستو ٺاهي سگهي. مسئلو اهو ڏينهن جي ڪيترن ئي وڏن سائنسدانن کي پڪو ڪيو، بشمول اسحاق نيونٽن، ۽ بااختيار حل، آخرڪار هنريڪشن جي هڪ ڪلاڪ ڪندڙ طرفان پيش ڪيو ويو، جن جو مسئلو هنيا کان مختلف هو، جو حل ڪيو پيو وڃي. ؛ وڌيڪ معلومات لاء، Sobel (1996) ڏسو. جيئن ته هن مثال بيان ڪري ٿي، ڪالون کولڻ جو هڪ سبب اهو سٺو ڪم ڪرڻ سوچيو آهي ته اهي مختلف ماڻهن ۽ مهارتن سان ماڻهن تائين رسائي فراهم ڪن ٿا (Boudreau and Lakhani 2013) . ڏسو مسئلا حل ڪرڻ ۾ تنوع جي اهميت تي Hong and Page (2004) ۽ Page (2008) ڏسو.
هر باب ۾ کليل ڪال ڪيسن مان ڪجهه وڌيڪ وضاحت جي ضرورت هوندي آهي ڇو ته اها درجه بندي آهي. پهريون، هڪ طريقو اهو آهي ته آئون انساني مرڪب ۽ کليپ ڪال کلي منصوبن جي وچ ۾ فرق آهي ڇا اهو نڪتو هڪ اوسط سڀني حلن (انساني مرڪب) يا بهترين حل (کول ڪال) آهي. نيل فلڪس انعام هن سلسلي ۾ ڪجهه محتاج آهي ڇاڪاڻ ته بهترين حل انفرادي حل جي نموني اوسط، هڪ اينسلم حل (Bell, Koren, and Volinsky 2010; Feuerverger, He, and Khatri 2012) نالي هڪ نقطه نظر آيو. جڏهن ته Netflix جي نقطه نظر کان، انهن سڀني کي ڪرڻو هو بهترين حل چونڊيو هو. Netflix انعام پر وڌيڪ لاء، Bennett and Lanning (2007) ، Thompson (2008) ، Bell, Koren, and Volinsky (2010) ، ۽ Feuerverger, He, and Khatri (2012) .
ٻيو، انساني سنگت جي ڪجهه معنائون طرفان (مثال طور، Ahn (2005) )، فولٽي کي انساني مرڪب پروجيڪٽ سمجھي وڃي. بهرحال، آئون ان کي ڪلڪ ڪري ان کي ڪلڪ ڪريو هڪ کليل ڪال جي طور تي، ڇاڪاڻ ته اها خاص صلاحيتن جي ضرورت آهي (جيتوڻيڪ ضروري نه ٽريننگ ٽريننگ) ۽ اهو تقسيم-درخواست-گڏيل ڳري حڪمت عملي استعمال ڪرڻ بدران بهترين حل وٺندو آهي. فليٽ تي وڌيڪ لاء، Cooper et al. (2010) ڏسو Cooper et al. (2010) ، Khatib et al. (2011) ، ۽ Andersen et al. (2012) ؛ منهنجي بيان جي تفصيل مطابق Bohannon (2009) ، Hand (2010) ، ۽ Nielsen (2012) ۾ تفصيل سان بيان ڪري ٿو.
آخرڪار، هڪ اهو دليل ڏئي سگهي ٿو ته پير صاحب وٽ هڪڙو ڀاڱو گڏ ٿيل ڊيٽا جو هڪ مثال آهي. آئون اهو ان کي شامل ڪيو ويو آهي انهي کي شامل ڪرڻ لاء ڇو جو اهو هڪ مقابلو پسند جي جوڙجڪ آهي ۽ صرف بهترين حصو استعمال ٿيل آهن، جڏهن ته ورهايل ڊيٽا گڏ ڪرڻ سان، سٺو ۽ خراب ڀاڱو جو خيال گهٽ واضح آهي. پير-پيٽٿٽ تي وڌيڪ لاء، ڏسو Noveck (2006) ، Ledford (2007) ، Noveck (2009) ، ۽ Bestor and Hamp (2010) .
سماجي تحقيق ۾ کليل ڪالون استعمال ڪرڻ جي لحاظ کان، ساڳيو نتيجن جهڙوڪ Glaeser et al. (2016) ، Mayer-Schönberger and Cukier (2013) 10 ۾ ڄاڻايل آهي، انهي سان گڏ نيويارڪ شهر هاؤسنگ انسپيڪرز جي پيداوار ۾ وڏائي حاصلات پيدا ڪرڻ لاء پيش گوشي موڊلنگ استعمال ڪرڻ جي قابل هئي. نيو يارڪ شهر ۾، اهو پيش رفت ماڊل شهر پاران ملازمت ٺاهي رهيا هئا، پر ٻين ڪيسن ۾ هڪ تصور ڪري سگھي ٿو ته اهي کوليا ويندا يا کولڻ سان به بهتر ٿي سگھن ٿيون (مثال طور، Glaeser et al. (2016) ). جيتوڻيڪ، هڪ اهم تشخيص ماڊل سان گڏ وسيلن کي مختص ڪرڻ لاء استعمال ڪيو پيو وڃي ته انهن ماڊل کي موجوده بااختيار بڻائڻ جي صلاحيت آهي. ڪيترائي محقق اڳ ۾ ئي ڄاڻن ٿا "ڪوري ڪوري ۾، گند ڪٽي نڪرڻ،" ۽ پيش گوشي نموني سان گڏ اهو "جاين ۾، Barocas and Selbst (2016) ". " Barocas and Selbst (2016) ۽ O'Neil (2016) ڏسو ته پيش ڪيل ماڊل ماهرن جي خطرن تي وڌيڪ بنيادي تربيتي ڊيٽا سان گڏ.
هڪ مسئلو اهو آهي ته حڪومت کولڻ جي مقابلي کي استعمال ڪرڻ کان روڪي سگھي ٿو اها هن کي ڊيٽا ڇڏڻ جي ضرورت آهي، جيڪا رازداري جي خلاف ورزي جي سبب ٿي سگهي ٿي. کليل ڪالون ۾ رازداري ۽ انگن اکرن بابت وڌيڪ معلومات لاء، Narayanan, Huey, and Felten (2016) ۽ بحث 6 باب ۾ بحث ڪيو.
پیشن گوئی ۽ وضاحت جي وچ ۾ اختلافات ۽ تفاوت تي وڌيڪ، Breiman (2001) ، Shmueli (2010) ، Watts (2014) ، ۽ Kleinberg et al. (2015) . سماجی تحقیق میں پیشن گوئی کے کردار کے Cederman and Weidmann (2017) ، ملاحظہ کریں Athey (2017) ، Cederman and Weidmann (2017) Athey (2017) ، Cederman and Weidmann (2017) Hofman, Sharma, and Watts (2017) ، ( ??? ) ، اور Yarkoni and Westfall (2017) .
حياتيات ۾ کليپ ڪال منصوبن جي جائزي لاء، ڊزائين مشوره سميت، Saez-Rodriguez et al. (2016) ڏسو Saez-Rodriguez et al. (2016) .
منهنجو تفصيلي بيان ايبيڊ Bhattacharjee (2005) ، Robbins (2013) ۽ Sullivan et al. (2014) ۾ تفصيل تي بيان ڪري ٿو Sullivan et al. (2014) . وڌيڪ انهي لاء، محقق جي ماڊل استعمال ڪندڙ اي بيڊ ڊيٽا کي تجزيو ڪرڻ لاء، Fink et al. (2010) ڏسو Fink et al. (2010) ۽ Hurlbert and Liang (2012) . اي بيڊ شرڪت جي مهارت جي اندازي تي وڌيڪ، Kelling, Johnston, et al. (2015) ڏسو Kelling, Johnston, et al. (2015) . آرٽيڪل سائنس ۾ شهري سائنس جي تاريخ تي وڌيڪ، ڏسو Greenwood (2007) .
مالوي جرنل پراجيڪٽ تي وڌيڪ، وڌيڪ Watkins and Swidler (2009) ۽ Kaler, Watkins, and Angotti (2015) ڏسو. جنوبی افريقا ۾ هڪ متعلق منصوبي تي وڌيڪ، Angotti and Sennott (2015) ڏسو. تحقيق جي وڌيڪ مثالن جي مالويوي جلاوطنين کان ڊيٽا استعمال ڪندي پروجيڪٽ ڏسو Kaler (2004) اور Angotti et al. (2014) .
منهنجي ڊزائين مشورو پيش ڪرڻ جي شروعاتي طور تي، ڪامياب ۽ ناڪامي ڪامياب منصوبن جي مثالن تي ٻڌل هئي جنهن بابت مون ٻڌو آهي. اڃا تائين عام طور تي سماجي نفسياتي نظريات کي آن لائن ڪميونٽي کي ڊزائين ڏيڻ لاء هڪ تحقيق جي تحقيق جو هڪ وهڪرو تحقيق پڻ ڪيو ويو آهي، جيڪو ڪاميٽي ڪامياب منصوبن جي ڊزائن سان لاڳاپيل آهي، مثال طور، Kraut et al. (2012) .
شرڪت ڪندڙن جي حوصله افزائي ڪرڻ، حقيقت ۾ اهو ڪافي آهي ته اهو معلوم ٿئي ٿو ته ماڻهو عوام ڪاميٽي جي منصوبن ۾ حصو وٺندا آهن (Cooper et al. 2010; Nov, Arazy, and Anderson 2011; Tuite et al. 2011; Raddick et al. 2013; Preist, Massung, and Coyle 2014) . جيڪڏهن توهان شرڪت ڪندڙن کي مائڪروٽاسڪ مزدورن جي مارڪيٽ تي ڌمڪيون ڪرڻ جي منصوبو آهي (مثال طور، ايم ڊي ميزيڪل ترڪيز)، Kittur et al. (2013) پيش مشورا ڏيو.
تعجب قابل رکڻ جي حوالي سان، زوورسورس پروجيڪٽ مان غير متوقع دريافتين جي وڌيڪ مثالن لاء، Marshall, Lintott, and Fletcher (2015) ڏسو Marshall, Lintott, and Fletcher (2015) .
اخلاقي حوالي سان، ڪجهه سٺو عام تعارف بابت مسئلن تي ملوث آهن Gilbert (2015) Salehi et al. (2015) ، Schmidt (2013) ، Williamson (2016) ، Resnik, Elliott, and Miller (2015) ، اور Zittrain (2008) . خاص طور تي Felstiner (2011) ملازمت سان قانوني مسئلن سان لاڳاپيل مسئلن لاء، Felstiner (2011) ڏسو. O'Connor (2013) تحقيق جي اخلاقي نگراني بابت سوالن جو پتو لڳايو جڏهن محقق ۽ شرڪت ڪندڙن جي ڪردار کي ڦٽي. नागरिक विज्ञान परियोजनाहरूमा Bowser et al. (2014) सुरक्षा गर्दा डेटा साझेदारी गर्न सम्बन्धित، Bowser et al. (2014) . ٻئي Purdam (2014) ۽ Windt and Humphreys (2016) ۾ ورهايل ڊيٽا گڏ ڪرڻ ۾ اخلاقي مسئلن بابت ڪجهه بحث ڪيو آهي. آخرڪار، اڪثر منصوبا تسليم ڪيا ويا پر شرڪت ڪندڙن کي ليکڪرنٽ جي ڪريڊٽ نه ڏيو. فولٽ ۾، راندين اڪثر ڪري ليکڪ جي طور تي لکيا ويا آهن (Cooper et al. 2010; Khatib et al. 2011) . ٻين کليپ ڪال منصوبن ۾، ڪاميابي وارو مددگار اڪثر ڪري ڪاغذ لکي سگھن ٿا انهن جي حل کي بيان ڪري سگهي ٿي (مثال طور، Bell, Koren, and Volinsky (2010) ۽ Dieleman, Willett, and Dambre (2015) ).