Kannanir eru ekki ókeypis, og þetta er alvöru þvingun.
Hingað til hefur ég stutt yfirlit yfir heildar könnunarsviði ramma, sem sjálft er háð meðferð með (Weisberg 2005; Groves et al. 2009) . Þrátt fyrir að þessi ramma sé alhliða, veldur það almennt vísindamenn að sjást yfir mikilvægum þáttum: kostnaður. Þó að kostnaður - sem hægt er að mæla með annaðhvort tíma eða peningum - er sjaldan skýrt rædd af fræðilegum vísindamönnum, er það raunverulegt þvingun sem ætti ekki að hunsa. Reyndar er kostnaður grundvallaratriði í öllu ferli könnunarrannsókna (Groves 2004) : það er ástæða þess að vísindamenn tala um sýnishorn af fólki fremur en heilum íbúa. Einstaklingslegt hollustu við að lágmarka villu en að fullu hunsa kostnað er ekki alltaf í okkar besta.
Takmarkanir á þráhyggju við að draga úr mistökum eru sýndar af kennileiti verkefnisins Scott Keeter og samstarfsmanna (2000) um áhrif dýrra aðgerða á að draga úr ósvari í símakönnunum. Keeter og samstarfsmenn réðu tvær samtímis rannsóknir, einn með "venjulegu" ráðningarferli og einn með "ströngu" ráðningarferli. Munurinn á tveimur rannsóknum var sú upphæð sem unnið var að því að hafa samband við svarenda og hvetja þá til að taka þátt. Til dæmis, í rannsókninni með "strangt" ráðningu, kallaðu vísindamenn meira og meira yfir sýndu heimili og yfir lengri tíma og gerðu viðbótarhringingar ef þátttakendur höfðu í upphafi neitað að taka þátt. Þessar auka viðleitni leiddi í raun til lægra hlutfalls afgangs, en þau bættu verulega við kostnaðinn. Rannsóknin með "ströngum" verklagsreglum var tvisvar sinnum dýrari og átta sinnum hægari. Og í lokin bárust bæði rannsóknirnar í meginatriðum eins og áætlanir. Þetta verkefni, auk síðari eftirmynda með svipuðum niðurstöðum (Keeter et al. 2006) , ætti að leiða þig til að furða: erum við betra með tvö sanngjarn könn eða eina óspillta könnun? Hvað um 10 sanngjarn könnunar eða einn óspilltur könnun? Hvað um 100 sanngjarnar kannanir eða óhreinar könnun? Á einhverjum tímapunkti þurfa kostnaðarkostir að vega þyngra en óljós, óveruleg áhyggjuefni um gæði.
Eins og ég mun sýna í þessari hvíld í kaflanum eru mörg tækifæri sem stafræna aldurinn skapar ekki um að gera áætlanir sem augljóslega hafa lægri villu. Þessar möguleikar eru frekar að meta mismunandi magn og gera áætlanir hraðar og ódýrari, jafnvel með hugsanlega meiri villur. Vísindamenn sem krefjast þess að einbeita sér þráhyggja með því að lágmarka villu á kostnað annarra gæðamála eru að missa af spennandi tækifærum. Í ljósi þessa bakgrunns um heildar könnunarsviði ramma munum við nú snúa að þremur megin sviðum þriðja tímarannsóknarannsókna: nýjar aðferðir við fulltrúa (kafla 3.4), nýjar aðferðir við mælingu (kafla 3.5) og nýjar aðferðir til að sameina kannanir með stórum gagnasöfnum (kafla 3.6).