मापन इस बारे में है कि आपके उत्तरदाता क्या सोचते हैं और क्या करते हैं उससे करते हैं।
प्रतिनिधित्व की समस्याओं के अलावा, कुल सर्वेक्षण त्रुटि ढांचे से पता चलता है कि त्रुटियों का दूसरा प्रमुख स्रोत माप है : हम उत्तरदाताओं से उन उत्तरों के संदर्भ कैसे बनाते हैं जो उत्तरदाता हमारे प्रश्न देते हैं। यह पता चला है कि हमें प्राप्त उत्तरों, और इसलिए हमारे द्वारा किए गए सम्मेलन गंभीर रूप से और कभी-कभी आश्चर्यजनक तरीकों पर निर्भर हो सकते हैं-बिल्कुल हम कैसे पूछते हैं। शायद नोर्मन ब्रैडबर्न, सेमुर सुडमैन और ब्रायन वानसंक (2004) द्वारा अद्भुत पुस्तक पूछने वाले प्रश्नों में एक मजाक से बेहतर इस महत्वपूर्ण बिंदु को स्पष्ट नहीं करता है:
दो पुजारियों, एक डोमिनिकन और एक जेसुइट, चर्चा कर रहे हैं कि क्या यह एक पाप धूम्रपान और एक ही समय में प्रार्थना करने के लिए है। एक निष्कर्ष तक पहुंचने में नाकाम रहने के बाद, प्रत्येक बंद हो जाता है उसके संबंधित बेहतर परामर्श करने के लिए। डोमिनिकन कहते हैं, "क्या अपने श्रेष्ठ कहा?"
जेसुइट प्रतिक्रिया, "उन्होंने कहा कि यह ठीक था।"
"यह अजीब बात है" डोमिनिकन जवाब है, "मेरी पर्यवेक्षक ने कहा कि यह एक पाप था।"
जेसुइट कहा, "क्या तुम उसे पूछा?" डोमिनिकन उत्तर "मैंने उससे पूछा कि यह प्रार्थना करते हुए धूम्रपान करने के लिए ठीक था।" "ओह" जेसुइट ने कहा, "मैंने पूछा कि क्या यह जबकि धूम्रपान प्रार्थना करने के लिए ठीक था।"
इस विशिष्ट मजाक से परे, सर्वेक्षण शोधकर्ताओं ने कई व्यवस्थित तरीकों को दस्तावेज किया है जो आप सीखते हैं कि आप कैसे पूछते हैं। वास्तव में, इस मजाक की जड़ पर बहुत ही मुद्दे सर्वेक्षण अनुसंधान समुदाय में एक नाम है: प्रश्न फ़ॉर्म प्रभाव (Kalton and Schuman 1982) । यह देखने के लिए कि प्रश्न फ़ॉर्म प्रभाव वास्तविक सर्वेक्षणों को कैसे प्रभावित कर सकते हैं, इन दो समान दिखने वाले सर्वेक्षण प्रश्नों पर विचार करें:
हालांकि दोनों प्रश्न एक ही चीज़ को मापने के लिए प्रकट होते हैं, फिर भी उन्होंने एक वास्तविक सर्वेक्षण प्रयोग (Schuman and Presser 1996) में अलग-अलग परिणाम दिए। जब एक तरफ पूछा गया, तो लगभग 60% उत्तरदाताओं ने बताया कि अपराधियों के लिए व्यक्तियों को दोषी ठहराया गया था, लेकिन जब दूसरे तरीके से पूछा गया, तो लगभग 60% ने बताया कि सामाजिक परिस्थितियों को दोषी ठहराया गया है (आंकड़ा 3.3)। दूसरे शब्दों में, इन दो सवालों के बीच छोटा अंतर शोधकर्ताओं को एक अलग निष्कर्ष तक ले जा सकता है।
प्रश्न की संरचना के अलावा, उत्तरदाताओं द्वारा इस्तेमाल किए गए विशिष्ट शब्दों के आधार पर अलग-अलग उत्तर भी दे सकते हैं। उदाहरण के लिए, सरकारी प्राथमिकताओं के बारे में राय मापने के लिए, उत्तरदाताओं को निम्नलिखित संकेत पढ़ा गया था:
"हम जो कोई भी आसानी से या सस्ते में हल किया जा सकता है इस देश में कई समस्याओं के साथ सामना कर रहे हैं। मैं इन समस्याओं में से कुछ नाम करने के लिए जा रहा हूँ, और हर एक के लिए मैं तुम मुझे बताओ कि क्या आपको लगता है कि हम उस पर बहुत कम पैसा बहुत ज्यादा पैसे खर्च कर रहे हैं, या सही मात्रा के बारे में चाहते हैं। "
इसके बाद, उत्तरदाताओं में से आधे लोगों को "कल्याण" के बारे में पूछा गया था और आधा लोगों को "गरीबों के लिए सहायता" के बारे में पूछा गया था। हालांकि ये एक ही चीज़ के लिए दो अलग-अलग वाक्यांशों की तरह लग सकते हैं, उन्होंने बहुत अलग परिणाम (आंकड़ा 3.4) प्राप्त किए; अमेरिकियों की रिपोर्ट "कल्याण" (Smith 1987; Rasinski 1989; Huber and Paris 2013) तुलना में "गरीबों को सहायता" का अधिक सहायक है।
चूंकि प्रश्नपत्र प्रभाव और शब्द प्रभाव के बारे में इन उदाहरणों से पता चलता है कि शोधकर्ताओं द्वारा प्राप्त उत्तरों से वे अपने प्रश्न पूछने से प्रभावित हो सकते हैं। इन उदाहरणों में कभी-कभी शोधकर्ताओं को अपने सर्वेक्षण प्रश्न पूछने के "सही" तरीके से आश्चर्यचकित करने का नेतृत्व किया जाता है। जबकि मुझे लगता है कि एक सवाल पूछने के कुछ स्पष्ट तरीके हैं, मुझे नहीं लगता कि हमेशा एक ही सही तरीका होता है। यही है, "कल्याण" या "गरीबों के लिए सहायता" के बारे में पूछना स्पष्ट रूप से बेहतर नहीं है; ये दो अलग-अलग प्रश्न हैं जो उत्तरदाताओं के दृष्टिकोण के बारे में दो अलग-अलग चीजों को मापते हैं। इन उदाहरणों में कभी-कभी शोधकर्ताओं का निष्कर्ष निकाला जाता है कि सर्वेक्षणों का उपयोग नहीं किया जाना चाहिए। दुर्भाग्यवश, कभी-कभी कोई विकल्प नहीं होता है। इसके बजाय, मुझे लगता है कि इन उदाहरणों से आकर्षित करने का सही सबक यह है कि हमें अपने प्रश्नों को ध्यान से बनाना चाहिए और हमें अनजाने में प्रतिक्रियाओं को स्वीकार नहीं करना चाहिए।
सबसे ठोस रूप से, इसका मतलब है कि यदि आप किसी और द्वारा एकत्रित सर्वेक्षण डेटा का विश्लेषण कर रहे हैं, तो सुनिश्चित करें कि आपने वास्तविक प्रश्नावली पढ़ ली है। और यदि आप अपनी खुद की प्रश्नावली बना रहे हैं, तो मेरे पास चार सुझाव हैं। सबसे पहले, मेरा सुझाव है कि आप प्रश्नावली डिजाइन (उदाहरण के लिए Bradburn, Sudman, and Wansink (2004) ) के बारे में अधिक पढ़ें; इसके अलावा मैं यहां वर्णन करने में सक्षम हूं। दूसरा, मेरा सुझाव है कि आप उच्च गुणवत्ता वाले सर्वेक्षणों से शब्द-प्रश्नों के लिए प्रतिलिपि शब्द। उदाहरण के लिए, यदि आप उत्तरदाताओं से उनकी जाति / जाति के बारे में पूछना चाहते हैं, तो आप जनगणना जैसे बड़े पैमाने पर सरकारी सर्वेक्षणों में उपयोग किए जाने वाले प्रश्नों की प्रतिलिपि बना सकते हैं। यद्यपि यह साहित्य चोरी की तरह लग सकता है, सर्वेक्षण शोध में प्रश्नों की प्रतिलिपि को प्रोत्साहित किया जाता है (जब तक आप मूल सर्वेक्षण उद्धृत करते हैं)। यदि आप उच्च गुणवत्ता वाले सर्वेक्षणों से प्रश्नों की प्रतिलिपि बनाते हैं, तो आप सुनिश्चित हो सकते हैं कि उनका परीक्षण किया गया है, और आप अपने सर्वेक्षण में प्रतिक्रियाओं की तुलना किसी अन्य सर्वेक्षण से प्रतिक्रियाओं की तुलना कर सकते हैं। तीसरा, अगर आपको लगता है कि आपके प्रश्नावली में महत्वपूर्ण प्रश्न शब्द प्रभाव या प्रश्न फ़ॉर्म प्रभाव हो सकते हैं, तो आप एक सर्वेक्षण प्रयोग चला सकते हैं जहां आधे उत्तरदाताओं को प्रश्न का एक संस्करण प्राप्त होता है और आधा अन्य संस्करण (Krosnick 2011) प्राप्त होता है। अंत में, मेरा सुझाव है कि आप अपने फ्रेम आबादी से कुछ लोगों के साथ अपने प्रश्नों का परीक्षण करें; सर्वेक्षण शोधकर्ताओं ने इस प्रक्रिया को प्री-टेस्टिंग (Presser et al. 2004) । मेरा अनुभव यह है कि सर्वेक्षण पूर्व परीक्षण बेहद सहायक है।