القياس يدور حول استقصاء ما يفيد به المستجيبون وما يفعلونه.
بالإضافة إلى مشاكل التمثيل ، يوضح إطار الخطأ الإجمالي للمسح أن المصدر الرئيسي الثاني للأخطاء هو القياس : كيف نجعل استنتاجات من الإجابات التي يقدمها المجيبون على أسئلتنا. لقد تبين أن الإجابات التي نتلقاها ، وبالتالي الاستنتاجات التي نجريها ، يمكن أن تعتمد بشكل نقدي - وفي بعض الأحيان بطرق مثيرة للدهشة - على الكيفية التي نطلبها بالضبط. ربما لا يوجد شيء يوضح هذه النقطة المهمة أفضل من نكتة في كتاب رائع طرح الأسئلة من قبل نورمان برادبورن ، سيمور سدمان ، وبريان وانسينك (2004) :
اثنين من الكهنة، والدومينيكان واليسوعيين، ويناقش ما إذا كان الذنب في التدخين ويصلي في نفس الوقت. بعد الفشل في التوصل إلى نتيجة، كل يذهب للتشاور بها في منطقته متفوقة. يقول الدومينيكان، "ماذا قال متفوقة بك؟"
اليسوعي يستجيب "، وقال انه كان على ما يرام."
"هذا مضحك" الدومينيكان الردود، "قال لي المشرف أنه خطيئة."
وقال اليسوعي، "ماذا كنت أسأله؟" يجيب على الدومينيكان، "سألته إذا كان على ما يرام في التدخين أثناء الصلاة." "" قال اليسوعية، "أوه سألت إذا كان موافق للصلاة في حين التدخين."
أبعد من هذه النكتة المحددة ، قام باحثون مسوحون بتوثيق العديد من الطرق المنهجية التي تعتمد على ما تتعلمه على الطريقة التي تطلبها. في الواقع ، فإن القضية الأساسية في جذر هذه النكتة لها اسم في مجتمع البحث الاستقصائي: تأثيرات شكل السؤال (Kalton and Schuman 1982) . لمعرفة كيف تؤثر تأثيرات شكل السؤال على الدراسات الاستقصائية الحقيقية ، فكر في هاتين المسألتين الاستطلاعين المتشابهين للغاية:
على الرغم من أن كلا السؤالين يقيسان الشيء نفسه ، إلا أنهما أنتجا نتائج مختلفة في تجربة مسح حقيقية (Schuman and Presser 1996) . عندما سئلوا عن طريقة واحدة ، أفاد حوالي 60 ٪ من المستجيبين بأن الأشخاص هم من يتحملون مسؤولية أكبر للجريمة ، ولكن عندما سئلوا عن الطريقة الأخرى ، أفاد حوالي 60 ٪ بأن الظروف الاجتماعية هي أكثر إلحاحا (الشكل 3.3). وبعبارة أخرى ، يمكن أن يؤدي الاختلاف القليل بين هذين السؤالين الباحثين إلى استنتاج مختلف.
بالإضافة إلى بنية السؤال ، يمكن أيضًا أن يقدم المستجيبون إجابات مختلفة ، اعتمادًا على الكلمات المحددة المستخدمة. على سبيل المثال ، من أجل قياس الآراء حول الأولويات الحكومية ، تمت قراءة المستجيبين الموجهين التاليين:
"نحن نواجه العديد من المشاكل في هذا البلد، فإن أيا منها لا يمكن حلها بسهولة أو غير مكلفة. انا ذاهب الى تسمية بعض هذه المشاكل، ولكل واحد أود منك أن تخبرني ما إذا كنت أعتقد أننا ننفق الكثير من المال على ذلك، والمال القليل جدا، أو عن الكمية المناسبة ".
بعد ذلك ، سئل نصف المستجيبين عن "الرفاه" ، وسئل نصفهم عن "المساعدات المقدمة للفقراء". في حين قد تبدو هذه عبارات مختلفة لنفس الشيء ، فقد أثارت نتائج مختلفة (الشكل 3.4) ؛ أفاد الأميركيون بأنهم أكثر دعماً لـ "المعونة إلى الفقراء" من "الرفاه" (Smith 1987; Rasinski 1989; Huber and Paris 2013) .
كما تظهر هذه الأمثلة حول تأثيرات شكل السؤال وتأثيرات الصياغة ، يمكن أن تتأثر الإجابات التي يتلقاها الباحثون بكيفية طرح أسئلتهم. هذه الأمثلة تقود الباحثين أحيانًا إلى التساؤل عن الطريقة "الصحيحة" لطرح أسئلة الاستطلاع. بينما أعتقد أن هناك بعض الطرق الخاطئة بشكل واضح لطرح سؤال ، لا أعتقد أن هناك دائما طريقة واحدة صحيحة. أي أنه من غير الواضح بشكل واضح السؤال عن "الرفاهية" أو "المعونة للفقراء" ؛ هذان سؤالان مختلفان يقيسان شيئين مختلفين حول مواقف المستجيبين. هذه الأمثلة أيضًا تقود الباحثين في بعض الأحيان إلى استنتاج أنه لا ينبغي استخدام الاستطلاعات. لسوء الحظ ، في بعض الأحيان لا يوجد خيار. وبدلاً من ذلك ، أعتقد أن الدرس الصحيح الذي ينبغي استخلاصه من هذه الأمثلة هو أنه ينبغي لنا أن نبني أسئلتنا بعناية ، وينبغي ألا نقبل الاستجابات دون تمحيص.
وهذا يعني بشكل ملموس أنه إذا كنت تقوم بتحليل بيانات الاستقصاء التي جمعها شخص آخر ، فتأكد من قراءة الاستبيان الفعلي. وإذا كنت تقوم بإنشاء استبيان خاص بك ، لدي أربعة اقتراحات. أولاً ، أقترح عليك قراءة المزيد عن تصميم الاستبيان (على سبيل المثال ، Bradburn, Sudman, and Wansink (2004) ) ؛ هناك ما هو أكثر مما كنت أستطيع وصفه هنا. ثانيًا ، أقترح عليك أن تنسخ - كلمة للكلمة - أسئلة من استبيانات عالية الجودة. على سبيل المثال ، إذا كنت تريد أن تسأل المستجيبين عن عرقهم / عرقهم ، فيمكنك نسخ الأسئلة التي يتم استخدامها في الاستبيانات الحكومية واسعة النطاق ، مثل التعداد. على الرغم من أن هذا قد يبدو وكأنه انتحال ، إلا أن نسخ الأسئلة يتم تشجيعها في أبحاث المسح (طالما أنك تستشهد بالدراسة الاستقصائية الأصلية). إذا قمت بنسخ أسئلة من استبيانات عالية الجودة ، يمكنك التأكد من أنها قد تم اختبارها ، ويمكنك مقارنة الردود على الاستطلاع الخاص بك إلى ردود من بعض الاستطلاعات الأخرى. ثالثًا ، إذا كنت تعتقد أن استبيانك قد يحتوي على مؤثرات مهمة في صياغة الأسئلة أو تأثيرات شكل سؤال ، فيمكنك تشغيل تجربة استطلاع حيث يحصل نصف المجيبين على نسخة واحدة من السؤال ويتلقى النصف الآخر الإصدار الآخر (Krosnick 2011) . وأخيرًا ، أقترح عليك اختبار أسئلتك التجريبية مع بعض الأشخاص من سكان الإطار لديك ؛ الباحثون استقصاء استدعاء هذه العملية قبل الاختبار (Presser et al. 2004) . تجربتي هي أن الاختبار المسبق للمسح مفيد للغاية.