Khảo sát không được tự do, và đây là một hạn chế thực sự.
Cho đến nay, tôi đã xem xét ngắn gọn khung tổng số lỗi khảo sát, mà chính nó là chủ đề của các phương pháp điều trị độ dài sách (Weisberg 2005; Groves et al. 2009) . Mặc dù khuôn khổ này là toàn diện, nó thường khiến các nhà nghiên cứu bỏ qua một yếu tố quan trọng: chi phí. Mặc dù chi phí - có thể được đo bằng thời gian hoặc tiền bạc - hiếm khi được các nhà nghiên cứu học thuật thảo luận một cách rõ ràng, đó là một ràng buộc thực sự mà không nên bỏ qua. Trên thực tế, chi phí là nền tảng cho toàn bộ quá trình nghiên cứu khảo sát (Groves 2004) : đó là lý do các nhà nghiên cứu phỏng vấn một mẫu người chứ không phải toàn bộ dân số. Một sự tận tụy tận tâm để giảm thiểu lỗi trong khi bỏ qua hoàn toàn chi phí không phải lúc nào cũng quan tâm nhất.
Những hạn chế của một nỗi ám ảnh với lỗi giảm được minh họa bởi dự án mang tính bước ngoặt của Scott Keeter và cộng sự (2000) về tác động của các hoạt động lĩnh vực đắt tiền để giảm thiểu phản hồi trong các cuộc điều tra qua điện thoại. Keeter và các đồng nghiệp đã thực hiện hai nghiên cứu đồng thời, một nghiên cứu sử dụng quy trình tuyển dụng “tiêu chuẩn” và một quy trình tuyển dụng “nghiêm ngặt”. Sự khác biệt giữa hai nghiên cứu là số lượng nỗ lực liên quan đến người trả lời và khuyến khích họ tham gia. Ví dụ, trong nghiên cứu với tuyển dụng “nghiêm ngặt”, các nhà nghiên cứu gọi các hộ mẫu được lấy mẫu thường xuyên hơn và trong một khoảng thời gian dài hơn và thực hiện các cuộc gọi lại nếu người tham gia ban đầu từ chối tham gia. Những nỗ lực này đã thực sự tạo ra một tỷ lệ không đáp ứng thấp hơn, nhưng họ đã thêm vào chi phí đáng kể. Nghiên cứu sử dụng các thủ tục “nghiêm ngặt” đắt gấp đôi và chậm hơn gấp 8 lần. Và, cuối cùng, cả hai nghiên cứu đã đưa ra các ước tính cơ bản giống hệt nhau. Dự án này, cũng như các bản sao tiếp theo với các phát hiện tương tự (Keeter et al. 2006) , sẽ dẫn bạn đến thắc mắc: chúng ta có tốt hơn với hai khảo sát hợp lý hoặc một cuộc khảo sát nguyên sơ? Còn khoảng 10 khảo sát hợp lý hoặc một khảo sát nguyên sơ thì sao? Điều gì về 100 khảo sát hợp lý hoặc một cuộc khảo sát nguyên sơ? Tại một số điểm, lợi thế chi phí phải lớn hơn mơ hồ, mối quan tâm không đặc biệt về chất lượng.
Như tôi sẽ trình bày trong phần còn lại của chương này, nhiều cơ hội được tạo ra bởi thời đại kỹ thuật số không phải là về việc ước tính rõ ràng là có lỗi thấp hơn. Thay vào đó, những cơ hội này là về ước tính số lượng khác nhau và về việc ước tính nhanh hơn và rẻ hơn, ngay cả với các lỗi có thể cao hơn. Các nhà nghiên cứu nhấn mạnh vào một nỗi ám ảnh đơn độc với việc giảm thiểu lỗi tại các chi phí của các khía cạnh khác về chất lượng sẽ bỏ lỡ những cơ hội thú vị. Với bối cảnh này, chúng tôi sẽ chuyển sang ba lĩnh vực chính của nghiên cứu khảo sát thứ ba: các phương pháp tiếp cận mới để trình bày (phần 3.4), các phương pháp mới để đo lường (phần 3.5) và các chiến lược mới để kết hợp các cuộc điều tra với các nguồn dữ liệu lớn (phần 3.6).