การทดลองมักวัดผลโดยเฉลี่ย แต่ผลกระทบอาจไม่เหมือนกันสำหรับทุกคน
แนวคิดที่สำคัญประการที่สองสำหรับการย้ายนอกเหนือจากการทดลองง่ายๆคือ ความหลากหลายของผลการรักษา การทดลองของ Schultz et al. (2007) แสดงให้เห็นถึงวิธีการรักษาที่เหมือนกันอาจมีผลแตกต่างกันต่อคนประเภทต่างๆ (รูปที่ 4.4) อย่างไรก็ตามในการทดลองแบบอะนาล็อกส่วนใหญ่นักวิจัยให้ความสนใจกับผลการรักษาโดยเฉลี่ยเนื่องจากมีผู้เข้าร่วมจำนวนน้อยและไม่ค่อยรู้จักพวกเขา อย่างไรก็ตามในการทดลองแบบดิจิทัลมักมีผู้เข้าร่วมอีกหลายคนและอีกมากเป็นที่รู้จักเกี่ยวกับพวกเขา ในสภาพแวดล้อมข้อมูลที่แตกต่างกันนี้นักวิจัยที่ยังคงประเมินผลการรักษาโดยเฉลี่ยเพียงอย่างเดียวจะไม่สามารถหาแนวทางในการประเมินความแตกต่างของผลการรักษาได้ว่าจะมีวิธีการรักษาอย่างไรบ้างสามารถปรับปรุงได้อย่างไรและสามารถกำหนดเป้าหมายได้อย่างไร กับผู้ที่ได้รับประโยชน์มากที่สุด
สองตัวอย่างของความไม่สม่ำเสมอของผลการรักษามาจากการวิจัยเพิ่มเติมเกี่ยวกับรายงานพลังงานที่บ้าน ประการแรก Allcott (2011) ใช้กลุ่มตัวอย่างขนาดใหญ่ (600,000 ครัวเรือน) เพื่อแยกกลุ่มตัวอย่างและประเมินผลของรายงาน Energy Home โดยการใช้พลังงานก่อนการบำบัด ในขณะที่ Schultz et al. (2007) พบความแตกต่างระหว่างผู้ใช้หนักและเบา Allcott (2011) พบว่ามีความแตกต่างภายในกลุ่มผู้ใช้ที่มีน้ำหนักและเบา ตัวอย่างเช่นผู้ใช้ที่หนักที่สุด (ผู้ที่อยู่ในกลุ่มด้านบน) ลดการใช้พลังงานลงสองเท่าของคนในกลุ่มผู้ใช้ที่มีผู้ใช้จำนวนมาก (รูปที่ 4.8) นอกจากนี้การประมาณผลกระทบจากพฤติกรรมก่อนการรักษายังพบว่าไม่มีผลบูมเมอแรงแม้แต่สำหรับผู้ใช้ที่มีน้ำหนักเบา (รูปที่ 4.8)
ในการศึกษาที่เกี่ยวข้อง Costa and Kahn (2013) สันนิษฐานว่าประสิทธิภาพของรายงานพลังงานในบ้านอาจแตกต่างกันไปขึ้นอยู่กับอุดมการณ์ทางการเมืองของผู้เข้าร่วมและการรักษาอาจทำให้คนในอุดมการณ์บางคนเพิ่มการใช้พลังงานไฟฟ้าได้ กล่าวอีกนัยหนึ่งพวกเขาคาดการณ์ว่ารายงานพลังงานในบ้านอาจสร้างผลบูมเมอแรงสำหรับคนบางประเภท เพื่อประเมินความเป็นไปได้นี้คอสตาและคาห์นผสานข้อมูล Opower เข้ากับข้อมูลที่ซื้อจากผู้รวบรวมข้อมูลบุคคลที่สามซึ่งรวมถึงข้อมูลต่างๆเช่นการลงทะเบียนพรรคการเมืองการบริจาคให้กับองค์กรด้านสิ่งแวดล้อมและการมีส่วนร่วมในครัวเรือนในโครงการพลังงานหมุนเวียน ด้วยชุดข้อมูลที่ผสานรวมนี้คอสต้าและคาห์นพบว่ารายงานผลการใช้พลังงานภายในบ้านผลิตผลกระทบที่คล้ายกันในวงกว้างสำหรับผู้เข้าร่วมที่มีอุดมการณ์ต่างกัน ไม่มีหลักฐานว่ากลุ่มใดมีผลบูมเมอแรง (รูปที่ 4.9)
เนื่องจากตัวอย่างสองตัวอย่างนี้แสดงให้เห็นว่าในยุคดิจิทัลเราสามารถย้ายจากประเมินผลการรักษาโดยเฉลี่ยเพื่อประเมินความแตกต่างของผลการรักษาเนื่องจากเราสามารถมีผู้เข้าร่วมอีกมากมายและเรารู้เพิ่มเติมเกี่ยวกับผู้เข้าร่วมเหล่านั้น การเรียนรู้เกี่ยวกับความหลากหลายของผลการรักษาสามารถช่วยให้การกำหนดเป้าหมายของการรักษาที่มีประสิทธิภาพมากที่สุดให้ข้อเท็จจริงที่กระตุ้นการพัฒนาทฤษฎีใหม่และให้คำแนะนำเกี่ยวกับกลไกที่เป็นไปได้หัวข้อที่ฉันหันมา