Eksperimente meet gewoonlik die gemiddelde effek, maar die effek is waarskynlik nie dieselfde vir almal nie.
Die tweede sleutel idee om verder as eenvoudige eksperimente te beweeg, is heterogeniteit van behandelingseffekte . Die eksperiment van Schultz et al. (2007) illustreer kragtig hoe dieselfde behandeling 'n ander effek op verskillende soorte mense kan hê (figuur 4.4). In die meeste analoog eksperimente het navorsers egter op gemiddelde behandelingseffekte gefokus omdat daar 'n klein aantal deelnemers was en daar was min bekend oor hulle. In digitale eksperimente is daar egter dikwels meer deelnemers en meer is bekend oor hulle. In hierdie verskillende data-omgewing sal navorsers wat net gemiddelde behandelingseffekte aanskou, die maniere misloop waarop skattings oor die heterogeniteit van behandelingseffekte leidrade kan gee oor hoe 'n behandeling werk, hoe dit verbeter kan word en hoe dit geteiken kan word aan diegene wat waarskynlik sal baat vind.
Twee voorbeelde van heterogeniteit van behandelingseffekte kom uit bykomende navorsing oor die Home Energy Reports. Eerstens het Allcott (2011) die groot steekproefgrootte (600,000 huishoudings) gebruik om die steekproef verder te verdeel en die effek van die Allcott (2011) bereken deur middel van decile van voorbehandelde energieverbruik. Terwyl Schultz et al. (2007) het verskille tussen swaar en ligte gebruikers gevind, het Allcott (2011) bevind dat daar ook verskille in die swaar- en Allcott (2011) was. Byvoorbeeld, die swaarste gebruikers (dié in die boonste decile) het hul energieverbruik twee keer soveel verminder as iemand in die middel van die swaargebruikersgroep (figuur 4.8). Verder, die skatting van die effek deur vooraf behandelingsgedrag het ook aan die lig gebring dat daar geen boemerang-effek was nie, selfs vir die ligste gebruikers (Figuur 4.8).
In 'n verwante studie het Costa and Kahn (2013) gespekuleer dat die effektiwiteit van die Huiseenergerapport kan wissel op grond van 'n deelnemer se politieke ideologie en dat die behandeling eintlik kan veroorsaak dat mense met sekere ideologieë hul elektrisiteitsverbruik verhoog. Met ander woorde, hulle het gespekuleer dat die Home Energy Reports 'n boemerang-effek vir sommige soorte mense kan skep. Om hierdie moontlikheid te evalueer, het Costa en Kahn die Opower-data saamgesmelt met data wat aangekoop is van 'n derdeparty-aggregator wat inligting soos politieke partye-registrasie, donasies aan omgewingsorganisasies en huishoudelike deelname aan hernubare energieprogramme insluit. Met hierdie saamgesmelte datastel het Costa en Kahn bevind dat die Home Energy Reports breedweg soortgelyke effekte vir deelnemers met verskillende ideologieë geproduseer het; daar was geen bewyse dat enige groep boemerang-effekte uitgestal het nie (figuur 4.9).
Soos hierdie twee voorbeelde illustreer, kan ons in die digitale era beweeg van die skatting van gemiddelde behandelingseffekte om die heterogeniteit van behandelingseffekte te skat omdat ons baie meer deelnemers kan hê en ons weet meer oor die deelnemers. Leer oor heterogeniteit van behandelingseffekte kan die doelwit van 'n behandeling waar dit effektief is, in staat stel om feite te verskaf wat nuwe teorie-ontwikkeling stimuleer en wenke verskaf oor moontlike meganismes, die onderwerp waarna ek nou draai.