Uma vez que você tenha motivado muitas pessoas a trabalhar em um problema científico real, você descobrirá que seus participantes serão heterogêneos de duas maneiras principais: eles variarão tanto em suas habilidades quanto em seu nível de esforço. A primeira reação de muitos pesquisadores sociais é lutar contra essa heterogeneidade, tentando excluir participantes de baixa qualidade e, em seguida, tentando coletar uma quantidade fixa de informações de todos os que restam. Este é o caminho errado para projetar um projeto de colaboração em massa. Em vez de lutar contra a heterogeneidade, você deve aproveitar isso.
Primeiro, não há razão para excluir participantes pouco qualificados. Em chamadas abertas, os participantes pouco qualificados não causam problemas; suas contribuições não machucam ninguém e não exigem tempo para avaliar. Em computação humana e em projetos distribuídos de coleta de dados, a melhor forma de controle de qualidade é a redundância, e não a alta participação. De fato, em vez de excluir participantes com pouca habilidade, uma abordagem melhor é ajudá-los a fazer contribuições melhores, como fizeram os pesquisadores do eBird.
Em segundo lugar, não há razão para coletar uma quantidade fixa de informações de cada participante. A participação em muitos projetos de colaboração em massa é incrivelmente desigual (Sauermann and Franzoni 2015) , com um pequeno número de pessoas contribuindo muito - às vezes chamado de cabeça gorda - e muitas pessoas contribuindo um pouco - algumas vezes chamado de cauda longa . Se você não coletar informações da cabeça gorda e da cauda longa, estará deixando grandes quantidades de informações não coletadas. Por exemplo, se a Wikipedia aceitasse 10 e apenas 10 edições por editor, perderia cerca de 95% das edições (Salganik and Levy 2015) . Assim, com projetos de colaboração em massa, é melhor alavancar a heterogeneidade do que tentar eliminá-la.