2.3.2.5 algorithmically háðungar

Hegðun í fannst gögnum er ekki eðlilegt, það er knúin áfram af verkfræði markmiðum kerfanna.

Þótt margir fundust gögn heimildir eru óhvarfejam vegna þess að fólk er ekki kunnugt um þá eru skráðar (kafli 2.3.1.3), vísindamenn ættu ekki að íhuga hegðun í þessum online kerfi til að vera "náttúrulega" eða "hreint." Í raun og veru, stafræn kerfi sem taka hegðun eru mjög verkfræðingur að örva ákveðin hegðun eins og að smella á auglýsingar eða birta efni. Þær leiðir að markmiðum kerfi hönnuðir geta kynna munstur í gögnum er kallað lausnarleiðar truflandi. Lausnarleiðar truflandi er tiltölulega óþekkt félagslegum vísindamenn, en það er stórt áhyggjuefni meðal vönduðum gögn vísindamanna. Og ólíkt sumir af the annar vandamálum með stafrænum ummerki, lausnarleiðar truflandi er að mestu ósýnileg.

A tiltölulega einfalt dæmi um algrími truflandi er sú staðreynd að á Facebook það eru anomalously mikill fjöldi notenda með um það bil 20 vinum (Ugander et al. 2011) . Vísindamenn sem greina með þessum gögnum án skilnings á því hvernig Facebook virkar gæti eflaust búið margar sögur um hvernig 20 er einhvers konar töfrum félagslega númer. Hins vegar Ugander og samstarfsmenn hans höfðu veruleg skilning á því ferli sem mynda gögn, og þeir vissu að Facebook hvatti fólk með nokkrum tengingum á Facebook til að gera fleiri vinum þar sem þeir náðu 20 vini. Þó Ugander og samstarfsmenn segi þetta ekki í blaðinu, að þessi stefna var væntanlega búin til af Facebook í því skyni að hvetja nýja notendur til að verða virkari. Án þess að vita um tilvist þessa stefnu, þó, það er auðvelt að draga ranga ályktun af gögnum. Með öðrum orðum, furðu mikill fjöldi fólks með um 20 vini segir okkur meira um Facebook en mannlegri hegðun.

Meira pernicious en þetta síðasta dæmi þar lausnarleiðar truflandi framleitt quirky niðurstöðu sem nákvæmt vísindamenn gætu rannsaka frekar, það er enn snúnara útgáfa af algrími truflandi sem á sér stað þegar hönnuðir online kerfi eru meðvitaðir um félagslega kenningum og síðan bakað þessar kenningar í vinnu þeirra kerfi. Félagsleg vísindamenn kalla þetta performativity: þegar kenningar breyta heiminum á þann hátt að þeir koma heim meira í takt við kenningu. Í þeim tilvikum sem performative algrími truflandi, en háðungar eðli gagna er líklegt ósýnileg.

Eitt dæmi um mynstur búin til af performativity er tengslaprófið í online félagslegur net. Í 1970 og 1980, vísindamenn ítrekað komist að því að ef þú ert vinir með Alice og þú ert vinir með Bob, þá Bob og Alice eru líklegri til að vera vinir með hvert annað en tvær af handahófi útvaldir. Og þetta mjög sama mynstur fannst í tengslanetsins á Facebook (Ugander et al. 2011) . Þannig gæti einn álykta að mynstur af vináttu á Facebook endurtaka mynstur offline vináttu, að minnsta kosti hvað varðar tengslaprófið. Hins vegar er umfang tengslaprófið í Facebook tengslanetsins er að hluta knúin áfram af algrími truflandi. Það er, gögn vísindamenn á Facebook vissi af reynslunni og fræðilegum rannsóknum um tengslaprófið og þá bakaði það inn hvernig Facebook virkar. Facebook hefur a "fólki sem þú þekkir" lögun sem bendir nýja vini, og ein leið að Facebook ákveður hver á að benda á að þér er tengslaprófið. Það er, Facebook er líklegri til að benda til þess að þú verður vinir með vini vinum þínum. Þessi eiginleiki hefur þannig áhrif að auka tengslaprófið í Facebook tengslanetsins; í öðrum orðum, kenningin tengslaprófið færir heiminum í samræmi við spár kenningarinnar (Healy 2015) . Svona, þegar stór gögn heimildum virðist endurskapa spár um félagslega kenningu, verðum við að vera viss um að kenning sjálft var ekki bökuð í hvernig kerfið virkaði.

Frekar en að hugsa um stóru gögn heimildum sem fylgjast fólk í náttúrulegu umhverfi, meira myndlíking er að fylgjast með fólki í spilavíti. Spilavítum eru mjög verkfræðingur umhverfi sem ætlað er að örva ákveðnar hegðun, og a vísindamenn myndi aldrei búast við að hegðun í spilavíti myndi veita ótakmarkaðan glugga í mannlegri hegðun. Að sjálfsögðu getum við lært eitthvað um mannlega hegðun nám fólks í spilavítum í raun spilavíti gæti verið tilvalið að setja til að rannsaka sambandið milli áfengisneyslu og áhættu óskir-en ef við hunsa að gögnum var að myndast í spilavíti við gætum draga slæmar ályktanir.

Því miður, að takast á við algrími truflandi er sérstaklega erfitt vegna þess að margir eiginleikar online kerfi eru sér, illa skjalfest, og stöðugt að breytast. Til dæmis, eins og ég skal útskýra síðar í þessum kafla, lausnarleiðar truflandi var ein möguleg skýring fyrir hægfara brotnar niður Google Flensa Trends (kafli 2.4.2), en þessi krafa var erfitt að meta vegna þess að innri starfsemi leit Google reiknirit eru sér. The dynamic eðli algrími truflandi er ein mynd af kerfi svíf. Lausnarleiðar truflandi þýðir að við ættum að vera varkár um hvaða kröfu um mannlega hegðun sem kemur úr einni stafrænu kerfi, sama hversu stór.