2.3.2.5 Algorithmically biskamme

Gedrach yn fûn gegevens is net natuerlik, it wurdt dreaun troch de technyske doelen fan de systemen.

Hoewol't in soad fûn gegevens boarnen binne net-reaktive omdat minsken binne net bewust harren gegevens wurde opnommen (paragraaf 2.3.1.3), ûndersikers moatte net rekken gedrach yn dizze online systemen te wêzen "fan natuere foarkommende" of "suver." Yn wurklikheid, de digitale systemen dy't record gedrach binne tige manipulearre te induce spesifike gedragingen lykas klikken op reklame of it pleatsen ynhâld. De wegen, dy't de doelen fan systeem ûntwerpers kinne ynfiere patroanen yn gegevens wurdt neamd algorithmic confounding. Algorithmic confounding is relatyf ûnbekend foar sosjale wittenskippers, mar it is in grutte soarch ûnder foarsichtich gegevens wittenskippers. En, oars as guon fan 'e oare problemen mei digitale spoaren, algorithmic confounding is foar it grutste part ûnsichtber.

In relatyf ienfâldige foarbyld fan algorithmic confounding is it feit dat op Facebook binne der in anomalously hege oantal brûkers mei likernôch 20 friends (Ugander et al. 2011) . Wittenskippers analysearjen mei dizze gegevens sûnder begryp fan hoe't Facebook wurket koe doubtlessly generearje in protte ferhalen oer hoe't 20 is in soarte fan magysk sosjale nûmer. Mar, Ugander en syn kollega hie in substansjele ynsjoch fan it proses dat generearre de gegevens, en se wisten dat Facebook oanmoedige minsken mei pear ferbinings op Facebook om mear freonen, oant se helle 20 freonen. Hoewol't Ugander en kollega net sizze dat yn it papier, dit belied waard nei alle gedachten makke troch Facebook om te stimulearjen nije brûkers te wurden mear aktyf. Sûnder witten oer it bestean fan dit belied, lykwols, is it maklik om tekenen de ferkearde konklúzje fan de gegevens. Yn oare wurden, it ferrassend hege tal minsken mei sa'n 20 freonen fertelt ús mear oer Facebook as minsklik gedrach.

Mear pernicious as dizze foarige foarbyld dêr't algorithmic confounding produsearre in eigensinnige resultaat dat in soarchfâldige ûndersikers soe ûndersykje fierder, is der in noch trickier ferzje fan algorithmic confounding dat optreedt as ûntwerpers oanmelden systemen binne bewust fan sosjale teoryen en dan bakken dy teoryen yn de wurkjende fan harren systemen. Sosjale wittenskippers neame dit performativity: as teoryen feroarje de wrâld yn sa'n manier dat se bringe de wrâld mear yn line mei de teory. Yn de gefallen fan performative algorithmic confounding, de oertsjûge alweroan karakter fan de gegevens is wierskynlik ûnsichtber.

Ien foarbyld fan in patroan makke troch performativity is transitivity yn online sosjale netwurken. Yn de jierren 1970 en 1980, ûndersikers kearen fûn dat as jo binne freonen mei Alice en jo binne freonen mei Bob, dan Bob en Alice binne mear kâns te wêzen freonen mei inoar as twa willekeurich keazen minsken. En, dat tige itselde patroan waard fûn yn de sosjale grafyk op Facebook (Ugander et al. 2011) . Sa, men soe konkludearje dat patroanen fan freonskip op Facebook replicate patroanen fan offline freonskippen, op syn minst op it mêd fan transitivity. Lykwols, de omfang fan transitivity yn de Facebook sosjale grafyk is in part dreaun troch algorithmic confounding. Dat is, gegevens wittenskippers op Facebook wist fan de empiryske en teoretyske ûndersyk oer transitivity en dêrnei bakt yn hoe't Facebook wurket. Facebook hat in "People Jo witte" funksje dy't suggerearret nije freonen, en ien manier dat Facebook beslút dy't te suggest nei jo is transitivity. Dat is, Facebook is mear kâns te foarstelle dat jo wurden freonen mei de freonen fan dyn freonen. Dizze funksje dêrmei hat it effekt fan tanimmende transitivity yn de Facebook sosjale grafyk; yn oare wurden, de teory fan transitivity bringt de wrâld yn line mei de foarsizzings fan de teory (Healy 2015) . Sa, as grut gegevens boarnen blykt te reprodusearjen foarsizzings fan sosjale teory, wy moatte der wis fan wêze dat de teory sels wie net bakt yn hoe't it systeem wurke.

Leaver as it tinken fan grutte gegevens boarnen as observearjen minsken yn in natuerlike ynstelling, in mear apt metafoar is observearjen minsken yn in kasino. Casino wurde sterk manipulearre omjouwings ûntwurpen om induce bepaalde gedrach, en in ûndersikers soe nea ferwachtsje dat gedrach yn in kasino soe biede in frijmakke folk finster yn minsklik gedrach. Fansels, wy koene leare wat oer minsklik gedrach studearre minsken yn kasino-yn feite in kasino soe wêze in ideale ynstelling foar stúdzje fan de relaasje tusken it alkoholgebrûk en risiko foarkar-mar as wy negearre dat de gegevens waard dat makke yn in kasino wy mocht lûke in pear minne konklúzjes.

Helaas, it omgean mei algorithmic confounding is bysûnder dreech omdat in soad funksjes oanmelden systemen binne kommersjele, min dokumintearre, en hieltyd feroaret. Bygelyks, as ik útlizze letter yn dit haadstik, algorithmic confounding wie ien mooglike ferklearring foar de njonkelytsen break-del fan Google Flu Trends (paragraaf 2.4.2), mar dy kleem wie dreech te beoardieljen omdat de ynderlike wurking fan Google sykje algoritme binne bedriuwseigen. De dynamyske aard fan algorithmic confounding is ien foarm fan systeem drift. Algorithmic confounding betsjut dat wy moatte foarsichtich wêze oer alle oanspraak foar minsklik gedrach dat komt út ien digitaal systeem, gjin saak hoe grut.