2.3.2.5 gwaradwyddir algorithmically

Nid yw ymddygiad yn y data a geir yn naturiol, mae'n cael ei yrru gan y nodau peirianyddol y systemau.

Er bod llawer o ffynonellau data a geir ydynt yn adweithiol oherwydd nad yw pobl yn ymwybodol eu data yn cael eu cofnodi (Adran 2.3.1.3), ni ddylai ymchwilwyr ystyried ymddygiad yn y systemau ar-lein hyn yn "digwydd yn naturiol" neu "pur." Mewn gwirionedd, mae'r systemau digidol bod ymddygiad cofnod yn cael eu peiriannu iawn i gymell ymddygiad penodol megis glicio ar ads neu bostio cynnwys. Mae'r ffyrdd y gall nodau dylunwyr system gyflwyno patrymau mewn data alw'n dryslyd algorithmig. dryslyd algorithmig yn gymharol anhysbys i wyddonwyr cymdeithasol, ond mae'n bryder mawr ymhlith gwyddonwyr data gofalus. Ac, yn wahanol i rai o'r problemau eraill gyda olion digidol, dryslyd algorithmig yn anweledig i raddau helaeth.

Enghraifft gymharol syml o dryslyd algorithmig yw'r ffaith bod ar Facebook yna nifer anomalously uchel o ddefnyddwyr gyda tua 20 ffrindiau (Ugander et al. 2011) . Mae gwyddonwyr yn dadansoddi data hwn heb unrhyw ddealltwriaeth o sut mae Facebook yn gweithio y gallai ddiau gynhyrchu llawer o straeon am sut 20 yn rhyw fath o rif cymdeithasol hudol. Fodd bynnag, roedd Ugander a'i gydweithwyr ddealltwriaeth sylweddol o'r broses a gynhyrchodd y data, ac maent yn gwybod bod Facebook yn annog pobl gydag ychydig chysylltiadau ar Facebook er mwyn gwneud mwy o ffrindiau nes iddynt gyrraedd 20 ffrindiau. Er nad yw Ugander a chydweithwyr yn dweud hyn yn y papur, mae'r polisi hwn ei greu yn ôl pob tebyg gan Facebook er mwyn annog defnyddwyr newydd i fod yn fwy egnïol. Heb wybod am fodolaeth y polisi hwn, fodd bynnag, mae'n hawdd i ddod i'r casgliad anghywir o'r data. Mewn geiriau eraill, mae nifer rhyfeddol o uchel o bobl gyda rhyw 20 ffrindiau dweud mwy wrthych am Facebook nag ymddygiad dynol ni.

Yn fwy niweidiol na'r enghraifft flaenorol hon lle cynhyrchu dryslyd algorithmig canlyniad od y gallai ymchwilwyr gofalus ymchwilio ymhellach, mae yna fersiwn hyd yn oed yn fwy anodd o dryslyd algorithmig sy'n digwydd pan dylunwyr systemau ar-lein yn ymwybodol o ddamcaniaethau gymdeithasol ac yna pobi damcaniaethau hyn i mewn i'r gwaith eu systemau. Gwyddonwyr cymdeithasol yn galw performativity hwn: pan damcaniaethau newid y byd yn y fath fodd y maent yn dod â'r byd yn fwy yn unol â'r theori. Yn yr achosion o dryslyd algorithmig perfformiadol, natur Gwaradwydder y data yn debygol anweledig.

Un enghraifft o batrwm a grëwyd gan performativity yn transitivity mewn rhwydweithiau cymdeithasol ar-lein. Yn y 1970au a'r 1980au, ymchwilwyr o hyd dro ar ôl tro, os ydych yn ffrindiau gyda Alice a ydych yn ffrindiau gyda Bob, yna Bob ac Alice yn fwy tebygol o fod yn ffrindiau â'i gilydd na dau o bobl a ddewiswyd ar hap. Ac, mae hyn yr un iawn patrwm Daethpwyd o hyd yn y graff cymdeithasol ar Facebook (Ugander et al. 2011) . Felly, efallai y bydd un yn dod i'r casgliad bod patrymau o gyfeillgarwch ar Facebook ailadrodd patrymau cyfeillgarwch oddi ar-lein, o leiaf o ran transitivity. Fodd bynnag, mae'r maint y transitivity yn y graff cymdeithasol Facebook yn cael ei yrru yn rhannol gan dryslyd algorithmig. Hynny yw, mae gwyddonwyr data ar Facebook yn gwybod am y gwaith ymchwil empirig a damcaniaethol am transitivity ac yna bobi i mewn sut mae Facebook yn gweithio. Mae gan facebook a "Mae pobl Bydded i chi Gwybod" nodwedd sy'n awgrymu ffrindiau newydd, ac un ffordd y facebook yn penderfynu pwy i awgrymu i chi yw transitivity. Hynny yw, Facebook yn fwy tebygol o awgrymu eich bod yn dod yn ffrindiau gyda ffrindiau eich ffrindiau. Mae'r nodwedd hon felly yn cael yr effaith o gynyddu transitivity yn y graff cymdeithasol Facebook; mewn geiriau eraill, y theori transitivity yn dod â'r byd yn unol â'r rhagfynegiadau o'r theori (Healy 2015) . Felly, pan fydd ffynonellau data mawr yn ymddangos i atgynhyrchu rhagfynegiadau o theori gymdeithasol, mae'n rhaid i ni fod yn sicr nad oedd y ddamcaniaeth ei hun yn eu pobi mewn i sut y mae'r system yn gweithio.

Yn hytrach na meddwl o ffynonellau data mawr fel arsylwi pobl mewn lleoliad naturiol, trosiad yn fwy addas yn arsylwi pobl mewn casino. Casinos yn amgylcheddau cynllunio i gymell ymddygiad penodol peirianyddol hynod, ac na fyddai byth yn ymchwilwyr yn disgwyl y byddai ymddygiad mewn casino yn darparu ffenestr dilyffethair i ymddygiad dynol. Wrth gwrs, gallem ddysgu rhywbeth am ymddygiad sy'n astudio dynol pobl mewn casinos-mewn gwirionedd gallai casino fod yn lleoliad delfrydol ar gyfer astudio'r berthynas rhwng yfed alcohol a risg hoffterau-ond os ydym yn anwybyddu'r fod y data yn cael ei greu mewn casino gallem lunio rhai casgliadau drwg.

Yn anffodus, delio â dryslyd algorithmig yn arbennig o anodd oherwydd bod llawer o nodweddion o systemau ar-lein yn berchnogol, dogfennu wael, a newid yn gyson. Er enghraifft, fel y byddaf yn esbonio yn ddiweddarach yn y bennod hon, dryslyd algorithmig yn un esboniad posibl ar gyfer y graddol torri i lawr o Dueddiadau Ffliw Google (Adran 2.4.2), ond honiad hwn roedd yn anodd i asesu oherwydd bod y gwaith mewnol Google chwilio algorithm yn berchnogol. Mae natur ddeinamig dryslyd algorithmig yn un ffurf o ddrifft system. dryslyd algorithmig yn golygu y dylem fod yn ofalus ynghylch unrhyw gais am ymddygiad dynol a ddaw o system ddigidol sengl, ni waeth pa mor fawr.