你會(huì)被大數(shù)據(jù)歧視嗎?

2 評(píng)論 2869 瀏覽 1 收藏 7 分鐘

泰勒·羅德里格斯(TaylorRodriguez)準(zhǔn)備乘飛機(jī)出外,她把行程都輸進(jìn)了云端,接下來(lái)一切都實(shí)現(xiàn)了自動(dòng)化:

門外的行李由智能路燈負(fù)責(zé)看守;隱形眼鏡配有顯示器,指引她進(jìn)入車輛指定位置;車輛實(shí)現(xiàn)無(wú)人駕駛,自動(dòng)駛往機(jī)場(chǎng)。這一切是如此的簡(jiǎn)單快捷,各種設(shè)備對(duì)泰勒進(jìn)行貼身監(jiān)控,以第一時(shí)間發(fā)現(xiàn)她臉部、情緒或行走時(shí)的不正常跡象。

上述情景出自白宮之手,準(zhǔn)確來(lái)說(shuō),應(yīng)該是美國(guó)總統(tǒng)科技顧問(wèn)委員會(huì)。最近,該委員會(huì)發(fā)表了一份報(bào)告,對(duì)人類可能面臨的大數(shù)據(jù)情景進(jìn)行分析。

一同發(fā)布的,還有一份“90天大數(shù)據(jù)”實(shí)踐評(píng)估,主要負(fù)責(zé)人為白宮顧問(wèn)約翰·波德斯塔(JohnPodesta)。

大數(shù)據(jù)為眾多領(lǐng)域帶去了奇跡,這其中包括衛(wèi)生保健、罪案調(diào)查、智能家居、教育、執(zhí)法、就業(yè)等。

但是,為了便捷而犧牲隱私(如上文所述的泰勒·羅德里格斯),這就是我們真正想要的東西嗎?如果是,我們又該如何保證個(gè)人信息的自主控制權(quán)?

你也許覺得事不關(guān)己,無(wú)需過(guò)于擔(dān)心。但在將來(lái),大數(shù)據(jù)或許會(huì)通過(guò)以下三種方式影響到你的生活。

職業(yè)歧視

我們來(lái)看看美國(guó)的案例。達(dá)內(nèi)爾(Darnell)和杰弗里(Geoffrey)正競(jìng)爭(zhēng)著同一崗位。老板為了做進(jìn)一步的了解,到谷歌上去搜他們的名字。

當(dāng)搜索“達(dá)內(nèi)爾”時(shí),頁(yè)面出現(xiàn)大量關(guān)于大頭照搜索與犯罪背景查詢的廣告;當(dāng)搜索“杰弗里”時(shí),則出現(xiàn)一些無(wú)傷大雅的廣告,例如食品處理器與火奴魯魯旅行。

白宮在評(píng)估中指出,據(jù)研究表明,在網(wǎng)絡(luò)搜索典型的黑人名字,如達(dá)內(nèi)爾和拉坦婭·斯威尼(LatanyaSweeney,美國(guó)聯(lián)邦貿(mào)易委員會(huì)首席技術(shù)專家),大頭照搜索與犯罪背景查詢廣告的數(shù)量會(huì)比搜典型白人名字時(shí)多。

基于算法的廣告投放看似無(wú)害,但第一印象是非常重要的,類似的廣告投放優(yōu)化技術(shù)會(huì)把一整個(gè)族群陷于不利境地。

基于姓名的廣告歧視是如何實(shí)現(xiàn)的?個(gè)中原理我們不得而知。然而,類似的營(yíng)銷手段已經(jīng)出現(xiàn),并帶來(lái)一定的消極影響。以銷售數(shù)據(jù)為生的企業(yè),如Experian和Acxiom,會(huì)把數(shù)以千計(jì)的消費(fèi)者檔案打包起來(lái),形成人口統(tǒng)計(jì)圖,然后賣給營(yíng)銷人員或其他客戶。

美國(guó)參議院委員會(huì)的一項(xiàng)調(diào)查表明,數(shù)據(jù)銷售商在出售消費(fèi)者檔案時(shí),會(huì)為檔案貼上各類標(biāo)簽,例如“二類城市其他族裔掙扎者”,以方便營(yíng)銷人員找準(zhǔn)自己的目標(biāo)。

數(shù)據(jù)行業(yè)是一個(gè)價(jià)值數(shù)十億美元的產(chǎn)業(yè)。業(yè)內(nèi)企業(yè)聲稱,他們出售的數(shù)據(jù)(如網(wǎng)上購(gòu)物信息和健康狀況)不包含姓名。但多項(xiàng)研究表明,不含姓名的信息經(jīng)過(guò)處理,可輕易重構(gòu)出完整的個(gè)人檔案。

可以想象,一旦你的個(gè)人信息落到用人單位、零售商或貸款人手里,他們便會(huì)利用這些信息,滲入你生活的各個(gè)方面。

司法歧視

應(yīng)聘失敗后,達(dá)內(nèi)爾徑直回家,卻發(fā)現(xiàn)警察早已在門口等著他。警方想讓他協(xié)助調(diào)查,因?yàn)楦鶕?jù)犯罪現(xiàn)場(chǎng)留下的DNA,達(dá)內(nèi)爾及其家人有作案嫌疑。

美國(guó)一些執(zhí)法部門吸取了英國(guó)警方的經(jīng)驗(yàn),在調(diào)查案件時(shí)利用大數(shù)據(jù)技術(shù),一旦發(fā)現(xiàn)犯罪現(xiàn)場(chǎng)的DNA與刑事司法數(shù)據(jù)庫(kù)里的類似,執(zhí)法人員便會(huì)采取行動(dòng)。

刑事司法數(shù)據(jù)庫(kù)里的基因數(shù)據(jù)是從罪犯那里采集而來(lái)的,但在某些州,因?yàn)檩p罪被捕者也會(huì)被采集。執(zhí)法人員會(huì)對(duì)基因部分吻合者進(jìn)行調(diào)查,這就是所謂的家族性排查。

此舉有利有弊,一方面它有助于迅速鎖定罪犯;另一方面,它會(huì)把很多無(wú)辜的人當(dāng)成嫌疑犯,例如被采集基因者的親人。

在美國(guó)不少州,如加利福尼亞和紐約,警方已開始采用類似手段進(jìn)行調(diào)查,結(jié)果時(shí)好時(shí)壞。

還有,利用DNA部分比對(duì)技術(shù),警方將可能實(shí)現(xiàn)對(duì)某個(gè)族群的重點(diǎn)排查,這跟傳統(tǒng)的攔截盤問(wèn)手段很不一樣。一旦刑事司法系統(tǒng)內(nèi)的小數(shù)族裔比例過(guò)重,DNA數(shù)據(jù)庫(kù)將產(chǎn)生更大規(guī)模的司法歧視。

美國(guó)警方還曾利用大數(shù)據(jù)來(lái)預(yù)測(cè)汽車盜竊案的地理“熱點(diǎn)”。凱特·克勞福德(KateCrawford)是微軟和麻省理工學(xué)院的研究員,她指出,類似基于算法的預(yù)測(cè)行為會(huì)對(duì)一整片區(qū)域的居民產(chǎn)生歧視。她說(shuō):“從司法公正的角度看來(lái),警方的這種行為應(yīng)引起我們的警惕?!?/p>

消費(fèi)歧視

經(jīng)歷面試失敗、警察調(diào)查以后,達(dá)內(nèi)爾決定跑步輕松一下。為了記錄跑步路徑,他打開了一個(gè)手機(jī)App。跑步結(jié)束后,達(dá)內(nèi)爾終于開心起來(lái)了,不料那個(gè)App卻彈出一條廣告,說(shuō)前面士力架正在打折促銷。

美國(guó)大學(xué)華盛頓法學(xué)院助理教授瑞恩·卡羅(RyanCalo)表示,上述情景雖讓人忍俊不禁,本質(zhì)上卻是一種不道德的行為。這種基于移動(dòng)端和網(wǎng)絡(luò)追蹤的歧視,終有一天會(huì)在現(xiàn)實(shí)發(fā)生。

在掌握消費(fèi)者習(xí)慣的基礎(chǔ)上,零售商能就不同人定下不同的銷售方案。如果任由商家這樣做,會(huì)對(duì)社會(huì)產(chǎn)生怎么樣的影響?

“我擔(dān)心,商家會(huì)利用大數(shù)據(jù),在弱勢(shì)消費(fèi)者身上謀求利益。商家既能摸清消費(fèi)者的底細(xì),又能創(chuàng)造互動(dòng)的機(jī)會(huì),這將促使侵權(quán)行為的發(fā)生?!笨_說(shuō)。

來(lái)源:中國(guó)統(tǒng)計(jì)網(wǎng)

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 會(huì)被歧視

    來(lái)自上海 回復(fù)
  2. 來(lái)自天津 回復(fù)