隨著人工智能技術(shù)的快速發(fā)展，機(jī)器人擁有越來(lái)越強(qiáng)大的智能，然而暴露的弊病也日漸凸顯，AI倫理問(wèn)題也將日益得到重視。那么AI倫理的邊界到底在哪里？我們跟著作者一起思考一下。

故事要從今年三月初說(shuō)起。

今年三月，Google被爆料已經(jīng)與美國(guó)國(guó)防部（五角大樓）達(dá)成合作，幫助后者開(kāi)發(fā)應(yīng)用于無(wú)人機(jī)的人工智能系統(tǒng)，項(xiàng)目代號(hào)?Project Maven。

消息一出，瞬間風(fēng)起云涌。

谷歌員工表達(dá)了對(duì)此項(xiàng)目的強(qiáng)烈不滿：有員工認(rèn)為 Google 在為五角大樓開(kāi)放資源，助紂為虐般地幫助后者打造無(wú)人機(jī)監(jiān)控技術(shù)；還有一部分人質(zhì)疑 Google 如此使用機(jī)器學(xué)習(xí)技術(shù)是否符合道德標(biāo)準(zhǔn)，他們認(rèn)為五角大樓會(huì)將這一技術(shù)用于殺傷性武器，進(jìn)而帶來(lái)技術(shù)樂(lè)觀派們從未想要造成的傷害。

隨后，谷歌超過(guò)3100名員工聯(lián)名請(qǐng)?jiān)?，上?CEO 桑達(dá)爾·皮查伊（Sundar Pichai），表達(dá)抗議。

谷歌員工聯(lián)名上書Sundar Pichai

事情到四月底進(jìn)一步發(fā)酵。

有媒體發(fā)現(xiàn)，Google 刪掉了其沿用十八年的座右銘“Don’t be evil”在公司行為守則開(kāi)頭中的三處強(qiáng)調(diào)。僅在準(zhǔn)則的結(jié)尾，還留有未被刪掉的一句：“記住，don’t be evil，如果你看到了一些你認(rèn)為不正確的事情，大聲說(shuō)出來(lái)！”

上周五，在每周一次的“天氣預(yù)報(bào)”例會(huì)上， Google Cloud首席執(zhí)行官黛安·格林（Diane Greene）宣布，Google 將在這次合約到期后結(jié)束與美國(guó)國(guó)防部的合作的Project Maven。

這無(wú)疑是一件大事，“勝利的消息”在谷歌內(nèi)部瘋傳。隨著一篇篇報(bào)道的蜂擁而出，這件事情似乎暫時(shí)以谷歌“向員工妥協(xié)、停止與國(guó)防部續(xù)約”的方式得以落幕。

但就在今天，谷歌CEO Sundar Pichai?發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導(dǎo)原則，并指出谷歌不會(huì)終止與美軍的合作。

谷歌的反轉(zhuǎn)讓人唏噓，雖然其明確了“不會(huì)追求的AI應(yīng)用”，但技術(shù)作惡還是人作惡的問(wèn)題，AI倫理再次引人深思。

AI倫理的邊界在哪里？

如果說(shuō)谷歌近期來(lái)不太平，那么亞馬遜Alexa的日子也不好過(guò)。

亞馬遜的Echo設(shè)備被指控未經(jīng)許可將私人對(duì)話錄音，并將音頻發(fā)送給用戶聯(lián)系人列表中的隨機(jī)一位人士。這距離上次Alexa被爆出“嘲笑人類”事件的嚇人事件，還沒(méi)過(guò)過(guò)去多久。

Amazon對(duì)Alexa一事的回應(yīng)

這可遠(yuǎn)遠(yuǎn)不是個(gè)例。

早在2016年，一個(gè)人設(shè)為19歲少女、名為Tay的聊天機(jī)器人在推特上線。這個(gè)微軟開(kāi)發(fā)的人工智能采用了自然語(yǔ)言學(xué)習(xí)技術(shù)，能夠通過(guò)抓取和用戶互動(dòng)的數(shù)據(jù)，處理并模仿人類的對(duì)話，像人一樣用笑話、段子和表情包聊天。

但是上線不到一天，Tay 就被“調(diào)教”成了一個(gè)滿口叫囂著種族清洗、粗野不堪的極端分子，微軟只好以“系統(tǒng)升級(jí)”為由將其下架。

微軟機(jī)器人Tay的極端言論

這著實(shí)讓人細(xì)思極恐。

隨著AI弊病的凸顯，AI倫理問(wèn)題也將日益得到重視。AI倫理的邊界到底在哪里？

首先應(yīng)該明確幾個(gè)問(wèn)題。

一、機(jī)器人是否成為民事主體？

隨著人工智能技術(shù)的快速發(fā)展，機(jī)器人擁有越來(lái)越強(qiáng)大的智能。機(jī)器與人類之間的差距也逐漸縮小，未來(lái)出現(xiàn)的機(jī)器人將擁有生物大腦，甚至可以與人類大腦的神經(jīng)元數(shù)量相媲美。

美國(guó)未來(lái)美國(guó)未來(lái)學(xué)家甚至預(yù)測(cè)：在本世紀(jì)中葉，非生物智能將會(huì)10億倍于今天所有人的智慧。

公民身份似乎已經(jīng)不再成為機(jī)器人的難題。去年十月，世界首個(gè)獲得公民身份的機(jī)器人索菲亞誕生，這也意味著人類的創(chuàng)造物擁有了和人類等同的身份，以及其身份背后所擁有的權(quán)利、義務(wù)和社會(huì)地位。

法律上的民事主體資格依然是AI倫理的分界線。

在過(guò)去的一段時(shí)期，美英等國(guó)的哲學(xué)家、科學(xué)家包括法律家都為此開(kāi)展過(guò)激烈的爭(zhēng)論。

2016年，歐盟委員會(huì)法律事務(wù)委員會(huì)向歐盟委員會(huì)提交動(dòng)議，要求將最先進(jìn)的自動(dòng)化機(jī)器人的身份定位為“電子人”（electronic persons），除賦予其“特定的權(quán)利和義務(wù)”外，還建議為智能自動(dòng)化機(jī)器人進(jìn)行登記，以便為其進(jìn)行納稅、繳費(fèi)、領(lǐng)取養(yǎng)老金的資金賬號(hào)。

該項(xiàng)法律動(dòng)議如獲通過(guò)，無(wú)疑使得傳統(tǒng)的民事主體制度產(chǎn)生動(dòng)搖。

從嚴(yán)格意義上說(shuō)，機(jī)器人不是具有生命的自然人，也區(qū)別于具有自己獨(dú)立意志并作為自然人集合體的法人。若企圖以機(jī)器人的行為過(guò)失定罪于AI本身，確實(shí)行之過(guò)早。

二、算法的歧視會(huì)有失公平

人工智能在判斷上失誤的一個(gè)指責(zé)，是它經(jīng)常會(huì) “歧視”。

使用最先進(jìn)圖像識(shí)別技術(shù)的谷歌曾經(jīng)陷入“種族歧視”的指責(zé)，只因它的搜索引擎會(huì)將黑人打上“猩猩”的標(biāo)簽；而搜索“不職業(yè)的發(fā)型”，里面絕大多數(shù)是黑人的大辮子。

哈佛大學(xué)數(shù)據(jù)隱私實(shí)驗(yàn)室教授拉譚雅·斯維尼發(fā)現(xiàn)：在谷歌上搜索有“黑人特征”的名字，很可能彈出與犯罪記錄相關(guān)的廣告——來(lái)自谷歌智能廣告工具 Adsense 給出的結(jié)果。

這種危險(xiǎn)并不僅僅是“另眼相看”本身——畢竟將一張黑人的照片打上“猩猩”的標(biāo)簽，只是有點(diǎn)冒犯罷了。人工智能的決策，正走入更多與個(gè)人命運(yùn)切實(shí)相關(guān)的領(lǐng)域，切實(shí)影響著就業(yè)、福利以及個(gè)人信用，我們很難對(duì)這些領(lǐng)域的“不公平”視而不見(jiàn)。

同樣，隨著AI入侵招聘領(lǐng)域、金融領(lǐng)域、智能搜索領(lǐng)域等等，我們所訓(xùn)練出來(lái)的“算法機(jī)器”是否能夠真正的萬(wàn)無(wú)一失。

在求賢若渴的當(dāng)代社會(huì)，算法是否能夠幫助公司選出千里挑一的那個(gè)人，這都有待考究。

那么，歧視的來(lái)源是哪里？是打標(biāo)簽者的別有用心，是數(shù)據(jù)擬合的偏差，還是程序設(shè)計(jì)哪里出了bug？機(jī)器所計(jì)算出的結(jié)果，能為歧視、不公、殘酷提供理由嗎？這些都是值得商榷的問(wèn)題。

三、數(shù)據(jù)保護(hù)是AI倫理的底線

網(wǎng)絡(luò)空間是一個(gè)真實(shí)的虛擬存在，是一個(gè)沒(méi)有物理空間的獨(dú)立世界。在這里，人類實(shí)現(xiàn)了與肉體分離的“數(shù)字化生存”，擁有了“數(shù)字化人格”。所謂數(shù)字化人格就是“通過(guò)個(gè)人信息的收集和處理勾畫一個(gè)在網(wǎng)絡(luò)空間的個(gè)人形象”——即憑借數(shù)字化信息而建立起來(lái)的人格。

在AI環(huán)境中，基于互聯(lián)網(wǎng)和大數(shù)據(jù)的支持，其擁有著用戶大量的使用習(xí)慣和數(shù)據(jù)信息。如果說(shuō)“過(guò)往數(shù)據(jù)”的積累是機(jī)器作惡的基礎(chǔ)的話，那么資本力量的驅(qū)動(dòng)則是更深層次的原因。

Facebook信息泄露事件中，一家名為劍橋分析（Cambridge Analytica）的公司使用人工智能技術(shù)，針對(duì)任意一個(gè)潛在選民的“心理特征”投放付費(fèi)政治廣告；而投什么樣的廣告，取決于一個(gè)人的政治傾向、情緒特征、以及易受影響的程度。

很多虛假的消息在特定人群中能夠迅速傳播、增加曝光，并潛移默化地影響人們的價(jià)值判斷。技術(shù)主使克里斯托弗·威利最近向媒體揭發(fā)了這個(gè)人工智能技術(shù)的“食糧”來(lái)源——以學(xué)術(shù)研究為名，有意攫取的 5000 多萬(wàn)用戶數(shù)據(jù)。

退而言之，即使不存在數(shù)據(jù)泄露問(wèn)題，對(duì)用戶數(shù)據(jù)的所謂“智能挖掘”也很容易游走在“合規(guī)”但“有違公平”的邊緣。至于AI倫理的邊界，信息安全成為每一個(gè)互聯(lián)網(wǎng)時(shí)代下“信息人”的最基本底線。

反思

在最近大火的一段關(guān)于AI倫理的視頻中，藝術(shù)家Alexander Reben沒(méi)有任何動(dòng)作，但是通過(guò)語(yǔ)音助手下達(dá)命令：“OK Google，開(kāi)槍。”

然而，不到一秒的轉(zhuǎn)瞬之間，Google Assistant扣動(dòng)了一部手槍的扳機(jī)，擊倒了一顆紅蘋果。

隨即，蜂鳴器發(fā)出刺耳的嗡嗡聲。

嗡嗡聲響徹雙耳。

是誰(shuí)開(kāi)槍擊到了蘋果？是AI還是人類？

在這個(gè)視頻中，Reben告訴AI開(kāi)槍。Engadget在報(bào)道中說(shuō)，如果AI足夠智能以預(yù)測(cè)我們的需求，或許有一天AI會(huì)主動(dòng)除掉那些讓我們不開(kāi)心的人。Reben說(shuō)，討論這樣一個(gè)裝置，比是否存在這樣一個(gè)裝置更重要。

人工智能不是一個(gè)可預(yù)測(cè)的、完美的理性機(jī)器，他的倫理缺陷由算法、人們使用的目標(biāo)和評(píng)估。但是，至少從目前來(lái)看，機(jī)器依然是人類實(shí)然世界的反應(yīng)，而不是“應(yīng)然世界”的指導(dǎo)和先驅(qū)。

顯然，守住AI倫理的底線，人類才不會(huì)走到“機(jī)器暴政”的那一天。

附：谷歌的“七條準(zhǔn)則”

1. 有益于社會(huì)
2. 避免創(chuàng)造或增強(qiáng)偏見(jiàn)
3. 為保障安全而建立和測(cè)試
4. 對(duì)人們有說(shuō)明義務(wù)
5. 整合隱私設(shè)計(jì)原則
6. 堅(jiān)持高標(biāo)準(zhǔn)的科學(xué)探索
7. 根據(jù)原則確定合適的應(yīng)用

作者：柯鳴，微信公眾號(hào)：智能相對(duì)論

本文由 @柯鳴 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來(lái)自 Unsplash ，基于 CC0 協(xié)議