AI的暗面:Sam Altman從OpenAI離職又回歸的新視角

0 評(píng)論 2512 瀏覽 2 收藏 10 分鐘

就在最近這幾天,OpenAI內(nèi)部迎來(lái)了大變動(dòng),Sam Altman“被辭退”,結(jié)果又有消息傳出他會(huì)重回OpenAI。那么在這波曲折的“劇情”之后,我們可以窺見(jiàn)怎樣的暗面?一起來(lái)看看本文的分享。

看到新聞?wù)fSam Altman重回OpenAI,這暫時(shí)為這場(chǎng)大戲畫(huà)了個(gè)句號(hào)。但此事絕對(duì)足以寫(xiě)入AI發(fā)展歷史,所以換個(gè)視角再做下解讀。正面的解讀參見(jiàn):Sam Altman卸任CEO的幾點(diǎn)猜想

一、當(dāng)理想成為陰謀的素材

你把班級(jí)同學(xué)聚在一起吃飯都沒(méi)那么容易,何況罷免公司的一號(hào),二號(hào)人物。所以這一定是一個(gè)強(qiáng)組織的事,強(qiáng)組織的事如果沒(méi)有明面的結(jié)構(gòu)就必然有暗組織與暗主導(dǎo)。(非事后諸葛,參見(jiàn)前文)

而落到具體方法上,6個(gè)人的董事會(huì),首席科學(xué)家Ilya就很關(guān)鍵,因?yàn)樗钦嬲囊患?jí)利益相關(guān)者,它在公司里面,本來(lái)應(yīng)該堅(jiān)定的站在對(duì)公司有利這一面,而只要它不倒戈,那就無(wú)法罷免Sam Altman。但很不幸,這兄弟更像是個(gè)純粹的理想主義者,不單想捍衛(wèi)自己的理想,還在自認(rèn)為正確的信念下積極行動(dòng)。他捍衛(wèi)自己理想純粹性的行動(dòng),幾乎把理想的載體(OpenAI)干稀碎。

這就是第一個(gè)暗面:但你極端化你的理想和信念的時(shí)候,你可能就是實(shí)現(xiàn)它的最大威脅。尤其當(dāng)野心家存在的時(shí)候。

我有時(shí)候就想天才科學(xué)家是不是不要干CEO或者政治家干的事,這倆事一個(gè)太綜合一個(gè)則太純粹,實(shí)在差別太大。

二、從不缺席的密室謀劃

也許我們到最后也不一定搞清楚,其余三位董事到底是怎么聯(lián)合起來(lái)的,但顯然沒(méi)有它們賦予的責(zé)任那么陽(yáng)光。他們號(hào)稱(chēng)使命是為人類(lèi)負(fù)責(zé),但其實(shí)更多考慮的恐怕是不太能說(shuō)的因素,甚至都不能對(duì)OpenAI負(fù)起責(zé)任。

最終OpenAI的員工的選擇其實(shí)反襯著Sam Altman并沒(méi)有真的背棄自己的理想,但在這樣的一個(gè)時(shí)候,暗箱運(yùn)作,陰謀出手,把Sam Altman搞下去,再怎么粉飾也是野心家。這不只是對(duì)Sam Altman,而是對(duì)整個(gè)組織不利的行為,這是董事應(yīng)該做的事么?

行事的方式上也明顯的鬼鬼祟祟,連Greg Brockman都是被突然通知,被干成一腦袋問(wèn)號(hào)。這不就是暗箱策劃突然發(fā)難么!對(duì)于一個(gè)奮斗了七年多的核心團(tuán)隊(duì),并且還在危機(jī)四伏的時(shí)候,突然這么來(lái)一下,中國(guó)歷史上還真就和劉邦抓韓信差不多,十分神似。

這是另一個(gè)暗面:總是有堂皇的理由來(lái)粉飾某種行動(dòng),但當(dāng)手段足夠陰暗的時(shí)候,很難拿目的正當(dāng)性來(lái)粉飾它。即使粉飾了,旁觀者也一定不能相信(顯然的Ilya Sutskever這個(gè)首席科學(xué)家信了,還幫著吆喝和助力)。

創(chuàng)過(guò)業(yè)的同學(xué)大概都知道,人腦每天帶寬差不多是滿(mǎn)的。所以Sam Altman未必不知道董事會(huì)有點(diǎn)夠嗆,但肯定沒(méi)預(yù)料到會(huì)突然行動(dòng),也沒(méi)預(yù)料到Ilya的倒戈。

勇于謀事,無(wú)暇謀身,結(jié)果差點(diǎn)沒(méi)掛了。這和故事里的主角們正在躊躇滿(mǎn)志,征戰(zhàn)天下,然后突然被暗殺了其實(shí)差不多。

真要追究,動(dòng)因其實(shí)也就那么多,在過(guò)去利益沖突遠(yuǎn)多于理念沖突,也許更富裕之后會(huì)改變這種配比,現(xiàn)在還不行。

三、自我糾錯(cuò)機(jī)制

Sam Altman的回歸似乎應(yīng)該感謝OpenAI的員工們。

董事會(huì)任命CTO Mira Murati為CEO應(yīng)該是預(yù)先考慮的平穩(wěn)過(guò)渡方案中很關(guān)鍵的一環(huán),至少是第一步。

按正常套路如果這美女倒戈再輔助在內(nèi)部收拾局面,那也許事有可為,但有意思的事大家齊刷刷不買(mǎi)賬(90%以上員工主動(dòng)站隊(duì))。大家態(tài)度很明顯:你們這什么套路,我們不接受,也沒(méi)得談,要么一拍兩散,要么就糾錯(cuò)。

這里面Greg Brockman不接受是引子,但他確實(shí)有足夠動(dòng)因這么做,后續(xù)的這些就相對(duì)會(huì)罕見(jiàn)一些。尤其是CTO Mira Murati,這可是傳說(shuō)中的升職加薪,人就是不干。這次陰謀不敵理想。

再深一層,這是什么概念呢?

這意味著在董事會(huì)層面糾錯(cuò)機(jī)制失效的情形下(有法律確保的權(quán)利機(jī)制),本來(lái)沒(méi)發(fā)言權(quán)的人團(tuán)結(jié)了起來(lái),然后變成了重要力量。

這七百多人的統(tǒng)一組織,如果沒(méi)有一定的統(tǒng)一認(rèn)識(shí)和基礎(chǔ),絕對(duì)不可能。讓這七百多人統(tǒng)一行動(dòng)估計(jì)很多時(shí)候比管好一個(gè)城市都費(fèi)勁,所以我們有理由相信這是自底向上的。

這種機(jī)制會(huì)非常關(guān)鍵,尤其當(dāng)GPT5一路迭代而來(lái)的情況下。

這里確實(shí)會(huì)變成AI最大的暗面。

四、AI“執(zhí)劍人”

這事的無(wú)厘頭在于,這是一個(gè)號(hào)稱(chēng)為人類(lèi)負(fù)責(zé)的董事會(huì)做出來(lái)的事。

如前所說(shuō),這個(gè)董事會(huì)看起來(lái)不單不能為人類(lèi)負(fù)責(zé),甚至還不能為OpenAI負(fù)責(zé)(相當(dāng)于90%多人投反對(duì)票)。

如此無(wú)厘頭的行為最終如果追溯,動(dòng)因肯定不好看。

所以碳基智能體屬實(shí)不怎么靠譜。

發(fā)展下去,當(dāng)AI變得足夠強(qiáng)大,總是有那么一小波人會(huì)被選出來(lái)作為執(zhí)劍人。這能靠譜么,不靠譜的話(huà)這就是最大的暗面。

(當(dāng)然最基礎(chǔ)的部分肯定是法規(guī),但現(xiàn)實(shí)空間和數(shù)字空間的時(shí)間流速其實(shí)不一樣,以慢制快的問(wèn)題會(huì)越來(lái)越暴露的更清楚)。

所以到后面確實(shí)需要新的機(jī)制和制衡,比如開(kāi)源、透明等等。

五、后續(xù)

后續(xù)會(huì)發(fā)生的事其實(shí)倒相對(duì)明朗一些,如果Sam Altman確實(shí)回到OpenAI,那它后面徹底崛起大概率會(huì)發(fā)生。什么商業(yè)和技術(shù)理想的平衡,在這個(gè)例子上絕對(duì)不是大障礙。喬布斯、馬斯克這些人那個(gè)不是把這兩者搞成了互相促進(jìn),而不是對(duì)立。

為什么這么說(shuō)呢?因?yàn)橐欢ǔ潭壬希?strong>這次波折可以看成是苦難輝煌里的苦難部分。這之后權(quán)利結(jié)構(gòu)肯定會(huì)重構(gòu)和再平衡,但更關(guān)鍵的是這會(huì)變成一個(gè)超級(jí)團(tuán)隊(duì),700多個(gè)本來(lái)奇形怪狀,各有主張的人,徹底的團(tuán)結(jié)到一起,更加協(xié)力,再加上資金不缺和此前的先發(fā)優(yōu)勢(shì),那恐怕真會(huì)一騎絕塵了。

還沒(méi)完,老套故事里通常會(huì)發(fā)生的事情是Sam Altman這個(gè)角色會(huì)黑化一點(diǎn),黑化的結(jié)果就是沒(méi)那么信任周?chē)娜?,變的更加集?quán),這如果過(guò)度就會(huì)很像皇帝晚年,反倒是會(huì)對(duì)組織構(gòu)成更大的傷害。但這哥們看著確實(shí)不像是這種風(fēng)格。

希望不會(huì),畢竟這世界還是需要一個(gè)領(lǐng)頭的AI團(tuán)隊(duì)。畢竟在這個(gè)時(shí)間點(diǎn)AI不是太強(qiáng),而是還弱,離一個(gè)全行業(yè)的盈虧平衡點(diǎn)還有幾分距離。

小結(jié)

最終的結(jié)果取決于什么呢?看起來(lái)取決于原點(diǎn)上的價(jià)值結(jié)構(gòu)。山川河岳,文化歷史所匯集成的價(jià)值結(jié)構(gòu)。越數(shù)字、越智能主觀的這一點(diǎn)就越重要。

專(zhuān)欄作家

琢磨事,微信公眾號(hào):琢磨事,人人都是產(chǎn)品經(jīng)理專(zhuān)欄作家。聲智科技副總裁。著有《終極復(fù)制:人工智能將如何推動(dòng)社會(huì)巨變》、《完美軟件開(kāi)發(fā):方法與邏輯》、《互聯(lián)網(wǎng)+時(shí)代的7個(gè)引爆點(diǎn)》等書(shū)。

本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來(lái)自 Unsplash,基于 CC0 協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒(méi)評(píng)論,等你發(fā)揮!