在人工智能的浪潮中，Sam Altman，OpenAI的CEO，與哈佛商學院的Debora Spar展開了一場關(guān)于AI未來的深刻對話。他們探討了從非營利到營利的轉(zhuǎn)變、AI在科學發(fā)現(xiàn)中的潛力，以及AI對社會公平和人類情感的影響。

在 OpenAI CEO Sam Altman 與哈佛商學院商業(yè)與全球社會高級副院長 Debora Spar 的對話中，Altman 清晰地闡述了 OpenAI 從非營利轉(zhuǎn)向營利模式的原因，強調(diào)了為實現(xiàn)技術(shù)突破而對資本支持的迫切需求。

此外，Altman 還展望了 AI 在加速科學發(fā)現(xiàn)、尤其是物理學領(lǐng)域的潛力，并探討了 AI 對人類情感連接和社會公平的影響。

Debora Spar

那么，你是否可以更詳細地描述一下，為什么以及你是如何覺得需要從非營利機構(gòu)轉(zhuǎn)向營利性機構(gòu)的？是某種突然的靈光乍現(xiàn)嗎？還是某種簡單的……

Sam Altman

說得簡單一點吧，我們需要的資本量遠遠超過我們作為非營利機構(gòu)所能吸引到的規(guī)模。我們意識到擴展計算能力很重要，但還是大大低估了我們需要擴展的規(guī)模。

Debora Spar

那么，這是否意味著在某種有意義的程度上，沒人可以以非營利的形式來做 AI 呢？

Sam Altman

不完全是。還有其他一些事情是可以做的，但如果想在擴展研究方面處于前沿，我認為大概就無法以非營利形式實現(xiàn)。

Debora Spar

那政府呢？

Sam Altman

政府當然可以做任何他們想做的事情，對吧？

Debora Spar

是的，但也不完全是。我們試圖探討的一個問題是，有些事情企業(yè)可能比政府做得更好。所以，你覺得像能源部或國防部這樣的機構(gòu)能像你們一樣做好 OpenAI ?嗎？

Sam Altman

阿波羅計劃就很令人印象深刻。

Debora Spar

所以你認為這可能是另一條路徑嗎？

Sam Altman

我認為，在一個運行良好的社會中，這本來應(yīng)該是一個政府項目。

Debora Spar

但……

Sam Altman

既然沒有發(fā)生，那我認為以這種方式作為一個美國項目去做是更好的。

Debora Spar

你還提到過幾次政府或者社會在設(shè)定一些框架或?qū)蛏蠎?yīng)該發(fā)揮作用，尤其是在公平性方面。

Sam Altman

確實應(yīng)該有這樣的角色。我覺得社會在這里應(yīng)該扮演一個重要角色。

Debora Spar

但社會本身并不是一個“實體”。

Sam Altman

沒錯，這是許多不同利益相關(guān)方之間復(fù)雜的協(xié)商。但我們確實知道，我們有能力在時間的推移中把它做對。

Debora Spar

給個例子，我們是怎么做對的？

Sam Altman

比如說，飛機現(xiàn)在非常安全。盡管波音可能有些問題，但總體上飛機是非常安全的。

Debora Spar

這很大程度上是傳統(tǒng)監(jiān)管的結(jié)果。

Sam Altman

我認為，這也因為人們想乘飛機時知道自己不會死。而社會對此作出了回應(yīng)，對吧？

Debora Spar

具體來說，是政府作出的回應(yīng)。

Sam Altman

飛機制造商同樣也需要確保生產(chǎn)的飛機是人們愿意乘坐的，政府當然有其角色，科學家和工程師也有一種責任感。我認為這是多方共同努力的結(jié)果，但監(jiān)管確實起了很大作用。

Debora Spar

你在這一過程中顯然是一個大玩家，而且會一直是。那么，你是如何思考自己與政府之間的關(guān)系的？

Sam Altman

我希望這是一種真正的合作關(guān)系，目前合作還是相當有建設(shè)性的。過度監(jiān)管顯然會減緩創(chuàng)新，而監(jiān)管不足又會帶來一系列其他問題。我認為大家都同意這兩個說法。關(guān)鍵是我們在這個光譜上的定位。

Debora Spar

你認為政府中的哪些部門，像 DHS（國土安全部）、DOE（能源部）或者 DOD（國防部），是你最想建立橋梁的？

Sam Altman

很難說得太樂觀，但我認為這將觸及社會的所有部分，也會涉及政府的所有部分。

Debora Spar

但這些東西很難建立。

Sam Altman

確實如此。但互聯(lián)網(wǎng)幾乎觸及了社會的所有部分，對吧？

Debora Spar

但可以說我們有些部分確實做得很糟糕。

Sam Altman

沒錯，也有很多部分做得很好。我不認為大多數(shù)人會選擇撤銷互聯(lián)網(wǎng)，即便它有很多問題。

Debora Spar

這是個有趣的點。我發(fā)現(xiàn)我的學生們，許多在社交媒體上成長起來的學生，倒是希望互聯(lián)網(wǎng)的這部分消失。

Sam Altman

當然會有部分是人們不喜歡的，未來十年你的學生也會有不喜歡的地方。但整體上，我認為 AI 會是一個巨大的凈收益。

Debora Spar

從社會或者商業(yè)的角度來看，你對 AI 最感興趣的領(lǐng)域是什么？

Sam Altman

我個人最感興趣的是大幅加速科學發(fā)現(xiàn)的速度。我認為，從長遠看，這才是讓世界可持續(xù)變得更好的方式。我對這一點非常興奮。當然還有很多其他領(lǐng)域，比如 AI 教師、 AI 醫(yī)學顧問會非常棒。但從個人來說，我對科學方面最為興奮。

Debora Spar

科學的具體哪些領(lǐng)域呢？

Sam Altman

如果讓我選一個，我會說解決所有的物理學問題。但實際上，我對所有領(lǐng)域都感興趣。

Debora Spar

為什么是物理學？

Sam Altman

因為我對它有著極大的個人好奇心，而且我相信，我們對物理學的理解越深，就越能操控宇宙。我不知道這會帶來什么，但探索這點似乎非常重要。

Debora Spar

那接下來的問題是，如果所有的物理學問題都被解決了，物理學家會怎樣？

Sam Altman

如果真的是那樣，那我也不知道。我猜我們解決了當前的問題后，還會發(fā)現(xiàn)更多、更難、更有趣的問題。

Debora Spar

你看過約翰·梅納德·凱恩斯寫的《為我們的孫輩展望的經(jīng)濟前景》嗎？

Sam Altman

沒有。

Debora Spar

我得發(fā)給你。這是篇很棒的文章。凱恩斯在 1930 年寫的，探討 100 年后的世界會是什么樣子……

Sam Altman

哦，我知道，必須了解。

Debora Spar

他談到類似的問題——當所有問題都解決后，他得出的答案有點奇怪，我們只會創(chuàng)作藝術(shù)，不再關(guān)心金錢。你是否思考過這些存在主義的問題，比如物理學家會怎樣？

Sam Altman

你知道，這些問題已經(jīng)被人們討論了很久。他（凱恩斯）有些觀點是對的，有些則不然。從某種意義上說，如果回到20世紀30年代，看看今天的很多人，你可能會說他們確實只是在“創(chuàng)作藝術(shù)”，并且不怎么關(guān)心金錢。他們都過得不錯，但這并不是他們自己對生活的感受。

如果我們再往前走一百年，去問未來的人怎么看我們這些人的工作，他們可能會給出一種奇怪的“藝術(shù)”定義，說：“好吧，他們在創(chuàng)作藝術(shù)，他們完全不關(guān)心金錢?！币驗樗麄兩钤诹钊穗y以置信的物質(zhì)富足之中。

但如果你深入思考，就會發(fā)現(xiàn)，他們似乎依然很忙碌，也很有壓力，同時他們從自己的工作中獲得了極大的滿足感。而且，他們不會真的稱之為“藝術(shù)”。他們?nèi)匀粫X得自己擁有的不夠，仍然希望擁有更多。他們會找到新的方式彼此比較。或許他們不再比較誰的房子更大，而是比較誰的銀河系更漂亮。但我認為人類的驅(qū)動力會一直存在。

Debora Spar

是的，人性如此。

Sam Altman

我不認為這會改變。

Debora Spar

不會改變。所以在我的一些書中，我談到過我們可能會“愛上機器人”。這是一種夸張的說法，但我確實認為我們將會接納 AI 實體作為情感伴侶。你怎么看？你會支持那種奇點理論嗎？就是人類與 AI 融合，我們開始與“被創(chuàng)造的事物”而非“被生育的事物”建立情感聯(lián)系。

Sam Altman

我懷疑未來的娛樂形式會非常不同。可能今天很多用來看電視或玩電子游戲的時間，將被花在與 AI 的互動體驗上。我們或許會從中獲得某種陪伴感。

但我認為，對大多數(shù)人來說，“真實人類”的陪伴在這種世界中可能會變得更加珍貴，而不是更少。所以，我確信我們會經(jīng)常與 AI 交流，并且這將是一個極具娛樂性的世界。但我相信人類天性中有一些深刻的東西，比如知道對方是否是真實的人類，這一點很重要。

Debora Spar

盡管有時，我和一些最關(guān)心的人僅通過短信交流，因為我們不在同一個城市。如果他們其實是 AI ，我可能也不會發(fā)現(xiàn)，也許我能接受這種情況？

Sam Altman

問題就在于：如果你知道那不是一個真實的人，你會有什么感覺？我認為你會感覺不同。

Debora Spar

是的，我們會知道的。

Sam Altman

對，我們終會知道。

Debora Spar

好的，我們可以打個賭。我覺得……

Sam Altman

我很樂意打這個賭，100 年后見。

Debora Spar

好的?；氐侥阒疤岬降囊粋€話題，有學生問了關(guān)于公平的問題，你給了一個很好的回答。我同意你的觀點，技術(shù)可能會推動公平，但需要一些推動。那么，你覺得需要怎樣的“推動”？

Sam Altman

首先，我認為可能根本不需要推動。有時候技術(shù)自己會解決問題。我還認為，要知道什么樣的推動是對的，從理論上很難做到，更多是需要經(jīng)驗實踐。我現(xiàn)在的想法可能完全是錯的。我認為，需要緊密的反饋循環(huán)，觀察問題出現(xiàn)的地方，然后修復(fù)它們，并找到新的問題。這是我對“推動”的理解。

Debora Spar

但這很難，對嗎？我剛從丹麥回來，在像丹麥這樣的小國，可以通過良好的數(shù)據(jù)支持實現(xiàn)這些。但美國呢？在美國通過任何形式的監(jiān)管可能需要30年。你怎么看待這種推動？

Sam Altman

我希望公司自己能做到。

Debora Spar

好的。

Sam Altman

如果寄希望于美國的監(jiān)管，那可能會……

Debora Spar

但我實際上剛教過你寫的《摩爾定律適用于一切》。

Sam Altman

我很久沒讀了。它還經(jīng)得起時間的考驗嗎？

Debora Spar

我覺得挺有趣的，因為你討論了稅收系統(tǒng)的變化。這些變化并不是完全無法實現(xiàn)的，盡管當前的政治環(huán)境可能會讓其難以執(zhí)行。但你談到的基本觀點是，比如對土地和技術(shù)征稅……

Sam Altman

對，基本上是對資本征稅。我依然認為這是正確的。我覺得在一個由 AI 主導(dǎo)的世界中，主要對收入和企業(yè)利潤征稅并不合理。我們需要找到一種方式對資本征稅。

Debora Spar

是的，我認為這是一個非常有趣的想法，與UBI（全民基本收入）有一定聯(lián)系但又有所不同。如果讓你對 AI 許一個愿，你會許什么愿？

Sam Altman

愛與人性。

Debora Spar

你認為可以將這些內(nèi)置到 AI 中嗎？

Sam Altman

我認為可以。有一個非常有效的方法是讓 AI 系統(tǒng)按照特定方式運作。如果我們能夠在很多不同情況下明確表達這些含義，那么是的，我認為我們可以讓系統(tǒng)往這個方向發(fā)展。

Debora Spar

你覺得 OpenAI 可以并且應(yīng)該有權(quán)制定自己的規(guī)則嗎？為什么我們要信任你們？

Sam Altman

我認為你們不應(yīng)該信任我們。我也不認為我們信任自己。坦率地說，這也不意味著應(yīng)該把權(quán)力交給政府官僚。一個有趣的方向是，讓這些系統(tǒng)與用戶對話，了解他們的價值體系，并根據(jù)這些進行調(diào)整。我相信，技術(shù)的用戶和受到影響最大的人，應(yīng)該對其治理有很大話語權(quán)。

Debora Spar

這在實際操作上可行嗎？尤其是考慮到巨額的資金需求？

Sam Altman

完全可行。這正是這項技術(shù)帶來的新可能性。

Debora Spar

聽起來像是 Anthropic 在推動的東西？

Sam Altman

我不確定他們在做什么。

Debora Spar

因為他們有一種似乎有點天真的理念，比如公開他們的設(shè)計原則供眾包使用。

Sam Altman

我覺得，公開這些原則并解釋系統(tǒng)如何做出取舍是很好的。但我更感興趣的是一個思想實驗：一個 AI 與你交談幾個小時，了解你的價值體系，然后與我和其他所有人做同樣的事情，最終嘗試找到一個深層次的共識。

Debora Spar

這本質(zhì)上是利用 AI 來達成共識？

Sam Altman

是的，利用 AI 與每個人對話，深入理解數(shù)十億人的共識。這可能是無法用其他方式實現(xiàn)的。

Debora Spar

將這樣的共識與美國的建國文件相比會很有意思。這些文件明確反對多數(shù)規(guī)則。你描述的方式不同，但涉及一些根本性問題。

Sam Altman

是的，但它基本上是關(guān)于民主并帶有一定的權(quán)力制衡。

Debora Spar

需要仔細考慮這些權(quán)力制衡的樣子。如果共識認為 AI 是“壞的”或者“邪惡的”，該如何建立這種制衡？

Sam Altman

我認為這應(yīng)該是人們?yōu)橹卫斫Y(jié)構(gòu)投票的一部分。