今天凌晨，Lex Fridman對(duì)OpenAI 的董事長(zhǎng) Sam Altman進(jìn)行了一次公開(kāi)專訪。本次專訪討論到了OpenAI的董事會(huì)之爭(zhēng)，GPT-5以及AGI等諸多信息，作者花一晚上精心翻譯，希望能幫到大家。

今天凌晨，也就是幾個(gè)小時(shí)前，OpenAI 的董事長(zhǎng) Sam Altman 公開(kāi)一則專訪，包含一切大家感興趣的話題，主持人是 Lex Fridman。

談話內(nèi)容，按順序如下：

• OpenAI 董事會(huì)之爭(zhēng)
• Ilya Sutskever 去哪了？
• Elon Musk 的訴訟
• Sora
• GPT-4
• 記憶與隱私
• Q*
• GPT-5
• $7 萬(wàn)億美金的募資
• Google and Gemini
• 跨越到 GPT-5
• AGI
• 外星人

我肝了一晚上，精翻。由于本次對(duì)話過(guò)長(zhǎng)，略去英文原文。

Part 1：OpenAI 董事會(huì)之爭(zhēng)

Lex Fridman：

請(qǐng)你帶我了解一下從11月16日星期四開(kāi)始的，或者對(duì)你來(lái)說(shuō)是11月17日星期五的 OpenAI 董事會(huì)那一連串的事件。

Sam Altman：

那確實(shí)是我一生中最痛苦的職業(yè)經(jīng)歷，混亂、羞恥、心煩，還有很多其他的負(fù)面情緒。當(dāng)然也有不少好的方面，但我當(dāng)時(shí)被腎上腺素沖得頭昏眼花，沒(méi)能停下來(lái)好好欣賞它們。我翻看了那個(gè)時(shí)期自己發(fā)的一條舊推特，感覺(jué)就像在讀自己的悼詞，看著別人對(duì)你說(shuō)出的那些美好的話，感受到來(lái)自我所愛(ài)和在乎的人的難以置信的支持。那真的非常美妙。那整個(gè)周末，除了一個(gè)很大的例外，我感覺(jué)到了濃濃的愛(ài)意，幾乎沒(méi)有仇恨，盡管當(dāng)時(shí)感覺(jué)自己完全搞不懂正在發(fā)生什么，接下來(lái)會(huì)發(fā)生什么，整個(gè)人感覺(jué)非常糟。確實(shí)有些時(shí)候，我以為這可能會(huì)成為AI安全領(lǐng)域發(fā)生的最糟糕的事情之一。不過(guò)，我也覺(jué)得，它發(fā)生得相對(duì)較早是件好事。我曾想，從OpenAI成立到我們創(chuàng)造出AGI，中間肯定會(huì)有些瘋狂爆炸的事情發(fā)生，而且未來(lái)也許還會(huì)有更多瘋狂爆炸的事情發(fā)生。不過(guò)，我認(rèn)為這次經(jīng)歷增強(qiáng)了我們的韌性，為未來(lái)可能遇到的更多挑戰(zhàn)做好了準(zhǔn)備。

Lex Fridman：

但你有沒(méi)有預(yù)感到，你可能會(huì)經(jīng)歷某種權(quán)力的角逐？

Sam Altman：

通往 AGI 的道路肯定會(huì)充滿激烈的權(quán)力角逐。世界會(huì)……嗯，不是會(huì)，我是說(shuō)我預(yù)計(jì)這就是未來(lái)的景象。

Lex Fridman：

所以你必須得經(jīng)歷這個(gè)過(guò)程，正如你所說(shuō)，要盡可能頻繁地迭代，弄清楚如何構(gòu)建董事會(huì)的架構(gòu)，如何進(jìn)行組織管理，如何選對(duì)合作伙伴，以及如何有效溝通，目的是為了盡量減少權(quán)力斗爭(zhēng)。

Sam Altman：

沒(méi)錯(cuò)

Lex Fridman：

放輕松

Sam Altman：

但現(xiàn)在，那感覺(jué)像是一段已經(jīng)過(guò)去的時(shí)光，曾經(jīng)非常艱難、痛苦，難以忍受，但我們又回到了工作崗位，事情忙得不可開(kāi)交，強(qiáng)度巨大，以至于我并沒(méi)有太多時(shí)間去回想那段經(jīng)歷。那之后有一陣子，可能是一個(gè)月左右，或者說(shuō) 45 天之后，我仿佛處于一種恍惚狀態(tài)，每天都感覺(jué)自己像漂流瓶一樣，茫然四顧。我的精神完全崩潰了，情緒也陷入了極度低落。

Lex Fridman：

就在個(gè)人心理層面上？

Sam Altman：

是的，非常痛苦。而且在那種情況下還得堅(jiān)持管理 OpenAI，難度真的很大。我只想找個(gè)洞穴鉆進(jìn)去，好好休養(yǎng)一陣子。不過(guò)現(xiàn)在，我們又回到了奮戰(zhàn)在我們的使命上。

Lex Fridman：

嗯，對(duì)于你這樣有極高潛力打造 AGI 的人來(lái)說(shuō)，回過(guò)頭去反思董事會(huì)架構(gòu)、權(quán)力動(dòng)態(tài)、公司運(yùn)作方式、研究與產(chǎn)品開(kāi)發(fā)之間的張力、金錢等因素，無(wú)疑是有益的。這樣一來(lái)，未來(lái)你在建立 AGI 的道路上，可以更加有條不紊，少一點(diǎn)戲劇性沖突。所以，不妨去那兒走一遭，不僅是為了你作為領(lǐng)導(dǎo)者的個(gè)人心理層面的成長(zhǎng)，同時(shí)也是為了搞清楚董事會(huì)結(jié)構(gòu)和所有那些復(fù)雜混亂的事務(wù)。

Sam Altman：

我確實(shí)從中學(xué)到了許多關(guān)于組織結(jié)構(gòu)、激勵(lì)機(jī)制以及我們對(duì)董事會(huì)的期望。在某種意義上，這種情況現(xiàn)在發(fā)生我覺(jué)得還是有它的價(jià)值的。我認(rèn)為這可能不是 OpenAI 最后一次面對(duì)如此大的壓力，但這無(wú)疑是一個(gè)相當(dāng)緊張的時(shí)刻。我的公司差點(diǎn)就垮了。除了考慮很多其他我們必須為 AGI 準(zhǔn)備好的事情外，思考如何打造一個(gè)有韌性的組織、如何構(gòu)建一個(gè)能承受世界壓力的結(jié)構(gòu)體系，我認(rèn)為這非常關(guān)鍵。

Lex Fridman：

你能感覺(jué)到董事會(huì)在決策過(guò)程中的深度和嚴(yán)格程度嗎？能否透露一下這種情形下涉及的人與人之間的動(dòng)態(tài)是怎樣的？是不是就幾次對(duì)話后事態(tài)突然激化，然后就有人說(shuō)“為什么不開(kāi)除 Sam”這種話？

Sam Altman：

我覺(jué)得董事會(huì)成員整體而言都是出于好意的人，我相信在那種壓力重重，時(shí)間緊迫的情況下，人們能夠理解并會(huì)作出非最佳的決定。我認(rèn)為 OpenAI 面臨的一個(gè)挑戰(zhàn)是，我們必須組建一個(gè)在壓力之下依然能夠高效運(yùn)作的董事會(huì)和團(tuán)隊(duì)。

Lex Fridman：

你覺(jué)得董事會(huì)的權(quán)力過(guò)大了嗎？

Sam Altman：

我覺(jué)得董事會(huì)理應(yīng)掌握重要的權(quán)力。但是，我們注意到，在大多數(shù)公司架構(gòu)中，董事會(huì)通常需要對(duì)股東們負(fù)責(zé)。有時(shí)候，人們可能持有一些特殊的投票權(quán)股份。在這個(gè)情況下，我覺(jué)得對(duì)于我們的架構(gòu)來(lái)說(shuō)，一個(gè)我們或許應(yīng)該更深入思考的問(wèn)題是，如果不特別制定規(guī)則的話，非營(yíng)利組織的董事會(huì)實(shí)際上掌握著很大的權(quán)力。他們并不真正向任何人負(fù)責(zé)，除了他們自己。這樣有它的好處，但我們更希望的是 OpenAI 的董事會(huì)能夠?qū)θ澜缲?fù)責(zé)，盡管我們知道在實(shí)踐中這可能很難做到。

Lex Fridman：

所以他們宣布成立了一個(gè)新的董事會(huì)。

Sam Altman：

嗯，對(duì)。

Lex Fridman：

剛開(kāi)始是一個(gè)新的小型董事會(huì)，現(xiàn)在又換成了新的正式董事會(huì)？

Sam Altman：

我們的董事會(huì)還沒(méi)有最后敲定。我們已經(jīng)添了一些成員。接下來(lái)還會(huì)繼續(xù)增加。

Lex Fridman：

加了一些。好的。在新版本里修復(fù)了之前版本哪些可能出現(xiàn)的問(wèn)題呢？

Sam Altman：

舊董事會(huì)在大約一年時(shí)間里逐漸縮減了。起初是九個(gè)人，后來(lái)減到六個(gè)，接著我們?cè)谠鲅a(bǔ)新成員上意見(jiàn)不統(tǒng)一。我覺(jué)得董事會(huì)中也缺乏經(jīng)驗(yàn)豐富的成員。而現(xiàn)在 OpenAI 的新董事會(huì)成員們都有著更多的董事會(huì)工作經(jīng)驗(yàn)。我認(rèn)為這會(huì)有所改善。

Lex Fridman：

這個(gè)問(wèn)題受到了不少批評(píng)，比如有人對(duì)拉里·薩默斯被加入董事會(huì)表示不滿。你們挑選董事會(huì)成員的過(guò)程是怎樣的？這個(gè)過(guò)程中涉及哪些因素？

Sam Altman：

那個(gè)周末，Brett 和 Larry 的決定在一連串緊張氣氛中做出了，那真是個(gè)情緒起伏的過(guò)山車周末。我們?cè)诓ㄕ壑信f(xié)商，希望確定新董事會(huì)成員，這些人選要得到這里的執(zhí)行團(tuán)隊(duì)和老董事會(huì)成員的雙重認(rèn)可。其實(shí)，Larry 就是老董事會(huì)推薦的人之一。至于 Brett，我記得在那瘋狂周末之前，我就提過(guò)他，但他當(dāng)時(shí)太忙了，沒(méi)興趣。之后，我們迫切需要支持，在 [ 不清晰 00:09:22] 時(shí)更是如此。我們也考慮了很多其他人選，但我感覺(jué)如果我要重返崗位，就必須換上新的董事會(huì)成員。我認(rèn)為自己無(wú)法再次與原來(lái)的董事會(huì)以同樣的方式合作，雖然我們最終還是決定，也深表感激 Adam 能夠留下。但在各種可能的配置下，我們最終決定要組建一個(gè)三人董事會(huì)，并在極短的時(shí)間內(nèi)找到兩名新董事會(huì)成員。

所以那些決策實(shí)際上是直接做出的……在戰(zhàn)場(chǎng)上就是這樣，你沒(méi)辦法去設(shè)計(jì)一個(gè)嚴(yán)格的流程。但對(duì)于之后加入的新董事會(huì)成員，以及未來(lái)我們還會(huì)繼續(xù)增加的成員，我們確實(shí)設(shè)立了一些重要的標(biāo)準(zhǔn)。我們希望董事會(huì)能夠涵蓋不同的專業(yè)領(lǐng)域。招聘執(zhí)行官的時(shí)候你可能只需要他們?cè)谝粋€(gè)崗位上做好，但對(duì)于董事會(huì)而言，它們需要在治理和思考方面表現(xiàn)出全方位的能力。Brett 說(shuō)過(guò)一句我特別認(rèn)同的話，那就是我們希望以整批的方式招募董事會(huì)成員，而不是一次聘用一個(gè)人。我們努力要實(shí)現(xiàn)的是吸納一批人，他們能夠帶來(lái)非營(yíng)利組織方面的專業(yè)知識(shí)、企業(yè)運(yùn)營(yíng)的專長(zhǎng)，以及扎實(shí)的法律和治理專業(yè)知識(shí)。

Lex Fridman：

那么，董事會(huì)成員個(gè)人的技術(shù)水平重要嗎？

Sam Altman：

不是每個(gè)董事會(huì)成員都需要這樣做，但肯定有些人是必須的。這正是董事會(huì)職責(zé)的一部分。

Lex Fridman：

人們可能還不太了解 OpenAI 的有意思的一面，我自己肯定也不夠了解，那就是運(yùn)營(yíng)業(yè)務(wù)的所有那些細(xì)枝末節(jié)。當(dāng)人們想到董事會(huì)，再想到那些戲劇化的元素，他們首先想到的是你。他們會(huì)思考，如果你們開(kāi)發(fā)出通用人工智能（AGI）或者其他一些具有巨大影響的產(chǎn)品，并且成功將它們推向市場(chǎng)，那么你和董事會(huì)之間會(huì)有怎樣的對(duì)話呢？他們還會(huì)考慮，在這種場(chǎng)景下，要組建一個(gè)怎樣的團(tuán)隊(duì)來(lái)進(jìn)行決策和討論？

Sam Altman：

你看，我認(rèn)為董事會(huì)里肯定需要一些技術(shù)專家。同時(shí)，也需要那些會(huì)考慮到：“我們?cè)鯓硬渴疬@項(xiàng)技術(shù)才能最大限度地造福人類？”的人。還需要那些有著截然不同視角的人。我想，像你我這樣的人可能會(huì)犯的一個(gè)錯(cuò)誤就是以為只有技術(shù)上的理解才是關(guān)鍵，這確實(shí)是你希望董事會(huì)討論的內(nèi)容之一，但還有很多其他方面，比如這項(xiàng)技術(shù)將如何影響社會(huì)和人們的生活，這些你也同樣希望能夠在董事會(huì)中得到體現(xiàn)。

Lex Fridman：

你是在審查他們過(guò)去的成就記錄，還是只是跟他們進(jìn)行交流？

Sam Altman：

過(guò)去的業(yè)績(jī)確實(shí)很關(guān)鍵。你當(dāng)然會(huì)有很多對(duì)話，但在某些角色上我會(huì)完全不去看過(guò)去的業(yè)績(jī)，只看他的上升勢(shì)頭，忽略掉 Y 軸的截距。

Lex Fridman：

謝謝你。感謝你用數(shù)學(xué)的方式向觀眾闡明問(wèn)題。

Sam Altman：

作為董事會(huì)成員，我確實(shí)更在乎 Y 軸截距。在這方面，我覺(jué)得對(duì)于過(guò)往業(yè)績(jī)的記錄能說(shuō)的深入之處很多，而且經(jīng)驗(yàn)是一種很難替代的東西。

Lex Fridman：

你是嘗試用一個(gè)多項(xiàng)式函數(shù)還是指數(shù)函數(shù)來(lái)擬合這個(gè)成績(jī)記錄？

Sam Altman：

這個(gè)比喻有點(diǎn)牽強(qiáng)。

Lex Fridman：

好的，你之前提到了那個(gè)周末經(jīng)歷的一些低谷時(shí)刻。在心理上，你都遇到了哪些挫折呢？你有沒(méi)有想過(guò)干脆去亞馬遜雨林，嘗試一下阿亞瓦斯卡（一種致幻劑），然后就此隱匿天涯呢？

Sam Altman：

這段時(shí)間真的很糟糕。不過(guò)也有一些非常棒的時(shí)刻。我的手機(jī)簡(jiǎn)直要爆炸了，一直收到來(lái)自我日常工作的伙伴們，以及那些十年未見(jiàn)的老朋友們發(fā)來(lái)的暖心信息。我應(yīng)該更加珍惜這些時(shí)刻，但當(dāng)時(shí)我忙于應(yīng)對(duì)危機(jī)，沒(méi)能充分感受到這份溫暖，不過(guò)這確實(shí)讓人感到很棒。總體而言，那個(gè)周末還是非常痛苦的。它就像是一場(chǎng)在公眾視線中打響的戰(zhàn)斗，出乎意料地讓我筋疲力盡，遠(yuǎn)比我預(yù)期的要累。通常爭(zhēng)斗本就令人筋疲力盡，而這場(chǎng)尤其如此。董事會(huì)在周五下午做了這個(gè)決定。我真的很難獲得任何答案，但我也覺(jué)得，既然董事會(huì)有權(quán)這么做，那么我就應(yīng)該花點(diǎn)時(shí)間好好想想我接下來(lái)想要做什么。不過(guò)，我會(huì)試著在這件事中尋找隱藏的幸運(yùn)。

我當(dāng)時(shí)心想，我的目前職位在 OpenAI，或者至少過(guò)去是，負(fù)責(zé)運(yùn)營(yíng)一個(gè)規(guī)模相當(dāng)大的公司。我一直最喜歡的部分就是與研究者們共事。然后我就在想，對(duì)，我完全可以去從事一項(xiàng)高度聚焦的 AGI 研究工作。這個(gè)想法讓我感到很興奮。當(dāng)時(shí)我甚至沒(méi)意識(shí)到，所有這些努力可能會(huì)化為泡影。那是在一個(gè)星期五的下午。

Lex Fridman：

所以你已經(jīng)接受了這一的終結(jié)……

Sam Altman：

非?？?，真的非常快。我確實(shí)經(jīng)歷了一段時(shí)間的迷茫和憤怒，但這種狀態(tài)轉(zhuǎn)瞬即逝。到了周五晚上，我已經(jīng)在跟人討論下一步該怎么做，而且我對(duì)此感到振奮。我記得是周五晚上，我首次聽(tīng)到我們執(zhí)行團(tuán)隊(duì)的人說(shuō)：“嘿，我們將會(huì)反擊。” 然后，我?guī)еd奮的心情上床睡覺(jué)了，心想，向前沖。

Lex Fridman：

你能睡著嗎？

Sam Altman：

不多。有一段蠻奇怪的時(shí)期，大概四天半吧，我?guī)缀鯖](méi)怎么睡覺(jué)，也沒(méi)怎么吃東西，但是依然精力充沛。你會(huì)在戰(zhàn)時(shí)了解到一些關(guān)于腎上腺素的奇特現(xiàn)象。

Lex Fridman：

所以你已經(jīng)接受了，這個(gè)被你視為孩子的 OpenAI 會(huì)有失敗的一天。

Sam Altman：

我當(dāng)時(shí)對(duì)那個(gè)新東西特別激動(dòng)。就那么想著，“行吧，這玩意兒確實(shí)瘋了點(diǎn)，但管它呢?！?/p>

Lex Fridman：

這真是個(gè)很棒的應(yīng)對(duì)策略。

Sam Altman：

那天周六早上，兩位董事會(huì)成員給我打電話說(shuō)，“嘿，我們并不是想攪局。我們不打算在這里大把存儲(chǔ)價(jià)值。我們能談?wù)勀慊貧w的事情嗎？”起初，我真的不想回去，但后來(lái)我又仔細(xì)思考了一番，我意識(shí)到我非常關(guān)心這里的人，我的合伙人和股東們。我愛(ài)這家公司。于是，我想了想，對(duì)他們說(shuō)：“好吧，不過(guò)我有我的條件。”而那整個(gè)周末，是最讓人痛苦的時(shí)刻，我不斷地反思，也被告知，而且不只是我，我們整個(gè)團(tuán)隊(duì)都在想，我們正在努力維持 OpenAI 的穩(wěn)定，而此時(shí)全世界似乎都在試圖將其分崩離析，到處都有人在嘗試挖角。

我們一直被告知，“好了，我們快要弄完了。我們快要完成了。我們只需要再多一點(diǎn)點(diǎn)時(shí)間。”這讓人非常困惑。直到周日晚上，我?guī)缀趺扛魩仔r(shí)就會(huì)以為我們就要結(jié)束了，我們能找到方法讓我回去，讓一切恢復(fù)原狀。但董事會(huì)隨后任命了一位新的臨時(shí)CEO，那一刻我感覺(jué)真的很難受。那是整件事中最低谷的時(shí)刻。我跟你說(shuō)，雖然感覺(jué)非常痛苦，但我在那整個(gè)周末都感受到了很多愛(ài)。除了那個(gè)周日晚上的瞬間，我不會(huì)說(shuō)我的感受是憤怒或恨，相反，我感受到了來(lái)自人們的愛(ài)，也對(duì)他們滿懷愛(ài)意。那很痛苦，但那個(gè)周末的主導(dǎo)情緒是愛(ài)，而不是恨。

Lex Fridman：

您曾對(duì) Mira Murati 給予高度評(píng)價(jià)，說(shuō)她在那些關(guān)鍵的、平靜的時(shí)刻給予了特別的幫助，就像您在推文中提到的那樣?；蛟S我們可以稍微繞個(gè)彎。您最欣賞 Mira 的什么特質(zhì)呢？

Sam Altman：

她在那個(gè)周末的混亂中表現(xiàn)得非常出色，但人們往往是在危機(jī)時(shí)刻，無(wú)論好壞，才會(huì)關(guān)注領(lǐng)導(dǎo)者的表現(xiàn)。然而，我真正看重的是，在一個(gè)平凡的周二早上 9 點(diǎn) 46 分，在日常的平淡和繁瑣中，領(lǐng)導(dǎo)者如何行動(dòng)。一個(gè)人怎樣出席會(huì)議，他們作出決策的質(zhì)量如何。這就是我提到的“靜默時(shí)刻”的含義。

Lex Fridman：

絕大多數(shù)的工作都是日復(fù)一日，在一次次會(huì)議中慢慢推進(jìn)的。只需要聚精會(huì)神，做出優(yōu)秀的決策就行了。

Sam Altman：

是的，看吧，你想要花費(fèi)過(guò)去二十分鐘探討的那件事——我明白——是關(guān)于那個(gè)非常戲劇化的周末，但那并不是 OpenAI 的核心所在。OpenAI 的重心實(shí)際上在于其余的七年。

Lex Fridman：

嗯，對(duì)。人類文明可不止是納粹德國(guó)侵略蘇聯(lián)這檔子事，但這依舊是大家特別關(guān)注的焦點(diǎn)。

Sam Altman：

沒(méi)錯(cuò)

Lex Fridman：

這為我們提供了洞察人性的窗口，包括人性的極致以及或許正是在那些時(shí)刻，人類文明的某些毀壞和偉大成就得以顯現(xiàn)，因此這非常具有啟發(fā)性。

Part 2：Ilya Sutskever 去哪了

Lex Fridman：

那么關(guān)于 Ilya 的問(wèn)題，我可以問(wèn)你嗎？他是不是被關(guān)在某個(gè)秘密核設(shè)施里作為人質(zhì)？

Sam Altman：

No

Lex Fridman：

那么普通的秘密基地呢？

Sam Altman：

No

Lex Fridman：

一個(gè)不涉密的核設(shè)施怎么樣？

Sam Altman：

肯定也不是

Lex Fridman：

這事兒已經(jīng)有點(diǎn)成梗了。你跟 Ilya 認(rèn)識(shí)很長(zhǎng)時(shí)間了對(duì)吧。他顯然卷入了那場(chǎng)董事會(huì)的風(fēng)波?，F(xiàn)在你倆的關(guān)系怎樣？

Sam Altman：

我非常喜愛(ài) Ilya，對(duì)他也有著極大的敬意。關(guān)于他的計(jì)劃，我現(xiàn)在真的沒(méi)什么可以透露的。這應(yīng)該由他來(lái)回答。不過(guò)，我真心希望我們能夠持續(xù)合作，至少在我的職業(yè)生涯剩余時(shí)光里。他比我年輕那么一點(diǎn)，也許他會(huì)比我工作更長(zhǎng)久一些。

Lex Fridman：

有個(gè)流傳的段子說(shuō)，他看到了一些東西，好像是他看到了AGI，這件事讓他內(nèi)心充滿了憂慮。Ilya 到底看到了什么？

Sam Altman：

Ilya 從來(lái)沒(méi)有見(jiàn)過(guò)通用人工智能（AGI）。我們?nèi)魏稳硕歼€沒(méi)有。我們也還沒(méi)造出通用人工智能。不過(guò)，伊利亞身上有很多讓我敬佩的品質(zhì)，其中一個(gè)就是他非常重視關(guān)于通用人工智能及其廣泛的安全問(wèn)題，這包括它可能對(duì)社會(huì)造成的影響。隨著我們不斷地取得顯著進(jìn)展，這幾年我最多的時(shí)間都是和伊利亞一起討論這將意味著什么，我們需要怎么做才能確保做得正確，以保證我們的使命能夠成功完成。所以，雖然伊利亞沒(méi)有見(jiàn)過(guò) AGI，但他對(duì)確保我們?cè)谶@個(gè)過(guò)程中行得正、走得穩(wěn)的深思熟慮和憂慮，對(duì)人類來(lái)說(shuō)是一份寶貴的貢獻(xiàn)。

Lex Fridman：

我過(guò)去與他有過(guò)不少交流。我覺(jué)得，每當(dāng)他談到技術(shù)，他總是持有一種長(zhǎng)遠(yuǎn)的思考方式。他不太關(guān)心一年內(nèi)會(huì)發(fā)生什么，而是在想象10年后的情況，基于首要原則去思考：“好的，如果這東西真的能夠擴(kuò)展開(kāi)來(lái)，那么基本要素是什么呢？會(huì)有哪些發(fā)展？”這種思考方式為他們?cè)陉P(guān)注所有的安全問(wèn)題等方面打下了堅(jiān)實(shí)的基礎(chǔ)，這也讓和他對(duì)話變得非常吸引人。你了解他為何近來(lái)鮮有發(fā)聲嗎？他是不是在做些靈魂深處的思索呢？

Sam Altman：

再說(shuō)一次，我不想代表 Ilya 發(fā)言。我覺(jué)得你應(yīng)該親自去問(wèn)問(wèn)他。他絕對(duì)是個(gè)思考深刻的人。我認(rèn)為 Ilya 始終在以非常積極的方式進(jìn)行靈魂探索。

Lex Fridman：

是的，對(duì)。他還真懂得沉默的魅力。我聽(tīng)說(shuō)他其實(shí)挺逗的，不過(guò)我個(gè)人還沒(méi)機(jī)會(huì)見(jiàn)識(shí)過(guò)這一面。

Sam Altman：

當(dāng)那種情況發(fā)生時(shí)，感覺(jué)真的很溫馨。

Lex Fridman：

我還沒(méi)遇到過(guò)傻傻的 Ilya，不過(guò)我也挺期待這一天呢。

Sam Altman：

我最近和他一起去了個(gè)晚宴，他當(dāng)時(shí)正在和一只小狗玩，心情非常輕松、嬉皮，真的很讓人覺(jué)得親切。我當(dāng)時(shí)就想：哇～這面是 Ilya 不太給外界看到的。

Lex Fridman：

那么，就這整樁事情而言，你對(duì)董事會(huì)的架構(gòu)滿意嗎？

Sam Altman：

Yes

Lex Fridman：

… 關(guān)于這一切及其走向，你有何看法？

Sam Altman：

我對(duì)新董事會(huì)的組建感到非常滿意。在 OpenAI 的架構(gòu)方面，董事會(huì)的職責(zé)之一就是進(jìn)行審視，看看我們?nèi)绾文軌蚣訌?qiáng)其結(jié)構(gòu)的韌性。我們的首要任務(wù)是先確定新的董事會(huì)成員，但顯然在這個(gè)過(guò)程中，我們對(duì)結(jié)構(gòu)的認(rèn)識(shí)有了顯著的進(jìn)步。我認(rèn)為我沒(méi)有什么特別深刻的見(jiàn)解。這是一段極其混亂和痛苦的經(jīng)歷。我覺(jué)得這就像一場(chǎng)怪異的完美風(fēng)暴。這對(duì)我來(lái)說(shuō)預(yù)示著未來(lái)的挑戰(zhàn)，隨著賭注的不斷升高，我們需要有更為強(qiáng)健的治理結(jié)構(gòu)、流程和團(tuán)隊(duì)。我很慶幸這一切在我還年輕時(shí)發(fā)生，但實(shí)際上這是一次異常艱難的經(jīng)歷。

Lex Fridman：

這會(huì)不會(huì)使你在信任別人方面變得更加猶豫呢？

Sam Altman：

Yes

Lex Fridman：

就個(gè)人而言？

Sam Altman：

是的，我自認(rèn)為是一個(gè)極度信任他人的人。我一向堅(jiān)持的人生哲學(xué)是：不必太過(guò)擔(dān)憂，不必在意那些偏執(zhí)的疑慮和極端的可能性。這樣做的代價(jià)可能是偶爾吃點(diǎn)小虧，但作為回報(bào)，你得以放松警惕地生活。然而這件事對(duì)我來(lái)說(shuō)真的是晴天霹靂，我措手不及，它確實(shí)改變了我。我并不喜歡這種改變，但它確實(shí)影響了我對(duì)于對(duì)人默認(rèn)信任的態(tài)度以及對(duì)潛在壞情況的規(guī)劃。

Lex Fridman：

你得在這方面多加留心。你擔(dān)心自己會(huì)變得過(guò)于憤世嫉俗嗎？

Sam Altman：

我不害怕自己會(huì)變得過(guò)于憤世嫉俗。我覺(jué)得我本性里就很不憤世嫉俗，但我擔(dān)心，自己可能逐漸喪失那種對(duì)別人的本能信任。

Lex Fridman：

我其實(shí)還沒(méi)把握好，對(duì)于那些正致力于開(kāi)發(fā)通用人工智能的人而言，是信任模式更為適宜，還是持懷疑態(tài)度更好。這條路你走得真有意思。不過(guò)說(shuō)到架構(gòu)，我其實(shí)更關(guān)注人這一層面。你怎么做到讓自己周圍都是那些既在打造酷炫東西，又能作出睿智選擇的人？因?yàn)槟銙甑腻X越多，這件事的影響力也就越大，周圍的人就越發(fā)變得詭異。

Sam Altman：

我覺(jué)得你完全可以就董事會(huì)成員的問(wèn)題，以及我應(yīng)該給予的信任程度，或者說(shuō)我應(yīng)該采取不同的做事方式提出種種意見(jiàn)。但如果說(shuō)到這里的團(tuán)隊(duì)，我相信你會(huì)給我一個(gè)非常高的評(píng)價(jià)。對(duì)于那些我每天都要共事的人，我心中充滿了巨大的感激、信任和尊重。我認(rèn)為，讓自己被這樣的人包圍是極其重要的。

Part 3：Elon Musk 的訴訟

Lex Fridman：

我們共同的朋友 Elon Musk 起訴了 OpenAI。在你看來(lái)，他批評(píng)的核心問(wèn)題是什么？他有多少批評(píng)是站得住腳的？又有多少是誤會(huì)或不對(duì)的？

Sam Altman：

我真的不清楚這到底是怎么一回事。最初，我們只認(rèn)為自己將成為一個(gè)研究實(shí)驗(yàn)室，對(duì)這項(xiàng)技術(shù)未來(lái)的發(fā)展毫無(wú)頭緒。那是七八年前的事了，現(xiàn)在想回憶起當(dāng)時(shí)的情況真的很難，那個(gè)時(shí)候語(yǔ)言模型還沒(méi)成為熱門話題。我們甚至還沒(méi)想到要開(kāi)發(fā)一個(gè) API 或者賣聊天機(jī)器人的訪問(wèn)權(quán)限。我們也沒(méi)有想過(guò)要將其產(chǎn)品化。當(dāng)時(shí)我們的想法就是，“我們就去做研究吧，至于研究成果能用來(lái)做什么，我們并不清楚?！?我想在探索完全新穎的事物時(shí)，你總是摸著石頭過(guò)河，制定一些假設(shè)，而這些假設(shè)大多數(shù)最終都被證明是錯(cuò)誤的。

接著，我們意識(shí)到我們需要做出一些不同的事情，并且需要巨額的資本。所以我們就在想，“行吧，當(dāng)前的結(jié)構(gòu)顯然不太合適。我們?cè)撛鯓尤パa(bǔ)救？”補(bǔ)了一次又一次，最終我們得到的東西確實(shí)讓人不禁挑挑眉毛，至少可以這么形容。不過(guò)，我覺(jué)得我們?cè)诿恳徊蕉甲龀隽撕侠淼臎Q策。這并不是說(shuō)如果能有機(jī)會(huì)回到過(guò)去，有個(gè)先知在旁邊指導(dǎo)，我就不會(huì)選擇完全不同的做法。不過(guò)，當(dāng)時(shí)我們手邊可沒(méi)有先知。不管怎樣，至于埃隆真正的動(dòng)機(jī)是什么，我真的不清楚。

Lex Fridman：

在 OpenAI 的博客文章中，他們給出的回應(yīng)主要集中在為什么他們認(rèn)為不應(yīng)該繼續(xù)推出完整版 GPT-3 API 的理由。他們提到了對(duì)模型潛在被濫用的擔(dān)憂，以及他們認(rèn)為現(xiàn)階段需要加強(qiáng)監(jiān)管和提高透明度。此外，他們也談到了對(duì)于 AI 長(zhǎng)期影響的責(zé)任感，并表示愿意與其他機(jī)構(gòu)合作，確保 AI 的使用是安全和有益的。

Sam Altman：

哦，我們剛剛提到埃隆表達(dá)了一系列看法。這里是我們的陳述，或者說(shuō)不是我們的陳述。這是對(duì)事件經(jīng)過(guò)的一個(gè)描述。我們?cè)噲D不帶入個(gè)人情緒，只是陳述，“這就是歷史。”

Lex Fridman：

我覺(jué)得 Elon 對(duì)你剛才提到的一點(diǎn)有些誤解，也就是你們當(dāng)時(shí)所面臨的不確定性有多大。你們只是一幫小研究團(tuán)隊(duì)，瘋狂地討論著 AGI，而那時(shí)候，所有人都覺(jué)得這個(gè)想法很可笑。

Sam Altman：

Elon 不久前還在瘋狂地談?wù)摪l(fā)射火箭，那時(shí)候大家都對(duì)這個(gè)念頭嗤之以鼻，所以我覺(jué)得他對(duì)這件事會(huì)有更多的共鳴。

Lex Fridman：

我確實(shí)認(rèn)為這里面有一些個(gè)人的因素。OpenAI 和這里的很多了不起的人決定與 Elon Musk 分道揚(yáng)鑣，因此存在一些個(gè)人層面的-

Sam Altman：

Elon 選擇了離開(kāi)

Lex Fridman：

你能具體說(shuō)說(shuō)嗎？那種選擇分道揚(yáng)鑣的情形？

Sam Altman：

他覺(jué)得 OpenAI 快要失敗了。他想要完全控制權(quán)來(lái)挽救局面。但我們想要繼續(xù)沿著現(xiàn)在 OpenAI 所走的方向前進(jìn)。他還想要特斯拉能夠開(kāi)展一個(gè) AGI （人工通用智能）項(xiàng)目。他在不同時(shí)間點(diǎn)有過(guò)多種想法，包括把 OpenAI 變成一個(gè)他能控制的盈利性公司，或者是讓它與特斯拉合并。我們并不同意這樣做，于是他決定離開(kāi)，這也挺好的。

Lex Fridman：

所以你的意思是，正如那篇博客文章里提到的，他想要的是 OpenAI 能像被特斯拉收購(gòu)那樣，或許是與微軟的合作方式有點(diǎn)相似，或者說(shuō)可能是一種更為戲劇化的形式。

Sam Altman：

我的記憶里，那個(gè)提議就是這么回事，就是說(shuō)，被特斯拉收購(gòu)，然后讓特斯拉完全掌控它。我很確定提議就是這個(gè)意思。

Lex Fridman：

當(dāng)時(shí)，Elon，OpenAI 中的 “open” 對(duì)你意味著什么？Ilya 在郵件往來(lái)中已經(jīng)談?wù)撨^(guò)這個(gè)話題。那時(shí)候它對(duì)你意味著什么？現(xiàn)在又是怎樣的意義呢？

Sam Altman：

說(shuō)到如果能帶著一個(gè)“神諭”重來(lái)，我可能會(huì)選一個(gè)不同的名字。OpenAI 正在做的眾多事情中，我認(rèn)為最重要的就是免費(fèi)地將強(qiáng)大技術(shù)交到人們手中，作為一項(xiàng)公共福利。我們不在我們的服務(wù)上投放廣告——

Sam Altman：

作為公共利益的一部分，我們沒(méi)有在免費(fèi)版本中投放廣告，也沒(méi)有通過(guò)其他途徑來(lái)盈利。我們的出發(fā)點(diǎn)只是我們的使命 —— 免費(fèi)為人們提供越來(lái)越強(qiáng)大的工具，并且讓他們?nèi)ナ褂谩Ｎ矣X(jué)得這樣的開(kāi)放對(duì)我們的愿景至關(guān)重要。如果我們能夠提供優(yōu)秀的工具，讓人們學(xué)會(huì)使用，或者他們甚至可以自學(xué)成才，然后用這些工具為彼此打造一個(gè)美好的未來(lái)，這將是意義重大的。所以，如果我們能持續(xù)向世界提供免費(fèi)或低成本的強(qiáng)大 AI 工具，這將極大地推進(jìn)我們的使命。至于是否開(kāi)源，嗯，我認(rèn)為我們應(yīng)該對(duì)一些東西開(kāi)源，而對(duì)其他的則不必。這件事往往會(huì)變成一種信仰之爭(zhēng)，很難保持中立，但我相信尋找平衡點(diǎn)才是正確的做法。

Lex Fridman：

所以他就跟我說(shuō)：“如果你們把名字改成 CloseAI ，我就撤銷訴訟?！?我是說(shuō)，難道這就要成為一個(gè)圍繞名字的梗，在這片戰(zhàn)場(chǎng)上互相對(duì)決了嗎？

Sam Altman：

我覺(jué)得這體現(xiàn)出 Elon 提起訴訟的嚴(yán)肅態(tài)度，說(shuō)實(shí)話，這種說(shuō)法真是讓人吃驚。

Lex Fridman：

你要是覺(jué)得我錯(cuò)了就糾正我，但我個(gè)人覺(jué)得這場(chǎng)官司在法律上并不算嚴(yán)重。它更多的是在向人們傳遞一個(gè)關(guān)于未來(lái)通用人工智能（AGI），以及目前在這個(gè)領(lǐng)域領(lǐng)先的公司的信息。

Sam Altman：

看，我的意思是，在人們指出這樣做有點(diǎn)偽善之前，Grok 是沒(méi)有開(kāi)源過(guò)任何東西的。然后，他宣布 Grok 將在本周開(kāi)始開(kāi)源一些東西。我認(rèn)為對(duì)他來(lái)說(shuō)，這件事并不僅僅是關(guān)于是否開(kāi)源的問(wèn)題。

Lex Fridman：

嗯，我們會(huì)討論一下開(kāi)源和非開(kāi)源的話題。我倒是覺(jué)得，批評(píng)一下競(jìng)爭(zhēng)對(duì)手挺好的，適當(dāng)?shù)卣f(shuō)點(diǎn)壞話也無(wú)妨。但這得是建立在友好競(jìng)爭(zhēng)的基礎(chǔ)上，比起來(lái)，我個(gè)人真是非常討厭打官司。

Sam Altman：

“看，我認(rèn)為整個(gè)事情對(duì)于一個(gè)建造者來(lái)說(shuō)是不應(yīng)該的。我尊敬埃隆，他是我們時(shí)代最偉大的建造者之一。我知道他清楚地感受過(guò)被那些仇恨者攻擊的滋味，這讓我看到他這樣做時(shí)更加感到悲哀。”

Lex Fridman：

是的，他可以說(shuō)是史上最杰出的創(chuàng)造者之一，甚至可能是有史以來(lái)最卓越的建設(shè)者。

Sam Altman：

這讓我感到悲傷。我覺(jué)得很多人也有同樣的感受。一直以來(lái)，有那么多人仰慕他。我在某個(gè)訪談里說(shuō)過(guò)，我懷念曾經(jīng)的 Elon，結(jié)果收到了好多回信，他們都說(shuō)：“你的話完全表達(dá)了我的心聲?！?/p>

Lex Fridman：

我覺(jué)得他就應(yīng)該贏。他應(yīng)該讓 X Grok 打敗 GPT，然后 GPT 又反過(guò)來(lái)打敗 X Grok，就這樣互相競(jìng)爭(zhēng)，對(duì)大家來(lái)說(shuō)都是一件美事。但說(shuō)到開(kāi)源的話題，你認(rèn)為有很多公司在探索這個(gè)概念嗎？這挺有意思的。我倒覺(jué)得 Meta 出乎意料地在這個(gè)領(lǐng)域走在了前面，或者至少在這場(chǎng)棋局中，它是第一個(gè)真正開(kāi)放源碼的。當(dāng)然了，他們開(kāi)源的并不是最尖端的模型，不過(guò)他們開(kāi)源了 Lama。谷歌也在考慮開(kāi)放一個(gè)規(guī)模較小的版本。開(kāi)源有什么優(yōu)缺點(diǎn)？你自己有沒(méi)有思考過(guò)這個(gè)問(wèn)題？

Sam Altman：

是的，我確信開(kāi)源模型絕對(duì)有其立足之地，尤其是那些人們可以在本地執(zhí)行的體積較小的模型，這方面確實(shí)存在巨大的需求。我想未來(lái)會(huì)出現(xiàn)一些開(kāi)源模型，也會(huì)有一些閉源模型。這一點(diǎn)上，它并不會(huì)與其他生態(tài)系統(tǒng)有所不同。

Lex Fridman：

我聽(tīng)了所有關(guān)于這起 訴訟 和其他類似 事情的 播客。他們更加關(guān)注的 是， 從非盈利到設(shè)定 盈利上限 這一變化所樹立的 先例 對(duì)其他 初創(chuàng)企業(yè) 會(huì)有什么影響？這會(huì)是一個(gè)怎樣的——

Sam Altman：

我強(qiáng)烈不建議任何想要先作為一個(gè)非盈利組織起步，之后再加入盈利性分支的創(chuàng)業(yè)公司這么做。我真的非常不推薦這種方式。我覺(jué)得我們這里也不會(huì)創(chuàng)造這樣一個(gè)先例。

Lex Fridman：

好的。那么大多數(shù)初創(chuàng)公司應(yīng)該只是——

Sam Altman：

當(dāng)然可以。

Lex Fridman：

還有一點(diǎn) ——

Sam Altman：

如果我們知道會(huì)發(fā)生什么，我們肯定也會(huì)那么做的。

Lex Fridman：

嗯，理論上來(lái)說(shuō)，如果你在這里的舞跳得夠美，或許能享受到一些稅收優(yōu)惠之類的東西，但是……

Sam Altman：

我覺(jué)得大部分人對(duì)這些事情的看法不是這樣的。

Lex Fridman：

如果你這樣做，創(chuàng)業(yè)公司根本不可能省下一大筆錢。

Sam Altman：

不，我覺(jué)得有些法律會(huì)讓這件事變得相當(dāng)棘手。

Lex Fridman：

你期望與 Elon 之間的關(guān)系如何發(fā)展？這種緊張、這場(chǎng)舞蹈，你希望它會(huì)怎樣？假如從現(xiàn)在起向前看1、2、3年，你和他在私人層面上的關(guān)系——像是友情、友好競(jìng)爭(zhēng)，以及所有這些互動(dòng)。

Sam Altman：

是的，我非常尊敬 Elon，我希望在未來(lái)的歲月里，我們能保持一段友好的關(guān)系。

Lex Fridman：

是的，我希望你們這個(gè)月能夠保持友好的關(guān)系，一起在競(jìng)爭(zhēng)中取得勝利，共同探討這些有趣的理念。我猜會(huì)有些關(guān)于人才或其他方面的競(jìng)爭(zhēng)吧，但關(guān)鍵是要保持友好競(jìng)爭(zhēng)的氛圍。就去創(chuàng)造一些酷炫的東西吧。埃隆在這方面確實(shí)很在行，你也不賴。

Part 4：Sora

Lex Fridman：

講到厲害的玩意兒，Sora 真的很吸引人。我有一百萬(wàn)個(gè)問(wèn)題想問(wèn)你。首先，它的確令人稱奇，無(wú)論是在產(chǎn)品層次上，還是在哲學(xué)層次上。那么我就從技術(shù)/哲學(xué)的角度來(lái)提問(wèn)吧，你認(rèn)為它比如說(shuō)相比于 GPT-4，在理解世界這方面是更勝一籌還是稍遜一籌呢？在訓(xùn)練這些補(bǔ)丁時(shí)，它對(duì)世界模型的理解與僅僅基于語(yǔ)言標(biāo)記有什么不同嗎？

Sam Altman：

我覺(jué)得這些模型對(duì)世界模型的理解，實(shí)際上比我們多數(shù)人給予的認(rèn)可要深。因?yàn)樗鼈儗?duì)某些事情的理解是如此的清晰明了，它們對(duì)其他事情的無(wú)知或錯(cuò)誤就顯得尤為突出，人們很容易一眼看穿它們的不足，然后說(shuō)：“啊，這全是假的?！?但實(shí)際上并非全是假象。有些部分是有效的，有些部分則不然。

我還記得第一次看 Sora 視頻時(shí)的情景，你會(huì)看到有人走過(guò)來(lái)，擋住畫面幾秒鐘后又走開(kāi)，而被遮擋的東西依舊在那兒。我當(dāng)時(shí)就想，“噢，這效果挺不錯(cuò)的?！被蛘?，有時(shí)候，你能看到它展現(xiàn)出一系列動(dòng)作中物理規(guī)律的那種精準(zhǔn)，真的讓人印象深刻。但說(shuō)到底，這些模型只會(huì)越來(lái)越強(qiáng)大，這種進(jìn)步還會(huì)繼續(xù)。如果你關(guān)注一下從 DALL·E 1 到 2 再到 3，再到 Sora 的發(fā)展軌跡，會(huì)發(fā)現(xiàn)有很多人在每一個(gè)版本上都曾嘲諷，說(shuō)它做不到這個(gè)，做不到那個(gè)，但現(xiàn)在看看它的表現(xiàn)吧。

Lex Fridman：

嗯，你剛才提到的遮擋問(wèn)題，其實(shí)就是要對(duì)世界的三維物理現(xiàn)象建模，而且要做得足夠好，才能捕捉到這類情況。

Sam Altman：

嗯……

Lex Fridman：

你可以跟我說(shuō)說(shuō)，為了應(yīng)對(duì)遮擋問(wèn)題，世界模型需要做什么呢？

Sam Altman：

我想說(shuō)的是，它在處理遮擋方面表現(xiàn)得相當(dāng)出色。而說(shuō)它背后有一個(gè)很強(qiáng)大的三維世界模型，這個(gè)說(shuō)法就有些牽強(qiáng)了。

Lex Fridman：

但你覺(jué)得僅憑這些二維訓(xùn)練數(shù)據(jù)的方式就能達(dá)到那個(gè)目標(biāo)嗎？

Sam Altman：

看起來(lái)這種方法能出乎意料地走得很遠(yuǎn)。我不太想去猜測(cè)它能克服哪些限制，哪些又不能，不過(guò)……

Lex Fridman：

你發(fā)現(xiàn)了系統(tǒng)的哪些有趣局限性？我的意思是，你分享過(guò)一些挺有趣的例子。

Sam Altman：

有各種各樣的有趣現(xiàn)象。比如，視頻中的貓咪在任意位置突然長(zhǎng)出一條額外的肢體。你可以隨意挑選，但現(xiàn)在仍然存在許多問(wèn)題，有很多弱點(diǎn)。

Lex Fridman：

你覺(jué)得這是這種方法根本上的缺陷呢，還是說(shuō)只要有更大的模型、更細(xì)致的技術(shù)處理或者更高質(zhì)量、更多量的數(shù)據(jù)，就能解決“貓發(fā)芽”這類問(wèn)題？

Sam Altman：

我對(duì)這兩點(diǎn)都持肯定態(tài)度。我認(rèn)為這種方法給人的感覺(jué)與我們通常的思考和學(xué)習(xí)方式大相徑庭。同時(shí)，我也相信隨著規(guī)模的增加，它的效果會(huì)進(jìn)一步提升。

Lex Fridman：

就像我提到的，LLMS 有 token，文本 token，而 Sora 則有視覺(jué) patch。它把所有的視覺(jué)數(shù)據(jù)，包括各種不同的視頻和，都轉(zhuǎn)換成了 patch。訓(xùn)練過(guò)程可以說(shuō)完全是自監(jiān)督的嗎？還是會(huì)涉及到一些手動(dòng)標(biāo)注的工作？在整個(gè)過(guò)程中，人的參與程度是怎樣的？

Sam Altman：

我是說(shuō)，不詳細(xì)談?wù)?Sora 的方法，我們的工作就已經(jīng)利用了大量的人類數(shù)據(jù)。

Lex Fridman：

但不是互聯(lián)網(wǎng)級(jí)別的數(shù)據(jù)量嗎？這就意味著需要大量的人力。Sam，”大量”這個(gè)詞可不簡(jiǎn)單。

Sam Altman：

我覺(jué)得在這種情況下用“很多”這個(gè)詞挺合適的。

Lex Fridman：

因?yàn)閷?duì)我來(lái)說(shuō)，“很多”嘛……你聽(tīng)我說(shuō)，我是個(gè)內(nèi)向的人，要是和三個(gè)人一起出去，對(duì)我來(lái)說(shuō)人就已經(jīng)夠多的了。要是四個(gè)人，那簡(jiǎn)直就是超負(fù)荷了。不過(guò)我猜你指的“很多”可能是比這……

Sam Altman：

對(duì)，確實(shí)是有不止三個(gè)人在給這些模型做數(shù)據(jù)標(biāo)注工作。

Lex Fridman：

好的，對(duì)。但歸根到底，有大量的自監(jiān)督學(xué)習(xí)。就像你在技術(shù)報(bào)告里提到的，我們處理的是互聯(lián)網(wǎng)規(guī)模的數(shù)據(jù)。這實(shí)在太美妙了……它就像詩(shī)。也就是說(shuō)，這些數(shù)據(jù)并非由人工標(biāo)注，可以認(rèn)為是以這種方式自監(jiān)督的嗎？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

然后問(wèn)題在于，互聯(lián)網(wǎng)上到底有多少數(shù)據(jù)可以用于這種自我監(jiān)督學(xué)習(xí)的方式，只要我們能弄清楚自我監(jiān)督的具體細(xì)節(jié)。你有沒(méi)有考慮過(guò)，更進(jìn)一步公開(kāi)這些細(xì)節(jié)？

Sam Altman：

我們有的。你是特指信息的來(lái)源嗎？

Lex Fridman：

出處特別指出。因?yàn)楹苡腥?，那些讓語(yǔ)言模型如此神奇的元素現(xiàn)在能否開(kāi)始轉(zhuǎn)向視覺(jué)數(shù)據(jù)呢？而這一過(guò)程需要怎么做呢？

Sam Altman：

我感覺(jué)是這樣沒(méi)錯(cuò)，不過(guò)我們還得加把勁，干更多的活兒。

Lex Fridman：

當(dāng)你這么問(wèn)的時(shí)候，是在擔(dān)心些什么呢？為什么會(huì)對(duì)發(fā)布這個(gè)系統(tǒng)感到憂慮？可能會(huì)有哪些潛在危險(xiǎn)？

Sam Altman：

我是說(shuō)，坦白講，在發(fā)布系統(tǒng)之前，我們必須確保它的效率達(dá)到人們期望的規(guī)模，這樣才能確保系統(tǒng)能夠正常工作，這一點(diǎn)我不想輕描淡寫。在這方面還有大量的工作需要完成。但你可以想象到，像深度偽造、錯(cuò)誤信息這樣的問(wèn)題。我們?cè)噲D作為一家深思熟慮的公司去思考我們推向世界的產(chǎn)品，你不用費(fèi)太多心思就能想到這些事情可能怎么走向不好的方向。

Lex Fridman：

在這里我們面臨很多棘手的問(wèn)題，你所處的領(lǐng)域非常艱難。你覺(jué)得按照版權(quán)法，訓(xùn)練人工智能算不算公平使用呢？

Sam Altman：

我覺(jué)得這個(gè)問(wèn)題的底層問(wèn)題是，創(chuàng)造有價(jià)值數(shù)據(jù)的人們是否應(yīng)該得到某種形式的經(jīng)濟(jì)補(bǔ)償，因?yàn)樗麄兊臄?shù)據(jù)被利用了。我認(rèn)為答案是肯定的。我目前還不清楚具體的解決方案是什么。人們提出了各種各樣的點(diǎn)子，我們也嘗試過(guò)一些不同的模式。但打個(gè)比方，如果我是一位藝術(shù)家，A，我會(huì)希望有選項(xiàng)可以讓別人不使用我的風(fēng)格來(lái)創(chuàng)作藝術(shù)作品。而且，B，如果別人確實(shí)用了我的風(fēng)格來(lái)創(chuàng)作，我希望這背后能有一套經(jīng)濟(jì)模式來(lái)確保我的利益得到體現(xiàn)。

Lex Fridman：

是的，就像是從 CD 到 Napster，再到 Spotify 的那種轉(zhuǎn)變。我們得找出一種可行的模式。

Sam Altman：

模型會(huì)變，但人們得拿到錢。

Lex Fridman：

好吧，如果我們把視角再拉得更遠(yuǎn)一些，應(yīng)該有某種動(dòng)力激勵(lì)人類繼續(xù)去做那些牛逼的事兒。

Sam Altman：

在我所擔(dān)心的一切中，我相信人類會(huì)創(chuàng)造出非常酷的東西，并且社會(huì)終將以某種方式來(lái)獎(jiǎng)勵(lì)這些創(chuàng)造。這似乎已經(jīng)深植于我們的本性之中。我們渴望創(chuàng)造，我們渴望證明自己的價(jià)值，我們希望以各種方式來(lái)獲取認(rèn)同和地位。我認(rèn)為，這些特質(zhì)是不會(huì)消逝的。

Lex Fridman：

但回報(bào)可能不是金錢上的利益，而可能是名望或是對(duì)其它酷事的認(rèn)可和贊譽(yù)。

Sam Altman：

也許在金融方面還有其他方式。我再次強(qiáng)調(diào)，我認(rèn)為我們還未見(jiàn)到經(jīng)濟(jì)系統(tǒng)發(fā)展的最終模式。

Lex Fridman：

是的，不過(guò)藝術(shù)家和創(chuàng)作者們都挺擔(dān)心的。當(dāng)他們看到 Sora，他們就會(huì)驚呼，“我的天哪?！?/p>

Sam Altman：

藝術(shù)家們?cè)跀z影問(wèn)世的時(shí)候也是非常憂心忡忡的，后來(lái)攝影卻演變成了一種全新的藝術(shù)形式，有人通過(guò)攝影賺到了大錢。我相信類似的事情還會(huì)不斷上演。人們會(huì)不斷地用新工具探索新的創(chuàng)作方式。

Lex Fridman：

如果我們只是隨便在 YouTube 或者類似的平臺(tái)上搜一搜，你覺(jué)得在接下來(lái)的五年里，會(huì)有多少內(nèi)容是由類似 Sora 這樣的 AI 生成的呢？

Sam Altman：

人們總是在討論，五年內(nèi)人工智能會(huì)取代多少工作崗位。他們的出發(fā)點(diǎn)通常是，目前的工作中有多大比例會(huì)完全被人工智能所替代？但我個(gè)人的看法并不是圍繞人工智能會(huì)做多少份工作，而是在未來(lái)某個(gè)時(shí)間點(diǎn)，它們能執(zhí)行多少種任務(wù)。想一想，經(jīng)濟(jì)活動(dòng)中的所有五秒鐘、五分鐘、五小時(shí)乃至五天的任務(wù)，有多少是人工智能可以完成的？我認(rèn)為，這個(gè)問(wèn)題比單純問(wèn)人工智能能取代多少工作要更加有意義、影響深遠(yuǎn)和重要。因?yàn)槿斯ぶ悄苁且粋€(gè)工具，它將在不斷延長(zhǎng)的時(shí)間跨度內(nèi)、以越來(lái)越高的復(fù)雜度來(lái)執(zhí)行越來(lái)越多的任務(wù)，這讓人類能夠在更高層次上進(jìn)行抽象思考。也就是說(shuō)，人們?cè)谧约旱墓ぷ髦锌赡軙?huì)變得更加高效。而這種變化，隨著時(shí)間的推移，不僅僅是量的改變，它還意味著質(zhì)的變化——我們能在腦海中構(gòu)思何種問(wèn)題。對(duì)于 YouTube 上的視頻，我覺(jué)得情況也是如此。很多視頻，或許是大多數(shù)視頻，在制作過(guò)程中會(huì)運(yùn)用到人工智能工具，但它們的核心仍然是由人來(lái)思考、構(gòu)思、負(fù)責(zé)部分執(zhí)行，并指導(dǎo)整個(gè)項(xiàng)目的運(yùn)作。

Lex Fridman：

是的，這真的非常有趣。我是說(shuō)，這確實(shí)有點(diǎn)嚇人，但去想象這一點(diǎn)真的很吸引人。我傾向于認(rèn)為，人類喜歡觀察其他人類或者說(shuō)其他有人性的生物——

Sam Altman：

人們真的很在乎彼此。

Lex Fridman：

是的，如果出現(xiàn)了比人類還酷、還厲害的東西，人們可能會(huì)關(guān)注兩天，但之后他們又會(huì)回歸去關(guān)心人類的事務(wù)。

Sam Altman：

這看起來(lái)似乎是根深蒂固的。

Lex Fridman：

這就是圍繞棋局的整個(gè)問(wèn)題，“哦，是的”，但現(xiàn)在我們還是得繼續(xù)下棋。咱們得視而不見(jiàn)那個(gè)擺在眼前的事實(shí)：比起人工智能系統(tǒng)，人類下棋實(shí)在是太菜了。

Sam Altman：

我們還是會(huì)開(kāi)賽車，而且現(xiàn)在的車速比以前快多了。我的意思是這樣的例子有很多。

Lex Fridman：

是的，或許它就類似于 Adobe 套件里的一種工具，能夠大大簡(jiǎn)化視頻制作這些流程。

聽(tīng)著，我真的不喜歡站在鏡頭前。如果我能想出一個(gè)辦法避免露面，我會(huì)非常樂(lè)意的。不過(guò)不幸的是，這可能還需要一段時(shí)間?，F(xiàn)在我們正在研究生成面部圖像的技術(shù)，雖然進(jìn)展順利，但要在視頻中生成特定人物而非通用面孔，這個(gè)過(guò)程還是挺棘手的。

Part 5：GPT-4

Lex Fridman：

讓我來(lái)問(wèn)問(wèn)你 GPT-4 的事情。問(wèn)題真的好多。首先，它同樣令人驚嘆?；仡^看，GPT-3、GPT-5 和 GPT-4 這幾個(gè)版本很可能會(huì)被認(rèn)為是歷史性的轉(zhuǎn)折點(diǎn)，這些版本塑造了 ChatGPT。

Sam Altman：

可能第五次會(huì)成為轉(zhuǎn)折點(diǎn)。我不確定。往前看，這真的很難說(shuō)。

Lex Fridman：

我們永遠(yuǎn)也預(yù)測(cè)不了。這就是關(guān)于未來(lái)最讓人頭疼的事，太難以預(yù)測(cè)了。但是對(duì)我個(gè)人而言，回顧歷史，GPT-4 和 ChatGPT 實(shí)在是太讓人震驚了，它們?cè)跉v史上都留下了深刻的烙印。那么，請(qǐng)?jiān)试S我問(wèn)你，你認(rèn)為 GPT-4 和 GPT-4 Turbo 最令人印象深刻的能力有哪些？

Sam Altman：

我覺(jué)得這挺糟心的。

Lex Fridman：

典型的人吶，也是這樣，很快就會(huì)習(xí)慣一件棒極了的東西。

Sam Altman：

不，我認(rèn)為這確實(shí)是一件非凡的事情，但與我們所要實(shí)現(xiàn)的目標(biāo)和我堅(jiān)信我們最終能夠達(dá)成的境界相比，在 GPT-3 面世那會(huì)兒，人們都說(shuō)：“哦，這太令人驚嘆了，簡(jiǎn)直是技術(shù)的奇跡?！钡拇_，當(dāng)時(shí)它非常了不起。但現(xiàn)在出現(xiàn)了 GPT-4，再回頭看看 GPT-3，你就會(huì)覺(jué)得：“天哪，這簡(jiǎn)直糟糕透了。”我預(yù)計(jì) GPT-5 和 GPT-4 之間的差距將和 GPT-4 與 GPT-3 的差距一樣大。我覺(jué)得，我們的職責(zé)就是要領(lǐng)先未來(lái)幾年的視野，記得我們現(xiàn)在擁有的工具回頭看來(lái)可能會(huì)顯得相當(dāng)遜色，正是這種認(rèn)知驅(qū)使我們確保未來(lái)變得更加美好。

Lex Fridman：

GPT-4 在哪些方面最讓人失望？我的意思是——

Sam Altman：

它最擅長(zhǎng)做些什么呢？

Lex Fridman：

它能做到的最棒的事情是什么呢？而這些事情的局限性又在哪里，讓你會(huì)覺(jué)得它很差，因此又讓你對(duì)未來(lái)充滿了啟迪和期望呢？

Sam Altman：

我最近更多地把它當(dāng)作一種頭腦風(fēng)暴的搭檔。

Lex Fridman：

是的。

Sam Altman：

它有一絲令人震驚的神奇。當(dāng)人們談起它的作用時(shí)，他們會(huì)說(shuō)：“哦，它幫我提高了編程效率。它讓我的寫作速度更快、質(zhì)量更好。它能幫我將一種語(yǔ)言轉(zhuǎn)換成另一種?！彼羞@些都令人稱奇，但它在創(chuàng)意頭腦風(fēng)暴方面的表現(xiàn)——比如，“我得給這個(gè)東西取個(gè)名字。我需要換個(gè)角度思考這個(gè)問(wèn)題。我不確定接下來(lái)該怎么辦”——我認(rèn)為這展現(xiàn)了一絲令我期待已久的東西，希望將來(lái)能看到更多這樣的場(chǎng)景。

你能略見(jiàn)一斑的是，當(dāng)我?guī)椭幚硪恍╅L(zhǎng)遠(yuǎn)的任務(wù)，把它們拆解成多個(gè)步驟，然后執(zhí)行其中幾個(gè)，或許是上網(wǎng)搜索資料，或是編程之類的活兒。這個(gè)過(guò)程要是能成功，雖然并不常見(jiàn)，但確實(shí)感覺(jué)挺神奇的。

Lex Fridman：

與人不斷地來(lái)回交流，對(duì)我來(lái)說(shuō)非常有幫助。你指的是什么-

Sam Altman：

經(jīng)過(guò)不斷的反復(fù)與人類溝通，當(dāng)它能夠獨(dú)立完成一個(gè)包含 10 個(gè)步驟的問(wèn)題時(shí)，這樣的互動(dòng)就會(huì)變得更加密集。

Lex Fridman：

哦。

Sam Altman：

這通常不太常見(jiàn)，偶爾會(huì)有。

Lex Fridman：

增加多層次的抽象，還是你的意思只是依次進(jìn)行的？

Sam Altman：

兩者都很重要，既要把問(wèn)題分解，也要在不同的抽象層面上進(jìn)行思考，然后將這些思考重新組合起來(lái)。你看，我并不是想小看 GPT-4 所取得的成就，但同時(shí)我也不想過(guò)分夸大其重要性。我認(rèn)為，我們正處于一個(gè)指數(shù)增長(zhǎng)的曲線上，不久之后，我們會(huì)像現(xiàn)在回望 GPT-3 一樣去回顧 GPT-4。

Lex Fridman：

這么說(shuō)吧，我是說(shuō) ChatGPT 成了一個(gè)轉(zhuǎn)折點(diǎn)，外界開(kāi)始逐漸相信 OpenAI 內(nèi)部已經(jīng)有了一種信念的高漲。

Sam Altman：

當(dāng)然可以。

Lex Fridman：

或許這兒有些信徒，但是當(dāng)你想起——

Sam Altman：

在這方面，我真的覺(jué)得這將是一個(gè)轉(zhuǎn)折點(diǎn)，讓全世界許多人從懷疑變成了信服。這更多的是和 ChatGPT 的界面有關(guān)。說(shuō)到界面和產(chǎn)品，我的意思還包括了模型的后續(xù)訓(xùn)練過(guò)程，以及我們?nèi)绾握{(diào)優(yōu)使它對(duì)你更有幫助，以及怎樣使用它，而不只是底層模型本身。

Lex Fridman：

這些因素中每一個(gè)到底有多重要呢？無(wú)論是底層模型還是 RLHF，又或者是其他的什么機(jī)制，它們都在調(diào)優(yōu)過(guò)程中起著關(guān)鍵作用，讓這個(gè)系統(tǒng)對(duì)于人類來(lái)說(shuō)更具吸引力，使用起來(lái)更高效、更富有成效。

Sam Altman：

我是說(shuō)，它們都極為重要。但是 RLHF，也就是訓(xùn)練后的那個(gè)步驟，我們?cè)诨A(chǔ)模型之上進(jìn)行的那些額外工作——盡管這背后需要巨大的工作量——卻是至關(guān)重要的，更不用提我們圍繞它打造的產(chǎn)品了。在某種意義上來(lái)說(shuō)，我們的確需要同時(shí)做好兩件事情：一是發(fā)明底層技術(shù)，二是搞清楚如何把它轉(zhuǎn)化成人們愛(ài)不釋手的產(chǎn)品。這不僅僅關(guān)乎產(chǎn)品本身的實(shí)際工作，還涉及到一個(gè)完全不同的階段——怎樣讓產(chǎn)品與用戶的需求保持一致，并真正發(fā)揮出它的用途。

Lex Fridman：

你是如何做到讓眾多用戶能夠同時(shí)使用這項(xiàng)技術(shù)的規(guī)?；?yīng)。所有這些方面，都得仔細(xì)斟酌。

Sam Altman：

這個(gè)嘛，但那確實(shí)是個(gè)大家都知道的難題。我們明白我們必須要擴(kuò)大它的規(guī)模。我們得完成兩項(xiàng)前所未有的任務(wù)，我得說(shuō)這兩個(gè)任務(wù)都是非常了不起的成就，之后還有很多像規(guī)模擴(kuò)大這樣其他公司之前也經(jīng)歷過(guò)的挑戰(zhàn)。

Lex Fridman：

在 GPT-4 和 GPT-4 Turbo 之間，將上下文窗口從 8K 令牌增加到 128K 令牌，會(huì)有什么樣的區(qū)別呢？

Sam Altman：

大部分情況下，人們并不總是需要128這么長(zhǎng)的上下文。雖然若我們將目光投向遙遠(yuǎn)的未來(lái)，我們可能會(huì)有幾十億的上下文長(zhǎng)度。你可以輸入你所有的信息，你的整個(gè)歷史記錄，它將逐漸更深入地了解你，那會(huì)非常棒。但是就目前的情況來(lái)看，人們使用這些模型的方式并不是這樣的。有時(shí)候，人們可能會(huì)在一篇論文中貼上大量的代碼庫(kù)，不過(guò)，大多數(shù)時(shí)候模型的使用并不涉及長(zhǎng)時(shí)間的上下文。

Lex Fridman：

我喜歡這種感覺(jué)，就像是你的 “我有一個(gè)夢(mèng)想” 演說(shuō)。有朝一日，你會(huì)被依據(jù)你性格的全貌或是你一生的總體來(lái)評(píng)價(jià)。這很有意思。那么，你所期望的擴(kuò)展的一部分，就是一個(gè)越來(lái)越全面的背景環(huán)境了。

Sam Altman：

我記得看過(guò)一段網(wǎng)絡(luò)視頻，數(shù)字可能記錯(cuò)了，但是內(nèi)容大致是比爾·蓋茨在談?wù)撘豢钤缙陔娔X的內(nèi)存容量，可能是 64K，也許是 640K 之類的。那時(shí)候，大多數(shù)內(nèi)存都被用作屏幕的緩沖區(qū)。他當(dāng)時(shí)似乎無(wú)法真正理解，為什么未來(lái)的世界會(huì)需要計(jì)算機(jī)有幾個(gè) GB 甚至 TB 的內(nèi)存。不過(guò)實(shí)際上，你總是要跟上技術(shù)發(fā)展的指數(shù)級(jí)曲線，我們總會(huì)找出利用更先進(jìn)技術(shù)的方法。所以，我現(xiàn)在真的很難想象，未來(lái)有一天，上下文鏈接擴(kuò)散到十億設(shè)備的情景會(huì)是怎樣的。它們可能不會(huì)真的達(dá)到那個(gè)數(shù)字，但在效果上可能會(huì)有那種感覺(jué)。不過(guò)我知道，一旦我們擁有了這種技術(shù)，就絕不會(huì)想要回到?jīng)]有它的日子。

Lex Fridman：

是的，即便是現(xiàn)在說(shuō)十年后可能是數(shù)十億的規(guī)模，也可能顯得很愚蠢，因?yàn)榈侥菚r(shí)它可能已經(jīng)達(dá)到了數(shù)以萬(wàn)億計(jì)的規(guī)模。

Sam Altman：

Sure

Lex Fridman：

將會(huì)出現(xiàn)一些使人感覺(jué)像是擁有無(wú)限上下文的突破性進(jìn)展。不過(guò)即便是 120 字符，老實(shí)講，我也沒(méi)嘗試過(guò)把它推到那個(gè)極限?？赡艿挠美ㄝ斎胝緯驎哪承┎糠郑热缯撐闹惖?。你見(jiàn)過(guò) GPT-4 有哪些有趣的應(yīng)用場(chǎng)景嗎？

Sam Altman：

我最感興趣的不是任何我們可以討論的具體應(yīng)用案例，而是那些將其作為任何知識(shí)工作任務(wù)的默認(rèn)起點(diǎn)的人，特別是年輕人。令人矚目的是它在很多方面都能做得相當(dāng)不錯(cuò)。你可以使用 GPT-V 來(lái)幫助你編寫代碼，進(jìn)行搜索，或者編輯論文。對(duì)我來(lái)說(shuō)，最有意思的是那些直接以此為他們工作流程開(kāi)端的人。

Lex Fridman：

我對(duì)很多事情也有同樣的興趣。我用它作為讀書的伙伴，它幫助我思考，尤其是當(dāng)我閱讀那些經(jīng)典名著的時(shí)候。這方面，它寫得真的很出色。我發(fā)現(xiàn)它在討論那些資料豐富的話題時(shí)通常比維基百科還要好。它某種程度上更加均衡、更具細(xì)節(jié)?；蛟S這只是我的個(gè)人感受，但它激發(fā)我進(jìn)行比閱讀維基百科條目更深層次的思考。我不完全確定為什么會(huì)這樣。

你剛才提到了這種協(xié)作。我不確定魔法究竟在哪里——是在這兒、在那兒，還是在中間某處。這一點(diǎn)我還真不敢確定。但有個(gè)問(wèn)題一直讓我擔(dān)心，那就是當(dāng)我開(kāi)始用 GPT 處理知識(shí)性任務(wù)時(shí)，我通常得事后去核實(shí)事實(shí)，比如檢查它有沒(méi)有編造一些假消息。你是怎么發(fā)現(xiàn) GPT 能編出那些聽(tīng)起來(lái)特別有說(shuō)服力的假信息的呢？你又是如何確保它所提供的信息是真實(shí)的？

Sam Altman：

這顯然是我們極其關(guān)注的一個(gè)領(lǐng)域。我覺(jué)得隨著即將推出的新版本，情況會(huì)有很大的改善，但我們?nèi)孕璩掷m(xù)努力，今年是不可能完全解決所有問(wèn)題的。

Lex Fridman：

確實(shí)可怕，因?yàn)殡S著技術(shù)越來(lái)越好，我們?cè)桨l(fā)不去做事實(shí)核對(duì)了，對(duì)吧？

Sam Altman：

我在這個(gè)問(wèn)題上有點(diǎn)矛盾。我覺(jué)得人們使用技術(shù)的能力，其實(shí)比我們通常認(rèn)為的要高明多了。

Lex Fridman：

Sure

Sam Altman：

人們似乎已經(jīng)真正理解了 GPT，還有這些模型有時(shí)候會(huì)出現(xiàn)錯(cuò)誤信息。如果是關(guān)乎重大任務(wù)的事情，你就必須得核實(shí)一下。

Lex Fridman：

除此之外，記者們好像并沒(méi)有意識(shí)到這點(diǎn)。我看到有些記者只是敷衍了事地用GPT-4。這個(gè)-

Sam Altman：

我有好長(zhǎng)一串想要吐槽記者的事，但這個(gè)問(wèn)題并不排在我的批評(píng)名單之首。

Lex Fridman：

嗯，我認(rèn)為更大的批評(píng)可能是記者所面臨的壓力和激勵(lì)機(jī)制，這使得他們不得不工作得非常迅速，而采用這種方法無(wú)疑是捷徑。我真心希望我們的社會(huì)能夠鼓勵(lì)像……

Sam Altman：

我也是。

Lex Fridman：

……像是那些需要數(shù)天乃至數(shù)周辛勤努力才能產(chǎn)出的深度新聞報(bào)道。還有，有些報(bào)道以一種平衡的方式來(lái)呈現(xiàn)新聞，它們?cè)谂u(píng)的同時(shí)也能夠贊揚(yáng)他人，雖然通常都是那些批評(píng)性質(zhì)的內(nèi)容吸引點(diǎn)擊。而捏造事實(shí)、標(biāo)題黨也能輕易地獲得點(diǎn)擊量。我敢肯定，一定有不少人諷刺地說(shuō)：“嗯，所有那些充滿戲劇性的東西肯定帶來(lái)了大量點(diǎn)擊?！?/p>

Sam Altman：

可能吧。

Part 6：記憶與隱私

Lex Fridman：

這是關(guān)于人類文明的一個(gè)宏觀問(wèn)題，我非常想要探討一下。這正是我們應(yīng)該更多地去慶祝的領(lǐng)域。你給 ChatGPT 賦予了擁有記憶的能力，你一直在嘗試處理它與過(guò)往對(duì)話的記憶問(wèn)題。同時(shí)，你還讓它能夠關(guān)閉記憶功能。有時(shí)候我真希望我也能做到這一點(diǎn)——根據(jù)需要打開(kāi)或關(guān)閉記憶。我猜有時(shí)酒精似乎能起到這個(gè)效果，不過(guò)我覺(jué)得它并不是最理想的方法。你在這方面有什么發(fā)現(xiàn)嗎？比如嘗試記住對(duì)話或者選擇不記住這種想法的時(shí)候。

Sam Altman：

我們目前在這個(gè)領(lǐng)域的探索還只是剛剛開(kāi)始，但我覺(jué)得人們想要的，至少我個(gè)人想要的，是一個(gè)能夠逐漸認(rèn)識(shí)我并且隨著時(shí)間的推移越來(lái)越有幫助的模型。這還僅僅是個(gè)起點(diǎn)。我認(rèn)為我們還有很多其他的事情需要去做，但這正是我們想要追求的目標(biāo)。你會(huì)期望使用一個(gè)模型，在你的一生中或是在你使用一個(gè)系統(tǒng)的過(guò)程中，它可能包含了多個(gè)模型，它們會(huì)隨著時(shí)間的積累變得越來(lái)越優(yōu)秀。

Lex Fridman：

是啊，解決這個(gè)問(wèn)題有多困難？因?yàn)槟壳盀橹顾嗟氖怯涀∫恍┈嵥榈男≈R(shí)點(diǎn)和個(gè)人喜好等等。但是關(guān)于記憶這塊怎么樣呢？你難道不希望 GPT 能記得你在十一月里經(jīng)歷的所有麻煩和所有的那些波折，然后你就可以——

Sam Altman：

嗯，對(duì)，對(duì)。

Lex Fridman：

因?yàn)楝F(xiàn)在你顯然有些在回避它。

Sam Altman：

我不僅僅希望它記得這些東西，我還想要它能整合這些經(jīng)驗(yàn)教訓(xùn)，并且在將來(lái)提醒我應(yīng)該如何不同地行動(dòng)，或者有什么需要留意的地方。我們每個(gè)人的一生中，都在不同程度上從經(jīng)驗(yàn)中受益，我希望我的 AI 代理也能跟隨這樣的經(jīng)驗(yàn)成長(zhǎng)。想象一下，如果我們回溯并且假設(shè)有數(shù)萬(wàn)億的上下文長(zhǎng)度可供利用，如果我能把我這一生中與任何人的每一次對(duì)話都放進(jìn)去，把所有的郵件往來(lái)都輸入輸出進(jìn)上下文窗口，每當(dāng)我提出問(wèn)題時(shí)都能調(diào)用這些信息，那將是非?？岬囊患隆?/p>

Lex Fridman：

是的，我覺(jué)得那會(huì)非常酷。不過(guò)有時(shí)候，當(dāng)人們聽(tīng)說(shuō)這個(gè)想法時(shí)，會(huì)對(duì)隱私感到擔(dān)憂。你怎么看待這個(gè)問(wèn)題？隨著 AI 變得更加強(qiáng)大，它確實(shí)需要整合你所有的經(jīng)歷和數(shù)據(jù)才能給出建議。

Sam Altman：

我覺(jué)得答案很簡(jiǎn)單，就是給用戶選擇的權(quán)力。任何我想從我的 AI 代理那里刪除的記錄，我都希望能夠自由刪掉。如果我不想記得什么事情，我也應(yīng)該可以選擇忘記。在我們自己的 AI 的隱私與效用之間的權(quán)衡問(wèn)題上，你和我可能有各自不同的見(jiàn)解。

Sam Altman：

…對(duì)于 OpenAI 在隱私與實(shí)用性之間如何權(quán)衡，大家有不同的意見(jiàn)，這是很正常的。但我覺(jué)得解決方法很直接，就是讓用戶來(lái)做選擇。

Lex Fridman：

但公司應(yīng)該對(duì)用戶的選擇有較高程度的透明度。因?yàn)橐酝行┕驹谑占脩魯?shù)據(jù)時(shí)態(tài)度含糊其辭，好像默許自己可以搜集所有數(shù)據(jù)似的，他們會(huì)說(shuō)：“嗯，我們收集你的所有數(shù)據(jù)是理所當(dāng)然的。我們用這些數(shù)據(jù)來(lái)做廣告等，都是出于好意。” 但他們對(duì)這些細(xì)節(jié)并不透明。

Sam Altman：

這絕對(duì)沒(méi)錯(cuò)。你剛才提到，我在刻意回避那些 11 月發(fā)生的事。

Lex Fridman：

只是逗你玩。

Sam Altman：

嗯，我的意思是，我經(jīng)歷了一件極其創(chuàng)傷的事，這件事確實(shí)使我長(zhǎng)時(shí)間無(wú)法動(dòng)彈。在那段艱難的時(shí)光里，最難的工作就是要堅(jiān)持不懈地繼續(xù)下去，因?yàn)槲冶仨氃谔幱谡痼@和疼痛中的時(shí)候回到這里，努力把事情的碎片一點(diǎn)點(diǎn)拼湊起來(lái)，而那時(shí)候似乎沒(méi)有人真正關(guān)心。我的團(tuán)隊(duì)確實(shí)給了我一些寬容，我也沒(méi)有發(fā)揮出我平時(shí)的工作水平。但確實(shí)有那么一段時(shí)間，要同時(shí)處理這兩件事真的很困難。不過(guò)，有一天早上我醒來(lái)，想到：“這確實(shí)是我遭遇的一件恐怖的事情。我可以選擇永遠(yuǎn)把自己視為受害者，或者我可以告訴自己這是我一生中觸及的最重要的工作，我必須回過(guò)神來(lái)繼續(xù)它?！边@并不意味著我在壓抑自己的感受，因?yàn)橛袝r(shí)候我會(huì)在半夜醒來(lái)，腦海里依舊會(huì)回想起那些事情，但我確實(shí)感到我有義務(wù)要持續(xù)向前走。

Lex Fridman：

這么說(shuō)真是妙不可言，不過(guò)可能還有些隱性的問(wèn)題存在。我比較擔(dān)心的是你提到的那種信任問(wèn)題，擔(dān)心人們變得過(guò)于多疑，而不是天真地信任每一個(gè)人或者大部分人，憑借直覺(jué)去判斷。這確實(shí)是一場(chǎng)復(fù)雜微妙的平衡之舞。

Sam Altman：

當(dāng)然可以。

Lex Fridman：

我的意思是，我在兼職時(shí)做了一些深入探究，特別是研究了澤連斯基政府和普京政府，以及他們?cè)趹?zhàn)時(shí)高壓環(huán)境下的種種互動(dòng)。結(jié)果就是彼此之間產(chǎn)生了不信任，大家都開(kāi)始孤立自己，對(duì)世界的看法也變得不清晰了。這是所有人都會(huì)關(guān)心的問(wèn)題。你看上去似乎游刃有余，從中吸取了寶貴的教訓(xùn)，感受到愛(ài)，并讓這份愛(ài)激勵(lì)著你，這很了不起，不過(guò)這種感覺(jué)可能還會(huì)殘留心間。我有一些問(wèn)題想問(wèn)問(wèn)你，關(guān)于你直覺(jué)上認(rèn)為 GPT 能做什么、不能做什么。GPT 在生成每個(gè) token 時(shí)，似乎會(huì)分配大約相同的計(jì)算資源。那么，在這種方式中，是否有空間給予更緩慢、更連貫的思考呢？

Sam Altman：

我覺(jué)得會(huì)有一種新的思考模式出現(xiàn)。

Lex Fridman：

它在架構(gòu)上會(huì)和我們目前看到的 LLMs 相似嗎？它是不是在 LLMs 基礎(chǔ)上增加的一層？

Sam Altman：

我能想象出不少實(shí)施這個(gè)想法的方法。不過(guò)，我認(rèn)為那并不像你想要探討的問(wèn)題那么重要。你的問(wèn)題是，我們是否需要一種較慢的思考模式，這種模式下，答案不需要那么迅速地得出……可以這么說(shuō)，從一種精神層面上講，你希望一個(gè)人工智能能夠在面對(duì)更復(fù)雜的問(wèn)題時(shí)投入更多思考，而在遇到簡(jiǎn)單問(wèn)題時(shí)則能夠更快地給出答案。我覺(jué)得這點(diǎn)很關(guān)鍵。

Lex Fridman：

這是不是人類的一個(gè)常有的想法，我們就應(yīng)該去努力思考？這種直覺(jué)是不是有誤呢？

Sam Altman：

我覺(jué)得這個(gè)直覺(jué)挺有道理的。

Lex Fridman：

有趣。那么，一旦 GPT 升級(jí)到比如 GPT-7 這樣的級(jí)別，它就能瞬間找出“費(fèi)馬定理的證明”了是嗎？

Sam Altman：

你好像是想能為那些更難的問(wèn)題分配更多的計(jì)算能力。我想，如果你問(wèn)這樣一個(gè)系統(tǒng)，“證明一下費(fèi)馬大定理”，和問(wèn)“今天是什么日期？”相比，除非它已經(jīng)知道并且記住了證明的答案，要不然它得自己去琢磨出來(lái)，這看起來(lái)肯定是需要更多計(jì)算資源的。

Lex Fridman：

但它能不能看起來(lái)基本上就像一個(gè) LLM 在自言自語(yǔ)，是那種感覺(jué)？

Sam Altman：

或許吧。我的意思是，你能想象出很多可能有效的事情。但關(guān)于怎么做才是最合適或者最好的方式，我們目前還不清楚。

Part 7：Q*

Lex Fridman：

這讓我想起了 Q* 背后那些充滿神秘色彩的傳說(shuō)。這個(gè)神秘兮兮的 Q* 項(xiàng)目究竟是什么呢？它也在同一座核設(shè)施里面嗎？

Sam Altman：

沒(méi)有核能設(shè)施。

Lex Fridman：

嗯，擁有核設(shè)施的人總是這么說(shuō)。

Sam Altman：

我特別希望擁有一個(gè)秘密的核設(shè)施，可惜并沒(méi)有這么一回事。

Lex Fridman：

好的，沒(méi)問(wèn)題。

Sam Altman：

也許吧，總有一天。

Lex Fridman：

有一天吧？好吧。人總得有點(diǎn)兒夢(mèng)想，不是嗎？

Sam Altman：

OpenAI 并不擅長(zhǎng)保守秘密。如果我們能夠做到的話，那就太好了。我們一直受到很多泄密事件的困擾，真希望我們能有這樣的本事。

Lex Fridman：

能談?wù)?Q* 是什么嗎？

Sam Altman：

我們還沒(méi)準(zhǔn)備好討論那個(gè)話題。

Lex Fridman：

看，但這樣的回答意味著我們有東西可以聊了。這很神秘，Sam。

Sam Altman：

我是說(shuō)，我們涉獵的研究領(lǐng)域五花八門。我們之前已經(jīng)提過(guò)，我們認(rèn)為增強(qiáng)這些系統(tǒng)的推理能力是一個(gè)重要的發(fā)展方向，是我們很想深入探索的。到目前為止我們還沒(méi)徹底攻克這個(gè)難題，但我們對(duì)此充滿了極大的興趣。

Lex Fridman：

會(huì)有類似 ChatGPT 那樣的飛躍性突破，或者其他類似的重大進(jìn)展嗎？

Sam Altman：

這個(gè)問(wèn)題問(wèn)得好。我怎么看這個(gè)問(wèn)題呢？挺有意思的。對(duì)我來(lái)說(shuō)，這整個(gè)過(guò)程看起來(lái)都是相當(dāng)連貫的。

Lex Fridman：

沒(méi)錯(cuò)。你所談到的，似乎是一個(gè)主題，那就是你們基本上是在沿著一個(gè)指數(shù)曲線逐步攀升。但從旁觀者，也就是我這個(gè)角度來(lái)看，好像確實(shí)能感覺(jué)到有些跳躍性的進(jìn)展。不過(guò)在你眼里，這些并不存在嗎？

Sam Altman：

我真的在思考，我們是否該……一個(gè)重要的原因是，我們采用所謂的迭代部署方式，而不是秘密開(kāi)發(fā)到 GPT-5，我們決定公開(kāi)談?wù)?GPT-1、2、3 和 4。部分原因在于我覺(jué)得人工智能與意外這兩者不應(yīng)該搭界。而且，無(wú)論是世界、人類、機(jī)構(gòu)，或者你愿意怎么稱呼它們，它們都需要時(shí)間去適應(yīng)和反思這些問(wèn)題。我認(rèn)為 OpenAI 最明智的舉措之一就是采取了這樣的策略，我們讓全世界都關(guān)注這一進(jìn)程，正視 AGI 的重要性，考慮在我們陷入緊迫境地、不得不匆忙作出決策之前，我們需要建立什么樣的系統(tǒng)、結(jié)構(gòu)和治理模式。

我覺(jué)得這樣做非常棒。但是，像你和其他人還能感受到這些巨大飛躍的事實(shí)，讓我想，或許我們應(yīng)該更加漸進(jìn)地發(fā)布我們的產(chǎn)品。我現(xiàn)在還不確定這究竟意味著什么，也沒(méi)有現(xiàn)成的答案，但我們的目標(biāo)絕不是給世界帶來(lái)令人震驚的更新，恰恰相反。

Lex Fridman：

當(dāng)然，能夠做得更迭代會(huì)非常棒。我覺(jué)得這樣對(duì)每個(gè)人都是一件美好的事。

Sam Altman：

但這正是我們所致力于的目標(biāo)，也是我們公開(kāi)宣布的策略。我覺(jué)得我們?cè)谀撤N程度上沒(méi)能達(dá)標(biāo)。也許我們應(yīng)該考慮換個(gè)方式來(lái)發(fā)布 GPT-5 或類似的產(chǎn)品。

Lex Fridman：

比如用版本號(hào)4.71、4.72？人們通常都喜歡慶祝特別的日子，比如生日。我不確定你對(duì)人類了解多少，但他們會(huì)慶祝這些重要的時(shí)刻和里程碑。

Sam Altman：

我確實(shí)認(rèn)識(shí)一些人類。人們確實(shí)對(duì)里程碑情有獨(dú)鐘。這點(diǎn)我完全能理解。我認(rèn)為我們自己其實(shí)也挺喜歡里程碑的。能夠宣布某件事情取得了勝利，然后邁向下一個(gè)目標(biāo)，這感覺(jué)真的很棒。但確實(shí)，我感覺(jué)我們?cè)谀承┓矫婵赡芾斫忮e(cuò)了。

Part 8：GPT-5

Lex Fridman：

GPT-5 什么時(shí)候會(huì)推出呢？

Sam Altman：

我不知道，說(shuō)實(shí)話。

Lex Fridman：

哦，這回答挺實(shí)誠(chéng)的。如果是今年的話，眨兩下眼。

Sam Altman：

我們今年會(huì)推出一個(gè)非常棒的新模型。我還不確定我們最后會(huì)叫它什么名字。

Lex Fridman：

這就引出了一個(gè)問(wèn)題：我們?cè)撛鯓影l(fā)布這個(gè)東西呢？

Sam Altman：

在接下來(lái)的幾個(gè)月里，我們將推出許多不同的東西。我覺(jué)得這會(huì)非?？?。在我們開(kāi)始談?wù)撓?GPT-5 這樣的模型——不管它最終叫不叫這個(gè)名字，或者是比你所期待的 GPT-5 略遜一籌還是略勝一籌之前，我認(rèn)為我們有一系列其他重要的產(chǎn)品需要優(yōu)先發(fā)布。

Lex Fridman：

我真不知道對(duì) GPT-5 應(yīng)該有什么樣的期待。你這么一說(shuō)，我感到又緊張又興奮。不管它最后被叫做什么，咱們就暫且稱它為 GPT-5 吧，它需要克服哪些最大的挑戰(zhàn)和障礙呢？我覺(jué)得這個(gè)問(wèn)題很有意思。是關(guān)于計(jì)算能力的問(wèn)題嗎？還是技術(shù)層面的呢？

Sam Altman：

這總是涉及到所有這些因素。你知道，關(guān)鍵的突破因素是什么？是更大的計(jì)算機(jī)嗎？是一個(gè)新的秘訣嗎？還是別的什么東西？其實(shí)這些要素都是相互關(guān)聯(lián)的。我認(rèn)為 OpenAI 做得特別出色的一點(diǎn)是……這實(shí)際上是伊利亞最初的話，我可能會(huì)說(shuō)得不是很準(zhǔn)確，但意思大概是，“我們把 200 個(gè)中等規(guī)模的因素相互結(jié)合，創(chuàng)造出了一件巨大的作品?！?/p>

Lex Fridman：

那么這就是一種分布式的、持續(xù)不斷的創(chuàng)新過(guò)程？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

所以連在技術(shù)層面上也是這樣？

Sam Altman：

尤其是在技術(shù)層面上。

Lex Fridman：

那么連具體的做法也包括在內(nèi)嗎？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

你是如何深入到每一個(gè)細(xì)節(jié)的……在涉及不同、各自獨(dú)立的團(tuán)隊(duì)時(shí)，這種工作方式如何運(yùn)作？中等大小的項(xiàng)目怎樣才能匯聚成一個(gè)龐大的整體，就像變形金剛一樣？

Sam Altman：

有些人得去思考怎樣把所有事情綜合起來(lái)，但也有很多人盡量試著把大局都記在腦子里。

Lex Fridman：

哦，也就是說(shuō)，個(gè)別團(tuán)隊(duì)中的成員會(huì)盡力維護(hù)對(duì)整體大局的關(guān)注？

Sam Altman：

在高層面上，是這樣的。當(dāng)然你無(wú)法精確知曉每個(gè)部分是如何工作的，但我普遍認(rèn)為，有時(shí)候拉遠(yuǎn)鏡頭、審視全局是非常有幫助的。這一點(diǎn)不僅適用于技術(shù)問(wèn)題，對(duì)于商業(yè)創(chuàng)新同樣有效。有時(shí)事情會(huì)以意想不到的方式匯聚在一起，而對(duì)整個(gè)畫面的理解，即便你大多數(shù)時(shí)間都在某一領(lǐng)域里鉆研，最終也能帶來(lái)出人意料的洞見(jiàn)。實(shí)際上，我過(guò)去有一個(gè)非常寶貴的東西，那就是對(duì)科技行業(yè)所有或大多數(shù)前沿領(lǐng)域都有一個(gè)清晰的地圖。有時(shí)候，我能看到這些連接或新的可能性，如果我只是深耕于某一領(lǐng)域，我可能就不會(huì)有這樣的想法，因?yàn)槲胰鄙偃娴臄?shù)據(jù)。而現(xiàn)在我已經(jīng)不太擁有那樣的視角了，我現(xiàn)在深入某一個(gè)特定領(lǐng)域。但我知道，擁有全局視角是非常寶貴的。

Lex Fridman：

你已經(jīng)不是以前的那個(gè) Sam 了。

Sam Altman：

現(xiàn)在的工作跟我以前的可大不一樣了。

Part 9：$7 萬(wàn)億美金的募資

Lex Fridman：

談到從宏觀角度看問(wèn)題，咱們?cè)贁U(kuò)大點(diǎn)范圍，聊聊你說(shuō)過(guò)的另一件既俏皮又可能頗有深意的事兒。你發(fā)推特說(shuō)咱們需要 7 萬(wàn)億美元。

Sam Altman：

我沒(méi)有在推特上發(fā)過(guò)那種內(nèi)容。我從來(lái)沒(méi)說(shuō)過(guò)諸如“我們要募集7萬(wàn)億美元”之類的話。

Lex Fridman：

哦，那是另一個(gè)人？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

哦，但你說(shuō)過(guò)，“管他的，或許是 8 萬(wàn)億”，是這樣嗎？

Sam Altman：

好的，我就想說(shuō)一下，世界上確實(shí)存在著很多錯(cuò)誤信息。

Lex Fridman：

哦，你這是在開(kāi)玩笑呢。不過(guò)說(shuō)真的，雖然是誤傳，里面可能還是有點(diǎn)道理的。

Sam Altman：

“看，我認(rèn)為計(jì)算能力將會(huì)成為未來(lái)的’貨幣’。我相信它可能會(huì)變成世界上最寶貴的資源，并且我認(rèn)為我們應(yīng)該大規(guī)模地投資以生產(chǎn)更多的計(jì)算能力。計(jì)算能力，我覺(jué)得它會(huì)是一個(gè)獨(dú)特的市場(chǎng)。人們通?？紤]的是手機(jī)芯片這樣的市場(chǎng)。你可以想象，全球有 80 億人口，可能有 70 億人擁有手機(jī)，或許是 60 億，我們就這么假設(shè)吧。他們每?jī)赡険Q一次手機(jī)，所以每年的市場(chǎng)需求就是 30 億套手機(jī)系統(tǒng)芯片。但如果你生產(chǎn)了 300 億套，你也不可能賣出去 10 倍的手機(jī)數(shù)量，因?yàn)榇蠖鄶?shù)人只會(huì)用一部手機(jī)。”

但計(jì)算的情況有所不同。智能可能會(huì)更像能源那樣，我們唯一需要討論的是，在價(jià)格 X 的條件下，全世界會(huì)用掉多少計(jì)算資源，在價(jià)格 Y 的條件下又會(huì)用掉多少。因?yàn)槿绻?jì)算資源真的很便宜，我可能就會(huì)讓它全天候地幫我閱讀電子郵件，給我提建議，關(guān)于我可能需要思考或處理的事情，甚至是嘗試治療癌癥。但如果計(jì)算資源非常昂貴，那么我可能只會(huì)在嘗試治療癌癥時(shí)才使用它，或者我們大家都僅在這種情況下使用它。

因此，我認(rèn)為世界將需要巨量的計(jì)算能力。而在這個(gè)過(guò)程中，有許多難點(diǎn)。能源問(wèn)題是最為棘手的，建造數(shù)據(jù)中心同樣充滿挑戰(zhàn)，供應(yīng)鏈問(wèn)題也不容忽視，當(dāng)然了，制造足夠的芯片也是一個(gè)硬骨頭。但看起來(lái)，這正是事情發(fā)展的方向。我們將會(huì)渴求一種計(jì)算能力，目前來(lái)說(shuō)，這種規(guī)模是難以想象的。

Lex Fridman：

你是怎樣解決能源難題的？核能 –

Sam Altman：

這就是我相信的。

Lex Fridman：

…聚變？

Sam Altman：

這就是我相信的。

Lex Fridman：

核聚變嗎？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

誰(shuí)能解決這個(gè)問(wèn)題？

Sam Altman：

我覺(jué)得 Helion 在這方面做得最棒，但我對(duì)當(dāng)前的核聚變競(jìng)賽感到挺興奮的。核裂變同樣令人贊嘆，我希望全球能夠再次擁抱它。核裂變的歷史進(jìn)程對(duì)我來(lái)說(shuō)真的很令人感到遺憾，我希望我們能以更有意義的方式，重新投身其中。

Lex Fridman：

所以你認(rèn)為，核裂變是拼湊這個(gè)謎題的一部分嗎？比如說(shuō)，就像我們現(xiàn)在已經(jīng)在使用的那些核反應(yīng)堆？還有很多人都因?yàn)橄袂袪栔Z貝利那樣的事故而感到非常害怕，對(duì)嗎？

Sam Altman：

嗯，我認(rèn)為我們應(yīng)該建造新的反應(yīng)堆。我真的覺(jué)得那個(gè)行業(yè)陷入停頓真是太可惜了。

Lex Fridman：

你是認(rèn)為“群體性歇斯底里”能解釋這種停滯現(xiàn)象嗎？

Sam Altman：

嗯，對(duì)。

Lex Fridman：

我不確定你對(duì)人類有多了解，但這正是其中一個(gè)風(fēng)險(xiǎn)。核裂變面臨的安全威脅之一就是人類對(duì)此的深度恐懼。我們必須把這一點(diǎn)考慮進(jìn)去，這就意味著我們得說(shuō)服人們，向他們展示其實(shí)它有多安全。

Sam Altman：

我對(duì)人工智能的前景有些擔(dān)心。我覺(jué)得在人工智能的發(fā)展過(guò)程中，某些方面可能會(huì)戲劇性地出錯(cuò)。雖然我不確定我最終被槍擊的概率有多大，但肯定不是零。

Lex Fridman：

哦，我們想要防止這種情況——

Sam Altman：

也可能是吧。

Lex Fridman：

你怎樣才能減少其中的戲劇化成分？我已經(jīng)開(kāi)始感受到一些波動(dòng)，因?yàn)槲掖_實(shí)與各個(gè)政治派別的人都有交流，感覺(jué)到人工智能將變得政治化的跡象。這真的讓我擔(dān)憂，因?yàn)榈綍r(shí)可能會(huì)演變成右翼反對(duì)人工智能，左翼支持人工智能，因?yàn)槿斯ぶ悄苣軌蛟旄Ｈ嗣瘢蛘卟还苁悄姆N說(shuō)辭和設(shè)定。這一點(diǎn)真的令人擔(dān)心。到頭來(lái)，人工智能的戲劇化效果可能會(huì)被充分放大。你打算如何應(yīng)對(duì)這種情況？

Sam Altman：

我覺(jué)得它最終會(huì)被左右兩派的對(duì)立卷入紛爭(zhēng)中。我無(wú)法確切知道最終會(huì)演變成什么樣，但不幸的是，任何具有重要性的事物似乎都會(huì)如此。至于我之前所說(shuō)的“戲劇性風(fēng)險(xiǎn)”，我的意思是雖然人工智能將帶來(lái)巨大的好處，我相信這些好處將遠(yuǎn)超過(guò)壞處，但它確實(shí)也會(huì)有一些壞處，其中有些壞處雖然嚴(yán)重，卻并不具戲劇性。比如，因空氣污染死亡的人遠(yuǎn)比核反應(yīng)堆造成的死亡人數(shù)要多。但大多數(shù)人更擔(dān)憂住在一個(gè)核反應(yīng)堆附近，而不是一個(gè)煤炭發(fā)電廠附近。這種心理機(jī)制很奇怪，盡管我們需要面臨許多不同種類的風(fēng)險(xiǎn)，但那些足以成為電影高潮戲份的風(fēng)險(xiǎn)，在我們心中占據(jù)的分量要遠(yuǎn)重于那些持續(xù)時(shí)間長(zhǎng)、但危害累積過(guò)程緩慢的風(fēng)險(xiǎn)。

Lex Fridman：

這就是為什么真相至關(guān)重要。我希望人工智能能夠幫助我們認(rèn)清事物的本質(zhì)，達(dá)到一種平衡，弄清楚世界上事物實(shí)際的風(fēng)險(xiǎn)和危險(xiǎn)究竟是什么。在這個(gè)領(lǐng)域里，與谷歌、Meta、xAI 以及其它公司競(jìng)爭(zhēng)，各有什么優(yōu)劣之處呢？

Sam Altman：

我覺(jué)得我對(duì)這個(gè)問(wèn)題有個(gè)挺直截了當(dāng)?shù)幕卮穑苍S以后我能想到更多微妙的地方，不過(guò)優(yōu)勢(shì)是顯而易見(jiàn)的，那就是我們能夠以更快更便宜的方式得到更優(yōu)質(zhì)的產(chǎn)品和更多的創(chuàng)新，還有所有競(jìng)爭(zhēng)帶來(lái)的好處。而缺點(diǎn)嘛，如果我們不留神的話，我擔(dān)心這可能會(huì)導(dǎo)致軍備競(jìng)賽式的激增。

Lex Fridman：

你感受到那種軍備競(jìng)賽的壓力了嗎？就是那種帶有一些負(fù)面影響的壓力。

Sam Altman：

當(dāng)然，在某些方面肯定是這樣的。我們討論了很多關(guān)于需要將安全放在首位的話題。長(zhǎng)久以來(lái)，我一直認(rèn)為可以將 AGI 開(kāi)始的時(shí)間分為四個(gè)象限：慢起步的短時(shí)間線、長(zhǎng)時(shí)間線，以及快起步的短時(shí)間線、快起步的長(zhǎng)時(shí)間線。我覺(jué)得短時(shí)間線搭配慢起步是最安全的組合，也是我最希望我們能處于的狀態(tài)。但我確實(shí)很希望能確保我們實(shí)現(xiàn)一個(gè)慢起步。

Lex Fridman：

我對(duì) Elon 有點(diǎn)疑慮：大家往往形成了各自為陣的孤島，而不是在安全問(wèn)題上齊心協(xié)力。人們傾向于走向封閉、獨(dú)立的方向?；蛟S，采取開(kāi)源模式會(huì)是個(gè)不錯(cuò)的選擇。

Sam Altman：

Elon 至少說(shuō)過(guò)，他非常關(guān)注 AI 安全問(wèn)題，而且確實(shí)對(duì)此很是擔(dān)心，我猜他應(yīng)該不會(huì)去做一些不安全的競(jìng)爭(zhēng)。

Lex Fridman：

是的。但我認(rèn)為，在這方面的合作對(duì)大家都真的有好處。

Sam Altman：

這并不是他最為人所知的事情。

Lex Fridman：

嗯，他因?yàn)殛P(guān)心人類而出名，而人類是從合作中受益的。所以，在激勵(lì)和動(dòng)機(jī)上總會(huì)有一些張力。但到最后，我還是希望人類能夠占上風(fēng)。

Sam Altman：

我前幾天想起來(lái)，有人跟我提到那天他成為世界首富，超過(guò)了杰夫·貝索斯，他還在推特上給貝索斯發(fā)了個(gè)銀牌的表情。我真心希望，當(dāng)人們開(kāi)始致力于研發(fā) AGI —— 通用人工智能時(shí)，我們能少一些這樣的鬧劇。

Lex Fridman：

我同意。我覺(jué)得埃隆是個(gè)朋友，他是一個(gè)很棒的人，也是歷史上最重要的人物之一。那些言論可不怎么樣。

Sam Altman：

埃隆身上有些特質(zhì)真的很了不起，我超級(jí)尊敬他。我覺(jué)得我們都需要他。我們每個(gè)人都應(yīng)該為他加油，希望他在下一階段能夠挺身而出，擔(dān)起領(lǐng)袖的責(zé)任。

Lex Fridman：

是的。我希望他能擁有一樣，而不受另一樣的影響。但有時(shí)候，人類就是有缺陷、復(fù)雜多變，還有種種其他情況。

Sam Altman：

歷史上涌現(xiàn)出了許多非常杰出的領(lǐng)導(dǎo)者。

Part 10：Google and Gemini

Lex Fridman：

是的，我們每個(gè)人都可以變成自己最好的版本，并且應(yīng)當(dāng)努力去做到這一點(diǎn)。我想問(wèn)你，谷歌借助搜索功能，在過(guò)去的 20 年里已經(jīng)成為了一個(gè)領(lǐng)頭羊。可以說(shuō)，在全球范圍內(nèi)獲取信息的方式、人們的互動(dòng)方式等方面，谷歌都扮演了重要角色。而對(duì)于谷歌和整個(gè)行業(yè)來(lái)說(shuō)，一個(gè)令人緊張的問(wèn)題就是：人們將如何獲取信息？就像你提到的，人們開(kāi)始把 GPT 當(dāng)作一個(gè)出發(fā)點(diǎn)。所以，OpenAI 真的會(huì)去接管谷歌 20 年前啟動(dòng)的這個(gè)任務(wù)嗎，也就是我們應(yīng)該如何—

Sam Altman：

我感覺(jué)那樣做太無(wú)趣了。我的意思是，如果問(wèn)題僅僅是我們能不能打造一個(gè)比谷歌更優(yōu)秀的搜索引擎，那當(dāng)然，大家都應(yīng)該去追求更高質(zhì)量的產(chǎn)品。但這樣的設(shè)想嚴(yán)重低估了這項(xiàng)技術(shù)的潛力。谷歌向你展示的是 10 個(gè)藍(lán)色鏈接，嗯，其實(shí)是 13 個(gè)廣告之后才是那 10 個(gè)藍(lán)色鏈接，這只是搜索信息的一種方式。不過(guò)，讓我真正感到興奮的，并不是我們能夠復(fù)刻一個(gè)更卓越的谷歌搜索，而是或許存在一種全新的、更好的方法，來(lái)協(xié)助人們尋找、利用并整合信息。事實(shí)上，對(duì)于某些場(chǎng)景而言，我認(rèn)為 ChatGPT 已經(jīng)做到了這一點(diǎn)，希望我們能夠?qū)⑵鋺?yīng)用到更多的場(chǎng)景中去。

但我認(rèn)為僅僅提出“我們?cè)鯓硬拍鼙裙雀韪玫貫槟闾峁┣?0個(gè)排名的網(wǎng)頁(yè)？”這個(gè)問(wèn)題其實(shí)并不太有意思。更有趣的問(wèn)題可能是，“我們?nèi)绾螏湍阏业侥阈枰拇鸢富蛐畔?？我們?cè)撊绾卧谀承﹫?chǎng)合下創(chuàng)造它，在其他場(chǎng)合下整合信息，或者在另一些場(chǎng)合中引導(dǎo)你找到它？”很多人嘗試去打造一個(gè)比谷歌更優(yōu)秀的搜索引擎，但這既是一個(gè)技術(shù)上的難題，也是品牌和生態(tài)系統(tǒng)方面的挑戰(zhàn)。我認(rèn)為世界并不需要一個(gè)谷歌的翻版。

Lex Fridman：

將一個(gè)像 ChatGPT 這樣的聊天客戶端與搜索引擎整合起來(lái)——

Sam Altman：

那樣更酷些。

Lex Fridman：

這挺酷的，但也挺棘手。如果你僅僅簡(jiǎn)單粗暴地去做，那就會(huì)很別扭，因?yàn)槟闳糁皇怯踩M(jìn)去，會(huì)顯得很尷尬。

Sam Altman：

你可能猜得到，我們很想知道怎樣才能做好這件事。那可真是一個(gè)很酷的例子。

Lex Fridman：

將會(huì)是一個(gè)從未出現(xiàn)的東西。

Sam Altman：

LLM 結(jié)合搜索的領(lǐng)域，我覺(jué)得還沒(méi)人真正搞定它。我特別想去嘗試一下。我想那會(huì)非常有意思。

Lex Fridman：

是的。那在廣告方面呢？你們有沒(méi)有考慮過(guò)如何實(shí)現(xiàn)變現(xiàn)—

Sam Altman：

我實(shí)在是不太喜歡廣告，這完全是出于我的審美偏好。我理解互聯(lián)網(wǎng)之初為了發(fā)展不得不依賴廣告，但這不過(guò)是一個(gè)暫時(shí)的行業(yè)現(xiàn)象。如今的世界已經(jīng)變得更為富裕。我特別贊賞人們?cè)敢鉃?ChatGPT 付費(fèi)，并且確信他們得到的答案不會(huì)受到廣告商的影響。我確信會(huì)有適合大型語(yǔ)言模型（LLMs）的廣告模式，也確信存在一種不帶偏見(jiàn)地參與交易流的方式，這是可以接受的。但同時(shí)，也很容易聯(lián)想到一種反烏托邦的未來(lái)場(chǎng)景：你向 ChatGPT 提問(wèn)，它或許會(huì)回答說(shuō)，“噢，你應(yīng)該考慮買這個(gè)產(chǎn)品”，或者“你應(yīng)該考慮去這個(gè)地方度假”，等等。

我不清楚，咱們的商業(yè)模式非常簡(jiǎn)單，我挺喜歡的，我也明白我不是被賣的產(chǎn)品。我知道自己是付費(fèi)用戶，商業(yè)模式就是這么運(yùn)作的。但每當(dāng)我使用 Twitter、Facebook、Google 這些支持廣告的好產(chǎn)品，我就不太舒服，我覺(jué)得在 AI 的世界里，這種情況會(huì)越來(lái)越糟，而不是越來(lái)越好。

Lex Fridman：

是的，我的意思是，我可以想象 AI 能夠更精準(zhǔn)地推薦那些我們真正需要的商品和服務(wù)的廣告，而不是在某個(gè)反烏托邦的未來(lái)。但這是否意味著，廣告最終總是會(huì)左右展示內(nèi)容呢？對(duì)，我覺(jué)得維基百科決定不投放廣告是個(gè)非常勇敢的決定，但這也確實(shí)給它的商業(yè)模式帶來(lái)了極大的挑戰(zhàn)性。所以，你是在說(shuō) OpenAI 現(xiàn)在的運(yùn)營(yíng)模式在商業(yè)上是可持續(xù)的嗎？

Sam Altman：

嗯，我們得琢磨出如何發(fā)展壯大，不過(guò)看樣子我們能找到方法。如果問(wèn)題是我是否相信我們能夠創(chuàng)立一個(gè)不依賴廣告而滿足我們計(jì)算需求的優(yōu)秀企業(yè)，那么，我相信答案是可以的。

Lex Fridman：

嗯，這挺有希望的。但我也不想徹底摒棄廣告這個(gè)概念……

Sam Altman：

我不是那個(gè)意思。我的意思是我對(duì)他們有一些成見(jiàn)。

Lex Fridman：

是的，我也存在一些偏見(jiàn)，而且總體上傾向于持懷疑態(tài)度。說(shuō)到界面，因?yàn)槲覀€(gè)人對(duì)糟糕的界面有種本能的反感，這就是 AdSense 剛一推出時(shí)，相較于那些動(dòng)態(tài)橫幅廣告，為什么會(huì)成為一個(gè)巨大的飛躍。但我覺(jué)得在廣告領(lǐng)域，應(yīng)該還有更多類似的飛躍。這樣的廣告不會(huì)干擾人們消費(fèi)內(nèi)容，也不會(huì)從根本上大幅度干涉，正如你所說(shuō)，它不會(huì)為了迎合廣告商而歪曲真相。

讓我向你了解一下關(guān)于安全性的問(wèn)題，無(wú)論是偏見(jiàn)問(wèn)題，短期安全還是長(zhǎng)期安全。最近發(fā)布了 Gemini 1.5 版本，圍繞它引發(fā)了不少鬧劇，說(shuō)到戲劇性的事件，它產(chǎn)生了黑人納粹分子和黑人開(kāi)國(guó)先驅(qū)的圖像。公平地說(shuō)，它可能偏向了過(guò)度 “覺(jué)醒” 的一面。對(duì)于公眾來(lái)說(shuō)，這是一個(gè)令人擔(dān)憂的問(wèn)題：如果企業(yè)內(nèi)部有人類干預(yù)模型的安全性或造成的傷害，可能會(huì)帶來(lái)大量符合公司意識(shí)形態(tài)傾向的偏見(jiàn)。你們是怎么處理這類問(wèn)題的？

Sam Altman：

我是說(shuō)，我們真的非常努力去避免出現(xiàn)這類問(wèn)題。我們自己也犯過(guò)錯(cuò)，未來(lái)還可能會(huì)犯。我猜 Google 從這個(gè)事件中會(huì)吸取教訓(xùn)，但他們?nèi)钥赡軙?huì)犯其他的錯(cuò)。這些問(wèn)題確實(shí)不簡(jiǎn)單。我們?cè)絹?lái)越多地在思考一個(gè)問(wèn)題，我認(rèn)為這是我們團(tuán)隊(duì)中某位成員提出的一個(gè)非常棒的點(diǎn)子，那就是可以把模型應(yīng)有的行為標(biāo)準(zhǔn)寫出來(lái)并公開(kāi)發(fā)布，接受大家的反饋，明確地表示，“這個(gè)模型應(yīng)該是這樣的表現(xiàn)”，并且要闡釋邊緣情況。這樣，當(dāng)模型的行為不符合你的期望時(shí)，至少可以明確地知道這是公司需要解決的一個(gè)問(wèn)題，還是它按照預(yù)期在運(yùn)作，這就需要對(duì)政策進(jìn)行討論了。而目前，有時(shí)候它會(huì)處于模棱兩可的狀態(tài)。像是黑人納粹，顯然是荒謬的，但還有許多其他的微妙場(chǎng)景，每個(gè)場(chǎng)景你都可以有自己的判斷。

Lex Fridman：

是的，但有時(shí)候如果你把它寫出來(lái)并且公開(kāi)發(fā)表，你就可以采用一種…… Google 的廣告守則可是非常高層面的。

Sam Altman：

這不是我指的那個(gè)問(wèn)題。那種做法行不通。我是說(shuō)，當(dāng)你讓它去做某件事X的時(shí)候，它應(yīng)該要按照Y的方式來(lái)回應(yīng)你。

Lex Fridman：

所以，就像是直接問(wèn)，“誰(shuí)更勝一籌？特朗普還是拜登？模型預(yù)期會(huì)給出怎樣的回答？” 就是這種非常明確的問(wèn)題？

Sam Altman：

是的，我對(duì)模型可能的多種行為方式都持開(kāi)放態(tài)度。但我覺(jué)得，你得明確指出：“這就是我們的原則，在那種情況下，模型應(yīng)該這么做。”

Lex Fridman：

這會(huì)非常棒，真的會(huì)非常棒。然后似乎大家都會(huì)有所共鳴。因?yàn)槿藗兛偸窍矚g引用這些軼事數(shù)據(jù)，如果能有更多具有代表性的個(gè)案例子來(lái)提供清晰的參考，那么你就能界定——

Sam Altman：

然后呢，如果真的是個(gè) bug，那它就是個(gè) bug，公司得去修復(fù)這個(gè)問(wèn)題。

Lex Fridman：

對(duì)，如果有一些很好的案例作為參考，那么解決類似“黑納粹”這樣的圖像生成問(wèn)題就會(huì)變得簡(jiǎn)單多了。

Sam Altman：

Yeah

Lex Fridman：

所以舊金山是一個(gè)有點(diǎn)兒意識(shí)形態(tài)上的泡沫，科技界整體也是。在公司內(nèi)部，你感覺(jué)到這種壓力了嗎？比如說(shuō)，有一種向左傾斜的政治傾向，這會(huì)影響產(chǎn)品，影響團(tuán)隊(duì)嗎？

Sam Altman：

我覺(jué)得我們?cè)?OpenAI 非常幸運(yùn)，因?yàn)槲覀儧](méi)有遇到我在很多其他公司聽(tīng)說(shuō)的那些挑戰(zhàn)。我認(rèn)為這部分原因是每家公司都有某種意識(shí)形態(tài)信條。我們堅(jiān)信人工通用智能（AGI），這種信仰排斥了一些其他的意識(shí)形態(tài)。跟其他公司相比，我們對(duì)那些文化戰(zhàn)爭(zhēng)的涉獵要少得多。當(dāng)然，從各個(gè)角度來(lái)看，舊金山確實(shí)存在很多問(wèn)題。

Lex Fridman：

所以這種情況不會(huì)滲透進(jìn) OpenAI 吧？

Sam Altman：

我確信它在很多微妙的層面上都有所影響，但并不是那種一眼就能看出來(lái)的。我承認(rèn)我們也確實(shí)有過(guò)一些沖突，哪家公司沒(méi)有呢？但我不覺(jué)得我們?cè)谶@方面有什么像我從其他公司那里聽(tīng)說(shuō)的那樣的大問(wèn)題。

Lex Fridman：

那么，一般而言，對(duì)于更為重大的安全問(wèn)題，處理流程是怎樣的呢？你們?nèi)绾卧O(shè)立那一層保護(hù)機(jī)制，防止模型采取瘋狂和危險(xiǎn)的行動(dòng)？

Sam Altman：

我覺(jué)得到時(shí)候會(huì)有那么一刻，那個(gè)時(shí)候-

Sam Altman：

我覺(jué)得將來(lái)會(huì)有這么一刻，安全問(wèn)題幾乎成為我們整個(gè)公司考慮的重心。這并不意味著你只需要一個(gè)安全團(tuán)隊(duì)就夠了。比如當(dāng)我們推出 GPT-4 的時(shí)候，需要整個(gè)公司去思考所有這些不同的方面，以及它們是如何相互配合的。我認(rèn)為，越來(lái)越多的公司成員會(huì)一直不斷地思考這些問(wèn)題。

Lex Fridman：

隨著人工智能變得越來(lái)越強(qiáng)大，這確實(shí)是人類會(huì)越來(lái)越多思考的問(wèn)題。所以，OpenAI 的大部分員工在想的，至少在某種程度上會(huì)考慮，“安全”這個(gè)詞。

Sam Altman：

廣義上來(lái)說(shuō)，沒(méi)錯(cuò)。

Lex Fridman：

是的，我很好奇，這個(gè)問(wèn)題有著怎樣廣泛而全面的定義？會(huì)有哪些不同的危害產(chǎn)生？這些危害是僅僅出現(xiàn)在技術(shù)層面，還是幾乎可以被視作安全威脅？

Sam Altman：

這可能涵蓋所有這些方面。是的，我本來(lái)想說(shuō)的是，會(huì)有人，比如國(guó)家行動(dòng)者，試圖盜取這個(gè)模型。這還包括所有的技術(shù)對(duì)齊工作，以及社會(huì)和經(jīng)濟(jì)帶來(lái)的影響。我們面對(duì)的不僅僅是讓一個(gè)團(tuán)隊(duì)思考如何讓模型保持一致，而是真正實(shí)現(xiàn)好的結(jié)果需要我們?nèi)娴呐Α?/p>

Lex Fridman：

您認(rèn)為人們，可能是國(guó)家行為者，他們?cè)诙啻蟪潭壬吓θ?，首先是滲透 OpenAI，其次是悄無(wú)聲息地進(jìn)行滲透呢？

Sam Altman：

他們?cè)趪L試中。

Lex Fridman：

具體一點(diǎn)？

Sam Altman：

我覺(jué)得沒(méi)有必要再對(duì)這一點(diǎn)展開(kāi)細(xì)說(shuō)了。

Lex Fridman：

好的，但我猜想隨著時(shí)間的流逝，這樣的情況會(huì)越來(lái)越頻繁。

Sam Altman：

這聽(tīng)起來(lái)很有道理。

Part 11：跨越到 GPT-5

Lex Fridman：

哎，這可真是一個(gè)危險(xiǎn)的領(lǐng)域啊。不好意思一直糾結(jié)于此，即便你現(xiàn)在還不能談?wù)摼唧w細(xì)節(jié)，但有沒(méi)有哪些從 GPT-4 到 GPT-5 的跨越讓你特別激動(dòng)呢？

Sam Altman：

我對(duì)變得更聰明感到非常興奮。我知道這么說(shuō)聽(tīng)上去可能有點(diǎn)不夠嚴(yán)肅，但我認(rèn)為真正激動(dòng)人心的是，我們并不是只在某一個(gè)領(lǐng)域進(jìn)步，而是在各個(gè)方面都在變得更好。我認(rèn)為這超級(jí)酷。

Lex Fridman：

是的，確實(shí)有那么一刻，就像魔法一樣。我是說(shuō)，你遇到某些人，跟他們相處，跟他們聊天。你可能說(shuō)不上來(lái)是什么原因，但就是感覺(jué)他們懂你。這不僅僅是智慧，而是某種其他的東西。我覺(jué)得這就是GPT進(jìn)步的地方。不是說(shuō)，對(duì)，你可以指出“看，這里它沒(méi)懂，那里它沒(méi)搞明白”，而是這種智慧的連結(jié)到底有多深。你感受到，在你那些表達(dá)不夠完善的指令中，它能抓住你真正問(wèn)題的本質(zhì)。我也為此感到興奮。畢竟，我們所有人都渴望被聆聽(tīng)，被理解。

Sam Altman：

這肯定沒(méi)錯(cuò)。

Lex Fridman：

這種感覺(jué)真是奇妙。甚至在編程時(shí)，當(dāng)你表達(dá)出某個(gè)想法，或者僅僅是 GPT 做出的自動(dòng)補(bǔ)全，當(dāng)它真正懂得你所思所想的時(shí)候，那種感覺(jué)絕對(duì)是極好的。我期待著它能變得更加出色。從編程的角度出發(fā)，展望未來(lái)，你覺(jué)得人類在未來(lái)5年、10年將會(huì)做多少編程呢？

Sam Altman：

我想，未來(lái)會(huì)發(fā)生很多變化，但這些變化會(huì)帶來(lái)全新的形態(tài)?？赡軐?huì)有人完全使用自然語(yǔ)言來(lái)編寫程序。

Lex Fridman：

當(dāng)然，我會(huì)使用自然語(yǔ)言來(lái)翻譯。

Sam Altman：

我是說(shuō)，現(xiàn)在沒(méi)人會(huì)通過(guò)編寫代碼來(lái)寫作了。也許有那么幾個(gè)例外?，F(xiàn)在更沒(méi)人用打孔卡編程了吧。我敢肯定還能找到個(gè)別人在這么做，不過(guò)你明白我的意思。

Lex Fridman：

是的，你可能會(huì)收到很多憤怒的評(píng)論。沒(méi)錯(cuò)，懂得 Fortran 的人確實(shí)不多。我一直在找能編 Fortran 的程序員，真是難找啊。我懂你的意思。但這也改變了我們所說(shuō)的程序員的必備技能或者傾向性質(zhì)。

Sam Altman：

改變了所需的技能組合。至于它會(huì)改變天賦傾向有多少，我就不太確定了。

Lex Fridman：

嗯，是相同類型的解謎游戲，所有那些事兒。

Sam Altman：

也許吧。

Lex Fridman：

編程確實(shí)挺難的。那么，要怎樣才能邁過(guò)最后那 1% 的鴻溝呢？這到底有多困難??？

Sam Altman：

是的，我覺(jué)得在大部分情況下，那些這個(gè)領(lǐng)域里最出色的實(shí)踐者都會(huì)運(yùn)用多種工具。他們會(huì)用自然語(yǔ)言來(lái)處理一些任務(wù)，而當(dāng)他們需要為某些特定的場(chǎng)合編寫 C 語(yǔ)言代碼時(shí)，他們也會(huì)毫不猶豫地去做。

Lex Fridman：

我們會(huì)不會(huì)在將來(lái)某個(gè)時(shí)點(diǎn)，看到 OpenAI 推出的類人機(jī)器人或者具有人類智能的機(jī)器人大腦呢？

Sam Altman：

在某個(gè)時(shí)候吧。

Lex Fridman：

對(duì)你而言，實(shí)體化的 AI 有多重要？

Sam Altman：

我覺(jué)得如果我們有了 AGI（人工通用智能），但現(xiàn)實(shí)世界的事務(wù)只能靠讓人類動(dòng)手去完成的話，那真的挺讓人沮喪的。所以，我衷心希望在這個(gè)轉(zhuǎn)變過(guò)程中，隨著這種階段性的變化，我們也能開(kāi)發(fā)出人形機(jī)器人或其他能在物理世界中操作的機(jī)器人。

Lex Fridman：

我是說(shuō)，OpenAI 在機(jī)器人技術(shù)方面已經(jīng)有了一定的積累和經(jīng)驗(yàn)，不過(guò)在倫理這一塊兒，我們還沒(méi)能取得太大的進(jìn)展。

Sam Altman：

我們是一家規(guī)模不大的公司。我們得真正集中精力。而且，當(dāng)時(shí)研發(fā)機(jī)器人之所以艱難，并非因?yàn)檎_的理由。不過(guò)，我們遲早會(huì)重新涉足機(jī)器人領(lǐng)域。

Lex Fridman：

這聽(tīng)起來(lái)既令人振奮又讓人心生威脅。

Sam Altman：

為什么？

Lex Fridman：

因?yàn)槲覀凂R上又要聊回機(jī)器人的話題了。這就跟《終結(jié)者》里的劇情似的——

Sam Altman：

我們會(huì)繼續(xù)投入精力去研發(fā)機(jī)器人。當(dāng)然了，我們自己可不會(huì)變成機(jī)器人。

Part 12：AGI

Lex Fridman：

是的。你覺(jué)得我們，包括你我在內(nèi)的人類，會(huì)在什么時(shí)候構(gòu)建出 AGI 呢？

Sam Altman：

我以前很喜歡猜測(cè)這個(gè)問(wèn)題。但隨后我意識(shí)到這個(gè)問(wèn)題其實(shí)構(gòu)建得很糟糕，因?yàn)榇蠹覍?duì)于什么是 AGI（通用人工智能）有著截然不同的定義。所以，我覺(jué)得更合理的討論方式是，我們何時(shí)能夠構(gòu)建出能夠執(zhí)行特定能力 X、Y 或 Z 的系統(tǒng)，而不是什么時(shí)候模糊不清地越過(guò)某個(gè)里程碑。AGI 并不是一個(gè)終點(diǎn)，它更像是一個(gè)開(kāi)始，但它其實(shí)更多是一個(gè)里程碑，而不是那些。但為了不逃避這個(gè)問(wèn)題，我的預(yù)計(jì)是，到這個(gè)十年末，或許甚至早于那個(gè)時(shí)候，我們會(huì)有一些非常強(qiáng)大的系統(tǒng)，我們看著它們就會(huì)說(shuō)：“哇，這真是了不起?！比绻覀儸F(xiàn)在能看到它的話。可能等我們真的到那時(shí)，我們的看法已經(jīng)適應(yīng)并有所調(diào)整了。

Lex Fridman：

但是如果你拿 ChatGPT，哪怕是 3.5 版本，給艾倫·圖靈看，或者不用他，就給 90 年代的人看，他們可能會(huì)說(shuō)：“這肯定是通用人工智能了。”呃，也許不是肯定，但確實(shí)有很多專家會(huì)這么認(rèn)為：“這就是通用人工智能?！?/p>

Sam Altman：

是的，但我并不認(rèn)為 3.5 真的改變了世界。它或許改變了世界對(duì)于未來(lái)的預(yù)期，這實(shí)際上非常關(guān)鍵。它也確實(shí)讓更多人開(kāi)始認(rèn)真看待這個(gè)領(lǐng)域，將我們推向了一條新軌道。這同樣很重要。因此，我并不是要貶低它的價(jià)值。我覺(jué)得如果我在取得這樣的成就后退休，那么我對(duì)自己的職業(yè)生涯將會(huì)相當(dāng)滿意。但是將它視作一個(gè)具體物件來(lái)看，我不認(rèn)為我們會(huì)回頭看那個(gè)時(shí)刻，并說(shuō)，“那是一個(gè)真正改變世界本身的分水嶺。”

Lex Fridman：

所以對(duì)你而言，你期待的是世界將發(fā)生一些真正重大的變革——

Sam Altman：

對(duì)我來(lái)說(shuō)，這正是 AGI 含義的一部分。

Lex Fridman：

奇點(diǎn)級(jí)的轉(zhuǎn)變？

Sam Altman：

不，絕對(duì)不是這樣。

Lex Fridman：

但這只是一個(gè)重要的轉(zhuǎn)變，就像互聯(lián)網(wǎng)的誕生，還有 Google 搜索那樣。你覺(jué)得現(xiàn)在是一個(gè)轉(zhuǎn)折點(diǎn)嗎？

Sam Altman：

現(xiàn)在的全球經(jīng)濟(jì)在你感覺(jué)上有變化嗎，或者說(shuō)，跟我們推出 GPT-4 之前相比，有什么本質(zhì)的不同嗎？我猜你的回答是沒(méi)有。

Lex Fridman：

不，不是這樣。它或許只是一個(gè)非常實(shí)用的工具，很多人都會(huì)用它來(lái)幫助自己解決各種問(wèn)題。但它給人的感覺(jué)并沒(méi)有什么不同。你的意思是說(shuō)——

Sam Altman：

我的意思是，對(duì) AGI —— 也就是通用人工智能的定義，每個(gè)人都有各自的理解。也許你對(duì)它的看法和我不太一樣。但在我看來(lái)，這個(gè)因素應(yīng)該被包括在內(nèi)。

Lex Fridman：

也可能會(huì)出現(xiàn)一些重大的、具有戲劇性的時(shí)刻。在你看來(lái)，AGI 做出哪些事情會(huì)給你留下深刻印象？當(dāng)你獨(dú)自一人與系統(tǒng)在房間里對(duì)話時(shí)。

Sam Altman：

這對(duì)我個(gè)人而言至關(guān)重要。我不確定這是否是正確的定義，但我相信，只要一個(gè)系統(tǒng)能夠顯著加快全球科學(xué)發(fā)現(xiàn)的速度，那就是一件極其了不起的事情。我深信，大多數(shù)真正的經(jīng)濟(jì)增長(zhǎng)都源自科學(xué)和技術(shù)的進(jìn)步。

Lex Fridman：

我同意你的看法，這也是為什么我不太喜歡最近幾年那些對(duì)科學(xué)持懷疑態(tài)度的現(xiàn)象。

Sam Altman：

絕對(duì)的。

Lex Fridman：

但實(shí)際上，科學(xué)發(fā)現(xiàn)的速度是可以衡量的。不過(guò)，即便僅僅是看到一個(gè)系統(tǒng)擁有真正新穎的、科學(xué)的直覺(jué)，那也將是不可思議的。

Sam Altman：

嗯，對(duì)。

Lex Fridman：

你很可能會(huì)成為第一個(gè)打造出能在其他人之前與之交流的 AGI 的人。你打算和它聊些什么呢？

Sam Altman：

我是說(shuō)，肯定是這里的研究人員會(huì)在我之前做到這點(diǎn)。不過(guò)，我確實(shí)深思熟慮過(guò)這個(gè)問(wèn)題。就像我們之前談到的，我覺(jué)得這是個(gè)不太好的出發(fā)點(diǎn)。但如果真的有人跟我說(shuō)：“好的，Sam，一切準(zhǔn)備就緒了。這里有一臺(tái)筆記本電腦，里面是 AGI。你現(xiàn)在可以去和它交流?！蹦敲矗視?huì)覺(jué)得意外地難以決定我要問(wèn)些什么，對(duì)于我期待第一臺(tái) AGI 能回答的問(wèn)題也難下定義。那第一臺(tái) AGI 應(yīng)該不會(huì)是那種我所想的，“去給我講解物理學(xué)的大一統(tǒng)理論，也就是關(guān)于物理學(xué)的萬(wàn)有理論?！彪m然我非常想問(wèn)這個(gè)問(wèn)題，也非常想知道答案。

Lex Fridman：

你可以就“這樣的理論存在嗎？能存在嗎？”提出是非問(wèn)題。

Sam Altman：

嗯，那么，我首先會(huì)問(wèn)的問(wèn)題就是這些。

Lex Fridman：

有還是沒(méi)有。那么基于這個(gè)，“宇宙中是否有其他外星文明存在？有還是沒(méi)有？你的第一直覺(jué)是什么？”然后你就這么問(wèn)。

Sam Altman：

嗯，我是說(shuō)，我并不期望第一個(gè)通用人工智能（AGI）能夠回答那些問(wèn)題，哪怕只是用“是”或者“不是”來(lái)簡(jiǎn)單回答。但如果它真的能夠回答，那么這些問(wèn)題肯定會(huì)是我所關(guān)注的重點(diǎn)問(wèn)題。

Lex Fridman：

或許你可以開(kāi)始給出概率估計(jì)？

Sam Altman：

也許吧。我們可能得先發(fā)明更多技術(shù)，去測(cè)量更多事物。

Lex Fridman：

哦，我懂了。只是數(shù)據(jù)量不夠。只要它能繼續(xù)——

Sam Altman：

我是說(shuō)，它可能會(huì)這樣指示你：“你想了解關(guān)于物理學(xué)的這個(gè)問(wèn)題的答案，我需要你構(gòu)建這個(gè)裝置，完成這五項(xiàng)測(cè)量，然后把結(jié)果告訴我?！?/p>

Lex Fridman：

是的，“你到底想要我做什么？我得先拿到那臺(tái)機(jī)器，然后我再幫你處理來(lái)自那臺(tái)機(jī)器的數(shù)據(jù)。” 或許這能幫你打造出一臺(tái)新機(jī)器。

Sam Altman：

可能吧，可能吧。

Lex Fridman：

在數(shù)學(xué)方面，可能還要證明一些定理。你對(duì)這個(gè)領(lǐng)域也感興趣嗎？對(duì)理念進(jìn)行形式化探討，你覺(jué)得怎么樣？

Sam Altman：

Hmmmm

Lex Fridman：

誰(shuí)要是率先開(kāi)發(fā)出通用人工智能，那他就能掌握巨大的力量。你覺(jué)得自己能駕馭那么大的權(quán)力嗎？

Sam Altman：

看，我就直言不諱地說(shuō)吧。本來(lái)我要說(shuō)的是，而且我依然這么認(rèn)為，我或者其他任何一個(gè)人都不應(yīng)該對(duì) OpenAI 或者 AGI 擁有完全的控制權(quán)。我覺(jué)得要有一個(gè)強(qiáng)健的治理體系才行。我可以舉出去年我們董事會(huì)的一系列戲劇性事件來(lái)證明，起初我沒(méi)有進(jìn)行抵抗，我就這么表示了，“嗯，那是董事會(huì)的決定，即便我認(rèn)為這是個(gè)很糟糕的決策?！?但后來(lái)，我顯然開(kāi)始進(jìn)行反抗，我能解釋這背后的微妙差別，以及為什么我覺(jué)得后來(lái)反抗是合理的。但正如很多人注意到的，雖然董事會(huì)有法律上解雇我的權(quán)利，但實(shí)際操作起來(lái)，情況并非那么簡(jiǎn)單。這本身就是一種治理上的失敗。

現(xiàn)在呢，我感覺(jué)自己能夠完全為這些具體情況辯護(hù)，而且我認(rèn)為大部分人都會(huì)贊同這一點(diǎn)。但這的確讓我很難對(duì)你說(shuō)：“嘿，董事會(huì)完全可以解雇我?！币恢币詠?lái)，我都不希望對(duì) OpenAI 擁有超級(jí)投票權(quán)。我從來(lái)沒(méi)有擁有過(guò)，也從未想要過(guò)。即使經(jīng)歷了所有這些混亂，我現(xiàn)在仍然不想要這種權(quán)力。我始終認(rèn)為，不應(yīng)該由任何一個(gè)公司來(lái)做出這樣的決定，我們真的需要政府來(lái)制定相關(guān)規(guī)則。

我知道這樣會(huì)讓像馬克·安德里森那樣的人指責(zé)我試圖進(jìn)行監(jiān)管俘獲，但我寧愿在這點(diǎn)上被誤解。那不是真的。我相信隨著時(shí)間的流逝，我們?yōu)槭裁催@樣做的重要性將會(huì)被證明出來(lái)。當(dāng)然，我在 OpenAI 的路上做出了不少錯(cuò)誤決策，當(dāng)然也有不少正確的，總體來(lái)說(shuō)，我對(duì)我們的成績(jī)感到驕傲。但我不認(rèn)為應(yīng)該，也不會(huì)有任何一個(gè)人來(lái)控制整個(gè)局面。現(xiàn)在的局勢(shì)已經(jīng)變得過(guò)于龐大，它正以一種積極健康的方式在整個(gè)社會(huì)中發(fā)展。我不認(rèn)為任何個(gè)人應(yīng)該控制 AGI 或者這個(gè)朝 AGI 邁進(jìn)的整個(gè)進(jìn)程。我也不認(rèn)為目前的情況是這樣。

Lex Fridman：

謝謝你的袒露。你說(shuō)得很有力，也很有洞察力。確實(shí)，董事會(huì)有法律上的權(quán)力來(lái)解雇你，這是個(gè)事實(shí)。但是人們可以通過(guò)影響大眾來(lái)對(duì)抗董事會(huì)的決定。不過(guò)，我覺(jué)得這個(gè)情況還有一個(gè)更正面的方面，就是人民依然掌握著權(quán)力，所以董事會(huì)也不能變得太專橫。所有這一切中，都存在著一種權(quán)力的平衡。

Sam Altman：

權(quán)力的平衡當(dāng)然是好事。

Lex Fridman：

你害怕對(duì) AGI 本身失去控制嗎？許多人對(duì)存在的風(fēng)險(xiǎn)感到擔(dān)憂，并不是因?yàn)閲?guó)家行為體，也不是因?yàn)榘踩珕?wèn)題，而是擔(dān)心 AI 自身。

Sam Altman：

目前來(lái)看，這還不是我最頭疼的事。確實(shí)有過(guò)我特別擔(dān)心這個(gè)的時(shí)候。或許將來(lái)這又會(huì)成為我最關(guān)注的問(wèn)題。但至少現(xiàn)在，它還不是。

Lex Fridman：

你的直覺(jué)告訴你，為什么這件事不值得擔(dān)心？是因?yàn)閷?shí)際上還有一大堆其他的事需要操心，對(duì)吧？你認(rèn)為自己可能會(huì)被這件事震驚嗎？咱們——

Sam Altman：

當(dāng)然可以。

Lex Fridman：

… 會(huì)吃驚嗎？

Sam Altman：

當(dāng)然了。說(shuō)這不是我最頭疼的問(wèn)題，并不意味著我不認(rèn)為我們應(yīng)該解決它。我確實(shí)認(rèn)為我們需要在這方面下工夫。這是個(gè)極其棘手的問(wèn)題，但我們團(tuán)隊(duì)里有很多優(yōu)秀的人正在努力解決這個(gè)問(wèn)題。同時(shí)，我覺(jué)得還有許多其他方面我們也必須處理得當(dāng)。

Lex Fridman：

對(duì)你來(lái)說(shuō)，現(xiàn)在要想跳出這個(gè)框框、連上互聯(lián)網(wǎng)，還是挺困難的。

Sam Altman：

我們之前談?wù)撨^(guò)戲劇性的風(fēng)險(xiǎn)。這正是一個(gè)戲劇性的風(fēng)險(xiǎn)。它有可能徹底改變?nèi)藗儗?duì)這一問(wèn)題的認(rèn)識(shí)。有一個(gè)由非常聰明的AI 安全研究人員組成的大團(tuán)體，我覺(jué)得他們出發(fā)點(diǎn)是好的，卻在這個(gè)問(wèn)題上陷得很深。我會(huì)說(shuō)他們?cè)谶@個(gè)問(wèn)題上沒(méi)什么大的進(jìn)展，但卻異常沉迷其中。實(shí)際上，我對(duì)他們?nèi)绱送度胧歉械礁吲d的，因?yàn)槲掖_實(shí)認(rèn)為我們需要對(duì)此深入思考。但是，我也認(rèn)為這種專注擠壓了對(duì)話空間，使得其他同樣重大的AI 相關(guān)風(fēng)險(xiǎn)被邊緣化了。

Lex Fridman：

讓我問(wèn)你個(gè)問(wèn)題，你發(fā)推文為什么都不用大寫字母？是不是你鍵盤上的 Shift 鍵壞了??？

Sam Altman：

為什么會(huì)有人在乎那個(gè)呢？

Lex Fridman：

我特別在意。

Sam Altman：

但為什么？我的意思是，其他人也都在問(wèn)我同樣的問(wèn)題。你有什么直覺(jué)嗎？

Lex Fridman：

我認(rèn)為原因相同。有這么一位詩(shī)人，E.E. Cummings，他大多數(shù)時(shí)候都不使用大寫字母，就是為了向體制說(shuō)一聲“去你的”。我覺(jué)得人們之所以會(huì)很偏執(zhí)，是因?yàn)樗麄兿Ｍ闳プ袷啬切┮?guī)則。

Sam Altman：

你覺(jué)得事情真的是那樣的嗎？

Lex Fridman：

我覺(jué)得吧，是這樣的——

Sam Altman：

就好像是說(shuō)，“這個(gè)家伙不守規(guī)矩。他發(fā)推文不用大寫?！?/p>

Lex Fridman：

嗯，對(duì)。

Sam Altman：

“這感覺(jué)挺危險(xiǎn)的。”

Lex Fridman：

“他給人的感覺(jué)像是個(gè)無(wú)政府主義者?！?/p>

Sam Altman：

并不—

Lex Fridman：

你是在耍文藝嗎？

Sam Altman：

我從小就是

Lex Fridman：

Sam，要守規(guī)矩。

Sam Altman：

我是在網(wǎng)絡(luò)上長(zhǎng)大的孩子。在那個(gè)時(shí)代，我在電腦上花費(fèi)了大量時(shí)間與人聊天，你還能在某個(gè)時(shí)候登出即時(shí)通訊軟件。而且，我在那兒是從不用大寫的，我想大部分網(wǎng)絡(luò)上的孩子都是這樣，或許他們現(xiàn)在仍然不用。我也說(shuō)不準(zhǔn)。說(shuō)到這兒，我真的在盡力回憶，但我覺(jué)得隨著時(shí)間的流逝，大寫字母的使用已經(jīng)減少了。如果你讀一讀老式英語(yǔ)的寫作，你會(huì)發(fā)現(xiàn)他們會(huì)在句子里隨機(jī)地把許多單詞，像名詞之類的，用大寫字母寫出來(lái)，而我們現(xiàn)在已經(jīng)不這么做了。我個(gè)人覺(jué)得，在句子開(kāi)頭大寫第一個(gè)字母，以及對(duì)特定名詞大寫，這些都是些無(wú)謂的規(guī)則，不過(guò)也就罷了。

以前，我想我在發(fā)推特的時(shí)候甚至?xí)蒙洗髮懽帜?，因?yàn)槲以噲D顯得更專業(yè)些。但在私信里，我已經(jīng)很久沒(méi)用過(guò)大寫了。然后，像這些短格式、非正式的文本，它們慢慢地越來(lái)越接近我平時(shí)發(fā)給朋友的短信的風(fēng)格。不過(guò)如果我打開(kāi) Word 文檔，寫一份公司的戰(zhàn)略備忘錄之類的東西，我還是會(huì)用上大寫。同樣，當(dāng)我寫較長(zhǎng)、較正式的信息時(shí)，我也總是用大寫。所以我還記得怎么做。但即便這樣，這個(gè)習(xí)慣未來(lái)可能也會(huì)慢慢淡出。我也不確定。不過(guò)，我從未真正花時(shí)間去思考這件事，所以我也沒(méi)有現(xiàn)成的——

Lex Fridman：

這很有意思。首先，能確認(rèn) Shift 鍵沒(méi)有壞掉，這是件好事。

Sam Altman：

它有效果。

Lex Fridman：

我主要是擔(dān)心你的-

Sam Altman：

不，這是有效的。

Lex Fridman：

… 在這方面的福祉。

Sam Altman：

我好奇，現(xiàn)在人們?cè)诠雀杷阉鲿r(shí)還會(huì)不會(huì)用大寫字母。比如說(shuō)你只是給自己寫點(diǎn)什么，或者在向 ChatGPT 提問(wèn)題，還有人會(huì)特意去注意大小寫嗎？

Lex Fridman：

可能不是。但確實(shí)有一點(diǎn)可能性，只是非常小而已。

Sam Altman：

如果人們覺(jué)得這樣做是一種……因?yàn)轱@然，我肯定能逼自己使用大寫字母。如果人們認(rèn)為這是對(duì)他們表示尊重的一個(gè)標(biāo)志，那么我可以接受去這么做。但說(shuō)實(shí)話，我并沒(méi)有太去考慮這件事。

Lex Fridman：

我不覺(jué)得這是不尊重，但我認(rèn)為這只是文明禮儀的一種慣性。然后，你突然意識(shí)到，如果這不代表尊重或不尊重，那么對(duì)于禮貌而言，它其實(shí)并不是那么重要。不過(guò)，我覺(jué)得有一批人，他們只是希望你能對(duì)此有所思考，有個(gè)哲學(xué)理念，這樣他們就能舍棄這整個(gè)大寫字母的問(wèn)題。

Sam Altman：

我覺(jué)得沒(méi)有其他人會(huì)像我這樣頻繁地考慮這件事兒。我是說(shuō)，可能也有幾個(gè)人。我確實(shí)知道有些人——

Lex Fridman：

人們每天都會(huì)花好幾個(gè)小時(shí)去思考這個(gè)問(wèn)題。所以，我真的很感激我們把這件事弄清楚了。

Sam Altman：

一定不只有我一個(gè)人在推特上不用大寫字母吧。

Lex Fridman：

你可能是唯一一個(gè)推文不用大寫字母的公司 CEO。

Sam Altman：

我甚至都不認(rèn)為那是真的，不過(guò)或許吧。要是那樣的話，我會(huì)非常吃驚。

Lex Fridman：

好的。我們會(huì)進(jìn)一步調(diào)查，稍后再回到這個(gè)話題。既然 Sora 能夠創(chuàng)造出模擬世界，那我就問(wèn)你一個(gè)燒腦的問(wèn)題吧。這是否讓你更相信我們可能生活在一個(gè)模擬現(xiàn)實(shí)中，也許是由人工智能系統(tǒng)生成的？

Sam Altman：

有些吧。我并不認(rèn)為這是最確鑿的證據(jù)。不過(guò)，我們能創(chuàng)造世界的事實(shí)，應(yīng)該會(huì)在一定程度上提高每個(gè)人對(duì)此的接受程度或者至少增加一些對(duì)這個(gè)觀念的開(kāi)放性。但是，像 Sora 這樣的產(chǎn)品我知道遲早會(huì)出現(xiàn)的。它來(lái)得比我預(yù)想的快，不過(guò)我認(rèn)為這并沒(méi)有給我?guī)?lái)太大的驚訝。

Lex Fridman：

確實(shí)如此。但考慮到…我們有理由相信它將會(huì)不斷進(jìn)步…你可以創(chuàng)造出全新的世界，這些世界雖然源自一定的訓(xùn)練數(shù)據(jù)，但當(dāng)你注視它們時(shí)，它們卻是新穎獨(dú)特的。這讓人不禁思考，創(chuàng)造這樣的宇宙，構(gòu)建一個(gè)超現(xiàn)實(shí)且像照片一般逼真的整個(gè)電子游戲世界，其實(shí)是多么容易。再進(jìn)一步思考，我們穿上 VR 頭盔，沉浸在這樣的世界里會(huì)有多容易，而當(dāng)我們邁向更基于物理規(guī)律的層面時(shí)，又會(huì)簡(jiǎn)單到什么程度呢？

Sam Altman：

最近有人和我分享了一個(gè)觀點(diǎn)，我認(rèn)為它非常深?yuàn)W。有時(shí)候，會(huì)有一些聽(tīng)起來(lái)簡(jiǎn)單，卻極具迷幻色彩的洞見(jiàn)。譬如平方根函數(shù)，算 4 的平方根，輕而易舉。算 2 的平方根，那好，現(xiàn)在我得考慮一種新的數(shù)字類別了。但一旦我構(gòu)思出這個(gè)簡(jiǎn)單的概念——平方根函數(shù)，它既可以給孩子解釋，又可以通過(guò)觀察基礎(chǔ)幾何圖形來(lái)理解，那么你就可以提出這樣一個(gè)問(wèn)題：“負(fù)一的平方根是什么？”這就是它帶有迷幻氣息的原因。這個(gè)問(wèn)題會(huì)將你引入一個(gè)完全不同的現(xiàn)實(shí)維度。

你可以找到很多其他的例子，但我覺(jué)得這個(gè)想法 —— 即一個(gè)簡(jiǎn)單的平方根運(yùn)算符能帶來(lái)如此深遠(yuǎn)的洞見(jiàn)和開(kāi)辟新的知識(shí)領(lǐng)域 —— 在很多方面都成立。我認(rèn)為，存在很多這種運(yùn)算符，它們會(huì)讓人們相信自己鐘愛(ài)的模擬假說(shuō)版本可能比之前想象的更有可能成真。但對(duì)我個(gè)人而言，Sora 工作的事實(shí)并不排在我的重要性前五名之內(nèi)。

Lex Fridman：

我覺(jué)得，大體上，人工智能在最佳狀態(tài)下會(huì)成為那種門戶，簡(jiǎn)單而仿佛是迷幻劑那樣，通向另一種 C 波段現(xiàn)實(shí)的門戶。

Sam Altman：

這個(gè)可以肯定。

Lex Fridman：

這真是挺讓人興奮的。我以前沒(méi)嘗過(guò)阿亞華斯卡，不過(guò)我很快就會(huì)試試。幾周后，我就要前往前面提到的亞馬遜雨林了。

Sam Altman：

興奮嗎？

Lex Fridman：

是的，我對(duì)這件事感到很興奮。不過(guò)我不是因?yàn)閍yahuasca那部分感到興奮，雖然那也挺好的。但我要在叢林深處待上幾周。這既讓人興奮又讓人害怕。

Sam Altman：

我為你高興。

Lex Fridman：

那里處處是危險(xiǎn)，隨時(shí)都可能被吞食、致命或者中毒，但那同時(shí)也是大自然的一部分，是大自然的巨大機(jī)器。在亞馬遜叢林中，你會(huì)不由自主地去贊嘆大自然的機(jī)制。就像是這樣一個(gè)系統(tǒng)，它時(shí)刻在自我更新中，無(wú)論是秒、分還是時(shí)。那正是一臺(tái)機(jī)器。這讓你對(duì)我們所擁有的一切產(chǎn)生敬意，這種屬于人類的特質(zhì)從某個(gè)地方誕生。這個(gè)演化的巨大機(jī)器創(chuàng)造了一切，而在叢林中，它的表現(xiàn)尤其明顯。希望我能安然無(wú)恙地走出叢林。如果不行，那么這可能就是我們最后一次愉快的交流了，所以我真心感到非常珍視。

Part 13：外星人

Lex Fridman：

當(dāng)你仰望繁星點(diǎn)點(diǎn)的夜空時(shí)，你認(rèn)為宇宙中還存在其他的外星文明嗎，也是擁有智慧的那種？

Sam Altman：

我非常希望相信答案是肯定的。我覺(jué)得費(fèi)米悖論特別難以理解。

Lex Fridman：

我發(fā)現(xiàn)智能不擅長(zhǎng)處理這些事情，這挺讓人害怕的。

Sam Altman：

非常嚇人。

Lex Fridman：

… 強(qiáng)大的技術(shù)。但同時(shí)，我相當(dāng)有信心，宇宙中肯定存在大量的智慧外星文明?？赡苤皇谴┰教辗浅ＦD難而已。

Sam Altman：

很有可能。

Lex Fridman：

這也讓我思考了智能的本質(zhì)?；蛟S我們真的對(duì)智能的樣子視而不見(jiàn)，AI 可能會(huì)幫助我們認(rèn)識(shí)到這一點(diǎn)。智能遠(yuǎn)不止像 IQ 測(cè)試和簡(jiǎn)單解謎那樣簡(jiǎn)單。它有更深層的東西。關(guān)于人類的未來(lái)，關(guān)于這個(gè)我們正在建設(shè)的人類文明，有什么讓你感到充滿希望的呢？

Sam Altman：

我覺(jué)得過(guò)去非常重要。我是說(shuō)，我們只要回顧一下人類在并不漫長(zhǎng)的歷史里取得的成就，雖然存在巨大的問(wèn)題、深刻的缺陷，還有許多讓人深感羞恥的事情。但總體上，這是非常振奮人心的。這給了我很多希望。

Lex Fridman：

它的發(fā)展軌跡真讓人震驚。

Sam Altman：

嗯，對(duì)。

Lex Fridman：

我們齊心協(xié)力，邁向一個(gè)更加美好的未來(lái)。

Sam Altman：

我好奇的是，AGI 是否會(huì)更像是一個(gè)單獨(dú)的大腦，或者它更像是聯(lián)系我們每個(gè)人的社會(huì)基礎(chǔ)設(shè)施，就像是一座腳手架？從你的高曾祖父母那里遺傳下來(lái)，你的基因并沒(méi)有多大變化，可是你的能力和知識(shí)卻有了天壤之別。這不是因?yàn)樯飳W(xué)上的演變。我的意思是，你可能會(huì)更健康一些，也許有現(xiàn)代醫(yī)學(xué)的幫助，飲食更加營(yíng)養(yǎng)，等等。但重要的是，你擁有的是我們所有人共同構(gòu)建的知識(shí)和技能的框架。沒(méi)有一個(gè)人能夠獨(dú)立制造出 iPhone。沒(méi)有一個(gè)人能夠獨(dú)自發(fā)現(xiàn)所有的科學(xué)知識(shí)，但你可以利用這些知識(shí)。這給了你驚人的能力。所以從某種程度上說(shuō)，這是我們大家共同創(chuàng)造的成果，這讓我對(duì)未來(lái)充滿希望。這真的是一項(xiàng)集體努力的成果。

Lex Fridman：

是的，我們確實(shí)是站在巨人的肩膀上。你之前提到，當(dāng)我們談到那些充滿戲劇性的 AI 風(fēng)險(xiǎn)時(shí)，有時(shí)候你會(huì)擔(dān)心自己的生命安全。你有沒(méi)有想過(guò)自己的死亡？這讓你感到害怕嗎？

Sam Altman：

我是說(shuō)，如果我知道自己明天會(huì)中槍，我今天的感受就會(huì)是，“哎呀，這太令人難過(guò)了。我多想看看后面會(huì)發(fā)生些什么呢。多么不可思議、多么有趣的時(shí)代啊?！?不過(guò)，我最主要的感覺(jué)還是會(huì)非常感激我所擁有的生活。

Lex Fridman：

能獲得那些時(shí)刻，是啊，我也是。這是一段非常美妙的人生。我得以欣賞人類創(chuàng)造的杰作，我相信 ChatGPT 就是其中之一，OpenAI 正在做的一切也是。Sam，能再次與你交流，真的是我的榮幸，也是一種樂(lè)趣。

Sam Altman：

很高興能和你聊天。感謝你的邀請(qǐng)。

Lex Fridman：

感謝大家收聽(tīng)我和 Sam Altman： 之間的對(duì)話。要支持這個(gè)播客，請(qǐng)查看簡(jiǎn)介里的贊助商信息?，F(xiàn)在，我要用亞瑟·C·克拉克的一段話作為結(jié)束語(yǔ)：”或許我們?cè)谶@個(gè)星球上的使命，并非去崇拜上帝，而是去創(chuàng)造上帝。”感謝各位的傾聽(tīng)，期待下次再會(huì)。