OpenAI的首席技術(shù)官M(fèi)ira Murati在約翰·霍普金斯大學(xué)的AI對(duì)話中分享了OpenAI在內(nèi)容媒體管理、數(shù)據(jù)隱私和安全性方面的最新進(jìn)展，以及與Apple的合作計(jì)劃。Murati強(qiáng)調(diào)了技術(shù)透明性和用戶控制權(quán)的重要性，并呼吁政府和企業(yè)之間進(jìn)行更緊密的合作，以制定靈活且有效的監(jiān)管框架。

近日，OpenAI CTO Mira Murati 在約翰·霍普金斯大學(xué)展開(kāi)了一場(chǎng) AI 對(duì)話。Mira Murati?強(qiáng)調(diào)，OpenAI正在努力建立一個(gè)內(nèi)容媒體管理器，以確保數(shù)據(jù)的透明性和用戶的控制權(quán)。此外，Murati 還談到了與 Apple 的合作。在當(dāng)前技術(shù)監(jiān)管較為寬松的環(huán)境中，數(shù)據(jù)隱私和安全的重要性。她呼吁政府和企業(yè)之間進(jìn)行更緊密的合作，制定靈活且有效的監(jiān)管框架。

對(duì)于即將到來(lái)的 2024 年選舉，Murati 指出，當(dāng)前的 AI 系統(tǒng)在影響公眾輿論和傳播虛假信息方面具有極大的能力。OpenAI 正在采取措施，防止其技術(shù)被濫用，包括改進(jìn)政治信息檢測(cè)和減少政治偏見(jiàn)。

以下為這次對(duì)話的全部?jī)?nèi)容，enjoy～

主持人：

首先，我很想問(wèn)你關(guān)于 Apple 合作的事。我們今天要談?wù)撘稽c(diǎn)這個(gè)話題。這個(gè)合作是在世界開(kāi)發(fā)者大會(huì)上與 OpenAI 達(dá)成的。從今年某個(gè)時(shí)候開(kāi)始， Apple 的電腦、手機(jī)和 iPad 將內(nèi)置 GPT，這顯然是一個(gè)巨大的事件。

Apple 是第一次做這樣的事情，他們與許多人進(jìn)行了談判，可能會(huì)逐步包括其他人。我想從你的角度談?wù)勥@個(gè)合作是如何運(yùn)作的。我今天早些時(shí)候和 Tim Cook 聊了一下他的觀點(diǎn)，現(xiàn)在我想聽(tīng)聽(tīng)你的看法。

Mira Murati：

這是我們的一項(xiàng)重要里程碑。Apple 是一家標(biāo)志性的消費(fèi)產(chǎn)品公司。我們的目標(biāo)是通過(guò) AI 的偉大應(yīng)用盡可能接觸到更多的人。這是一個(gè)將創(chuàng)新帶給所有 Apple 用戶的絕佳機(jī)會(huì)，無(wú)需更換設(shè)備。我們將在接下來(lái)的幾個(gè)月里與他們密切合作，弄清楚產(chǎn)品方面的具體細(xì)節(jié)，并會(huì)有更多的分享。

主持人：

不過(guò)，如果你不介意的話，我們來(lái)說(shuō)些具體的內(nèi)容。你具體做什么？Tim 談到這個(gè)想法時(shí)提到答案和聊天，他們將有自己的答案。他們顯然需要改進(jìn) Siri ，因?yàn)樗浅Ｔ愀狻５珡哪愕慕嵌葋?lái)看，你希望在與 Apple 的合作中實(shí)現(xiàn)什么目標(biāo)？

Mira Murati：

我可以具體談?wù)劗a(chǎn)品整合的內(nèi)容。我們希望帶來(lái)的是真正開(kāi)發(fā)中的模型的能力、多模態(tài)性和互動(dòng)性，并將這些引入 Apple 設(shè)備。

我相信你最近也看到了 GPT-4o 的發(fā)布，這是我們第一次在互動(dòng)向量上看到這些模型的飛躍，而不僅僅是能力和智能。

這非常有意義，因?yàn)槠駷橹?，我們與設(shè)備的互動(dòng)主要集中在文本方面。這是一個(gè)讓信息和彼此互動(dòng)更加豐富和自然的絕佳機(jī)會(huì)，并且使互動(dòng)大大減少限制。

它打開(kāi)了很多機(jī)會(huì)，這正是我們所期待的。是的，我想我們有了很好的技術(shù)，他們希望從第一天開(kāi)始使用。

主持人：

用戶請(qǐng)求發(fā)送到 OpenAI 的報(bào)告不會(huì)被你存儲(chǔ)，用戶 IP 地址將被隱藏。這對(duì) Apple 來(lái)說(shuō)是個(gè)大事。請(qǐng)談?wù)勥@將如何運(yùn)作。你是否仍然可以使用這些請(qǐng)求的數(shù)據(jù)來(lái)訓(xùn)練你的模型？

Mira Murati：

不，即使現(xiàn)在對(duì)于我們的用戶和客戶，我們也不會(huì)在未經(jīng)特別允許的情況下使用他們的數(shù)據(jù)來(lái)訓(xùn)練我們的模型。因此，這方面的規(guī)定是明確的。

主持人：

那么，當(dāng)你與像 Apple 這樣重視聲譽(yù)的公司打交道時(shí)，他們認(rèn)為重要的一些問(wèn)題是什么？因?yàn)槠渲幸粋€(gè)問(wèn)題是關(guān)于這些信息的去向和用途的擔(dān)憂。

Mira Murati：

我認(rèn)為這是一個(gè)非常一致的合作伙伴關(guān)系。隱私和信任是關(guān)鍵，對(duì)于 OpenAI 的使命來(lái)說(shuō)，確保我們構(gòu)建和部署的技術(shù)讓人們感到信任和有參與感是非常重要的。

因此，這種合作關(guān)系是非常自然的，并且將我們引向我們希望前進(jìn)的方向。關(guān)于假信息的問(wèn)題，這顯然是非常復(fù)雜的，因?yàn)槲覀冋诮⒃跀?shù)十年的假信息之上，并且隨著 AI 的發(fā)展，這種情況變得更加嚴(yán)重。然而，互聯(lián)網(wǎng)和社交媒體也產(chǎn)生了復(fù)合效應(yīng)。

在某種程度上， AI 正好把這一切推到了風(fēng)口浪尖，讓這個(gè)問(wèn)題受到更多的關(guān)注和審查。這是一件好事，因?yàn)樗坪醮偈勾蠹夜餐鉀Q這個(gè)問(wèn)題。我認(rèn)為這將是一個(gè)逐步的過(guò)程，我們將隨著時(shí)間的推移進(jìn)行嘗試和調(diào)整。

主持人：

我知道與 Apple 合作不能出錯(cuò)，因?yàn)槿绻霈F(xiàn)問(wèn)題，他們會(huì)讓你陷入困境。我很好奇這次合作是如何開(kāi)始的？是從 Sam 和 Tim 之間的對(duì)話開(kāi)始的嗎？還是你也參與了？

Mira Murati：

其實(shí)我不太記得它是從哪里開(kāi)始的，但已經(jīng)醞釀了一段時(shí)間。

主持人：

已經(jīng)有一段時(shí)間了。你也在與其他公司進(jìn)行類似的合作談判。顯然，你與微軟有關(guān)系。播客聽(tīng)眾，她對(duì)我笑了。我不會(huì)透露更多了，我們繼續(xù)。

OpenAI 已經(jīng)與新聞集團(tuán)和 Vox Media 等公司達(dá)成了內(nèi)容許可協(xié)議，這樣就減少了潛在的訴訟問(wèn)題。如果我是你，我可能不會(huì)考慮這種合作。

那么，你如何說(shuō)服我許可我的信息？魯珀特·默多克已經(jīng)盜用了我的其他信息，《紐約時(shí)報(bào)》也是，我不希望再有其他人，包括你。

Mira Murati：

我知道你對(duì)此很關(guān)心，所以我可以告訴你我們?nèi)绾慰创龜?shù)據(jù)訓(xùn)練模型的問(wèn)題。我們主要有三個(gè)數(shù)據(jù)來(lái)源：公開(kāi)數(shù)據(jù)、與出版商的合作數(shù)據(jù)以及我們支付人力標(biāo)注的特定數(shù)據(jù)。

此外，我們還有用戶自愿允許我們使用的數(shù)據(jù)。關(guān)于出版商合作，我們關(guān)心的是信息的準(zhǔn)確性，用戶也非常重視這一點(diǎn)。

因此，我們與特定產(chǎn)品建立了一對(duì)一的合作關(guān)系，提供對(duì)用戶有價(jià)值的信息，同時(shí)也在探索不同的方式來(lái)補(bǔ)償內(nèi)容創(chuàng)作者，讓他們的數(shù)據(jù)在產(chǎn)品中展示或用于訓(xùn)練。

主持人：

有些人會(huì)與你合作，像 Apple 和許多其他機(jī)構(gòu)，但有些人則會(huì)提起訴訟，比如《紐約時(shí)報(bào)》。這如何演變到那一步？

Mira Murati：

我不能具體評(píng)論這些訴訟，但這確實(shí)很不幸。因?yàn)槲覀冋J(rèn)為在產(chǎn)品中擁有新聞數(shù)據(jù)和這種類型的信息是有價(jià)值的，因此我們嘗試與他們達(dá)成合作，但在這種情況下未能成功。

主持人：

或許未來(lái)會(huì)成功。我想這是因?yàn)槊襟w多年來(lái)與互聯(lián)網(wǎng)公司打交道，通常最終會(huì)吃虧。但每期節(jié)目我們都會(huì)請(qǐng)專家提問(wèn)，我們來(lái)聽(tīng)聽(tīng)你的問(wèn)題。

觀眾：

Mira。我是斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授，也是斯坦福人類中心 AI 研究所的聯(lián)合創(chuàng)始人。我想問(wèn)你一個(gè)關(guān)于數(shù)據(jù)的問(wèn)題。很多人認(rèn)為 OpenAI 的成功與數(shù)據(jù)密切相關(guān)。我們了解到你的公司從互聯(lián)網(wǎng)和其他來(lái)源獲得了大量數(shù)據(jù)。

那么你認(rèn)為數(shù)據(jù)與模型之間的關(guān)系是什么？是否簡(jiǎn)單地認(rèn)為輸入的數(shù)據(jù)越多，模型就越強(qiáng)大？還是需要花費(fèi)大量時(shí)間來(lái)整理不同類型的數(shù)據(jù)以使模型有效？最后，你如何解決對(duì)大量人類生成數(shù)據(jù)的需求與這些數(shù)據(jù)的所有權(quán)和權(quán)利問(wèn)題？

Mira Murati：

關(guān)于數(shù)據(jù)和模型之間的關(guān)系，這其實(shí)是很多人對(duì) AI 模型，特別是大型語(yǔ)言模型的誤解。開(kāi)發(fā)這些模型的人并不是預(yù)先編程它們做特定的事情，而是輸入大量數(shù)據(jù)。

這些模型通過(guò)這種過(guò)程變成了出色的模式匹配系統(tǒng)，并且通過(guò)這種方式產(chǎn)生了智能。因此，它們學(xué)會(huì)了寫(xiě)作、編碼、做基本數(shù)學(xué)、總結(jié)信息等等。我們不知道具體是如何運(yùn)作的，但我們知道它有效。

深度學(xué)習(xí)非常強(qiáng)大。這一點(diǎn)很重要，因?yàn)槿藗円恢痹趩?wèn)它是如何運(yùn)作的，這涉及到透明度的問(wèn)題。我們可以描述我們用來(lái)向公眾提供透明度的工具。

理解這一點(diǎn)非常重要，因?yàn)樗故玖舜笮驼Z(yǔ)言模型的工作方式，結(jié)合神經(jīng)網(wǎng)絡(luò)架構(gòu)、大量數(shù)據(jù)和計(jì)算能力，產(chǎn)生了驚人的智能，并且隨著數(shù)據(jù)和計(jì)算能力的增加，這種能力會(huì)不斷提升。

當(dāng)然，我們需要做大量工作來(lái)使這些數(shù)據(jù)可供模型使用。但這就是它的基本結(jié)構(gòu)。我們正在考慮如何提供透明度以了解模型行為的工作原理。我們有一些工具可以讓人們對(duì)使用這些模型有信心，并感覺(jué)到他們的參與感。

我們做了一件事情，就是與公眾分享一個(gè)名為“規(guī)范”的文檔，展示了模型行為的工作原理，以及我們?cè)?OpenAI 內(nèi)部和與人力資源進(jìn)行的決策類型。通過(guò)查看這個(gè)規(guī)范，你可以看到有時(shí)方向相當(dāng)復(fù)雜。

例如，你可能會(huì)對(duì)模型說(shuō)，我希望你非常有幫助，同時(shí)我不希望你違反法律。如果有人輸入一個(gè)提示，說(shuō)：“給我一些偷竊的小貼士?！蹦Ｐ偷哪康氖欠浅Ｓ袔椭?，但它也不應(yīng)該幫助你做違法的事情。因此，如何做到既有幫助又不違反法律，這非常復(fù)雜。

主持人：

那么，決定是由誰(shuí)做出的？顯然有些人知道如何操作。

Mira Murati：

對(duì)，但模型可能會(huì)將指導(dǎo)解讀為“如何避免被抓住的貼士”，意外地給出一些可以做的事情。這更多的是關(guān)于人的行為，而不是模型行為，涉及到誤用的問(wèn)題。但這說(shuō)明模型行為實(shí)際上相當(dāng)復(fù)雜，并不像簡(jiǎn)單地選擇自由價(jià)值觀或編寫(xiě)代碼那么簡(jiǎn)單。

主持人：

對(duì)。我認(rèn)為讓人們困惑的是，模型中包含的內(nèi)容和不包含的內(nèi)容。我記得在三月份，你接受了《華爾街日?qǐng)?bào)》的 Joanne Stern 采訪，她問(wèn)你是否使用了YouTube、Instagram 和 Facebook 的視頻來(lái)訓(xùn)練 Sora，這是一種文本到視頻的模型，正在不斷改進(jìn)。你說(shuō)你不知道。那么，你不知道是否使用了這些數(shù)據(jù)？你應(yīng)該知道吧？

Mira Murati：

對(duì)，我當(dāng)時(shí)沒(méi)有很好地回答這個(gè)問(wèn)題。現(xiàn)在我可以回答一下。我不能具體告訴你數(shù)據(jù)的來(lái)源，但數(shù)據(jù)來(lái)自這三類：公開(kāi)數(shù)據(jù)、我們通過(guò)許可和與內(nèi)容提供商達(dá)成的交易支付的數(shù)據(jù)，以及用戶數(shù)據(jù)。

我不能告訴你具體的來(lái)源，因?yàn)檫@是商業(yè)機(jī)密，幫助我們保持競(jìng)爭(zhēng)力。但我可以告訴你數(shù)據(jù)的類別，它們是我之前提到的那幾種。

主持人：

唯一的區(qū)別是復(fù)雜性，你遇到了麻煩，因?yàn)樗麄兓旧鲜窃诳焖僮ト?nèi)容，而沒(méi)有給出引用。你可以看到任何媒體公司都會(huì)對(duì)此感到擔(dān)憂。

Mira Murati：

是的，我們希望確保尊重內(nèi)容創(chuàng)作者，并正在嘗試補(bǔ)償他們的方式。我們正在開(kāi)發(fā)一個(gè)工具，稱為內(nèi)容媒體管理器，這將允許我們更具體地識(shí)別數(shù)據(jù)的類型，就像唱片公司所做的那樣。

主持人：

這在過(guò)去是可能做到的。所以這并不是不可能的事情。說(shuō)到 Sora，本周阿什頓·庫(kù)徹告訴埃里克·施密特，他有一個(gè)測(cè)試版的 Sora，非常驚人。

他還說(shuō)門(mén)檻會(huì)大大提高，因?yàn)闉槭裁匆次业碾娪?，而不是看你自己的電影。他基本上是在說(shuō)，人們能夠在頭腦中想象電影， AI 會(huì)將其變成可以觀看的電影。現(xiàn)在這聽(tīng)起來(lái)很粗糙，但這聽(tīng)起來(lái)是否可行？Sora 何時(shí)會(huì)準(zhǔn)備好公開(kāi)發(fā)布？

Mira Murati：

我們目前沒(méi)有 Sora 公開(kāi)發(fā)布的時(shí)間表。我們現(xiàn)在正在與一些內(nèi)容創(chuàng)作者合作，幫助我們識(shí)別如何使其更加穩(wěn)健。我們正在進(jìn)行大量的安全工作，但也在研究如何以有用的方式向公眾推出這項(xiàng)技術(shù)。這并不是一件非常簡(jiǎn)單的事情。

現(xiàn)在它更多的是一種技術(shù)。我們通常會(huì)與那些在特定領(lǐng)域有專長(zhǎng)的人合作，就像我們最初與 DALL·E 合作時(shí)一樣，他們幫助我們識(shí)別出一種感覺(jué)更有能力的界面，可以創(chuàng)造更多的項(xiàng)目?；旧希覀冎皇窍霐U(kuò)展 Sora 的創(chuàng)造力。

主持人：

假設(shè)它比聊天機(jī)器人更危險(xiǎn)，對(duì)吧？這是擔(dān)憂的原因嗎？例如，你可以很容易地看到涉及名人的色情電影的情況。你是否對(duì)視頻更加擔(dān)憂？

Mira Murati：

視頻有很多其他問(wèn)題，特別是當(dāng)做得非常好時(shí)，視頻非常直觀，而且可能非常情感化。因此，我們必須解決所有安全問(wèn)題，制定安全保障措施，確保產(chǎn)品的有用性和安全性。但從商業(yè)角度來(lái)看，沒(méi)有人希望一個(gè)產(chǎn)品引發(fā)大量安全或聲譽(yù)丑聞。

這非常有趣。這是一項(xiàng)令人難以置信的魔法般的技術(shù)。但其廣泛性、影響也很大。所以我們必須確保這一點(diǎn)。我們?cè)?OpenAI 采用迭代部署策略，通常先向一小群人發(fā)布，嘗試識(shí)別邊緣案例。一旦我們對(duì)如何處理這些案例有信心，就會(huì)擴(kuò)展訪問(wèn)權(quán)限。但你需要弄清楚產(chǎn)品的表面和商業(yè)模式。

主持人：

關(guān)于影響的概念，這是我的一個(gè)主題，科技公司往往不關(guān)心影響。通常他們會(huì)發(fā)布一個(gè)測(cè)試版的軟件，如果他們發(fā)布的是一輛車(chē)，這種情況是絕不會(huì)允許發(fā)生的，因?yàn)樗麄儠?huì)被起訴到破產(chǎn)。

但很多科技公司發(fā)布的產(chǎn)品往往都是測(cè)試版，并強(qiáng)加給公眾。關(guān)于影響的概念，你是否覺(jué)得作為首席技術(shù)官，即使你不能預(yù)見(jiàn)所有的影響，你是否尊重每項(xiàng)發(fā)明可能帶來(lái)的影響？

Mira Murati：

這些影響會(huì)對(duì)我們和我們的社會(huì)產(chǎn)生影響。因此，我并不一定指的是監(jiān)管或法律方面的影響，而是道德上的責(zé)任感，確保我們做對(duì)。我對(duì)這項(xiàng)技術(shù)充滿樂(lè)觀。

它將允許我們做出驚人的事情。我對(duì)它在科學(xué)、發(fā)現(xiàn)、教育和特別是醫(yī)療方面的潛力感到非常興奮。但每當(dāng)你有如此強(qiáng)大的東西，也會(huì)有潛在的災(zāi)難性風(fēng)險(xiǎn)。一直以來(lái)，都是這樣的情況。人類試圖放大其影響。

主持人：

我引用的一句話來(lái)自 Paul Virilio：“當(dāng)你發(fā)明船時(shí)，你也發(fā)明了船難?！边@是比船難更嚴(yán)重的可能性，對(duì)嗎？

Mira Murati：

我不同意這個(gè)說(shuō)法。我的背景是工程學(xué)。我們的整個(gè)世界都是通過(guò)工程建造的。工程學(xué)就是風(fēng)險(xiǎn)。整個(gè)文明建立在工程實(shí)踐之上。我們的城市、橋梁，一切都如此。這總是伴隨著風(fēng)險(xiǎn)的。你通過(guò)責(zé)任和細(xì)致的工作來(lái)管理這些風(fēng)險(xiǎn)。

這不僅僅是開(kāi)發(fā)人員的責(zé)任。這是一種共同的責(zé)任。為了使其成為共同責(zé)任，你實(shí)際上需要給人們提供訪問(wèn)權(quán)限和工具，并與他們一起前進(jìn)，而不是在真空中建造不可訪問(wèn)的技術(shù)。

主持人：

好的，我們談?wù)勥@個(gè)。我想多了解一下這個(gè)話題。你上個(gè)月宣布了 ChatGPT-4 的迭代更新。我非常喜歡你們的下一個(gè) ChatGPT-4，這個(gè)名字很棒。有人建議給它取名叫 Claude 之類的，但 ChatGPT 就很好。你們讓它免費(fèi)對(duì)吧？但是你們也宣布了正在訓(xùn)練新的模型 ChatGPT-5，那么它會(huì)是一個(gè)逐步的改進(jìn)嗎？還是一個(gè)指數(shù)級(jí)的提升？預(yù)計(jì)何時(shí)發(fā)布？

Mira Murati：

確實(shí)如此。GPT-4O 代表的是 Omnimodel，因?yàn)樗Y(jié)合了所有的模態(tài)：視覺(jué)、文本、音頻。這個(gè)模型的特別之處在于，它使與模型的互動(dòng)變得非常流暢自然，延遲幾乎察覺(jué)不到。

這是 AI 互動(dòng)上的巨大飛躍，與我們之前的版本有很大不同。我們希望將最新的功能免費(fèi)提供給所有用戶，讓大家了解這項(xiàng)技術(shù)的潛力和局限性。正如我之前所說(shuō)，通過(guò)實(shí)際體驗(yàn)，大家更容易理解技術(shù)的潛力和局限性。

主持人：

它就像是一道開(kāi)胃菜，讓大家期待 ChatGPT-5。那么，5 有什么不同？是個(gè)巨大的飛躍還是逐步改進(jìn)？

Mira Murati：

我們還不知道。其實(shí)我們還沒(méi)決定叫什么名字。下一個(gè)大型模型將非常強(qiáng)大，我們可以期待像從 GPT-3 到 GPT-4 那樣的巨大飛躍，但具體細(xì)節(jié)還不確定。

主持人：

你顯然參與了很多項(xiàng)目，我們也聊過(guò)很多。OpenAI 內(nèi)部的路線圖預(yù)測(cè)會(huì)在 2027 年實(shí)現(xiàn) AGI ，這將是一個(gè)巨大的里程碑。解釋一下這個(gè)時(shí)間點(diǎn)的重要性。你們是否真的認(rèn)為會(huì)在那時(shí)實(shí)現(xiàn) AGI ？

Mira Murati：

AGI 的定義因人而異。根據(jù)我們的章程， AGI 是指在不同領(lǐng)域可以完成經(jīng)濟(jì)上有價(jià)值工作的系統(tǒng)。從我們目前看到的情況來(lái)看，智能的定義不斷變化。過(guò)去，我們用學(xué)術(shù)基準(zhǔn)測(cè)試系統(tǒng)的智能程度。然后，我們看考試成績(jī)。

當(dāng)我們達(dá)到了這些基準(zhǔn)，我們需要提出新的評(píng)估標(biāo)準(zhǔn)。這讓我們思考，在工作環(huán)境中如何評(píng)估智能？我們有面試、有實(shí)習(xí)等方式。因此，我預(yù)計(jì)這個(gè)定義會(huì)不斷演變?；蛟S更重要的是評(píng)估和預(yù)測(cè)在現(xiàn)實(shí)世界中的影響，無(wú)論是社會(huì)影響還是經(jīng)濟(jì)影響。

主持人：

所以不會(huì)有一個(gè)時(shí)刻，它突然變得智能到能自行決策，對(duì)吧？這是人們擔(dān)心的問(wèn)題，對(duì)嗎？

Mira Murati：

是的， AGI 的定義很重要，我認(rèn)為智能的定義會(huì)不斷演變。但同樣重要的是它對(duì)社會(huì)的影響，以及它實(shí)際展示的速度。

主持人：

根據(jù)這個(gè)定義， OpenAI 認(rèn)為何時(shí)會(huì)實(shí)現(xiàn) AGI ？2027 年這個(gè)數(shù)字準(zhǔn)確嗎？

Mira Murati：

我會(huì)說(shuō)，在未來(lái)十年內(nèi)，我們將有極其先進(jìn)的系統(tǒng)。

主持人：

但是人們擔(dān)心的是安全與產(chǎn)品之間的討論。OpenAI 的創(chuàng)立有兩個(gè)目標(biāo)，一個(gè)是幫助人類，一個(gè)是追求巨大的經(jīng)濟(jì)利益。我認(rèn)為你可能介于兩者之間。

上周，13名現(xiàn)任和前任 OpenAI 和谷歌 DeepMind 員工聯(lián)名發(fā)表公開(kāi)信，呼吁公司允許他們警告關(guān)于先進(jìn)  AI  的風(fēng)險(xiǎn)。這并不新鮮，F(xiàn)acebook、谷歌和微軟的員工也曾簽署公開(kāi)信，無(wú)論是與高級(jí)部門(mén)合作等。

但在這個(gè)案例中，員工們說(shuō)，“廣泛的保密協(xié)議阻止我們表達(dá)擔(dān)憂，而公司可能未能解決這些問(wèn)題?！被旧暇褪钦f(shuō)，我們不能告訴你風(fēng)險(xiǎn)是什么，但大家可能會(huì)遭遇災(zāi)難。對(duì)此你有什么回應(yīng)？人們擔(dān)心報(bào)復(fù)，而我不想談?wù)摴善钡膯?wèn)題，因?yàn)槲抑滥銈兊狼覆⒓m正了這一點(diǎn)。但如果他們有擔(dān)憂，難道不應(yīng)該讓他們表達(dá)嗎？我知道不同人有不同的看法。

Mira Murati：

當(dāng)然，我們認(rèn)為辯論非常重要，能夠公開(kāi)表達(dá)這些擔(dān)憂并討論安全問(wèn)題也非常重要。自 OpenAI 成立以來(lái)，我們一直非常開(kāi)放地討論假信息問(wèn)題，從 GPT-2 時(shí)代開(kāi)始，這就是我們?cè)缙谘芯康膯?wèn)題之一。

過(guò)去幾年，技術(shù)進(jìn)步令人難以置信，速度之快超乎預(yù)期，這也增加了人們對(duì)社會(huì)準(zhǔn)備情況的普遍焦慮。我們看到科學(xué)的發(fā)展方向，所以可以理解人們對(duì)未來(lái)的擔(dān)憂。

具體來(lái)說(shuō)，我們?cè)?OpenAI 所做的工作和部署這些模型的方式，我認(rèn)為我們有一支出色的團(tuán)隊(duì)，我們非常安全地部署了這些模型，我對(duì)此感到非常自豪。鑒于技術(shù)進(jìn)步的速度和我們自身的進(jìn)展，專注于安全、保護(hù)框架非常重要，我們需要考慮如何看待前沿模型訓(xùn)練和部署的風(fēng)險(xiǎn)。

主持人：

你提到過(guò)這些問(wèn)題。我想知道為什么需要保密協(xié)議和比其他公司更嚴(yán)格的規(guī)定？公開(kāi)信是在一系列高調(diào)離職后發(fā)布的，包括 Jan Leike 和 Ilya Sutskever。他們領(lǐng)導(dǎo)了對(duì)齊團(tuán)隊(duì)，負(fù)責(zé)安全工作。

Ilya 是聯(lián)合創(chuàng)始人，他與其他三位董事一起罷免了CEO，但 Leike 在 X 上發(fā)布了這條消息：“在過(guò)去的一年里，安全文化和流程被閃亮的新產(chǎn)品所取代?！?/p>

這是對(duì) OpenAI 最持久的批評(píng)之一，你認(rèn)為這是公平的，為什么或者為什么不公平？如果你說(shuō)你非常重視安全，他們卻說(shuō)你不重視，你如何應(yīng)對(duì)這種批評(píng)？

Mira Murati：

首先，對(duì)齊團(tuán)隊(duì)不是唯一負(fù)責(zé)安全的團(tuán)隊(duì)。OpenAI 有許多安全團(tuán)隊(duì)，對(duì)齊團(tuán)隊(duì)是其中一個(gè)非常重要的安全團(tuán)隊(duì)，但只是其中之一。

我們有很多人在 OpenAI 從事安全工作，我可以稍后詳細(xì)解釋。Yan 是一位了不起的研究人員和同事，我與他共事了三年，非常尊重他，他離開(kāi) OpenAI 加入了 Anthropic，這是一個(gè)競(jìng)爭(zhēng)對(duì)手。

我認(rèn)為我們確實(shí)需要更加專注于安全、保護(hù)和監(jiān)管參與，鑒于我們預(yù)期領(lǐng)域內(nèi)的進(jìn)展。但我不同意我們可能將產(chǎn)品放在安全之前的觀點(diǎn)。你為什么認(rèn)為他們這么說(shuō)？

主持人：

因?yàn)檫@些是和你共事的人？

Mira Murati：

我認(rèn)為你需要問(wèn)他們，但我認(rèn)為許多人認(rèn)為安全和能力是分開(kāi)的。有些人認(rèn)為安全和能力是分開(kāi)的單元，從 OpenAI 開(kāi)始，我來(lái)自航空和汽車(chē)行業(yè)，這些行業(yè)有非常成熟的安全思維和系統(tǒng)，不需要不斷辯論安全問(wèn)題，因?yàn)檫@些已經(jīng)很成熟了。

因此，我認(rèn)為整個(gè)行業(yè)需要向更加嚴(yán)格的安全學(xué)科發(fā)展。我們有安全系統(tǒng)，有嚴(yán)格的操作安全紀(jì)律，這包括許多方面，不僅是操作紀(jì)律，還有我們今天產(chǎn)品和部署的安全性，例如有害偏見(jiàn)、假信息、錯(cuò)誤信息分類器等。

主持人：

我關(guān)閉了我的手機(jī)和提示音。

Mira Murati：

繼續(xù)。不僅是今天模型的對(duì)齊，我們使用人類反饋進(jìn)行強(qiáng)化學(xué)習(xí)，但也要考慮模型隨著能力增強(qiáng)的長(zhǎng)期對(duì)齊問(wèn)題，這是一個(gè)非常關(guān)注的研究領(lǐng)域。

主持人：

但這在 OpenAI 中一直存在。我認(rèn)為因?yàn)槟銈兪钱?dāng)前的領(lǐng)先公司，所以這個(gè)問(wèn)題更加突出。但人們擔(dān)心的是安全問(wèn)題， OpenAI 的創(chuàng)立目的之一就是確保安全。

上周，有 13 名現(xiàn)任和前任 OpenAI 和谷歌 DeepMind 員工聯(lián)名發(fā)表公開(kāi)信，呼吁公司允許他們警告關(guān)于先進(jìn)  AI  的風(fēng)險(xiǎn)。這并不新鮮，但在這種情況下，員工們說(shuō)，“廣泛的保密協(xié)議阻止我們表達(dá)擔(dān)憂，而公司可能未能解決這些問(wèn)題。”

你對(duì)此有什么回應(yīng)？人們擔(dān)心報(bào)復(fù)，而我不想談?wù)摴善钡膯?wèn)題，因?yàn)槲抑滥銈兊狼覆⒓m正了這一點(diǎn)。但如果他們有擔(dān)憂，難道不應(yīng)該讓他們表達(dá)嗎？我知道不同人有不同的看法。

Mira Murati：

當(dāng)然，我們認(rèn)為辯論非常重要，能夠公開(kāi)表達(dá)這些擔(dān)憂并討論安全問(wèn)題也非常重要。自 OpenAI 成立以來(lái)，我們一直非常開(kāi)放地討論假信息問(wèn)題，從 GPT-2 時(shí)代開(kāi)始，這就是我們?cè)缙谘芯康膯?wèn)題之一。

過(guò)去幾年，技術(shù)進(jìn)步令人難以置信，速度之快超乎預(yù)期，這也增加了人們對(duì)社會(huì)準(zhǔn)備情況的普遍焦慮。我們看到科學(xué)的發(fā)展方向，所以可以理解人們對(duì)未來(lái)的擔(dān)憂。

具體來(lái)說(shuō)，我們?cè)?OpenAI 所做的工作和部署這些模型的方式，我認(rèn)為我們有一支出色的團(tuán)隊(duì)，我們非常安全地部署了這些模型，我對(duì)此感到非常自豪。鑒于技術(shù)進(jìn)步的速度和我們自身的進(jìn)展，專注于安全、保護(hù)框架非常重要，我們需要考慮如何看待前沿模型訓(xùn)練和部署的風(fēng)險(xiǎn)。

主持人：

你如何應(yīng)對(duì)他？我理解這種動(dòng)態(tài)。這在谷歌、早期的微軟和亞馬遜都發(fā)生過(guò)。隨著公司發(fā)展，事情會(huì)發(fā)生變化。谷歌早期非?；靵y，F(xiàn)acebook 經(jīng)歷了很多 COO，我甚至無(wú)法數(shù)清。有很多人走過(guò)那條路。這是很正常的，但你如何應(yīng)對(duì) Sam？

例如，他投資了一些外國(guó)公司，一些公司與 OpenAI 有業(yè)務(wù)往來(lái)。他投資了 3.75 億美元在一家名為 Helion 的能源公司，這是一個(gè)很酷的公司，他們目前正在與 OpenAI 談?wù)摯罅康碾娏π枨?。眾所周知，?jì)算需要大量電力。你每天是如何與他打交道的？你如何看待這種關(guān)系？你在哪些方面會(huì)提出反對(duì)意見(jiàn)？

Mira Murati：

我一直在提出反對(duì)意見(jiàn)。我認(rèn)為這是正常的，特別是在我們所做的工作中。Sam 會(huì)對(duì)團(tuán)隊(duì)提出很高的要求，我認(rèn)為這是好的。有遠(yuǎn)大的抱負(fù)，挑戰(zhàn)我們的極限是很重要的。當(dāng)我覺(jué)得事情超出界限時(shí)，我會(huì)提出反對(duì)意見(jiàn)。這就是我們六年來(lái)的合作關(guān)系，我認(rèn)為這種關(guān)系是有成效的。你需要能夠提出反對(duì)意見(jiàn)。

主持人：

你能舉一個(gè)例子嗎？例如，斯嘉麗·約翰遜的例子。我知道你們?cè)谀莻€(gè)聲音元素上工作，對(duì)吧？

Mira Murati：

是的，我們有很強(qiáng)的合作關(guān)系。但選擇聲音并不是我們的優(yōu)先事項(xiàng)之一，不是我們共同工作的內(nèi)容。

我在這方面做了決策，Sam 有他自己的關(guān)系。在我選擇了 Sky 之后，他聯(lián)系了斯嘉麗·約翰遜。我們沒(méi)有討論這個(gè)具體的決定，這是很不幸的。

主持人：

所以他是單獨(dú)行動(dòng)的。

Mira Murati：

他有自己的聯(lián)系。所以我們?cè)谶@件事上沒(méi)有完全協(xié)調(diào)一致。

主持人：

你覺(jué)得這在很多方面很有趣，特別是因?yàn)殡娪昂退耐莆摹５艺J(rèn)為這是 OpenAI 的一個(gè)錯(cuò)誤，因?yàn)槿藗儠?huì)覺(jué)得你們?cè)谕蹈`，即使你們沒(méi)有偷她的聲音，Sam 看起來(lái)就像是《小美人魚(yú)》里的烏蘇拉，偷走了她的聲音。即使事實(shí)并非如此，但這種感覺(jué)是存在的。

Mira Murati：

你擔(dān)心科技公司會(huì)被視為掠奪一切嗎？

主持人：

我確實(shí)認(rèn)為這是事實(shí)。

Mira Murati：

是的，我擔(dān)心這種看法，但你知道，你所能做的就是做好工作，讓人們看到結(jié)果，從而建立信任。我不認(rèn)為有某種神奇的方法來(lái)建立信任，除了實(shí)際上做好工作。你和斯嘉麗·約翰遜談過(guò)嗎？

主持人：

她是我的背景資料。我知道，她在后臺(tái)，我提到不同的事情，她不知道我在說(shuō)什么。因?yàn)槟闾珜Ｗ⒂诠ぷ鳎阏f(shuō)你在石頭下工作，是嗎？

Mira Murati：

是的，我非常專注于我的工作，但我也在阿爾巴尼亞和巴爾干國(guó)家長(zhǎng)大，所以我沒(méi)有接觸過(guò)美國(guó)流行文化。

主持人：

但你現(xiàn)在沒(méi)有關(guān)注。那么，讓我最后談?wù)勥x舉和虛假信息，然后我們會(huì)接受觀眾的問(wèn)題。三項(xiàng)新的研究表明，在線虛假信息的問(wèn)題比我們想象的小，虛假信息本身的效果不大。

一項(xiàng)研究發(fā)現(xiàn)，我們正在處理的是需求方面的問(wèn)題，人們會(huì)尋找陰謀論，無(wú)論是在廣播、社交媒體等渠道。其他人則認(rèn)為這是一個(gè)非常大的問(wèn)題。顯然，你聽(tīng)到了之前的討論，很多人有很多陰謀論，這在很大程度上是由社交媒體推動(dòng)的。

那么，當(dāng)你考慮到 AI 對(duì)虛假信息的力量和即將到來(lái)的總統(tǒng)選舉時(shí)，是什么讓你夜不能寐？從你的角度來(lái)看，最糟糕的情況和最可能的負(fù)面結(jié)果是什么？

Mira Murati：

現(xiàn)有系統(tǒng)非常具有說(shuō)服力，可以影響你的思維方式和信念。這是我們研究了一段時(shí)間的問(wèn)題，我確實(shí)認(rèn)為這是一個(gè)真實(shí)的問(wèn)題。特別是在過(guò)去一年里，我們非常關(guān)注如何幫助選舉的完整性。我們正在做幾件事情。

首先，我們盡可能防止濫用，包括提高政治信息檢測(cè)的準(zhǔn)確性，了解平臺(tái)上的情況并迅速采取行動(dòng)。第二是減少政治偏見(jiàn)。你可能看到 ChatGPT 被批評(píng)為過(guò)于自由，這并非故意的，我們非常努力地減少模型行為中的政治偏見(jiàn)，并將繼續(xù)這樣做。第三是我們希望在選民尋找投票信息時(shí)，指向正確的信息。這是我們?cè)谶x舉時(shí)關(guān)注的三件事。

關(guān)于虛假信息，深度偽造是不可接受的。我們需要有非常可靠的方法讓人們了解他們?cè)诳吹氖巧疃葌卧?。我們已?jīng)做了一些事情。我們?yōu)閳D像實(shí)施了 C2PA，它類似于護(hù)照，隨著內(nèi)容在不同平臺(tái)上傳播。我們還開(kāi)放了 DALL·E 的分類器，可以檢測(cè)圖像是否由 DALL·E 生成。

所以元數(shù)據(jù)和分類器是處理這個(gè)問(wèn)題的兩種技術(shù)方法。這是信息來(lái)源的證明，專門(mén)針對(duì)圖像。我們還在研究如何在文本中實(shí)現(xiàn)水印技術(shù)。但重點(diǎn)是，人們應(yīng)該知道他們?cè)谔幚砩疃葌卧欤覀兿Ｍ藗冃湃嗡麄兛吹降男畔ⅰ?/p>

主持人：

這些偽造的重點(diǎn)是欺騙你，對(duì)嗎？聯(lián)邦通信委員會(huì)（FCC）剛剛對(duì)一家創(chuàng)建深度偽造音頻的公司罰款 600 萬(wàn)美元，該音頻聽(tīng)起來(lái)像拜登在新罕布什爾初選中的錄音?？赡軙?huì)有更復(fù)雜的版本。OpenAI 正在研發(fā)一個(gè)名為 Voice Enunciation 的工具，可以用15秒的錄音重現(xiàn)某人的聲音。

它將能夠創(chuàng)建一個(gè)人用另一種語(yǔ)言說(shuō)話的錄音。因?yàn)楫a(chǎn)品經(jīng)理告訴《紐約時(shí)報(bào)》，這是一個(gè)敏感的問(wèn)題，需要做得正確。為什么你們要開(kāi)發(fā)這個(gè)？我經(jīng)常對(duì)科技人員說(shuō)，如果你們開(kāi)發(fā)的東西像黑鏡里的情節(jié)，或許就不該開(kāi)發(fā)。

Mira Murati：

我認(rèn)為這是種無(wú)望的態(tài)度。這項(xiàng)技術(shù)是令人驚嘆的，有著巨大的潛力，我們可以做好它。

主持人：

你說(shuō)我無(wú)望，我可是有四個(gè)孩子的，所以我一定是有希望的。

Mira Murati：

總之，我希望我們能做好。我們?cè)?2022 年開(kāi)發(fā)了 Voice Enunciation，但沒(méi)有發(fā)布。即使現(xiàn)在也是非常有限的方式，因?yàn)槲覀冊(cè)谂鉀Q這些問(wèn)題。

但你不能單獨(dú)解決這些問(wèn)題，你需要與各個(gè)領(lǐng)域的專家、民間社會(huì)、政府和創(chuàng)作者合作，才能真正做好。這不是一個(gè)一站式的安全問(wèn)題，它非常復(fù)雜，因此我們需要做大量的工作。

主持人：

我再問(wèn)你一個(gè)最后的問(wèn)題，然后我們會(huì)接受觀眾提問(wèn)。你今天得到了這個(gè)問(wèn)題的不同版本。你對(duì)這項(xiàng)技術(shù)非常樂(lè)觀，但我想讓你總結(jié)一下。如果你是個(gè)悲觀主義者，甚至有公司說(shuō)如果我不阻止 Sam Altman，他會(huì)毀滅人類，我覺(jué)得這有點(diǎn)夸張。

而其他人則認(rèn)為，無(wú)論如何，這將是最好的事情，我們都會(huì)在火星上享受美味的士力架。這感覺(jué)就像共和黨和民主黨現(xiàn)在的局面，非常不同的版本。所以我希望你能告訴我，你最擔(dān)心的事情和最有希望的事情，然后我們會(huì)接受觀眾提問(wèn)。

Mira Murati：

首先，我不認(rèn)為這是一個(gè)預(yù)定的結(jié)果。我認(rèn)為我們?cè)跇?gòu)建和部署這項(xiàng)技術(shù)方面有很大的自主權(quán)。為了做好這件事，我們需要找到一種創(chuàng)造共同責(zé)任的方法。

我認(rèn)為很多問(wèn)題在于理解技術(shù)并讓它非常容易理解。問(wèn)題出在誤解技術(shù)上，不了解它的能力和風(fēng)險(xiǎn)。我認(rèn)為這是最大的風(fēng)險(xiǎn)。就具體情境而言，我認(rèn)為我們的民主如何與這些技術(shù)互動(dòng)非常重要。

我們今天談?wù)摿撕芏噙@個(gè)問(wèn)題，我確實(shí)認(rèn)為圍繞說(shuō)服的風(fēng)險(xiǎn)很大，特別是能夠強(qiáng)烈說(shuō)服人們做特定的事情，你可以控制人們做特定的事情，我認(rèn)為這非?？膳?。控制社會(huì)朝特定方向發(fā)展。

就希望而言，我非常興奮的一件事是能夠在任何地方提供高質(zhì)量和免費(fèi)的教育。在一些偏遠(yuǎn)村莊，真的在中間沒(méi)有任何資源的地方。對(duì)我來(lái)說(shuō)，教育非常重要。

它改變了我的生活。我只能想象，今天我們有這么多工具可用，如果有電和互聯(lián)網(wǎng)，很多這些工具都是可用的。但仍然，大多數(shù)人是在一個(gè)教室里有一個(gè)老師，50 個(gè)學(xué)生，每個(gè)人都學(xué)同樣的東西。想象一下，如果教育能夠根據(jù)你的思維方式、文化規(guī)范和具體興趣進(jìn)行定制，這將極大地?cái)U(kuò)展知識(shí)和創(chuàng)造力的水平。

如果我們能夠真正掌握這個(gè)，在很年輕的時(shí)候就學(xué)會(huì)如何學(xué)習(xí)，我認(rèn)為這非常強(qiáng)大，并能推動(dòng)人類知識(shí)的進(jìn)步，從而推動(dòng)整個(gè)文明的進(jìn)步。

觀眾:

關(guān)于數(shù)據(jù)的選擇，顯然有一個(gè)關(guān)于谷歌的問(wèn)題，它采集了所有發(fā)布的帖子，并告訴人們?cè)谂_上涂膠水，這樣它們就粘在一起了。

這顯然是個(gè)需要解決的問(wèn)題。但如果你不是《紐約時(shí)報(bào)》，你不能雇傭律師提起訴訟，有沒(méi)有辦法選擇不讓你的網(wǎng)上數(shù)據(jù)被公司抓取并用于訓(xùn)練 AI ？

Mira Murati：

是的，這就是為什么我們正在構(gòu)建這個(gè)內(nèi)容媒體管理器。它是為出版商設(shè)計(jì)的，但我們正在尋找任何人都可以識(shí)別他們不希望被用于訓(xùn)練的數(shù)據(jù)的方法，或者他們對(duì)這些數(shù)據(jù)的使用有具體要求。

我們將嘗試多種不同的方法來(lái)做這件事。我認(rèn)為讓人們能夠控制他們的數(shù)據(jù)非常重要。但還有一個(gè)問(wèn)題是，“你今天在數(shù)字世界中按照自己的意愿運(yùn)作的能力如何？”問(wèn)題陳述應(yīng)該是什么？是說(shuō)你不希望你的數(shù)據(jù)出現(xiàn)在任何地方？

這是一個(gè)可以考慮的問(wèn)題陳述，另一個(gè)可以考慮的問(wèn)題是“你不希望 AI 系統(tǒng)對(duì)你的思維方式、操作方式和與信息互動(dòng)的方式產(chǎn)生影響?！蔽艺J(rèn)為這也是我們?cè)诳紤]隱私和數(shù)據(jù)使用時(shí)需要考慮的問(wèn)題。

觀眾：

我想問(wèn)一個(gè)問(wèn)題，ChatGPT 是一個(gè)大型語(yǔ)言模型，我們之間的交流往往依賴于上下文和情感，以理解彼此的來(lái)意。Mira，你提到你在另一個(gè)國(guó)家長(zhǎng)大，不了解流行文化。

ChatGPT 的模型截止到 2021 年 9 月，然后你們依賴網(wǎng)絡(luò)搜索來(lái)補(bǔ)充數(shù)據(jù)。所以當(dāng)我們談?wù)撎摷傩畔⒑痛_保正確性時(shí)，我輸入一個(gè)搜索請(qǐng)求時(shí)，如果它誤解了當(dāng)前的政治背景，例如，如何確保你們從正確的參考資料中獲取正確答案？由于你們授權(quán)的受信任來(lái)源是商業(yè)秘密，我們?nèi)绾沃滥銈兲峁┑男畔⑹钦_的？

Mira Murati：

實(shí)際上，有趣的是，ChatGPT 項(xiàng)目最初是一個(gè)關(guān)于真實(shí)性的研究項(xiàng)目。我們希望能夠表達(dá)不確定性，并希望能夠在大型語(yǔ)言模型中引用信息，然后它轉(zhuǎn)變成了不同的研究項(xiàng)目。

所以，我們今天在平臺(tái)上所做的事情，我們有瀏覽器和工具，我們引入了工具和瀏覽功能，可以查找內(nèi)容，我們也在與出版商合作，以便將新聞和額外內(nèi)容帶到平臺(tái)上，提高準(zhǔn)確性。

我們還在處理幻覺(jué)問(wèn)題，幻覺(jué)問(wèn)題正在逐步減少，這顯然是大型語(yǔ)言模型的一個(gè)主要問(wèn)題。我認(rèn)為它不會(huì)完全消失，但隨著模型變得更聰明，它們會(huì)變得更好，我們應(yīng)該期待它們的可靠性提高，不會(huì)編造東西。虛假信息問(wèn)題非常復(fù)雜，因?yàn)槟阌谢糜X(jué)問(wèn)題，需要知道信息的來(lái)源，我們也在努力解決這個(gè)問(wèn)題。

我們希望信息來(lái)源盡可能廣泛，同時(shí)還需要考慮產(chǎn)品的應(yīng)用場(chǎng)景，不同的應(yīng)用場(chǎng)景會(huì)有所不同，比如在學(xué)習(xí)過(guò)程中與在購(gòu)買(mǎi)推薦過(guò)程中所需的信息不同。

觀眾：

如果你再次成為一天的CEO，你會(huì)選擇向政府發(fā)布這些信息，以確保我們能夠創(chuàng)造一個(gè)保護(hù)公眾的監(jiān)管環(huán)境，這不僅符合美國(guó)的利益，也符合全球的利益嗎？

主持人：

你說(shuō)你想保留一些專有信息，但你如何看待其中最重要的信息？

Mira Murati：

你必須考慮哪些信息對(duì)做出改變實(shí)際上是最重要的。比如，如果你要讓政府了解某些事情，你打算發(fā)布競(jìng)爭(zhēng)信息，那么你想要達(dá)到什么目的？政府會(huì)如何處理這些信息？你分享的最有影響力的信息是什么？我們與美國(guó)政府有非常好的關(guān)系，并且與其他政府密切合作，特別是美國(guó)的安全機(jī)構(gòu)，我們會(huì)給他們?cè)缙谠L問(wèn)技術(shù)的權(quán)限，讓他們可以進(jìn)行反向測(cè)試，并了解未來(lái)的預(yù)期。我更關(guān)注的是技術(shù)的路線圖和早期視圖，而不是具體的數(shù)據(jù)細(xì)節(jié)。

觀眾：

我想了解一下在這種情況下， OpenAI 如何看待安全問(wèn)題，因?yàn)?OpenAI 和一些競(jìng)爭(zhēng)對(duì)手非常關(guān)注安全，特別是在美國(guó)和歐洲，但我們?nèi)蕴幱诩夹g(shù)監(jiān)管的“狂野西部”，數(shù)據(jù)科學(xué)家可以離開(kāi)公司并自己創(chuàng)業(yè)，這可能會(huì)導(dǎo)致安全性較差的公司崛起。OpenAI 如何看待在監(jiān)管不嚴(yán)格且有大量資金的世界里 AI 安全問(wèn)題？

Mira Murati：

關(guān)于監(jiān)管，我一直非常直言不諱，我認(rèn)為找到靈活性和平衡點(diǎn)非常重要。你不希望在技術(shù)進(jìn)步如此迅速的情況下有過(guò)于僵化的監(jiān)管，但你需要足夠的靈活性，使監(jiān)管實(shí)際有效并適應(yīng)技術(shù)變化。同時(shí)，你也需要早期設(shè)置好保護(hù)措施和指導(dǎo)，以最大化公眾利益。

私營(yíng)公司賺錢(qián)并擁有豐富的商業(yè)生態(tài)系統(tǒng)是好的，但需要確保這一切發(fā)生得足夠早，以最大化公眾利益，而不僅僅是公司的利潤(rùn)。

至于具體的監(jiān)管措施，我有些猶豫，但我們與監(jiān)管機(jī)構(gòu)的接觸方式是我們做了很多事情，我們知道什么有效并有影響，我們會(huì)自愿分享這些承諾，有時(shí)會(huì)成為行業(yè)標(biāo)準(zhǔn)。

我們需要確保這些措施能夠?qū)嶋H操作并產(chǎn)生安全的影響，而不僅僅是看起來(lái)好。因此，行業(yè)和監(jiān)管機(jī)構(gòu)之間需要非常緊密的合作，我們需要政府中真正理解 AI 的人。特別是在最近幾個(gè)月，美國(guó) AI 安全研究所的建立帶來(lái)了更多這方面的專家。

主持人：

好的，我問(wèn)最后一個(gè)問(wèn)題。作為領(lǐng)導(dǎo)職位上的女性不多，而你可能是現(xiàn)在科技界最杰出和有影響力的女性之一，你認(rèn)為這有重要意義嗎？你仰慕誰(shuí)？

Mira Murati：

當(dāng)我去學(xué)校與學(xué)生交流時(shí)，聽(tīng)到他們說(shuō)受到我的啟發(fā)，這讓我感到非常高興。確實(shí)，科技界仍然是男性主導(dǎo)，但我認(rèn)為多樣性有不同形式，不僅僅是性別。

思考問(wèn)題的方式和文化背景也很重要。我們希望有非常多樣化的團(tuán)隊(duì)，特別是當(dāng)我們處理影響整個(gè)社會(huì)的  AI  問(wèn)題時(shí)。

這需要盡可能多的多樣性，才能做出偉大的工作。至于我受到誰(shuí)的啟發(fā)，很多人，我每天與之密切合作的同事，以及我過(guò)去共事過(guò)的人。我非常幸運(yùn)能與如此高密度的優(yōu)秀人才一起工作，他們充滿好奇心并將公司的使命放在首位。這是一個(gè)非常特殊的特權(quán)。

觀眾：

那么你在十年后會(huì)在哪里？

Mira Murati：

我希望到那時(shí)我們已經(jīng)在科學(xué)領(lǐng)域取得了一些驚人的突破。