來(lái)源：華爾街見聞
當(dāng)?shù)貢r(shí)間11月14日，特斯拉 CEO 埃隆·馬斯克 （Elon Musk）?針對(duì)OpenAI 的起訴升級(jí)，增加了新的原告和被告。
隨著起訴文件的更新，馬斯克、薩姆·奧特曼?（Sam Altman）、伊利亞·蘇茨克弗 （Ilya Sutskever） 和格雷格·布羅克曼 （Greg Brockman） 之間的大量電子郵件已作為法庭訴訟程序的一部分被公布。?
一個(gè)名為L(zhǎng)essWrong的在線論壇和社區(qū)把大約50封郵件按照時(shí)間線進(jìn)行了整理，從這些郵件的時(shí)間從2015 年5月25日到2019年3月11日。
這些郵件肯定不是OpenAI發(fā)展過(guò)程中的全部，但是從這些公開的內(nèi)容中可以看到OpenAI的緣起、發(fā)展與矛盾，以及不同階段不同創(chuàng)始人、核心人員的不同觀點(diǎn)。
以下是公開的郵件內(nèi)容：
原文地址：
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?5?月?25?日
一直在思考是否有可能阻止人類發(fā)展人工智能。
我認(rèn)為答案幾乎肯定是否定的。
如果無(wú)論如何都要實(shí)現(xiàn)這個(gè)目標(biāo)，那么最好由谷歌以外的其他人先來(lái)做。
有沒有想過(guò) YC 啟動(dòng)人工智能曼哈頓計(jì)劃是否是個(gè)好主意？我的感覺是，我們可以讓前 50 名中的許多人參與其中，我們可以將其構(gòu)建為通過(guò)某種非營(yíng)利組織屬于世界的技術(shù)，但如果成功，從事該技術(shù)的人將獲得與初創(chuàng)公司類似的報(bào)酬。顯然，我們會(huì)遵守/積極支持所有法規(guī)。
薩姆
伊隆·馬斯克致薩姆·奧特曼?– 2015?年?5?月?25?日
可能值得談?wù)?/p>
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?6?月?24?日
任務(wù)是創(chuàng)建第一個(gè)通用人工智能，并將其用于個(gè)人賦能——即未來(lái)看起來(lái)最安全的分布式版本。更一般地說(shuō)，安全應(yīng)該是首要要求。
我認(rèn)為我們最好從 7-10 人開始，然后計(jì)劃從那里開始擴(kuò)大。我們?cè)?Mountain View 有一棟不錯(cuò)的額外建筑，他們可以享用。
我認(rèn)為，對(duì)于治理結(jié)構(gòu)，我們應(yīng)該從 5 個(gè)人開始，我建議你、比爾·蓋茨、皮埃爾·奧米迪亞、達(dá)斯汀·莫斯科維茨和我。該技術(shù)將歸基金會(huì)所有，并用于“造福世界”，如果不清楚如何應(yīng)用，我們 5 個(gè)人將做出決定。研究人員將獲得可觀的財(cái)務(wù)收益，但這與他們所構(gòu)建的東西無(wú)關(guān)，這應(yīng)該可以消除一些沖突（我們將向他們支付有競(jìng)爭(zhēng)力的薪水，并給他們 YC 股權(quán)作為收益）。我們會(huì)持續(xù)討論哪些工作應(yīng)該開源，哪些不應(yīng)該開源。在某個(gè)時(shí)候，我們會(huì)找一個(gè)人來(lái)管理團(tuán)隊(duì)，但他/她可能不應(yīng)該加入治理委員會(huì)。
除了管理之外，你還會(huì)以其他方式參與嗎？我認(rèn)為這對(duì)讓工作朝著正確的方向發(fā)展非常有幫助，可以讓最優(yōu)秀的人才參與其中。理想情況下，你會(huì)每月或每隔一段時(shí)間過(guò)來(lái)和他們談?wù)勥M(jìn)展情況。我們一般把以某種有限方式參與 YC 的人稱為“兼職合伙人”（例如，我們就是這樣稱呼 Peter Thiel 的，盡管目前他參與度很高），但我們可以隨便叫他們。即使你不能真正花時(shí)間在上面，但可以公開支持，這可能仍然對(duì)招聘非常有幫助。
我認(rèn)為，制定監(jiān)管信函的正確計(jì)劃是等待這件事開始實(shí)施，然后我就可以發(fā)布它，并附上這樣的信息：“既然我們正在這樣做，我一直在思考世界需要什么樣的約束才能確保安全?！蔽液芨吲d你也成為簽名者。我還懷疑，在它發(fā)布后，會(huì)有更多人愿意支持它。
薩姆
伊隆·馬斯克致薩姆·奧特曼?- 2015?年?6?月?24?日
全部同意
格雷格·布羅克曼致伊隆·馬斯克（抄送：薩姆·奧特曼）- 2015?年?11?月?22?日
嘿，Elon，
之前聊天很愉快。
正如我在電話中提到的，這是博客文章的最新早期草稿：（Sam、Ilya 和我正在考慮新名字；希望得到您的任何意見。）
顯然，還有很多其他細(xì)節(jié)需要更改，但我很好奇您對(duì)這種信息傳遞方式有何看法。我不想手下留情，如果感覺合適，我很樂意傳播更強(qiáng)烈的信息。我認(rèn)為最重要的是我們的信息能夠吸引研究界（或者至少吸引我們想要雇用的那部分人）。我希望我們能以中立的團(tuán)體身份進(jìn)入該領(lǐng)域，尋求廣泛合作，并將對(duì)話轉(zhuǎn)向人類勝利，而不是任何特定的團(tuán)體或公司。（我認(rèn)為這是讓我們成為領(lǐng)先研究機(jī)構(gòu)的最佳方式。）
我附上了我們一直在使用的錄用通知模板，薪資為17.5萬(wàn)美元。以下是我發(fā)給別人的電子郵件模板：
附件是您的 YCR 正式錄取通知書！請(qǐng)簽名并注明日期。接下來(lái)還會(huì)有兩份文件：
另外還有一封信，向您提供您出席的每個(gè) YC 批次的 0.25%（作為擔(dān)任 YC 顧問的補(bǔ)償）。
隨意雇傭、保密信息、發(fā)明轉(zhuǎn)讓和仲裁協(xié)議
（由于這是我們提供的第一批官方優(yōu)惠，因此請(qǐng)?jiān)復(fù)局械娜魏慰部?，如果發(fā)現(xiàn)任何奇怪之處，請(qǐng)告訴我?。?/p>
我們計(jì)劃提供以下福利：
健康、牙科和視力保險(xiǎn)
無(wú)限假期，建議每年四周
帶薪育兒假
當(dāng)你展示 YC AI 工作或被 YC AI 邀請(qǐng)參加會(huì)議時(shí)，可獲得付費(fèi)出席資格
我們也很樂意提供簽證支持。當(dāng)您準(zhǔn)備好討論簽證相關(guān)問題時(shí)，我很樂意讓您與 YC 的 Kirsty 聯(lián)系。
如果您有任何問題，請(qǐng)告訴我 — 我隨時(shí)可以與您聊天！期待合作 ：）。
– gbd
伊隆·馬斯克致薩姆·奧特曼?– 2015?年?12?月?8?日
正確寫出開篇摘要部分非常重要。這將是每個(gè)人都會(huì)讀到的內(nèi)容，也是媒體最常引用的內(nèi)容。這份新聞稿的全部目的是吸引頂尖人才。不確定格雷格是否完全明白這一點(diǎn)。
---- OpenAI 是一家非營(yíng)利性人工智能研究公司，其目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能，且不受產(chǎn)生財(cái)務(wù)回報(bào)義務(wù)的束縛。
我們公司的根本理念是將人工智能技術(shù)作為所有人類個(gè)體意志的延伸，盡可能廣泛地傳播，在自由精神的指導(dǎo)下，確保數(shù)字智能的力量不會(huì)過(guò)度集中，并朝著人類總體所期望的未來(lái)發(fā)展。
這個(gè)項(xiàng)目的成果尚不確定，而且薪酬也比其他公司提供的低，但我們相信目標(biāo)和結(jié)構(gòu)是正確的。我們希望這對(duì)該領(lǐng)域的佼佼者來(lái)說(shuō)是最重要的。
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?12?月?8?日
這怎么樣？
__
OpenAI 是一家非營(yíng)利性人工智能研究公司，其目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能，且不受產(chǎn)生財(cái)務(wù)回報(bào)義務(wù)的束縛。
由于我們沒有任何財(cái)務(wù)義務(wù)，我們可以專注于最大限度地發(fā)揮人類的積極影響，并盡可能廣泛地傳播人工智能技術(shù)。我們認(rèn)為人工智能應(yīng)該是個(gè)人意志的延伸，本著自由的精神，不應(yīng)集中在少數(shù)人的手中。
這個(gè)項(xiàng)目的成果尚不確定，而且薪酬也比其他公司提供的低，但我們相信目標(biāo)和結(jié)構(gòu)是正確的。我們希望這對(duì)該領(lǐng)域的佼佼者來(lái)說(shuō)是最重要的。
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?12?月?11?日
剛剛得到消息……
明天，deepmind 將向 openAI 中的每個(gè)人提供大量反報(bào)價(jià)，試圖消滅它。
你對(duì)我主動(dòng)給每個(gè)人每年增加 10-20 萬(wàn)的薪酬有什么異議嗎？我認(rèn)為他們都是為了這里的使命而努力，但這對(duì)每個(gè)人來(lái)說(shuō)都是一個(gè)很好的信號(hào)，我們會(huì)隨著時(shí)間的推移照顧他們。
聽起來(lái) DeepMind 正計(jì)劃為此發(fā)動(dòng)戰(zhàn)爭(zhēng)，他們實(shí)際上一直在 NIPS 上逼迫人們。
伊隆·馬斯克致薩姆·奧特曼?- 2015?年?12?月?11?日
伊利亞 （Ilya） 是否已經(jīng)堅(jiān)定地表示同意了呢？
如果有人有任何疑問，我也很樂意親自打電話給他們。我已經(jīng)告訴艾瑪，這是我每天 24 小時(shí)的首要任務(wù)。
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?12?月?11?日
是的，承諾了，承諾了。只是做出了承諾。
伊隆·馬斯克致薩姆·奧特曼?- 2015?年?12?月?11?日
驚人的
薩姆·奧特曼致伊隆·馬斯克?- 2015?年?12?月?11?日
每個(gè)人都感覺很好，說(shuō)著“接受 DeepMind 的提議吧，可惜他們沒有‘做正確的事’”這樣的話
太平洋標(biāo)準(zhǔn)時(shí)間下午 1：30 發(fā)布新聞
伊隆·馬斯克致：Ilya Sutskever、Pamela Vagata、Vicki Cheung、Diederik Kingma、Andrej Karpathy、John D． Schulman、Trevor Blackwell、Greg Brockman（抄送：Sam Altman）- 2015?年?12?月?11?日
祝賀你有一個(gè)美好的開始！
你們所熟知的組織在人數(shù)和武器上都遠(yuǎn)遠(yuǎn)落后于我們，但我們有優(yōu)勢(shì)，這對(duì)我們來(lái)說(shuō)很重要。我喜歡這種勝算。
我們最重要的考慮是招募最優(yōu)秀的人才。任何公司的產(chǎn)出都是公司內(nèi)部人員的矢量和。如果我們能夠隨著時(shí)間的推移吸引最有才華的人，并且我們的方向正確，那么 OpenAI 就會(huì)獲勝。
為此，請(qǐng)認(rèn)真考慮誰(shuí)應(yīng)該加入。如果我能在招聘或其他方面提供幫助，我愿意為您效勞。我建議密切關(guān)注那些尚未完成研究生甚至本科教育但顯然才華橫溢的人。最好在他們?nèi)〉猛黄浦熬妥屗麄兗尤搿?/p>
期待共同合作，
伊隆
格雷格·布羅克曼致伊隆·馬斯克（抄送：薩姆·奧特曼）- 2016?年?2?月?21?日
大家好，
我們目前正在進(jìn)行公司成立后的第一輪全職工作。顯然，做好這些工作非常重要，因?yàn)橛绊懯情L(zhǎng)期的。我還不太愿意自己做決定，希望得到任何指導(dǎo)。
以下是我們目前正在做的事情：
創(chuàng)始團(tuán)隊(duì)：27.5 萬(wàn)美元薪水 + 25bps 的 YC 股票
- 還可以選擇永久轉(zhuǎn)換為 12.5 萬(wàn)美元年度獎(jiǎng)金或等值的 YC 或 SpaceX 股票。我不知道是否有人接受了我們的提議。
新報(bào)價(jià)：年薪 17.5 萬(wàn)美元 + 年薪 12.5 萬(wàn)美元 || 等值 YC 或 SpaceX 股票。獎(jiǎng)金取決于績(jī)效評(píng)估，您可能獲得 0% 或遠(yuǎn)高于 100% 的獎(jiǎng)金。
特殊情況：gdb + Ilya + Trevor
該計(jì)劃是保持基本不變的工資，并使用獎(jiǎng)金倍數(shù)作為獎(jiǎng)勵(lì)表現(xiàn)出色的人的方式。
一些說(shuō)明：
- 我們對(duì)股票變現(xiàn)前的 8 年使用 20% 的年化折扣，12.5 萬(wàn)美元的獎(jiǎng)金相當(dāng)于 YC 的 12 個(gè)基點(diǎn)。因此最終價(jià)值更像是 75 萬(wàn)美元。這個(gè)數(shù)字聽起來(lái)更令人印象深刻，盡管顯然很難準(zhǔn)確估值。
- 創(chuàng)始團(tuán)隊(duì)最初每人獲得 17.5 萬(wàn)美元的薪酬。實(shí)驗(yàn)室成立后的第二天，我們主動(dòng)將每個(gè)人的薪水提高了 10 萬(wàn)美元，告訴他們，一旦實(shí)驗(yàn)室取得成功，我們將為他們提供經(jīng)濟(jì)支持，并要求他們承諾忽略所有反要約，相信我們會(huì)為他們提供資金。
- 我們目前正在采訪 Brain 的 Ian Goodfellow，他是我們所沒有的領(lǐng)域中兩位頂尖科學(xué)家之一（另一位是 DeepMind 的忠實(shí)擁護(hù)者 Alex Graves）。他是 Brain 中最好的人，所以 Google 會(huì)爭(zhēng)取他。我們將他納入創(chuàng)始團(tuán)隊(duì)的報(bào)價(jià)中。
一些薪資數(shù)據(jù)點(diǎn)：
- DeepMind 為約翰提供了每年 25 萬(wàn)美元的全額薪酬，他認(rèn)為自己可以輕松地將薪酬談至 30 萬(wàn)美元。
- FAIR 口頭向 Wojciech 提供約 125 萬(wàn)美元/年薪（但沒有具體信件）
- Andrew Tulloch 在 FB 的年薪為 80 萬(wàn)美元。（很多是可兌現(xiàn)的股票。）
- Ian Goodfellow 目前在 Google 的年薪為 16.5 萬(wàn)美元現(xiàn)金 + 60 萬(wàn)美元股票。
- 蘋果有點(diǎn)絕望，向人們提供 55 萬(wàn)美元現(xiàn)金（可能加上股票）。我認(rèn)為沒有哪個(gè)好人會(huì)答應(yīng)。
我心中有兩個(gè)具體的候選人：
- 安德魯幾乎要說(shuō)“是”了。但他對(duì)大幅減薪感到擔(dān)憂。
- Ian 表示他主要不關(guān)心錢，但灣區(qū)物價(jià)昂貴 / 他想確保自己能買得起房子。我不知道如果 Google 開始向 Ilya 透露他們給出的數(shù)字，會(huì)發(fā)生什么。
我的直接問題是：
1． 我預(yù)計(jì)安德魯會(huì)嘗試談判。我們是否應(yīng)該堅(jiān)持他的提議，并告訴他只有當(dāng)他足夠興奮接受這種減薪時(shí)才加入（并且其他人留下了更多）？
2． 伊恩將于周三接受面試并（我確信）收到錄用通知。我們應(yīng)該將他的錄用通知視為最終決定，還是愿意根據(jù) Google 的錄用通知做出調(diào)整？
3． 根據(jù) 1 + 2 的答案，我想知道這種固定策略是否合理。如果我們保留它，我覺得我們必須真正說(shuō)服人們接受獎(jiǎng)金乘數(shù)。也許一個(gè)選擇是使用簽約獎(jiǎng)金作為杠桿來(lái)讓人們簽約？
4． 非常次要，但我們的實(shí)習(xí)生薪酬也低于市場(chǎng)水平：每月 9000 美元。（FB 提供 9000 美元 + 免費(fèi)住房，谷歌提供全包 11000 美元/月。）薪酬對(duì)實(shí)習(xí)生來(lái)說(shuō)遠(yuǎn)不如對(duì)全職員工重要，因?yàn)榻?jīng)驗(yàn)是首要的。但我認(rèn)為我們可能已經(jīng)失去了一位對(duì)此持懷疑態(tài)度的候選人?？紤]到每小時(shí)的薪酬比全職員工低得多，我們是否應(yīng)該考慮增加薪酬？
我很樂意隨時(shí)聊聊此事。
– gbd
伊隆·馬斯克致格雷格·布羅克曼（抄送：薩姆·奧特曼）- 2016?年?2?月?22?日
我們需要盡一切努力來(lái)獲得頂尖人才。讓我們更上一層樓。如果在某個(gè)時(shí)候我們需要重新審視現(xiàn)有員工的薪酬，那也沒關(guān)系。
要么我們能找到世界上最優(yōu)秀的人才，要么我們就會(huì)被 Deepmind 打敗。
無(wú)論需要做什么，只要能培養(yǎng)出頂尖人才，我都愿意。
Deepmind 讓我精神壓力極大。如果他們贏了，那對(duì)他們一心一意統(tǒng)治世界的理念來(lái)說(shuō)將是一個(gè)壞消息。他們顯然正在取得重大進(jìn)展，而且他們應(yīng)該取得進(jìn)展，因?yàn)槟抢锏娜瞬潘胶芨摺?/p>
格雷格·布羅克曼致伊隆·馬斯克（抄送：薩姆·奧特曼）- 2016?年?2?月?22?日
聽得清清楚楚。聽起來(lái)是個(gè)好計(jì)劃。計(jì)劃繼續(xù)與 sama 就具體事宜進(jìn)行合作，但如果您想隨時(shí)了解最新情況，請(qǐng)告訴我。
– gbd
Greg Brockman致?Elon Musk，（抄送：Sam Teller）- 2016?年?3?月?21?日
嗨，Elon，
我接受了 Wired 雜志關(guān)于 OpenAI 文章的采訪，事實(shí)核查人員向我發(fā)送了一些問題。我想與您就兩個(gè)問題進(jìn)行同步，以確保它們聽起來(lái)合理/與您所說(shuō)的一致：
OpenAI 是否正在放棄其全部研究成果？
無(wú)論何時(shí)，我們都會(huì)采取最有可能造福世界的行動(dòng)。從短期來(lái)看，我們認(rèn)為最好的方法是放棄我們的研究成果。但從長(zhǎng)遠(yuǎn)來(lái)看，這可能不是最好的方法：例如，最好不要立即分享一項(xiàng)潛在的危險(xiǎn)技術(shù)。在任何情況下，我們都會(huì)放棄我們所有研究成果，并希望這些成果歸于全世界，而不是任何一家機(jī)構(gòu)。
OpenAI 是否認(rèn)為，讓盡可能多的人擁有最復(fù)雜的人工智能是人類防止過(guò)于聰明的人工智能落入私人手中、以某種方式向世界發(fā)動(dòng)攻擊以達(dá)到惡意目的的最好機(jī)會(huì)？
我們相信，利用人工智能來(lái)擴(kuò)展個(gè)人意志是確保人工智能保持有益的最有希望的途徑。這很有吸引力，因?yàn)槿绻性S多具有大致相同能力的代理，它們就可以控制任何一個(gè)壞人。但我不會(huì)聲稱我們擁有所有的答案：相反，我們正在建立一個(gè)既能尋找這些答案，又能采取最佳行動(dòng)的組織，無(wú)論答案是什么。
謝謝！
– gbd
伊隆·馬斯克致格雷格·布羅克曼（抄送：薩姆·特勒）?- 2016?年?3?月?21?日
聽起來(lái)不錯(cuò)
薩姆·特勒致伊隆·馬斯克——2016?年?4?月?27?日
[亞歷克斯·湯普森轉(zhuǎn)發(fā)給伊隆·馬斯克的消息]
嗨，薩姆，
希望您今天過(guò)得愉快，很抱歉打斷您問另一個(gè)問題。Maureen?想看看馬斯克先生對(duì)扎克伯格先生自采訪以來(lái)的一些公開評(píng)論有何反應(yīng)。特別是，他將馬斯克先生稱為“歇斯底里的人”，因?yàn)樗麑?duì)人工智能感到恐懼，并教訓(xùn)那些“散布恐慌”的人人工智能的危險(xiǎn)。我在下面提供了扎克伯格先生評(píng)論的更多細(xì)節(jié)。
最近在德國(guó)被問及馬斯克的擔(dān)憂時(shí)，扎克伯格稱其為“歇斯底里”，并稱贊了人工智能的突破，其中包括一個(gè)系統(tǒng)，他聲稱該系統(tǒng)可以通過(guò)手機(jī)對(duì)皮膚病變進(jìn)行癌癥診斷，準(zhǔn)確度堪比“最好的皮膚科醫(yī)生”。
他說(shuō)：“除非我們真的把事情搞砸了，否則機(jī)器永遠(yuǎn)都是服從的，而不是“超人”。
“我認(rèn)為我們可以開發(fā)人工智能，讓它為我們工作并幫助我們……有些人散布恐慌，說(shuō)人工智能會(huì)帶來(lái)巨大的危險(xiǎn)，但在我看來(lái)，這種說(shuō)法過(guò)于牽強(qiáng)，而且比起由于疾病蔓延、暴力等原因造成的災(zāi)難，這種可能性要小得多?！被蛘哒缢谒脑路莸?Facebook?開發(fā)者大會(huì)上表達(dá)的理念：“選擇希望而不是恐懼?！?/p>
——
亞歷克斯·湯普森
《紐約時(shí)報(bào)》
伊隆·馬斯克致薩姆·特勒?- 2016?年?4?月?27?日
歷史清楚地表明，強(qiáng)大的技術(shù)是一把雙刃劍。人工智能可以說(shuō)是所有技術(shù)中最強(qiáng)大的，但如果你認(rèn)為它只有一把劍，那就太愚蠢了。
微軟的人工智能聊天機(jī)器人最近的例子表明，人工智能可以迅速產(chǎn)生極其負(fù)面的影響。明智的做法是謹(jǐn)慎對(duì)待人工智能的出現(xiàn)，確保其權(quán)力得到廣泛分配，而不是由任何一家公司或個(gè)人控制。
這就是我們創(chuàng)建 OpenAI 的原因。
Sam Altman致?Elon Musk，（抄送：Sam Teller）- 2016?年?9?月?16?日
以下是微軟的條款。6000萬(wàn)美元的計(jì)算費(fèi)用為1000萬(wàn)美元，以及我們對(duì)他們?cè)谠浦胁渴鸬膬?nèi)容的意見。如果您有任何反饋，請(qǐng)告訴我。
薩姆
Microsoft/OpenAI 條款
伊隆·馬斯克致薩姆·奧特曼（抄送：薩姆·特勒）- 2016?年?9?月?16?日
這實(shí)際上讓我感到惡心。這太糟糕了，這正是我對(duì)他們的期望。
CNTK v2、Azure Batch?和?HD-Insight?的評(píng)估、推廣和使用：?OpenAI?將評(píng)估?CNTK v2、Azure Batch?和?HD-Insight?的研究成果，并就?Microsoft?如何改進(jìn)這些產(chǎn)品提供反饋。OpenAI?將與?Microsoft?合作，向其研究和開發(fā)者生態(tài)系統(tǒng)推廣這些產(chǎn)品，并將?Microsoft Azure?作為其首選的公共云提供商。OpenAI?將自行決定采用這些產(chǎn)品，只要這對(duì)其研究有意義
假設(shè)我們?cè)敢庾屛④泴⒖臻e的計(jì)算時(shí)間捐贈(zèng)給 OpenAI，并讓大家知道這一點(diǎn)，但我們不想簽訂任何合同或同意“宣傳”。他們可以隨時(shí)關(guān)閉我們的服務(wù)，我們也可以隨時(shí)離開。
Sam Altman致?Elon Musk，（抄送：Sam Teller）- 2016?年?9?月?16?日
我讀完該部分后也有同樣的反應(yīng)，他們已經(jīng)同意放棄。
我們最初只是希望捐贈(zèng)太空周期，但團(tuán)隊(duì)希望更確定是否有可用容量。但我會(huì)與微軟合作，確保沒有任何附加條件
伊隆·馬斯克致薩姆·奧特曼（抄送：薩姆·特勒）- 2016?年?9?月?16?日
我們應(yīng)該低調(diào)行事。無(wú)論如何都不確定。沒有合同。
Sam Altman致?Elon Musk，（抄送：Sam Teller）- 2016?年?9?月?16?日
好的，看看我能從這個(gè)方向得到多少錢。
薩姆·特勒致伊隆·馬斯克——2016?年?9?月?20?日
微軟現(xiàn)在愿意以 5000 萬(wàn)美元的價(jià)格簽訂該協(xié)議，并“由 OpenAI 自行決定采取誠(chéng)意行動(dòng)”，并擁有隨時(shí)終止合同的完全權(quán)利。無(wú)需宣傳。不附加任何條件?？雌饋?lái)不像是微軟蹩腳的營(yíng)銷棋子?？梢岳^續(xù)嗎？
伊隆·馬斯克致薩姆·特勒?– 2016?年?9?月?21?日
如果他們不在主動(dòng)消息傳遞中使用這個(gè)功能，我沒意見。如果看起來(lái)不像微軟的營(yíng)銷婊子，那么價(jià)值將遠(yuǎn)遠(yuǎn)超過(guò) 5000 萬(wàn)美元。
伊利亞·蘇茨克韋爾致伊隆·馬斯克、格雷格·布羅克曼?- 2017?年?7?月?20?日
- 機(jī)械手現(xiàn)在可以在模擬中解決魔方：
實(shí)體機(jī)器人將于九月做同樣的事情
- 1v1 機(jī)器人不再可利用
它不再能被“非常規(guī)”策略打敗
有望在一個(gè)月內(nèi)擊敗所有人類
- 運(yùn)動(dòng)競(jìng)技機(jī)器人：
- 發(fā)布了一個(gè)可以同時(shí)從各個(gè)角度欺騙相機(jī)的對(duì)抗樣本：
- DeepMind 直接使用了我們的一種算法來(lái)產(chǎn)生他們的跑酷結(jié)果：
DeepMind 的成果：
DeepMind 的技術(shù)論文明確指出他們直接使用了我們的算法
- 接下來(lái)：
設(shè)計(jì)營(yíng)利結(jié)構(gòu)
與 Cerebras 協(xié)商合并條款
對(duì) Cerebras 進(jìn)行更多盡職調(diào)查
Shivon Zilis致埃隆·馬斯克（抄送：Sam Teller）- 2017?年?8?月?28?日
伊隆，
正如我提到的，Greg 要求在本周末討論一些事情。Ilya 最終加入了，他們幾乎分享了他們?nèi)栽谒伎嫉乃惺虑椤＿@是那次隨機(jī)談話的提煉……歸結(jié)為 7 個(gè)未解答的問題，下面是他們的評(píng)論。請(qǐng)注意，我并不提倡任何這些，只是組織和分享我聽到的信息。
1． 短期控制結(jié)構(gòu)？
- 是否要求絕對(duì)控制？他們想知道，如果其他人（不僅僅是他們?nèi)齻€(gè)人，也許是更廣泛的董事會(huì)）對(duì)方向意見不一，那么是否存在某種創(chuàng)造性的否決條款？
2． 控制和過(guò)渡的持續(xù)時(shí)間？
-*不可協(xié)商*的條款似乎是一項(xiàng)鐵定的協(xié)議，即如果創(chuàng)建了 AGI，則不會(huì)讓任何一個(gè)人擁有絕對(duì)控制權(quán)。滿足這一條件意味著，無(wú)論他們?nèi)税l(fā)生什么，都可以保證在 2-3 年的初始階段后分配對(duì)公司的權(quán)力。
3． 花費(fèi)的時(shí)間？
-Elon 想花多少時(shí)間在這上面？他實(shí)際上能花多少時(shí)間在這上面？時(shí)間范圍是多長(zhǎng)？是每周一小時(shí)，還是十小時(shí)，還是介于兩者之間？
4． 花費(fèi)的時(shí)間該如何處理？
-他們真的不知道他喜歡在其他公司如何度過(guò)時(shí)間，也不知道他想如何花時(shí)間在這件事上。Greg 和 Ilya 相信他們可以很好地構(gòu)建 SW/ML 方面。他們對(duì)硬件方面沒有信心。他們似乎希望 Elon 能花一些時(shí)間在這方面，因?yàn)檫@是他們的弱點(diǎn)，但他們確實(shí)希望他在他感興趣的所有領(lǐng)域都能得到幫助。
5． 花費(fèi)的時(shí)間與控制量的比例？
-他們喜歡時(shí)間少/控制少，喜歡時(shí)間多/控制多，不喜歡時(shí)間少/控制多。他們擔(dān)心如果花費(fèi)的時(shí)間太少，就沒有足夠的時(shí)間討論相關(guān)背景信息，從而做出正確的決定。
6． 股權(quán)分割？
-Greg仍然本能地堅(jiān)持平等分配。我個(gè)人不同意他的這種本能，他要求并愿意聽取其他可以用來(lái)重新調(diào)整他的心理模型的東西。
-Greg指出，Ilya通過(guò)在 Google 上展示自己的賺錢潛力，在某種程度上已經(jīng)做出了數(shù)百萬(wàn)美元的貢獻(xiàn)。
-他們擔(dān)心的一個(gè)問題是擬議的員工數(shù)量太少。
7． 資本化策略？
-他們的本能是一開始就籌集超過(guò) 1 億美元的資金。他們認(rèn)為，僅他們所需的數(shù)據(jù)中心就需要這么多資金，因此他們更愿意籌集更多資金。
要點(diǎn)：
不確定這些是否可行，但僅從聽取他們拋出的所有數(shù)據(jù)點(diǎn)來(lái)看，以下內(nèi)容可以滿足他們當(dāng)前的棘手問題：
-每周花費(fèi) 5-10 小時(shí)，幾乎完全掌控，或者花費(fèi)更少的時(shí)間，更少的控制。
- 針對(duì)極端情況（不僅僅是 Greg / Sam / Ilya）具有創(chuàng)造性的短期覆蓋。
-無(wú)論 Greg / Sam / Ilya 的命運(yùn)如何，一份嚴(yán)格的 2-3 年少數(shù)股權(quán)控制協(xié)議。
- 初始融資 2 億至 10 億美元。
-Greg 和 Ilya 的股份最終比 Elon 的股份高出 1/10，但差別并不大（這仍然是最模糊的）。
-增加員工隊(duì)伍。
Elon Musk致?Shivon Zilis，（抄送：Sam Teller）- 2017?年?8?月?28?日
這太煩人了。請(qǐng)鼓勵(lì)他們?nèi)?chuàng)業(yè)。我受夠了。
Ilya Sutskever致?Elon Musk、Sam Altman（抄送：Greg Brockman、Sam Teller、Shivon Zilis）- 2017?年?9?月?20?日
埃隆、薩姆、
這個(gè)過(guò)程是我和格雷格參與過(guò)的最高風(fēng)險(xiǎn)對(duì)話，如果項(xiàng)目成功，它將成為世界上最高的風(fēng)險(xiǎn)對(duì)話。對(duì)我們所有人來(lái)說(shuō)，這也是一次非常私人的對(duì)話。
昨天，當(dāng)我們?cè)诳紤]根據(jù)非招攬協(xié)議做出最終承諾時(shí)，我們意識(shí)到我們犯了一個(gè)錯(cuò)誤。我們有幾個(gè)重要的擔(dān)憂，但我們還沒有向你們提出。我們沒有提出這些擔(dān)憂，因?yàn)槲覀兒ε拢何覀兒ε聯(lián)p害我們的關(guān)系，害怕你們看不起我們，或者失去你們這個(gè)合作伙伴。
我們的擔(dān)憂有可能無(wú)法解決。我們真心希望情況不會(huì)如此，但我們知道，如果我們現(xiàn)在不討論這些問題，我們肯定會(huì)失敗。我們希望我們能夠解決這些問題，并繼續(xù)共同努力。
馬斯克：
我們真的想和你們一起工作。我們相信，如果我們聯(lián)手，我們完成任務(wù)的成功率就會(huì)最大。我們的優(yōu)勢(shì)最大。這是毫無(wú)疑問的。我們非?？释湍銈円黄鸸ぷ鳎覀兒軜芬夥艞壒蓹?quán)、個(gè)人控制權(quán)，讓自己容易被解雇——無(wú)論需要付出什么代價(jià)來(lái)和你們一起工作。
但我們意識(shí)到，我們?cè)谒伎伎刂茖?duì)世界的影響時(shí)過(guò)于粗心。由于這看起來(lái)過(guò)于傲慢，我們并沒有認(rèn)真考慮成功的影響。
當(dāng)前的結(jié)構(gòu)為您提供了一條道路，最終您將單方面絕對(duì)控制 AGI。您表示您不想控制最終的 AGI，但在這次談判中，您向我們表明絕對(duì)控制對(duì)您來(lái)說(shuō)非常重要。
舉個(gè)例子，你說(shuō)你需要成為新公司的首席執(zhí)行官，這樣每個(gè)人都會(huì)知道你才是負(fù)責(zé)人，盡管你也說(shuō)過(guò)你討厭擔(dān)任首席執(zhí)行官并且寧愿不擔(dān)任首席執(zhí)行官。
因此，我們擔(dān)心，隨著公司真正朝著 AGI 邁進(jìn)，你會(huì)選擇保留對(duì)公司的絕對(duì)控制權(quán)，盡管你目前的意圖并非如此。我們不同意你的說(shuō)法，即我們離開的能力是我們最大的力量，因?yàn)橐坏┕菊嬲呱?AGI 的軌道，公司將比任何個(gè)人都重要得多。
OpenAI 的目標(biāo)是讓未來(lái)更美好，避免 AGI 獨(dú)裁。你擔(dān)心 Demis 會(huì)創(chuàng)造一個(gè) AGI 獨(dú)裁。我們也是。因此，創(chuàng)建一個(gè)你可以選擇成為獨(dú)裁者的結(jié)構(gòu)是一個(gè)壞主意，尤其是考慮到我們可以創(chuàng)建其他一些可以避免這種可能性的結(jié)構(gòu)。
我們還有一些較小的擔(dān)憂，但我們認(rèn)為在這里提一下是有用的：
如果我們決定收購(gòu) Cerebras，我強(qiáng)烈認(rèn)為這將通過(guò)特斯拉來(lái)完成。但如果我們也可以在 OpenAI 內(nèi)部完成，為什么要這樣做呢？具體來(lái)說(shuō)，令人擔(dān)憂的是，特斯拉有責(zé)任為股東實(shí)現(xiàn)股東回報(bào)最大化，這與 OpenAI 的使命不一致。因此，總體結(jié)果可能對(duì) OpenAI 來(lái)說(shuō)并不是最佳的。
我們認(rèn)為，非營(yíng)利組織 OpenAI 之所以成功，是因?yàn)槟愫?Sam 都參與其中。Sam 真正起到了平衡你們的作用，這非常有成效。至少到目前為止，Greg 和我都不太能平衡你們。我們覺得，即使是這次談判也證明了這一點(diǎn)，我們準(zhǔn)備將長(zhǎng)期 AGI 控制問題掩蓋起來(lái)，而 Sam 則堅(jiān)持自己的立場(chǎng)。
薩姆：
當(dāng) Greg 和我陷入困境時(shí)，你總能給出深刻而正確的答案。你一直在非常深入和徹底地思考如何解決這個(gè)問題。Greg 和我了解技術(shù)執(zhí)行，但我們不知道結(jié)構(gòu)決策在未來(lái)一個(gè)月、一年或五年內(nèi)會(huì)如何發(fā)揮作用。
但在整個(gè)過(guò)程中，我們不能完全信任您的判斷，因?yàn)槲覀儾涣私饽某杀竞瘮?shù)。
我們不明白為什么 CEO 頭銜對(duì)你如此重要。你陳述的理由已經(jīng)改變，很難真正理解是什么在推動(dòng)它。
AGI 真的是你的主要?jiǎng)訖C(jī)嗎？它與你的政治目標(biāo)有何關(guān)聯(lián)？你的思維過(guò)程隨著時(shí)間的推移發(fā)生了怎樣的變化？
格雷格和伊利亞：
在這次談判中，我們也犯了不少錯(cuò)誤，下面我們將列出其中一些（Elon 和 Sam，我相信你們還有很多要補(bǔ)充的……）：
在這次談判中，我們意識(shí)到，我們讓 2-3 年后的經(jīng)濟(jì)回報(bào)來(lái)主導(dǎo)我們的決策。這就是我們沒有強(qiáng)行控制的原因——我們認(rèn)為我們的股權(quán)已經(jīng)足夠好了，所以為什么要擔(dān)心呢？但這種態(tài)度是錯(cuò)誤的，就像人工智能專家的態(tài)度一樣，他們不認(rèn)為人工智能安全是一個(gè)問題，因?yàn)樗麄儾⒉徽娴南嘈潘麄儠?huì)建立 AGI。
我們?cè)谡勁兄袥]有說(shuō)出全部真相。我們有自己的借口，但這損害了談判進(jìn)程，我們可能會(huì)因此失去 Sam 和 Elon。
我們已經(jīng)承擔(dān)了足夠多的負(fù)擔(dān)，我們認(rèn)為開會(huì)討論這個(gè)問題非常重要。如果我們不這樣做，我們的合作就不會(huì)成功。我們四個(gè)人今天能開會(huì)嗎？如果我們都說(shuō)實(shí)話，解決問題，我們創(chuàng)建的公司將更有可能承受它將經(jīng)歷的強(qiáng)大力量。
- 格雷格和伊利亞
伊隆·馬斯克致伊利亞·蘇茨克韋爾?（抄送：薩姆·奧特曼；格雷格·布羅克曼；薩姆·特勒；希馮·齊利斯） - 2017?年?9?月?20?日?（下午?2：17）
伙計(jì)們，我受夠了。這是最后一根稻草。要么自己做點(diǎn)什么，要么繼續(xù)將 OpenAI 作為非營(yíng)利組織。除非你下定決心留下來(lái)，否則我將不再資助 OpenAI，否則我就是個(gè)傻瓜，基本上是在為你提供免費(fèi)資金來(lái)創(chuàng)建一家初創(chuàng)公司。討論結(jié)束了
伊隆·馬斯克致伊利亞·蘇茨克韋爾、薩姆·奧特曼（抄送：格雷格·布羅克曼、薩姆·特勒、希馮·齊利斯）?- 2017?年?9?月?20?日（下午?3：08）
需要明確的是，這并不是要求接受之前討論內(nèi)容的最后通牒。這些內(nèi)容不再存在。
Sam Altman致?Elon Musk、Ilya Sutskever（抄送：Greg Brockman、Sam Teller、Shivon Zilis）- 2017?年?9?月?21?日
我仍然對(duì)非營(yíng)利結(jié)構(gòu)充滿熱情！
Shivon Zilis致?Elon Musk，（抄送：Sam Teller）- 2017?年?9?月?22?日
嗨，Elon，
簡(jiǎn)單來(lái)說(shuō)，Greg 和 Ilya 表示他們希望繼續(xù)保持非盈利結(jié)構(gòu)。他們知道他們需要提供保證，保證他們不會(huì)去做其他事情來(lái)維持這種結(jié)構(gòu)。
還沒有與奧特曼交談，但他要求今天下午進(jìn)行交談，因此我會(huì)報(bào)告我聽到的任何消息。
如果我能提供任何幫助請(qǐng)告訴我。
伊隆·馬斯克致?Shivon Zilis（抄送：Sam Teller）——2017?年?9?月?22?日
好的
Shivon Zilis致?Elon Musk，（抄送：Sam Teller）- 2017?年?9?月?22?日
來(lái)自?shī)W特曼：
結(jié)構(gòu)：非常適合保持非營(yíng)利性并繼續(xù)支持它。
信任：承認(rèn)自己在此過(guò)程中對(duì) Greg 和 Ilya 失去了很多信任。感覺他們傳遞的信息不一致，有時(shí)還顯得幼稚。
停工：?Sam 告訴 Greg 和 Ilya，他需要離開 10 天來(lái)思考。他需要弄清楚自己能信任他們多少，以及他有多想與他們合作。他說(shuō)他會(huì)在那之后回來(lái)，弄清楚他想花多長(zhǎng)時(shí)間。
籌款：?Greg 和 Ilya 相信，如果做出明確的努力，捐款可以實(shí)現(xiàn)數(shù)億美元。Sam 認(rèn)為有一條通往數(shù)千萬(wàn)美元的明確途徑，但更多尚待確定。他確實(shí)提到 Holden 對(duì)營(yíng)利性轉(zhuǎn)型感到惱火，如果 OpenAI 保持非營(yíng)利性，他可能會(huì)提供更多資金，但尚未堅(jiān)定承諾。Sam 給出了一個(gè)數(shù)字，如果實(shí)現(xiàn)這一目標(biāo)，他將獲得 1 億美元。
溝通：?Sam 對(duì) Greg 和 Ilya 在整個(gè)過(guò)程中讓整個(gè)團(tuán)隊(duì)了解最新情況感到困擾。感覺這分散了團(tuán)隊(duì)的注意力。另一方面，顯然在最后一天幾乎每個(gè)人都被告知營(yíng)利結(jié)構(gòu)不會(huì)發(fā)生，他對(duì)此感到高興，至少因?yàn)樗皇窍Ｍ麍F(tuán)隊(duì)再次低調(diào)行事。
希馮
Sam Altman致?Elon Musk（抄送：Greg Brockman、Ilya Sutskever、Sam Teller、Shivon Zilis）- 2018?年?1?月?21?日
伊隆—
注意，與一些安全團(tuán)隊(duì)進(jìn)行了交談，他們對(duì) ICO 以及未來(lái)可能產(chǎn)生的意外影響有很多擔(dān)憂。
計(jì)劃明天與整個(gè)團(tuán)隊(duì)交談并征求意見。我要強(qiáng)調(diào)保密的必要性，但我認(rèn)為獲得認(rèn)同并讓人們有機(jī)會(huì)盡早發(fā)表意見非常重要。
薩姆
伊隆·馬斯克致薩姆·奧特曼（抄送：Greg Brockman、Ilya Sutskever、Sam Teller、Shivon Zilis）- 2018?年?1?月?21?日
絕對(duì)地
Andrej Karpathy致?Elon Musk，（抄送：Shivon Zilis）- 2018?年?1?月?31?日
ICLR 會(huì)議（深度學(xué)習(xí)領(lǐng)域的頂級(jí)會(huì)議（NIPS 規(guī)模更大，但更分散））發(fā)布了論文被接受/被拒絕的決定，有人制作了一些精美的圖表，顯示了當(dāng)前深度學(xué)習(xí)/人工智能研究的進(jìn)展。這是一個(gè)不完美的衡量標(biāo)準(zhǔn)，因?yàn)椴⒎敲考夜径紩?huì)優(yōu)先考慮論文發(fā)表，但它具有指示性。
以下圖表顯示了來(lái)自任何機(jī)構(gòu)的論文總數(shù)（按口頭/海報(bào)/研討會(huì)/拒絕細(xì)分）：
[劇情圖片已撤回]
長(zhǎng)話短說(shuō)，谷歌以 83 篇論文提交量占據(jù)主導(dǎo)地位。學(xué)術(shù)機(jī)構(gòu)（伯克利 / 斯坦福 / 卡內(nèi)基梅隆大學(xué) / 麻省理工學(xué)院）緊隨其后，各有 20-30 篇論文提交量。
只是覺得這是今天所有活動(dòng)的有趣快照。
—安德烈
伊隆·馬斯克致?Greg Brockman、Ilya Sutskever、Sam Altman（抄送：Sam Teller、Shivon Zilis，轉(zhuǎn)寄：Andrej Karpathy）—2018?年?1?月?31?日
相對(duì)于谷歌，OpenAI 走上了一條注定失敗的道路。顯然，需要立即采取有力的行動(dòng)，否則除了谷歌之外的所有人都將變得無(wú)關(guān)緊要。
我考慮過(guò) ICO 的做法，但不會(huì)支持。在我看來(lái)，這只會(huì)導(dǎo)致 OpenAI 和與 ICO 相關(guān)的每個(gè)人信譽(yù)大打折扣。如果某件事看起來(lái)好得令人難以置信，那它就是假的。在我看來(lái)，這是一次不明智的轉(zhuǎn)移。
我能想到的唯一途徑是 OpenAI 的大規(guī)模擴(kuò)張和 Tesla AI 的大規(guī)模擴(kuò)張。也許兩者同時(shí)進(jìn)行。前者需要大幅增加捐贈(zèng)資金，并需要有高度可信的人加入我們的董事會(huì)。目前的董事會(huì)狀況非常薄弱。
明天我會(huì)安排一個(gè)時(shí)間讓我們談?wù)?。要清楚的是，我非常尊重你的能力和成就，但我?duì)事情的處理方式并不滿意。這就是為什么我最近幾個(gè)月與 OpenAI 的合作一直很困難。要么我們解決問題，我的參與度會(huì)大大提高，要么我們不會(huì)解決問題，我的參與度會(huì)降到接近零，并公開減少我的聯(lián)系。我不會(huì)處于這樣一種境地：我的影響力和時(shí)間的認(rèn)知與現(xiàn)實(shí)不符。
埃隆·馬斯克?（Elon Musk）致安德烈·卡帕蒂?（Andrej Karpathy） - 2018?年?1?月?31?日
供參考
您認(rèn)為什么才合理？如果更好的話，我很樂意通過(guò)電話交談。
安德烈·卡帕蒂?（Andrej Karpathy）致埃隆·馬斯克?（Elon Musk） - 2018?年?1?月?31?日
不幸的是，在 AI 前沿領(lǐng)域工作成本高昂。例如，DeepMind 在 2016 年的運(yùn)營(yíng)費(fèi)用約為 2.5 億美元（不包括計(jì)算費(fèi)用）。隨著他們團(tuán)隊(duì)的不斷壯大，現(xiàn)在的運(yùn)營(yíng)費(fèi)用可能約為每年 5 億美元。但 Alphabet 在 2016 年報(bào)告的凈收入約為 200 億美元，因此即使 DeepMind 自己沒有收入，成本仍然相當(dāng)?shù)土?。除?DeepMind，谷歌還有谷歌大腦、研究和云。還有 TensorFlow、TPU，他們擁有大約三分之一的研究成果（事實(shí)上，他們舉辦自己的 AI 會(huì)議）。
我還強(qiáng)烈懷疑計(jì)算能力對(duì)于實(shí)現(xiàn) AGI 是必要的（甚至可能足夠）。如果歷史趨勢(shì)有任何跡象，那么人工智能的進(jìn)步主要由系統(tǒng)驅(qū)動(dòng) - 計(jì)算、數(shù)據(jù)、基礎(chǔ)設(shè)施。我們今天使用的核心算法與 90 年代相比基本保持不變。不僅如此，任何在某篇論文中發(fā)表的算法進(jìn)步幾乎都可以立即重新實(shí)施和納入。相反，算法進(jìn)步本身如果沒有規(guī)模，也是無(wú)用的，因此也很難令人生畏。
在我看來(lái)，OpenAI 如今正在燒錢，其融資模式無(wú)法達(dá)到與谷歌（一家市值 8000 億美元的公司）真正競(jìng)爭(zhēng)的規(guī)模。如果你無(wú)法真正競(jìng)爭(zhēng)，但繼續(xù)在開放領(lǐng)域進(jìn)行研究，那么你實(shí)際上可能會(huì)讓事情變得更糟，并“免費(fèi)”幫助他們，因?yàn)槿魏芜M(jìn)步對(duì)他們來(lái)說(shuō)都相當(dāng)容易復(fù)制并立即大規(guī)模采用。
盈利轉(zhuǎn)型可能會(huì)隨著時(shí)間的推移創(chuàng)造更可持續(xù)的收入來(lái)源，并且，在現(xiàn)有團(tuán)隊(duì)的帶領(lǐng)下，可能會(huì)帶來(lái)大量投資。然而，從頭開始開發(fā)產(chǎn)品會(huì)分散人工智能研究的注意力，需要很長(zhǎng)時(shí)間，而且尚不清楚一家公司是否能“趕上”谷歌的規(guī)模，投資者可能會(huì)在錯(cuò)誤的方向上施加過(guò)多的壓力。
正如我之前提到的，我能想到的最有希望的選擇是 OpenAI 把特斯拉作為搖錢樹。我相信，與其他大型嫌疑人（例如蘋果？亞馬遜？）的合作會(huì)因?yàn)楣?DNA 不兼容而失敗。用火箭來(lái)比喻，特斯拉已經(jīng)用 Model 3 的整個(gè)供應(yīng)鏈及其車載計(jì)算機(jī)和持久的互聯(lián)網(wǎng)連接建造了火箭的“第一階段”?！暗诙A段”將是一個(gè)基于大規(guī)模神經(jīng)網(wǎng)絡(luò)訓(xùn)練的全自動(dòng)駕駛解決方案，OpenAI 的專業(yè)知識(shí)可以大大幫助加速這一進(jìn)程。有了功能齊全的全自動(dòng)駕駛解決方案，我們可以在 2-3 年內(nèi)賣出很多汽車/卡車。如果我們做得非常好，運(yùn)輸行業(yè)就足夠大了，我們可以將特斯拉的市值提高到高 O（約 100K），并利用這些收入資助適當(dāng)規(guī)模的人工智能工作。
我看不到有任何其他東西有潛力在十年內(nèi)達(dá)到谷歌規(guī)模的可持續(xù)資本。
—安德烈
伊隆·馬斯克致伊利亞·蘇茨克維爾、格雷格·布羅克曼的信?- 2018?年?2?月?1?日
[轉(zhuǎn)發(fā)了?Andrej?之前的消息]
Andrej 說(shuō)得完全正確。我們可能希望情況并非如此，但在我和 Andrej 看來(lái)，特斯拉是唯一一條有望與谷歌抗衡的道路。即便如此，成為谷歌的制衡力量的可能性也很小。它不是零。
Shivon Zilis致?Elon Musk，（抄送：Sam Teller）- 2018?年?3?月?25?日
OpenAI
籌款：
-不再采用 ICO/“提前購(gòu)買計(jì)算的工具”類型的結(jié)構(gòu)。Altman 正在考慮一種工具，如果 OpenAI 確實(shí)實(shí)現(xiàn)了某種賺錢的 AGI，那么感興趣的 4-5 家大公司可以投資，回報(bào)率上限為 50 倍。他們似乎只是為了訪問而愿意這樣做。他想和你更詳細(xì)地討論。
董事會(huì)正式辭職：
- 從技術(shù)上講，你仍然是董事會(huì)成員，因此需要向 Sam Altman 發(fā)送一封簡(jiǎn)短的郵件，內(nèi)容類似于“通過(guò)這封電子郵件，我謹(jǐn)辭去 OpenAI 董事職務(wù)，自 2018 年 2 月 20 日起生效”。
未來(lái)委員會(huì)：
-Altman 說(shuō)他可以接受我加入，然后如果我產(chǎn)生矛盾就必須退出，但他擔(dān)心如果我必須退出，其他人會(huì)認(rèn)為這是自斷后路。我認(rèn)為最好的辦法是暫時(shí)不要加入，做一個(gè)模棱兩可的顧問，但如果你有不同的想法，請(qǐng)告訴我。他們有 Adam D‘Angelo 作為第五個(gè)可能接替你的人選，這看起來(lái)很棒？
特斯拉人工智能
Andrej 有三名候選人，周二可能會(huì)有 1-2 名候選人來(lái)見你。他會(huì)向你發(fā)送一份關(guān)于他們的簡(jiǎn)報(bào)。此外，他正在為可能發(fā)布的版本編寫初始語(yǔ)言，該版本將于周二準(zhǔn)備好討論。它將遵循我們討論過(guò)的“全棧 AI 實(shí)驗(yàn)室”角度，但如果感覺不對(duì)，請(qǐng)糾正方向……這是個(gè)棘手的消息傳遞方式。
大腦
Chip 應(yīng)該會(huì)在 8 月上市供他們測(cè)試，他們計(jì)劃在 9 月讓其他人進(jìn)行遠(yuǎn)程訪問。Cerebras 的工作人員還提到，他們最近很多客戶對(duì) Nvidia 的服務(wù)條款變化感到不滿（這種變化迫使公司從消費(fèi)級(jí) GPU 轉(zhuǎn)向企業(yè)級(jí) Pascals/Voltas）。Scott Gray 和 Ilya 繼續(xù)花大量時(shí)間與他們?cè)谝黄?/p>
Sam Altman致?Elon Musk，（抄送：Shivon Zilis）- 2018?年?4?月?2?日
我們計(jì)劃下周發(fā)布該功能?-?有什么想法嗎？
OpenAI 憲章
OpenAI 的使命是確保通用人工智能 （AGI）（即在最具經(jīng)濟(jì)價(jià)值的創(chuàng)造性工作中表現(xiàn)優(yōu)于人類的高度自主系統(tǒng)）造福全人類。我們將嘗試直接構(gòu)建安全且有益的 AGI，但如果我們的工作能夠幫助其他人實(shí)現(xiàn)這一結(jié)果，我們也會(huì)認(rèn)為我們的使命已經(jīng)完成。為此，我們承諾遵守以下原則：
廣泛分布的利益
我們承諾利用我們?cè)?AGI 部署方面獲得的任何影響力，確保它能造福所有人，并避免使人工智能或 AGI 的使用危害人類或過(guò)度集中權(quán)力。
我們的主要受托責(zé)任是服務(wù)于人類。我們預(yù)計(jì)需要調(diào)動(dòng)大量資源來(lái)完成我們的使命，但我們將始終努力減少員工和利益相關(guān)者之間的利益沖突，以免影響廣泛的利益。
長(zhǎng)期安全
我們致力于進(jìn)行確保 AGI 安全所需的研究，并推動(dòng)此類研究在整個(gè) AI 社區(qū)的廣泛應(yīng)用。
我們擔(dān)心 AGI 的后期開發(fā)會(huì)變成一場(chǎng)沒有時(shí)間采取充分安全預(yù)防措施的競(jìng)爭(zhēng)。因此，如果一個(gè)符合價(jià)值觀、注重安全的項(xiàng)目在我們之前接近建立 AGI，我們承諾停止與該項(xiàng)目競(jìng)爭(zhēng)并開始協(xié)助該項(xiàng)目。我們將根據(jù)具體情況制定具體協(xié)議，但典型的觸發(fā)條件可能是“未來(lái) 2 年內(nèi)成功的可能性高于平均水平”。
技術(shù)領(lǐng)導(dǎo)力
為了有效解決 AGI 對(duì)社會(huì)的影響，OpenAI 必須處于 AI 能力的前沿——僅靠政策和安全倡導(dǎo)是不夠的。
我們相信，人工智能將在通用人工智能之前對(duì)社會(huì)產(chǎn)生廣泛影響，我們將努力在與我們的使命和專業(yè)知識(shí)直接相關(guān)的領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用。
合作導(dǎo)向
我們將積極與其他研究和政策機(jī)構(gòu)合作；我們尋求創(chuàng)建一個(gè)共同應(yīng)對(duì)AGI全球挑戰(zhàn)的全球社區(qū)。
我們致力于提供公共產(chǎn)品，幫助社會(huì)走向 AGI。目前，這包括發(fā)布我們的大部分 AI 研究成果，但我們預(yù)計(jì)，出于對(duì)安全和保障的考慮，未來(lái)我們的傳統(tǒng)出版將減少，同時(shí)共享安全、政策和標(biāo)準(zhǔn)研究成果的重要性將提高。
伊隆·馬斯克致薩姆·奧特曼（抄送：Shivon Zilis）- 2018?年?4?月?2?日
聽起來(lái)不錯(cuò)
Shivon Zilis致?Elon Musk，（抄送：Sam Teller）- 2018?年?4?月?23?日
根據(jù)與 Altman 的對(duì)話更新信息。您暫定于周二與他交談。
融資：
-他再次確認(rèn)，他們絕對(duì)不是在進(jìn)行 ICO，而是在進(jìn)行具有固定最大回報(bào)的股權(quán)。
- 他想向您介紹一下加薪的相當(dāng)獨(dú)特的附屬結(jié)構(gòu)。
- 希望在第一輪 4-6 周內(nèi)采取行動(dòng)（可能主要是 Reid 的錢，也可能是一些企業(yè)錢）。
技術(shù)：
說(shuō) Dota 5v5 看起來(lái)比預(yù)期的要好。
-Dota 機(jī)器人性能的急劇提升顯然導(dǎo)致內(nèi)部人員擔(dān)心 AGI 的時(shí)間表比他們之前想象的要早。
- 認(rèn)為他們很快就能擊敗蒙特祖瑪?shù)膹?fù)仇。
時(shí)間分配：
-我把過(guò)去在 OpenAI 上花費(fèi)的大部分時(shí)間重新分配給了 Neuralink 和 Tesla。這自然是由于你退出董事會(huì)和相關(guān)因素而發(fā)生的——但如果您希望我將更多時(shí)間重新投入到 OpenAI 監(jiān)督中，請(qǐng)告訴我。
-Sam 和 Greg 問我是否愿意加入他們的非正式顧問委員會(huì)（目前只有 Gabe Newell），考慮到潛在的沖突，這似乎比正式委員會(huì)更好？如果覺得不合適，請(qǐng)告訴我你更喜歡哪個(gè)
Sam Altman致?Elon Musk，（抄送：Sam Teller、Shivon Zilis）- 2019?年?3?月?6?日
伊隆—
這是我們計(jì)劃于周一發(fā)布的草稿。還有什么要添加/編輯的嗎？
總結(jié)：
我們創(chuàng)建了利潤(rùn)上限 公司，并在 Reid 和 Vinod 的帶領(lǐng)下完成了第一輪融資。
我們這樣做是為了讓所有投資者都清楚，他們永遠(yuǎn)不應(yīng)該期望獲得利潤(rùn)。
我們?nèi)蚊窭赘駷樾鹿镜亩麻L(zhǎng)，我擔(dān)任首席執(zhí)行官。
我們已經(jīng)與潛在的下一輪投資者測(cè)試了這種結(jié)構(gòu)，他們似乎很喜歡它。
說(shuō)到最后一點(diǎn)，我們現(xiàn)在正在討論一項(xiàng)數(shù)十億美元的投資，有空的時(shí)候我想聽聽你的建議。很高興有時(shí)間去灣區(qū)看望你。
薩姆
伊隆·馬斯克致薩姆·奧特曼?- 2019?年?3?月?11?日
請(qǐng)明確說(shuō)明，我對(duì) OpenAI 的營(yíng)利部門沒有任何經(jīng)濟(jì)利益
伊隆·馬斯克聯(lián)合創(chuàng)辦的人工智能研究小組成立盈利部門
彭博
OpenAI?是一家總部位于舊金山的人工智能研究機(jī)構(gòu)，由埃隆·馬斯克和其他幾位硅谷知名企業(yè)家共同創(chuàng)立，該機(jī)構(gòu)正在成立一個(gè)營(yíng)利性部門，以便籌集更多資金。閱讀全文
分享自?Apple News
薩姆·奧特曼致伊隆·馬斯克?- 2019?年?3?月?11?日
來(lái)源：智能超參數(shù)，原文標(biāo)題：《50封往來(lái)郵件揭秘OpenAI的緣起、發(fā)展與矛盾》
風(fēng)險(xiǎn)提示及免責(zé)條款
市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。
發(fā)表評(píng)論