同山姆·阿爾特曼對談
paypal的聯合創始人、spacex的投資人彼得·蒂爾每年都會與他的創始人基金投資的公司的領導人一起開個會。在2012年的會麵中，馬斯克認識了戴密斯·哈薩比斯，他是一位神經科學家、電子遊戲設計師和人工智能研究者。在他彬彬有禮的舉止之下，掩藏著一顆爭強好勝的心，他在4歲時就是一個國際象棋神童，奪得過五屆國際智力奧林匹克競賽冠軍，競賽項目包括國際象棋、撲克、珠璣妙算和雙陸棋。
在哈薩比斯現代風格的倫敦辦公室裏，有一份艾倫·圖靈1950年發表的富有開創性的論文《計算機器與智能》的初版，文中提出了一個“模仿遊戲”的思想實驗：讓一個人與另一個人類對話，還讓他與一個類似chatgpt的機器對話。圖靈認為，如果這個人發現他無法分辨出人類和機器的不同，那麽我們就有理由說這台機器能夠“思考”。受圖靈觀點的影響，哈薩比斯同他人共同創辦了一家名為“deepmind”的公司，想要設計出一種基於計算機的神經網絡，從而實現通用人工智能。換句話說，deepmind試圖打造一種能像人類一樣學習如何思考的機器。
哈薩比斯說：“埃隆同我一拍即合，我到他的火箭工廠去拜訪他。”二人坐在食堂裏，俯視著火箭裝配線。馬斯克對哈薩比斯解釋說，他之所以要打造可以飛往火星的火箭，是因為在發生世界大戰、小行星撞擊或人類文明崩潰時，這是一種可能保存人類意識的方式。哈薩比斯又補充了另一種潛在威脅——人工智能，機器可能進化為超級智能，超越我們這些凡人，甚至可能做出決定把我們幹掉。馬斯克在心裏琢磨這種可能性的時候，靜靜地停頓了近一分鍾。他說，在他出神的時候，他對多年來很多種影響因素可能如何發揮作用的方式做過視覺模擬，他認為哈薩比斯對人工智能風險的認識可能是對的，所以他決定向deepmind投資500萬美元，這樣他就可以實時跟進相關領域的進展。
在與哈薩比斯對談幾周後，馬斯克向穀歌的創始人拉裏·佩奇描述了deepmind在做的事情。他們已經相識10多年，馬斯克經常住在佩奇位於帕洛阿爾托的家裏。在他們深夜的促膝長談中，馬斯克近乎癡迷地一次次談起人工智能的潛在風險，但佩奇對此不屑一顧。
2013年，馬斯克的生日派對在納帕穀舉辦，盧克·諾塞克和裏德·霍夫曼也來了。當著現場賓客的麵，馬斯克和佩奇展開了一場激烈的辯論。馬斯克認為，除非我們建立防火牆，否則人工智能可能會取代人類，讓我們這個物種變成螻蟻草芥，甚至走向滅絕。
佩奇反駁說，如果有一天機器的智力，甚至機器的意識，都超過了人類，那又有什麽關係呢？這隻不過是進化的下一階段罷了。
馬斯克卻說，人類的意識是宇宙中寶貴的一縷燭光，我們不應該讓它熄滅。佩奇認為那是多愁善感的人在胡說八道，如果意識可以在機器中複製，為什麽它不配具有同等的價值？也許有一天，我們甚至能夠將自己的意識上傳到機器中。佩奇指責馬斯克是“物種主義者”，隻偏袒自己這個物種的生存。“嗯，沒錯，我是支持人類優先的。”馬斯克迴應道，“我就是熱愛人類啊，兄弟。”
因此，當馬斯克在2013年年底聽說佩奇和穀歌正計劃收購deepmind時，他感到非常沮喪。他和朋友盧克·諾塞克試圖湊錢給deepmind融資，以此來阻止這筆交易。在洛杉磯的一場聚會上，他們到樓上的一個盥洗室裏與哈薩比斯通了一小時的skype電話。馬斯克告訴他：“人工智能的未來不應該讓拉裏說了算。”
但他的努力還是失敗了，穀歌於2014年1月宣布收購deepmind。佩奇最初同意創建一個“安全委員會”，馬斯克也位列其中。這個委員會的第一次也是唯一一次會議是在spacex舉行的，佩奇、哈薩比斯和穀歌董事會主席埃裏克·施密特出席，裏德·霍夫曼和其他一些人也在場。“埃隆在現場領會到的是，這個委員會基本上就是一個空架子。”馬斯克當時的幕僚長薩姆·特勒說，“穀歌的這些人根本不想關心人工智能的安全問題，也無意做出任何限製人工智能權力範圍的事。”
馬斯克繼續公開警告人工智能的危險，他在2014年麻省理工學院的一次研討會上說：“我們最大的生存威脅可能就是人工智能。”同年，亞馬遜發布了語音助手alexa，隨後穀歌也推出了類似的產品。馬斯克警告眾人，當這些軟硬件係統變得比人類更智能時會發生什麽：它們可能會超越我們，然後把我們當寵物一樣對待。他說：“我不喜歡當誰的寵物貓。”預防問題出現的最好辦法就是確保人工智能與人類保持緊密的配合與協作。馬斯克說：“當人工智能與人類的意誌脫鉤時，危險就會降臨。”
於是，馬斯克開始主辦一係列晚餐討論會，參會者包括“paypal黑幫”成員彼得·蒂爾和裏德·霍夫曼等人，他們討論如何對抗穀歌，提升人工智能的安全係數。馬斯克甚至聯係了奧巴馬總統，總統同意在2015年5月與他進行一對一的會談。馬斯克解釋了人工智能存在的風險，建議對其進行監管。馬斯克說：“奧巴馬明白了我在說什麽，但我意識到他還沒有警惕到會為此做點兒什麽的程度。”
生存主義者積極準備應對緊急情況，比如自然災害，以及政治或經濟危機引起的對社會秩序的破壞。生存主義者強調自力更生、儲備物資、主動獲取生存知識和技能。——譯者注 馬斯克隨後把目光投向山姆·阿爾特曼，這個人的身份是三位一體的——軟件公司的企業家、跑車愛好者和生存主義者 ，三者難舍難分。他光鮮亮麗的外表掩蓋了一種與馬斯克類似的緊張感。阿爾特曼幾年前見過馬斯克，在參觀spacex工廠時與他交談了三個小時。“很有趣的是，一些工程師看到埃隆走過來就會散開或者看向別處。”阿爾特曼說，“他們害怕他，但他了解火箭上每個小部件的細節，這一點讓我印象深刻。”
在帕洛阿爾托的一場小型晚宴上，阿爾特曼和馬斯克決定創辦一個非營利性的人工智能研究實驗室，他們將其命名為“openai”。實驗室的軟件是開源的，實驗室將努力對抗穀歌在這一領域日漸強大的主導地位。蒂爾和霍夫曼與馬斯克一起投入了資金。“我們希望有一種類似於linux版本的人工智能，不受任何個人或公司的控製。”馬斯克說，“我們的目標是提升人工智能安全發展的概率，人類將從中受益。”
他們在晚餐時討論的一個問題是，由大公司控製的少量人工智能係統更安全，還是大量獨立係統更安全。他們的結論是，大量彼此競爭的係統能相互製衡，這樣會更好。就像人類集體協作能抵禦人類惡霸一樣，一大批獨立的人工智能機器人也會努力阻止邪惡機器人的行徑。對馬斯克來說，讓openai真正開放的原因就是要讓許許多多的人能根據其源代碼建立各自的係統。他對《連線》雜誌記者史蒂文·利維說：“我認為，防止人類濫用人工智能的最佳防火牆就是讓盡可能多的人都擁有人工智能。”
馬斯克和阿爾特曼詳細討論了一個目標，名為“人工智能對齊”——它在2023年openai推出一款聊天機器人chatgpt後成為熱門話題，這一目標是讓人工智能係統與人類的目標和價值觀保持一致，就像艾薩克·阿西莫夫在他的小說中設定的那些預防機器人傷害人類的規則一樣。想想《2001：太空漫遊》中大開殺戒的計算機哈爾直接與創造它的人類開戰。在人工智能係統中，人類可以設置哪些防火牆和自毀開關，讓機器的行動與我們的利益保持一致？誰又有資格決定這些攸關人類的利益是什麽？
馬斯克認為，確保“人工智能對齊”的一個方法是將機器與人類緊密聯係起來。它們應該是個人意誌的延伸，而不是一個可能叛變並形成自己的目標意圖的係統。後來這就成為neuralink公司存在的原因之一，馬斯克創立這家公司就是為了打造一種芯片，能將人類大腦直接與計算機相聯。
馬斯克還意識到，一個人工智能係統能否成功，取決於它能不能從真實世界獲得大量數據供機器學習。他當時意識到，特斯拉就是這樣一個“金礦”，它每天收集數百萬幀司機處理各類情況的視頻。他說：“特斯拉可能比世界上其他公司擁有更多的真實世界數據。”他後來意識到，另一個真實世界數據的寶庫就是推特：截至2023年，推特每天要處理5億條人類發出的帖子。
與馬斯克和阿爾特曼共進晚餐的人中有一位穀歌的研究工程師，他就是伊爾亞·蘇茨克維。他們用190萬美元的工資和保底獎金把他挖了過來，讓他擔任新實驗室的首席科學家。佩奇對此很憤怒，他昔日的好友、房客不僅成立了一個同他展開競爭的實驗室，還挖走了穀歌的頂級科學家。在2015年年底openai啟動之後，佩奇和馬斯克幾乎沒再說過話。“拉裏感覺自己被背叛了，他對我親自挖走伊爾亞感到非常生氣，他也拒絕再和我一起出去玩。”馬斯克說，“我告訴他：‘拉裏啊，當時你但凡對人工智能的安全問題上點兒心，我們都沒必要搭個台子跟你唱對台戲。’”
馬斯克對人工智能的興趣讓他啟動了一係列相關項目：neuralink，其目標是在人類大腦中植入微芯片；optimus，它是一種人形機器人；dojo，它是一種能使用數百萬條視頻訓練人工神經網絡來模擬人類大腦的超級計算機。這種興趣還讓他癡迷於推動特斯拉車輛的自動駕駛進程。這些不同方向的項目起初是相當分散的，包括他後來又成立了一家名為“x.ai”的聊天機器人公司，但後來馬斯克還是把它們匯聚到了一起，共同推動通用人工智能事業的發展。
馬斯克決意在其各家公司中發展人工智能能力，這直接導致了2018年他與openai的決裂。他試圖說服阿爾特曼，openai既然還是落後於穀歌，那就應該並入特斯拉發展。openai團隊拒絕了這個想法，此時阿爾特曼已經是實驗室的一把手，成立了一個能夠籌集股權基金的營利性部門。
因此，馬斯克決定繼續打造一支能與之抗衡的人工智能團隊，專注於實現特斯拉的自動駕駛。盡管他要同時應付內華達工廠和弗裏蒙特工廠遭遇的生產危機，他還是從openai挖來了深度學習和計算機視覺方麵的專家安德烈·卡帕斯，由此人來領導特斯拉的人工智能項目。“我們意識到特斯拉將成為一家人工智能公司，並將與openai爭搶同類人才。”阿爾特曼說，“這讓我們團隊中的一些人很生氣，但我完全理解這是怎麽迴事。”阿爾特曼在2023年扳迴一局：當卡帕斯被馬斯克折騰得筋疲力盡時，他拋出了橄欖枝，把卡帕斯重新挖了迴來。
paypal的聯合創始人、spacex的投資人彼得·蒂爾每年都會與他的創始人基金投資的公司的領導人一起開個會。在2012年的會麵中，馬斯克認識了戴密斯·哈薩比斯，他是一位神經科學家、電子遊戲設計師和人工智能研究者。在他彬彬有禮的舉止之下，掩藏著一顆爭強好勝的心，他在4歲時就是一個國際象棋神童，奪得過五屆國際智力奧林匹克競賽冠軍，競賽項目包括國際象棋、撲克、珠璣妙算和雙陸棋。
在哈薩比斯現代風格的倫敦辦公室裏，有一份艾倫·圖靈1950年發表的富有開創性的論文《計算機器與智能》的初版，文中提出了一個“模仿遊戲”的思想實驗：讓一個人與另一個人類對話，還讓他與一個類似chatgpt的機器對話。圖靈認為，如果這個人發現他無法分辨出人類和機器的不同，那麽我們就有理由說這台機器能夠“思考”。受圖靈觀點的影響，哈薩比斯同他人共同創辦了一家名為“deepmind”的公司，想要設計出一種基於計算機的神經網絡，從而實現通用人工智能。換句話說，deepmind試圖打造一種能像人類一樣學習如何思考的機器。
哈薩比斯說：“埃隆同我一拍即合，我到他的火箭工廠去拜訪他。”二人坐在食堂裏，俯視著火箭裝配線。馬斯克對哈薩比斯解釋說，他之所以要打造可以飛往火星的火箭，是因為在發生世界大戰、小行星撞擊或人類文明崩潰時，這是一種可能保存人類意識的方式。哈薩比斯又補充了另一種潛在威脅——人工智能，機器可能進化為超級智能，超越我們這些凡人，甚至可能做出決定把我們幹掉。馬斯克在心裏琢磨這種可能性的時候，靜靜地停頓了近一分鍾。他說，在他出神的時候，他對多年來很多種影響因素可能如何發揮作用的方式做過視覺模擬，他認為哈薩比斯對人工智能風險的認識可能是對的，所以他決定向deepmind投資500萬美元，這樣他就可以實時跟進相關領域的進展。
在與哈薩比斯對談幾周後，馬斯克向穀歌的創始人拉裏·佩奇描述了deepmind在做的事情。他們已經相識10多年，馬斯克經常住在佩奇位於帕洛阿爾托的家裏。在他們深夜的促膝長談中，馬斯克近乎癡迷地一次次談起人工智能的潛在風險，但佩奇對此不屑一顧。
2013年，馬斯克的生日派對在納帕穀舉辦，盧克·諾塞克和裏德·霍夫曼也來了。當著現場賓客的麵，馬斯克和佩奇展開了一場激烈的辯論。馬斯克認為，除非我們建立防火牆，否則人工智能可能會取代人類，讓我們這個物種變成螻蟻草芥，甚至走向滅絕。
佩奇反駁說，如果有一天機器的智力，甚至機器的意識，都超過了人類，那又有什麽關係呢？這隻不過是進化的下一階段罷了。
馬斯克卻說，人類的意識是宇宙中寶貴的一縷燭光，我們不應該讓它熄滅。佩奇認為那是多愁善感的人在胡說八道，如果意識可以在機器中複製，為什麽它不配具有同等的價值？也許有一天，我們甚至能夠將自己的意識上傳到機器中。佩奇指責馬斯克是“物種主義者”，隻偏袒自己這個物種的生存。“嗯，沒錯，我是支持人類優先的。”馬斯克迴應道，“我就是熱愛人類啊，兄弟。”
因此，當馬斯克在2013年年底聽說佩奇和穀歌正計劃收購deepmind時，他感到非常沮喪。他和朋友盧克·諾塞克試圖湊錢給deepmind融資，以此來阻止這筆交易。在洛杉磯的一場聚會上，他們到樓上的一個盥洗室裏與哈薩比斯通了一小時的skype電話。馬斯克告訴他：“人工智能的未來不應該讓拉裏說了算。”
但他的努力還是失敗了，穀歌於2014年1月宣布收購deepmind。佩奇最初同意創建一個“安全委員會”，馬斯克也位列其中。這個委員會的第一次也是唯一一次會議是在spacex舉行的，佩奇、哈薩比斯和穀歌董事會主席埃裏克·施密特出席，裏德·霍夫曼和其他一些人也在場。“埃隆在現場領會到的是，這個委員會基本上就是一個空架子。”馬斯克當時的幕僚長薩姆·特勒說，“穀歌的這些人根本不想關心人工智能的安全問題，也無意做出任何限製人工智能權力範圍的事。”
馬斯克繼續公開警告人工智能的危險，他在2014年麻省理工學院的一次研討會上說：“我們最大的生存威脅可能就是人工智能。”同年，亞馬遜發布了語音助手alexa，隨後穀歌也推出了類似的產品。馬斯克警告眾人，當這些軟硬件係統變得比人類更智能時會發生什麽：它們可能會超越我們，然後把我們當寵物一樣對待。他說：“我不喜歡當誰的寵物貓。”預防問題出現的最好辦法就是確保人工智能與人類保持緊密的配合與協作。馬斯克說：“當人工智能與人類的意誌脫鉤時，危險就會降臨。”
於是，馬斯克開始主辦一係列晚餐討論會，參會者包括“paypal黑幫”成員彼得·蒂爾和裏德·霍夫曼等人，他們討論如何對抗穀歌，提升人工智能的安全係數。馬斯克甚至聯係了奧巴馬總統，總統同意在2015年5月與他進行一對一的會談。馬斯克解釋了人工智能存在的風險，建議對其進行監管。馬斯克說：“奧巴馬明白了我在說什麽，但我意識到他還沒有警惕到會為此做點兒什麽的程度。”
生存主義者積極準備應對緊急情況，比如自然災害，以及政治或經濟危機引起的對社會秩序的破壞。生存主義者強調自力更生、儲備物資、主動獲取生存知識和技能。——譯者注 馬斯克隨後把目光投向山姆·阿爾特曼，這個人的身份是三位一體的——軟件公司的企業家、跑車愛好者和生存主義者 ，三者難舍難分。他光鮮亮麗的外表掩蓋了一種與馬斯克類似的緊張感。阿爾特曼幾年前見過馬斯克，在參觀spacex工廠時與他交談了三個小時。“很有趣的是，一些工程師看到埃隆走過來就會散開或者看向別處。”阿爾特曼說，“他們害怕他，但他了解火箭上每個小部件的細節，這一點讓我印象深刻。”
在帕洛阿爾托的一場小型晚宴上，阿爾特曼和馬斯克決定創辦一個非營利性的人工智能研究實驗室，他們將其命名為“openai”。實驗室的軟件是開源的，實驗室將努力對抗穀歌在這一領域日漸強大的主導地位。蒂爾和霍夫曼與馬斯克一起投入了資金。“我們希望有一種類似於linux版本的人工智能，不受任何個人或公司的控製。”馬斯克說，“我們的目標是提升人工智能安全發展的概率，人類將從中受益。”
他們在晚餐時討論的一個問題是，由大公司控製的少量人工智能係統更安全，還是大量獨立係統更安全。他們的結論是，大量彼此競爭的係統能相互製衡，這樣會更好。就像人類集體協作能抵禦人類惡霸一樣，一大批獨立的人工智能機器人也會努力阻止邪惡機器人的行徑。對馬斯克來說，讓openai真正開放的原因就是要讓許許多多的人能根據其源代碼建立各自的係統。他對《連線》雜誌記者史蒂文·利維說：“我認為，防止人類濫用人工智能的最佳防火牆就是讓盡可能多的人都擁有人工智能。”
馬斯克和阿爾特曼詳細討論了一個目標，名為“人工智能對齊”——它在2023年openai推出一款聊天機器人chatgpt後成為熱門話題，這一目標是讓人工智能係統與人類的目標和價值觀保持一致，就像艾薩克·阿西莫夫在他的小說中設定的那些預防機器人傷害人類的規則一樣。想想《2001：太空漫遊》中大開殺戒的計算機哈爾直接與創造它的人類開戰。在人工智能係統中，人類可以設置哪些防火牆和自毀開關，讓機器的行動與我們的利益保持一致？誰又有資格決定這些攸關人類的利益是什麽？
馬斯克認為，確保“人工智能對齊”的一個方法是將機器與人類緊密聯係起來。它們應該是個人意誌的延伸，而不是一個可能叛變並形成自己的目標意圖的係統。後來這就成為neuralink公司存在的原因之一，馬斯克創立這家公司就是為了打造一種芯片，能將人類大腦直接與計算機相聯。
馬斯克還意識到，一個人工智能係統能否成功，取決於它能不能從真實世界獲得大量數據供機器學習。他當時意識到，特斯拉就是這樣一個“金礦”，它每天收集數百萬幀司機處理各類情況的視頻。他說：“特斯拉可能比世界上其他公司擁有更多的真實世界數據。”他後來意識到，另一個真實世界數據的寶庫就是推特：截至2023年，推特每天要處理5億條人類發出的帖子。
與馬斯克和阿爾特曼共進晚餐的人中有一位穀歌的研究工程師，他就是伊爾亞·蘇茨克維。他們用190萬美元的工資和保底獎金把他挖了過來，讓他擔任新實驗室的首席科學家。佩奇對此很憤怒，他昔日的好友、房客不僅成立了一個同他展開競爭的實驗室，還挖走了穀歌的頂級科學家。在2015年年底openai啟動之後，佩奇和馬斯克幾乎沒再說過話。“拉裏感覺自己被背叛了，他對我親自挖走伊爾亞感到非常生氣，他也拒絕再和我一起出去玩。”馬斯克說，“我告訴他：‘拉裏啊，當時你但凡對人工智能的安全問題上點兒心，我們都沒必要搭個台子跟你唱對台戲。’”
馬斯克對人工智能的興趣讓他啟動了一係列相關項目：neuralink，其目標是在人類大腦中植入微芯片；optimus，它是一種人形機器人；dojo，它是一種能使用數百萬條視頻訓練人工神經網絡來模擬人類大腦的超級計算機。這種興趣還讓他癡迷於推動特斯拉車輛的自動駕駛進程。這些不同方向的項目起初是相當分散的，包括他後來又成立了一家名為“x.ai”的聊天機器人公司，但後來馬斯克還是把它們匯聚到了一起，共同推動通用人工智能事業的發展。
馬斯克決意在其各家公司中發展人工智能能力，這直接導致了2018年他與openai的決裂。他試圖說服阿爾特曼，openai既然還是落後於穀歌，那就應該並入特斯拉發展。openai團隊拒絕了這個想法，此時阿爾特曼已經是實驗室的一把手，成立了一個能夠籌集股權基金的營利性部門。
因此，馬斯克決定繼續打造一支能與之抗衡的人工智能團隊，專注於實現特斯拉的自動駕駛。盡管他要同時應付內華達工廠和弗裏蒙特工廠遭遇的生產危機，他還是從openai挖來了深度學習和計算機視覺方麵的專家安德烈·卡帕斯，由此人來領導特斯拉的人工智能項目。“我們意識到特斯拉將成為一家人工智能公司，並將與openai爭搶同類人才。”阿爾特曼說，“這讓我們團隊中的一些人很生氣，但我完全理解這是怎麽迴事。”阿爾特曼在2023年扳迴一局：當卡帕斯被馬斯克折騰得筋疲力盡時，他拋出了橄欖枝，把卡帕斯重新挖了迴來。