出品 | 搜狐科技

編輯 | 梁昌均

(相關資料圖)

“我很好奇接下來會發(fā)生什么，我們可能會嘗試按順序推出GPT-5模型，但不會很快?！痹?023智源大會關于AI安全與對齊的論壇上，當被問到下一步的研發(fā)方向時，OpenAI聯(lián)合創(chuàng)始人、CEO山姆·奧特曼（Sam Altman）表示。

目前，山姆正在進行他的全球之旅，這已經是第四周，期間他已經去到五個大洲的近20個國家，與學生、開發(fā)人員和國家元首會面。今天上午，他以視頻連線的方式現(xiàn)身智源大會論壇，就推動AI安全的話題發(fā)表演講，并接受了智源研究院理事長張宏江的訪談。

山姆表示，已經看到世界各地的人們使用人工智能技術，帶來令人難以置信的生活方式的改變。因此這也使得討論需要建立的監(jiān)管護欄，以確保日益強大的人工智能系統(tǒng)得到安全可靠的部署，變得越發(fā)重要。

他認為，技術進步遵循指數曲線，而當前AI正以極大的影響和極快的速度發(fā)展，并擴展人類想象的畫布。在下一個十年里，通用人工智能系統(tǒng)（AGI）將幾乎在所有領域超越人類的專業(yè)知識，這些系統(tǒng)最終可能會超過最大公司的生產力。

“人工智能革命將創(chuàng)造共享財富，并使得大幅提高每個人的生活水平成為可能。為了實現(xiàn)這一目標，我們必須共同管理風險?！鄙侥繁硎?，隨著日益強大的AI系統(tǒng)的出現(xiàn)，以及對醫(yī)療、糧食生產和環(huán)境平衡等帶來的潛在問題，推進AGI安全將是全球合作最重要的領域之一。

山姆表示，這需要從兩個方面開始。第一是AGI治理，并應該在促進和引導AI對齊和安全研究方向進行投資。“AGI將從根本上改變我們的文明，這是一項具有全球影響的全球技術，不計后果的開發(fā)和部署所造成的事故成本將影響到所有人。”

同時，他還特別強調了國際合作和協(xié)調的必要性。首先需要建立國際規(guī)范和標準，并注意過程中注重包容性。在任何國家使用AGI系統(tǒng)，都應平等而一致地遵循這樣的國際標準和規(guī)范。在這些安全護欄內，讓人們有足夠的機會做出自己的選擇。

當然，山姆也認識到這并非易事，大國之間經常存在分歧，但在重要的大事上，還是需要協(xié)調與合作，尋找共同利益點。

“千里之行，始于足下?！彼美献印兜赖陆洝分械倪@句話，認為最具建設性的第一步是與國際科學和技術界合作，特別是應該在技術進步方面增加透明度和知識共享的機制，同時尊重和保護知識產權，這些將為深化合作打開新的大門。

“隨著我們日益接近AGI的時代，沒有對齊的AI系統(tǒng)的潛在影響力和影響規(guī)模將成倍增長?，F(xiàn)在積極主動地解決這些挑戰(zhàn)，能將未來出現(xiàn)災難性結果的風險降到最低?！鄙侥吩谘葜v中強調稱。

張宏江向山姆·奧特曼提問

不過，在與張宏江的對話中，山姆表示，很難預測我們離安全的AGI還有多遠，但能夠確信的是很有可能在未來10年內能夠擁有非常強大的AI系統(tǒng)?！拔艺J為把AGI安全做好是重要而緊迫的，這是我為什么呼吁國際社會共同努力的原因。”

山姆提到，OpenAI在如何讓AI系統(tǒng)成為更安全有用的系統(tǒng)上，進行了AI對齊研究。這主要是利用人類反饋進行強化學習來訓練模型，使其成為一個有幫助的安全助手。

“從GPT4完成預培訓到我們部署它，我們專門花了8個月的時間來進行對齊方面的工作。GPT4 比我們以前的任何模型都更加與人類對齊?！钡侥芬脖硎?，對于更先進的系統(tǒng)，對齊仍然是一個未解決的問題，這需要新的技術方法，同時增強治理和監(jiān)督。

他認為，未來的AGI系統(tǒng)或許具有10萬行二進制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。因此，OpenAI正在致力于研究一些新的和互補的研究方向，希望能實現(xiàn)突破。

其中一個是可擴展監(jiān)督，即嘗試使用 AI 系統(tǒng)來協(xié)助人類監(jiān)督其他AI系統(tǒng)輸出中的缺陷。第二個是可解釋性，嘗試更好地了解這些模型內部發(fā)生了什么。“我們還有很長的路要走，但先進的機器學習技術可以進一步提高我們解釋的能力?！?/p>

山姆認為，實現(xiàn)AGI安全是一個非常復雜的問題，集中精力確保解決安全方面的技術問題非常重要，同時不僅要考慮模型本身的安全性，還要確保整個系統(tǒng)的安全性。

“我也認為很難提前預測任何技術會出現(xiàn)的所有問題，因此，從現(xiàn)實世界的使用中學習并部署，看看當真正創(chuàng)造現(xiàn)實并改進它時會發(fā)生什么，并思考這些模型將如何以好的和壞的方式與人進行互動，這也很重要。”山姆說。

此外，山姆還在對話中回應稱，隨著時間的推移，OpenAI將會在未來繼續(xù)開源更多和更大的模型，但目前沒有具體的模型或時間表。他認為，開源確實在模型發(fā)展中扮演了重要的角色，但開源可能不是最佳路徑，需要把握平衡。

山姆表示，最終的目標是訓練AI系統(tǒng)來幫助進行對齊研究。這種方法的好處在于，它可以隨著AI的發(fā)展速度而擴展?！矮@得AGI帶來的非凡好處，同時降低風險，是這個時代的開創(chuàng)性挑戰(zhàn)之一。”

他在最后呼吁，世界各地的研究人員都有很大的潛力實現(xiàn)共同的目標，并致力于努力解決AGI對齊帶來的突出技術挑戰(zhàn)。“如果我們這樣做，我相信我們將能夠利用AGI來解決世界上最重要的問題，并極大地改善人類的生活質量。”

關鍵詞：