外灘大會今日開幕，生成式AI和大模型成“頂流”話題

來源：財聯社

作者：黃心怡

2023 Inclusion·外灘大會9月7日在上海黃浦世博園正式開幕。這場以“科技·創造可持續未來”為主題的大會為期三天，近20位“兩院”院士、諾貝爾獎和圖靈獎得主，全球超500位有影響力的科技領軍企業和專家學者，在此帶來一場科技、人文和產業的思想碰撞。

大會設有1場主論壇、36場見解論壇、8000平方米科技展覽、3000平方米綠色集市，並首次舉辦科技人才招聘會。

在開幕式上，上海市副市長解冬表示，三年來，上海持續推進國際金融中心和科創中心建設，取得了積極的成效。上海科創中心正從形成基本框架體係向實現核心功能轉變。上海將以更大力度推動具有全球重要影響力的金融科技中心向更高能級邁進，為上海國際金融中心的發展注入新的動力。

中國科學院院士、復旦大學副校長張人禾指出，科學智能(AI for Science)已經成為人工智能的重點發展方向，推動跨學科的交叉研究，激發創新突破。加速科技創新與產業變革的深度融合，推動產業轉型升級。 “國內科學智能也在迅速發展，相繼湧現出大量的科學領域大模型，但仍處在起步階段。”張人禾表示，面對“AI時代”的來臨，“單打獨鬥”已不適應大科學時代的科技創新，要進行“有組織科研”，最大的優勢在於佈局建設大平台。

大模型的通用能力讓AI能夠應用到人類生產生活的各個場景中，可謂“無孔不入”，也因此帶來了新的安全隱私問題，如何解決這一隱患，中國科學院院士何積豐認為，大模型的安全問題主要是在未經同意的情況下，收集、使用和洩露個人信息。隱私問題既可能發生在訓練過程，也可能發生在使用過程中，而大模型的生成能力則讓“隱私洩露”的方式變得多樣化，造成隱私保護更加困難。

“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊（alignment）”是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害後果。 “如果把人工智能看作西遊記裡的孫悟空，'對齊'就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。”

不過，對齊技術同樣面臨挑戰。首先，對齊的基礎，人類的價值觀是多元且動態變化的，需要保證大模型為人服務、與人為善；其次，大模型的有用性與無害性之間目標也不完全一致。如何對錯誤進行有效糾正，設好大模型的“緊箍咒”也是挑戰。因此，對齊技術已經成為了一項令人眼花繚亂的跨學科研究，不僅考驗技術，也審視文化。

何積豐介紹，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎勵信號，引導模型的高質量輸出；另一種方式，事先給大模型提供明確的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。 “這意味著，不僅智能係統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”何積豐說。

不少業內分析指出，大模型引領下的生成式人工智能是一項強大的新技術，有可能改變全球經濟。麥肯錫中國區主席、麥肯錫全球資深董事合夥人倪以理指出，生成式AI對全球經濟的正面影響最高可達7.9萬億美元，而整體廣泛的AI可能達到25萬億美元。生成式AI將對各個行業都產生影響，對高科技、零售、銀行的影響位列前三。

大模型的突破，被認為是人工智能的“iPhone時刻”，帶來AI時代的產業變革。螞蟻集團董事長兼CEO井賢棟引用了電影《奧本海默》的一句台詞，正如發明原子彈“不是一種新武器，而是一個新世界”，大模型的出現，“不是一個新技術，而是一個新世界”。他說，iPhone時刻巨大的衝擊，遠遠不是大屏幕變成小屏幕這麼簡單，而是通過小屏幕實現了用戶“永遠在線”，從而極大促進了人和服務、人和商品的整個連接。井賢棟還透露，螞蟻將在9月8日發布的大模型，是全棧佈局的、純自研的。