“隨著越來越強大的人工智能系統(tǒng)出現(xiàn)，全球合作的利害關(guān)系變得前所未有的重要。”

(資料圖片僅供參考)

6月10日，OpenAI首席執(zhí)行官阿爾特曼(Sam Altman)通過視頻連線在2023北京智源大會“AI 安全與對齊”論壇演講中這樣說到。

他在發(fā)言中引用《道德經(jīng)》中的名句“千里之行，始于足下”，呼吁國際科技界就人工智能安全相關(guān)問題展開合作，推動建立提高通用人工智能(AGI)安全技術(shù)進步方面的透明度和知識共享的機制。

“我們正看到人工智能能力在迅速增長，現(xiàn)在需要做的是負責任地將其應(yīng)用到世界中去。科學(xué)的歷史告訴我們，技術(shù)進步遵循指數(shù)曲線?！?/p>

阿爾特曼預(yù)測，“在未來的10年內(nèi)，我們可能會擁超強的人工智能系統(tǒng)?！?/p>

“想象一下未來十年的世界，通用人工智能系統(tǒng)在幾乎每個領(lǐng)域?qū)I(yè)技能都超過了人類。這些系統(tǒng)產(chǎn)生的生產(chǎn)力最終可以超過我們最大公司所能產(chǎn)出的集體生產(chǎn)力。潛在的收益是巨大的。人工智能革命可以創(chuàng)造我們共享的財富，并且顯著提高人機交互水平。但我們必須共同管理風險，才能達到這個目的。”

阿爾特曼稱，如果人們沒能為此做好規(guī)劃，一個被設(shè)計用于改善公共衛(wèi)生成果但“未對齊的”人工智能系統(tǒng)，可能會通過提供混亂的建議來破壞整個公共衛(wèi)生體系；同樣，一個旨在優(yōu)化農(nóng)業(yè)實踐的人工智能系統(tǒng)可能會無意中損害經(jīng)濟、消耗資源，它會因缺乏對長期可持續(xù)性的考慮，從而影響糧食生產(chǎn)和環(huán)境平衡。

“我希望我們都能認同，推進通用人工智能安全是我們需要達成共識的最重要領(lǐng)域之一?！彼f。

在阿爾特曼看來，通用人工智能的治理，首先應(yīng)建立起包容的國際準則和標準，為在所有國家使用通用人工智能設(shè)立平等、統(tǒng)一的防護措施；其次需要國際合作，以可驗證的方式在全球范圍內(nèi)建立對越來越強大的通用人工智能系統(tǒng)安全開發(fā)的信任。

他說，“我們可以邁出的最有建設(shè)性的一步就是國際科技界共同合作，提高AGI安全技術(shù)進步方面的透明度，建立知識共享機制。當研究人員發(fā)現(xiàn)緊急問題時，應(yīng)分享他們的發(fā)現(xiàn)。我們需要認真思考如何在尊重和保護知識產(chǎn)權(quán)的同時，鼓勵這樣的分享。這將為我們深化合作打開新的大門?！?/p>

（文章來源：中國新聞網(wǎng)）

關(guān)鍵詞：