曾毅：人工智能仍然是人類的一面鏡子

12月21日，以“聚力·奮發(fā)2024”為主題的環(huán)球人物年度盛典在北京舉行。

本次活動邀請到毛澤東同志衛(wèi)士長李銀橋之子李卓韋，聯(lián)合國前副秘書長埃里克·索爾海姆，中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅，中國科學(xué)院計算技術(shù)研究所研究員、龍芯首席科學(xué)家胡偉武，復(fù)旦大學(xué)教授梁永安，百年昆曲世家傳人周好璐，中國科學(xué)院院士陸汝鈐，以主題演講的方式，分享自己在這一年中的感悟與思考，凝聚共識，奮力前行。

以下為曾毅的演講內(nèi)容：

·2023年12月21日，環(huán)球人物年度盛典現(xiàn)場。

今天我非常高興有機會來到環(huán)球人物年度盛典，跟大家分享人工智能的發(fā)展。

我在參與聯(lián)合國教科文組織的人工智能全球倫理建議書、討論人工智能應(yīng)當(dāng)如何發(fā)展的時候，專家組當(dāng)中的同事們總會說，曾老師雖然你來自中國，和我們?nèi)绱瞬煌?，但還是非常希望跟你合作。我總會打斷他們說，我非常想知道，為什么你們認(rèn)為我和你們?nèi)绱瞬煌?/p>

全世界的文化多種多樣，但是世界應(yīng)當(dāng)包容性地發(fā)展。人工智能的技術(shù)不僅能夠推動經(jīng)濟發(fā)展，還應(yīng)當(dāng)幫助我們連接世界。它不僅僅應(yīng)當(dāng)用來促進文化傳承，更關(guān)鍵是，還應(yīng)該用來促進文化的交互。

我想這是人工智能可以帶給我們的力量。人工智能還能帶給我們什么？它還能讓我們進行反思。我們經(jīng)常說人工智能的發(fā)展應(yīng)該以人類為中心，應(yīng)該以人類為本。

這個世界上生命是多種多樣的，我們用人工智能技術(shù)實現(xiàn)了共生圖。這個共生圖當(dāng)中描述了人類以及所有動物、植物之間的關(guān)系，它背后是互聯(lián)網(wǎng)積累的海量數(shù)據(jù)，告訴我們，人類跟生態(tài)完完全全是關(guān)聯(lián)在一起的。所有生物、所有動物、所有植物，和人類是一個整體。

所以地球應(yīng)當(dāng)只是以人類為中心嗎？這給我們很多反思。當(dāng)我用一個生成式人工智能，希望它告訴我們?nèi)祟惡臀浵佒g的關(guān)系是什么，人工智能系統(tǒng)居然告訴我，世界上有50種不同的吃螞蟻的方式。只有一句話寫著，一位科學(xué)家曾經(jīng)說過，螞蟻社會的范式是人類社會合作范式的（效法）典范。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場演講。

生成式人工智能的發(fā)展，使得我們在用戶體驗層面，在工程技術(shù)組合創(chuàng)新層面，都在2023年的時候達到前所未有的高度。但是作為人工智能科技工作者，我也要告訴大家，人工智能的科技突破、科學(xué)突破還遠(yuǎn)遠(yuǎn)沒有到來。

人工智能今天的發(fā)展雖然給予我們很多機會，讓我們反思自己，讓我們認(rèn)識這個世界，但是它帶來的風(fēng)險也是巨大的。

大家看到生成式人工智能發(fā)展使得社會信任受到了極大的影響。你看到互聯(lián)網(wǎng)上的信息，不管是文本還是視頻，會相信這是真的嗎？是人工智能生成的？還是真實發(fā)生的？我們的社會信任在技術(shù)發(fā)展當(dāng)中居然受到了如此之大的挑戰(zhàn)。這是技術(shù)發(fā)展的雙刃劍。

當(dāng)你利用人工智能系統(tǒng)問問題的時候，它說“我認(rèn)為、我以為、我覺得、我建議”。作為一個人工智能的研究者，我想問人工智能，你哪里來的“我”？

人工智能是信息處理工具。它把顯著性的互聯(lián)網(wǎng)曾經(jīng)出現(xiàn)過的答案呈現(xiàn)給我們。但是它既不是責(zé)任的主體，也不是道德的主體，所以不要混淆人與人工智能之間的界限。

現(xiàn)在的人工智能只是一個工具，我們不應(yīng)當(dāng)把人類責(zé)任推給人工智能，更不應(yīng)該不負(fù)責(zé)任地在人工智能服務(wù)當(dāng)中放棄人類的權(quán)力和人類的責(zé)任。

我想，未來人工智能的發(fā)展并不一定只停留在看似智能的信息處理工具階段。比如說，在日本人工智能原則當(dāng)中就提到，未來人工智能可能會成為社會的準(zhǔn)成員，可能會成為人類的伙伴。

未來的人工智能在人類社會當(dāng)中，在生態(tài)當(dāng)中將扮演什么樣的角色？是工具？還是社會的準(zhǔn)成員？還是像很多科幻作品中描述的人類敵人？我想這都是有可能的。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場演講。

但如果我們把它當(dāng)做工具發(fā)展，就要把它做得更安全?，F(xiàn)在全世界有很多科學(xué)家號召人工智能發(fā)展能不能稍微慢一點，能不能停下來先解決安全的問題。我想，技術(shù)發(fā)展可能會往前走，但是如果希望技術(shù)進步能夠往前一步，那就要把安全的護欄提前做好。

因為人工智能是賦能技術(shù)發(fā)展、賦能全球可持續(xù)發(fā)展的基礎(chǔ)設(shè)施。我們不應(yīng)當(dāng)以不穩(wěn)健、風(fēng)險大的基礎(chǔ)設(shè)施服務(wù)于人類。所以我們發(fā)展人工智能不僅僅要保證它的安全可靠，更要保證它合乎倫理。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場演講。

人類道德是這樣獲得的：當(dāng)我們有了自我感知，就能夠區(qū)分自我和他人，能夠換位思考，能夠進行認(rèn)知的共情，能夠進行情感的共情，最后能夠進行道德利他，產(chǎn)生道德的直覺，最終產(chǎn)生道德的決策。這是人類道德的產(chǎn)生。

人類合乎倫理之路。我想未來的人工智能可能難以用這樣的方式，真的獲得理解，真正變成人類活動，以具有道德的人工智能來替代現(xiàn)在所謂的合乎倫理的人工智能。

當(dāng)你現(xiàn)在告訴人工智能應(yīng)該做什么、不應(yīng)該做什么的時候，同時也有可能有別人告訴它：他說的是不對的，你應(yīng)該按照我的方式做。除非它產(chǎn)生真正的理解，真正像孩子、伙伴和全人類一樣獲得真正對于道德的直覺，在道德直覺基礎(chǔ)上進行道德決策，那可能才是我們希望的人工智能。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場演講。

也許人類的演化速度并沒有那么快，但是人工智能的演化隨著超級計算平臺的誕生，速度可能非常快。

如果說，對于未來的人工智能我們有一個期望的話，我希望人工智能未來能夠能夠從中國文化中學(xué)到君子和而不同，也能從其他國家文化中獲得文化底蘊。

我認(rèn)為人工智能是一面鏡子，不管它未來停留在工具階段還是變成社會準(zhǔn)成員或者伙伴，都在不斷幫助人類思考人類來自于哪里，人類應(yīng)該在哪里。

人類永遠(yuǎn)不會被人工智能替代，因為我們一生的目標(biāo)是追尋自我的內(nèi)心。這也就是人工智能能夠幫助人類做的事情，讓我們追求善，以善為源。

人與人工智能未來必然是和諧共生的，如果人工智能未來真正能夠達到超級智能階段，那么它也應(yīng)該是超級利他的。符合自然演化規(guī)律的人工智能應(yīng)當(dāng)關(guān)愛整個社會、生態(tài)。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場演講。

這促使人類需要反思人與生態(tài)之間的關(guān)系。超級智能也許需要50年、100年甚至更長時間才能到來。但是我們需要解決人類與人工智能、生態(tài)之間和諧共生的問題，我們要給超級智能一個理由讓它關(guān)愛人類。也許人類社會倫理道德原則應(yīng)該在這樣的反思當(dāng)中進行重塑。

人工智能目前仍然是人類的一面鏡子，會給人類的未來帶來更多啟示。我想我們對人工智能的發(fā)展應(yīng)當(dāng)抱有開放的心態(tài)。

現(xiàn)在，人工智能作為一個信息處理工具，最負(fù)責(zé)任的使用它的方式應(yīng)該是，不必使人工智能無所不在，應(yīng)該使人工智能適度使用，負(fù)責(zé)任、穩(wěn)健的發(fā)展才會使人工智能揚帆遠(yuǎn)航。

謝謝大家！

監(jiān)    制： 張建魁

主    編： 許陳靜

編    審： 凌    云

（文章未經(jīng)授權(quán)不得轉(zhuǎn)載，轉(zhuǎn)載請加微信“HQRW2H”了解細(xì)則。歡迎大家投稿和提供新聞線索，可發(fā)至郵箱tougao@hqrw.com.cn。）