8月29日，2019世界人工智能大會在上海舉行。外交部原副部長、清華大學戰(zhàn)略與安全研究中心主任傅瑩在世界人工智能大會治理論壇上發(fā)表“人工智能的治理與國際合作”為題的講話。以下為演講全文：

（文/傅瑩）

傅瑩

一、關(guān)于人工智能治理面臨的挑戰(zhàn)。

進入21世紀的第二個十年，人工智能技術(shù)的應(yīng)用進入快速發(fā)展的階段，隨著AlphaGo為代表的深度學習算法的成熟，人工智能技術(shù)出現(xiàn)大面積應(yīng)用的趨勢。我最近訪問了一些企業(yè)，昨天在上海還看了三家企業(yè)，可以明顯地感受到我國人工智能產(chǎn)業(yè)所呈現(xiàn)出來的蓬勃發(fā)展態(tài)勢。可以期待，未來人類的生產(chǎn)和生活方式將發(fā)生更大的變化，生活將變得更加舒適和便利。

今年7月，我們在清華大學的世界和平論壇期間舉辦了三場論壇，邀請70多位國內(nèi)外專家學者和企業(yè)家圍繞人工智能的風險和治理進行研討。大家比較一致的看法是，人工智能技術(shù)是一把“雙刃劍”，一方面帶來科技革命和產(chǎn)業(yè)升級的重要機會，另一方面，也帶來新的安全風險，在治理上人類將面臨與以往完全不同的難題。

例如，在立法上需要有新的思維。傳統(tǒng)的法律是要以社會基本共識為基礎(chǔ)的，因此往往要滯后于社會實踐。但是在人工智能技術(shù)上，我們恐怕沒有這樣奢侈的時間條件，因為這項技術(shù)的應(yīng)用影響之快、之大，遠不同于傳統(tǒng)技術(shù)，治理的需求與技術(shù)的應(yīng)用幾乎同步出現(xiàn)。

再比如，傳統(tǒng)立法者關(guān)注的是人與人之間的關(guān)系。而人工智能作為“非人行為體”，未來會越來越廣泛地參與人類活動，那么，在人機共存，甚至人機沖突的情況下，如何面對和處置人類與機器的矛盾呢？“機器代替人”做決策的情況已經(jīng)不是想象中的事，波音737-MAX的空難就是一個重要的警示。

人工智能的到來對就業(yè)模式的快速沖擊也是前所未有的。清華大學戰(zhàn)略與安全研究中心人工智能項目組的于洋老師牽頭做的《中國青年視角下的人工智能技術(shù)（AI）風險和治理》調(diào)查項目中，超過50%青年人表達的頭等關(guān)切是失業(yè)風險。如同以往的技術(shù)革命，人工智能將取代大量程式化的工作崗位，同時也會創(chuàng)造出新型崗位和就業(yè)機會。挑戰(zhàn)在于，如何才能讓人才結(jié)構(gòu)的調(diào)整跑贏技術(shù)的更新迭代和產(chǎn)業(yè)結(jié)構(gòu)的躍升？

不能忽視的還有在倫理規(guī)范方面的新問題。例如國際上討論比較多的人群歧視和對個人隱私的尊重和保護等問題。有外國人對我說，中國人不需要隱私保護，我認為這是偏見。我國立法高度重視對個人權(quán)利的維護。在本月全國人大常委會審議的民法典人格權(quán)編草案稿中，針對收集、處理自然人個人信息有明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護人同意”等，而且把個人生物識別信息也納入保護的范圍。

二、我國在創(chuàng)新制度和手段、推進人工智能治理方面加快部署。

習近平總書記明確要求，“要加強人工智能發(fā)展的潛在風險研判和防范”，“要確保人工智能安全、可靠、可控”，“要整合多學科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?

總書記的要求是我們推進人工智能治理的重要指導(dǎo)方針。黨中央和國務(wù)院對人工智能的部署采取的是發(fā)展和治理同步推進的方針。今年2月科技部牽頭組建了中國國家新一代人工智能治理專業(yè)委員會，6月該委員會發(fā)布了新一代人工智能治理8條原則，強調(diào)發(fā)展負責任的人工智能。工信部在2017年就頒布了《促進新一代人工智能健康發(fā)展三年行動計劃（2018-2020）》，其中也對治理提出要求?，F(xiàn)在的重要任務(wù)是如何讓這些規(guī)則和要求落地，形成有利于我國人工智能健康成長的良性環(huán)境。上海在人工智能的研發(fā)和應(yīng)用方面走在全國的前列，積極探索治理路徑，重視推進國際合作。在科技部和工信部的支持下，上海推動建立了國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)和國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)?？梢云诖?，上海在人工智能治理的規(guī)則與制度的創(chuàng)新、開展國際合作方面也將走在全國的前列。

考慮到這個新興領(lǐng)域自身獨特的性質(zhì)，我們一方面要加快對立規(guī)和立法的研究，另一方面也要依靠科學界和企業(yè)界采取負責任的態(tài)度和行為。如果科學家在每一項新技術(shù)的研發(fā)中都能思考其負面風險，如果制造商在每一個新技術(shù)的應(yīng)用中同步構(gòu)建風險管理的解決辦法，那么，對這方面的挑戰(zhàn)就不難找到應(yīng)對辦法，其立法和規(guī)范也就不難走出新的路徑。

目前很多人工智能企業(yè)希望有法律責任和范圍的清晰界定，認為這樣更有利于企業(yè)的發(fā)展，他們在采取一些自律措施的同時，也期待國內(nèi)整體規(guī)則環(huán)境和基礎(chǔ)條件更快得到完善。