編者按：從硅谷到華強(qiáng)北，從莫斯科到以色列，從實(shí)驗(yàn)室到辦公室，從課堂到戰(zhàn)場(chǎng)，全球人工智能（AI）技術(shù)飛速發(fā)展，等不及人們爭(zhēng)論出個(gè)結(jié)果，就已經(jīng)快速應(yīng)用到人類(lèi)世界的方方面面。

AI治理課題隨之變得極為緊迫和現(xiàn)實(shí)。

日前，中國(guó)向聯(lián)合國(guó)大會(huì)提交的“加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議”，獲得美國(guó)聯(lián)署，獲得通過(guò)。兩個(gè)大國(guó)在AI問(wèn)題上攜起手來(lái)，促進(jìn)全人類(lèi)共享智能紅利。

這是中國(guó)在AI治理問(wèn)題上推動(dòng)全球合作的最新進(jìn)展。

2023年10月，習(xí)近平主席宣布中國(guó)提出《全球人工智能治理倡議》，愿同各國(guó)加強(qiáng)交流和對(duì)話(huà)，共同促進(jìn)全球人工智能健康有序安全發(fā)展。

今年5月，習(xí)近平主席在法國(guó)進(jìn)行國(guó)事訪問(wèn)期間，與馬克龍總統(tǒng)共同發(fā)布《中法關(guān)于人工智能和全球治理的聯(lián)合聲明》。

今年2月，印尼在全球人工智能倫理論壇上提出了在全球人工智能治理時(shí)要考慮到“全球南方”，國(guó)際社會(huì)大多數(shù)的聲音，也應(yīng)認(rèn)真傾聽(tīng)。

面對(duì)這一全球挑戰(zhàn)，中國(guó)是何立場(chǎng)，有何抓手？如何平衡斗爭(zhēng)與團(tuán)結(jié)？應(yīng)當(dāng)依靠誰(shuí)，團(tuán)結(jié)誰(shuí)？科工力量與華東師范大學(xué)國(guó)際傳播研究院全球南方研究中心主任熊節(jié)進(jìn)行了深入探討，以下是此次對(duì)話(huà)實(shí)錄：

科工力量：對(duì)全球AI治理來(lái)說(shuō)，AI武器化可能是我們面臨的顯性問(wèn)題，AI武器化有哪些途徑？

熊節(jié)：在我們不久前的探討中，參考了美國(guó)去年11月由拜登總統(tǒng)所發(fā)布的《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》及白宮的解讀。

2023年11月，美國(guó)總統(tǒng)拜登簽署了《關(guān)于人工智能的安全、可靠、可信發(fā)展和使用的總統(tǒng)令》（Executive Order on the Safe,Secure,and Trustworthy Development and Use of Artificial Intelligenc）。新華網(wǎng)

我們之所以借鑒美國(guó)的觀點(diǎn)，是因?yàn)槊绹?guó)在人工智能技術(shù)方面最為先進(jìn)；同時(shí)，歷史上，美國(guó)在將科學(xué)技術(shù)武器化方面也處于領(lǐng)先地位。因此，我們應(yīng)該首先參考美國(guó)的思路，了解他們?nèi)绾慰创@一問(wèn)題。

從總統(tǒng)令中，我們可以看到幾個(gè)主要方向：第一種是人工智能對(duì)關(guān)鍵基礎(chǔ)設(shè)施的影響，可能產(chǎn)生交通、能源、化學(xué)、生物、輻射和數(shù)字空間等領(lǐng)域的影響。隨著整個(gè)社會(huì)的數(shù)字化程度越來(lái)越高，基礎(chǔ)設(shè)施越來(lái)越多地采用計(jì)算機(jī)數(shù)字化管理，人工智能的應(yīng)用也在增加，數(shù)字世界的攻防戰(zhàn)一直持續(xù)不斷，在人工智能被引入后，對(duì)抗性會(huì)更強(qiáng)。

第二種是利用人工智能進(jìn)行危險(xiǎn)生物材料研發(fā)的風(fēng)險(xiǎn)。這一點(diǎn)在拜登總統(tǒng)令中被特別強(qiáng)調(diào)，必須引起我們注意。解讀中提到，政府采購(gòu)需要與私營(yíng)部門(mén)合作，列出篩選后的供應(yīng)商清單。我們從中可以推斷，美國(guó)不但已有廠商在進(jìn)行相關(guān)工作，而且這些廠商希望通過(guò)影響政策來(lái)壟斷相關(guān)業(yè)務(wù)，防止其他企業(yè)介入。這些企業(yè)的活動(dòng)內(nèi)容值得我們深入關(guān)注。

由于現(xiàn)階段蛋白質(zhì)合成技術(shù)在很大程度上依賴(lài)于“窮舉法”，而人工智能無(wú)疑能大幅提高這一過(guò)程的效率和準(zhǔn)確性。如果這種技術(shù)被用于危險(xiǎn)目的，比如戰(zhàn)爭(zhēng)，那么它也能大幅提高生物武器的制造效率。鑒于美國(guó)在這方面的歷史記錄并不良好——德特里克堡生物實(shí)驗(yàn)室曾經(jīng)接受日本731部隊(duì)的所謂科研成果，并且曾在朝鮮戰(zhàn)場(chǎng)、越南戰(zhàn)場(chǎng)多次使用生化武器，這一點(diǎn)必須警惕。

位于美國(guó)馬里蘭州的德特里克堡生物實(shí)驗(yàn)室中新網(wǎng)

第三點(diǎn)是利用AI生成內(nèi)容來(lái)制造欺詐和假新聞的風(fēng)險(xiǎn)。以前，造謠傳謠主要是通過(guò)文字內(nèi)容，如今配合人工智能深度偽造等相應(yīng)技術(shù)，現(xiàn)在視頻造假內(nèi)容也越來(lái)越多。我們已經(jīng)看到，宣傳戰(zhàn)、輿論戰(zhàn)都是美國(guó)混合戰(zhàn)爭(zhēng)的關(guān)鍵組成部分，人工智能技術(shù)將在其中發(fā)揮重要作用。

科工力量：類(lèi)比“核俱樂(lè)部”、“太空俱樂(lè)部”，現(xiàn)在美國(guó)明顯正在努力推動(dòng)“AI俱樂(lè)部”，您認(rèn)為AI武器化能否成功？

熊節(jié)：我認(rèn)為一定會(huì)成功。從最初的木棒到后來(lái)的各種技術(shù)，人類(lèi)有一種不好的傳統(tǒng)，那就是將一切能夠武器化的東西都武器化。另外，如果與“核俱樂(lè)部”相對(duì)防止了核擴(kuò)散的情況相比，我覺(jué)得AI大模型的擴(kuò)散是更令人擔(dān)憂(yōu)的問(wèn)題。當(dāng)初，核武器的出現(xiàn)，很快就形成了一種“末日威懾”，相比之下，AI的武器化在單次打擊的毀滅力上沒(méi)有那么強(qiáng)，因此其帶來(lái)的恐懼心理相對(duì)較低，但另一方面，AI的可獲得性卻比核武器大大提高，軟件可以零成本復(fù)制，大模型復(fù)制起來(lái)可能稍微困難一些，但最多也只需處理幾百GB的數(shù)據(jù)，如今要控制一個(gè)AI大模型的擴(kuò)散幾乎是不可能的，各種犯罪團(tuán)體、極端主義團(tuán)體都可能獲得大模型。

ChatGPTpixabay

科工力量：包括中國(guó)在內(nèi)的南方國(guó)家怎么應(yīng)對(duì)？

熊節(jié)：7月1日，第78屆聯(lián)合國(guó)大會(huì)通過(guò)了一份重要決議《加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議》，這份決議由中國(guó)主提，140多國(guó)參加決議聯(lián)署。

7月1日，聯(lián)合國(guó)通過(guò)《加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議》現(xiàn)場(chǎng)中國(guó)日?qǐng)?bào)

這份決議強(qiáng)調(diào)人工智能發(fā)展應(yīng)堅(jiān)持以人為本、智能向善、造福人類(lèi)的原則，鼓勵(lì)通過(guò)國(guó)際合作和實(shí)際行動(dòng)幫助各國(guó)特別是發(fā)展中國(guó)家加強(qiáng)人工智能能力建設(shè)，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，倡導(dǎo)開(kāi)放、公平、非歧視的商業(yè)環(huán)境，支持聯(lián)合國(guó)在國(guó)際合作中發(fā)揮中心作用，實(shí)現(xiàn)人工智能包容普惠可持續(xù)發(fā)展，助力實(shí)現(xiàn)聯(lián)合國(guó)2030年可持續(xù)發(fā)展議程。

這與將AI武器化、用于謀求霸權(quán)地位的立場(chǎng)和做法形成鮮明對(duì)比。

從社會(huì)主義新中國(guó)立場(chǎng)和傳統(tǒng)出發(fā)，我們的態(tài)度是，不追求武器化，但不放棄武器化。我們不會(huì)主動(dòng)侵略或欺負(fù)別國(guó)，但要維持和平，首先需要有斗爭(zhēng)的能力，武器是這種能力的重要部分，如果沒(méi)有武器化的能力，就可能面臨挨打的風(fēng)險(xiǎn)。

技術(shù)上，數(shù)字世界的攻防往往是一體的，我們需要的是堅(jiān)固的“盾”，但前提是擁有足夠鋒利的矛，才能幫助我們識(shí)別和防范各種高度動(dòng)態(tài)化的威脅。如果我們想要促進(jìn)賽博空間的和平，其方式可能不是通過(guò)每個(gè)國(guó)家都擁有最強(qiáng)的武器來(lái)形成相互威懾，而是通過(guò)普及更有效的防范措施，讓所有國(guó)家都能受益，這樣，AI武器可能就難以發(fā)揮作用了。

pixabay