（觀察者網(wǎng)訊）“人工智能或?qū)е氯祟?lèi)滅絕”，5月30日，國(guó)際AI領(lǐng)域非營(yíng)利組織“人工智能安全中心”（Center for AI Safety）發(fā)布公開(kāi)信，呼吁國(guó)際社會(huì)認(rèn)真對(duì)待人工智能帶來(lái)的一系列重要且緊迫的風(fēng)險(xiǎn)。

公開(kāi)信截圖（下同）

這封公開(kāi)信中，只有由22個(gè)英文單詞組成的簡(jiǎn)短的一句話：

“減輕人工智能帶來(lái)的人類(lèi)滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)一同成為全球性的優(yōu)先事項(xiàng)?！?

根據(jù)“人工智能安全中心”網(wǎng)站發(fā)布信息，截至5月30日，該公開(kāi)信已獲得研究AI工作的企業(yè)高管以及AI、氣候、傳染病等各領(lǐng)域教授和學(xué)者，總計(jì)超350人的簽署。

簽署人包括三家全球頂尖AI公司的CEO——“ChatGPT之父”、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯，以及美國(guó)Anthropic公司的CEO達(dá)里奧·阿莫代伊。微軟和谷歌公司的多名高管也在名單之中。

名單中，杰弗里·辛頓（Geoffrey Hinton）和約書(shū)亞·本吉奧（Yoshua Bengio）的名字赫然在列。美媒《紐約時(shí)報(bào)》稱(chēng)，辛頓和本吉奧是被世人譽(yù)為三名“AI教父”中的兩人，曾因在神經(jīng)網(wǎng)絡(luò)方面的開(kāi)創(chuàng)性工作而獲得計(jì)算機(jī)領(lǐng)域最高獎(jiǎng)項(xiàng)——圖靈獎(jiǎng)。

“AI教父”中的第三人、現(xiàn)任臉書(shū)母公司Meta的首席AI科學(xué)家的伊恩·勒坤（Yann LeCun）尚未簽名。

此外，簽署人名單中也不乏人工智能領(lǐng)域的著名學(xué)者和高校教授，其中包括中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長(zhǎng)張亞勤，中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅，以及清華智能產(chǎn)業(yè)研究院助理研究員詹仙園。

抗議者在倫敦呼吁對(duì)人工智能進(jìn)行監(jiān)管，圖自BBC

“這代表了人工智能專(zhuān)家組成的歷史性聯(lián)盟，和哲學(xué)家、倫理學(xué)家、法律學(xué)者、經(jīng)濟(jì)學(xué)家、物理學(xué)家、政治學(xué)家、流行病學(xué)家、核科學(xué)家和氣候科學(xué)家一同，將人工智能系統(tǒng)帶來(lái)的人類(lèi)滅絕風(fēng)險(xiǎn)確定為世界上最重要的問(wèn)題。”在同日發(fā)表的另一份聲明中，“人工智能安全中心”如此寫(xiě)道。

聲明還稱(chēng)，獲得超350名專(zhuān)家、學(xué)者和高管聯(lián)名的公開(kāi)信肯定了目前日益增長(zhǎng)的公眾情緒。路透社和民調(diào)機(jī)構(gòu)“益普索”近日進(jìn)行的一項(xiàng)民調(diào)結(jié)果顯示，有61%的美國(guó)受訪者認(rèn)為人工智能威脅著人類(lèi)的未來(lái)。

“人工智能安全中心”丹·亨德里克斯表示，解決全世界現(xiàn)已感受到的人工智能負(fù)面影響至關(guān)重要，同時(shí)國(guó)際社會(huì)還應(yīng)有先見(jiàn)之明，“設(shè)置護(hù)欄”，預(yù)測(cè)更先進(jìn)的人工智能系統(tǒng)將帶來(lái)的風(fēng)險(xiǎn)，“這樣才不會(huì)有朝一日措手不及”。

路透社提到，這封公開(kāi)信發(fā)出呼吁之際，恰逢美國(guó)-歐盟貿(mào)易和技術(shù)委員會(huì)在瑞典舉行會(huì)議。

自去年11月底面世至今，ChatGPT便不斷引起爭(zhēng)議。作為AlphaGo之后又一個(gè)基于人工智能技術(shù)的現(xiàn)象級(jí)應(yīng)用，ChatGPT顛覆了公眾對(duì)聊天機(jī)器人的認(rèn)知，也再次喚醒了人類(lèi)對(duì)人工智能的擔(dān)憂(yōu)。

今年3月，另一個(gè)國(guó)際AI領(lǐng)域非營(yíng)利組織“未來(lái)生命研究所”以公開(kāi)信的方式發(fā)起倡議，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。截至3月29日下午，公開(kāi)信獲得了包括馬斯克在內(nèi)的超1000名科技界人士的聯(lián)名簽署。

另?yè)?jù)《紐約時(shí)報(bào)》報(bào)道，本月早些時(shí)候，三家全球頂尖AI公司的CEO阿爾特曼、哈薩比斯和阿莫迪曾前往白宮會(huì)見(jiàn)拜登和哈里斯，討論人工智能監(jiān)管問(wèn)題。在會(huì)后的參議院證詞中，阿爾特曼警告說(shuō)，先進(jìn)人工智能系統(tǒng)所帶來(lái)的風(fēng)險(xiǎn)，已嚴(yán)重到需要保證政府干預(yù)。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。