【文 觀察者網(wǎng)/趙挪亞】

過去一年時間里，AI（人工智能）的倫理問題成為了各個互聯(lián)網(wǎng)企業(yè)和各國政府討論焦點之一，前有谷歌先后成立、取消AI道德委員會，后有歐盟公布AI道德準(zhǔn)則，這一新興技術(shù)在社會應(yīng)用上的倫理規(guī)范尚需討論。

不過，盡管谷歌一再強調(diào)AI的道德問題，但旗下的YouTube卻曾在“巴黎圣母院大火”時，因AI算法引起爭議，而他們設(shè)立的AI道德委員會也只持續(xù)了兩周不到即告解散。

在5月8日凌晨舉行的2019谷歌I/O開發(fā)者大會上，美國搜索引擎巨頭陸續(xù)公布了新版的視覺化搜索系統(tǒng)、谷歌智能助手以及安卓系統(tǒng)，AI成為了貫穿整場大會的主題，而作為這一技術(shù)使用的前提，谷歌CEO桑達爾·皮查伊（Sundar Pichai）稱他們正在努力解決人工智能的偏見問題。

谷歌I/O大會

在會上，皮查伊稱憑借現(xiàn)有的機器學(xué)習(xí)和算法，要制造一個種族主義、性別歧視的AI非常容易。他表示，現(xiàn)有的AI機器學(xué)習(xí)本質(zhì)上依靠的還是大量數(shù)據(jù)的輸入，因此這些數(shù)據(jù)的公正性，將很大程度上左右AI在種族和性別問題上是否具有偏見。

皮查伊以谷歌旗下的AI算法舉例：“如果你想用該技術(shù)來建立一個可以識別醫(yī)生形象的AI模型，但卻一直給它輸入‘穿白大褂、帶聽診器’的男性照片，那么最終這一AI將很可能認定，男性是識別醫(yī)生照片的重要元素?！?

而在另一個例子中，皮查伊也提到，AI算法可以用在鑒別皮膚癌的領(lǐng)域。但如果在訓(xùn)練階段，研究人員一直給其輸入同種膚色的皮膚癌照片，卻遺漏了其他膚色，那么最終這一AI也將在診斷時出現(xiàn)誤判。

皮查伊表示：“僅僅知道AI模型有效是不夠的，我們必須知道它如何運作。早在機器學(xué)習(xí)出現(xiàn)之前，偏見就一直是科學(xué)界關(guān)注的問題。（在這個問題上）AI的風(fēng)險顯然更高?！?

為此，谷歌提出了兩個解決方案。其中之一，就是一種被稱為TCAV（使用概念激活向量進行測試）的技術(shù)，它可以確定機器學(xué)習(xí)系統(tǒng)在做決定時，相關(guān)概念和數(shù)據(jù)在機器學(xué)習(xí)系統(tǒng)中的權(quán)重有多少，從而更好理解AI算法的邏輯。其次，皮查伊還提出，將會把部分開放數(shù)據(jù)分享給其他公司和AI技術(shù)人員，以此幫助更多人。

在最后總結(jié)階段，谷歌舉了一些例子說明了AI給社會帶來的各種進步。比如，借助AI來算出患者的患病趨勢，降低患者的死亡率；用AI預(yù)測洪水，龍卷風(fēng)等災(zāi)害性天氣。

盡管如此，谷歌的AI技術(shù)還是為他們引來了不少爭議。

據(jù)《今日俄羅斯》4月16日報道，在“巴黎圣母院”大火期間，YouTube平臺上部分新聞直播下方的信息欄（Info Box）內(nèi)，出現(xiàn)了有關(guān)“911恐怖襲擊”事件的說明，此事也引來了眾多網(wǎng)友的批評，認為YouTube此舉可能助長“陰謀論”的出現(xiàn)。

據(jù)截圖顯示，在France 24的直播視頻下方，出現(xiàn)了“911恐襲”的說明

對此，谷歌發(fā)言人解釋：“我們對巴黎圣母院的大火感到十分難過，但這些信息欄都由算法自動生成，有時候系統(tǒng)會出錯。我們已經(jīng)關(guān)閉了這些直播視頻下方的信息欄?！?

今年3月26日，谷歌宣布成立人工智能道德委員會，即先進技術(shù)外部咨詢委員會，希望通過哲學(xué)家、工程師和政策專家組成的團隊幫助解決人工智能帶來的道德風(fēng)險。

而到了4月4日，由于谷歌內(nèi)部員工不滿委員會成員凱·詹姆斯（Kay James）和戴安·吉本斯（Dyan Gibbens）的政治傾向，再加上耐基梅隆大學(xué)學(xué)者亞歷山德羅?阿奎斯蒂（Alessandro Acquisti）教授的批評，谷歌宣布取消人工智能道德委員會。

除了谷歌以外，歐盟也于4月8日公布了人工智能道德準(zhǔn)則，并要求“值得信賴”的AI應(yīng)當(dāng)滿足包括“人類監(jiān)督”、“技術(shù)安全”、“多樣性和公平性”以及“透明性”在內(nèi)的7個條件。

歐盟的AI道德準(zhǔn)則

不過有部分研究者懷疑，歐盟制定的人工智能道德準(zhǔn)則，將會影響到這一產(chǎn)業(yè)的未來發(fā)展。

智庫機構(gòu)數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）的高級政策分析師艾琳·奇沃特（Eline Chivot）4月8日在接受The Verge采訪時說：“歐盟希望通過制定道德標(biāo)準(zhǔn)，來確定自身在全球AI發(fā)展中的地位，我們對這種方法持懷疑態(tài)度。要成為AI倫理的領(lǐng)導(dǎo)者，首先你必須在AI領(lǐng)域遙遙領(lǐng)先?！?

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。