中文字幕一级毛片无码视频,[国产剧情]麻豆正在播放,又爽又黄又无遮挡的视频在线观看

APP下載

掃一掃

下載觀察者APP

院士何積豐：應(yīng)對(duì)大模型的安全問(wèn)題，需設(shè)好“緊箍咒”
- 陳濟(jì)深
分享到：

2023-09-07 15:06:05 字號(hào)：A- A A+ 來(lái)源：觀察者網(wǎng)

模型的通用能力讓其能夠應(yīng)用到人類(lèi)生產(chǎn)生活的各個(gè)場(chǎng)景中，可謂“無(wú)孔不入”。AI的發(fā)展因此帶來(lái)了新的安全隱私問(wèn)題，如何解決這一隱患，9月7日開(kāi)幕的2023 INCLUSION·外灘大會(huì)上，中國(guó)科學(xué)院院士何積豐開(kāi)出了他的“藥方”：利用對(duì)齊技術(shù)為大模型戴上緊箍咒。

何積豐院士認(rèn)為，大模型的安全問(wèn)題主要是在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問(wèn)題既可能發(fā)生在訓(xùn)練過(guò)程，也可能發(fā)生在使用過(guò)程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。

中國(guó)科學(xué)院院士何積豐

“為了應(yīng)對(duì)這些問(wèn)題，我們需要大模型對(duì)齊技術(shù)?！焙畏e豐說(shuō)，“對(duì)齊（alignment）”是指系統(tǒng)的目標(biāo)和人類(lèi)價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為。”

不過(guò)，對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先，對(duì)齊的基礎(chǔ)，人類(lèi)的價(jià)值觀是多元且動(dòng)態(tài)變化的，需要保證大模型為人服務(wù)、與人為善；其次，大模型的有用性與無(wú)害性之間目標(biāo)也不完全一致。如何對(duì)錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。

因此，對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)，也審視文化。

何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一種方式是通過(guò)人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào)，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類(lèi)價(jià)值觀對(duì)齊，人類(lèi)的訓(xùn)練方法也要向價(jià)值觀對(duì)齊?！焙畏e豐說(shuō)。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
|

舉報(bào)
- 違反法律法規(guī)
- 垃圾信息、廣告
- 色情、淫穢信息
- 人身攻擊
- 謠言、不實(shí)信息
- 冒充，冒用信息
- 破壞社區(qū)秩序
- 其他
- 涉未成年人有害信息
觀察者網(wǎng)舉報(bào)制度規(guī)范
確定取消
標(biāo)簽外灘大會(huì)
- 責(zé)任編輯: 陳濟(jì)深
搜索

   觀察者頭條查看全部

“美國(guó)對(duì)中國(guó)生氣，我們就要跟著？！” 評(píng)論 8

“特朗普想全盤(pán)贏中國(guó)，唯獨(dú)這個(gè)戰(zhàn)場(chǎng)主動(dòng)認(rèn)輸” 評(píng)論 32

特朗普?qǐng)F(tuán)隊(duì)急了：正和中國(guó)談著呢，不能取消評(píng)論 84

低空經(jīng)濟(jì)，如何賦能中國(guó)物流升維？評(píng)論 61

兩名以色列駐美使館人員遭槍殺評(píng)論 206

   風(fēng)聞 · 24小時(shí)最熱查看全部

   最新視頻查看全部
最新聞 Hot
快訊

院士何積豐：應(yīng)對(duì)大模型的安全問(wèn)題，需設(shè)好“緊箍咒”

院士張人禾：?jiǎn)未颡?dú)斗已不適應(yīng)大科學(xué)時(shí)代，要進(jìn)行“有組織科研”

外灘大會(huì)今日開(kāi)幕近20位“兩院”院士、諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主齊聚上海

混元已接入騰訊50多個(gè)業(yè)務(wù)，國(guó)產(chǎn)大模型將加速轉(zhuǎn)入長(zhǎng)跑期？

細(xì)則落地！存量首套房貸利率調(diào)整，四大行發(fā)布公告

全面擁抱大模型，騰訊混元正式亮相

京東集團(tuán)CEO許冉：印尼將會(huì)成為京東全球供應(yīng)鏈網(wǎng)絡(luò)的重要節(jié)點(diǎn)

頂風(fēng)作案！340萬(wàn)股，買(mǎi)回來(lái)

二手車(chē)商日子難過(guò)：600平米展廳一年上千萬(wàn)流水只賺1萬(wàn)元

網(wǎng)約車(chē)圍城：一年之內(nèi)涌入41家平臺(tái)、上百萬(wàn)名駕駛員

莫斯科交易所：8月人民幣交易額環(huán)比增長(zhǎng)超30%

報(bào)告：高凈值人群進(jìn)一步年輕化，“富二代”占比減少？

國(guó)家發(fā)改委上線民間投資問(wèn)題反映專(zhuān)欄

?歐洲最大地方政府破產(chǎn)，怎么回事？

旅游需求強(qiáng)勁，攜程二季度營(yíng)收超2019年同期29%

杭州今日起實(shí)施“認(rèn)房不認(rèn)貸”

歐洲車(chē)企“焦慮”：這是一個(gè)轉(zhuǎn)折點(diǎn)

華為：網(wǎng)傳“美國(guó)邀請(qǐng)任正非去美國(guó)”純屬造謠

華為公開(kāi)表態(tài)后，諾基亞持有的鼎橋51%股權(quán)不賣(mài)了

手機(jī)寒冬中凈利潤(rùn)翻倍，小米盧偉冰回應(yīng)“友商回歸”

沈陽(yáng)取消限購(gòu)限售

“美國(guó)對(duì)中國(guó)生氣，我們就要跟著？！”

“特朗普想全盤(pán)贏中國(guó)，唯獨(dú)這個(gè)戰(zhàn)場(chǎng)主動(dòng)認(rèn)輸”

莫迪：巴基斯坦不會(huì)從印度河水中獲得水資源

首次！比亞迪在歐洲超越特斯拉

尷尬了…特朗普舉著剛果（金）的照片指控南非

“特朗普對(duì)以色列愈發(fā)不滿，扭頭聯(lián)系哈馬斯”

特朗普?qǐng)F(tuán)隊(duì)急了：正和中國(guó)談著呢，不能取消

82%→86%，中國(guó)在這一領(lǐng)域的市場(chǎng)份額還在上升

低空經(jīng)濟(jì)，如何賦能中國(guó)物流升維？

“關(guān)鍵時(shí)刻，中國(guó)東盟談妥了”

美高級(jí)官員：聽(tīng)了，但沒(méi)完全聽(tīng)

澳總理還想訪華，“這肯定是件好事”

“AI教母”警告：特朗普這么干危及美國(guó)科技主導(dǎo)地位

馬斯克：中國(guó)實(shí)力不一般，大多數(shù)人并不了解

“俄羅斯士兵渴望和平，但還想繼續(xù)前進(jìn)”

細(xì)節(jié)曝光：槍手裝成路人，要求保安報(bào)警