-
如何抑制“AI大模型幻覺”?方舟健客互聯(lián)網(wǎng)醫(yī)療在做精準(zhǔn)診斷實(shí)踐
最后更新: 2025-03-20 12:40:01(文/孫梅欣 編輯/張廣凱)
當(dāng)“老齡化”時(shí)代不可避免的到來,如何更好地對健康進(jìn)行管理、提升生活質(zhì)量,成為社會熱議話題。加之人工智能普及,“AI+醫(yī)療”在多平臺下得以使用,也讓市場紛紛聚焦“銀發(fā)經(jīng)濟(jì)”機(jī)遇下的互聯(lián)網(wǎng)醫(yī)療新賽道。
尤其是今年DeepSeek宣布開源之后,三甲醫(yī)院、智慧健康平臺等不同層級的醫(yī)療關(guān)聯(lián)機(jī)構(gòu),進(jìn)行更深入的“AI+”嘗試,如AI輔助診斷、AI醫(yī)生助理、影像AI……
作為國內(nèi)頭部的互聯(lián)網(wǎng)醫(yī)療平臺,方舟健客在今年2月也宣布接入DeepSeek開源大模型并完成私有化部署。技術(shù)+算力的優(yōu)化,為“AI+慢病管理”提供了數(shù)字驅(qū)動,方舟健客通過自主研發(fā)“H2H(Hospital To Home從醫(yī)院到家庭)智慧醫(yī)療生態(tài)”為“AI+H2H”的升級,希望成為公司的智慧醫(yī)療業(yè)務(wù)的新增長點(diǎn)。
在AI協(xié)助下,升級后的“AI+H2H”智慧醫(yī)療服務(wù)平臺對于咨詢處理效率得到提升、回復(fù)內(nèi)容更為精準(zhǔn)有效,能夠?yàn)榛颊叨撕歪t(yī)生端帶來服務(wù)效率提升。
同時(shí),隨著DeepSeek大量使用后所暴露出的“AI幻覺”問題,方舟健客也通過混合云部署、內(nèi)部準(zhǔn)確知識庫的建立,以及人機(jī)協(xié)同等方式進(jìn)行抑制,給出了醫(yī)療大模型細(xì)分領(lǐng)域的創(chuàng)新解決方案。
用人機(jī)協(xié)同提升服務(wù)效率
“在我國,有數(shù)據(jù)顯示,75%的老年人至少有一種慢性病,老年人對慢病服務(wù)管理的需求很強(qiáng)烈。但因醫(yī)患之間信息不對稱、醫(yī)療資源分布不均衡、慢病患者用藥依從性低等情況,慢病患者尤其在復(fù)診續(xù)方上還是存在著不少的痛點(diǎn)?!?
作為方舟健客的創(chuàng)始人、董事長兼首席執(zhí)行官,謝方敏希望能夠通過公司創(chuàng)新研發(fā)的H2H智慧醫(yī)療服務(wù)平臺,將在線復(fù)診、慢病管理、醫(yī)患教育、藥品服務(wù)等從醫(yī)院延伸至家庭。
此外,還能通過一對一服務(wù)的方式,有針對性地為慢病患者提供用藥指導(dǎo)、健康知識科普等服務(wù),解決患者用藥依從性差等實(shí)際問題。
謝方敏表示,從多年實(shí)踐經(jīng)驗(yàn)來看,80%的醫(yī)療咨詢存在重復(fù)提問,“一直回復(fù)同樣的問題”也變相占用了醫(yī)生大量時(shí)間。“接入大模型之后,AI醫(yī)生助理不僅可以更準(zhǔn)確識別語言歧義,并且可以按照醫(yī)生的問診邏輯進(jìn)一步追問,再將問題初篩匯總后交由醫(yī)生集中處理?!?
但謝方敏強(qiáng)調(diào),目前H2H智慧醫(yī)療平臺采取的是人機(jī)協(xié)同的運(yùn)作模式:“收集整理的患者問詢,都會有專業(yè)的執(zhí)業(yè)醫(yī)生進(jìn)行答復(fù)。若AI醫(yī)生助理在處理用戶問詢判斷為病情嚴(yán)重,也會第一時(shí)間首先建議患者線下就醫(yī)?!?
事實(shí)上,各大醫(yī)療咨詢平臺上目前入駐的醫(yī)生,大部分還是在通過碎片化提供線上問診回復(fù),但對于患者端而言,就存在較長的等待時(shí)間、實(shí)時(shí)回答率太低的情況。
“接到用戶問詢時(shí),AI醫(yī)生助手經(jīng)過醫(yī)生準(zhǔn)許,會針對患者提出的基礎(chǔ)性問題,進(jìn)行符合專業(yè)醫(yī)學(xué)的解答。”謝方敏提到,尤其是老年慢病患者普遍會存在重復(fù)、多次提問的情況,這些老年慢病群體希望在就醫(yī)過程中獲得情緒價(jià)值的安撫。
“在合理時(shí)間內(nèi)做到‘有問必答’,本身也是情緒價(jià)值的提供,疊加上算力提供較為準(zhǔn)確的回答,能夠讓患者有更好的體驗(yàn)感。”他認(rèn)為,體驗(yàn)感提升不僅能讓用戶增強(qiáng)對疾病認(rèn)知、提升問診信任度有較大的影響,同時(shí)也能提高平臺用戶忠誠度。
抑制“AI幻覺”,要“喂”更準(zhǔn)確信息
在DeepSeek的迅速風(fēng)靡的同時(shí),海量的使用用戶隨即發(fā)現(xiàn),人工智能會存在編故事一樣的“AI幻覺”,并能達(dá)到以假亂真的程度。
在技術(shù)創(chuàng)新、文學(xué)創(chuàng)作方面,“AI幻覺”是可以被容錯(cuò)的領(lǐng)域,但在更為嚴(yán)謹(jǐn)?shù)尼t(yī)療行業(yè),1%的差錯(cuò)都會帶來嚴(yán)重的事故。如何規(guī)避可能由于“AI幻覺”所帶來失誤?業(yè)內(nèi)也亟待一套完善的解決方案。
謝方敏坦言,“AI幻覺”是大型通用模型在應(yīng)用階段所遇到的第一大瓶頸,同時(shí)當(dāng)前還存在醫(yī)藥領(lǐng)域的數(shù)據(jù)安全、個(gè)人隱私保護(hù)及合規(guī)性問題:“因此我們在借助DeepSeek能力的同時(shí),也同步對公司的AI智能體平臺也做了四個(gè)方面的升級?!?
根據(jù)方舟健客技術(shù)負(fù)責(zé)人介紹,四方面的升級分別體現(xiàn)在技術(shù)、數(shù)據(jù)、安全管理和數(shù)據(jù)庫等方面。首先,通過升級技術(shù)架構(gòu),用更大算力資源讓模型變得更聰明;其次,升級了AI智能體開發(fā)平臺,讓應(yīng)用可以更快搭建;再次,升級了安全管理平臺,針對安全合規(guī)性設(shè)置更高要求;最后,升級知識庫的體系和內(nèi)容,盡可能讓AI幻覺最小化。
“具體來說,一方面我們通過跟騰訊云合作,用私有化的彈性提供更高算力資源,跑V3和R1的一些微調(diào)模型。另外考慮到數(shù)據(jù)放在云端可能存在風(fēng)險(xiǎn),我們把所有數(shù)據(jù)部署在本地,并有專門的安全管理平臺做管理?!痹撠?fù)責(zé)人表示,方舟健客采用混合云部署架構(gòu),可以很好地平衡算力資源和安全性的問題。
據(jù)悉,方舟健客不僅對接了DeepSeek,也對接了千問、Kimi、混元、miniMax等等通用模型,他補(bǔ)充說:“在這樣的部署實(shí)踐下,一方面能為AI智能體平臺算力賦能,另一方面針對專業(yè)性強(qiáng)的問答還會進(jìn)行任務(wù)細(xì)分,還可以交予不同的專家模型回復(fù),以抑制AI幻覺的產(chǎn)生?!?
方舟健客技術(shù)負(fù)責(zé)人認(rèn)為,AI幻覺產(chǎn)生的主要因素,一是由于內(nèi)容缺失,二是因?yàn)橛?xùn)練內(nèi)容之間相互存在歧義,所以抑制AI幻覺最好的方式,就是給模型提供準(zhǔn)確的知識:“因此我們在內(nèi)部構(gòu)建了包括藥品說明書、醫(yī)學(xué)指南等專業(yè)信息在內(nèi)的準(zhǔn)確知識庫,并且我們還會通過大模型對知識庫再進(jìn)行反復(fù)檢查,讓內(nèi)容更加準(zhǔn)確,避免輸出內(nèi)容時(shí)出現(xiàn)不可預(yù)測的情況。”
- 責(zé)任編輯: 孫梅欣 
-
AMD總裁蘇姿豐:DeepSeek的成就令人非常興奮
2025-03-20 08:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
BOSS直聘因求職者太多崩了?官方回應(yīng)
2025-03-20 07:53 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
《刺客信條》新作,能否救育碧于水火之中?
2025-03-20 07:51 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
去年?duì)I收1789億元的招商蛇口,想用資管、物業(yè)拉增長
2025-03-19 21:32 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
凱利泰新一屆董事會名單出爐 現(xiàn)任董事長及總經(jīng)理落選
2025-03-19 20:25 -
-
一場數(shù)學(xué)競賽背后的中俄科技與教育合作
2025-03-19 20:03 觀察者頭條 -
利潤漲超50%,安踏體育股價(jià)反跳水
2025-03-19 17:46 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
大女兒出任CFO,二女兒帶貨當(dāng)網(wǎng)紅,特步接班人塵埃未定
2025-03-19 17:30 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
全年研發(fā)投入707億,騰訊:AI戰(zhàn)略進(jìn)入重投入期
2025-03-19 17:15 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
消息稱藍(lán)思科技最快7月港股IPO
2025-03-19 17:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
“京東買菜”更名為“京東七鮮”
2025-03-19 17:00 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
國產(chǎn)大模型,已經(jīng)在幫老百姓辦事了
2025-03-19 15:58 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
國家超算互聯(lián)網(wǎng)日訪問量破300萬
2025-03-19 15:57 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
“ 五角大樓計(jì)劃裁員6萬”
2025-03-19 15:41 -
TCL科技收購LGD廣州工廠完成工商變更
2025-03-19 15:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
英偉達(dá)宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
相關(guān)推薦 -
真急了!“請求中國取消限制” 評論 65歐盟多國大停電,“我們需要中國技術(shù)” 評論 110中俄元首在主觀禮臺出席紅場閱兵式 評論 57英方拿到了,“簡直像在平行宇宙,中國太超前了” 評論 88最新聞 Hot
-
真急了!“請求中國取消限制”
-
嚴(yán)管執(zhí)行!中方再出手,美媒發(fā)愁
-
俄副總理:中俄“西伯利亞力量-2”項(xiàng)目談判取得進(jìn)展
-
“歐洲在華企業(yè)偷著樂:機(jī)會來了”
-
歐盟多國大停電,“我們需要中國技術(shù)”
-
普京閱兵式演講,特別提到中國
-
“對華閹割版,又要降級”
-
“全球都將研究,中國與西方最強(qiáng)大武器直接對決”
-
英方拿到了,“簡直像在平行宇宙,中國太超前了”
-
微軟:從中企學(xué)到,誰先一步拿下,誰就難被取代
-
美國農(nóng)民發(fā)愁:雞爪、魚頭...除了中國,好難找到買家
-
首位“美國教皇”利奧十四世是誰?
-
許紅兵,主動投案
-
美國官員:殲-10擊落陣風(fēng),沒用F-16
-
特朗普:對華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國不是好盟友”,我駐巴拿馬使館駁斥
-