您的位置:首頁(yè) >科技 >

AI模型的持續(xù)學(xué)習(xí)能力亟待提升

2024-08-30 11:40:49    來(lái)源:人民郵電報(bào)

從自動(dòng)駕駛到智能醫(yī)療,從金融分析到教育輔助,人工智能(AI)的應(yīng)用已廣泛滲透到日常生活的各個(gè)領(lǐng)域,并逐漸成為推動(dòng)社會(huì)進(jìn)步與產(chǎn)業(yè)升級(jí)的關(guān)鍵力量。然而,在AI技術(shù)日新月異的背后,AI模型在持續(xù)學(xué)習(xí)能力上的不足也逐漸成為制約其進(jìn)一步發(fā)展和應(yīng)用的瓶頸。

AI模型的“學(xué)習(xí)困境”

當(dāng)前,主流的AI模型大多基于神經(jīng)網(wǎng)絡(luò)架構(gòu),這些網(wǎng)絡(luò)模仿了人腦神經(jīng)元的工作方式,通過(guò)大量數(shù)據(jù)的訓(xùn)練來(lái)優(yōu)化自身性能。然而,一個(gè)不容忽視的事實(shí)是,這些模型在初次訓(xùn)練完成后,其學(xué)習(xí)能力便相對(duì)固化,難以像人類大腦那樣具備持續(xù)的自我學(xué)習(xí)和進(jìn)化能力。這意味著,每當(dāng)面對(duì)新的數(shù)據(jù)環(huán)境或需求變化時(shí),科技公司不得不投入巨額資金,重新訓(xùn)練整個(gè)模型。

加拿大阿爾伯塔大學(xué)Shibhansh Dohare團(tuán)隊(duì)的一項(xiàng)研究發(fā)現(xiàn),許多AI模型在經(jīng)歷多次重訓(xùn)后,會(huì)遭遇“神經(jīng)元死亡”現(xiàn)象,即大量神經(jīng)元陷入零值狀態(tài),失去學(xué)習(xí)能力。“如果把它比作你的大腦,那就像是90%的神經(jīng)元都死了。” Dohare說(shuō),“剩下的不足以讓你學(xué)習(xí)。”這一發(fā)現(xiàn)不僅限于圖像識(shí)別領(lǐng)域,還廣泛存在于自然語(yǔ)言處理、強(qiáng)化學(xué)習(xí)等多個(gè)AI應(yīng)用領(lǐng)域,凸顯了AI模型在持續(xù)學(xué)習(xí)能力上的普遍困境。

企業(yè)面臨的雙重挑戰(zhàn)

對(duì)于科技企業(yè)而言,AI模型學(xué)習(xí)能力的受限無(wú)疑帶來(lái)了雙重挑戰(zhàn)。首先,隨著數(shù)據(jù)量的爆發(fā)式增長(zhǎng)和市場(chǎng)需求的快速變化,企業(yè)需要不斷更新AI模型以保持競(jìng)爭(zhēng)力。

以零售行業(yè)為例,消費(fèi)者的購(gòu)物偏好和購(gòu)買行為數(shù)據(jù)正以前所未有的速度累積。為了精準(zhǔn)捕捉這些變化,并為用戶提供更加個(gè)性化的購(gòu)物體驗(yàn),電商平臺(tái)不得不持續(xù)優(yōu)化其基于AI的推薦系統(tǒng)。這意味著它們需要定期調(diào)整模型參數(shù),引入新的算法和數(shù)據(jù)源,以確保推薦內(nèi)容既符合用戶的即時(shí)需求,又具備前瞻性和創(chuàng)新性。

而在智能制造領(lǐng)域,AI模型在生產(chǎn)線質(zhì)量控制方面的應(yīng)用同樣面臨著持續(xù)更新的需求。隨著生產(chǎn)規(guī)模的持續(xù)擴(kuò)大和產(chǎn)品復(fù)雜度的不斷提升,生產(chǎn)線上的數(shù)據(jù)量急劇增加。為了維持產(chǎn)品質(zhì)量的高度一致性和穩(wěn)定性,企業(yè)需要根據(jù)生產(chǎn)環(huán)境的變化靈活調(diào)整AI模型的監(jiān)控范圍和預(yù)測(cè)精度。這不僅要求企業(yè)具備強(qiáng)大的數(shù)據(jù)處理能力,還需要在AI模型的迭代升級(jí)上保持高效和靈活。

然而,重新訓(xùn)練模型不僅成本高昂,還耗時(shí)費(fèi)力,特別是在處理大規(guī)模數(shù)據(jù)集時(shí)更是如此。此外,在快速迭代的商業(yè)環(huán)境中,時(shí)間成本同樣不容忽視。若企業(yè)無(wú)法及時(shí)響應(yīng)市場(chǎng)變化,更新AI模型,可能會(huì)錯(cuò)失寶貴的市場(chǎng)機(jī)遇,甚至被競(jìng)爭(zhēng)對(duì)手超越。

因此,如何在保證模型精度的同時(shí)提高模型的更新效率并降低成本,成為科技行業(yè)亟待解決的難題。

如何提升AI模型“學(xué)習(xí)能力”?

面對(duì)AI模型在學(xué)習(xí)能力上的瓶頸,科研人員正積極尋求解決方案。其中,Dohare團(tuán)隊(duì)的研究提出了一種新的算法,該算法在每個(gè)訓(xùn)練輪次后隨機(jī)激活一些“死亡”的神經(jīng)元,從而恢復(fù)其學(xué)習(xí)能力。這種算法雖然初步顯示了有效性,但還需要在更大的系統(tǒng)中進(jìn)行進(jìn)一步測(cè)試和優(yōu)化。牛津大學(xué)的Mark van der Wilk表示,該算法看起來(lái)很有前景,但還需要在更大的系統(tǒng)中進(jìn)行測(cè)試。

“AI模型持續(xù)學(xué)習(xí)的解決方案簡(jiǎn)直是一個(gè)價(jià)值數(shù)十億美元的問(wèn)題。”他說(shuō),“一個(gè)真正的、全面的解決方案將允許你不斷更新模型,從而顯著降低訓(xùn)練這些模型的成本。”

此外,模塊化設(shè)計(jì)和增量學(xué)習(xí)也被視為提升AI模型持續(xù)學(xué)習(xí)能力的有效策略。模塊化設(shè)計(jì)通過(guò)將AI模型拆分為多個(gè)獨(dú)立模塊,實(shí)現(xiàn)了任務(wù)處理的靈活性和高效性。當(dāng)面對(duì)新數(shù)據(jù)時(shí),企業(yè)只需更新相關(guān)模塊即可,無(wú)須對(duì)整個(gè)模型進(jìn)行重訓(xùn)。而增量學(xué)習(xí)技術(shù)則允許模型在保留舊知識(shí)的基礎(chǔ)上學(xué)習(xí)新知識(shí),實(shí)現(xiàn)了知識(shí)的累積與傳承。

更為長(zhǎng)遠(yuǎn)的是,科技企業(yè)之間的合作與共享將成為推動(dòng)AI技術(shù)持續(xù)發(fā)展的關(guān)鍵力量。通過(guò)構(gòu)建開放的生態(tài)系統(tǒng),企業(yè)可以共享數(shù)據(jù)、算法和模型資源,降低研發(fā)成本,加速技術(shù)創(chuàng)新。同時(shí),這種合作模式也有助于形成統(tǒng)一的標(biāo)準(zhǔn)和規(guī)范,推動(dòng)AI技術(shù)的普及和應(yīng)用。 (作者 吳雙)

標(biāo)簽:

精彩閱讀

我國(guó)建成世界最大工傷保障體系 覆蓋人群更多 服務(wù)范圍更廣

1噸月壤或可滿足50人一天飲水 我國(guó)研究團(tuán)隊(duì)提出月壤大量產(chǎn)水方法

探秘“最后一塊拼圖” 科學(xué)家提出地幔動(dòng)力新機(jī)制

100臺(tái)大單!迪萬(wàn)倫獲沙特阿拉伯客戶青睞

為什么建議買全保險(xiǎn)?

我國(guó)成人首要死因“腦卒中”,應(yīng)該如何預(yù)防?

復(fù)興號(hào)“風(fēng)火輪”研發(fā)記

易可圖AI擴(kuò)圖怎么使用?圖片缺失怎么補(bǔ)全

高原型雙護(hù)盾隧道掘進(jìn)機(jī)成功下線

白銀高新區(qū):創(chuàng)新平臺(tái)托舉發(fā)展能級(jí)提升

北京經(jīng)開區(qū)出臺(tái)生產(chǎn)性服務(wù)業(yè)專項(xiàng)政策

營(yíng)銷垂域大模型在珠海高新區(qū)發(fā)布

大連高新區(qū)進(jìn)行數(shù)字化防汛演練

烏魯木齊高新區(qū):技術(shù)合同備案激發(fā)科創(chuàng)潛能

新型電力系統(tǒng)推動(dòng)臨港新片區(qū)高質(zhì)量發(fā)展

“硬核”裝備讓“藍(lán)色”運(yùn)動(dòng)更安全更有趣

蘭州地鐵增設(shè)智能寄存柜 多重技術(shù)保障乘客儲(chǔ)物安全

利用PSA吸附制氧技術(shù) 玉樹再添一座有氧圖書館

為什么空調(diào)開到一定溫度有臭味

風(fēng)云可測(cè)!風(fēng)云三號(hào)F星正式接棒C星

軟件業(yè)加速擁抱人工智能

2024中國(guó)自動(dòng)化與人工智能教育大會(huì)在京舉辦

可穿戴設(shè)備將成為AI應(yīng)用落地新風(fēng)口

國(guó)產(chǎn)游戲需要更多高質(zhì)量作品

數(shù)字影像上“云” 讓跨院就醫(yī)更便捷

上海加快建設(shè)低空智聯(lián)網(wǎng)促進(jìn)低空經(jīng)濟(jì)發(fā)展

消費(fèi)電子技術(shù)迭代帶動(dòng)行業(yè)上行

宇樹多款產(chǎn)品震撼亮相2024世界機(jī)器人大會(huì)

工業(yè)企業(yè)加速更新改造推進(jìn)產(chǎn)業(yè)提質(zhì)升級(jí)

從0到1造一個(gè)人形機(jī)器人,需要哪些關(guān)鍵技術(shù)?

誰(shuí)能領(lǐng)跑人形機(jī)器人產(chǎn)業(yè)

為何“起步就熱”

中國(guó)人形機(jī)器人產(chǎn)業(yè)“跑”起來(lái)

拉蒂RATTI榮膺誠(chéng)信品牌認(rèn)證,受訪央視霸屏國(guó)貨圈

無(wú)人配送仍需補(bǔ)短板

我國(guó)機(jī)器人有效專利超過(guò)19萬(wàn)項(xiàng) 占全球約三分之二

工業(yè)企業(yè)加速更新改造推進(jìn)產(chǎn)業(yè)提質(zhì)升級(jí)

消費(fèi)電子技術(shù)迭代帶動(dòng)行業(yè)上行

上海加快建設(shè)低空智聯(lián)網(wǎng)促進(jìn)低空經(jīng)濟(jì)發(fā)展

數(shù)字影像上“云” 讓跨院就醫(yī)更便捷

科學(xué)家觀測(cè)到迄今最重反物質(zhì)超核

我國(guó)實(shí)現(xiàn)星載毫米波AiP瓦式多波束相控陣天線批量研制

國(guó)產(chǎn)游戲需要更多高質(zhì)量作品

頻繁切換視頻會(huì)讓人感覺(jué)更無(wú)聊

可穿戴設(shè)備將成為AI應(yīng)用落地新風(fēng)口

軟件業(yè)加速擁抱人工智能

新華全媒+|探訪世界機(jī)器人大會(huì) 科幻世界走進(jìn)現(xiàn)實(shí)

新華全媒+|2024世界機(jī)器人大會(huì)在京開幕

在山城重慶看“中國(guó)精度”|這把“精密之尺”如何以時(shí)間測(cè)量空間?

幫大家整理了一波優(yōu)惠!

穿了很容易被夸衣品好的單品,它一定算一個(gè)!

初秋,就穿白色牛仔褲吧!

這些才是50歲女人該有的穿搭,優(yōu)雅高級(jí),舒適實(shí)用不俗套

夏天還是穿“T恤”最舒服!這些T恤穿搭別錯(cuò)過(guò),簡(jiǎn)約不落俗套

女人過(guò)了五十歲,建議你多穿過(guò)膝裙和戴帽子,完全沒(méi)有大媽感

直播開蚌套路深?莫讓“盲盒經(jīng)濟(jì)”變了味

二季度業(yè)績(jī)狂飆的昂跑,難逃“鞋底斷裂”質(zhì)量差評(píng)

良程酒管與菲律賓 981 酒管達(dá)成戰(zhàn)略合作,藝龍海雅出海菲律賓

深化改革,上海家化還需要些時(shí)間

凈利潤(rùn)上升15%!恒安半年?duì)I收118.36億元

各方嚴(yán)正回應(yīng)歐盟高額反補(bǔ)貼稅

工信部擬提高車型能量消耗門檻要求

“車路云一體化”落地還有多遠(yuǎn)

三菱、日產(chǎn)、本田選擇“抱團(tuán)取暖”

新能源汽車迎夏"烤",技術(shù)創(chuàng)新保障車輛安全

車頂裝飾或脫落,特斯拉召回9,100輛Model X

全新藍(lán)山售29.98萬(wàn)元起,魏建軍:魏品牌會(huì)一直活下去

被炙烤十萬(wàn)級(jí)純電SUV市場(chǎng):價(jià)優(yōu)者得還是價(jià)低者得?

因車輛交付工作疏忽,長(zhǎng)城汽車向南方電網(wǎng)致歉

打造奇瑞的“奧迪”,2025款星紀(jì)元ES售19.59萬(wàn)元起

全球化布局順利推進(jìn) 多家家電企業(yè)上半年業(yè)績(jī)報(bào)喜

公募機(jī)構(gòu)“出海”步伐提速

人身險(xiǎn)產(chǎn)品預(yù)定利率即將告別3%時(shí)代

做好養(yǎng)老金融大文章 信托公司加力布局養(yǎng)老慈善信托

科創(chuàng)債發(fā)行提速 年內(nèi)發(fā)行量和規(guī)模同比大增

數(shù)據(jù)資產(chǎn)“入表”衍生服務(wù)接連涌現(xiàn) 產(chǎn)業(yè)發(fā)展新鏈條日漸清晰

申贖時(shí)限放寬 理財(cái)產(chǎn)品展現(xiàn)“夜”的魅力

收益率比同類產(chǎn)品高出一大截 破解現(xiàn)金管理類信托“底層”密碼

傳統(tǒng)寬基ETF迎“新人報(bào)到” “差異化”策略方可殺出重圍

央行持續(xù)提示長(zhǎng)債風(fēng)險(xiǎn) 債市供需格局將趨于均衡

寧夏加力推動(dòng)大規(guī)模設(shè)備更新和消費(fèi)品以舊換新

小漠國(guó)際物流港今年以來(lái)出口新能源汽車超3.6萬(wàn)輛

成渝高速重慶段改擴(kuò)建開工 將是成渝首條“八車道高速”

中國(guó)占三部!2024年迄今,全球電影票房前十出爐

為C919“披上”五星紅旗 ——揭秘C919飛機(jī)噴涂全過(guò)程

在合理生活消費(fèi)范圍內(nèi)支持“知假買假”

《黑神話:悟空》取“金”路是否通暢?

中非媒體智庫(kù)攜手同行現(xiàn)代化之路

處暑節(jié)氣建議清淡飲食潤(rùn)養(yǎng)脾胃

出征巴黎殘奧會(huì) 邊檢民警保障中國(guó)體育代表團(tuán)順利出境

暴雨中解救被困兒童 葫蘆島一村干部犧牲

近1.4萬(wàn)億元支持房地產(chǎn)白名單項(xiàng)目

列車上為救旅客他們跑出加速度

新突破!我國(guó)科學(xué)家發(fā)現(xiàn)名為“反超氫-4”的反物質(zhì)

新疆阿克蘇地區(qū)烏什縣發(fā)生3.8級(jí)地震

70多年努力!我國(guó)重要石窟寺重大險(xiǎn)情基本消除

上海臨港進(jìn)一步放寬“居轉(zhuǎn)戶”條件

推動(dòng)銀行保險(xiǎn)業(yè)高質(zhì)量發(fā)展 更好服務(wù)實(shí)體經(jīng)濟(jì)——金融監(jiān)管總局有關(guān)負(fù)責(zé)人回應(yīng)相關(guān)問(wèn)題

兩部門組織開展全國(guó)重點(diǎn)城市IPv6流量提升專項(xiàng)行動(dòng)

聚焦防汛抗洪|遼寧省建昌縣抗洪一線掃描

財(cái)經(jīng)聚焦丨為何上漲?何時(shí)回穩(wěn)?——透視當(dāng)前蔬菜價(jià)格走勢(shì)

多地積極應(yīng)對(duì)強(qiáng)降雨天氣

從“China Travel”看到更“City”的 中國(guó)

向“新”向“綠” 消費(fèi)市場(chǎng)持續(xù)煥發(fā)生機(jī)活力

文化中國(guó)行丨看見(jiàn)千年前的“真卿” 解鎖浙大藝博館鎮(zhèn)館之寶

99.5%公共建筑無(wú)障礙化!一組數(shù)據(jù)看我國(guó)殘疾預(yù)防行動(dòng)任務(wù)成績(jī)單

聚焦2024交流周|促進(jìn)“國(guó)之交”與“民相親”,走過(guò)17載,中國(guó)-東盟教育合作成果在貴州...

臺(tái)青云南行:美好而難忘 冀成為云臺(tái)交流使者