醫(yī)療健康信息技術(shù)裝備制造汽車及零部件文體教育現(xiàn)代服務(wù)業(yè)金融保險(xiǎn)旅游酒店綠色環(huán)保能源電力化工新材料房地產(chǎn)建筑建材交通運(yùn)輸社消零售輕工業(yè)家電數(shù)碼產(chǎn)品現(xiàn)代農(nóng)業(yè)投資環(huán)境
產(chǎn)業(yè)新聞產(chǎn)業(yè)資訊產(chǎn)業(yè)投資產(chǎn)業(yè)數(shù)據(jù)產(chǎn)業(yè)科技產(chǎn)業(yè)政策
高通提出了混合AI的概念,據(jù)高通《混合AI是AI的未來》,混合AI指終端和云端協(xié)同工作,在適當(dāng)?shù)膱?chǎng)景和時(shí)間下分配AI計(jì)算的工作負(fù)載,能夠?yàn)槭褂谜咛峁└玫捏w驗(yàn)同時(shí)高效利用資源。
在一些場(chǎng)景下,計(jì)算將主要以終端為中心,在必要時(shí)向云端分流任務(wù);而在以云為中心的場(chǎng)景下,終端將根據(jù)自身能力,在可能的情況下從云端分擔(dān)一些AI工作負(fù)載。? AI落地終端具有必要性,AI落地終端能夠在全球范圍帶來成本、能耗、性能、隱私、安全和個(gè)性化優(yōu)勢(shì)?;旌螦I具有顯著的五大優(yōu)勢(shì)。
首先,它能夠?qū)⒉糠痔幚韽脑贫宿D(zhuǎn)移到邊緣終端,從而減輕云基礎(chǔ)設(shè)施壓力并減少開支,顯著降低生成式AI模型的運(yùn)營(yíng)成本。
其次,邊緣終端能夠以更低的能耗運(yùn)行生成式AI模型,幫助云服務(wù)提供商降低數(shù)據(jù)中心的能耗,促進(jìn)環(huán)境和可持續(xù)發(fā)展目標(biāo)。
第三,終端側(cè)AI處理可靠,能夠在網(wǎng)絡(luò)擁堵時(shí)仍然提供高性能和低時(shí)延,防止高峰期排隊(duì)等待和拒絕服務(wù)的情況發(fā)生。
第四,終端側(cè)AI有助于保護(hù)用戶隱私,查詢和個(gè)人信息完全保留在終端上,減少敏感數(shù)據(jù)泄露的風(fēng)險(xiǎn)。最后,終端側(cè)AI能夠?qū)崿F(xiàn)更加個(gè)性化的體驗(yàn),基于用戶行為和偏好定制響應(yīng),支持個(gè)性化生成式AI應(yīng)用。這些優(yōu)勢(shì)使混合AI在推動(dòng)生成式AI規(guī)?;瘮U(kuò)展方面至關(guān)重要。
AI終端運(yùn)行在成本、能耗、性能、隱私、安全和個(gè)性化方面具有優(yōu)勢(shì)
成本:將部分處理從云端轉(zhuǎn)移到邊緣終端,減輕云基礎(chǔ)設(shè)施壓力并減少開支。生成式AI模型的終端側(cè)運(yùn)行能顯著降低運(yùn)營(yíng)成本。
能耗:邊緣終端能夠以更低的能耗運(yùn)行生成式AI模型,幫助云服務(wù)提供商降低數(shù)據(jù)中心的能耗,推動(dòng)環(huán)境和可持續(xù)發(fā)展目標(biāo)。
可靠性、性能和時(shí)延:終端側(cè)AI處理可靠,在網(wǎng)絡(luò)擁堵時(shí)仍能提供高性能和低時(shí)延,防止因高峰期產(chǎn)生的排隊(duì)等待和拒絕服務(wù)情況。
隱私和安全:終端側(cè)AI有助于保護(hù)用戶隱私,查詢和個(gè)人信息完全保留在終端上,減少敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)。
個(gè)性化:終端側(cè)AI能夠?qū)崿F(xiàn)更加個(gè)性化的體驗(yàn),基于用戶行為和偏好定制響應(yīng),支持個(gè)性化生成式AI應(yīng)用。
更多行業(yè)研究分析請(qǐng)參考思瀚產(chǎn)業(yè)研究院官網(wǎng),同時(shí)思瀚產(chǎn)業(yè)研究院亦提供行研報(bào)告、可研報(bào)告、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、商業(yè)計(jì)劃書、專項(xiàng)調(diào)研、建筑設(shè)計(jì)、境外投資報(bào)告等相關(guān)咨詢服務(wù)方案。