亚洲国产午夜真人一级片中文字幕精品黄,精品久久久噜噜噜久久久,国产区综合精品国产www,www.国产精品.com,国产美女的第一次好痛在线看,最新国产乱人伦偷精品免费网站,日本欧美一区二区三区不卡视频,精品久久久无码人妻字幂,国产午夜精品理论片,国产午夜精品久久久久免费视

AI手機(jī)：硬件加速升級支撐更大參數(shù)量模型端側(cè)運(yùn)行
思瀚產(chǎn)業(yè)研究院    2024-06-11

參數(shù)數(shù)量和質(zhì)量很大程度上決定了 AI 大模型的能力和性能。大模型包含參數(shù)越多，精確度越高，生成式 AI 手機(jī)性能也更為強(qiáng)大。目前，VIVO X100 系列、OPPOFind X7 系列、榮耀Magic6 系列等安卓旗艦機(jī)型均已成功實現(xiàn) 70 億 LLM 的本地部署。根據(jù)Counterpoint 數(shù)據(jù)，本地大模型參數(shù)的上限將在 2024 年增長至 130 億，2025 年有望達(dá)到170 億。

更大參數(shù)級別的模型對手機(jī)硬件配置提出了更高的要求。

AI 算力是 SOC 升級的重中之重。SOC/AP 作為手機(jī)最重要的AI 運(yùn)算單元，很大程度上決定本地部署的 AI 大模型的參數(shù)規(guī)模，進(jìn)而決定了手機(jī)的生成式AI 能力。手機(jī)SOC普遍開始集成諸如 APU 或 NPU 等獨(dú)立的 AI 計算單元，專門負(fù)責(zé)處理重載的AI 任務(wù)。

聯(lián)發(fā)科、高通等頭部SOC 設(shè)計廠商均已發(fā)布多款支持多模態(tài)大模型端側(cè)部署的移動計算平臺，如23Q4推出的天璣9300/8300、高通驍龍 8 Gen3 以及 24Q2 推出的高通驍龍 8s Gen3 和天璣9300+。AI 大模型需要消耗更多電量以實現(xiàn)高頻率的推理任務(wù)，因此終端設(shè)備需搭載更大容量的電池和更大功率的充電器，進(jìn)而推動電源管理芯片升級。

大模型運(yùn)行時需駐留在內(nèi)存中，每次處理生成式 AI 任務(wù)都將涉及到海量數(shù)據(jù)的搬運(yùn)，對手機(jī)內(nèi)存和閃存的容量和性能都有著更高要求。

內(nèi)存容量：美光在 2024 年 3 月舉行的 FQ2-2024 業(yè)績會上表示，AI 手機(jī)DRAM容量較普通手機(jī)增長 50-100%。

根據(jù)聯(lián)發(fā)科數(shù)據(jù)，130 億參數(shù) AI 大模型運(yùn)行約需13GB內(nèi)存（INT8精度），若加上 6GB APP ?；詈?4GB 安卓 OS，合計手機(jī)內(nèi)存容量總需求將達(dá)到23GB。當(dāng)前安卓旗艦機(jī)內(nèi)存容量以 12/16GB 為主，仍有很大的提升空間。

內(nèi)存帶寬：當(dāng)前 AI 大模型的性能表現(xiàn)除了受限于處理器性能，還受限于內(nèi)存帶寬。高通驍龍 8 Gen 3 支持 4.8GHz LPDDR5x，帶寬為 77GB/s，同時在內(nèi)存與Hexagon NPU矢量單元建立了直連通道，大幅提高了 AI 運(yùn)算的處理效率。聯(lián)發(fā)科延續(xù)了以往對最新內(nèi)存規(guī)格的追求，天璣 9300 率先支持 LPDDR5T，并于 VIVO X100 系列實現(xiàn)全球首發(fā)；與當(dāng)前旗艦機(jī)普遍采用的LPDDR5X 相比，LPDDR5T 傳輸速度提升 12.5%達(dá)到 9.6Gbps。

閃存：UFS 使用高速串行接口替代并行接口，改用全雙工方式，可同時實現(xiàn)數(shù)據(jù)的讀取和寫入，并在標(biāo)準(zhǔn)層面幫助設(shè)備以更低功耗實現(xiàn)高速讀寫。得益于上述優(yōu)勢，UFS在智能手機(jī)市場的市占率進(jìn)一步提升，其中 UFS 4.0 增長更為顯著。UFS 4.0 理論速度達(dá)4640MB/s，已成為當(dāng)前旗艦機(jī)型的主流閃存規(guī)格。容量方面，高端機(jī)型基本進(jìn)入512GB 以及TB時代；CFM預(yù)計2024 年手機(jī)平均容量將超 200GB。

我們統(tǒng)計了各大手機(jī)廠商的旗艦機(jī)型存儲配置，12/16GB 已成為主流內(nèi)存容量，內(nèi)存規(guī)格以 LPPDR5X 為主；閃存容量基本從 256GB 起步，閃存規(guī)格以UFS 4.0 為主。尚未接入AI大模型的 iPhone15 系列在存儲配置方面明顯弱于已搭載 AI 大模型的安卓旗艦機(jī)型。更多行業(yè)研究分析請參考思瀚產(chǎn)業(yè)研究院官網(wǎng)，同時思瀚產(chǎn)業(yè)研究院亦提供行研報告、可研報告、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、商業(yè)計劃、專項調(diào)研、建筑設(shè)計、境外投資報告等相關(guān)咨詢服務(wù)方案。

蘋果將于北京時間 2024 年 6 月 11 日至 15 日召開 WWDC 2024，旨在展示iOS、iPadOS、macOS、watchOS、tvOS 和 visionOS 的前沿創(chuàng)新。

此前，蘋果CEO庫克在2024年蘋果年度股東大會上強(qiáng)調(diào)，蘋果將在 AIGC 領(lǐng)域掀起革命，并將在今年晚些時候展示公司AI 方面最新進(jìn)展。我們認(rèn)為，AI 或為下一個大版本 iOS、macOS 等系統(tǒng)的重要更新方向，iPhone在AI 賦能下有望開啟新一輪換機(jī)周期。

根據(jù)彭博社 6 月 7 日消息，此次 WWDC 主題演講預(yù)計約有一半內(nèi)容與AI 有關(guān)；蘋果將發(fā)布名為“Apple Intelligence”的全新 AI 系統(tǒng)，并將其集成到iPhone、iPad 和Mac的操作系統(tǒng)中。

由于 AI 功能對硬件的需求較高，搭載 A17 Pro 的 iPhone 15 Pro 及以上機(jī)型以及配備M1及以上芯片的 iPad 和 Mac 才能體驗各項 AI 功能。蘋果的 AI 功能將由蘋果自身技術(shù)和OpenAI兩部分提供支持，其中前者負(fù)責(zé)處理日常使用的簡單 AI 任務(wù)，采用端側(cè)處理的方式，無需借助云端服務(wù)器。

蘋果 AI 功能包括總結(jié)/摘要功能、郵件/短信回復(fù)功能、AI 輔助應(yīng)用程序開發(fā)、AI輔助修圖、語音自動轉(zhuǎn)錄等；同時，蘋果計劃將大語言模型技術(shù)引入Siri，使其具有更強(qiáng)大的語義理解和任務(wù)執(zhí)行能力，以精確控制應(yīng)用程序內(nèi)的各個功能和操作，進(jìn)而成為更強(qiáng)大的個人助理。