醫(yī)療健康信息技術(shù)裝備制造汽車(chē)及零部件文體教育現(xiàn)代服務(wù)業(yè)金融保險(xiǎn)旅游酒店綠色環(huán)保能源電力化工新材料房地產(chǎn)建筑建材交通運(yùn)輸社消零售輕工業(yè)家電數(shù)碼產(chǎn)品現(xiàn)代農(nóng)業(yè)投資環(huán)境
產(chǎn)業(yè)新聞產(chǎn)業(yè)資訊產(chǎn)業(yè)投資產(chǎn)業(yè)數(shù)據(jù)產(chǎn)業(yè)科技產(chǎn)業(yè)政策
大語(yǔ)言模型:開(kāi)源LLaMA 2
2023年7月,Meta發(fā)布了開(kāi)源大語(yǔ)言模型——LLaMA 2。LLaMA 2是在LLaMA 1基礎(chǔ)之上構(gòu)建而成,訓(xùn)練數(shù)據(jù)比上一版本多出40%,擁有70億、130億和700億三種參數(shù),并且允許商業(yè)化。技術(shù)方面,該預(yù)訓(xùn)練模型接受了2萬(wàn)億個(gè)標(biāo)記的訓(xùn)練,上下文長(zhǎng)度是上一版本的兩倍,能處理更長(zhǎng)的文本內(nèi)容;性能方面,LLaMA-13B在大多數(shù)基準(zhǔn)上超過(guò)了參數(shù)量達(dá)1750億的GPT-3。
視覺(jué)大模型:開(kāi)源圖片分割基礎(chǔ)模型SAM
2023年4月,Meta AI在官網(wǎng)發(fā)布了基礎(chǔ)模型Segment Anything Model (SAM) 并開(kāi)源。SAM已在1100萬(wàn)張圖片和11億個(gè)掩碼的數(shù)據(jù)集上進(jìn)行了訓(xùn)練,具有超強(qiáng)的自動(dòng)識(shí)別、切割功能。SAM能感知超出數(shù)據(jù)訓(xùn)練的對(duì)象和圖像,就算圖片不在SAM訓(xùn)練范圍內(nèi),它也能識(shí)別。這意味著,用戶(hù)無(wú)需再收集自己的細(xì)分?jǐn)?shù)據(jù),并為用例模型進(jìn)行微調(diào)。SAM可以集成在任何希望識(shí)別、切割對(duì)象的應(yīng)用中,在醫(yī)療、農(nóng)業(yè)、氣象、天文、媒體等主流行業(yè)擁有廣闊的應(yīng)用空間。
多模態(tài)大模型:開(kāi)源ImageBind,具備超強(qiáng)聯(lián)想能力
2023年5月,Meta開(kāi)源了多模態(tài)大模型ImageBind,可跨越圖像、視頻、音頻、深度、熱量和空間運(yùn)動(dòng)6種模態(tài)進(jìn)行檢索。例如,輸入鴿子的圖片,外加一個(gè)摩托音頻,模型能夠檢索出一張摩托和鴿子的圖片。ImageBind模型把不同模態(tài)數(shù)據(jù)串聯(lián)在一個(gè)嵌入空間(Embedding Space),從多維度理解世界,未來(lái)將引入更多模態(tài)增強(qiáng)對(duì)世界感知,比如如觸覺(jué)、語(yǔ)音、嗅覺(jué)和大腦fMRI信號(hào)。
多年布局:理論基礎(chǔ)深厚,發(fā)布多個(gè)基礎(chǔ)架構(gòu)
2016年,谷歌宣布公司戰(zhàn)略從Mobile First轉(zhuǎn)向AI First,此后陸續(xù)發(fā)布Transformer、BERT、T5等重要的基礎(chǔ)模型(架構(gòu));2023年4月,谷歌將Google Brain和DeepMind合并為Google DeepMind,全力沖刺AI,8個(gè)月后發(fā)布Gemini。
大語(yǔ)言模型:PaLM 2實(shí)現(xiàn)輕量化,可在移動(dòng)設(shè)備上離線(xiàn)運(yùn)行
PaLM2性能升級(jí),部分測(cè)試結(jié)果超過(guò)GPT-4,輕量版可運(yùn)行在移動(dòng)設(shè)備上:2023年5月,谷歌發(fā)布PaLM2,對(duì)于具有思維鏈prompt或自洽性的MATH、GSM8K和MGSM基準(zhǔn)評(píng)估,PaLM 2的部分結(jié)果超越了GPT-4。PaLM2包含四種尺寸的模型,其中最輕量的“壁虎”版本能在移動(dòng)設(shè)備上快速運(yùn)行(包括離線(xiàn)狀態(tài))。
谷歌將PaLM2融入辦公軟件、搜索引擎等產(chǎn)品:AI聊天機(jī)器人Bard被整合到谷歌的辦公軟件“全家桶”中,為Gmail、GoogleDocs、Sheets以及Slides創(chuàng)造了名為”Duet AI”的辦公助手;Bard還被整合到谷歌搜索優(yōu)化搜索答案。
更多行業(yè)研究分析請(qǐng)參考思瀚產(chǎn)業(yè)研究院官網(wǎng),同時(shí)思瀚產(chǎn)業(yè)研究院亦提供行研報(bào)告、可研報(bào)告(立項(xiàng)審批備案、銀行貸款、投資決策、集團(tuán)上會(huì))、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、商業(yè)計(jì)劃書(shū)(股權(quán)融資、招商合資、內(nèi)部決策)、專(zhuān)項(xiàng)調(diào)研、建筑設(shè)計(jì)、境外投資報(bào)告等相關(guān)咨詢(xún)服務(wù)方案。