首頁|必讀|視頻|專訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 必讀 >> 正文

蘋果瞄向端側(cè)AI,習(xí)慣性“晚一步”中的必然

2024年4月18日 07:43  CCTIME飛象網(wǎng)  作 者:魏德齡

飛象網(wǎng)訊(魏德齡/文)總是習(xí)慣性晚一步的蘋果,已經(jīng)悄然瞄向了大熱的AI,此前圍繞在iOS18傳聞周圍的關(guān)鍵詞正是AI與智慧助手的升級(jí),本周關(guān)于這一傳聞?dòng)辛诉M(jìn)一步的指向性內(nèi)容,那就是端側(cè)AI。

蘋果瞄向端側(cè)AI

據(jù)彭博社記者M(jìn)ark Gurman在一檔節(jié)目中透露,蘋果在iOS18上的首批AI功能將無需依賴云端服務(wù)器的算力,可完全在本地運(yùn)行。

這意味著,蘋果將通過相關(guān)框架讓大語言模型得以小型化,通過模型量化技術(shù)減小模型大小和提高推理速度,同時(shí)實(shí)現(xiàn)并發(fā)處理和高效利用設(shè)備資源,從而能夠在終端本地安裝并運(yùn)行。實(shí)際上,目前已經(jīng)有相關(guān)AI應(yīng)用發(fā)布于蘋果App Store,并可在終端本地運(yùn)行16億-70億參數(shù)量不等的大語言模型。

此前,相關(guān)消息顯示,iOS 18系統(tǒng)內(nèi)的多個(gè)功能,以及相關(guān)蘋果生態(tài)下的官方應(yīng)用,都將因?yàn)锳I而受益。例如正在的開發(fā)一個(gè)集成AI的消息應(yīng)用功能,能夠更快速恢復(fù)短信內(nèi)容。據(jù)福布斯的預(yù)測(cè),生成式AI能力還將為蘋果的生產(chǎn)力工具帶來升級(jí),例如Pages、Keynote、Numbers這三大辦公套件,將可獲得一系列新能力。

同時(shí),蘋果還公布了自研的MM1多態(tài)大語言模型(Multimodal LLM)。MM1共分為三個(gè)參數(shù)規(guī)模,其中最大的擁有300億參數(shù)。根據(jù)科技博客Daily Dev的評(píng)測(cè)顯示,MM1在GLUE-Score等多項(xiàng)評(píng)測(cè)指標(biāo)上要略優(yōu)于GPT-4V和Gemini Pro。

 

硬件配置吃得消嗎?

不過,如果將升級(jí)的能力全部依托于端側(cè)的話,蘋果手機(jī)目前的硬件配置能否吃得消的問題也浮出了水面。當(dāng)設(shè)備運(yùn)行生成式AI模型的時(shí)候,一般會(huì)占用一定的RAM空間,同時(shí)模型本身也會(huì)占據(jù)一定的硬盤空間。

而上述兩項(xiàng)對(duì)于蘋果設(shè)備來說,顯然是個(gè)小痛點(diǎn)。目前iPhone 15 Pro系列的RAM為8GB,iPhone 15系列為6GB,而iPhone 13系列僅為4GB?紤]到本地運(yùn)行模型運(yùn)算是對(duì)于RAM的占用,iPhone 15 Pro系列的8GB可能最為適宜,而6GB的iPhone 15系列只能將就。4GB的iPhone 13系列很可能將難以滿足運(yùn)行需求。

同時(shí),對(duì)于一直被網(wǎng)友戲稱為把硬盤空間當(dāng)金子賣的蘋果來說,一些舊有機(jī)型的用戶屆時(shí)在實(shí)現(xiàn)系統(tǒng)升級(jí),并獲得相關(guān)本地生成式AI能力的時(shí)候,或?qū)⒚媾R本地存儲(chǔ)空間吃緊的問題。要知道,因?yàn)榭臻g不足導(dǎo)致升級(jí)系統(tǒng)失敗的案例曾經(jīng)在iPhone 4s時(shí)代大規(guī)模出現(xiàn)過。

不過好消息是,大量現(xiàn)役iPhone機(jī)型的NPU算力并不成問題,蘋果近年來在每代A系列芯片上的升級(jí)重點(diǎn)就在于NPU。例如A17 Pro的NPU在算力上實(shí)現(xiàn)了兩倍的提升,相比于提升10%的CPU與提升20%的GPU,可謂是牙膏爆擠。

 

端側(cè)AI大爆發(fā)的必然

其實(shí),對(duì)于習(xí)慣性晚一步的蘋果來說,發(fā)力端側(cè)AI更意味著對(duì)于該技術(shù)方向的肯定。同理在近期,蘋果也放棄了耗時(shí)10年的電動(dòng)車計(jì)劃,并同樣把該領(lǐng)域的研究經(jīng)費(fèi)轉(zhuǎn)向AI領(lǐng)域。

而端側(cè)AI也完全符合蘋果對(duì)于安全與隱私上的產(chǎn)品定位,由于端側(cè)AI能夠讓敏感數(shù)據(jù)完全在本地運(yùn)行,保證了數(shù)據(jù)不會(huì)上傳至云端,也就在實(shí)現(xiàn)AI能力的同時(shí),保證了隱私。對(duì)于依靠云端服務(wù)器的AI而言,例如在近期宣布無需注冊(cè)就能使用的ChatGPT,如果用戶需要強(qiáng)化保護(hù)自身的聊天數(shù)據(jù),就需要手動(dòng)在設(shè)置中選擇不將聊天記錄用于訓(xùn)練,但其實(shí)很多用戶在日常使用中都會(huì)忽略這點(diǎn)。

隨著生成式AI模型的變小,100億及更多參數(shù)的生成式AI模型也即將能夠在終端側(cè)運(yùn)行。實(shí)際上,目前在筆記本設(shè)備中,已經(jīng)能夠運(yùn)行130億參數(shù)的大語言模型,相信在智能手機(jī)流暢運(yùn)行已指日可待。這就意味著,在端側(cè)設(shè)備上,同樣可以實(shí)現(xiàn)媲美云端服務(wù)器的文字生成圖像、對(duì)話和NLP、協(xié)作機(jī)器人、圖像理解等功能,只要輸入與生成的量級(jí)可控,端側(cè)AI同樣能夠帶來令人滿意的表現(xiàn)。

這方面,Android陣營(yíng)已經(jīng)先行一步。

小米方面曾在去年透露,從2016年開始,小米就開始了對(duì)大模型的研究和開發(fā),今年更是成立了專門的大模型團(tuán)隊(duì)。目前,小米的AI相關(guān)團(tuán)隊(duì)已經(jīng)超過3000人。還有報(bào)道稱,小米AI大模型的一個(gè)13億參數(shù)大模型已經(jīng)成功在手機(jī)本地跑通,部分場(chǎng)景可以媲美60億參數(shù)模型在云端運(yùn)行結(jié)果。

今年MWC巴塞羅那上,高通展出了全球首個(gè)運(yùn)行多模態(tài)大模型(LMM)的手機(jī),支持超過70億參數(shù)大模型,不僅能夠接受文本輸入,還可以接受圖像、音頻等其它輸入數(shù)據(jù)類型。

榮耀在今年年初發(fā)布了自研端側(cè) 70 億參數(shù)平臺(tái)級(jí) AI 大模型“魔法大模型”,并表示現(xiàn)有操作系統(tǒng)都值得用 AI 重做一遍。

vivo的AI藍(lán)心大模型也實(shí)現(xiàn)了“端側(cè)7B+云側(cè)70B”超大參數(shù)規(guī)模部署,能實(shí)現(xiàn)超過700種手機(jī)相關(guān)功能,為超過2000萬用戶提供超能問答、超能創(chuàng)作、超能搜索、超能管理、超能交互等AI服務(wù)。

不過,端側(cè)AI無疑才剛剛上路,至少目前它的很多功能展示更像是手機(jī)發(fā)燒友的玩具,然而,隨著習(xí)慣性晚一步的蘋果的引入,完全成熟可用的本地生成式AI功能即將到來。2024年,對(duì)于端側(cè)AI來說,或許將是從“玩具”到“工具”的關(guān)鍵一年。

編 輯:魏德齡
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
鄔賀銓:大模型下沉到手機(jī) 將激活萬億元規(guī)模手機(jī)產(chǎn)業(yè)
精彩專題
CES 2024國(guó)際消費(fèi)電子展
2023年信息通信產(chǎn)業(yè)盤點(diǎn)暨頒獎(jiǎng)禮
飛象網(wǎng)2023年手機(jī)評(píng)選
第24屆中國(guó)國(guó)際光電博覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像