蘋果瞄向端側(cè)AI，習慣性“晚一步”中的必然

（魏德齡/文）總是習慣性晚一步的蘋果，已經(jīng)悄然瞄向了大熱的AI，此前圍繞在iOS18傳聞周圍的關鍵詞正是AI與智慧助手的升級，本周關于這一傳聞有了進一步的指向性內(nèi)容，那就是端側(cè)AI。

蘋果瞄向端側(cè)AI

據(jù)彭博社記者Mark Gurman在一檔節(jié)目中透露，蘋果在iOS18上的首批AI功能將無需依賴云端服務器的算力，可完全在本地運行。

這意味著，蘋果將通過相關框架讓大語言模型得以小型化，通過模型量化技術(shù)減小模型大小和提高推理速度，同時實現(xiàn)并發(fā)處理和高效利用設備資源，從而能夠在終端本地安裝并運行。實際上，目前已經(jīng)有相關AI應用發(fā)布于蘋果App Store，并可在終端本地運行16億-70億參數(shù)量不等的大語言模型。

此前，相關消息顯示，iOS 18系統(tǒng)內(nèi)的多個功能，以及相關蘋果生態(tài)下的官方應用，都將因為AI而受益。例如正在的開發(fā)一個集成AI的消息應用功能，能夠更快速恢復短信內(nèi)容。據(jù)福布斯的預測，生成式AI能力還將為蘋果的生產(chǎn)力工具帶來升級，例如Pages、Keynote、Numbers這三大辦公套件，將可獲得一系列新能力。

同時，蘋果還公布了自研的MM1多態(tài)大語言模型(Multimodal LLM)。MM1共分為三個參數(shù)規(guī)模，其中最大的擁有300億參數(shù)。根據(jù)科技博客Daily Dev的評測顯示，MM1在GLUE-Score等多項評測指標上要略優(yōu)于GPT-4V和Gemini Pro。

硬件配置吃得消嗎？

不過，如果將升級的能力全部依托于端側(cè)的話，蘋果手機目前的硬件配置能否吃得消的問題也浮出了水面。當設備運行生成式AI模型的時候，一般會占用一定的RAM空間，同時模型本身也會占據(jù)一定的硬盤空間。

而上述兩項對于蘋果設備來說，顯然是個小痛點。目前iPhone 15 Pro系列的RAM為8GB，iPhone 15系列為6GB，而iPhone 13系列僅為4GB?？紤]到本地運行模型運算是對于RAM的占用，iPhone 15 Pro系列的8GB可能最為適宜，而6GB的iPhone 15系列只能將就。4GB的iPhone 13系列很可能將難以滿足運行需求。

同時，對于一直被網(wǎng)友戲稱為把硬盤空間當金子賣的蘋果來說，一些舊有機型的用戶屆時在實現(xiàn)系統(tǒng)升級，并獲得相關本地生成式AI能力的時候，或?qū)⒚媾R本地存儲空間吃緊的問題。要知道，因為空間不足導致升級系統(tǒng)失敗的案例曾經(jīng)在iPhone 4s時代大規(guī)模出現(xiàn)過。

不過好消息是，大量現(xiàn)役iPhone機型的NPU算力并不成問題，蘋果近年來在每代A系列芯片上的升級重點就在于NPU。例如A17 Pro的NPU在算力上實現(xiàn)了兩倍的提升，相比于提升10%的CPU與提升20%的GPU，可謂是牙膏爆擠。

端側(cè)AI大爆發(fā)的必然

其實，對于習慣性晚一步的蘋果來說，發(fā)力端側(cè)AI更意味著對于該技術(shù)方向的肯定。同理在近期，蘋果也放棄了耗時10年的電動車計劃，并同樣把該領域的研究經(jīng)費轉(zhuǎn)向AI領域。

而端側(cè)AI也完全符合蘋果對于安全與隱私上的產(chǎn)品定位，由于端側(cè)AI能夠讓敏感數(shù)據(jù)完全在本地運行，保證了數(shù)據(jù)不會上傳至云端，也就在實現(xiàn)AI能力的同時，保證了隱私。對于依靠云端服務器的AI而言，例如在近期宣布無需注冊就能使用的ChatGPT，如果用戶需要強化保護自身的聊天數(shù)據(jù)，就需要手動在設置中選擇不將聊天記錄用于訓練，但其實很多用戶在日常使用中都會忽略這點。

隨著生成式AI模型的變小，100億及更多參數(shù)的生成式AI模型也即將能夠在終端側(cè)運行。實際上，目前在筆記本設備中，已經(jīng)能夠運行130億參數(shù)的大語言模型，相信在智能手機流暢運行已指日可待。這就意味著，在端側(cè)設備上，同樣可以實現(xiàn)媲美云端服務器的文字生成圖像、對話和NLP、協(xié)作機器人、圖像理解等功能，只要輸入與生成的量級可控，端側(cè)AI同樣能夠帶來令人滿意的表現(xiàn)。

這方面，Android陣營已經(jīng)先行一步。

小米方面曾在去年透露，從2016年開始，小米就開始了對大模型的研究和開發(fā)，今年更是成立了專門的大模型團隊。目前，小米的AI相關團隊已經(jīng)超過3000人。還有報道稱，小米AI大模型的一個13億參數(shù)大模型已經(jīng)成功在手機本地跑通，部分場景可以媲美60億參數(shù)模型在云端運行結(jié)果。

今年MWC巴塞羅那上，高通展出了全球首個運行多模態(tài)大模型（LMM）的手機，支持超過70億參數(shù)大模型，不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入數(shù)據(jù)類型。

榮耀在今年年初發(fā)布了自研端側(cè) 70 億參數(shù)平臺級 AI 大模型“魔法大模型”，并表示現(xiàn)有操作系統(tǒng)都值得用 AI 重做一遍。

vivo的AI藍心大模型也實現(xiàn)了“端側(cè)7B+云側(cè)70B”超大參數(shù)規(guī)模部署，能實現(xiàn)超過700種手機相關功能，為超過2000萬用戶提供超能問答、超能創(chuàng)作、超能搜索、超能管理、超能交互等AI服務。

不過，端側(cè)AI無疑才剛剛上路，至少目前它的很多功能展示更像是手機發(fā)燒友的玩具，然而，隨著習慣性晚一步的蘋果的引入，完全成熟可用的本地生成式AI功能即將到來。2024年，對于端側(cè)AI來說，或許將是從“玩具”到“工具”的關鍵一年。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。