今年以來,國內互聯網科技企業、人工智能企業、研究團隊等紛紛推出大模型產品,開啓“百模大戰”,推動大模型相關應用加速落地。
隨着模型壓縮技術和邊緣側計算性能的同步提升,大模型開始向手機、PC、車機等消費級終端中滲透,在加速智能終端產品創新迭代的同時,也讓大模型技術真正融入每個人的生活,推動AI普惠。
以手機行業爲例,大模型的“落地生花”不僅可以推動手機這一終端的體驗上一個新的臺階,而且還爲整個手機行業創造了新的機遇。
vivo發佈藍心大模型,“智能體”雛形已現
11月1日,在2023 vivo開發者大會上,vivo發佈自研通用大模型矩陣——藍心大模型,帶來vivo基於藍心大模型開發的首款全局智能輔助藍心小V、自然語言對話機器人藍心千詢等全新功能應用,讓AI大模型“走入尋常百姓人家”。

衆所周知,目前大家使用的智能手機普遍配備了智能助手,不過日常使用中卻很少用到。
對此,手機行業觀察者小天(化名)解釋道:“造成這一現狀的原因有兩點,一方面是,現在的手機助手在理解指令和反饋結果的過程中,不夠精準,很多時候不僅‘答不對題’,甚至不能理解問題,這就會勸退用戶;另一方面,大部分手機用戶也並沒有養成使用‘助手’的習慣,自然形成一種‘手機就在手上,直接用手操作就行,沒必要用語音喚醒操作’的慣性思維。要形成使用助手的習慣,首先得讓用戶感受到便利。”
相較於傳統的AI應用,藍心小V是基於藍心大模型的首款全局智能輔助應用,擁有更爲自然、便捷的人機交互方式,行業領先的智慧大腦,豐富多維的信息表達。這三大技能點讓藍心小V具備了手機專屬私人助理的能力。藍心小V可以通過語音或文字,甚至是拖拽的方式,接受並處理信息數據,同時設計了便捷小巧的懸浮態,不用時最小化掛起,需要時再點擊打開。
值得關注的是,藍心大模型是vivo自研的通用大模型矩陣,包含十億、百億、千億三個參數量級,共5款自研大模型(藍心大模型1B、藍心大模型7B、藍心大模型70B、藍心大模型130B、藍心大模型175B),全面覆蓋核心場景,從而滿足不同的應用需求和算力條件,可以高效快速地將大模型技術轉化爲用戶價值。

藍心大模型矩陣包括5款自研大模型:藍心大模型1B、藍心大模型7B、藍心大模型70B、藍心大模型130B、藍心大模型175B
目前,手機端成爲vivo藍心大模型落地的第一個層面,即以AI助理的方式出現。而未來,基於藍心大模型的智能化應用有望進階爲“智能體”,它能夠感知到周邊環境信息,識別用戶意圖,能夠用戶進行決策,還能夠藉助大模型去執行和管理執行,從而使整個“智能體”變得越來越智能。
生態是大模型應用“落地生花”的必經之路
如今國內大模型開源生態正在加速形成,從代碼大模型開源、通用大模型開源到垂直行業大模型開源,覆蓋大模型全產業鏈。可見,大模型想要在各領域各行業實現應用落地,需要聯合社會多方力量,通過開源開放的方式開展協同創新。對此,vivo選擇擁抱開源合作,與夥伴共建大模型產業生態。
首先,vivo需要解決大模型供給的問題,vivo把藍心大模型7B(70億)能力貢獻出來,並把訓練的能力、調優的能力、各個行業數據熱拔插的能力,全部整合起來、貢獻出來,同時推出藍心開發者激勵計劃,讓每一位開發者都有大模型可用,有好模型可用,攜手給用戶帶來更豐富極致的產品體驗。
同時,vivo從3-5年的時間維度上去探索行業可能出現的難題:用戶應用大模型的門檻的問題。vivo認爲,解決辦法是讓大模型落地終端設備,而如果要“上端”的話就要解決系統最小權限和算力以及最重要的內存資源的問題。
比如,在算法模型層面,vivo在結構設計上選擇更適合端側加速的子結構設計與維度;在工具層面,使用int4做權重存儲減小模型體積和內存佔用,並充分利用帶寬達到極致的性能優化;同時優化框架設計與底層運行時的極致性能功耗。
另外,vivo自主研發的自然語言對話機器人“藍心千詢”,則支持與用戶自然對話、進行知識信息的快速問答、文學創作、中文理解、圖片生成,還可以像一名軟件工程師去編寫應用程序。

據悉,藍心千詢將以手機公版app的形式上線各大手機應用市場,不僅vivo手機用戶可以使用,所有安卓和ios的用戶都可以在應用市場下載。
深蹲遠跳,以底層技術創新加速產業蝶變
要想打造好用、優秀的大模型,除了成本,更重要的是數據量、高維度的應用範式和邏輯思維鏈,而這背後就需要強大的技術積累和創新能力。
資料顯示,vivo從2017年就已開始佈局研究人工智能,組建了Al全球研究院,是首批設立專攻人工智能方向研究院的中國手機公司之一。6年來,vivo始終堅持在人才、數據、算法、算力、安全等方面進行戰略投入,最終纔將大模型做到如今的成就。
在人才方面,vivo從2017年開始就一直維持着1000人左右的專業人工智能團隊,到2021年vivo已有超過600人專注研發大模型。在數據方面,vivo人工智能圖譜研究院已經積累了13000T的多種模態數據,以及2800T高質量中文文本數據,僅用於百億藍心大模型的文本數據量就達到了15T。
在算法層面,vivo將理論與實踐相結合,累計在頂級期刊發表了70多篇高水平論文,並持續跟蹤全球頂尖學術期刊動態,將其轉化成算法和工程應用;在算力層面,vivo聯合阿里雲搭建了千卡級別的算力集羣,於國內率先配備了最先進的H系列GPU。
如業界所評論的,作爲一個長週期行業,影響智能手機最大因素,並非經濟週期,而是創新週期。如今,要想真正抓住大模型變革手機產業的風口,則是技術、人才的長期儲備所決定。
其中,對於手機用戶的隱私安全的保障,就是考驗手機廠商底層技術研發能力的一道“關口”。
對此,vivo手機終端大模型打造了行業首發的端側過濾能力,能夠保護用戶隱私文件、隱私照片不上雲,在端側完成內容輸入、輸入審覈、模型生成、輸出審覈以及返回給用戶,真正做到了在端側閉環。

手機AI大模型已成爲國內手機廠商爭相佈局的新興領域。對於vivo而言,選擇的路徑是,依託多年的技術積累,以用戶的需求爲核心,打造切實好用的大模型矩陣產品。而且,面對新一輪技術革命的“奇點時刻”,vivo主動聯合行業夥伴進行協同創新,爲手機產業產品迭代開闢新的藍海,並加速產業鏈良性健康發展。