近期,2024 世界移動通信大會(MWC 2024)展出的一系列先進通信技術引人矚目,炙手可熱的生成式AI技術更引發各界廣泛關注。展會上,聯發科重點展出了支持SDXL Turbo(Stable Diffusion XL Turbo)文本到圖像的生成引擎、Diffusion視頻生成技術,以及端側生成式AI技能擴充( LoRA Fusion)等創新AI技術。
聯發科還首次展示了優化的Meta Llama 2生成式AI應用,該演示充分發揮了天璣 9300和8300芯片的獨立AI處理器APU,在硬件加速引擎的加持下,可以在終端側生成文章和摘要。
在生成式AI技術加速普及的大趨勢下,一大波端側AI技術正撲面而來。相較于云端AI,端側AI在保護用戶隱私安全、無需聯網、高速低延遲等方面具有顯著優勢,而手機所具備的移動便攜性、個人專屬化、多模態感知、以及通信計算能力,讓它成為端側AI應用普及的最佳載體。
端側AI手機應用的發展離不開聯發科等頭部芯片廠商帶來的先進硬件和軟件技術,移動芯片的生成式AI能力決定了手機端側AI能力上限,作為邊緣端側AI技術的行業領軍者,聯發科很早就前瞻性地布局了端側生成式AI技術,在尤為關鍵的端側AI芯片能力上下足了功夫。聯發科天璣9300旗艦移動芯片的獨立AI處理器APU具有業界第一的移動端AI算力,并通過AI開發平臺NeuroPilot構建了豐富的AI生態,所以能在業界最早實現支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川、vivo藍心大模型BlueLM、OPPO AndesGPT等諸多全球先進的AI大模型。
早在去年,聯發科就聯合百度發起飛槳和文心大模型硬件生態共創計劃,共同推進聯發科硬件平臺與飛槳和文心大模型適配。
聯發科還利用Meta新一代開源大語言模型Llama 2以及聯發科AI處理器APU、AI開發平臺NeuroPilot建立完整的端側AI計算生態,加速智能手機、物聯網、汽車、智能家居和其他邊緣設備的應用開發。經過全面適配和優化,目前天璣9300和天璣8300芯片已實現支持Meta Llama 2的70億參數大模型應用。
近期,聯發科再次宣布:天璣9300和8300已針對Google Gemini Nano大語言模型進行芯片和算法的適配優化,聯發科與Google還計劃攜手推出可在天璣9300和8300上運行的APK,以助力開發者和OEM廠商部署Gemini Nano應用,加速端側AI應用落地。
不僅如此,聯發科還與手機廠商深度合作,推動生成式AI在手機端側落地應用。聯發科已攜手vivo在vivo X100系列手機上落地端側70億參數大語言模型,并在端側實驗環境跑通130億參數模型。在天璣9300芯片強大的AI算力和軟件技術支持下,用戶可以體驗到vivo AI藍心大模型諸多實用的生成式AI功能,包括超能語義搜索、超能問答、超能寫作、超能創圖、超能智慧交互等。
聯發科還攜手OPPO共建輕量化大模型端側部署方案,共同推動大模型能力在端側落地,共同開啟“AI手機”新時代。在天璣9300芯片的先進生成式AI能力加持下,OPPO AndesGPT大語言模型實現了更優的性能、更快的速度?;谔飙^9300芯片的出色AI算力,OPPO Find X7在AI-Benchmark排行榜上取得了業界第一的AI性能成績,并為用戶帶來了AIGC消除、AI通話摘要等多種手機功能。
聯發科天璣9300和天璣8300芯片對全球主流大模型的支持,不僅將有力推動端側AI生態完善和應用創新,更可助力手機廠商的生成式AI技術出海,讓“AI手機”惠及全球更多用戶。
天璣9300集成聯發科第七代AI處理器APU 790,性能和能效顯著提升,生成式AI處理速度是上一代的8倍,可1秒內生成圖片。在聯發科混合精度INT4量化技術和內存硬件壓縮技術加持下,天璣9300最高支持終端運行330億參數AI大語言模型。APU 790還支持生成式AI模型端側“技能擴充”技術NeuroPilot Fusion,利用業界先進的LoRA技術賦予基礎大模型更加全面的能力,滿足端側AI用戶個性化體驗需求。天璣8300在同級產品中率先支持生成式AI,至高支持100億參數AI大語言模型,加速端側AI體驗向主流市場普及。
生成式AI的魅力和魔力將被全球更多的手機用戶所體驗,這是聯發科全力推動的端側AI能力演進和普及的成果。AI手機時代的加速到來離不開芯片架構的革新、軟硬件協同和生態創新的持續努力。我們充滿信心,在全生態系統的共同努力下,一個全新的移動“智能體”時代即將到來,科幻電影般的全場景智慧生活將成為現實。
評論列表(已有條評論)
最新評論