亚洲国产精品久久久久婷蜜芽,caoporn国产精品免费视频,久久久久久久久免费看无码,国产精品一区在线观看你懂的

歡迎訪問深圳市中小企業(yè)公共服務(wù)平臺電子信息窗口

嵌入式存儲器如何協(xié)同SoC 助力AI Mobile高效運轉(zhuǎn)

2024-04-15 來源:互聯(lián)網(wǎng)
2795

關(guān)鍵詞: 存儲器 AI-Mobile 長江存儲

今年以來,以人工智能為核心的AI Mobile,正開始成為手機行業(yè)的“主角”。越來越多的手機廠商正在研發(fā)或已推出各種AI Mobile,甚至部分研究機構(gòu)認為,AI Mobile或?qū)⒊蔀槭謾C市場的新增長點,并掀起新一輪換機潮。

AI Mobile,簡單來說,是支持AI功能的新一代智能手機。和常規(guī)手機相比,AI Mobile的SoC是關(guān)鍵。

異構(gòu)集成 SoC是關(guān)鍵

當下主流的AI Mobile SoC突出特性采用CPU、GPU及NPU異構(gòu)集成的架構(gòu)形態(tài),具備更強的算力,能夠處理AI相關(guān)計算和推理任務(wù)。

CPU和GPU屬于通用處理器,擁有很強的兼容性和靈活性。一方面能夠高效處理手機常規(guī)任務(wù),保證手機基礎(chǔ)功能的流暢運轉(zhuǎn),例如操作系統(tǒng)、游戲、拍照、娛樂等;另一方面還能和NPU相串聯(lián),針對AI相關(guān)的應(yīng)用和場景,提供更佳的AI體驗。

NPU,全稱Neural network Processing Unit,即神經(jīng)網(wǎng)絡(luò)處理單元,其突出特性是在電路層模擬人類神經(jīng)元和突觸,用深度學(xué)習(xí)指令集直接處理大規(guī)模的神經(jīng)元和突觸,一條指令完成一組神經(jīng)元的處理。

相較于CPU和GPU的馮諾依曼結(jié)構(gòu),NPU通過突觸權(quán)重實現(xiàn)存儲和計算一體化,進行神經(jīng)網(wǎng)絡(luò)計算的效率也遠超GPU。目前,NPU已被大規(guī)模應(yīng)用于包括AI Mobile、AI PC在內(nèi)眾多人工智能、機器學(xué)習(xí)等領(lǐng)域。

業(yè)界通過異構(gòu)集成技術(shù),將CPU、GPU及NPU等不同用途芯片融合在一顆SoC上,最終促成AI Mobile的誕生。

當然除了SoC,在AI Mobile中數(shù)據(jù)存儲也是執(zhí)行AI計算和推理任務(wù),實現(xiàn)AI功能,協(xié)同SoC打造AI體驗的關(guān)鍵一環(huán)。

高性能特性 協(xié)同SoC加速AI功能實現(xiàn)

從底層設(shè)計上看,AI Mobile因不斷豐富和完善的AI功能,會涉及更多復(fù)雜且高頻的計算、推理和生成等任務(wù)指令,需要嵌入式存儲器提供更高性能、更大帶寬,高效迅速的將SoC發(fā)出的相關(guān)數(shù)據(jù)和指令傳輸?shù)狡渌到y(tǒng)硬件,進而推進AI功能的實現(xiàn),為前端的用戶提供響應(yīng)更及時的AI體驗;

從具體應(yīng)用上看,AI Mobile重要功能設(shè)計便是云側(cè)和端側(cè)的混合大模型,云側(cè)大模型需要實時不間斷地和AI Mobile進行數(shù)據(jù)的同步,指令的對接,科學(xué)合理的進行算力的調(diào)配,算法的更新,這都對嵌入式存儲器執(zhí)行SoC相關(guān)指令的響應(yīng)速度,傳輸效率提出更高挑戰(zhàn);至于端側(cè)大模型,在模型訓(xùn)練的各個階段,包括數(shù)據(jù)的收集、篩選、分析和歸一等步驟中,無一離得開高性能嵌入式存儲器提供的高帶寬、高讀寫速度。

低功耗設(shè)計 提升整體續(xù)航 助力AI Mobile性能不打折

隨著AI功能的加入,需要處理的指令和傳輸?shù)臄?shù)據(jù)都在呈指數(shù)級增長。同時,鑒于AI Mobile和云端模型保持數(shù)據(jù)的實時傳輸,會更加頻繁的調(diào)動嵌入式存儲器進行數(shù)據(jù)的讀取和寫入。由此,包括SoC在內(nèi)的各種硬件,其功耗也會肉眼可見的升高。

嵌入式存儲器,作為AI Mobile的重要組成,更低功耗的設(shè)計,在處理同等負載的任務(wù)時,能夠節(jié)省功耗,從存儲端提升AI Mobile的整體續(xù)航。

同時,更低功耗設(shè)計,也將減少存儲器工作時的發(fā)熱量,最大程度的拖延甚至避免存儲溫度墻的出現(xiàn),始終維持更高的性能表現(xiàn),助力AI Mobile性能不打折。

更大容量為AI Mobile功能實現(xiàn)和拓展保駕護航

AI Mobile同樣需要嵌入式存儲器提供更大容量。

一方面,AI Mobile內(nèi)置端側(cè)大模型,需要海量空間,存儲用于訓(xùn)練大模型的各種“養(yǎng)料”,包括語音、文字、視頻等各種數(shù)據(jù);同時,隨著端側(cè)大模型的不斷豐富和迭代,需要存儲的參數(shù)和數(shù)據(jù)量也會不斷激增,對存儲器提出了更高容量需求。

另一方面,在應(yīng)用端,AI Mobile端側(cè)和云側(cè)大模型的完善,將刺激和生成許多帶有AI功能的且豐富多彩的應(yīng)用,例如私人助理功能,生成式AI助手可根據(jù)用戶喜好,定制推送新聞、視頻、音樂等內(nèi)容;智能翻譯功能,借助AI算法,在用戶進行語音通話的同時,實時進行語音的翻譯,以及語音轉(zhuǎn)文字的記錄等功能。而這些功能的實現(xiàn),不僅需要SoC的算法支撐,同時還需要大容量嵌入式存儲器,存儲和承載這些應(yīng)用本體及生成的各種緩存文件。

面對著AI手機的浪潮,長江存儲推出一系列嵌入式存儲器,不斷滿足AI手機的存儲需求。


undefined


長江存儲UC033是基于晶棧?Xtacking? 3.0技術(shù)的TLC三維閃存芯片打造的UFS3.1嵌入式存儲產(chǎn)品,擁有高性能、大容量、低延遲等特性,最大順序讀取速度達2100MB/s,產(chǎn)品設(shè)計128GB, 256GB,512GB三個容量,能夠滿足AI時代,手機等智能終端對嵌入式存儲器全面的產(chǎn)品需求。



注:部分技術(shù)解釋源于網(wǎng)絡(luò)