大白話聊透人工智能
第基礎(chǔ)算力，人工智能的底層支撐章
如把工智能（AI）比作座速運(yùn)轉(zhuǎn)的化城市，那基礎(chǔ)算力就是城市的水、、交絡(luò)——沒有它，AI的各種酷炫功能，從語音助到動駕駛，再到復(fù)雜的模型研發(fā)，都只能是紙談兵。
今咱們就用首的話，把基礎(chǔ)算力的來龍去脈、核構(gòu)、硬件支撐和絡(luò)建設(shè)說清楚，讓家就懂。
、基礎(chǔ)算力是啥？
AI的“水和”，缺了就玩轉(zhuǎn)先搞明核的問題：基礎(chǔ)算力到底是什么？
其實(shí)它沒那么玄乎，就是能讓AI“動起來”的計(jì)算能力總和，是AI發(fā)展的底層支撐。
就像咱們家過子離水和，AI要干活、要進(jìn)步，也離基礎(chǔ)算力。
但基礎(chǔ)算力是“打獨(dú)”，它是個“組合”——用算力、智能算力、算，這者各有工，又能互相補(bǔ)臺，起滿足AI同場景的需求。
咱們個個說：. 用算力：AI界的“常管家”，管著基礎(chǔ)瑣事用算力的核是咱們常聽的CPU，比如腦的英爾、AMD處理器，機(jī)的驍龍、璣芯片，本質(zhì)都屬于這類。
它的作用就像家的“管家”，專門處理常、基礎(chǔ)的計(jì)算活兒，挑務(wù)，啥都能搭把。
比如公司的辦公系統(tǒng)，員工打卡、報(bào)表、文件，背后都是用算力處理數(shù)據(jù)；商臺也樣，咱們逛淘寶、京，刷新商品列表、查物流信息、付款，這些作產(chǎn)生的量數(shù)據(jù)，都是用算力默默計(jì)算和處理。
可以說，用算力是整個算力系的“地基”，沒有它，其他更復(fù)雜的算力都沒法正常運(yùn)轉(zhuǎn)。
. 智能算力：AI的“專業(yè)教練”，專門給模型“練”如說用算力是“管家”，那智能算力就是AI的“專業(yè)教練”，專門負(fù)責(zé)AI的“學(xué)習(xí)”和“干活”。
它的核是普CPU，而是GPU、TPU這類專用芯片——比如家常聽說的英偉達(dá)GPU，就是智能算力的主力。
為啥需要專用芯片？
因?yàn)锳I的“學(xué)習(xí)”（也就是模型訓(xùn)練）和“干活”（也就是模型推理）太殊了，需要同處理量數(shù)據(jù)，這就像子要批改幾份試卷，普CPU慢慢來根本來及，而GPU、TPU就像“批卷流水”，能同處理量數(shù)據(jù)，效率別。
舉個具的例子：很多AI模型，比如能寫文章、畫圖片的模型，參數(shù)往往有億個。
要把這么的模型“訓(xùn)練”，讓它能準(zhǔn)確理解指令、輸出結(jié)，需要的智能算力可是點(diǎn)點(diǎn)——得消耗數(shù)萬PFl（簡理解就是“每秒能萬億次計(jì)算”）。
要是沒有智能算力，這些模型根本練出來，AI的各種級功能也就從談起。
. 算：AI的“幕后研究員”，幫底層算法創(chuàng)新算名“級計(jì)算機(jī)”，聽起來就很“厲害”，它確實(shí)是算力的“花板”，但它首接給AI的常功能“打工”，而是像“幕后研究員”，幫AI搞底層創(chuàng)新。
算的主要務(wù)是處理度的科學(xué)計(jì)算，比如模擬球氣候變暖、研究量子力學(xué)的觀粒子、設(shè)計(jì)新型航空發(fā)動機(jī)等——這些務(wù)需要的計(jì)算度和復(fù)雜度，比AI常處理的活兒得多。
那它和AI有啥關(guān)系？
因?yàn)锳I的核是算法，而的算法需要基于對復(fù)雜規(guī)律的理解，算研究這些復(fù)雜規(guī)律，能給AI算法供新思路、新支撐。
比如研究氣候發(fā)的“數(shù)據(jù)規(guī)律”，可能啟發(fā)AI優(yōu)化預(yù)測類算法，讓AI氣預(yù)報(bào)、災(zāi)害預(yù)警更準(zhǔn)確。
簡總結(jié)：用算力管“?！?，智能算力管“AI核”，算管“底層創(chuàng)新”，者起，就形了個覆蓋“常計(jì)算-AI處理-科學(xué)研究”的完整算力系，讓AI既能處理瑣事，又能搞級研發(fā)，還能斷突破技術(shù)瓶頸。
二、算力靠啥跑起來？
芯片、服務(wù)器、數(shù)據(jù)是“硬件支柱”基礎(chǔ)算力是“空樓閣”，得靠實(shí)實(shí)的硬件支撐。
就像汽要靠發(fā)動機(jī)、底盤、身才能跑，算力也得靠芯片、服務(wù)器、數(shù)據(jù)這“支柱”，而且這者的技術(shù)突破，首接決定了算力能跑多、多穩(wěn)。
. 芯片：算力的“臟”，越越、越越專芯片是算力的“臟”，所有計(jì)算務(wù)終都要靠芯片來完。
的芯片發(fā)展，主要走兩條路：是“得更”（先進(jìn)程），二是“得更?！保軜?gòu)創(chuàng)新）。
先說說“先進(jìn)程”。
程就是芯片晶管的，位是納米（nm），晶管越，芯片能裝的晶管就越多，計(jì)算速度越、耗越。
比如以前常見的4nm芯片，己經(jīng)算“先進(jìn)”了，7nm、5nm芯片己經(jīng)了主流——咱們用的端機(jī)、AI服務(wù)器的芯片，很多都是5nm的；而nm芯片也己經(jīng)始落地，比如星、臺積都能生產(chǎn)nm芯片，未來還向nm、nm突破。
舉個首觀的例子：同樣的芯片，5nm芯片比4nm芯片能多裝幾倍的晶管，計(jì)算速度能升0%以，耗卻能減50%。
這對AI來說太重要了——AI需要長間、度計(jì)算，芯片又又省，就能讓AI服務(wù)器用頻繁斷散熱，還能降低本。
再說說“架構(gòu)創(chuàng)新”。
以前芯片多是“用架構(gòu)”，比如CPU的x6架構(gòu)、ARM架構(gòu)，能處理各種務(wù)，但面對AI的“并行計(jì)算”需求（也就是同處理量數(shù)據(jù)），效率就夠。
所以專門為AI設(shè)計(jì)的“專用架構(gòu)”越來越多，比如NPU（經(jīng)絡(luò)處理元）。
NPU的設(shè)計(jì)思路很簡：AI常用的是“經(jīng)絡(luò)計(jì)算”，就像腦的經(jīng)元樣，需要量“重復(fù)且相似”的計(jì)算。
NPU就專門優(yōu)化這種計(jì)算，去掉了用架構(gòu)用的功能，把所有“力氣”都用經(jīng)絡(luò)計(jì)算。
比如機(jī)的NPU，能速處理拍照的圖像優(yōu)化、臉識別，比用CPU處理幾倍，還耗——這就是“專芯專用”的優(yōu)勢。
的芯片，就是“先進(jìn)程+專用架構(gòu)”輪驅(qū)動，既保證了計(jì)算速度，又了AI務(wù)的處理效率，了算力升級的“核引擎”。
. 服務(wù)器：算力的“運(yùn)輸”，裝得越多、跑得越穩(wěn)如說芯片是“臟”，那服務(wù)器就是算力的“運(yùn)輸”——芯片產(chǎn)生的算力，要靠服務(wù)器整合、輸出，才能供AI使用。
的服務(wù)器，主要往“裝得多”（密度）和“趴窩”（可靠）兩個方向發(fā)展，尤其是AI服務(wù)器，更是如此。
先“密度”。
AI需要的算力別，臺服務(wù)器裝的芯片越多，能供的算力就越。
以前的普服務(wù)器，多裝-4塊GPU，而的AI服務(wù)器，能裝-6塊GPU——就像以前的卡只能裝噸貨，的卡能裝6噸貨，運(yùn)輸效率首接了幾倍。
比如0年的候，球AI服務(wù)器市場規(guī)模同比增長了0%以，很多科技公司比如谷歌、度、阿，都量采這種多GPU的AI服務(wù)器，就是為了滿足模型訓(xùn)練的需求。
臺能裝6塊GPU的AI服務(wù)器，次能處理的數(shù)據(jù)量，比普服務(wù)器多幾倍，縮短了模型的訓(xùn)練間——以前可能要幾個月才能練完的模型，幾周就能搞定。
再“可靠”。
AI的計(jì)算務(wù)往往能斷，比如訓(xùn)練個模型，要是服務(wù)器途壞了，之前的計(jì)算可能就費(fèi)了，得重新始。
所以的服務(wù)器都了“冗余設(shè)計(jì)”——比如關(guān)鍵部件（源、風(fēng)扇、硬盤）都裝兩個，個壞了另個能立刻頂；還有“故障預(yù)警系統(tǒng)”，能前檢測到服務(wù)器的問題，比如某個部件溫度太，動報(bào)警并調(diào)整，避突然“趴窩”。
這種可靠，保證了AI計(jì)算能連續(xù)斷地進(jìn)行，因?yàn)橛布收系⒄`事。
. 數(shù)據(jù)：算力的“倉庫+調(diào)度站”，又綠又效數(shù)據(jù)就是存服務(wù)器、存儲數(shù)據(jù)、調(diào)度算力的地方，相當(dāng)于算力的“倉庫”和“調(diào)度站”。
的數(shù)據(jù)，只是“堆服務(wù)器”，而是往“綠化”和“集約化”發(fā)展，既要供足夠的算力，又要減能耗、效率。
先說說“綠化”。
數(shù)據(jù)有量服務(wù)器，這些服務(wù)器運(yùn)行產(chǎn)生很多熱量，需要空調(diào)散熱，所以耗別——以前的 t enter，每供位的算力，可能要消耗.5位以的（用PUE值衡量，PUE=總耗量/算力耗量，越接近越省）。
為了減能耗，都用“液冷技術(shù)”——是用空調(diào)吹，而是用殊的冷卻液首接接觸服務(wù)器，散熱效率比空調(diào)幾倍，能把PUE降到.以。
舉個例子：阿張建的數(shù)據(jù)，用了液冷技術(shù)后，PUE只有.0，也就是說，每供00度的算力用，總只消耗0度，比統(tǒng)數(shù)據(jù)省了40%以的。
這對AI來說很重要，因?yàn)锳I需要長期占用量算力，省就等于省本，還能減碳排，符合綠發(fā)展的要求。
再說說“集約化”。
以前的數(shù)據(jù)多建城市，但城市的土地、力本，而且數(shù)據(jù)輸距離遠(yuǎn)，有延遲。
都搞“邊緣數(shù)據(jù)”——把型數(shù)據(jù)建靠近用戶或設(shè)備的地方，比如城市的基站旁邊、工廠的間、速公路的服務(wù)區(qū)。
這樣的處很明顯：數(shù)據(jù)用到遠(yuǎn)處的型數(shù)據(jù)，能本地處理，減輸延遲。
比如動駕駛場景，輛需要實(shí)處理路況數(shù)據(jù)（比如前面有沒有、紅綠燈是是紅燈），如數(shù)據(jù)要到幾公的數(shù)據(jù)，再回來，哪怕只有秒的延遲，都可能引發(fā)事故。
而邊緣數(shù)據(jù)就路邊，數(shù)據(jù)處理的響應(yīng)間能控毫秒級（毫秒=0.00秒），相當(dāng)于“反應(yīng)”，能保證動駕駛的安。
的數(shù)據(jù)，就是過“綠化”降本、減排，過“集約化”縮延遲、響應(yīng)，了算力的“穩(wěn)定后方”，讓算力既能持續(xù)輸出，又能效到達(dá)需要的地方。
、算力怎么用得？
邊緣計(jì)算+調(diào)度臺，打破“算力孤”有了算力，也有了硬件支撐，還得解決個問題：算力能“浪費(fèi)”。
很多地方都有算力，但有的地方算力夠用（比如部城市），有的地方算力用完（比如西部偏遠(yuǎn)地區(qū)），就像有的地方水多泛濫，有的地方水干旱，這就是“算力孤”。
要解決這個問題，就得靠算力絡(luò)建設(shè)——核是“邊緣計(jì)算”和“算力調(diào)度臺”，個讓算力“靠近用戶”，個讓算力“按需配”。
. 邊緣計(jì)算：把算力“搬”到用戶身邊，減延遲更安邊緣計(jì)算的思路很簡：把所有數(shù)據(jù)都到遠(yuǎn)處的型數(shù)據(jù)，而是把部算力“搬”到靠近用戶或設(shè)備的“邊緣”，讓數(shù)據(jù)本地處理。
就像以前西要去市的市，區(qū)門了便店，用跑遠(yuǎn)路，能更到西。
邊緣計(jì)算的應(yīng)用場景別多，咱們挑幾個常見的說說：個是工業(yè)生產(chǎn)。
比如工廠的生產(chǎn)，以前要把設(shè)備的運(yùn)行數(shù)據(jù)（比如溫度、轉(zhuǎn)速）到總部的數(shù)據(jù)，析完再回生產(chǎn)調(diào)整參數(shù)，間有延遲，要是設(shè)備出了故障，可能等數(shù)據(jù)間裝邊緣計(jì)算設(shè)備，數(shù)據(jù)首接間處理，旦發(fā)參數(shù)異常，能立刻發(fā)出預(yù)警，甚至動調(diào)整設(shè)備，反應(yīng)間從幾秒縮短到幾毫秒，減了故障損失。
二個是智慧交。
除了前面說的動駕駛，還有交信號燈控。
以前交燈是按固定間切，比如管路有沒有，都是0秒紅燈、0秒綠燈，容易擁堵。
路裝邊緣計(jì)算設(shè)備，能實(shí)采集流量數(shù)據(jù)，比如向西方向多，就動延長綠燈間；南向方向，就縮短綠燈間，讓交更順暢，用等數(shù)據(jù)到遠(yuǎn)處的數(shù)據(jù)再調(diào)整。
個是智慧醫(yī)療。
比如遠(yuǎn)程術(shù)，醫(yī)生過機(jī)器給之的病術(shù)，這候數(shù)據(jù)輸能有何延遲——要是醫(yī)生作機(jī)器切刀，數(shù)據(jù)過去有0.5秒延遲，機(jī)器可能就切偏了，很危險(xiǎn)。
邊緣計(jì)算能把術(shù)數(shù)據(jù)本地（比如醫(yī)院的邊緣節(jié)點(diǎn)）速處理，讓醫(yī)生的作和機(jī)器的動作幾乎同步，延遲控毫秒級，保證術(shù)安。
簡說，邊緣計(jì)算就是讓算力“離用戶更近”，解決了數(shù)據(jù)輸延遲的問題，還能減量數(shù)據(jù)輸帶來的絡(luò)壓力，讓AI的應(yīng)用更實(shí)、更安。
. 算力調(diào)度臺：給算力“建個調(diào)度”，按需配浪費(fèi)如說邊緣計(jì)算是“把便店區(qū)門”，那算力調(diào)度臺就是“建了個城物資調(diào)度”——把各個地方的算力資源整合起來，誰需要就給誰，浪費(fèi)算力。
典型的例子就是的“數(shù)西算”工程。
“數(shù)西算”簡說就是“部的數(shù)據(jù)，西部來計(jì)算”——部地區(qū)（比如京、、廣）經(jīng)濟(jì)發(fā)達(dá)，AI企業(yè)多，算力需求，經(jīng)常夠用；而西部地區(qū)（比如貴州、蒙古、甘肅）力充足、土地便宜，建了很多數(shù)據(jù)，算力有余但用完。
這候就需要個“算力調(diào)度臺”，把部的算力需求和西部的閑置算力匹配起來。
比如部的家AI公司要訓(xùn)練個等規(guī)模的模型，需要00PFl的算力，要是部找算力，可能要排隊(duì)等幾，還貴；而西部某個數(shù)據(jù)正有00PFl的閑置算力，調(diào)度臺就可以把這個務(wù)配給西部的數(shù)據(jù)，部公司用等，西部的算力也沒浪費(fèi)。
根據(jù)數(shù)據(jù)，04年“數(shù)西算”配的算力調(diào)度臺，己經(jīng)實(shí)了跨區(qū)域算力調(diào)度000PFl——相當(dāng)于把0個型AI服務(wù)器集群的算力，從西部調(diào)到了部，既緩解了部算力緊張的問題，又讓西部的閑置算力產(chǎn)生了價值，正到了“按需配、動態(tài)調(diào)度”。
除了“數(shù)西算”，很多科技公司也己的算力調(diào)度臺。
比如阿的“飛算力臺”，能整合阿球的數(shù)據(jù)算力，管用戶哪個家、哪個城市，只要需要算力，臺就能動匹配近、便宜的算力資源，讓用戶用己找算力，也用擔(dān)算力浪費(fèi)。
的算力調(diào)度臺，就像算力的“智能管家”，過計(jì)算技術(shù)把散的算力“串”起來，讓算力從“各為戰(zhàn)”變“協(xié)同作戰(zhàn)”，了算力的用效率，也降低了AI企業(yè)的算力本——畢竟對AI企業(yè)來說，算力就是，能省點(diǎn)是點(diǎn)。
西、總結(jié)：基礎(chǔ)算力是AI的“底氣”，越扎實(shí)AI走得越遠(yuǎn)到這，家應(yīng)該對基礎(chǔ)算力有了清晰的認(rèn)識：它是個抽象的概念，而是由“用算力+智能算力+算”組的協(xié)同系，靠“芯片+服務(wù)器+數(shù)據(jù)”供硬件支撐，再過“邊緣計(jì)算+算力調(diào)度臺”實(shí)效用。
對AI來說，基礎(chǔ)算力就像“底氣”——底氣越足，AI能的事就越多，能走的路就越遠(yuǎn)。
比如以前AI只能處理簡的語音識別、圖像類，就是因?yàn)樗懔?；有了更的基礎(chǔ)算力，AI能訓(xùn)練億參數(shù)的模型，能動駕駛、智能醫(yī)療、科學(xué)研究，甚至始幫類解決以前解決了的復(fù)雜問題。
未來，隨著AI的斷發(fā)展，對基礎(chǔ)算力的需求還越來越，芯片更先進(jìn)、服務(wù)器更、數(shù)據(jù)更綠、算力絡(luò)更完善——基礎(chǔ)算力像水和樣，變得越來越普及，也越來越重要，為推動AI走進(jìn)各行各業(yè)、改變我們生活的核力量。
今咱們就用首的話，把基礎(chǔ)算力的來龍去脈、核構(gòu)、硬件支撐和絡(luò)建設(shè)說清楚，讓家就懂。
、基礎(chǔ)算力是啥？
AI的“水和”，缺了就玩轉(zhuǎn)先搞明核的問題：基礎(chǔ)算力到底是什么？
其實(shí)它沒那么玄乎，就是能讓AI“動起來”的計(jì)算能力總和，是AI發(fā)展的底層支撐。
就像咱們家過子離水和，AI要干活、要進(jìn)步，也離基礎(chǔ)算力。
但基礎(chǔ)算力是“打獨(dú)”，它是個“組合”——用算力、智能算力、算，這者各有工，又能互相補(bǔ)臺，起滿足AI同場景的需求。
咱們個個說：. 用算力：AI界的“常管家”，管著基礎(chǔ)瑣事用算力的核是咱們常聽的CPU，比如腦的英爾、AMD處理器，機(jī)的驍龍、璣芯片，本質(zhì)都屬于這類。
它的作用就像家的“管家”，專門處理常、基礎(chǔ)的計(jì)算活兒，挑務(wù)，啥都能搭把。
比如公司的辦公系統(tǒng)，員工打卡、報(bào)表、文件，背后都是用算力處理數(shù)據(jù)；商臺也樣，咱們逛淘寶、京，刷新商品列表、查物流信息、付款，這些作產(chǎn)生的量數(shù)據(jù)，都是用算力默默計(jì)算和處理。
可以說，用算力是整個算力系的“地基”，沒有它，其他更復(fù)雜的算力都沒法正常運(yùn)轉(zhuǎn)。
. 智能算力：AI的“專業(yè)教練”，專門給模型“練”如說用算力是“管家”，那智能算力就是AI的“專業(yè)教練”，專門負(fù)責(zé)AI的“學(xué)習(xí)”和“干活”。
它的核是普CPU，而是GPU、TPU這類專用芯片——比如家常聽說的英偉達(dá)GPU，就是智能算力的主力。
為啥需要專用芯片？
因?yàn)锳I的“學(xué)習(xí)”（也就是模型訓(xùn)練）和“干活”（也就是模型推理）太殊了，需要同處理量數(shù)據(jù)，這就像子要批改幾份試卷，普CPU慢慢來根本來及，而GPU、TPU就像“批卷流水”，能同處理量數(shù)據(jù)，效率別。
舉個具的例子：很多AI模型，比如能寫文章、畫圖片的模型，參數(shù)往往有億個。
要把這么的模型“訓(xùn)練”，讓它能準(zhǔn)確理解指令、輸出結(jié)，需要的智能算力可是點(diǎn)點(diǎn)——得消耗數(shù)萬PFl（簡理解就是“每秒能萬億次計(jì)算”）。
要是沒有智能算力，這些模型根本練出來，AI的各種級功能也就從談起。
. 算：AI的“幕后研究員”，幫底層算法創(chuàng)新算名“級計(jì)算機(jī)”，聽起來就很“厲害”，它確實(shí)是算力的“花板”，但它首接給AI的常功能“打工”，而是像“幕后研究員”，幫AI搞底層創(chuàng)新。
算的主要務(wù)是處理度的科學(xué)計(jì)算，比如模擬球氣候變暖、研究量子力學(xué)的觀粒子、設(shè)計(jì)新型航空發(fā)動機(jī)等——這些務(wù)需要的計(jì)算度和復(fù)雜度，比AI常處理的活兒得多。
那它和AI有啥關(guān)系？
因?yàn)锳I的核是算法，而的算法需要基于對復(fù)雜規(guī)律的理解，算研究這些復(fù)雜規(guī)律，能給AI算法供新思路、新支撐。
比如研究氣候發(fā)的“數(shù)據(jù)規(guī)律”，可能啟發(fā)AI優(yōu)化預(yù)測類算法，讓AI氣預(yù)報(bào)、災(zāi)害預(yù)警更準(zhǔn)確。
簡總結(jié)：用算力管“?！?，智能算力管“AI核”，算管“底層創(chuàng)新”，者起，就形了個覆蓋“常計(jì)算-AI處理-科學(xué)研究”的完整算力系，讓AI既能處理瑣事，又能搞級研發(fā)，還能斷突破技術(shù)瓶頸。
二、算力靠啥跑起來？
芯片、服務(wù)器、數(shù)據(jù)是“硬件支柱”基礎(chǔ)算力是“空樓閣”，得靠實(shí)實(shí)的硬件支撐。
就像汽要靠發(fā)動機(jī)、底盤、身才能跑，算力也得靠芯片、服務(wù)器、數(shù)據(jù)這“支柱”，而且這者的技術(shù)突破，首接決定了算力能跑多、多穩(wěn)。
. 芯片：算力的“臟”，越越、越越專芯片是算力的“臟”，所有計(jì)算務(wù)終都要靠芯片來完。
的芯片發(fā)展，主要走兩條路：是“得更”（先進(jìn)程），二是“得更?！保軜?gòu)創(chuàng)新）。
先說說“先進(jìn)程”。
程就是芯片晶管的，位是納米（nm），晶管越，芯片能裝的晶管就越多，計(jì)算速度越、耗越。
比如以前常見的4nm芯片，己經(jīng)算“先進(jìn)”了，7nm、5nm芯片己經(jīng)了主流——咱們用的端機(jī)、AI服務(wù)器的芯片，很多都是5nm的；而nm芯片也己經(jīng)始落地，比如星、臺積都能生產(chǎn)nm芯片，未來還向nm、nm突破。
舉個首觀的例子：同樣的芯片，5nm芯片比4nm芯片能多裝幾倍的晶管，計(jì)算速度能升0%以，耗卻能減50%。
這對AI來說太重要了——AI需要長間、度計(jì)算，芯片又又省，就能讓AI服務(wù)器用頻繁斷散熱，還能降低本。
再說說“架構(gòu)創(chuàng)新”。
以前芯片多是“用架構(gòu)”，比如CPU的x6架構(gòu)、ARM架構(gòu)，能處理各種務(wù)，但面對AI的“并行計(jì)算”需求（也就是同處理量數(shù)據(jù)），效率就夠。
所以專門為AI設(shè)計(jì)的“專用架構(gòu)”越來越多，比如NPU（經(jīng)絡(luò)處理元）。
NPU的設(shè)計(jì)思路很簡：AI常用的是“經(jīng)絡(luò)計(jì)算”，就像腦的經(jīng)元樣，需要量“重復(fù)且相似”的計(jì)算。
NPU就專門優(yōu)化這種計(jì)算，去掉了用架構(gòu)用的功能，把所有“力氣”都用經(jīng)絡(luò)計(jì)算。
比如機(jī)的NPU，能速處理拍照的圖像優(yōu)化、臉識別，比用CPU處理幾倍，還耗——這就是“專芯專用”的優(yōu)勢。
的芯片，就是“先進(jìn)程+專用架構(gòu)”輪驅(qū)動，既保證了計(jì)算速度，又了AI務(wù)的處理效率，了算力升級的“核引擎”。
. 服務(wù)器：算力的“運(yùn)輸”，裝得越多、跑得越穩(wěn)如說芯片是“臟”，那服務(wù)器就是算力的“運(yùn)輸”——芯片產(chǎn)生的算力，要靠服務(wù)器整合、輸出，才能供AI使用。
的服務(wù)器，主要往“裝得多”（密度）和“趴窩”（可靠）兩個方向發(fā)展，尤其是AI服務(wù)器，更是如此。
先“密度”。
AI需要的算力別，臺服務(wù)器裝的芯片越多，能供的算力就越。
以前的普服務(wù)器，多裝-4塊GPU，而的AI服務(wù)器，能裝-6塊GPU——就像以前的卡只能裝噸貨，的卡能裝6噸貨，運(yùn)輸效率首接了幾倍。
比如0年的候，球AI服務(wù)器市場規(guī)模同比增長了0%以，很多科技公司比如谷歌、度、阿，都量采這種多GPU的AI服務(wù)器，就是為了滿足模型訓(xùn)練的需求。
臺能裝6塊GPU的AI服務(wù)器，次能處理的數(shù)據(jù)量，比普服務(wù)器多幾倍，縮短了模型的訓(xùn)練間——以前可能要幾個月才能練完的模型，幾周就能搞定。
再“可靠”。
AI的計(jì)算務(wù)往往能斷，比如訓(xùn)練個模型，要是服務(wù)器途壞了，之前的計(jì)算可能就費(fèi)了，得重新始。
所以的服務(wù)器都了“冗余設(shè)計(jì)”——比如關(guān)鍵部件（源、風(fēng)扇、硬盤）都裝兩個，個壞了另個能立刻頂；還有“故障預(yù)警系統(tǒng)”，能前檢測到服務(wù)器的問題，比如某個部件溫度太，動報(bào)警并調(diào)整，避突然“趴窩”。
這種可靠，保證了AI計(jì)算能連續(xù)斷地進(jìn)行，因?yàn)橛布收系⒄`事。
. 數(shù)據(jù)：算力的“倉庫+調(diào)度站”，又綠又效數(shù)據(jù)就是存服務(wù)器、存儲數(shù)據(jù)、調(diào)度算力的地方，相當(dāng)于算力的“倉庫”和“調(diào)度站”。
的數(shù)據(jù)，只是“堆服務(wù)器”，而是往“綠化”和“集約化”發(fā)展，既要供足夠的算力，又要減能耗、效率。
先說說“綠化”。
數(shù)據(jù)有量服務(wù)器，這些服務(wù)器運(yùn)行產(chǎn)生很多熱量，需要空調(diào)散熱，所以耗別——以前的 t enter，每供位的算力，可能要消耗.5位以的（用PUE值衡量，PUE=總耗量/算力耗量，越接近越省）。
為了減能耗，都用“液冷技術(shù)”——是用空調(diào)吹，而是用殊的冷卻液首接接觸服務(wù)器，散熱效率比空調(diào)幾倍，能把PUE降到.以。
舉個例子：阿張建的數(shù)據(jù)，用了液冷技術(shù)后，PUE只有.0，也就是說，每供00度的算力用，總只消耗0度，比統(tǒng)數(shù)據(jù)省了40%以的。
這對AI來說很重要，因?yàn)锳I需要長期占用量算力，省就等于省本，還能減碳排，符合綠發(fā)展的要求。
再說說“集約化”。
以前的數(shù)據(jù)多建城市，但城市的土地、力本，而且數(shù)據(jù)輸距離遠(yuǎn)，有延遲。
都搞“邊緣數(shù)據(jù)”——把型數(shù)據(jù)建靠近用戶或設(shè)備的地方，比如城市的基站旁邊、工廠的間、速公路的服務(wù)區(qū)。
這樣的處很明顯：數(shù)據(jù)用到遠(yuǎn)處的型數(shù)據(jù)，能本地處理，減輸延遲。
比如動駕駛場景，輛需要實(shí)處理路況數(shù)據(jù)（比如前面有沒有、紅綠燈是是紅燈），如數(shù)據(jù)要到幾公的數(shù)據(jù)，再回來，哪怕只有秒的延遲，都可能引發(fā)事故。
而邊緣數(shù)據(jù)就路邊，數(shù)據(jù)處理的響應(yīng)間能控毫秒級（毫秒=0.00秒），相當(dāng)于“反應(yīng)”，能保證動駕駛的安。
的數(shù)據(jù)，就是過“綠化”降本、減排，過“集約化”縮延遲、響應(yīng)，了算力的“穩(wěn)定后方”，讓算力既能持續(xù)輸出，又能效到達(dá)需要的地方。
、算力怎么用得？
邊緣計(jì)算+調(diào)度臺，打破“算力孤”有了算力，也有了硬件支撐，還得解決個問題：算力能“浪費(fèi)”。
很多地方都有算力，但有的地方算力夠用（比如部城市），有的地方算力用完（比如西部偏遠(yuǎn)地區(qū)），就像有的地方水多泛濫，有的地方水干旱，這就是“算力孤”。
要解決這個問題，就得靠算力絡(luò)建設(shè)——核是“邊緣計(jì)算”和“算力調(diào)度臺”，個讓算力“靠近用戶”，個讓算力“按需配”。
. 邊緣計(jì)算：把算力“搬”到用戶身邊，減延遲更安邊緣計(jì)算的思路很簡：把所有數(shù)據(jù)都到遠(yuǎn)處的型數(shù)據(jù)，而是把部算力“搬”到靠近用戶或設(shè)備的“邊緣”，讓數(shù)據(jù)本地處理。
就像以前西要去市的市，區(qū)門了便店，用跑遠(yuǎn)路，能更到西。
邊緣計(jì)算的應(yīng)用場景別多，咱們挑幾個常見的說說：個是工業(yè)生產(chǎn)。
比如工廠的生產(chǎn)，以前要把設(shè)備的運(yùn)行數(shù)據(jù)（比如溫度、轉(zhuǎn)速）到總部的數(shù)據(jù)，析完再回生產(chǎn)調(diào)整參數(shù)，間有延遲，要是設(shè)備出了故障，可能等數(shù)據(jù)間裝邊緣計(jì)算設(shè)備，數(shù)據(jù)首接間處理，旦發(fā)參數(shù)異常，能立刻發(fā)出預(yù)警，甚至動調(diào)整設(shè)備，反應(yīng)間從幾秒縮短到幾毫秒，減了故障損失。
二個是智慧交。
除了前面說的動駕駛，還有交信號燈控。
以前交燈是按固定間切，比如管路有沒有，都是0秒紅燈、0秒綠燈，容易擁堵。
路裝邊緣計(jì)算設(shè)備，能實(shí)采集流量數(shù)據(jù)，比如向西方向多，就動延長綠燈間；南向方向，就縮短綠燈間，讓交更順暢，用等數(shù)據(jù)到遠(yuǎn)處的數(shù)據(jù)再調(diào)整。
個是智慧醫(yī)療。
比如遠(yuǎn)程術(shù)，醫(yī)生過機(jī)器給之的病術(shù)，這候數(shù)據(jù)輸能有何延遲——要是醫(yī)生作機(jī)器切刀，數(shù)據(jù)過去有0.5秒延遲，機(jī)器可能就切偏了，很危險(xiǎn)。
邊緣計(jì)算能把術(shù)數(shù)據(jù)本地（比如醫(yī)院的邊緣節(jié)點(diǎn)）速處理，讓醫(yī)生的作和機(jī)器的動作幾乎同步，延遲控毫秒級，保證術(shù)安。
簡說，邊緣計(jì)算就是讓算力“離用戶更近”，解決了數(shù)據(jù)輸延遲的問題，還能減量數(shù)據(jù)輸帶來的絡(luò)壓力，讓AI的應(yīng)用更實(shí)、更安。
. 算力調(diào)度臺：給算力“建個調(diào)度”，按需配浪費(fèi)如說邊緣計(jì)算是“把便店區(qū)門”，那算力調(diào)度臺就是“建了個城物資調(diào)度”——把各個地方的算力資源整合起來，誰需要就給誰，浪費(fèi)算力。
典型的例子就是的“數(shù)西算”工程。
“數(shù)西算”簡說就是“部的數(shù)據(jù)，西部來計(jì)算”——部地區(qū)（比如京、、廣）經(jīng)濟(jì)發(fā)達(dá)，AI企業(yè)多，算力需求，經(jīng)常夠用；而西部地區(qū)（比如貴州、蒙古、甘肅）力充足、土地便宜，建了很多數(shù)據(jù)，算力有余但用完。
這候就需要個“算力調(diào)度臺”，把部的算力需求和西部的閑置算力匹配起來。
比如部的家AI公司要訓(xùn)練個等規(guī)模的模型，需要00PFl的算力，要是部找算力，可能要排隊(duì)等幾，還貴；而西部某個數(shù)據(jù)正有00PFl的閑置算力，調(diào)度臺就可以把這個務(wù)配給西部的數(shù)據(jù)，部公司用等，西部的算力也沒浪費(fèi)。
根據(jù)數(shù)據(jù)，04年“數(shù)西算”配的算力調(diào)度臺，己經(jīng)實(shí)了跨區(qū)域算力調(diào)度000PFl——相當(dāng)于把0個型AI服務(wù)器集群的算力，從西部調(diào)到了部，既緩解了部算力緊張的問題，又讓西部的閑置算力產(chǎn)生了價值，正到了“按需配、動態(tài)調(diào)度”。
除了“數(shù)西算”，很多科技公司也己的算力調(diào)度臺。
比如阿的“飛算力臺”，能整合阿球的數(shù)據(jù)算力，管用戶哪個家、哪個城市，只要需要算力，臺就能動匹配近、便宜的算力資源，讓用戶用己找算力，也用擔(dān)算力浪費(fèi)。
的算力調(diào)度臺，就像算力的“智能管家”，過計(jì)算技術(shù)把散的算力“串”起來，讓算力從“各為戰(zhàn)”變“協(xié)同作戰(zhàn)”，了算力的用效率，也降低了AI企業(yè)的算力本——畢竟對AI企業(yè)來說，算力就是，能省點(diǎn)是點(diǎn)。
西、總結(jié)：基礎(chǔ)算力是AI的“底氣”，越扎實(shí)AI走得越遠(yuǎn)到這，家應(yīng)該對基礎(chǔ)算力有了清晰的認(rèn)識：它是個抽象的概念，而是由“用算力+智能算力+算”組的協(xié)同系，靠“芯片+服務(wù)器+數(shù)據(jù)”供硬件支撐，再過“邊緣計(jì)算+算力調(diào)度臺”實(shí)效用。
對AI來說，基礎(chǔ)算力就像“底氣”——底氣越足，AI能的事就越多，能走的路就越遠(yuǎn)。
比如以前AI只能處理簡的語音識別、圖像類，就是因?yàn)樗懔?；有了更的基礎(chǔ)算力，AI能訓(xùn)練億參數(shù)的模型，能動駕駛、智能醫(yī)療、科學(xué)研究，甚至始幫類解決以前解決了的復(fù)雜問題。
未來，隨著AI的斷發(fā)展，對基礎(chǔ)算力的需求還越來越，芯片更先進(jìn)、服務(wù)器更、數(shù)據(jù)更綠、算力絡(luò)更完善——基礎(chǔ)算力像水和樣，變得越來越普及，也越來越重要，為推動AI走進(jìn)各行各業(yè)、改變我們生活的核力量。