【正文】 這就是內(nèi)存計(jì)算，當(dāng)然這些問(wèn)題不是這么容易解決。我今天要給大家講的就是這兩部分，第一，我們看一下內(nèi)存計(jì)算國(guó)際上現(xiàn)在發(fā)展到什么狀態(tài)，有什么問(wèn)題，我們?cè)趺慈ソ鉀Q。第二部分，我們介紹一下，我們最近幾年在內(nèi)存計(jì)算方面做的一些實(shí)踐工作，給大家做一些參考。 說(shuō)到內(nèi)存計(jì)算第一次重歸我們的視線是在2013年Gartner發(fā)布的10項(xiàng)技術(shù)就是有內(nèi)存計(jì)算。這個(gè)里面有兩個(gè)例子，一個(gè)是HANA，這是因?yàn)樗氖紫茖W(xué)家是韓國(guó)人叫漢拿山的漢拿。這臺(tái)機(jī)器沒(méi)有硬盤(pán)，一個(gè)T的內(nèi)存，不是一個(gè)T的硬盤(pán)，是一個(gè)T的內(nèi)存，加上Oracle的硬盤(pán)，可以極大地提高內(nèi)存計(jì)算系統(tǒng)。這個(gè)東西都不是我今天要講的，因?yàn)檫@個(gè)東西存在很大的問(wèn)題。 我們首先來(lái)看這張圖，這是我們整個(gè)研究的出發(fā)點(diǎn)，我們可以看到橫坐標(biāo)是計(jì)算機(jī)的負(fù)載，縱坐標(biāo)是計(jì)算機(jī)的功耗。就是無(wú)論它工不工作，零負(fù)載的情況下，大概CPU的負(fù)載是百分之幾，滿負(fù)荷下也不超過(guò)50%。但是它有一個(gè)最多50%，但是有一個(gè)值，大家看到橙色的這個(gè)值，不管CPU負(fù)載低還是還是高，內(nèi)存的消耗就是20%。我們現(xiàn)在把服務(wù)器進(jìn)行整合，可以降低一些CPU的消耗，都沒(méi)用的，只要你開(kāi)機(jī)，就有20%是內(nèi)存的消耗，為什么會(huì)固定不變？大家都明白，因?yàn)樗兴⑿?，有刷新就?huì)產(chǎn)生內(nèi)存的功耗。而且這種功耗還隨著我們技術(shù)的增加變得越來(lái)越嚴(yán)重，我們這里面給了兩組值，一個(gè)就是我們以前用的內(nèi)存條，DDR3，一個(gè)就是我們現(xiàn)在用的內(nèi)存條，DDR4。從這個(gè)里面可以看到我們計(jì)算讀的功率達(dá)到很大的提高，從幾十個(gè)GB到幾百個(gè)GB。，但是整個(gè)在DDR3的時(shí)候大概只有十瓦，但是到DDR4的時(shí)候大概幾十瓦。這就帶來(lái)很大的一個(gè)問(wèn)題，就是我們這個(gè)CPU功耗的問(wèn)題。 另外還有性能的問(wèn)題，這里面再給大家看兩組圖，這組圖告訴了我們，左邊是我們傳統(tǒng)意義上用到的我們單機(jī)或者我們這種筆記本電腦的功耗的情況，8個(gè)GB，也就是我們1GB的內(nèi)存，大概因?yàn)樗⑿滤鶐?lái)的性能下降是8%。因?yàn)槊看萎?dāng)電頻變低了以后，你必須給它加電，這段時(shí)間系統(tǒng)是處于降級(jí)運(yùn)行模式。我們大的東西不可能所有的同時(shí)刷新，是按照半個(gè)半個(gè)內(nèi)存來(lái)刷新的，所以在刷新的時(shí)候系統(tǒng)性能是下降的。但是到了64個(gè)GB，也就是我們的服務(wù)內(nèi)存8GB的時(shí)候，我們由于刷新所帶來(lái)的性能下降可以達(dá)到40—50%。所以這個(gè)問(wèn)題，這就直接告訴了我們，我們從理論上可以構(gòu)建非常非常大的內(nèi)存，一個(gè)T的內(nèi)存，但現(xiàn)實(shí)意義上你沒(méi)有那么多好的性能。 同樣功耗也是一個(gè)問(wèn)題，如果我們現(xiàn)在筆記本電腦上面，或者我們的臺(tái)式機(jī)上用1GB的內(nèi)存，大概功耗15%以下。但是如果我們到了服務(wù)器達(dá)到8GB內(nèi)存的時(shí)候，我們的功耗甚至可以達(dá)到系統(tǒng)功耗的47%。所以這個(gè)從另外一方面告訴我們，第一從性能上來(lái)說(shuō)，這種不斷增加內(nèi)存的方式是解決不了問(wèn)題的。第二，從功耗來(lái)說(shuō)，大量的內(nèi)存只會(huì)給我們更多系統(tǒng)功耗的損耗。所以我們有什么辦法可以解決問(wèn)題呢？就是我們現(xiàn)在看到的目前基于DRAM的內(nèi)存計(jì)算模式面臨很大的挑戰(zhàn)，首先由于它有介質(zhì)易失性，所以我們要給它供電。另外它存儲(chǔ)密度比較低，你要8G內(nèi)存條要達(dá)到1個(gè)G的內(nèi)存，里面要插好多條。另外它的功耗也很大，這張圖告訴我們用最新的功耗甚至可以達(dá)到46%，因?yàn)镃PU的功耗下降了，但是內(nèi)存的功耗沒(méi)有辦法，還是那么多，它的比例反而上升了，所以可以達(dá)到46%。 所以總的來(lái)看，我們傳統(tǒng)的用DRAM的內(nèi)存計(jì)算模式面臨很大的挑戰(zhàn)，因此采取的方式是什么，就是用一種新型的介質(zhì)來(lái)替換原來(lái)的DRAM。這個(gè)叫非易失存儲(chǔ)器，這個(gè)很多，我大概列了四類，第一種已經(jīng)產(chǎn)業(yè)化，大家可以去買到，去構(gòu)建自己的平臺(tái)。現(xiàn)在最前沿的是還在實(shí)驗(yàn)室階段，還沒(méi)有實(shí)現(xiàn)產(chǎn)業(yè)化和量產(chǎn)，但是它的性能，易組性性能是最好的。這里面最值得關(guān)注的就是在2015年底，Intel和Micron共同發(fā)布的一個(gè)產(chǎn)品，構(gòu)建高容量、長(zhǎng)壽命的一個(gè)非易失存儲(chǔ)器。我們來(lái)比較一下這個(gè)性能，如果說(shuō)我們希望這個(gè)東西，將來(lái)能夠作為內(nèi)存的替代的話，我們最關(guān)注的就是兩行數(shù)字，讀的時(shí)間和寫(xiě)的時(shí)間。這是根據(jù)國(guó)際半導(dǎo)體技術(shù)協(xié)會(huì)給的一個(gè)指標(biāo)。從這里面我們可以看到右邊這三欄都是我們傳統(tǒng)意義上大家都知道的DRAM、固態(tài)盤(pán)、液態(tài)盤(pán)，Memristor是大家都能夠看到的，PCM在的性能上，基本上跟DRAM是在同一個(gè)限量級(jí)，而硬盤(pán)是在秒級(jí)，這是三個(gè)數(shù)量級(jí)。但是如果用到了旋轉(zhuǎn)存儲(chǔ)。在讀的層面上不但可以替換我們的DRAM，還可以作為我們的高速緩存來(lái)使用。 另外我們看到寫(xiě)的方面，DRAM讀寫(xiě)是一致的，但是對(duì)于STTRAM來(lái)說(shuō)，讀寫(xiě)不是一致性的，慢一個(gè)數(shù)量級(jí)。但是盡管如此，也比我們現(xiàn)在用的要快兩個(gè)數(shù)量級(jí)，這就給我們一個(gè)非常大的信號(hào)，就是說(shuō)這種介質(zhì)，可以作為我們內(nèi)存的一種替換，而不是作為我們傳統(tǒng)的存儲(chǔ)介質(zhì)。 這個(gè)是剛才我講到的3D XPoint Technology，這為什么叫做高速緩存，就是因?yàn)樗窃诩{秒級(jí)，這是在10個(gè)納秒級(jí)。在整個(gè)這個(gè)存儲(chǔ)鏈當(dāng)中，它是更接近于內(nèi)存這個(gè)存儲(chǔ)介質(zhì)。而且英特爾在去年年底，本來(lái)應(yīng)該推出來(lái)3D這個(gè)，他們首先分兩個(gè)路線圖，本來(lái)應(yīng)該是去年，但是一直到了今年的3月份，就是上個(gè)月剛剛推出最新的這種基于PCI插條的存儲(chǔ)條，這個(gè)中文把它翻譯成閃騰，現(xiàn)在這一條存儲(chǔ)條容量375GB，一個(gè)內(nèi)存條就375個(gè)GB，而我們現(xiàn)在DRAM最大8個(gè)GB。而這樣子的內(nèi)存條有三種不同的型號(hào)，最小的型號(hào)一條128GB，最大一條512GB。也就是兩個(gè)內(nèi)存條就是1TB的內(nèi)存，所以我們內(nèi)存進(jìn)入TB時(shí)代就是一兩年，指日可待，所以我這個(gè)雖然叫未來(lái)計(jì)算，是這個(gè)未來(lái)也不遠(yuǎn)，就是這兩三年的事情。 所以如果按照我們一個(gè)服務(wù)器有8個(gè)內(nèi)存條的插槽，插6個(gè)這個(gè)東西，我們?cè)谝粋€(gè)主板上就有3個(gè)T的內(nèi)存，不是硬盤(pán)，這就給我們一個(gè)很大的驚喜。就是我們未來(lái)的內(nèi)存計(jì)算就是因?yàn)檫@么一種新的存儲(chǔ)介質(zhì)技術(shù)，給我們帶來(lái)一種新的存儲(chǔ)。它可以按照內(nèi)存一樣，按自己來(lái)尋址，它也可以持久存儲(chǔ)，像我們硬盤(pán)一樣，數(shù)據(jù)不丟失。比我們的NAND還要快，持久性比我們的移動(dòng)硬盤(pán)還要長(zhǎng)，因?yàn)樗浅志么鎯?chǔ)像硬盤(pán)一樣的東西，你即使不給它供電，它的數(shù)據(jù)也在那里，所以它的靜態(tài)功耗基本為零，它不需要供電。所以這樣子的東西，就使得我們的未來(lái)計(jì)算機(jī)會(huì)發(fā)生一個(gè)很大的變化。我們大家都知道，我們?cè)?000年的時(shí)候，我們有一個(gè)很重要的部件退出了我們的歷史舞臺(tái)，這個(gè)部件就是軟驅(qū)。20年后有一個(gè)部件也要退出我們的歷史舞臺(tái)，這個(gè)硬件就是硬盤(pán)。硬盤(pán)不再是我們的標(biāo)配，它不再有意義，它的作用不再作為聯(lián)機(jī)存儲(chǔ)，這個(gè)變化在未來(lái)兩三年里面就會(huì)發(fā)生。 所以這樣就給我們帶來(lái)一種新的內(nèi)存結(jié)構(gòu)，一種以計(jì)算為中心的結(jié)構(gòu)到一種以計(jì)算為核心的全新的計(jì)算結(jié)構(gòu)。而且這種結(jié)構(gòu)一定是混合的，一定要用這種混合的，用一個(gè)小的快速設(shè)備和一個(gè)大的存儲(chǔ)設(shè)備在一起構(gòu)建一個(gè)大型的設(shè)備。 好，下面我就給大家介紹一下，這么一種結(jié)構(gòu)有些什么樣的一些挑戰(zhàn)。由于大家都是搞網(wǎng)絡(luò)的，我是搞計(jì)算機(jī)的，所以我就把所有的挑戰(zhàn)濃縮為這么一張片子，告訴大家它面臨的什么挑戰(zhàn)，但是這里面的挑戰(zhàn)是非常非常大的，因?yàn)槭紫阮嵏擦宋覀冋麄€(gè)使用計(jì)算機(jī)的習(xí)慣。當(dāng)然我們作為程序員來(lái)說(shuō)，第一個(gè)得到的顛覆就是什么？我們寫(xiě)程序要變了。因?yàn)槲覀儧](méi)有文件操作了，不是寫(xiě)到硬盤(pán)上去了，因?yàn)槲覀冊(cè)趦?nèi)存里面了。但是我們還要在內(nèi)存里面像文件一樣去保留這些東西，因?yàn)槟阋魂P(guān)電，如果用我們?cè)瓉?lái)塊表的話，不是文件分區(qū)表的話，文件就找不到了，我們還要持久化存儲(chǔ)。這是我們第一個(gè)面臨的問(wèn)題。 第二個(gè)面臨的問(wèn)題，這兩種結(jié)構(gòu)怎么擺？我們是不是在這種硬盤(pán)的這種層次結(jié)構(gòu)里面再加一層呢？還是把DRAM和PCAM變成一個(gè)層次？如果是原來(lái)得分層次結(jié)構(gòu)，我們就可以用所有的算法來(lái)進(jìn)行，如果把它分開(kāi)作為一個(gè)平面結(jié)構(gòu)來(lái)說(shuō)的話，這個(gè)平面結(jié)構(gòu)的問(wèn)題就更大了。首先面臨的一個(gè)問(wèn)題，大家知道我們操作系統(tǒng)里面對(duì)于內(nèi)存的管理是按照什么？按照一個(gè)頁(yè)表進(jìn)行管理的，一個(gè)頁(yè)4K，對(duì)我們?cè)瓉?lái)一個(gè)GB級(jí)的內(nèi)存來(lái)說(shuō)沒(méi)問(wèn)題，但是我告訴大家，現(xiàn)在是比原來(lái)的內(nèi)存要大1000倍，也就是說(shuō)我們的頁(yè)表，最頻繁操作的頁(yè)表，每一次都要訪問(wèn)的頁(yè)表比原來(lái)要大1000倍。也就是說(shuō)這個(gè)頁(yè)表訪問(wèn)的速度要比原來(lái)慢1000倍，怎么辦？原來(lái)的操作系統(tǒng)里面根本解決不了這個(gè)問(wèn)題，于是乎現(xiàn)在產(chǎn)生了什么？叫大頁(yè)。大頁(yè)的機(jī)制，就是原來(lái)4K一個(gè)頁(yè)表，變成32兆一個(gè)頁(yè)表，也漲了1000倍。但是問(wèn)題是你頁(yè)表越大，我們操作系統(tǒng)里面這種共享的加鎖，因?yàn)楸ＷC這個(gè)東西不被大家來(lái)寫(xiě)，就導(dǎo)致鎖的頁(yè)表變大，速度仍然會(huì)下降。所以說(shuō)硬件就緒，并不代表我們軟件馬上就能用。所以我就說(shuō)這個(gè)東西推出來(lái)，大概真正能用，還得兩三年或者三四年的時(shí)間。 我最后給大家匯報(bào)一下，我們科技部在2015年立了一個(gè)項(xiàng)目，就是面向大數(shù)據(jù)的內(nèi)存關(guān)鍵計(jì)算與系統(tǒng)，這是我們國(guó)家在計(jì)算機(jī)領(lǐng)域里面列的最后一個(gè)“863”，這個(gè)之后所有的都叫做重點(diǎn)研發(fā)計(jì)劃了。這個(gè)“863”項(xiàng)目是上海交大牽頭，聯(lián)合了全國(guó)的企業(yè)，華為和浪潮，還有八所學(xué)校一起參與的研發(fā)項(xiàng)目。這個(gè)項(xiàng)目非常大，包括從硬件環(huán)境的構(gòu)建，以及編程環(huán)境和數(shù)據(jù)管理系統(tǒng)。因?yàn)槲覀儸F(xiàn)在所有的數(shù)據(jù)管理系統(tǒng)都是基于硬盤(pán)的，只有一個(gè)系統(tǒng)就是我們剛才講到的HANA系統(tǒng)，這是基于DRAM的。因?yàn)槲覀兏虾＝淮笠黄鸷献髯鱿到y(tǒng)軟件的，操作系統(tǒng)這一塊，怎么讓用戶不知道，盡管說(shuō)現(xiàn)在有一個(gè)指南告訴大家說(shuō)怎么去寫(xiě)程序，但是原有的程序還在運(yùn)行，計(jì)算機(jī)最重要的就是講生態(tài)，對(duì)不對(duì)？生態(tài)要好。我們做系統(tǒng)軟件的目的就是使原來(lái)的系統(tǒng)能夠運(yùn)行，并且使現(xiàn)有的程序能夠運(yùn)行得更好。 我下面揀幾個(gè)典型的案例做介紹，如果做科研的老師都知道，我們國(guó)家科研的方式是叫齊頭并進(jìn)，一個(gè)項(xiàng)目軟件也做，硬件也做，同時(shí)結(jié)題，同時(shí)開(kāi)始。你這個(gè)軟件做運(yùn)行的時(shí)候，你必須得有一個(gè)平臺(tái)，這個(gè)平臺(tái)就是模擬器，模擬器跟我們?cè)瓉?lái)的虛擬器東西不一樣，它是一個(gè)能夠全仿真硬件的東西，你軟件在這上面去運(yùn)行。其實(shí)目前全球，大家如果看文章或者做研究工作的話，凡是在異構(gòu)存儲(chǔ)都是在模擬器上去做。但是不同的模擬器有不同的特點(diǎn)，我們這個(gè)模擬器是結(jié)合了在目前模擬器上功能最全的模擬器，而且我們實(shí)驗(yàn)室所有的代碼都有，這個(gè)模擬器的名字叫SHMA，這跟是我們跟華為在一起做，它是我們合作伙伴。 第二個(gè)，做了一個(gè)特別理論化的工作，因?yàn)榇蠹抑雷钪匾木褪荂ache替換策略，內(nèi)存滿了怎么辦呢？就把最不用的東西替換進(jìn)去，然后換一塊數(shù)據(jù)進(jìn)來(lái)。這是我們講到的HRU，但是在這種情況下根本不適用，為什么呢？因?yàn)樗脑L存方式不一樣。但是告訴大家，這里面有兩種不同的介質(zhì)，這兩個(gè)訪存時(shí)間都不一樣，如果你把它們倆統(tǒng)一來(lái)看的話，一般來(lái)說(shuō)NVM大，最早使用的都在這個(gè)里面，每次替換它花的時(shí)間最長(zhǎng)，所以這種策略沒(méi)辦法。我們就提出一個(gè)仿真指標(biāo)，所以得出來(lái)的結(jié)論都不是我們能夠平常很直觀想到的結(jié)論，比如說(shuō)我們盡量少替換NVM里的塊，我們盡量訪問(wèn)DNAM里面的塊，這個(gè)結(jié)論使得我們跟現(xiàn)有的全球最好的結(jié)果HAP相比，我們最好有大概10%的性能提升，%的性能提升。 另外我們還做了一個(gè)工作，也是挺有意思的工作，我們知道大家現(xiàn)在跟斯巴克相比，這個(gè)數(shù)據(jù)分配都是一個(gè)數(shù)據(jù)一個(gè)數(shù)據(jù)連續(xù)分配的，在分析的時(shí)候有各種變量，有的就那一會(huì)兒使用，用完了就丟了，但是它在內(nèi)存里還占有一個(gè)空間，這樣就存在著短生命周期和長(zhǎng)壽命周期混雜在一起的方法。如果你的內(nèi)存滿了，你要通過(guò)掃描才能知道哪個(gè)該換，掃描一遍花的時(shí)間太長(zhǎng)。以前大家都不知道操作內(nèi)存里面的垃圾回收，現(xiàn)在我們的內(nèi)存大了，全放在那兒，現(xiàn)在寫(xiě)程序的同學(xué)也不講究這個(gè)東西了。但是這個(gè)工作在我們整個(gè)系統(tǒng)里面是非常大的，我們做了一個(gè)實(shí)驗(yàn)，就把長(zhǎng)壽命周期的從一組開(kāi)始放，短壽命周期的放在另外一組，回收的時(shí)候把短壽命周期的直接回收，不需要掃描。就這一下，我們把垃圾回收的時(shí)間最高提升，%，基本上把它全減少了，就減少垃圾回收的時(shí)間，就這一件事跟原生態(tài)的斯巴克相比速度可以提高40倍。所以這個(gè)垃圾回收在整個(gè)Spark的流處理影響中的提升是非常非常大。我們非常高興的是，我們這個(gè)工作去年在美國(guó)發(fā)表以后，美國(guó)也跟我們發(fā)表了相似的工作，但是這個(gè)發(fā)表時(shí)期在那兒，這是改不了的。 我們還有一個(gè)工作很有意思，就是Mammoth，硬盤(pán)只要一倒騰速度就下來(lái)了，我們現(xiàn)在的想法不是內(nèi)存計(jì)算了嗎？我們能不能把這個(gè)東西都放在內(nèi)存里？于是我們就做了一個(gè)以內(nèi)存為中心的基于內(nèi)存的Mammoth，這個(gè)比現(xiàn)在主流的相比速度快5倍以上。而且最重要的是什么？這件事情，這個(gè)工作的影響度，因?yàn)槲覀冞@個(gè)是在2015年度做的工作，所以在2015年的時(shí)候，這個(gè)IEEE Computer雜志，專門在一期里面就介紹了我們這一篇文章，目的是為了什么？為了說(shuō)明在大數(shù)據(jù)到來(lái)以后該怎么辦？其實(shí)這件事情很簡(jiǎn)單，就把原來(lái)的IO操作放到內(nèi)存操作就完了，全在內(nèi)存里頭去做，如果內(nèi)存非常大，但是這個(gè)工作的影響就非常大。 這是我最后一張片子，這張片子是2015年全球?qū)τ跀?shù)據(jù)管理系統(tǒng)，我剛才講到數(shù)據(jù)管理系統(tǒng)，有一個(gè)全球的調(diào)研結(jié)果，這個(gè)調(diào)研結(jié)果，可以告訴左邊所有的東西，都是基于硬盤(pán)的數(shù)據(jù)管理系統(tǒng)，右邊的都是基于內(nèi)存的管理系統(tǒng)。但是在整個(gè)這個(gè)里面可以看到，現(xiàn)在越來(lái)越多的系統(tǒng)，已經(jīng)到了DNAM里面去了，在內(nèi)存里面去做了，可能這么多大家沒(méi)注意觀看，太多了，也解釋不清楚。從這張圖可以看到我們現(xiàn)在的趨勢(shì)是什么？要把所有的左邊的這種基于硬盤(pán)的系統(tǒng)，全部要移植到NBM的環(huán)境下，這就是未來(lái)的趨勢(shì)。 最后我做一個(gè)總結(jié)，在大數(shù)據(jù)時(shí)代的未來(lái)的計(jì)算機(jī)該是個(gè)什么樣？是基于這種非異構(gòu)存儲(chǔ)器。到目前為止還有很多值得探討的問(wèn)題，比如說(shuō)異構(gòu)層次內(nèi)存的協(xié)同組織模式，以及大數(shù)據(jù)低能耗處理環(huán)境，這個(gè)工作還值得去研究，我們的工作剛剛開(kāi)始第一步，還有很多工作等待去研究。 好，我的匯報(bào)就到這里，謝謝大家！ 主持人：謝謝金海教授給我們作的精彩報(bào)告。接下來(lái)為大家作報(bào)告的是中國(guó)信息通信研究院總工程師余曉暉先生，余曉暉先生主要從事國(guó)家信息通信產(chǎn)業(yè)、信息網(wǎng)絡(luò)技術(shù)、信息化的戰(zhàn)略規(guī)劃/政策研究，參與了國(guó)家信息化信息產(chǎn)業(yè)寬帶中國(guó)、互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計(jì)算等相關(guān)戰(zhàn)略政策的規(guī)劃研究和起草，他今天給大家?guī)?lái)的報(bào)告主題是“網(wǎng)絡(luò)架構(gòu)創(chuàng)新趨勢(shì)與重點(diǎn)方向”。 余曉暉：大家上午好！我簡(jiǎn)單把我的一些觀點(diǎn)跟大家進(jìn)行分享。 我匯報(bào)的題目是網(wǎng)絡(luò)架構(gòu)的創(chuàng)新趨勢(shì)和重點(diǎn)方向。先分享一下我們對(duì)于網(wǎng)絡(luò)架構(gòu)目前發(fā)展的基本看法。三部分： 網(wǎng)絡(luò)發(fā)展新態(tài)勢(shì)。 到目前為止，整個(gè)網(wǎng)