原標(biāo)題：英特爾Frank T.Hady博士：重新尋找?guī)捙c時延間的平衡

隨著數(shù)據(jù)集規(guī)模的不斷增長，數(shù)據(jù)中心負(fù)載對內(nèi)存、存儲的性能和容量的要求也在不斷提高。與此同時，每單位時間需要處理更多數(shù)據(jù)，組成計算系統(tǒng)的組件性能也在不斷提高。所謂性能，是一個涉及多方面的話題，其中一些指標(biāo)（例如帶寬）的增長速度就會比其它指標(biāo)（例如時延）的增長速度更快。

計算機(jī)架構(gòu)師必須在這些不斷增長的數(shù)據(jù)集和可用技術(shù)的相對性能提升之間尋找交集，從而創(chuàng)建一個能夠快速完成任務(wù)的計算系統(tǒng)。本文將簡要介紹相關(guān)技術(shù)的發(fā)展歷史，以及最新推出的英特爾傲騰技術(shù)。這種新技術(shù)提供了縮短時延和提高帶寬所需的新資源，填補(bǔ)了計算系統(tǒng)中的傳統(tǒng)關(guān)鍵點(diǎn)，從而加快了應(yīng)用速度。

內(nèi)存和存儲簡史

DRAM是一個高帶寬、低延時的數(shù)據(jù)存儲器，但是每比特成本相對昂貴。通過在系統(tǒng)中增加DRAM的數(shù)量可以應(yīng)對數(shù)據(jù)集規(guī)模增加的問題，但這樣做成本會非常高。十年前，當(dāng)速度較慢的機(jī)械硬盤（HDD）是許多系統(tǒng)中唯一可用的數(shù)據(jù)存儲器，大家沒有更多可選擇空間。然而，訪問高延時的機(jī)械硬盤會因?yàn)榈却龜?shù)據(jù)浪費(fèi)太多的處理器周期。

NAND固態(tài)盤（SSD）的出現(xiàn)不僅為存儲數(shù)據(jù)提供了一個新空間，還能夠加快對更多數(shù)據(jù)集的訪問速度。因此，基于NAND的固態(tài)盤在市場上得到了廣泛的應(yīng)用。然而現(xiàn)在，即使是速度很快的NAND固態(tài)盤也對當(dāng)今需要實(shí)時或近乎實(shí)時訪問和處理數(shù)據(jù)的數(shù)據(jù)驅(qū)動應(yīng)用有些力不從心。因?yàn)榫拖?0年前的硬盤一樣，這些固態(tài)盤會導(dǎo)致處理器花過長時間等待數(shù)據(jù)，這會增加時延，從而阻礙系統(tǒng)獲得現(xiàn)代CPU能夠提供的性能。隨著時間的發(fā)展，CPU性能提升然而存儲時延卻沒能同步，這會拖累整個系統(tǒng)的性能提升。

圖1：內(nèi)存、處理器、硬盤和固態(tài)盤隨時間推移的相對帶寬改進(jìn)vs相對時延改進(jìn)

時延與帶寬平衡很重要

為證明技術(shù)的發(fā)展，有必要比較以下不同存儲介質(zhì)隨時間推移的相對帶寬性能改善和時延改進(jìn)。基于David Patterson的一項(xiàng)關(guān)鍵研究，圖1將固態(tài)盤數(shù)據(jù)點(diǎn)添加到Patterson的“時延滯后帶寬”圖表中。Patterson指出，從歷史上看，帶寬改進(jìn)的速度通常要比時延快得多。根據(jù)摩爾定律，晶體管的數(shù)量在穩(wěn)步增加，同時多核架構(gòu)在不斷演進(jìn)。

這些改進(jìn)使得處理器可以處理更多指令，同時與上一代處理器相比，可以在相同或更短的時間內(nèi)處理更多數(shù)據(jù)。但隨著CPU處理時間的縮短，從硬盤獲取數(shù)據(jù)的時延并沒有相應(yīng)地縮短。這導(dǎo)致存儲技術(shù)成為整體性能的瓶頸。對于內(nèi)存和存儲技術(shù)來說，可以通過并行性來增加帶寬，但訪問該技術(shù)的時間相對恒定。因此，只有引入新技術(shù)才能實(shí)現(xiàn)更低時延。

要理解為什么這很重要，就要考慮當(dāng)時延減少、帶寬增加時會發(fā)生什么。通常，對于內(nèi)存和存儲資源來說，訪問一個單元的數(shù)據(jù)不足以填充從內(nèi)存到處理器的路徑，即帶寬乘以時延（帶寬時延乘積）大于訪問尺寸。在可能的情況下，為了充分利用資源的帶寬，會明確把軟件編寫為“并行請求更大或更多的數(shù)據(jù)塊”。隨著帶寬時延產(chǎn)品的增長，越來越少的算法能夠在請求足夠數(shù)據(jù)的同時來滿足時延要求。然而在無法支持的情況下，則會影響系統(tǒng)帶寬和性能。從最簡單的層面來說，這就是為什么擁有一個平衡的帶寬/時延比很重要。

回顧圖1，基于NAND的固態(tài)盤的引入在一段時間內(nèi)提供了一個平衡的帶寬/時延解決方案，它們的時延比硬盤低得多。基礎(chǔ)訪問時間從硬盤的幾毫秒縮短到NAND 固態(tài)盤的不到100微秒，這意味著等待數(shù)據(jù)所花費(fèi)的CPU周期更少。由于許多應(yīng)用能夠經(jīng)常訪問NAND 固態(tài)盤的全部帶寬，因此處理速度以肉眼可見的速度提高了。隨著時間的推移，帶寬不斷增加，而時延則保持相對恒定，帶寬的加倍使得系統(tǒng)再次失衡。

以下示例演示了如何使用英特爾傲騰技術(shù)部署低時延英特爾傲騰數(shù)據(jù)中心級固態(tài)硬盤，從而提高VMwarevSAN等超融合基礎(chǔ)架構(gòu)解決方案的性能和容量。

傲騰助vSAN再上新高度

企業(yè)業(yè)務(wù)和云服務(wù)提供商可利用英特爾傲騰技術(shù)，以非常經(jīng)濟(jì)的方式來提高虛擬服務(wù)器上運(yùn)行的應(yīng)用的性能。EvaluatorGroup的分析報告指出，英特爾至強(qiáng)可擴(kuò)展處理器與英特爾傲騰技術(shù)和含NVM Express（NVMe）的英特爾3DNAND固態(tài)盤相結(jié)合，可以為各種運(yùn)行在使用VMwarevSAN的超融合系統(tǒng)上的常見負(fù)載提供更好的性能。

如圖2所示，與運(yùn)行NAND固態(tài)盤存儲介質(zhì)的系統(tǒng)相比，運(yùn)行VMware vSAN 6.7的系統(tǒng)（采用英特爾至強(qiáng)可擴(kuò)展處理器和英特爾傲騰數(shù)據(jù)中心級固態(tài)盤）可顯著提升性能。采用英特爾傲騰技術(shù)和英特爾3D NAND固態(tài)盤構(gòu)建的系統(tǒng)能夠支持最多1.6倍的虛擬機(jī)，同時仍可以為每個虛擬機(jī)保持相同的服務(wù)水平協(xié)議。

這相當(dāng)于每個系統(tǒng)可多支持60%以上的用戶，這對于盈利和業(yè)務(wù)增長非常重要。由于英特爾至強(qiáng)可擴(kuò)展處理器、VMware vSAN 6.7以及結(jié)合使用的高效英特爾3D NAND固態(tài)盤與英特爾傲騰數(shù)據(jù)中心級固態(tài)硬盤提高了虛擬機(jī)密度、降低了基礎(chǔ)設(shè)施成本，從而帶來了明顯的成本效益。

研究得出的結(jié)論是，由于舊的存儲技術(shù)無法滿足虛擬機(jī)的輸入/輸出（I/O）需求，所以舊系統(tǒng)的性能較低。本質(zhì)上，由多個活躍虛擬機(jī)驅(qū)動的高I/O負(fù)載導(dǎo)致NAND 固態(tài)盤備份大量工作，從而增加了數(shù)據(jù)時延，直到無法再維持虛擬機(jī)所需的服務(wù)水平協(xié)議。

VMware vSAN的例子展示了一種“通過部署英特爾傲騰數(shù)據(jù)中心級固態(tài)盤來彌合數(shù)據(jù)中心內(nèi)存與存儲層級之間差距”的方法。歡迎經(jīng)常訪問英特爾傲騰技術(shù)網(wǎng)站，了解企業(yè)如何使用英特爾技術(shù)，更好地滿足現(xiàn)代數(shù)據(jù)中心的需求。

圖2：采用英特爾至強(qiáng)可擴(kuò)展處理器，英特爾3D NAND固態(tài)盤和英特爾傲騰數(shù)據(jù)中心級固態(tài)盤構(gòu)建的較新VMware vSAN系統(tǒng)，性能比僅基于英特爾3D NAND固態(tài)盤的系統(tǒng)最多高出1.6倍

新架構(gòu)構(gòu)建新平衡

英特爾傲騰技術(shù)可以在系統(tǒng)中扮演多種角色。如前所示，英特爾傲騰數(shù)據(jù)中心級固態(tài)盤可以利用標(biāo)準(zhǔn)PCIe NVMe接口連接到系統(tǒng)，通過平衡的帶寬/時延來加速重要的數(shù)據(jù)中心應(yīng)用。在這種形式下，空閑平均時延大約為10微秒，而NAND 固態(tài)盤則超過80微秒。圖3顯示了系統(tǒng)硬件和軟件時延。英特爾傲騰數(shù)據(jù)中心級固態(tài)盤的硬件時延與系統(tǒng)堆棧軟件時延大致相同，為系統(tǒng)帶來了另一種平衡。即使在高負(fù)載下，始終如一的低時延以及高耐用性使這些固態(tài)盤成為快速緩存或分層熱數(shù)據(jù)的理想選擇。

英特爾傲騰技術(shù)現(xiàn)在也可作為直接插入DIMM插槽的英特爾傲騰數(shù)據(jù)中心級持久性內(nèi)存模塊使用。與DRAM DIMM不同，英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存具有持久性和更大的容量（每個模塊最高可達(dá)512 GB）。如圖3所示，使用英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存進(jìn)行數(shù)據(jù)訪問的時延要比使用英特爾傲騰數(shù)據(jù)中心級固態(tài)盤小得多。

英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存可以直接從應(yīng)用訪問，而不涉及操作系統(tǒng)存儲堆棧，因此不再需要軟件開銷。對于持久內(nèi)存，空閑平均讀取時延下降到100到340納秒。相較之前提到的帶寬時延產(chǎn)品的低時延，由于時延較低，因此可以使用較小的單元尺寸、一條高速緩存線訪問該內(nèi)存，同時仍然提供其全部帶寬。因此，英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存是一種高速緩存線路可訪問、高性能、持久的存儲——是一種真正獨(dú)特的新資源。

鑒于其高性能和持久性，英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存構(gòu)成了另一個新的數(shù)據(jù)存儲層，可以用各種方式來彌合容量與性能之間的系統(tǒng)差距。這種靈活性使企業(yè)可以構(gòu)建能更好滿足現(xiàn)代工作負(fù)載的處理和內(nèi)存需求的數(shù)據(jù)中心，例如，英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存可顯著提高內(nèi)存數(shù)據(jù)庫的容量。而且，由于持久性內(nèi)存是非易失性的，因此不需要在數(shù)據(jù)庫重新啟動后將數(shù)據(jù)重新加載到內(nèi)存中，從而提高了可服務(wù)性和系統(tǒng)正常運(yùn)行時間，并改進(jìn)了業(yè)務(wù)連續(xù)性。

圖3：NAND固態(tài)盤、英特爾傲騰數(shù)據(jù)中心級固態(tài)盤和英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存的時延比較

結(jié)論

在計算系統(tǒng)中，內(nèi)存和存儲層級結(jié)構(gòu)把更頻繁訪問的數(shù)據(jù)放在更靠近處理器的位置，同時把占多數(shù)的數(shù)據(jù)移動到遠(yuǎn)離處理器、更便宜的內(nèi)存中（時延更高）。內(nèi)存和存儲技術(shù)的固有時延往往會隨著時間的推移而緩慢下降，而處理器的性能會以更快的速度提升。隨著內(nèi)存離處理器距離的不斷增加，處理器需要花費(fèi)更多指令周期等待數(shù)據(jù)。只有引入新的低時延內(nèi)存技術(shù)以及新的、更緊密集成的系統(tǒng)集成點(diǎn)，才能使系統(tǒng)恢復(fù)平衡。

隨著英特爾傲騰技術(shù)的引入，英特爾為系統(tǒng)提供了一個新的內(nèi)存來彌合DRAM與NAND固態(tài)盤之間的差距。作為固態(tài)盤和持久內(nèi)存，全新英特爾傲騰技術(shù)使計算機(jī)架構(gòu)師能夠?qū)⒋笮统志脭?shù)據(jù)結(jié)構(gòu)離處理器更近，從而盡量縮短等待數(shù)據(jù)的時間并加快應(yīng)用執(zhí)行。當(dāng)系統(tǒng)架構(gòu)師平衡好帶寬需求和低延時，就釋放了CPU的強(qiáng)大功能。通過英特爾傲騰技術(shù)恢復(fù)帶寬與時延之間的平衡，CPU現(xiàn)在可以快速處理數(shù)據(jù)，從而達(dá)到最佳系統(tǒng)性能。

作者簡介：

Frank Hady博士是英特爾院士兼英特爾非易失性內(nèi)存解決方案事業(yè)部（NSG）傲騰系統(tǒng)首席架構(gòu)師。Frank負(fù)責(zé)研究和定義英特爾傲騰技術(shù)產(chǎn)品及其與計算系統(tǒng)的集成。Frank曾擔(dān)任英特爾領(lǐng)先的平臺I/O架構(gòu)師，為英特爾QuickAssist技術(shù)（英特爾QAT）提供研究基礎(chǔ)，并推動了平臺性能顯著提升。他撰寫或聯(lián)合撰寫了30多篇關(guān)于網(wǎng)絡(luò)、存儲和I/O創(chuàng)新主題的論文，并經(jīng)常發(fā)表關(guān)于內(nèi)存和存儲的文章。他擁有30多項(xiàng)美國專利。Frank獲得弗吉尼亞大學(xué)的電子工程學(xué)士和碩士學(xué)位，并擁有馬里蘭大學(xué)電子工程博士學(xué)位。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。