阿里云如何面對(duì)云原生帶來(lái)的存儲(chǔ)挑戰(zhàn),阿里云云原生技術(shù)與架構(gòu)實(shí)踐

阿里云如何面對(duì)云原生帶來(lái)的存儲(chǔ)挑戰(zhàn)

前言

“云原生技術(shù)有利于各組織在公有云、私有云和混合云等新型動(dòng)態(tài)環(huán)境中，構(gòu)建和運(yùn)行可彈性擴(kuò)展的應(yīng)用。云原生的代表技術(shù)包括容器、服務(wù)網(wǎng)格、微服務(wù)、不可變基礎(chǔ)設(shè)施和聲明式API。這些技術(shù)能夠構(gòu)建容錯(cuò)性好、易于管理和便于觀察的松耦合系統(tǒng)。結(jié)合可靠的自動(dòng)化手段，云原生技術(shù)使工程師能夠輕松地對(duì)系統(tǒng)作出頻繁和可預(yù)測(cè)的重大變更。”來(lái)自CNCF。

K8S對(duì)網(wǎng)絡(luò)，存儲(chǔ)，計(jì)算進(jìn)行了編排，已經(jīng)成為了云原生的操作系統(tǒng)，給用戶展現(xiàn)了一個(gè)新的界面，極大的簡(jiǎn)化了用戶的運(yùn)維，提升了資源的彈性，真正的做到了按需使用，降低了用戶的成本。云原生快速被企業(yè)和開(kāi)發(fā)者接受。Forrester預(yù)測(cè)到2022年，全球組織／公司在生成環(huán)境運(yùn)行容器化應(yīng)用，從今天不足30%的比例將大幅度提升到超過(guò)75%，企業(yè)應(yīng)用容器化的趨勢(shì)勢(shì)不可擋。

容器在生產(chǎn)環(huán)境的應(yīng)用的比例快速上漲，從2016年首次調(diào)查的23%，到2018年上漲到73%，實(shí)際到2020年已經(jīng)上漲到84%

云原生應(yīng)用正在引領(lǐng)各個(gè)應(yīng)用領(lǐng)域?qū)崿F(xiàn)云原生化，同時(shí)也在深刻改變著應(yīng)用服務(wù)的方方面面。存儲(chǔ)作為應(yīng)用運(yùn)行的基石，也在服務(wù)云原生化過(guò)程中提出了更多的需求。云原生存儲(chǔ)為了滿足云原生特性的要求，可用性、穩(wěn)定性、擴(kuò)展性、性能等核心能力都有大幅的優(yōu)化。

作為國(guó)內(nèi)最大的云產(chǎn)商，阿里云提供了豐富的云原生服務(wù)。和網(wǎng)絡(luò)，計(jì)算的編排不同的是，存儲(chǔ)需要考慮如何無(wú)縫的接入到K8S中進(jìn)行編排和調(diào)度。K8S推出了CSI，通過(guò)統(tǒng)一的標(biāo)準(zhǔn)將存儲(chǔ)和K8S進(jìn)行了無(wú)縫的對(duì)接。本文討論云原生容器對(duì)存儲(chǔ)的挑戰(zhàn)，面向云原生和容器等領(lǐng)域的發(fā)展，阿里云文件存儲(chǔ)不斷進(jìn)行云原生適配和演進(jìn)，完美應(yīng)對(duì)云原生存儲(chǔ)挑戰(zhàn)，阿里云NAS是容器存儲(chǔ)的自然選擇。

云原生帶來(lái)的存儲(chǔ)挑戰(zhàn)

新型工作負(fù)載容器化、遷云在存儲(chǔ)方面遇到的性能、彈性、高可用、安全及生命周期等方面的問(wèn)題，不但需要存儲(chǔ)產(chǎn)品層次的改進(jìn)，還需要在云原生的控制和數(shù)據(jù)層次的改進(jìn)，推進(jìn)云原生存儲(chǔ)的技術(shù)演進(jìn)。

1、存儲(chǔ)性能挑戰(zhàn)：云原生應(yīng)用在大數(shù)據(jù)分析、AI等場(chǎng)景得到廣泛應(yīng)用，這些場(chǎng)景對(duì)存儲(chǔ)吞吐和IOPS的需求也非常高。在容器集群集中處理海量數(shù)據(jù)，同時(shí)啟動(dòng)數(shù)千Pod，彈出海量Pod對(duì)共享文件系統(tǒng)進(jìn)行讀寫的場(chǎng)景下，重負(fù)載導(dǎo)致時(shí)延增加，高延遲毛刺增多，讀寫穩(wěn)定性不足，同時(shí)云原生應(yīng)用的快速擴(kuò)容、極致伸縮等特性也會(huì)考驗(yàn)存儲(chǔ)服務(wù)在短時(shí)間內(nèi)迎接峰值流量的能力。

集中式高吞吐對(duì)共享存儲(chǔ)池沖擊：高性能計(jì)算場(chǎng)景中，集中處理批量數(shù)據(jù)，同一個(gè)存儲(chǔ)集群中帶寬擠占，造成訪問(wèn)質(zhì)量下降。

峰值吞吐不足：大規(guī)模數(shù)據(jù)處理，文件數(shù)目少，峰值吞吐高，請(qǐng)求密集，接近獨(dú)占集群的極限帶寬。

時(shí)延增加導(dǎo)致GPU等待：多機(jī)多卡GPU訓(xùn)練，讀密集型的場(chǎng)景下，時(shí)延增加導(dǎo)致IOwait和GPU wait。

2、存儲(chǔ)彈性挑戰(zhàn)：云原生的極致彈性，給存儲(chǔ)在彈性方面帶來(lái)了新的挑戰(zhàn)。隨著云原生多元業(yè)務(wù)發(fā)展，在數(shù)據(jù)庫(kù)和元數(shù)據(jù)管理應(yīng)用在線擴(kuò)容的場(chǎng)景下，本地盤存儲(chǔ)容量無(wú)法彈性擴(kuò)容。

3、存儲(chǔ)高可用挑戰(zhàn)：在應(yīng)用運(yùn)維、系統(tǒng)運(yùn)維的場(chǎng)景下，存儲(chǔ)隨容器遷移的穩(wěn)定性和高可用挑戰(zhàn)。

4、存儲(chǔ)的安全挑戰(zhàn)：面向的容器隔離性要求場(chǎng)景，主要是多應(yīng)用共享，文件系統(tǒng)多租戶環(huán)境的容量配合，集群級(jí)文件系統(tǒng)共享訪問(wèn)的權(quán)限控制，用戶應(yīng)用的全鏈路數(shù)據(jù)加密等安全挑戰(zhàn)。

5、存儲(chǔ)的生命周期管理挑戰(zhàn)：海量容器集群持久化數(shù)據(jù)存儲(chǔ)面臨數(shù)據(jù)冷熱分級(jí)和成本挑戰(zhàn)。

阿里云文件存儲(chǔ)如何來(lái)應(yīng)對(duì)這些挑戰(zhàn)

針對(duì)以上在新的計(jì)算模式下，存儲(chǔ)方面遇到的性能，彈性，高可用，安全，生命周期等方面的問(wèn)題，不但是需要存儲(chǔ)產(chǎn)品層次的改進(jìn)，在云原生的控制和數(shù)據(jù)層次的改進(jìn)，更需要在云原生應(yīng)用層、存儲(chǔ)云產(chǎn)品層、底層存儲(chǔ)適配和存儲(chǔ)核心層都需要做相應(yīng)的改進(jìn)和提升才有可能提供更加穩(wěn)定，安全和高效的面向應(yīng)用的云原生存儲(chǔ)。

隨著云原生技術(shù)的發(fā)展，各個(gè)公有云廠商都開(kāi)始對(duì)其云服務(wù)進(jìn)行云原生化改造或適配，提供更加敏捷、高效的服務(wù)來(lái)適應(yīng)云原生應(yīng)用的需求。阿里云存儲(chǔ)服務(wù)也在云原生應(yīng)用適配做了很多優(yōu)化，阿里云文件存儲(chǔ)支持CSI、Flexvolume存儲(chǔ)驅(qū)動(dòng)無(wú)縫的銜接了云原生應(yīng)用和存儲(chǔ)服務(wù)之間的數(shù)據(jù)接口。實(shí)現(xiàn)了用戶使用存儲(chǔ)資源時(shí)對(duì)底層存儲(chǔ)無(wú)感知，而專注于自己的業(yè)務(wù)開(kāi)發(fā)。

阿里云文件存儲(chǔ)為云原生提供了一個(gè)完全彈性和共享的文件系統(tǒng)，按需使用，滿足云原生極致的彈性。阿里云文件存儲(chǔ)從性能，彈性，高可用，安全，生命周期管理等方面對(duì)云原生存儲(chǔ)進(jìn)行了打造和演進(jìn)。

1、性能方面，AI，大數(shù)據(jù)分析，高性能計(jì)算領(lǐng)域，阿里云文件系統(tǒng)分散工作負(fù)載多文件系統(tǒng)和多個(gè)存儲(chǔ)集群、多個(gè)可用區(qū)通過(guò)容器編排分散IO到多文件系統(tǒng)。支持客戶端本地只讀緩存技術(shù)、分布式存儲(chǔ)，降低網(wǎng)絡(luò)延遲和IO、GPU等待時(shí)間。可以支持剛性交付數(shù)十GB吞吐的能力，提升算力。

2、彈性方面，阿里云文件存儲(chǔ)支持自由擴(kuò)縮容，按量付費(fèi)，是完全托管的文件系統(tǒng)。極速型NAS提供了百us的延時(shí)，在金融，互聯(lián)網(wǎng)等典型的突發(fā)彈性場(chǎng)景中，能夠在幾分鐘內(nèi)啟動(dòng)數(shù)千個(gè)容器，并完成數(shù)據(jù)的極速加載、卸載。

3、高可用方面，阿里云文件存儲(chǔ)支持容器快速Failover，同時(shí)支持存儲(chǔ)快照、備份等企業(yè)級(jí)特性。

4、在安全方面，阿里云文件存儲(chǔ)支持全面的AD/ACL權(quán)限管理，支持配額，打造了統(tǒng)一命名空間，支持對(duì)海量pod間的IO進(jìn)行隔離和統(tǒng)一管理；文件存儲(chǔ)產(chǎn)品支持傳輸加密、落盤加密等功能。

5、面對(duì)海量數(shù)據(jù)，阿里云文件存儲(chǔ)提供了數(shù)據(jù)生命周期管理，自動(dòng)歸檔冷數(shù)據(jù)，可以降低90%的用戶成本。

為什么選擇阿里云文件存儲(chǔ)作為容器存儲(chǔ)

阿里云文件存儲(chǔ)NAS為非結(jié)構(gòu)化數(shù)據(jù)提供存儲(chǔ)服務(wù)。隨著云原生的快速發(fā)展，許多公司的容器化應(yīng)用程序使用NAS存儲(chǔ)數(shù)據(jù)，有些甚至存儲(chǔ)PB級(jí)數(shù)據(jù)。阿里云在云原生布局上提供容器K8s服務(wù)（ACK）和彈性容器實(shí)例（ECI），容器實(shí)例使用NAS文件系統(tǒng)作為持久化存儲(chǔ)。容器存儲(chǔ)離不開(kāi)共享文件存儲(chǔ)。

阿里云文件存儲(chǔ)是云原生、高可用、成本優(yōu)化的完全托管的文件系統(tǒng)。阿里云文件存儲(chǔ)有三款產(chǎn)品，通用型NAS，極速型NAS和并行文件系統(tǒng)CPFS。

阿里云NAS是容器存儲(chǔ)的自然選擇，因?yàn)樗且环N完全托管的服務(wù)，配置簡(jiǎn)單，添加或刪除數(shù)據(jù)時(shí)自動(dòng)擴(kuò)展，和容器基礎(chǔ)架構(gòu)一樣靈活便捷。

通常，彼此共享數(shù)據(jù)的容器自然需要共享文件存儲(chǔ)，長(zhǎng)期運(yùn)行的容器也可使用共享文件存儲(chǔ)應(yīng)對(duì)故障。阿里云文件存儲(chǔ)同時(shí)滿足容器應(yīng)用場(chǎng)景對(duì)持久化存儲(chǔ)彈性伸縮、靈活掛載、高性能的需求。此外，容器鏡像的配置文件或初始加載數(shù)據(jù)存儲(chǔ)可以在NAS文件存儲(chǔ)上實(shí)現(xiàn)共享，在容器批量加載時(shí)實(shí)時(shí)讀取，多POD間通過(guò)NAS共享持久化數(shù)據(jù)，在POD故障時(shí)可以進(jìn)行故障切換。

隨著新技術(shù)的發(fā)展，機(jī)器學(xué)習(xí)AI和基因處理等大量使用共享文件存儲(chǔ)。我們通常看到如下一些示例：

Web服務(wù)：WordPress之類的內(nèi)容管理應(yīng)用程序受益于擴(kuò)展到多個(gè)實(shí)例以實(shí)現(xiàn)性能和冗余，并且需要在多個(gè)實(shí)例之間共享上載、插件和模板。

軟件開(kāi)發(fā)工具：JIRA和Git之類的開(kāi)發(fā)人員工具需要在實(shí)例之間共享數(shù)據(jù)以實(shí)現(xiàn)高可用性，而代碼則保留在多個(gè)阿里云可用區(qū)中以實(shí)現(xiàn)持久性。

大數(shù)據(jù)分析和處理：諸如基因數(shù)據(jù)處理、Tensorflow機(jī)器學(xué)習(xí)框架需要通過(guò)文件系統(tǒng)接口訪問(wèn)數(shù)據(jù)，并且具有持久的共享存儲(chǔ)，可以使多個(gè)用戶和作業(yè)在同一組數(shù)據(jù)上并行運(yùn)行。

企業(yè)應(yīng)用程序：共享Notebook（如Jupyter Jupyterhub）需要為notebook和user workplace提供持久存儲(chǔ)，擁有共享存儲(chǔ)可以使數(shù)據(jù)科學(xué)家輕松協(xié)作。

總結(jié)

以容器和云原生計(jì)算被企業(yè)快速接納，Kubernetes逐漸成為云原生時(shí)代的基礎(chǔ)設(shè)施，容器服務(wù)成為云原生時(shí)代基礎(chǔ)設(shè)施。新的工作負(fù)載推進(jìn)云原生存儲(chǔ)和云存儲(chǔ)的演進(jìn)，云原生控制平面實(shí)現(xiàn)效率方面能力，從數(shù)據(jù)面提升存儲(chǔ)穩(wěn)定和減小安全隱患，云存儲(chǔ)繼續(xù)夯實(shí)性能，容量，彈性，密度等基礎(chǔ)能力，共建云原生環(huán)境下的存儲(chǔ)生態(tài)。

阿里云文件存儲(chǔ)是容器存儲(chǔ)的自然選擇，完美應(yīng)對(duì)云原生存儲(chǔ)在性能，彈性，高可用，安全，生命周期等方面的數(shù)據(jù)挑戰(zhàn)。阿里云基于云原生文件存儲(chǔ)技術(shù)的快速演進(jìn)將不斷賦能云原生和容器領(lǐng)域的快速發(fā)展。

特別聲明：以上文章內(nèi)容僅代表作者本人觀點(diǎn)，不代表ESG跨境電商觀點(diǎn)或立場(chǎng)。如有關(guān)于作品內(nèi)容、版權(quán)或其它問(wèn)題請(qǐng)于作品發(fā)表后的30日內(nèi)與ESG跨境電商聯(lián)系。