您是否注意到,盡管我們的個(gè)人設(shè)備加載了多個(gè)應(yīng)用程序,但我們幾乎可以不間斷地觀看喜歡的比賽,這背后是服務(wù)質(zhì)量 (QoS) 功能在支持。QoS確保系統(tǒng)資源在后臺(tái)運(yùn)行時(shí),在重要的和不那么重要的關(guān)鍵應(yīng)用程序之間得以充分平衡。QoS 功能提供的緩存容量和內(nèi)存帶寬使系統(tǒng)機(jī)制能夠確保系統(tǒng)資源(如緩存容量和內(nèi)存帶寬)在資源密集型和非資源密集型工作負(fù)載之間實(shí)現(xiàn)平衡。
在多租戶 IaaS/PaaS 環(huán)境中,第三方和首要工作負(fù)載運(yùn)行在 Ampere SOC 上,QoS 功能可確保將共享微架構(gòu)資源的最低閾值分配給更高優(yōu)先級(jí)的軟件,例如虛擬機(jī) (VM)、容器和進(jìn)程,還可以限制較低優(yōu)先級(jí)軟件對(duì)較高優(yōu)先級(jí)軟件性能的影響。
QoS 允許在相互競(jìng)爭(zhēng)的虛擬機(jī)之間有效地分配共享內(nèi)存資源,例如系統(tǒng)級(jí)緩存 (SLC) 容量和內(nèi)存帶寬。QoS 功能提供了一種機(jī)制,通過(guò)這些機(jī)制,諸如虛擬機(jī)之類的軟件實(shí)體可以與稱為分區(qū) ID (PARTID) 的唯一標(biāo)識(shí)符相關(guān)聯(lián),然后分配給 PARTID 使用的共享 SLC 容量和內(nèi)存帶寬的最小容量或最大容量。
這使系統(tǒng)軟件能夠有效地識(shí)別優(yōu)先級(jí)更高的軟件,并確保將共享資源分配給該軟件。例如,SLC 和內(nèi)存帶寬的最高優(yōu)先級(jí)將提供給在 SOC 上運(yùn)行的操作系統(tǒng)和虛擬機(jī)管理程序。在此過(guò)程中,它使用 PARTID 識(shí)別該軟件,并對(duì) SLC 和內(nèi)存帶寬 QoS 控制進(jìn)行編程以提供內(nèi)存訪問(wèn),PARTID 可以根據(jù)需要完全訪問(wèn) SLC 和內(nèi)存帶寬。
同樣,使用此機(jī)制,當(dāng)多個(gè)虛擬機(jī)爭(zhēng)奪資源時(shí),QoS 功能通過(guò) SLA(服務(wù)級(jí)別協(xié)議)將共享資源的必要容量提供給優(yōu)先級(jí)較高的虛擬機(jī),而優(yōu)先級(jí)較低的虛擬機(jī)可以限制為緩存和內(nèi)存帶寬容量,因此它不會(huì)影響優(yōu)先級(jí)較高的虛擬機(jī)。
QoS 是如何工作的?AmpereOne QoS 支持兩種方法,在系統(tǒng)軟件控制下協(xié)同工作,以分配內(nèi)存系統(tǒng)的性能資源:
內(nèi)存系統(tǒng)資源(內(nèi)存帶寬、緩存容量)分區(qū)
內(nèi)存系統(tǒng)資源使用監(jiān)控
通過(guò)使用狀態(tài)監(jiān)控,系統(tǒng)軟件可以確定更高優(yōu)先級(jí)的虛擬機(jī)需要的緩存和帶寬容量,然后將其與資源分區(qū)功能相結(jié)合,以確保虛擬機(jī)獲得可用容量。因此,具有 SLA 的高優(yōu)先級(jí)虛擬機(jī)可以保證內(nèi)存帶寬和對(duì) SLC 容量的訪問(wèn),因?yàn)?QoS 可確保對(duì)共享資源(緩存、內(nèi)存 BW)所需的訪問(wèn)。相反,可以限制低優(yōu)先級(jí)虛擬機(jī)以限制對(duì)共享資源(緩存容量、內(nèi)存帶寬)的訪問(wèn)。將較低優(yōu)先級(jí)的 VM 限制為較低的使用率也會(huì)限制由于應(yīng)用程序爭(zhēng)用資源而對(duì)高優(yōu)先級(jí)虛擬機(jī)產(chǎn)生的任何性能影響。
在兩個(gè)不同核心上共同執(zhí)行延遲敏感型的視頻服務(wù)和帶寬密集型的郵件服務(wù),這種場(chǎng)景將會(huì)導(dǎo)致?tīng)?zhēng)用訪問(wèn)共享 SLC 和內(nèi)存。在沒(méi)有 QoS 的情況下,由于 BW 密集型郵件應(yīng)用程序不受限制地共享緩存和/或很高的內(nèi)存帶寬占用率,延遲敏感型應(yīng)用的響應(yīng)時(shí)間可能會(huì)受到影響。QoS 感知系統(tǒng)可確保分配共享資源的最小閾值,從而將內(nèi)存帶寬劃分到一定限制,以確保對(duì)延遲敏感的應(yīng)用程序的響應(yīng)時(shí)間不會(huì)受到負(fù)面影響。
對(duì)于 Ampere 生態(tài)系統(tǒng)合作伙伴來(lái)說(shuō),QoS在工作負(fù)載整合密度、性能一致性和可預(yù)測(cè)的服務(wù)交付方面實(shí)現(xiàn)了飛躍,并為云服務(wù)提供商(CSP)的最終客戶提供了更好的SLA,這確實(shí)令人興奮。此外,高效和優(yōu)化的資源利用率還降低了 CSP 的總體總擁有成本,使他們能夠提高 IaaS/PaaS 利潤(rùn)率。最后,由于某些應(yīng)用程序可以優(yōu)先訪問(wèn)內(nèi)存/SLC,因此它允許在整個(gè)堆棧中實(shí)現(xiàn)更大的靈活性和可調(diào)性,并保證在高負(fù)載情況下為某些關(guān)鍵任務(wù)應(yīng)用程序/線程和進(jìn)程提供更快的響應(yīng)速度和性能。
對(duì)于那些想要使用它的人來(lái)說(shuō),好消息是:Linux 對(duì)此功能的支持將很快被廣泛推廣。QoS 功能在固件設(shè)置中啟用。無(wú)需對(duì)應(yīng)用程序或虛擬機(jī)進(jìn)行任何更改或重新編譯。
這只是我即將分享的眾多 AmpereOne 云原生功能之一。敬請(qǐng)期待更多后續(xù)內(nèi)容!
關(guān)于 Ampere Computing
Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè),致力于塑造云計(jì)算的未來(lái),并推出了世界上首款云原生處理器。為可持續(xù)云而生,Ampere 云原生處理器兼具最高性能和最佳每瓦性能,助力加速多種云計(jì)算應(yīng)用的交付,為云提供行業(yè)領(lǐng)先的性能、能效和可擴(kuò)展性。
-
QoS
+關(guān)注
關(guān)注
1文章
136瀏覽量
44772 -
內(nèi)存
+關(guān)注
關(guān)注
8文章
3016瀏覽量
73989 -
虛擬機(jī)
+關(guān)注
關(guān)注
1文章
914瀏覽量
28154 -
Ampere
+關(guān)注
關(guān)注
1文章
65瀏覽量
4541
原文標(biāo)題:創(chuàng)芯課堂|解開(kāi)內(nèi)存迷宮 — QoS
文章出處:【微信號(hào):AmpereComputing,微信公眾號(hào):安晟培半導(dǎo)體】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論