RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AmpereOne QoS功能原理解析

安晟培半導(dǎo)體 ? 來(lái)源:安晟培半導(dǎo)體 ? 2024-07-25 15:12 ? 次閱讀

您是否注意到,盡管我們的個(gè)人設(shè)備加載了多個(gè)應(yīng)用程序,但我們幾乎可以不間斷地觀看喜歡的比賽,這背后是服務(wù)質(zhì)量 (QoS) 功能在支持。QoS確保系統(tǒng)資源在后臺(tái)運(yùn)行時(shí),在重要的和不那么重要的關(guān)鍵應(yīng)用程序之間得以充分平衡。QoS 功能提供的緩存容量和內(nèi)存帶寬使系統(tǒng)機(jī)制能夠確保系統(tǒng)資源(如緩存容量和內(nèi)存帶寬)在資源密集型和非資源密集型工作負(fù)載之間實(shí)現(xiàn)平衡。

在多租戶 IaaS/PaaS 環(huán)境中,第三方和首要工作負(fù)載運(yùn)行在 Ampere SOC 上,QoS 功能可確保將共享微架構(gòu)資源的最低閾值分配給更高優(yōu)先級(jí)的軟件,例如虛擬機(jī) (VM)、容器和進(jìn)程,還可以限制較低優(yōu)先級(jí)軟件對(duì)較高優(yōu)先級(jí)軟件性能的影響。

QoS 允許在相互競(jìng)爭(zhēng)的虛擬機(jī)之間有效地分配共享內(nèi)存資源,例如系統(tǒng)級(jí)緩存 (SLC) 容量和內(nèi)存帶寬。QoS 功能提供了一種機(jī)制,通過(guò)這些機(jī)制,諸如虛擬機(jī)之類的軟件實(shí)體可以與稱為分區(qū) ID (PARTID) 的唯一標(biāo)識(shí)符相關(guān)聯(lián),然后分配給 PARTID 使用的共享 SLC 容量和內(nèi)存帶寬的最小容量或最大容量。

這使系統(tǒng)軟件能夠有效地識(shí)別優(yōu)先級(jí)更高的軟件,并確保將共享資源分配給該軟件。例如,SLC 和內(nèi)存帶寬的最高優(yōu)先級(jí)將提供給在 SOC 上運(yùn)行的操作系統(tǒng)和虛擬機(jī)管理程序。在此過(guò)程中,它使用 PARTID 識(shí)別該軟件,并對(duì) SLC 和內(nèi)存帶寬 QoS 控制進(jìn)行編程以提供內(nèi)存訪問(wèn),PARTID 可以根據(jù)需要完全訪問(wèn) SLC 和內(nèi)存帶寬。

同樣,使用此機(jī)制,當(dāng)多個(gè)虛擬機(jī)爭(zhēng)奪資源時(shí),QoS 功能通過(guò) SLA(服務(wù)級(jí)別協(xié)議)將共享資源的必要容量提供給優(yōu)先級(jí)較高的虛擬機(jī),而優(yōu)先級(jí)較低的虛擬機(jī)可以限制為緩存和內(nèi)存帶寬容量,因此它不會(huì)影響優(yōu)先級(jí)較高的虛擬機(jī)。

245f6924-4a3b-11ef-b8af-92fbcf53809c.png

QoS 是如何工作的?AmpereOne QoS 支持兩種方法,在系統(tǒng)軟件控制下協(xié)同工作,以分配內(nèi)存系統(tǒng)的性能資源:

內(nèi)存系統(tǒng)資源(內(nèi)存帶寬、緩存容量)分區(qū)

內(nèi)存系統(tǒng)資源使用監(jiān)控

通過(guò)使用狀態(tài)監(jiān)控,系統(tǒng)軟件可以確定更高優(yōu)先級(jí)的虛擬機(jī)需要的緩存和帶寬容量,然后將其與資源分區(qū)功能相結(jié)合,以確保虛擬機(jī)獲得可用容量。因此,具有 SLA 的高優(yōu)先級(jí)虛擬機(jī)可以保證內(nèi)存帶寬和對(duì) SLC 容量的訪問(wèn),因?yàn)?QoS 可確保對(duì)共享資源(緩存、內(nèi)存 BW)所需的訪問(wèn)。相反,可以限制低優(yōu)先級(jí)虛擬機(jī)以限制對(duì)共享資源(緩存容量、內(nèi)存帶寬)的訪問(wèn)。將較低優(yōu)先級(jí)的 VM 限制為較低的使用率也會(huì)限制由于應(yīng)用程序爭(zhēng)用資源而對(duì)高優(yōu)先級(jí)虛擬機(jī)產(chǎn)生的任何性能影響。

在兩個(gè)不同核心上共同執(zhí)行延遲敏感型的視頻服務(wù)和帶寬密集型的郵件服務(wù),這種場(chǎng)景將會(huì)導(dǎo)致?tīng)?zhēng)用訪問(wèn)共享 SLC 和內(nèi)存。在沒(méi)有 QoS 的情況下,由于 BW 密集型郵件應(yīng)用程序不受限制地共享緩存和/或很高的內(nèi)存帶寬占用率,延遲敏感型應(yīng)用的響應(yīng)時(shí)間可能會(huì)受到影響。QoS 感知系統(tǒng)可確保分配共享資源的最小閾值,從而將內(nèi)存帶寬劃分到一定限制,以確保對(duì)延遲敏感的應(yīng)用程序的響應(yīng)時(shí)間不會(huì)受到負(fù)面影響。

對(duì)于 Ampere 生態(tài)系統(tǒng)合作伙伴來(lái)說(shuō),QoS在工作負(fù)載整合密度、性能一致性和可預(yù)測(cè)的服務(wù)交付方面實(shí)現(xiàn)了飛躍,并為云服務(wù)提供商(CSP)的最終客戶提供了更好的SLA,這確實(shí)令人興奮。此外,高效和優(yōu)化的資源利用率還降低了 CSP 的總體總擁有成本,使他們能夠提高 IaaS/PaaS 利潤(rùn)率。最后,由于某些應(yīng)用程序可以優(yōu)先訪問(wèn)內(nèi)存/SLC,因此它允許在整個(gè)堆棧中實(shí)現(xiàn)更大的靈活性和可調(diào)性,并保證在高負(fù)載情況下為某些關(guān)鍵任務(wù)應(yīng)用程序/線程和進(jìn)程提供更快的響應(yīng)速度和性能。

對(duì)于那些想要使用它的人來(lái)說(shuō),好消息是:Linux 對(duì)此功能的支持將很快被廣泛推廣。QoS 功能在固件設(shè)置中啟用。無(wú)需對(duì)應(yīng)用程序或虛擬機(jī)進(jìn)行任何更改或重新編譯。

這只是我即將分享的眾多 AmpereOne 云原生功能之一。敬請(qǐng)期待更多后續(xù)內(nèi)容!

關(guān)于 Ampere Computing

Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè),致力于塑造云計(jì)算的未來(lái),并推出了世界上首款云原生處理器。為可持續(xù)云而生,Ampere 云原生處理器兼具最高性能和最佳每瓦性能,助力加速多種云計(jì)算應(yīng)用的交付,為云提供行業(yè)領(lǐng)先的性能、能效和可擴(kuò)展性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • QoS
    QoS
    +關(guān)注

    關(guān)注

    1

    文章

    136

    瀏覽量

    44772
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3016

    瀏覽量

    73989
  • 虛擬機(jī)
    +關(guān)注

    關(guān)注

    1

    文章

    914

    瀏覽量

    28154
  • Ampere
    +關(guān)注

    關(guān)注

    1

    文章

    65

    瀏覽量

    4541

原文標(biāo)題:創(chuàng)芯課堂|解開(kāi)內(nèi)存迷宮 — QoS

文章出處:【微信號(hào):AmpereComputing,微信公眾號(hào):安晟培半導(dǎo)體】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    定位技術(shù)原理解析

    【追蹤嫌犯的利器】定位技術(shù)原理解析(4)
    發(fā)表于 05-04 12:20

    什么是PM QoS

    (requester)。PM QoS framework針對(duì)兩種對(duì)象分別提供了電源管理的基礎(chǔ)框架和接口。 那么在電源管理的范疇內(nèi)要如何理解服務(wù)質(zhì)量呢?實(shí)際上在這里,服務(wù)的定義是請(qǐng)求方對(duì)于某一個(gè)性能的需求,比如...
    發(fā)表于 12-27 06:38

    請(qǐng)問(wèn)為什么paho-mqtt中publish不支持Qos0?

    如下圖所示,在publish中標(biāo)注只支持Qos1,但是按個(gè)人理解,Qos0只需要發(fā)出去即可,不需要確認(rèn),感覺(jué)不太對(duì)勁。
    發(fā)表于 04-27 09:31

    什么是QOS

    什么是QOS   術(shù)語(yǔ)名稱:Quality of Service statements(QOS) 術(shù)語(yǔ)解釋:服務(wù)質(zhì)量,評(píng)價(jià)傳輸質(zhì)量和差錯(cuò)率的度量,通常作為衡
    發(fā)表于 02-24 10:04 ?1015次閱讀

    ATM QoS技術(shù),什么是ATM QoS技術(shù)

    ATM QoS技術(shù),什么是ATM QoS技術(shù) 業(yè)務(wù)質(zhì)量描述參數(shù)(QoS---- 服務(wù)質(zhì)量) 業(yè)務(wù)質(zhì)量參數(shù)是指一個(gè)呼叫對(duì)網(wǎng)絡(luò)所提供質(zhì)量的一系列要求。為了在有效
    發(fā)表于 04-06 15:59 ?2350次閱讀

    虛擬存儲(chǔ)器部件原理解析

    虛擬存儲(chǔ)器部件原理解析
    發(fā)表于 04-15 14:25 ?3123次閱讀

    網(wǎng)絡(luò)qos技術(shù)_qos是什么

    QoS(Quality of Service)服務(wù)質(zhì)量,是網(wǎng)絡(luò)的一種安全機(jī)制,是用來(lái)解決網(wǎng)絡(luò)延遲和阻塞等問(wèn)題的一種技術(shù)。這里介紹了網(wǎng)絡(luò)qos技術(shù),講解qos是什么。
    發(fā)表于 12-19 15:59 ?5300次閱讀

    23-QoS功能配置命令

    QoS功能配置命令
    發(fā)表于 12-17 10:44 ?3次下載

    交換機(jī)QoS功能配置

    24-QoS功能配置
    發(fā)表于 12-25 01:01 ?0次下載

    三層交換機(jī)QoS功能配置

    三層交換機(jī)QoS功能配置
    發(fā)表于 12-27 16:16 ?0次下載

    觸摸屏的應(yīng)用與工作原理解析

    觸摸屏的應(yīng)用與工作原理解析
    發(fā)表于 02-08 02:13 ?38次下載

    什么是晶振 晶振工作原理解析

    什么是晶振 晶振工作原理解析
    的頭像 發(fā)表于 12-30 17:13 ?4312次閱讀
    什么是晶振 晶振工作原<b class='flag-5'>理解析</b>

    Ampere發(fā)布AmpereOne系列處理器,單顆處理器支持最高192個(gè)物理核心

    AmpereOne出現(xiàn)以前,Ampere Altra系列最多128核心,新的AmpereOne則是從136核起步,最多192核心。所以,AmpereOne可以看做是Ampere Altra的補(bǔ)充,兩者將長(zhǎng)期共存。
    發(fā)表于 06-02 10:43 ?618次閱讀
    Ampere發(fā)布<b class='flag-5'>AmpereOne</b>系列處理器,單顆處理器支持最高192個(gè)物理核心

    192個(gè)自研核心,AmpereOne的絕對(duì)性能壓制

    AI推理性能對(duì)比 / Ampere 從性能對(duì)比上,我們可以看出AmpereOne在AI推理負(fù)載上的領(lǐng)先,比如在生成式AI和推薦算法上,AmpereOne的單機(jī)架性能是AMD EYPC 9654 Genoa的兩倍或以上,但兩者卻有著近乎相同的系統(tǒng)功耗,
    的頭像 發(fā)表于 06-13 15:03 ?1335次閱讀
    192個(gè)自研核心,<b class='flag-5'>AmpereOne</b>的絕對(duì)性能壓制

    基于5nm工藝的全新AmpereOne系列處理器解析

    AmpereOne系列處理器意味著“更多”——更多內(nèi)核、更多 IO、更多內(nèi)存、更高性能和更多云功能。” Jeff Wittich表示,憑借8通道DDR5內(nèi)存和一個(gè)12通道的平臺(tái),加上128通道的PCIe Gen5 IO,AmpereO
    發(fā)表于 06-15 14:35 ?689次閱讀
    基于5nm工藝的全新<b class='flag-5'>AmpereOne</b>系列處理器<b class='flag-5'>解析</b>
    RM新时代网站-首页