
過去做企業級IT,如今搞企業級AI,都有點(diǎn)像跑船打漁,船越大就越不能隻圖快,更得求穩,否則船一翻,載得漁獲越多損失就越重。確(què)實是風浪越大魚越貴,前提是你得平安返港。
再具象點說,你可能聽過這樣的數據:超40%的大中型企業每小時停機成本超過100萬美元,甚至超過500萬美元,這不是聳人聽聞,是來自實際統計。在“算力即财富”的AI時代,服務器宕機帶來的損失,比直接燒錢來得還快!而且這種情況出現的可能性還挺高,畢(bì)竟AI集群正加速向萬卡級規模突破,系統越複雜、計算密度越高,就越可能出現更多的靜默數據錯(cuò)誤(SDE)及發生在内存與PCIe等組件中的故障。
别等問題發(fā)生時我們才警覺:不能隻将目光聚焦在GPU或各種AI加速器的算力能否充分發(fā)揮上。沒有一個穩定可靠的運行環境,這種發(fā)揮就不能持久,而不持久比不充分更虧本兒(ér)。
誰能從根本上解決這個問題?指望加速器芯片不現實,畢(bì)竟它們的任務是計算,需要依賴主控(或機頭)系統才能進行工作,你要依賴的,恰恰是一直在AI服務器或集群中被視爲“配角“的CPU。如果你選擇至強®6 處(chù)理器作爲機頭或主控,它的“三高”能力(高可靠性、高可用性、高可維護性,RAS)就能接過保障整體系統穩定運行的重任,爲GPU創造一個“心無旁骛”、“全力輸出”的環境,實現整個系統1+1>2的效能倍增。

或許你會說,各家企業級CPU都有RAS特性或功能啊,爲啥如此強調(diào)至強®6?這是因爲它有一些獨具且強化的功能,能幫(bāng)你的AI平台與應用更好地避坑:
告别“數據污染”,爲GPU掃清“靜(jìng)默錯(cuò)誤雷區”
在動辄千卡萬卡的AI集群中,一些微小的靜默數據錯(cuò)誤就像潛伏的“地雷”,平時難以察覺,一旦“引爆”就可能污染訓練結果、幹擾模型收斂,以及導(dǎo)緻錯(cuò)誤的推理結果。
擔當機頭或主控系統核心的至強®6,能主動扮演“排雷兵”的角色。它的絕技是利用硬件故障壓測與複檢工具套件 (SHC & DCDiag),鎖步模式 (Lock Step Mode) 和故障掃描巡檢(In-Field-Scan)等SDE檢出功能,對GPU前行的“道路“進行細緻排查,提前揪出並(bìng)排除這些“隐形錯誤”。這確保瞭(le)機頭或主控CPU交付給GPU的計算任務是更爲純淨或可靠的,能讓GPU的每一次運算都建立在更堅實可信的基礎之上。

終結“頻繁宕機(jī)”:用更強可用性給(gěi)GPU穩定工作上保險
可用性是AI集群“持久連續運行”的關鍵,至強®6在這方面承襲瞭(le)英特爾在至強産(chǎn)品線上長達6代的技術疊代,積累瞭(le)不少絕活兒,如:
1、内存糾錯(cuò)與排障:通過SDDC、ADDDC等技術,能100%糾正單顆粒内存錯(cuò)誤,並(bìng)自适應修正多顆粒錯(cuò)誤,爲GPU提供穩定的數據通路。
2、服務容錯:MCA Recovery機制確(què)保服務器在遇到非緻命錯誤時可以“帶病運行”,避免GPU工作流無故中斷,到至強®6這一代,MCA Recovery還實現瞭(le)更多恢複手段。
3、PCIe穩健器:eDPC功能保障瞭(le)GPU與系統之間高速數據鏈路的穩定,這對於(yú)依賴海量數據交換的AI任務至關重要。

“首席技術支持” 爲AI集群 構建分鍾級故障診斷(duàn)與恢複(fù)體系
作爲AI集群7 x 24小時待命的“首席技術支持”,至強®6 處理器配備(bèi)RAS Offload與增強的内存故障EDAC driver,用來豐富故障上報(bào)信息,同時規避業務中斷影響與性能抖動。

ACD、ASD等高級診斷(duàn)工具,能将故障診斷(duàn)的SLA(服務等級協議)從(cóng)“周”級壓縮到“分鍾”級。

更重要的是,作爲AI集群“壓艙(cāng)石”,至強®6能通過上述工具鏈快速适配不同品牌GPU或AI加速器,輔助診斷、迅速定位並(bìng)協助解決它們的故障,最大程度縮短整個系統的中斷時間,讓它們能“物盡其用”。
至強®6這“三高“能力疊加起來,就構成瞭(le)目前AI服務器/集群機頭或主控領域獨一份的控場穩盤能力。有國内某頭部AI大廠的實踐證明,通過綜合應用至強這些RAS能力,CPU造成的宕機率已被降低瞭(le)50%,二次返修率也顯著下降,讓其服務器的投資有瞭(le)更優的回報(bào)。

最後說個讓你意想不到的數字——至強®6平台,目前在RAS具體特性或功能上,已集成瞭(le)多達六大類52項細分功能,這些功能可能遠不如表面“可見”的CPU核心數、主頻、内存帶寬、互連通道等與性能密切相關的規格那樣醒目或振奮人心,但一旦遇到麻煩,你就會覺得它們還是多多易善、越強越好。這情形就像大船上的水密隔艙,平時用不上看不到以爲是累贅,等撞上礁石,它們帶給你的,是帶傷也可繼續工作並(bìng)能平安返港回家的從容。

想解鎖至強(qiáng)®6更強(qiáng)RAS能力讓AI計(jì)算更可靠的秘笈?
請訪(fǎng)問英特爾(ěr)官網,解鎖更多RAS潛能。
免責聲明:以上内容爲本網站轉自其它媒體,相關信息僅爲傳遞更多信息之目的,不代表本網觀點,亦不代表本網站贊同其觀點或證實其内容的真實性。如稿件版權單位或個人不想在本網發布,可與本網聯系,本網視情況可立即将其撤除。