可組合的基礎(chǔ)架構(gòu)專(zhuān)家Liqid接受了Nvidia的DGX-2，這是AI計(jì)算的2 petaFLOPS超級(jí)巨星，而新貴表示，它已經(jīng)使用現(xiàn)成的技術(shù)構(gòu)建了類(lèi)似的基于GPU的超級(jí)計(jì)算機(jī)，其價(jià)格僅為DGX-2和DGX的一半。在ResNet-50圖像識(shí)別基準(zhǔn)上提供了20%以上的性能提升。

Liqid的新系統(tǒng)LQD8360利用該公司的PCIe可組合結(jié)構(gòu)，Dell Technologies PowerEdge R640服務(wù)器和多達(dá)20個(gè)Nvidia Quadro RTS 8000 GPU的擴(kuò)展機(jī)箱，這些擴(kuò)展機(jī)箱在單獨(dú)的物理機(jī)箱或JBOG中將GPU封裝在一起的GPU)。Liqid告訴我們，其Command Center軟件與智能，低延遲，基于PCIe的架構(gòu)相結(jié)合，使GPU可以在裸機(jī)級(jí)別與Dell Technologies R640節(jié)點(diǎn)進(jìn)行動(dòng)態(tài)配置。

結(jié)果：根據(jù)TensorFlow ResNet-50基準(zhǔn)，LQS8360系統(tǒng)實(shí)現(xiàn)了每秒超過(guò)15,000幅圖像的圖像訓(xùn)練吞吐量，而DGX-2的則為12,000 /秒。

Liqid首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sumit Puri對(duì)我們說(shuō)：“它是世界上最快的單計(jì)算機(jī)之一。” “而且我們并不是通過(guò)構(gòu)建一堆奇特的硬件來(lái)做到這一點(diǎn)的。為此，我們采用了標(biāo)準(zhǔn)的現(xiàn)成硬件，并組成了可產(chǎn)生世界最高性能的配置?，F(xiàn)在……我們將在Dell進(jìn)行SKU處理，客戶(hù)將可以直接從Dell購(gòu)買(mǎi)。”

普里拒絕透露具體的美元數(shù)據(jù)，他說(shuō)LQD8360的價(jià)格將約為DGX-2的一半，后者的標(biāo)價(jià)為399,000美元。

可以肯定的是，Puri并未為其系統(tǒng)申請(qǐng)“ DGX-2殺手”的稱(chēng)號(hào)。實(shí)際上，他說(shuō)Nvidia是Liqid's的技術(shù)合作伙伴，Nvidia有助于調(diào)整LQS8360的性能。相反，他強(qiáng)調(diào)說(shuō)LQS8360特別適合“視覺(jué)密集型”工作負(fù)載(例如監(jiān)視視頻的實(shí)時(shí)分析，面部識(shí)別，車(chē)牌識(shí)別，智能城市交通監(jiān)控)，因此使用ResNet基準(zhǔn)測(cè)試，該指標(biāo)可每秒可識(shí)別的圖像，可用于機(jī)器學(xué)習(xí)訓(xùn)練操作和推理。

這兩個(gè)系統(tǒng)之間的主要區(qū)別在于它們各自的GPU：LQS8360使用了較便宜和較舊的Nvidia Quadro RTX 8000，而DGX-2采用了Nvidia的更新的，價(jià)格更高的V100 Tensor Core。

“ DGX-2基于V100平臺(tái)，V100是一種特定類(lèi)型的GPU，正在推動(dòng)某些以數(shù)據(jù)中心為中心的工作負(fù)載，” Puri說(shuō)。“英偉達(dá)很可能永遠(yuǎn)不會(huì)基于RT X 8000 GPU來(lái)構(gòu)建DGX-2，因?yàn)樗皇撬鼈兊淖罡叨似炫灝a(chǎn)品。我們發(fā)現(xiàn)的是采用RTX 8000并將其部署到我們的結(jié)構(gòu)中并以適當(dāng)?shù)姆绞綄?duì)其進(jìn)行配置，在某些情況下，我們可以達(dá)到與DGX-2解決方案競(jìng)爭(zhēng)的性能水平;在其他情況下，(LQS8360)實(shí)際上更適合渲染作業(yè)，而DGX-2可能更多機(jī)器學(xué)習(xí)…在某些工作負(fù)載下，客戶(hù)可能希望使用V100，因?yàn)閷?duì)于他們給定的工作負(fù)載而言，V100的表現(xiàn)會(huì)更好。

行業(yè)觀(guān)察家Moor Insights&Strategy的 HPC和機(jī)器學(xué)習(xí)高級(jí)分析師Karl Freund 表示，Liqid出售LQD8360來(lái)渲染工作負(fù)載而非AI可能會(huì)取得更大的成功。他在一封電子郵件中告訴我們：“ Quadro RTX是a)通過(guò)較慢的(2X)PCIe與NVLink相連接，b)沒(méi)有HBM內(nèi)存，c)沒(méi)有張量核心，”他在一封電子郵件中告訴我們。“但是他們能夠?qū)⑵渲械?0個(gè)打包到服務(wù)器中，這令人印象深刻。”

他還指出，盡管ResNet-50用于小圖像，但“許多AI正在解決更大的問(wèn)題，為此NVLink將提供更好的可伸縮性。” 關(guān)于這兩個(gè)系統(tǒng)之間的價(jià)格性能差異，F(xiàn)reund表示，“對(duì)于渲染而言，這更重要，恕我直言，它也不需要以對(duì)延遲敏感的方式進(jìn)行擴(kuò)展。”

在構(gòu)建LQD8360時(shí)，Liqid與電信提供商O(píng)range Silicon Valley(戴爾是跨國(guó)電信運(yùn)營(yíng)商O(píng)range SA(以前的法國(guó)Télécom)的子公司)合作。

LQD8360具有裸機(jī)的可組合性和經(jīng)過(guò)優(yōu)化的Dell BIOS，可以將多達(dá)20個(gè)RTX 8000 GPU分配給結(jié)構(gòu)上的PowerEdge R640節(jié)點(diǎn)，而無(wú)需重新設(shè)計(jì)物理機(jī)箱，使其成為業(yè)內(nèi)容量最高的擴(kuò)展機(jī)箱(JBOG)。到Liqid。當(dāng)配置有20個(gè)GPU(每個(gè)具有48GB的內(nèi)存容量)時(shí)，系統(tǒng)將提供960GB的VRAM并啟用Nvidia GPUDirect對(duì)等功能，從而允許在結(jié)構(gòu)上每個(gè)GPU的內(nèi)存區(qū)域之間進(jìn)行高速直接內(nèi)存訪(fǎng)問(wèn)傳輸，在兩個(gè)GPU的內(nèi)存之間存儲(chǔ)和加載數(shù)據(jù)。此外，Liqid Command Center旨在通過(guò)在工作負(fù)載完成時(shí)將GPU重新分配給各個(gè)節(jié)點(diǎn)來(lái)最大程度地減少空閑計(jì)算資源。

該公司表示：“ Liqid的可組合解決方案通過(guò)優(yōu)化GPU與CPU的比例并根據(jù)需要?jiǎng)討B(tài)更改這些比例，從而降低了部署成本，從而顯著提高了高密度計(jì)算環(huán)境的總體擁有成本。” “可組合模型使GPU可以即時(shí)集成到計(jì)算節(jié)點(diǎn)中，以通過(guò)軟件定義的技術(shù)最大程度地利用這些強(qiáng)大的計(jì)算加速器。”

該系統(tǒng)因橙色硅谷與Liqid合作而無(wú)法使用。

“他們引入了我們的一些設(shè)備，并開(kāi)始針對(duì)特定的用例進(jìn)行測(cè)試，這些案例是針對(duì)最終用戶(hù)的……圍繞AI和GPU進(jìn)行……，諸如將智能GPU部署在云中和邊緣的事情，” Puri說(shuō)過(guò)。

他說(shuō)，LQD8360在誕生之初就只是一個(gè)“很小的沙箱”，而它卻變得越來(lái)越大。“他們說(shuō)的是，他們想要一個(gè)非常大的沙箱，以便他們可以調(diào)整一些AI算法，以查看可獲得的最大性能。我們告訴他們，“嘿，如果您正在尋找可以提供此功能的沙箱，我們將為您組成一個(gè)。”

Liqid和Dell致力于調(diào)整PowerEdge BIOS以支持多個(gè)GPU。

“考慮一下–在1-U披薩盒中，戴爾從來(lái)沒(méi)有理由在該BIOS中支持20個(gè)GPU，因?yàn)槟荒芊胖枚鄠€(gè)GPU，對(duì)嗎?因此，我們與戴爾合作，并獲得了能夠識(shí)別數(shù)十個(gè)GPU的BIOS。然后，我們回到了Orange……與他們的AI工程師一起對(duì)諸如Tensor之類(lèi)的CUDA之類(lèi)的東西進(jìn)行調(diào)整，對(duì)諸如ResNet之類(lèi)的應(yīng)用程序進(jìn)行調(diào)整，以了解我們可以從中獲得多少性能。”

調(diào)整一直在繼續(xù)，Puri告訴我們，截止到本周，Orange將系統(tǒng)的性能再降低了5%。