(資料圖)

【太平洋科技資訊】早前,微軟與英偉達(dá)宣達(dá)成合作,發(fā)布了Azure ND H100 v5 VM虛擬機(jī)預(yù)覽版。經(jīng)過數(shù)月的測試后,微軟在今日正式推出了這款虛擬機(jī),并宣布擴(kuò)展了其Azure OpenAI服務(wù)。

ND H100 v5 VM是Azure迄今為止最強(qiáng)大和高度可伸縮的AI虛擬機(jī)系列。該虛擬機(jī)支持的按需配置可達(dá)8至上千個通過Quantum-2 InfiniBand網(wǎng)絡(luò)互連的NVIDIA H100 GPU,從而顯著提高了AI模型的性能。相較于上一代的ND A100 v4 VM,這款虛擬機(jī)包含了一些創(chuàng)新技術(shù)。

首先,它搭載了8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV Link 4.0進(jìn)行互連。其次,在無阻塞胖樹網(wǎng)絡(luò)中,每個GPU搭載了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每個虛擬機(jī)的性能達(dá)到了3.2Tb/s。此外,每個虛擬機(jī)中的8塊本地GPU之間通過3.8Tb/s的對分割帶寬的NV Switch和NV Link 4.0進(jìn)行互聯(lián)。此外,該虛擬機(jī)還采用了第四代英特爾至強(qiáng)可擴(kuò)展處理器,以及PCIE第5代主機(jī)到GPU的互連,每個GPU的帶寬為64Gb/s。最后,它還搭載了16信道的4800 MHz DDR5內(nèi)存。

這款新的虛擬機(jī)使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò),目前僅限于美國東部和西部Azure企業(yè)訪問。微軟表示,他們正在努力在明年為其虛擬機(jī)添加數(shù)十萬塊新的GPU。

除了推出這款A(yù)zure虛擬機(jī),微軟還宣布擴(kuò)展其Azure OpenAI服務(wù),在加拿大東部、美國東部2、日本東部和英國南部地區(qū)上線,ChatGPT AI 平臺最強(qiáng)大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務(wù)區(qū)域。

微軟表示,Azure OpenAI服務(wù)的客戶已經(jīng)超過11000名,本季度平均每天吸引100名新客戶。這一顯著的增長證明了他們的服務(wù)為渴望利用人工智能潛力滿足其獨(dú)特需求的企業(yè)帶來了價值和可擴(kuò)展性。

標(biāo)簽: