微軟發(fā)文透露其斥資數(shù)億美元幫助OpenAI組裝了一臺AI超級計(jì)算機(jī)，以幫助開發(fā)爆火的聊天機(jī)器人ChatGPT。
3月14日消息，美國當(dāng)?shù)貢r(shí)間周一，微軟發(fā)文透露其斥資數(shù)億美元幫助OpenAI組裝了一臺AI超級計(jì)算機(jī)，以幫助開發(fā)爆火的聊天機(jī)器人人工智能。這臺超算使用了數(shù)萬個(gè)英偉達(dá)圖形芯片A100，這使得OpenAI能夠訓(xùn)練越來越強(qiáng)大的AI模型。
OpenAI試圖訓(xùn)練越來越大的AI模型，這些模型正在吸收更多的數(shù)據(jù)，學(xué)習(xí)越來越多的參數(shù)，這些參數(shù)是AI系統(tǒng)通過訓(xùn)練和再培訓(xùn)找出的變量。這意味著，OpenAI需要很長時(shí)間才能獲得強(qiáng)大的云計(jì)算服務(wù)支持。
為應(yīng)對這一挑戰(zhàn)，當(dāng)微軟于2019年向OpenAI投資10億美元時(shí)，該公司同意為這家AI研究初創(chuàng)公司組裝一臺巨大的尖端超級計(jì)算機(jī)。但問題在于，微軟沒有任何OpenAI所需的東西，也不完全確定其能否能在不破壞Azure云服務(wù)的情況下構(gòu)建如此龐大的設(shè)備。
為此，微軟不得不想方設(shè)法將英偉達(dá)的數(shù)萬個(gè)A100圖形芯片連接起來，并改變服務(wù)器在機(jī)架上的放置方式以防止斷電。A100圖形芯片是培訓(xùn)AI模型的主力。微軟負(fù)責(zé)云計(jì)算和AI業(yè)務(wù)的執(zhí)行副總裁斯科特·格思里（Scott Guthrie）沒有透露該項(xiàng)目的具體成本，但其暗示可能達(dá)數(shù)億美元。
微軟Azure AI基礎(chǔ)設(shè)施總經(jīng)理尼迪·卡佩爾（Nidhi Cappell）說：“我們構(gòu)建了一個(gè)系統(tǒng)構(gòu)架，它可以在非常大的范圍內(nèi)運(yùn)行且十分可靠，這是人工智能成功的重要原因。這只是我們從中得出的一個(gè)模式，還會(huì)有許許多多其他的模型。”
基于這項(xiàng)技術(shù)，OpenAI發(fā)布了爆火的聊天機(jī)器人人工智能。在去年11月上線后幾天，它就吸引了100多萬用戶，現(xiàn)在正被納入其他公司的商業(yè)模式。隨著企業(yè)和消費(fèi)者對人工智能等生成式人工智能（AIGC）工具的興趣越來越大，微軟、亞馬遜和谷歌等云服務(wù)提供商將面臨更大的壓力，以確保他們的數(shù)據(jù)中心能夠提供所需的巨大算力。
與此同時(shí)，微軟現(xiàn)在也開始使用它為OpenAI構(gòu)建的基礎(chǔ)設(shè)施來訓(xùn)練和運(yùn)行自己的大型AI模型，包括上個(gè)月推出的新必應(yīng)搜索聊天機(jī)器人。該公司還向其他客戶銷售該系統(tǒng)。這家軟件巨頭已經(jīng)在研發(fā)下一代AI超級計(jì)算機(jī)，這是微軟與OpenAI擴(kuò)大合作的一部分，微軟在交易中增加了100億美元投資。
格思里在接受采訪時(shí)說：“我們并沒有為OpenAI定制任何東西，盡管其最初是定制的，但我們總是以一種泛化的方式構(gòu)建它，這樣任何想要訓(xùn)練大型語言模型的人都可以利用同樣的改進(jìn)技術(shù)。這真的幫助我們在更廣泛的范圍內(nèi)成為更好的AI智能云?！?/p>
訓(xùn)練規(guī)模龐大的AI模型需要在某個(gè)地方有大量相互連接的圖形處理單元，就像微軟組裝的AI超級計(jì)算機(jī)那樣。一旦模型投入使用，回答用戶查詢的所有問題（這個(gè)過程稱為推理）需要略有不同的設(shè)置。為此，微軟還部署了用于推理的圖形芯片，但這些處理器（成千上萬個(gè)）在地理上分散在該公司60多個(gè)數(shù)據(jù)中心里。微軟表示，現(xiàn)在該公司正在添加用于AI工作負(fù)載的最新英偉達(dá)圖形芯片H100以及最新版Infiniband網(wǎng)絡(luò)技術(shù)，以更快地共享數(shù)據(jù)。
新的必應(yīng)仍處于測試階段，微軟正在逐步從申請測試名單中增加更多用戶。格思里的團(tuán)隊(duì)與大約20多名員工每天都要舉行會(huì)議，他將這些員工稱為“pit crew”，原指賽車中車隊(duì)后勤維護(hù)組的**。這些人的工作是找出如何讓更多的計(jì)算能力快速上線，以及解決突然出現(xiàn)的問題。
云服務(wù)依賴于數(shù)千個(gè)不同的部件，包括服務(wù)器、管道、建筑物的混凝土、不同的金屬和礦物，而任何一個(gè)組件的延遲或短缺，無論多么微小，都可能導(dǎo)致整個(gè)項(xiàng)目中斷。最近，“pit crew”團(tuán)隊(duì)不得不幫助解決電纜托盤短缺的問題，這是一種籃狀的裝置，用來固定從機(jī)器上順下來的電纜。因此，他們設(shè)計(jì)了一種新的電纜橋架。格思里說，他們還致力于研究如何在世界各地的現(xiàn)有數(shù)據(jù)中心壓榨盡可能多的服務(wù)器，這樣他們就不必等待新的建筑竣工。
當(dāng)OpenAI或微軟開始訓(xùn)練大型AI模型時(shí)，這項(xiàng)工作需要一次完成。工作被分配給所有的GPU，在某些時(shí)候，這些GPU需要相互交流來分享他們所做的工作。對于AI超級計(jì)算機(jī)，微軟必須確保處理所有芯片之間通信的網(wǎng)絡(luò)設(shè)備能夠處理這種負(fù)載，并且它必須開發(fā)出最大限度地利用GPU和網(wǎng)絡(luò)設(shè)備的軟件。該公司現(xiàn)在已經(jīng)開發(fā)出一種軟件，可以用來訓(xùn)練數(shù)十萬億個(gè)參數(shù)的AI模型。
因?yàn)樗袡C(jī)器都是同時(shí)啟動(dòng)的，微軟不得不考慮安放它們的位置，以及電源該應(yīng)該放在哪里。否則，數(shù)據(jù)中心最終可能會(huì)斷電。Azure全球基礎(chǔ)設(shè)施總監(jiān)阿利斯泰爾·斯皮爾斯（Alistair Speirs）說，微軟還必須確保能夠冷卻所有這些機(jī)器和芯片，該公司在較涼爽的氣候中使用蒸發(fā)；冷卻方式、在較冷的氣候中使用室外空氣，在炎熱的氣候中使用高科技沼澤冷卻器。
格思里說，微軟將繼續(xù)致力于定制服務(wù)器和芯片設(shè)計(jì)，以及優(yōu)化供應(yīng)鏈的方法，以盡可能地提高速度、提高效率和節(jié)省成本。他說：“現(xiàn)在令世界驚嘆的AI模型是基于我們幾年前開始建造的超級計(jì)算機(jī)構(gòu)建的，而新模型將使用我們現(xiàn)在正在訓(xùn)練的新超級計(jì)算機(jī)。這臺計(jì)算機(jī)要大得多，可以實(shí)現(xiàn)更復(fù)雜的技術(shù)?！?/p>
微軟已經(jīng)在努力使Azure的AI功能更加強(qiáng)大，推出了新的虛擬機(jī)，使用英偉達(dá)的H100和A100 Tensor Core GPU，以及Quantum-2 InfiniBand網(wǎng)絡(luò)。微軟表示，這將允許OpenAI和其他依賴Azure的公司訓(xùn)練更大、更復(fù)雜的AI模型。
微軟Azure AI企業(yè)副總裁埃里克·博伊德（Eric Boyd）在一份聲明中說：“我們發(fā)現(xiàn)，我們需要構(gòu)建專門的集群，專注于支持大量的培訓(xùn)工作，而OpenAI就是早期的證據(jù)之一。我們正與他們密切合作，了解他們在建立訓(xùn)練環(huán)境時(shí)需要的關(guān)鍵條件，以及他們需要的其他東西。”
本文由小編網(wǎng)絡(luò)轉(zhuǎn)載而成,原文來源:http://www.techweb.com.cn/it/2023-03-14/2922480.shtml,如有侵權(quán),請聯(lián)系刪除
原創(chuàng)文章，作者：小編，如若轉(zhuǎn)載，請注明出處：http:///134498.html
相關(guān)推薦
-
遠(yuǎn)程應(yīng)用(遠(yuǎn)程應(yīng)用發(fā)布服務(wù)器)
前沿拓展： 遠(yuǎn)程應(yīng)用 1、通過遙控鑰匙來遠(yuǎn)程啟動(dòng)發(fā)動(dòng)機(jī)。其原理最為簡單：車輛通過遙控鑰匙發(fā)來的訊號來啟動(dòng)發(fā)動(dòng)機(jī)。整價(jià)夫無出屬九史哪礎(chǔ)山套過程省去了人為進(jìn)入車內(nèi)**作的不便，發(fā)動(dòng)機(jī)在…
-
電腦主機(jī)diy1000(電腦主機(jī)配置清單及價(jià)格)
選擇性價(jià)比高的主機(jī)配件 DIY電腦主機(jī)是一種玩電腦嗜好者的一項(xiàng)挑戰(zhàn)和樂趣。但在組裝自己的電腦時(shí)，要選擇性價(jià)比高的主機(jī)配件是非常關(guān)鍵的。第一，CPU是整個(gè)電腦的核心，選擇一個(gè)高性能、…
-
電腦論壇最好網(wǎng)站：最好的股票論壇網(wǎng)站
1、為您提供在線培訓(xùn)和自學(xué)教程，做的蠻好的，嵌入式系統(tǒng)，數(shù)字信號處理。 2、 如果你還想了解更多這方面的信息。是國內(nèi)最早的集電路圖交易、電路圖分享、電路圖設(shè)計(jì)于一身的網(wǎng)站。其中也會(huì)…
-
聯(lián)想筆記本電腦wifi功能消失了：聯(lián)想筆記本電腦不顯示wifi列表
大家好，今天來為大家解答聯(lián)想筆記本電腦wifi功能消失了：聯(lián)想筆記本電腦不顯示wifi列表這個(gè)問題的一些問題點(diǎn)，包括聯(lián)想筆記本電腦wifi功能消失了：聯(lián)想筆記本電腦不顯示wifi列表也一樣很多人還不知道，因此呢，今天就來為大家分析分析，現(xiàn)在讓我們一起來看看吧！如果解
-
聯(lián)想y470ise，聯(lián)想y470加裝固態(tài)硬盤msata
大家好，感謝邀請，今天來為大家分享一下聯(lián)想y470ise，聯(lián)想y470加裝固態(tài)硬盤msata的問題，以及和聯(lián)想y470ise，聯(lián)想y470加裝固態(tài)硬盤msata的一些困惑，大家要是…
-
路線搜索(搜索路線地圖)
前沿拓展： 路線搜索 您可以直接搜索到目的地，第二點(diǎn)擊該位置，選擇搜索附近，第二選擇酒店即可。在搜索到的結(jié)果中，選擇投取衡矛向破常志川你想要去的酒店，第二直接導(dǎo)航前去即可。 我們不…
-
2015cpu天梯圖7月(2015CPU天梯圖)
2015年CPU天梯圖7月發(fā)布 每年的CPU天梯圖是PC愛好者所關(guān)注的焦點(diǎn)。CPU的主頻、核心數(shù)、緩存等性能參數(shù)的升級，讓人們能夠更好地體驗(yàn)各種運(yùn)算需求。2015年的CPU天梯圖7…
-
怎么打開360防火墻-360標(biāo)志上紅色感嘆號怎么辦
本文目錄1、360標(biāo)志上紅色感嘆號怎么辦？2、360防火墻怎么關(guān)？3、360標(biāo)志上紅色感嘆號怎么辦？4、360怎么看防火墻的mac地址1、360標(biāo)志上紅色感嘆號怎么辦？360安全衛(wèi)士圖標(biāo)顯紅色感嘆號說明你的防火墻沒有開啟，這個(gè)應(yīng)當(dāng)是你設(shè)置的問題，你可以打開360安全衛(wèi)士功能大全里的流量防火墻（8.1版本前叫流量監(jiān)測）打開界面后點(diǎn)擊右上角的設(shè)置，把流量防火墻打開，并把顯示懸浮窗前面打上對勾，點(diǎn)確定退
-
蘋果電腦筆記本報(bào)價(jià)表(蘋果電腦筆記本哪款好)
蘋果電腦筆記本報(bào)價(jià)表 今天，蘋果首席執(zhí)行官蒂姆·庫克在 WWDC 2023 開發(fā)者大會(huì)上展示了令人震撼的新品：15 英寸的 MacBook Air 筆記本電腦。這款筆記本機(jī)身厚度僅…
-
3500元主機(jī)(3500元主機(jī)屬于什么檔次)
3500元主機(jī)(3500元主機(jī)屬于什么檔次) 老鐵們好啊，今天小編給大家分享下我們在使用電腦過程中會(huì)遇到的一些問題故障該如何處理，熱門電腦游戲需求配置，電腦使用的一些小技巧 介紹 …
