當(dāng)前位置:首頁(yè) >  IDC >  服務(wù)器 >  正文

應(yīng)需而生,實(shí)踐落地,青云科技 AI算力調(diào)度平臺(tái)發(fā)布

 2023-11-22 15:50  來(lái)源: 互聯(lián)網(wǎng)   我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)

青云科技(qingcloud.com)總裁林源在 AI 算力發(fā)布會(huì)和采訪中闡述了AI將給應(yīng)用和算力帶來(lái)的變化,他認(rèn)為“AI領(lǐng)域一定會(huì)出現(xiàn)巨頭,但不是一家獨(dú)立的公司,而是一個(gè)小的生態(tài)。”

每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來(lái)變革,正如移動(dòng)互聯(lián)網(wǎng)開(kāi)啟萬(wàn)物互聯(lián),云計(jì)算讓企業(yè)IT遷徙上云,每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來(lái)變革。得益于AI高效的生產(chǎn)力與簡(jiǎn)單的交互方式,青云科技總裁林源認(rèn)為,新一波AI浪潮在帶來(lái)生產(chǎn)力變革的同時(shí),還將帶來(lái)商業(yè)模式、應(yīng)用門檻、底層架構(gòu)等眾多變革,產(chǎn)生大量新市場(chǎng)機(jī)會(huì)。

他表示,相較于過(guò)去十年,AI驅(qū)動(dòng)應(yīng)用呈現(xiàn)四大變化:首先,移動(dòng)互聯(lián)網(wǎng)、數(shù)字化的服務(wù)應(yīng)用場(chǎng)景,轉(zhuǎn)變?yōu)樗袘?yīng)用都要擁抱AI或被AI改造,企業(yè)數(shù)智化取代數(shù)字化;第二,從以CPU為核心變?yōu)橐訥PU為核心驅(qū)動(dòng)應(yīng)用的創(chuàng)新,“未來(lái)的時(shí)代一定是一個(gè)以GPU為核心的時(shí)代”;第三,由于AI訓(xùn)練成本極高,未來(lái)AI應(yīng)用由延遲敏感型轉(zhuǎn)變?yōu)橐猿杀久舾行蜑橹?,?duì)應(yīng)的算力將從延遲低的東部沿海,向價(jià)格更便宜的西部地區(qū)發(fā)展,未來(lái)算力分布更加分散;第四,支撐的應(yīng)用類型變化,由傳統(tǒng)應(yīng)用和云原生應(yīng)用,轉(zhuǎn)變?yōu)樵圃鷳?yīng)用+AI應(yīng)用,客戶業(yè)務(wù)更復(fù)雜,業(yè)態(tài)更豐富,對(duì)技術(shù)和平臺(tái)的挑戰(zhàn)越來(lái)越多。

過(guò)去半年中,隨著大模型產(chǎn)品的爆發(fā),AI帶來(lái)的變革已經(jīng)逐漸凸顯,其中作為AI應(yīng)用承載的算力格局變化尤為明顯。

中國(guó)信通院發(fā)布的《中國(guó)綜合算力指數(shù)(2023年)》顯示,截至2023年6月底,我國(guó)算力總規(guī)模達(dá)到197EFLOPS,其中智能算力規(guī)模占整體算力規(guī)模的比例提高到25.4%,智能算力規(guī)模同比增長(zhǎng)達(dá)45%,比算力規(guī)模整體增速高15個(gè)百分點(diǎn)。

AI熱潮下,眾多智算中心項(xiàng)目如雨后春筍般落地開(kāi)工,國(guó)家信息中心與相關(guān)部門聯(lián)合發(fā)布的《智能計(jì)算中心創(chuàng)新發(fā)展指南》顯示,目前全國(guó)有超過(guò)30個(gè)城市正在建設(shè)或提出建設(shè)智算中心。

在建設(shè)如火如荼的同時(shí),智算中心也存在隱憂。林源指出,當(dāng)前智算中心面臨多方面挑戰(zhàn)。

對(duì)于智算中心的主要建設(shè)者地方政府、國(guó)資央企和地方AI集成商來(lái)說(shuō),首要挑戰(zhàn)是成本和技術(shù)。智算中心投資巨大,一臺(tái)最新的NVIDIA的服務(wù)器就要兩百萬(wàn),未來(lái)能否收回成本以及盈利,取決于運(yùn)營(yíng)效率與平臺(tái)能力,前者降低成本,后者決定能賣給多少客戶。而相比于投資與建設(shè),智算中心的運(yùn)營(yíng)更專業(yè)復(fù)雜,目前各中心運(yùn)營(yíng)能力參差不齊,難以應(yīng)對(duì)。

他直言:“行業(yè)內(nèi)大家對(duì)于‘智算中心要怎么建?建成什么樣?未來(lái)要支撐什么業(yè)務(wù)?’并沒(méi)有想的很透徹。”因此造成了有智算功能的某計(jì)算中心建成后,由于只支持特定GPU,所以缺乏客戶,運(yùn)營(yíng)不起來(lái)的情況。

新一波AI熱潮下,智能算力規(guī)模將迎來(lái)更加快速的增長(zhǎng),智算中心如何設(shè)計(jì)規(guī)劃,實(shí)現(xiàn)兼顧AI應(yīng)用、云原生應(yīng)用與傳統(tǒng)應(yīng)用需求,支持異構(gòu)CPU/GPU,高效運(yùn)營(yíng)達(dá)到盈利?

青云的答案是青云AI算力調(diào)度平臺(tái)。

青云AI算力調(diào)度平臺(tái)是包括智算中心在內(nèi)的算力中心建設(shè)的新模式,讓算力中心像管理本地資源一樣管理AI基礎(chǔ)設(shè)施,實(shí)現(xiàn)多元算力統(tǒng)一調(diào)度、智能化算力管理,支持大模型訓(xùn)練場(chǎng)景,提供多種AIGC模型的一站式交付平臺(tái),支撐行業(yè)應(yīng)用計(jì)算、高性能計(jì)算、AI計(jì)算等多種應(yīng)用模式。

青云AI算力調(diào)度平臺(tái)具備九大關(guān)鍵能力:多區(qū)多業(yè)務(wù)資源整合、混合組網(wǎng)、容器推理服務(wù)平臺(tái)、分布式調(diào)度與管理、算法開(kāi)發(fā)支持、模型倉(cāng)庫(kù)(MaaS)、AI訓(xùn)練平臺(tái)、靈活調(diào)度、高速并行存儲(chǔ)。

相較于市面上其他算力調(diào)度產(chǎn)品,苗慧表示,青云AI算力調(diào)度平臺(tái)在資源靈活調(diào)度方面更具優(yōu)勢(shì)。

原因在于,青云針對(duì)大規(guī)模計(jì)算集群研發(fā)了更優(yōu)化的調(diào)度算法,所有節(jié)點(diǎn)、服務(wù)器和存儲(chǔ)設(shè)備都有路徑標(biāo)簽,通過(guò)算法計(jì)算最短鏈路,盡可能調(diào)度同一個(gè)交換機(jī)內(nèi)的兩個(gè)節(jié)點(diǎn),減少數(shù)據(jù)的傳輸損耗。此外,青云在應(yīng)用環(huán)境上使用K8s和Slurm兩種調(diào)度平臺(tái)同時(shí)為客戶服務(wù),可以實(shí)現(xiàn)提交分布式計(jì)算任務(wù)時(shí),相關(guān)卡、CPU、進(jìn)程等調(diào)度信息都能立刻獲取到,在顆粒度和運(yùn)維傳統(tǒng)機(jī)器等方面也有更多優(yōu)化。多措并舉,實(shí)現(xiàn)更好的算力調(diào)度,更好的資源利用。

“青云AI算力調(diào)度平臺(tái)的服務(wù)對(duì)象是現(xiàn)在和未來(lái)投入智算中心建設(shè)的企業(yè),算力中心現(xiàn)在的投資者和未來(lái)的運(yùn)營(yíng)者。”

對(duì)算力中心來(lái)說(shuō),青云AI算力調(diào)度平臺(tái)使用效果如何,實(shí)踐案例最有說(shuō)服力。

據(jù)林源介紹,青云AI算力調(diào)度平臺(tái)正式發(fā)布前,已經(jīng)在國(guó)家超級(jí)計(jì)算濟(jì)南中心(以下簡(jiǎn)稱“濟(jì)南超算”)應(yīng)用,取得了良好效果。

濟(jì)南超算擁有超1000P算力,300P存儲(chǔ),是一個(gè)多元異構(gòu)算力中心,包括HPC、智算和以CPU為主的云計(jì)算,既有NVIDIA GPU,也考慮到國(guó)產(chǎn)化兼容,擁有一部分國(guó)產(chǎn)GPU。自3年前起,濟(jì)南超算的整個(gè)調(diào)度平臺(tái)由青云科技獨(dú)家供應(yīng),運(yùn)營(yíng)至今,平穩(wěn)支撐濟(jì)南超算來(lái)自高校的傳統(tǒng)科學(xué)計(jì)算、政務(wù)云和企業(yè)數(shù)字化應(yīng)用上云、智慧城市、AI等多類客戶群體業(yè)務(wù),助力濟(jì)南超算提高算力資源利用,目前已經(jīng)實(shí)現(xiàn)盈利。

用林源的話說(shuō),濟(jì)南超算案例說(shuō)明“青云AI算力調(diào)度平臺(tái)具備所說(shuō)的能力,我們干過(guò),而且干成了。”

從對(duì)話的ChatGPT到生成照片的妙鴨相機(jī),AI已經(jīng)在多個(gè)領(lǐng)域展現(xiàn)了驚人的生產(chǎn)力與創(chuàng)造力,新一波AI大潮席卷而來(lái),模型迭代迅速,智能算力建設(shè)與應(yīng)用落地加速,企業(yè)如何抓住市場(chǎng)新機(jī)遇,踏浪向前?

面對(duì)AI帶來(lái)的一系列變革,青云希望通過(guò)開(kāi)放的、成熟的、可運(yùn)營(yíng)的AI算力調(diào)度平臺(tái),通過(guò)自營(yíng)、合營(yíng)乃至支撐第三方運(yùn)營(yíng)的方式,與生態(tài)同盟一起貢獻(xiàn)“AI Cloud”,共同前行。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
云服務(wù)

相關(guān)文章

  • 青云科技:創(chuàng)新無(wú)極限,打造可靠、簡(jiǎn)單、智能的云易捷

    企業(yè)的數(shù)字化轉(zhuǎn)型是與信息技術(shù)的發(fā)展相伴而行的。在近幾年來(lái),隨著云計(jì)算和人工智能技術(shù)的發(fā)展創(chuàng)新,“上云”和“智能化”就成了企業(yè)數(shù)字化轉(zhuǎn)型中經(jīng)常提及的熱詞。青云科技是著名的云服務(wù)龍頭企業(yè),是我國(guó)第一家混合云的上市公司。自2012年成立以來(lái),以自主創(chuàng)新、中立可靠、靈活開(kāi)放的理念,為企業(yè)業(yè)務(wù)創(chuàng)新提供統(tǒng)一架構(gòu)

    標(biāo)簽:
    云服務(wù)
  • 一天交付、七天遷移,青云科技云易捷助醫(yī)院輕松上云

    從《醫(yī)院信息互聯(lián)互通標(biāo)準(zhǔn)化成熟度測(cè)評(píng)方案》到《互聯(lián)網(wǎng)醫(yī)院管理辦法(試行)》等一系列政策都對(duì)醫(yī)院提出了上云要求,從云桌面到云數(shù)據(jù)中心,近年來(lái)醫(yī)院上云的需求更加多樣化,也更加普遍。為了響應(yīng)醫(yī)院上云的個(gè)性化需求,青云科技(qingcloud.com)持續(xù)積累醫(yī)療云建設(shè)經(jīng)驗(yàn),反復(fù)淬煉醫(yī)療行業(yè)解決方案,其中:

    標(biāo)簽:
    云服務(wù)
  • 青云科技云易捷化負(fù)擔(dān)為潛能,人人都會(huì)用的“云原生+AI”

    云原生與AI可謂是在2023年的科技圈中最容易被提到的兩個(gè)詞,在不久前Gartner發(fā)布的中國(guó)ICT技術(shù)成熟度曲線中,這兩項(xiàng)技術(shù)也均位于曲線的頂峰,處在期望膨脹期階段,也間接證明了這兩項(xiàng)技術(shù)目前的熱度,以及不可估量的未來(lái)。此外,在很多場(chǎng)合這兩個(gè)詞還經(jīng)常被同時(shí)提及,云原生提供了應(yīng)用的靈活性與快速部署,

    標(biāo)簽:
    云服務(wù)
  • 青云QingCloud:KubeSphere第四季度擴(kuò)展組件開(kāi)發(fā)計(jì)劃

    在第三季度,青云科技成功發(fā)布了KubeSphereLuban云原生可擴(kuò)展架構(gòu)以及基于KubeSphereLuban開(kāi)發(fā)的兩款擴(kuò)展組件,分別是KubeSphereDevOps組件和KubeBlocks云原生數(shù)據(jù)管理平臺(tái)社區(qū)版。目前,這兩款擴(kuò)展組件都可以免費(fèi)使用,歡迎大家前來(lái)體驗(yàn)并提交反饋。在第四季度,

    標(biāo)簽:
    云服務(wù)
  • 小伙低成本創(chuàng)業(yè)成為客如云服務(wù)商,不到一年收獲800+客戶!

    看似不起眼的小生意,往往是大事業(yè)的開(kāi)端。近年來(lái)餐企數(shù)字化轉(zhuǎn)型加速、餐飲SaaS需求高漲的情形下,選擇自主創(chuàng)業(yè)做低成本的餐飲SaaS服務(wù)項(xiàng)目,正成為一大批餐飲從業(yè)者的新風(fēng)潮。餐飲SaaS(SoftwareasaService)項(xiàng)目說(shuō)通俗點(diǎn),就是把軟件服務(wù)賣給餐企,幫助餐企解決經(jīng)營(yíng)問(wèn)題。在線上營(yíng)銷玩法常

    標(biāo)簽:
    云服務(wù)

熱門排行

信息推薦