×

掃碼關(guān)注微信公眾號

云天勵飛自研芯片與高性能算力結合,攜手德元方惠構建AI算力生態(tài)新藍圖

2024/6/7 17:20:49      企業(yè)供稿

6月6日,云天勵飛發(fā)布公告,公司與德元方惠簽署《AI算力運營(yíng)合作框架協(xié)議》。德元方惠將向云天勵飛購買(mǎi)AI訓練及推理異構算力服務(wù),總算力規模約4000PFLOPS,該協(xié)議預計在未來(lái)三年服務(wù)期內為云天勵飛貢獻約16億的營(yíng)收。

奠定未來(lái)的業(yè)績(jì)基礎

作為國內領(lǐng)先的人工智能公司,云天勵飛一直積極建設算力基座,并且對外提供算力運營(yíng)服務(wù)。今年3月,云天勵飛在發(fā)布會(huì )上公布了“1+3”業(yè)務(wù)布局,即基于1個(gè)算法芯片化平臺,打造三大方向業(yè)務(wù)——AI方案、AI運營(yíng)、AI產(chǎn)品。本次與德元方惠簽署戰略合作協(xié)議,是公司AI運營(yíng)業(yè)務(wù)的一大突破,并在未來(lái)3年為公司帶來(lái)16億營(yíng)收,奠定未來(lái)的業(yè)績(jì)增長(cháng)基礎。

將大模型研發(fā)經(jīng)驗注入算力運營(yíng)服務(wù)

去年,云天勵飛正式推出自研千億級大模型“云天天書(shū)”?!霸铺焯鞎?shū)”系列模型架構包含通用大模型、行業(yè)大模型、場(chǎng)景大模型三個(gè)層級。云天勵飛基于算法芯片化平臺,并通過(guò)海量高質(zhì)量數據預訓練生產(chǎn)通用大模型;在通用大模型基礎上,引入高質(zhì)量行業(yè)數據,生產(chǎn)行業(yè)大模型;再在行業(yè)大模型基礎上,通過(guò)細分場(chǎng)景數據微調研發(fā)場(chǎng)景大模型?!霸铺焯鞎?shū)”在C-Eval、CMMLU等權威測試中多次獲得第一,并正式通過(guò)中央網(wǎng)信辦備案。

在大模型研發(fā)過(guò)程中,公司積累了一系列異構算力組合、算力調優(yōu)、提升模型訓練效率的技術(shù)平臺和相應工具,包括智能算力集群管理平臺、AI大模型開(kāi)發(fā)服務(wù)平臺等,可提供數據管理、數據標注、模型發(fā)布、模型測評等功能模塊。云天勵飛將上述技術(shù)沉淀在A(yíng)I算力服務(wù)中,可幫助客戶(hù)提升模型訓練及算力利用效率,幫助更多企業(yè)以更低成本訓練大模型。

為自研芯片拓展廣闊新天地

今年以來(lái),大模型全面進(jìn)入應用落地階段,推理算力需求隨之不斷增長(cháng)。根據IDC數據,預計到2026年中國數據中心用于推理的負載將達到62.2%。

云天勵飛亦持續看好大模型進(jìn)入成熟商業(yè)化階段后推理需求,并在推理算力領(lǐng)域進(jìn)行戰略部署。

去年底,公司自研的神經(jīng)網(wǎng)絡(luò )處理器NNP400T的DeepEdge 10 正式發(fā)布,可廣泛應用于A(yíng)IoT邊緣視頻、移動(dòng)機器人等場(chǎng)景,目前已在智慧交通、清潔機器人等領(lǐng)域進(jìn)行應用。此外,依托創(chuàng )新的D2D chiplet架構打造的推理卡已適配SAM CV大模型、Llama2、通義千問(wèn)等國內外開(kāi)源大模型,可承載大模型應用落地的大規模推理計算。

推理算力需求將隨著(zhù)大模型使用時(shí)間和用戶(hù)量的增長(cháng)而快速增加,因此在大模型進(jìn)入成熟商業(yè)化階段之后將迎來(lái)需求爆發(fā)。公司所搭建超大規模異構高性能算力集群將其自研推理卡與高性能訓練算力相結合,為客戶(hù)提供高效的訓推一體算力服務(wù),同時(shí)為自研推理卡落地打開(kāi)場(chǎng)景觸角,搭建生態(tài),為大模型進(jìn)入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

此外,公司也持續投入自研大模型研發(fā)及優(yōu)化工作,預計將維持較高對AI訓練及推理異構算力的需求,此次《合作框架協(xié)議》項下涉及對于高性能異構算力的采購,未來(lái)亦可視需要作為公司大模型研發(fā)工作所需算力基礎的補充,支撐公司大模型技術(shù)的持續進(jìn)步。

未來(lái),云天勵飛亦可在超大規模異構高性能算力集群中,將自研推理卡與高性能訓練算力相結合,為自研推理卡落地打開(kāi)場(chǎng)景觸角,搭建生態(tài),為行業(yè)帶來(lái)更豐富的算力服務(wù)。