群智引网

【編者按】6月6日,雲天勵飛發佈公告,公司與德元方惠簽署《AI算力運營合作框架協議》。德元方惠將向雲天勵飛購買AI訓練及推理異構算力服務,總算力規模...

6月6日,雲天勵飛發佈公告,公司與德元方惠簽署《AI算力運營合作框架協議》。德元方惠將向雲天勵飛購買AI訓練及推理異構算力服務,總算力規模約4000PFLOPS,該協議預計在未來三年服務期內爲雲天勵飛貢獻約16億的營收。

奠定未來的業績基礎

作爲國內領先的人工智能公司,雲天勵飛一直積極建設算力基座,並且對外提供算力運營服務。今年3月,雲天勵飛在發佈會上公佈了“1 3”業務佈局,即基於1個算法芯片化平臺,打造三大方向業務——AI方案、AI運營、AI產品。本次與德元方惠簽署戰略合作協議,是公司AI運營業務的一大突破,並在未來3年爲公司帶來16億營收,奠定未來的業績增長基礎。

將大模型研發經驗注入算力運營服務

去年,雲天勵飛正式推出自研千億級大模型“雲天天書”。“雲天天書”系列模型架構包含通用大模型、行業大模型、場景大模型三個層級。雲天勵飛基於算法芯片化平臺,並通過海量高質量數據預訓練生產通用大模型;在通用大模型基礎上,引入高質量行業數據,生產行業大模型;再在行業大模型基礎上,通過細分場景數據微調研發場景大模型。“雲天天書”在C-Eval、CMMLU等權威測試中多次獲得第一,並正式通過中央網信辦備案。

在大模型研發過程中,公司積累了一系列異構算力組合、算力調優、提升模型訓練效率的技術平臺和相應工具,包括智能算力集羣管理平臺、AI大模型開發服務平臺等,可提供數據管理、數據標註、模型發佈、模型測評等功能模塊。雲天勵飛將上述技術沉澱在AI算力服務中,可幫助客戶提升模型訓練及算力利用效率,幫助更多企業以更低成本訓練大模型。

爲自研芯片拓展廣闊新天地

今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據IDC數據,預計到2026年中國數據中心用於推理的負載將達到62.2%。

雲天勵飛亦持續看好大模型進入成熟商業化階段後推理需求,並在推理算力領域進行戰略部署。

去年底,公司自研的神經網絡處理器NNP400T的DeepEdge 10 正式發佈,可廣泛應用於AIoT邊緣視頻、移動機器人等場景,目前已在智慧交通、清潔機器人等領域進行應用。此外,依託創新的D2D chiplet架構打造的推理卡已適配SAM CV大模型、Llama2、通義千問等國內外開源大模型,可承載大模型應用落地的大規模推理計算。

推理算力需求將隨着大模型使用時間和用戶量的增長而快速增加,因此在大模型進入成熟商業化階段之後將迎來需求爆發。公司所搭建超大規模異構高性能算力集羣將其自研推理卡與高性能訓練算力相結合,爲客戶提供高效的訓推一體算力服務,同時爲自研推理卡落地打開場景觸角,搭建生態,爲大模型進入成熟商業化階段後的推理需求爆發提前佈局。

此外,公司也持續投入自研大模型研發及優化工作,預計將維持較高對AI訓練及推理異構算力的需求,此次《合作框架協議》項下涉及對於高性能異構算力的採購,未來亦可視需要作爲公司大模型研發工作所需算力基礎的補充,支撐公司大模型技術的持續進步。

未來,雲天勵飛亦可在超大規模異構高性能算力集羣中,將自研推理卡與高性能訓練算力相結合,爲自研推理卡落地打開場景觸角,搭建生態,爲行業帶來更豐富的算力服務。