業(yè)內(nèi)少有的既有自研大模型，又有自研AI芯片的企業(yè)。

據(jù)IPO早知道消息，云天勵飛于8月26日發(fā)布了2024年半年度報告。

2024上半年，云天勵飛營業(yè)收入2.89億元，同比增長97.4%，主要系智慧行業(yè)解決方案及智能硬件產(chǎn)品的銷售收入增加所致。

今年7月世界人工智能大會上，云天勵飛邊緣AI戰(zhàn)略全面亮相，并公布了基于邊緣AI平臺的三大業(yè)務(wù)領(lǐng)域：智能硬件、智算運營、智慧行業(yè)。邊緣AI戰(zhàn)略在其2024上半年業(yè)績中初顯成效。

智能硬件或成業(yè)績新增長點

自研大模型為智慧行業(yè)帶來新增量

整體而言，智能硬件是云天勵飛2024半年報的一大亮點。

根據(jù)半年報，云天勵飛基于自研“云天天書”大模型和神經(jīng)網(wǎng)絡(luò)處理器，打造面向各類邊緣AI場景的各類硬件設(shè)備并對外銷售，包括 AI 芯片、與華為昇騰合作打造的“天舟”大模型一體機(jī)等。今年上半年，云天勵飛還推出了融合“云天天書”多模態(tài)大模型能力的警務(wù)安全智能終端，具備萬物識別、自然語言檢索、警務(wù)知識咨詢等功能，可全面助力基層警務(wù)人員提升執(zhí)法水平。

值得一提的是，今年3月云天勵飛收購智能穿戴方案設(shè)計頭部公司岍丞技術(shù)。岍丞技術(shù)主要產(chǎn)品包括智能藍(lán)牙耳機(jī)PCBA、智能手表PCBA、智能音箱PCBA等IoT產(chǎn)品，主要應(yīng)用在華為、榮耀、OPPO、VIVO、安克、boAt、Noise等品牌的終端產(chǎn)品上。收購岍丞技術(shù)后，云天勵飛積極探索“大模型+智能可穿戴”相關(guān)產(chǎn)品。而在剛剛過去的7月，云天勵飛還注冊了全資子公司——深圳市嚕咔博士科技有限公司，經(jīng)營范圍包括人工智能硬件銷售、人工智能應(yīng)用軟件開發(fā)等。極有可能是云天勵飛為進(jìn)軍C端智能硬件市場做的準(zhǔn)備。

此外，智慧行業(yè)是云天勵飛2024上半年業(yè)績的另一大增長點——目前，云天勵飛已形成城市治理、智慧交通、智慧應(yīng)急、智慧城管、智慧園區(qū)、智慧社區(qū)、智慧泛商業(yè)、智慧道路巡檢、智慧警務(wù)、低空經(jīng)濟(jì)、智慧教育等行業(yè)產(chǎn)品與解決方案體系，并結(jié)合多模態(tài)大模型技術(shù)特點和行業(yè)需求，持續(xù)拓展創(chuàng)新業(yè)務(wù)。

云天勵飛的自研大模型正成為智慧行業(yè)落地的強(qiáng)大引擎，通過深度學(xué)習(xí)和大數(shù)據(jù)分析，為各行各業(yè)提供了精準(zhǔn)的數(shù)據(jù)解讀和決策支持。今年中國信通院發(fā)布《2024大模型示范應(yīng)用案例》，云天勵飛與深圳市龍崗區(qū)打造的數(shù)字政務(wù)行業(yè)大模型入選。大模型在事件分撥、處置、分析等環(huán)節(jié)均發(fā)揮重要作用，為提升效率、提高服務(wù)質(zhì)量作出重要貢獻(xiàn)。在智慧交通和智慧警務(wù)解決方案中，云天天書大模型助力城市實現(xiàn)了交通的智能調(diào)控以及公共安全事件的有效預(yù)防。此外，在智慧商業(yè)領(lǐng)域，大模型通過分析客流動線等信息，為商業(yè)智能體的運營決策提供了有力支撐。

此外，云天勵飛在今年上半年還格外重視智慧教育業(yè)務(wù)。云天勵飛提出了 Fly計劃，致力于構(gòu)建全面、立體的人工智能教育生態(tài)系統(tǒng)，為學(xué)生、教師和學(xué)校帶來顛覆式的教學(xué)體驗。

智算運營或成未來業(yè)績拉動主力

邊緣AI前景值得期待

除前述兩大亮點之外，智算業(yè)務(wù)預(yù)計接下來將對云天勵飛的經(jīng)營業(yè)績產(chǎn)生積極影響——今年6月，云天勵飛與德元方惠簽署了AI算力運營合作協(xié)議。德元方惠將向云天勵飛購買AI訓(xùn)練及推理異構(gòu)算力服務(wù)，總算力規(guī)模約4000 PFLOPS，該協(xié)議在未來三年服務(wù)期內(nèi)將為云天勵飛貢獻(xiàn)約16億的營收。

事實上，云天勵飛自 2023 年起深度布局智算行業(yè)，不斷在技術(shù)能力、集群運營管理、客戶資源、供應(yīng)鏈渠道等方面積累自身核心競爭力，在同行業(yè)中資源儲備較為齊全。

在芯片方面，云天勵飛有芯片自主研發(fā)能力。2023年底發(fā)布大模型推理芯片DeepEdge10；今年推出采用D2D Chiplet技術(shù)，基于DeepEdge10芯片平臺打造的大算力芯片DeepEdge200，并打造了IPU-X6000加速卡——IPU-X6000具備256T算力、128GB顯存容量、486GB/S顯存帶寬；采用C2C Mesh互聯(lián)技術(shù)，可實現(xiàn)卡間高速互聯(lián)，帶寬達(dá)64GB/S，最大可實現(xiàn)64張卡的互聯(lián)；可應(yīng)用于語言、視覺、多模態(tài)等各類大模型的推理加速，目前已適配云天天書、通義千問、百川智能、Llama2/3等近10個主流大模型。IPU-X6000單卡可實現(xiàn)130B參數(shù)量大模型推理，在執(zhí)行70B參數(shù)量大模型推理時性能達(dá)11 tokens/s，有望在大模型推理領(lǐng)域逐步實現(xiàn)國產(chǎn)替代。

在大模型訓(xùn)練方面，云天勵飛自主研發(fā)了千億級大模型“云天天書”，并在大模型的研發(fā)過程中積累了一系列算力調(diào)優(yōu)、提升模型訓(xùn)練效率的技術(shù)平臺和相應(yīng)工具，云天勵飛將上述技術(shù)沉淀運用在 AI 算力服務(wù)中，可幫助客戶提升模型訓(xùn)練及算力利用效率。

未來，云天勵飛亦可在超大規(guī)模異構(gòu)高性能算力集群中，將自研推理卡與高性能訓(xùn)練算力相結(jié)合，為自研推理卡落地打開場景觸角，搭建生態(tài)，為行業(yè)帶來更豐富的算力服務(wù)。

這里需要指出的一點是，在大模型普遍追求規(guī)模效應(yīng)的當(dāng)下，云天勵飛提出邊緣AI戰(zhàn)略，似乎是“反其道而行之”，讓大模型更“適用”“更靠近用戶”。但從長遠(yuǎn)來看，大模型賦能千行百業(yè)，離不開邊緣AI的支撐。

從自動駕駛、機(jī)器人/具身智能到 AI PC/phone，面向現(xiàn)實世界，基于設(shè)備端智能化的邊緣 AI 正逐步發(fā)展壯大。越來越多行業(yè)巨頭開始擁抱邊緣 AI，一方面，谷歌、微軟、Meta 等都推出了輕量化大模型支撐邊緣 AI 的應(yīng)用；另一方面，蘋果、英偉達(dá)等巨頭推出邊緣 AI 芯片，應(yīng)用在 AI 手機(jī)和機(jī)器人上，支撐邊緣端的大模型運行。邊緣 AI 讓物聯(lián)網(wǎng)升級成為 AIoT，助力大模型落地。

云天勵飛是業(yè)內(nèi)少有的既有自研大模型，又有自研AI芯片的企業(yè)。隨著未來大模型的應(yīng)用不斷深入，邊緣AI市場將越來越廣闊。作為邊緣AI賽道的先行者，未來云天勵飛的發(fā)展值得繼續(xù)關(guān)注。