當前,隨著終端應用場景不斷擴展,數據即時處理需求水漲船高。云端大模型落地行業逐漸面臨日趨明顯的數據缺失、反饋緩慢、成本過高等許多挑戰,與云端AI相輔相成又優勢明顯的邊緣AI成為攻克瓶頸的關鍵。意識到這一點的科技巨頭們紛紛入局低成本、高效率且更具隱私性的邊緣 AI,也讓業內驚呼,邊緣AI正進入發展快車道。
以國內搶先發力邊緣AI的領軍企業云天勵飛為列,其8月26日發布的2024年半年度報告顯示,云天勵飛2024上半年營業收入達到2.89億元,同比增長97%。其主要業績均來自于基于邊緣AI平臺的智能硬件、智算運營和智慧行業三大業務領域,也再次驗證了邊緣AI未來的廣闊市場前景。
邊緣AI進入加速發展期
和人們更為熟知的云端AI相比,邊緣AI發展初期并未受到同等的重視。不過,邊緣AI固有的更低成本、更好的數據隱私保護以及更快的響應速度,使其在近年來吸引了越來越多行業巨頭的關注。大模型方面,谷歌、微軟、Meta以及云天勵飛都推出了輕量化大模型支撐邊緣AI的應用;芯片方面,蘋果、英偉達等巨頭先后推出邊緣AI芯片,應用在AI 手機和機器人上,云天勵飛也在2022年底推出DeepEdge 10系列芯片,以支撐邊緣端的大模型運行。
有了成熟大模型的支撐以及性能不斷提升的芯片,邊緣AI的應用變得更加廣泛和實用。邊緣設備需要處理更加復雜的任務,反過來也促進了邊緣AI技術的發展。良性循環為邊緣AI的行業發展提供了加速度。
以既有自研大模型又有自研芯片的云天勵飛為例,其在今年7月由中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產業賦能”論壇上公開的邊緣AI戰略即顯示,將依托多模態大模型、NPU加速計算平臺這兩大平臺,發展智能硬件、智算運營、智慧行業三大主營業務,并確定了個人、家庭、城市三個應用方向。
從云天勵飛剛剛發布的半年報來看,三大主營業務都有不錯成績,其邊緣AI戰略初見成效。
邊緣智能硬件未來增長態勢驚人
在邊緣AI應用方面,邊緣智能硬件是最貼近廣大用戶,也是增長態勢最為迅猛的智能設備領域之一。據市場研究報告顯示,預計到2025年,全球智能硬件市場規模將達到數千億美元規模,年復合增長率保持在兩位數以上。特別是,隨著技術進步和產品創新,物聯網升級成AIoT,加上國家相關產業政策的大力扶持,預計未來3年邊緣智能硬件設備將保持50%以上的復合增長率。
從云天勵飛的半年報來看,如今市面上可應用智能硬件的場景十分豐富,與從前相比實用領域也有了明顯擴展。云天勵飛基于自研“云天天書”大模型和神經網絡處理器,打造面向各類邊緣AI場景的各類硬件設備并對外銷售,包括 AI 芯片、與華為昇騰合作打造的“天舟”大模型一體機等。報告期內,云天勵飛還推出了融合“云天天書”多模態大模型能力的警務安全智能終端,具備萬物識別、自然語言檢索、警務知識咨詢等功能,可全面助力基層警務人員提升執法水平。
此外,云天勵飛還收購了智能穿戴方案設計頭部公司岍丞技術。岍丞技術主要產品包括智能藍牙耳機PCBA、智能手表PCBA、智能音箱PCBA等IoT產品,主要應用在華為、榮耀、OPPO、VIVO、安克、boAt、Noise等品牌的終端產品上。行業領先企業對于“大模型+智能可穿戴”相關產品的積極探索和加速布局,也使得邊緣AI賦能下游終端應用漸呈百花齊放。
自研大模型+自研芯片是云天勵飛邊緣AI業績增長底氣
智慧行業是邊緣AI可發揮作用的重要領域之一。從云天勵飛半年報可見,目前云天勵飛已形成了城市治理、智慧交通、智慧應急、智慧城管、智慧園區、智慧社區、智慧泛商業、智慧道路巡檢、智慧警務、低空經濟、智慧教育等行業產品與解決方案體系,并結合多模態大模型技術特點和行業需求,持續拓展創新業務。
另一主營業務智算運營也是極具發展前景的潛力股。今年6月,云天勵飛與德元方惠簽署AI算力運營合作協議。德元方惠將向云天勵飛購買AI訓練及推理異構算力服務,總算力規模約4000 PFLOPS,該協議在未來三年服務期內將為云天勵飛貢獻約16億的營收。
無論是智慧行業,還是智算運營,想要在邊緣AI領域有所建樹,都離不開成熟的大模型技術以及性能足夠強大的芯片支持。
以大模型為例,云天勵飛自主研發了千億級大模型“云天天書”。今年中國信通院發布《2024大模型示范應用案例》,云天勵飛與深圳市龍崗區打造的數字政務行業大模型入選。在智慧交通和智慧警務解決方案中,云天天書大模型助力城市實現了交通的智能調控以及公共安全事件的有效預防;在智慧商業領域,大模型通過分析客流動線等信息,為商業智能體的運營決策提供了有力支撐;在智慧教育方面,云天勵飛提出了 Fly計劃,致力于構建全面、立體的人工智能教育生態系統。
再以芯片為例,云天勵飛去年底發布了大模型推理芯片DeepEdge10;今年推出采用D2D Chiplet技術,基于DeepEdge10芯片平臺打造的大算力芯片DeepEdge200,并打造了IPU-X6000加速卡,可應用于語言、視覺、多模態等各類大模型的推理加速,目前已適配云天天書、通義千問、百川智能、Llama2/3等近10個主流大模型。
可以預見,未來云天勵飛會利用這些技術優勢,將自研大模型與自研芯片更好結合,進一步促進行業邊緣AI發展。
長遠來看,我們必將進入一個由云端AI+邊緣AI的混合式AI時代。而在這一過程中,離不開邊緣AI的重要支撐。目前,無論是從自動駕駛、機器人/具身智能到 AI PC/phone,基于設備端智能化的邊緣 AI 正逐步發展壯大,并顯現出蓬勃發展的積極活力。顯然,把握邊緣AI的發展趨勢,加速其技術與產業的深度融合,將是推動未來智能科技革命的重要力量。而如何更好地制訂邊緣AI戰略,在這一過程中分到更多的蛋糕,正是業內應該深入思考的重要議題。
（新聞稿 2024-08-27）