8月28日,2024中國國際大數據產業博覽會在貴州貴陽舉行。會議期間,中國電信舉辦了以“聚數乘云 天翼賦能數字經濟新生態”為主題的天翼云中國行·貴州站“數據賦能”交流活動。貴州省副省長蔡朝林、國家數據局副局長夏冰、中國電信集團有限公司副總經理唐珂出席活動。貴州省大數據發展管理局、貴州省通信管理局、貴州省工業和信息化廳、貴陽市人民政府、中國信息通信研究院云計算與大數據研究所等企事業單位代表蒞臨現場。會上,中國電信全國首發上線“魔樂(Modelers)開發者社區”。
Modelers開發者社區上線首發儀式
當前,人工智能已進入加快推進應用落地的關鍵階段。為進一步驅動國內人工智能產業發展,加快技術創新和商業落地,中國電信聯合伙伴發布魔樂(Modelers)開發者社區。作為開發者交流、學習和創新的平臺,魔樂(Modelers)開發者社區集成了模型庫、數據集和體驗空間、開發工具鏈等核心組件,覆蓋自然語言處理、視覺、音頻等多個領域,可提供原生模型、易用開發工具、豐富的生態資源,幫助開發者獲取領先的人工智能技術,打造出更有競爭力和差異化的模型及應用。天翼云通過建設社區,構建中文環境下的算力、數據、模型、應用和新CDMA服務,希望吸引全國開發者,共同繁榮國產AI生態。
會上,天翼云科技有限公司副總經理弓劍煒以“云智一體 國云助力數字經濟高質量發展”為題發表演講。弓劍煒表示,天翼云構建領先的“息壤”一體化智算服務體系和能力,全方位開放生態合作,為廣大客戶提供“供得上、用得起、用得好”的算力服務。“息壤”突破了多項關鍵技術,擁有強大的算網調度能力、高效的異構計算能力、一站式的訓推服務能力,積累了豐富的落地應用案例。
天翼云科技有限公司副總經理 弓劍煒
算網調度能力方面,“息壤”在三個方面取得顯著技術突破。通過算力插件和算力網關,實現了算力的統一、高效和云化接入;通過算數協同和多級算力互聯調度,實現了算數網的一體化調度,數隨算走,算隨數動,調度區域更廣,算力更泛在;借助大模型認知能力和業務調度,實現算力選擇和應用部署簡單化,故障自動恢復與負載均衡,使算力簡便易用。
基于上述技術突破和產品化應用,“息壤”可服務于三大算力場景。一是天翼云自營公共算力服務平臺,目前已接入39家算力伙伴,實現三方各類算力可調度22EFLOPS,顯著擴大算力規模和品類,滿足公有云客戶的多元算力需求。二是幫助客戶構建行業算力互聯網,例如高校算力聯盟等,實現行業內算力利用率的有效提升。三是幫助地方政府構建城市算力互聯網,實現區域內多方算力的一體化統籌調度,助力地方經濟和產業發展,目前已在貴州等多個區域成功實施。
異構計算能力方面,“息壤”具備高效的異構計算能力,能夠破解大模型訓練推理中面臨的大算力、高性能、高穩定需求等挑戰。在大算力需求方面,天翼云建設PB級并行文件存儲,并組建低延時超大規模RDMA網絡,通過計算、內存和通訊的多維優化,提升綜合算效。在性能方面,對AI框架進行升級、存儲加速,實現checkpoint文件快速保存、加載,將國產算力的綜合算效提升到了行業可比水平。在穩定性方面,通過多項指標的監控分析,實現故障訓前發現,有效控制大模型訓練中斷恢復時長,實現訓練任務長期穩定、高可用運行。此外,天翼云基于國產萬卡智算集群和自研智算平臺,已具備支撐萬億參數基礎大模型訓練的能力。
訓推服務能力方面,“息壤”一站式的訓推服務能力,可降低大模型應用創新開發門檻。平臺預置行業數據集、納管國內外主流AI加速硬件、預置基于國產算力的多個基礎大模型等全棧工具鏈能力,將大模型精調場景簡化操作至選數據、選硬件和選模型三個步驟,簡化部署、提升效率;通過自研AI框架、3D并行加速、自研訓練加速庫、容器調度優化等核心技術,大幅提升訓練效率;通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術,顯著提高推理效率;通過全鏈路故障檢測、定位、告警,全鏈路日志監控與可視化、斷點續訓快速恢復等核心技術,實現訓推過程全鏈路監控。
人工智能產業的發展和繁榮離不開生態沃土的“滋養”。此次會議首發上線魔樂(Modelers)開發者社區。通過社區建設,天翼云將協同伙伴聚集更多的優質中文AI資源,加速AI應用商業落地。天翼云還開放AI云電腦平臺,打造AI應用中心,具備AI助手、AI空間、AI客服、AI低代碼等AI創新應用,使AI應用能夠更廣泛地接入和使用,同時推出算數融合套餐,為用戶提供更加靈活和高效的服務,全力構建開放的模型、數據、應用生態,共鑄AI產業繁榮。
中國信通院云計算與大數據研究所所長何寶宏在會上介紹了云計算和大數據賦能產業發展現狀及趨勢。他表示,隨著AI原生帶來的云技術革新和大模型規模化落地,云計算技術與產業融合價值愈加凸顯,各行業上云積極性持續攀升,云計算市場將迎來新一輪增長,AI加速產業格局重新洗牌。展望未來,作為數字社會底座,云計算的價值將被繼續挖掘,我國也將從“數據大國”邁向“數據強國”。
中國信通院云計算與大數據研究所所長 何寶宏
人工智能已經成為數字經濟發展的新引擎。作為云計算原創技術策源地、數字中國建設主力軍,天翼云將不斷深耕云計算領域核心技術,依托豐富的智算資源、強大的智算一體化平臺能力、開放的模型應用生態和豐富的實踐案例,攜手廣大客戶與合作伙伴共同賦能千行百業數智化轉型,持續為數字經濟發展和數字中國建設注入澎湃動能。
相關稿件