隨著大模型落地應(yīng)用,人工智能發(fā)展進入2.0時代,智算云服務(wù)加速演進,成為新一代人工智能發(fā)展的核心驅(qū)動力。在 2025 年 1 月 7 日舉辦的金山云年度 Tech Talk 上,金山云宣布全面升級智算服務(wù)體系,助力大模型應(yīng)用落地。以下是具體介紹:
- 基礎(chǔ)云升級:通過整合軟硬一體化能力,對計算、存儲、網(wǎng)絡(luò)進行全面升級,構(gòu)建高性能基礎(chǔ)設(shè)施。這為智算云的發(fā)展奠定了堅實基礎(chǔ),能夠更好地滿足大模型對算力、存儲和網(wǎng)絡(luò)的高要求,確保大模型訓(xùn)練和運行過程中的高效穩(wěn)定。
- 智算網(wǎng)優(yōu)化:不僅提供多種組網(wǎng)架構(gòu),還自研了 RoCE 網(wǎng)絡(luò)監(jiān)控平臺,為運維人員提供全面且直觀的網(wǎng)絡(luò)視圖,并通過算力平臺幫助其更加合理地分配和利用資源,提升了客戶業(yè)務(wù)的連續(xù)性和便捷性。
- 智算平臺建設(shè):涵蓋數(shù)據(jù)平臺、訓(xùn)練平臺、推理平臺和存儲平臺,為大模型客戶提供穩(wěn)定、易用的平臺,保障其持續(xù)運行時間和性能。同時,研發(fā)并發(fā)布了包括 Serverless Spark 在內(nèi)的多款 Serverless 形態(tài)數(shù)據(jù)類產(chǎn)品,其中 Serverless Spark 在 AIGC 客戶數(shù)據(jù)清洗場景中表現(xiàn)出色,得到了眾多頭部通用人工智能公司的認(rèn)可。
- 行業(yè)模型構(gòu)建:以輕舟行業(yè)大模型為核心,構(gòu)建了從平臺、模型到應(yīng)用的全棧能力。發(fā)布了 qzhou 系列多尺寸行業(yè)基座模型,包括 13B、32B 和 70B 等版本,這些模型在多個權(quán)威標(biāo)準(zhǔn)評測集上表現(xiàn)出色。還針對政務(wù)、法律和金融等場景推出了專用模型,并已成功落地。
- 提供高性能基礎(chǔ)設(shè)施:大模型訓(xùn)練和運行需要強大的計算、存儲和網(wǎng)絡(luò)支持。金山云升級后的基礎(chǔ)云提供了高性能基礎(chǔ)設(shè)施,滿足了大模型對資源的高需求,保障大模型能夠快速、穩(wěn)定地進行訓(xùn)練和推理,減少因基礎(chǔ)設(shè)施性能不足導(dǎo)致的訓(xùn)練時間過長或故障中斷等問題。
- 優(yōu)化智算網(wǎng):自研的 RoCE 網(wǎng)絡(luò)監(jiān)控平臺可以實時監(jiān)控網(wǎng)絡(luò)狀態(tài),及時發(fā)現(xiàn)和解決網(wǎng)絡(luò)擁塞、延遲高等問題,確保數(shù)據(jù)在各個節(jié)點之間的快速、高效傳輸。多種組網(wǎng)架構(gòu)和算力平臺能夠根據(jù)大模型的需求靈活分配資源,提高資源利用率,進一步提升大模型的訓(xùn)練和運行效率。
- 提供 Serverless 形態(tài)數(shù)據(jù)類產(chǎn)品:Serverless Spark 等產(chǎn)品可以幫助大模型客戶更高效地處理數(shù)據(jù),尤其是在數(shù)據(jù)清洗等場景中表現(xiàn)突出,大大減少了數(shù)據(jù)預(yù)處理的時間和工作量,使大模型能夠更快地進入訓(xùn)練階段,加速大模型應(yīng)用的落地。
- 構(gòu)建行業(yè)模型全棧能力:qzhou 系列行業(yè)基座模型和針對不同場景的專用模型,為各行業(yè)大模型應(yīng)用提供了精準(zhǔn)的模型基礎(chǔ),減少了企業(yè)從頭訓(xùn)練模型的時間和成本。這些模型在權(quán)威評測集上的出色表現(xiàn),也證明了其在實際應(yīng)用中的可靠性和有效性,能夠助力各行業(yè)客戶快速構(gòu)建和部署大模型應(yīng)用,實現(xiàn)智能化轉(zhuǎn)型。
- 提供一站式開發(fā)及應(yīng)用平臺:一站式瀚海大模型開發(fā)及應(yīng)用平臺涵蓋了智能對話、內(nèi)容創(chuàng)作等多個場景,支持零代碼 / 低代碼開發(fā),降低了人工智能應(yīng)用搭建的門檻,使企業(yè)和開發(fā)者能夠更快速地開發(fā)和部署大模型應(yīng)用。同時,瀚海訓(xùn)練平臺為大模型大規(guī)模分布式訓(xùn)練提供了穩(wěn)定、易用和極致性能的深度學(xué)習(xí)訓(xùn)練環(huán)境,進一步加速了大模型應(yīng)用的落地。同時,金山云還將聯(lián)合信永中和專業(yè)領(lǐng)域?qū)<,利用領(lǐng)域?qū)<抑R與數(shù)據(jù),持續(xù)迭代優(yōu)化包括審計與合規(guī)領(lǐng)域在內(nèi)的領(lǐng)域大模型,并快速構(gòu)建行業(yè)人工智能原生應(yīng)用、賦能千行百業(yè)。
|