在2025年中國(guó)聯(lián)通合作伙伴大會(huì)期間，中國(guó)聯(lián)通研究院聯(lián)合上海人工智能實(shí)驗(yàn)室等合作伙伴，于7月19日正式發(fā)布了全球最長(zhǎng)距離大模型異構(gòu)混訓(xùn)試驗(yàn)成果。

隨著人工智能技術(shù)的迅猛發(fā)展和大模型時(shí)代的到來(lái)，模型訓(xùn)練對(duì)算力基礎(chǔ)設(shè)施的高吞吐、低時(shí)延、高性能提出了更高要求。然而，當(dāng)前算力資源呈現(xiàn)出異構(gòu)化和多中心化的格局，面臨著跨域資源互聯(lián)互通機(jī)制不健全、長(zhǎng)距離傳輸存在帶寬與時(shí)延瓶頸、異構(gòu)資源統(tǒng)一調(diào)度與高效融合能力有限等挑戰(zhàn)。

中國(guó)聯(lián)通攜手上海人工智能實(shí)驗(yàn)室、阿里云、浪潮、基流科技、加佳科技等行業(yè)合作伙伴，針對(duì)超大模型跨域訓(xùn)練和碎片化算力整合需求，依托“算力智聯(lián)網(wǎng) AINet”長(zhǎng)距無(wú)損傳輸技術(shù)優(yōu)勢(shì)，結(jié)合上海人工智能實(shí)驗(yàn)室“DeepLink”超大規(guī)模跨域混訓(xùn)技術(shù)方案，在上海臨港和山東濟(jì)南鮑山數(shù)據(jù)中心間構(gòu)建了長(zhǎng)度超1500公里的跨域異構(gòu)混訓(xùn)系統(tǒng)。

通過(guò)自動(dòng)調(diào)整多種并行策略和跨域收斂比下MoE模型和Dense模型的參數(shù)配置，聯(lián)合團(tuán)隊(duì)成功完成了超1500公里跨域的千億參數(shù)AI大模型異構(gòu)混訓(xùn)試驗(yàn)。經(jīng)驗(yàn)證，等效算力可達(dá)單芯片單集群等效算力的95%以上。

在算力互聯(lián)層面，項(xiàng)目采用了聯(lián)通自研內(nèi)置長(zhǎng)距RDMA協(xié)議棧的RoCE交換機(jī)，兼顧數(shù)據(jù)中心內(nèi)和數(shù)據(jù)中心間高性能網(wǎng)絡(luò)需求；在算力調(diào)度與資源管理層面，通過(guò)聯(lián)通“智馭”平臺(tái)實(shí)現(xiàn)對(duì)跨域網(wǎng)絡(luò)和集群的統(tǒng)一管控及任務(wù)調(diào)度；在算力協(xié)同層面，基于DeepLink在訓(xùn)練加速、異構(gòu)通信、并行策略等核心技術(shù)，實(shí)現(xiàn)了千億參數(shù)大模型在超長(zhǎng)距離異構(gòu)GPU環(huán)境下的高效訓(xùn)練。

此次試驗(yàn)的成功，不僅驗(yàn)證了中國(guó)聯(lián)通在長(zhǎng)距離算力協(xié)同方面的技術(shù)實(shí)力，也為未來(lái)大規(guī)模AI模型的跨域訓(xùn)練提供了有力支撐。隨著這一技術(shù)的進(jìn)一步應(yīng)用和推廣，有望推動(dòng)人工智能領(lǐng)域的快速發(fā)展，助力各行各業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型。