攜手火山引擎,順豐科技用AI重塑供應鏈
把大模型用在長鏈路、復雜協作的供應鏈上,是提效最明顯的領域之一。供應鏈場景的「釘子」迎來了大模型生產力這把「錘子」。
作為支撐順豐速運背后的供應鏈數智化承載,順豐 科技 圍繞物流場景的數智化需求,攜手火山引擎積極探索大模型時代的最佳實踐。
2024年,憑借火山引擎機器學習平臺 AI 訓推一體服務,順豐科技推出了針對物流行業的垂直領域大模型——「豐語」,在順豐的市場 營銷 、客服、收派、國際關務等業務板塊的二十余個場景中的落地實踐應用。「豐語」系列模型還利用火山引擎 AI 云原生推理套件 ServingKit,實現了從模型部署到推理應用全鏈路的提效。
高效訓推一體架構,打造「豐語大模型」
順豐科技全面擁抱、深度探索 AI 在物流各環節中的增長提效。自研的“豐語系列大模型家族”包括豐語語言大模型、豐語語音大模型、豐語多模態大模型,在順豐科技的市場營銷、客服、收派、國際關務等20+業務板塊場景中實踐應用。
在訓練豐語大模型的過程中,順豐科技通過火山引擎機器學習平臺,實現從訓練到推理的全鏈路加速。
模型訓練過程中,火山引擎訓練框架 veTuner?幫助「豐語大模型」實現了高性能 Dataloader 的全面適配與集群自動并行,相較開源框架性能提升超30%;
同時,火山引擎強化學習庫 veRL?支持 PPO、GRPO、DAPO 等多種算法,最高實現64.9% MFU(內存頻率利用率),大大降低了「豐語大模型」的訓練成本;
xLLM 推理框架通過 PD 分離部署與動態流量調度,將「豐語」大模型的吞吐能力提升最高達5倍,穩定應對高并發業務高峰。
當大模型重塑物流服務,如何降低推理成本?
與此同時,隨著大模型滲透到物流上下游的各個場景,每天千萬件的訂單信息需要消耗大量的 AI 推理資源。
面對不斷攀高的推理成本,順豐科技利用火山引擎 AI 云原生推理套件 ServingKit ,實現從模型部署到推理應用全鏈路的提效。在 DeepSeek V3/R1滿血版的部署上做到順豐同城“即日達”的效率,通過算子融合和鏡像優化,在相同 SLO 和上下文輸入長度下大模型吞吐有明顯提升。
2025年,隨著智能體落地按下加速鍵,未來,順豐科技將攜手火山引擎,進一步探索物流場景的 AI 生產力落地。