2月6日,記者從京東獲悉,蛇年春節期間,京東云(中原)算力中心上線了DeepSeek-R1,成為河南省第一個提供DeepSeek服務的城市級算力中心。
DeepSeek是計算效能和推理精度接近和趕超ChatGPT的國產大模型。受限于DeepSeek公司的算力不足等原因,客戶使用過程中經常出現服務器繁忙和無法使用等問題,同時考慮數據保護需要,政府和企業使用更需要私有化和本地化部署。
據介紹,為了更好地為金融、企業、政府等客戶提供數據不出域的私有化模型推理服務,在京東云(中原)算力中心已經上線的業界領先的vGPU AI算力平臺的基礎上,實現本地化部署DeepSeek,使用戶不會受主站流量限制,實現客戶數據私有化不出域,滿足企業級場景使用。
目前,京東云已正式全面上線 DeepSeek-R1、DeepSeek-V3以及所有蒸餾小參數模型(DeepSeek-R1-Distill)模型,支持公有云在線部署、專混私有化實例部署兩種模式,供用戶按需部署,快速調用。針對資源緊缺的場景,京東云支持通過蒸餾技術訓練企業自己的大模型,減少模型部署所需資源的同時具備較好的性能。使用京東云vGPU AI算力平臺,可以將多個蒸餾過的企業自有模型部署在同一張卡上,有效提升資源利用率70%。
據了解,京東云(中原)算力中心位于河南省鶴壁市城鄉一體化示范區,是京東私有云在中原地區的唯一運營中心,也是河南省算力基礎設施發展規劃“一核四極多點”總體布局打造的豫北區域算力增長極,輻射服務冀南等鄰近省份區域。京東云(中原)算力中心擁有先進的數據中心機房和高性能的服務器集群,算力中心可根據需求的動態變化,實施彈性伸縮策略,實現資源的自動擴容和縮減。目前已經有京東言犀大模型、DeepSeek大模型以及上海、深圳、鶴壁等地企業用戶的AI應用在算力中心高效運行。算力中心的建設獲得了廣泛關注,已累計接待省內外政府機構及企事業單位近500余人次的考察交流。
記者 成燕 安欣欣 文/圖