石榴云/新疆日报记者 魏永贵 通讯员 刘亚辉
2月10日,记者从哈密(伊吾)云上丝路融合算力中心获悉,哈密伊吾算力云成功上线“满血版”DeepSeekR1大模型云服务,成为新疆首个提供DeepSeekR1大模型服务的算力中心。
哈密伊吾算力云引入的DeepSeekR1大模型服务,由新疆联合智算科技有限公司提供技术支持。“满血版”是指完整最大型号的DeepSeekR1大模型,其参数规模高达6710亿。为满足多元化应用场景需求,哈密伊吾算力云同步部署了6个轻量化版本,形成完整的大模型服务体系。
2月10日,在哈密(伊吾)云上丝路融合算力中心,新疆联合智算科技有限公司技术人员在设备间查看机柜服务器运行情况。吾守尔 摄
“大模型的参数规模是指模型中包含的参数数量,是衡量模型复杂度和能力的重要指标。大模型的参数规模通常在数十亿到数千亿之间,甚至达到万亿级别。这些参数主要包括权重和偏置,通过神经网络的层和节点连接起来,决定了输入数据如何被处理。”新疆联合智算科技有限公司运维工程师洪钟介绍,“满血版”DeepSeekR1大模型上线后,用户可根据具体业务需求灵活选择模型配置,仅需5分钟即可完成DeepSeekR1大模型推理服务和应用的自主创建,实现本地化部署DeepSeekR1大模型,在突破云端服务流量限制的同时,实现客户数据本地化存储和全流程闭环管理,确保企业核心数据安全可控。
据了解,参数规模更大的“满血版”DeepSeekR1大模型具备更强大的语义捕捉能力,在处理科研计算、编程开发及复杂财务分析等需深度推理的任务中表现尤为突出,应用较为广泛,其长文本处理优势可支持专业文献解析和持续性对话场景,并提供定制化解决方案,满足科研机构与企业的高阶需求。
对一般普通用户而言,使用DeepSeekR1轻量化模型,也就是“蒸馏版”,就能完全胜任各种需求。“蒸馏版”适用于响应时效要求高的客服系统、手机等移动端应用等环境,具备部署灵活的优势。洪钟说:“哈密伊吾算力云配备了先进的硬件设施,能够充分发挥DeepSeekR1大模型的能力,更高效地运行各种基于DeepSeekR1大模型的各行各业的应用,目前一些科学研究机构和部分高校开始试用。”
2023年以来,哈密市积极推进算力经济产业发展,成立能源算力融合(哈密)研究院,以哈密(伊吾)云上丝路融合算力中心为平台,在伊吾县加快建设伊吾算力云、算力产业园。2024年4月,顺利建成包含128P智算、80个超算节点和100台通算服务器的先进计算集群一期项目,实现算力产业“零的突破”。今年1月,由新疆联合智算科技有限公司投资建设的伊吾县人工智能大模型智算中心项目1000P智算算力顺利点亮。目前,伊吾县先进计算集群二期项目正加紧建设,算力规模将超过10000P。
责任编辑:吴雪
版权作品,未经授权严禁转载。转载须注明来源、原标题、著作者名,不得变更核心内容。