发布DeepSeek私有化部署方案,超算互联网加速企业AI应用创新
2025-02-13 17:09:50
来源:发布DeepSeek私有化部署方案,超算互联网加速企业AI应用创新 作者:-
为助力更多企业及专业开发者部署包括DeepSeek在内的AI开源模型,近日国家超算互联网平台发布了“DeepSeek私有化部署方案”。方案依托丰富的轻量化AI工具,支持企业用户部署完整的DeepSeek对外API服务接口,实现AI应用创新。
“DeepSeek私有化部署方案”不仅支持企业用户与开发者调用部署完整的DeepSeek对外API服务接口,还可根据实际业务场景深度定制,实现AI应用创新。
超算互联网提供平台的丰富轻量化工具,支持企业实现AI部署在线调试及快速验证功能。而如多实例启动、线上服务扩缩容、服务版本管理等平台工具,也支撑企业在线推理场景中的多元应用诉求。
「操作指导」
第1步:Notebook轻量级开发工具开发调试;在Notebook中选择【异构加速卡AI】资源,并选择开发环境。在【模型镜像】处挑选目标镜像,现阶段平台提供DeepSeek R1(671B、70B、32B、14B、8B、7B、1.5B )系列模型。
实例启动后可参考Markdown指引,调试部署参数或个性化开发,支持WebUI或API接口服务调试,完成后可保存镜像。
▲DeepSeek-R1模型镜像创建界面
第2步:模型部署服务快速部署模型;基于平台镜像管理功能,企业用户与开发者可直接推送Notebook中保存的镜像到【模型部署】服务中使用;填写API调用地址,选择【异构加速卡AI】资源,快速部署为线上服务,获取API接口。
▲DeepSeek-R1模型部署开发界面
责任编辑:小菲
新闻推荐