模型部署
围绕模型许可、制品、硬件与运行时配置完成模型部署。
大模型服务与推理引擎
让模型部署，
成为可调用的服务。
在受控环境中部署模型、配置推理后端并提供模型 API，为企业应用和 AI 服务业务建立模型供给。
SovereignEngine
ENGINE / 模型服务
模型目录
语言模型
多模态模型
运行后端AcceleratorStack
模型 API授权应用 / gateway-core
适用对象
企业 AI 团队、模型服务商与建设本地模型供给的算力经营者。
SovereignEngine
平台核心能力
运行后端
AcceleratorStack 是面向产品的运行层；GPUStack 作为受支持后端，用于模型部署、GPU 调度与推理管理。
模型 API
为授权应用提供具备协议兼容路由能力的模型接口。
运行与容量
监控模型状态、资源利用率与并发负载，并进行容量规划以保障服务稳定运行。
产品协作
Engine 提供模型执行与 API，gateway-core 直接连接其模型渠道并管理商品、客户额度、扣费与账单。Inference 独立管理算法工作负载，可按需调用模型服务；Compute 仅在需要统一资源运营时组合使用。
部署与集成
交付内容
选择模型、硬件与适合的 AcceleratorStack 后端，配置模型接口、运行监控与恢复流程；GPUStack 是受支持的默认后端。
- 模型、硬件与底层组件清单
- 模型部署与 API 接入配置
- 约定负载下的容量与恢复验收
- 部署、升级与运维移交文档
应用到您的业务