数据不能上传到外部环境
客户需求
客户已具备目标检测和地物分类模型，但模型原先依赖临时开发环境，无法直接进入内网长期运行。项目需要一台可以承载模型、数据目录和调用接口的本地设备。
本次项目任务
在内网环境中部署模型和推理服务，验证样例影像输入、任务执行、结果输出及多人访问方式。
实施难点
模型框架与加速环境需要匹配
开发环境与长期运行环境不同
项目人员需要统一的访问和使用方式
交付内容
- 01信创智算一体机
- 02模型推理与依赖环境
- 03样例任务和运行记录
- 04内网访问、调用与运维说明
实施过程
1. 确认模型与数据
梳理模型框架、依赖库、样例影像、输入输出和并发使用要求。
2. 配置一体机环境
完成操作系统、驱动、框架、数据目录和模型服务环境准备。
3. 完成样例验证
使用代表性影像检查模型加载、推理过程、结果输出和资源占用。
4. 接入内网使用
配置访问权限、调用方式、日志位置和日常启动维护说明。
验证结果
- 模型在本地设备完成加载、推理和结果输出验证
- 项目数据保留在客户现有内网环境中
- 形成项目人员可以持续使用的模型服务和交接资料
验证记录
- 模型加载、推理与结果输出记录
- 样例影像端到端任务记录
- 内网调用、日志与日常维护说明