边缘AI与云端AI对比
| 维度 | 边缘AI | 云端AI |
|---|---|---|
| 延迟 | 本地处理，通常更低 | 受网络和服务排队影响 |
| 离线能力 | 可持续运行 | 通常依赖网络 |
| 数据边界 | 原始数据可留在现场 | 需要上传或远程访问 |
| 算力弹性 | 受设备限制 | 易扩展但有持续成本 |
| 运维 | 需要管理分散设备 | 服务集中管理 |
很多项目采用边云协同：边缘完成实时推理和控制，云端负责设备管理、模型发布、统计分析和非实时任务。
系统架构
数据源 → 采集与预处理 → 边缘推理 → 规则与控制 → 本地结果 → 云端设备管理/样本回流。断网时需要明确数据缓存、任务降级、恢复同步和存储清理策略。
算力与模型
选型不能只看TOPS，需要使用目标模型测试框架支持、算子、精度、端到端吞吐、内存、功耗和温度。模型转换后要用同一评估集比较效果变化。
设备与软件
边缘应用负责视频流、传感器、推理调度、业务逻辑、日志和异常恢复。平台负责设备在线状态、配置、模型与固件版本、告警和远程维护。
应用场景
视觉质检、智能回收、动作分析、红外影像、现场安全、零售设备、科研仪器和传统设备AI升级。
实施流程
模型与业务指标审查 → 目标平台基准测试 → 模型转换与优化 → 数据管线开发 → 设备与平台联调 → 压力和长稳测试 → 小规模部署 → 运维体系建设。
技术难点
现场问题常来自相机断流、内存增长、温度降频、磁盘占满和网络波动，而不是模型本身。部署验收必须覆盖这些系统性故障。
案例参考与启动条件
智能功夫桩 需要在赛事现场完成多源采集与实时反馈；二手手机AI估价回收系统 需要把设备采集、AI结果和门店流程连接起来。两者业务不同，但都说明边缘AI必须与设备状态、数据质量和软件流程共同设计。启动评估时建议提供目标模型、样本、视频规格、接口、候选硬件和端到端时延要求。
常见问题
边缘AI和云端AI哪个更准确？
准确率取决于模型和数据，不由部署位置直接决定。边缘设备资源有限，可能需要压缩模型；云端算力更强，但增加网络延迟和数据传输。
边缘设备如何更新模型？
需要设备身份、版本管理、完整性校验、灰度发布、失败回滚和日志机制，不能只远程替换一个模型文件。