为什么采用边缘AI
视觉检测、动作分析和设备控制常要求毫秒到秒级响应，且现场可能网络不稳定或数据不宜持续上传。边缘AI可在设备本地完成预处理和推理，只上传结果或必要样本。
系统总体架构
摄像头或传感器 → 数据采集与预处理 → 边缘推理引擎 → 业务规则与控制 → 本地界面或设备输出 → 云端设备管理与模型更新。需要为网络中断、存储占满、设备重启和模型异常设计恢复策略。
模型工程化
基于目标平台完成格式转换、算子检查、量化或半精度优化，并使用代表性数据对比转换前后的效果。性能测试应覆盖预处理、推理、后处理和数据传输的端到端延迟。
Jetson与RK3588等平台如何选择
| 判断维度 | 需要比较的内容 |
|---|---|
| 模型生态 | 框架、算子、工具链和调试便利性 |
| 性能 | 目标模型、精度、并发路数和实际吞吐 |
| 产品约束 | 功耗、散热、接口、尺寸和单机成本 |
| 维护 | 系统镜像、驱动、远程升级和长期供应 |
具体选择应通过目标模型和真实视频进行测试，不能只比较宣传算力数字。详见Jetson与RK3588如何选择 。
现场部署与运维
部署包应包含模型、运行时、设备配置、日志和版本信息。对规模化设备，需要设备身份、在线状态、配置下发、模型灰度、失败回滚和故障诊断能力。持续运行测试应观察温度、内存、存储、视频流和异常恢复。
适用场景
工业视觉检测、智能回收设备、运动与动作分析、红外影像处理、现场安全识别、科研仪器和传统设备智能化升级。
常见问题
所有AI模型都能部署到边缘设备吗？
不一定。需要结合算子支持、模型规模、精度损失、内存、延迟、功耗和设备成本评估，必要时进行模型替换、裁剪或量化。
边缘AI是否完全不需要云端？
不一定。很多产品采用边缘实时推理，云端负责设备管理、统计、模型发布和非实时任务。