AI 应用的默认架构是云端推理：终端采集数据，云端计算，结果回传。但模型压缩技术（量化、剪枝、蒸馏）的成熟，让中小模型可以直接跑在终端设备上——延迟更低、隐私更好、断网可用。
电商场景的边缘智能机会
- 线下智能货架。摄像头识别取货行为与库存水位，端侧完成识别，只上传结构化结果——响应快且省带宽。
- 门店客流分析。端侧做动线与驻留分析，原始视频不出设备，隐私合规压力大幅降低。
- 智能硬件。带屏音箱、智能试衣镜里的轻量推荐模型，断网也能提供基础服务。
技术路线的选择
端侧模型的选型逻辑与云端不同：参数量受设备算力约束（百 M 级是主流），任务必须收敛（推荐、识别、分类这类窄任务），更新机制要设计好（OTA 升级模型版本）。端云协同是常见架构——端侧兜底，云端增强。
务实的判断
边缘智能是特定场景的解，不是通用答案。判断标准很简单：对延迟敏感、对隐私敏感、对断网敏感的场景，考虑端侧；其余场景云端依然是最优解。别为了技术时髦支付不必要的复杂度。