TinyML（微型机器学习）
在KB 级内存、毫瓦级功耗的 MCU/微控制器上部署机器学习模型的技术 — 让 AI 能跑在最末端的 IoT 设备里（温湿度传感器、智能门锁、可穿戴）。
关键指标（vs 普通边缘 AI）
| 维度 | TinyML | 普通边缘 AI |
|---|---|---|
| 模型大小 | <100 KB | 1-1000 MB |
| 内存占用 | <256 KB RAM | GB 级 |
| 功耗 | mW 级 | W 级 |
| 推理硬件 | MCU / Cortex-M | NPU / GPU |
| 典型场景 | 关键词唤醒、姿态识别、异常检测 | 视频分析、CV、NLP |
关键技术
- 量化 — INT8/INT4，甚至二值化
- 剪枝 — 移除冗余权重
- 蒸馏 — 大模型→小模型知识转移
- 算子融合 — 减少 MCU 调用开销
- NAS (Neural Architecture Search) — 自动搜索适配 MCU 的小模型
智慧城市 AIoT 中的角色
按 智慧城市·AIoT 报告：5G 确定性低时延（<10ms）配合 TinyML 边缘轻量化部署支撑车路协同、无人机巡检等场景。TinyML 推理能耗 -90%，使大规模部署成为可能 — 这是 AIoT 端侧设备激增（2025 IoT 设备 450 亿台）的关键技术使能。
与 模型部署与优化 关系
- 模型部署与优化 侧：TinyML 是模型部署优化的极限场景
- 智慧城市·AIoT 侧：TinyML 是端侧落地的使能技术
- 工具链：TensorFlow Lite Micro、CMSIS-NN、TVM micro