TinyML（微型机器学习）
在KB 级内存、毫瓦级功耗的 MCU/微控制器上部署机器学习模型的技术 — 让 AI 能跑在最末端的 IoT 设备里（温湿度传感器、智能门锁、可穿戴）。
定义
TinyML 通过模型压缩 + 算子优化 + 硬件协同设计，把通常需要 GPU/NPU 才能跑的神经网络压到 KB 级模型（vs 普通模型 MB-GB 级），跑在 Cortex-M0/M4、RISC-V 等微控制器上，功耗以毫瓦计。
关键指标（vs 普通边缘 AI）
| 维度 | TinyML | 普通边缘 AI |
|---|---|---|
| 模型大小 | <100 KB | 1-1000 MB |
| 内存占用 | <256 KB RAM | GB 级 |
| 功耗 | mW 级 | W 级 |
| 推理硬件 | MCU / Cortex-M | NPU / GPU |
| 典型场景 | 关键词唤醒、姿态识别、异常检测 | 视频分析、CV、NLP |
关键技术
- 量化 — INT8/INT4，甚至二值化
- 剪枝 — 移除冗余权重
- 蒸馏 — 大模型→小模型知识转移
- 算子融合 — 减少 MCU 调用开销
- NAS (Neural Architecture Search) — 自动搜索适配 MCU 的小模型
5-05 智慧城市 AIoT 中的角色
按 5-05-智慧城市-AIoT 报告：5G 确定性低时延（<10ms）配合 TinyML 边缘轻量化部署支撑车路协同、无人机巡检等场景。TinyML 推理能耗 -90%，使大规模部署成为可能 — 这是 AIoT 端侧设备激增（2025 IoT 设备 450 亿台）的关键技术使能。
与 4-04-模型部署与优化 关系
- 4-04 侧：TinyML 是模型部署优化的极限场景
- 5-05 侧：TinyML 是端侧落地的使能技术
- 工具链：TensorFlow Lite Micro、CMSIS-NN、TVM micro
与 AI 产业链关系
↑ up::4-04-模型部署与优化 — 模型压缩与端侧部署 ↓ down::5-05-智慧城市-AIoT 5-02-具身智能-人形机器人 5-16-AI交通-物流 — 端侧应用 ∈ belongs_to::5-05-智慧城市-AIoT