TinyML（微型机器学习）

TinyML 的技术栈围绕「在极端约束下运行」设计。

模型压缩：量化（Quantization）将 FP32 权重压缩至 INT8 甚至 INT4，内存减少 4-8 倍；剪枝（Pruning）移除不重要的权重连接，稀疏模型可减少 50-90% 计算量；知识蒸馏（Knowledge Distillation）将大模型知识转移到参数量 <100K 的微型模型。

推理框架：TensorFlow Lite Micro（Google）是最广泛使用的 TinyML 框架，支持 ARM Cortex-M、RISC-V 等架构；Edge Impulse 提供端到端开发平台（数据采集→模型训练→部署到设备）；Arduino IDE 支持一键部署到各类开发板。

硬件平台：Arduino Nano 33 BLE（Cortex-M4F，1MB Flash，256KB RAM）、STM32 系列（STMicroelectronics）、ESP32-S3（Espressif，内置 WiFi + AI 加速）。

2026 年，专用 TinyML 芯片兴起——Syntiant NDP120 功耗 <1mW，Amazon AZ3 功耗 <10mW。

TinyML 的典型应用覆盖多个行业。消费电子：wake-word 检测（Amazon Echo 的 AZ3 芯片）、手势识别（智能手表的加速度计数据分类）、环境光自适应（手机屏幕亮度自动调节）。

工业 IoT：异常声音检测（通过电机声音判断设备故障）、振动分析（预测性维护）、温度/湿度异常检测。农业：基于摄像头的病虫害识别（运行在太阳能供电的田间设备上）、土壤湿度预测。医疗健康：心电图异常检测（可穿戴设备本地推理，无需联网）、跌倒检测（老年人监护设备）。

智能家居：Occupancy detection（通过 CO2/温湿度传感器判断房间是否有人）、智能照明（根据环境光和人员活动自动调节）。TinyML 的核心价值在于：always-on（始终运行，功耗极低）、隐私保护（数据不出设备）、离线可用（无需网络连接）。

TinyML 是 Edge Inference（边缘推理）的极端形态。

Edge Inference 涵盖范围更广——包括手机（Apple Neural Engine，35 TOPS）、边缘服务器（NVIDIA Jetson，100+ TOPS）、IoT 网关（Google Edge TPU）等算力相对充裕的设备。

TinyML 聚焦于微控制器级别——Flash 内存 KB-MB 级、主频 MHz 级、功耗 mW-μW 级。两者的分界线约在 100KB Flash / 10MHz / 10mW 这个量级：高于此属于 Edge Inference，低于此属于 TinyML。

2026 年的趋势是两者融合——Amazon AZ3 芯片虽然功耗仅 <10mW，但支持比传统 TinyML 更复杂的模型（本地语音命令理解、基础视觉推理），模糊了 TinyML 和 Edge Inference 的边界。

选型建议：需要 always-on + 超低功耗选 TinyML（Syntiant NDP120），需要较强推理能力但仍在设备端选 Edge Inference（Qualcomm Hexagon NPU），两者组合使用可实现「TinyML 唤醒 → Edge Inference 理解」的分层架构。