Abstract
Object detection (OD) has become vital for numerous computer vision applications, but deploying it on resource-constrained IoT devices presents a significant challenge. These devices, often powered by energy-efficient microcontrollers, struggle to handle the computational load of deep learning-based OD models. This issue is compounded by the rapid proliferation of IoT devices, predicted to surpass 150 billion by 2030. TinyML offers a compelling solution by enabling OD on ultra-low-power devices, paving the way for efficient and real-time processing at the edge. Although numerous survey papers have been published on this topic, they often overlook the optimization challenges associated with deploying OD models in TinyML environments. To address this gap, this survey paper provides a detailed analysis of key optimization techniques for deploying OD models on resource-constrained devices. These techniques include quantization, pruning, knowledge distillation, and neural architecture search. Furthermore, we explore both theoretical approaches and practical implementations, bridging the gap between academic research and real-world edge artificial intelligence deployment. Finally, we compare the key performance indicators (KPIs) of existing OD implementations on microcontroller devices, highlighting the achieved maturity level of these solutions in terms of both prediction accuracy and efficiency. We also provide a public repository to continually track developments in this fast-evolving field: this https URL.
Abstract (translated)
物体检测（OD）已成为众多计算机视觉应用的核心，但在资源受限的物联网设备上部署这一技术面临重大挑战。这些由节能微控制器驱动的设备难以处理基于深度学习的物体检测模型的计算负荷。此外，随着物联网设备数量的迅速增长——预计到2030年将超过150亿台——这个问题变得更加严峻。TinyML通过在超低功耗设备上启用物体检测提供了一个有吸引力的解决方案，从而为边缘端的有效实时处理铺平了道路。尽管已经发表了大量关于这一主题的研究综述文章，但它们往往忽略了与在TinyML环境中部署OD模型相关的优化挑战。为了弥补这一空白，本文对用于在资源受限设备上部署OD模型的关键优化技术进行了详细分析。这些技术包括量化、剪枝、知识蒸馏和神经架构搜索。 此外，我们还探讨了理论方法和实际应用之间的桥梁，弥合了学术研究与现实世界边缘人工智能部署之间的差距。最后，我们将现有的微控制器设备上的物体检测实现的关键性能指标（KPI）进行对比，并强调这些解决方案在预测准确性和效率方面所达到的成熟度水平。我们还提供了一个公开存储库以持续追踪这一快速发展的领域：[此链接](this https URL)。 --- 翻译： 物体检测（OD）已成为众多计算机视觉应用的核心，但在资源受限的物联网设备上部署该技术面临重大挑战。这些由节能微控制器驱动的设备难以处理基于深度学习的物体检测模型的计算负荷。随着物联网设备数量的迅速增长——预计到2030年将超过150亿台——这个问题变得更加严峻。TinyML通过在超低功耗设备上启用物体检测提供了一个有吸引力的解决方案，从而为边缘端的有效实时处理铺平了道路。 尽管已经发表了大量关于这一主题的研究综述文章，但它们往往忽略了与在TinyML环境中部署OD模型相关的优化挑战。为了弥补这一空白，本调查论文对用于在资源受限设备上部署物体检测模型的关键优化技术进行了详细分析。这些技术包括量化、剪枝、知识蒸馏和神经架构搜索。 此外，我们还探讨了理论方法和实际应用之间的桥梁，弥合了学术研究与现实世界边缘人工智能部署之间的差距。最后，我们将现有的微控制器设备上的物体检测实现的关键性能指标（KPI）进行了对比，并强调这些解决方案在预测准确性和效率方面所达到的成熟度水平。我们还提供了一个公开存储库以持续追踪这一快速发展的领域：[此链接](this https URL)。
URL
https://arxiv.org/abs/2508.08352
