3、低功耗计算机视觉中的高效深度神经网络技术

低功耗计算机视觉中的高效深度神经网络技术

在当今科技发展中，计算机视觉领域取得了显著进展，尤其是深度神经网络（DNNs）在众多计算机视觉任务中表现出色。然而，DNNs存在能耗高、计算量大和内存需求大的问题，限制了其在大多数移动和嵌入式设备上的部署。为了解决这一问题，研究人员致力于开发使DNNs更高效的技术，以实现计算机视觉在电池供电的移动设备上的广泛应用。

1. 深度神经网络的挑战

深度神经网络在计算机视觉任务中取得了显著突破，但其巨大的计算和能源成本也成为了部署的障碍。例如，流行的视觉几何组网络（VGG - 16）处理单张图像需要150亿次操作，这超出了大多数嵌入式设备的能力范围，通常需要高性能的GPU或加速器服务器。实验表明，即使是最快的目标检测器之一YOLOv3，在没有GPU的英特尔“Kaby Lake”酷睿i7处理器上处理单张图像也需要长达4.9秒。

如今，数十亿的移动和嵌入式设备配备了高清摄像头，但这些设备通常没有GPU。为了处理这些设备捕获的图像或视频，计算机视觉从业者常常将计算任务卸载到云端。然而，许多应用场景无法进行卸载，如在网络覆盖不可靠区域飞行的无人机，或卫星应用中卸载计算成本过高。此外，隐私问题也限制了基于云的解决方案的适用性。因此，降低计算机视觉的计算需求，使更多嵌入式设备能够在不卸载的情况下处理数据显得尤为重要。

研究表明，DNNs在执行计算机视觉任务时，相当一部分计算是冗余的。这些冗余操作可以从DNN中移除，从而在不显著损失准确性的情况下提高效率。