AI 应用的巨大变化为全栈带来了许多创新,包括神经网络 (NN) 加速器的设计、运行时框架、新颖的 NN 算法和各种特定于场景的解决方案。 这些创新被积极地应用于对延迟和能耗有严格要求的边缘计算,甚至与其相互影响。与云端相比,这些创新点带来了独特的挑战和机遇。 本次报告将集中讨论这些挑战和机遇,并介绍我们团队在增强智能边缘计算能力方面所做的工作。我们的项目包括边缘运行时NN的实现,它充分考虑到异构边缘硬件的特性以获得实质性的加速,硬件感知的NN算法设计以在不同的边缘NN部署平台上实现实际效率,以及针对特定边缘AI应用的端到端解决方案。