简介
—
随着人工智能和物联网技术的快速发展,物联网设备已深入到人们的社会生活当中,应用十分广泛。“边缘智能”这一概念应运而生。基于边缘计算这一新型的计算模式,边缘智能在更加靠近用户和数据源头的网络边缘侧这一位置训练和部署深度学习模型,从而改善AI应用的性能、成本和隐私性。智能物联网设备大规模的部署也带来了包括视频信息在内的数据爆炸的问题。未来几年,全球范围内链接的物联网终端设备数量将突破上百亿至千亿台。物联网系统通常采用电池或环境能量采集系统供电,并且物联网系统通常是多传感器节点系统,对能量供给系统工作时间要求较高。然而,近几十年来电池能量密度的增长十分缓慢,远远跟不上视觉信息感知应用爆炸式增长的速度。因此快速的传感数据处理需求增长与缓慢的能源技术发展构成了智能感知终端处理的主要矛盾,而发展高能效集成感知处理技术是解决这一主要矛盾的关键。
感存算一体
—
当今最常见的计算架构是建立在关于如何访问和使用内存的假设之上的。这些系统假设完整的内存空间太大,无法在处理器附近的芯片上安装,并且我们不知道在什么时间需要什么内存。为了解决空间问题和不确定性问题,这些架构构建了内存层次结构。
内存计算是使用不同的假设构建的:我们有大量需要访问的数据,但我们确切地知道何时需要它。这些假设对于AI推理应用程序是可能的,因为神经网络的执行流是确定性的 - 它不像许多其他应用程序那样依赖于输入数据。利用这些知识,我们可以战略性地控制数据在内存中的位置,而不是构建缓存层次结构来弥补我们缺乏知识的情况。存内计算还会将本地计算添加到每个内存阵列,允许它直接在每个内存旁边处理数据。