边缘 AI 的神经形态芯片诞生,会开创人工智能新时代?

标签:边缘AI
分享到:

摘要:斯坦福大学工程师制作的NeuRRAM芯片,可以不用从云端发送与接收信息,直接在内存内进行AI处理,能够消除计算单元和内存单元之间的分离。具有更快、更安全、更便宜、更具可扩展性的特点,让更多人能够获取AI能力。

作者 | 斯坦福大学工程学院

译者 | 陈甜静 责编 | 屠敏

出品 | CSDN(ID:CSDNnews)

当前,AI芯片已成为最热门的投资领域,各种AI芯片如雨后春笋般冒出。从广义上讲,只要能够运行人工智能算法的芯片都叫做 AI芯片。但是通常意义上的AI芯片指的是针对人工智能算法做了特殊加速设计的芯片。

解决能源问题很关键

人工智能驱动的边缘计算在我们的生活中无处不在。无人机、智能可穿戴设备和工业物联网传感器等设备都配备了人工智能芯片,因此计算可以在数据发源地之互联网的“边缘”进行,可以实时处理并保证数据隐私。

在今天的人工智能芯片中,数据处理和数据存储在计算单元和内存单元中。这些单元之间频繁的数据移动消耗了人工智能处理过程中的大部分能量,而微型边缘设备上的人工智能功能会受到电池容量的限制。因此减少数据移动是解决能源问题的关键。

NeuRRAM 芯片的能效不仅是最先进芯片的两倍,而且用途广泛,提供的结果与传统数字芯片一样准确。(图片来源:David Baillot/加州大学圣地亚哥分校。)

为解决这一问题,斯坦福大学的工程师于近日发布了一款新颖的电阻式随机存取存储器(RRAM)芯片。此芯片特点是在内存内进行AI处理,消除计算单元和内存单元之间的分离。虽然体积很小但是效率很高。

“在芯片上完成计算过程,而不是从云端发送与接收信息。能够实现更快、更安全、更便宜、更具可扩展性的能力”,H.-S Philip Wong工程学院的Willard R.和Inez Kerr Bell教授谈道。

“通过我们的芯片,展示了如何应对移动中的低效问题。”刚从斯坦福大学毕业的Weier Wan补充道。

他们在Nature杂志最近的一篇文章中介绍了NeuRRAM。虽然内存计算已经存在了几十年,但该芯片是第一个在硬件上实际演示广泛的AI应用程序的芯片,不仅仅是通过模拟。

将计算能力放在设备上

为了克服数据移动瓶颈,研究人员实现了一种内存计算(CIM),这是一种新颖的芯片架构,可以直接在内存中而不是在单独的计算单元中执行AI计算。NeuRRAM使用的存储技术是电阻式随机存取存储器(RRAM),这是一种非易失性存储器,其特点是即使断电也能保留数据,目前其已经应用于商业产品中。RRAM可以在小面积内存储大型AI模型,并且功耗极低,非常适合小尺寸和低功耗的边缘设备。

NeuRRAM论文的共同资深作者Wong表示:“这是将大量内存直接集成到神经网络芯片上并呈现所有基准测试结果,通过硬件测量的首批实例之一。”

NeuRRAM的架构是与加州大学圣地亚哥分校的Gert Cauwenberghs实验室合作设计的,该实验室开创了低功耗神经形态硬件设计的先河。此架构允许芯片以低功耗和紧凑面积的方法执行模拟内存计算,还支持数据流方向的可重构性以及各种AI工作负载映射策略,并且可以与不同类型的AI算法一起工作。

为了展示NeuRRAM人工智能能力的准确性,该团队测试了它在不同任务中的运作方式。他们发现MNIST数据集的字母识别准确率为99%,CIFAR-10数据集的图像分类准确率为85.7%,谷歌语音命令识别准确率为84.7%,贝叶斯算法的图像重建错误减少了70%。

“效率、多功能性和准确性都是应用该技术时要考虑的重要方面,但要同时实现它们并不简单。关键在于要从硬件到软件整个堆栈共同优化。”Wan表示道。

推动未来的边缘计算

目前,NeuRRAM只是一种物理概念层面的验证,但要转化为实际的边缘设备则需要更多开发。

这种结合效率、准确性和执行不同任务的能力充分展示了芯片的潜力。Wan说:“也许目前它只用于执行简单的人工智能任务,例如关键字定位或人体检测,但未来它可以实现完全不同的用户体验。我们需要继续改进设计并将RRAM扩展到更先进的技术节点。”

电气工程助理教授Priyanka Raina谈道 “这项工作为RRAM设备工程、内存计算的编程模型和神经网络设计的未来研究开辟了多种途径,同时能够使该技术可扩展并供软件开发人员使用。

如果成功,像NeuRRAM这样的RRAM内存计算芯片具有几乎无限的潜力。它们可以嵌入农田进行实时人工智能计算,根据当前土壤条件调整灌溉系统。他们也可以将VR眼镜从功能有限的笨重形态变成更类似于Tony Stark在钢铁侠和复仇者联盟电影中的虚拟屏幕。“大规模生产这些芯片会更加便宜,且适应性强、功耗低,可以用于改善我们的日常生活,如用于家庭健康监测的医疗设备。也可用于解决从气候变化到粮食安全的各种问题。”Wong总结道。

继续阅读
AI时代可能来的有点早,这些职业危险了!

《流浪地球2》中的550系列量子计算机给人印象深刻,能在极短的时间内以人类无法比拟的效率完成巨大的行星发动机的3D打印工作。甚至,还进化出了人工智能:MOSS。

“裁掉人工,雇佣AI”,ChatGPT开始替代人类

只要在ChatGPT的聊天框里把自己的写作需求告诉AI,等上几十秒后,一篇整合大数据、纯原创、观点鲜明的文章就新鲜出炉了。

AI时代下,设计行业的未来

AI人工智能正在越来越多领域中被应用,那么除了AI绘画,在设计领域里,AI人工智能还能在哪些领域发挥功能?在本篇文章里,作者便发表了他的看法,对AI未来在设计领域可发挥的作用进行了总结,一起来看一看吧。

到2032年,边缘人工智能市场将达到近400亿美元

根据Future Market Insights的新研究,到2032年底,边缘人工智能市场将达到396亿美元。

生成式AI已掀起浪潮,但还没走出伦理困境

近来,AIGC(生成式人工智能)火了、而且是爆红。在《Science》此前发布的2022年度科学十大突破中,AIGC就赫然在列,并且在诸多大厂、相关机构的2023年科技趋势预测中,AIGC也成为了继NFT、元宇宙、Web3之后,俨然又一个“出圈”的风口。

精彩活动