边缘 AI 的神经形态芯片诞生,会开创人工智能新时代?

标签:边缘AI
分享到:

摘要:斯坦福大学工程师制作的NeuRRAM芯片,可以不用从云端发送与接收信息,直接在内存内进行AI处理,能够消除计算单元和内存单元之间的分离。具有更快、更安全、更便宜、更具可扩展性的特点,让更多人能够获取AI能力。

作者 | 斯坦福大学工程学院

译者 | 陈甜静 责编 | 屠敏

出品 | CSDN(ID:CSDNnews)

当前,AI芯片已成为最热门的投资领域,各种AI芯片如雨后春笋般冒出。从广义上讲,只要能够运行人工智能算法的芯片都叫做 AI芯片。但是通常意义上的AI芯片指的是针对人工智能算法做了特殊加速设计的芯片。

解决能源问题很关键

人工智能驱动的边缘计算在我们的生活中无处不在。无人机、智能可穿戴设备和工业物联网传感器等设备都配备了人工智能芯片,因此计算可以在数据发源地之互联网的“边缘”进行,可以实时处理并保证数据隐私。

在今天的人工智能芯片中,数据处理和数据存储在计算单元和内存单元中。这些单元之间频繁的数据移动消耗了人工智能处理过程中的大部分能量,而微型边缘设备上的人工智能功能会受到电池容量的限制。因此减少数据移动是解决能源问题的关键。

NeuRRAM 芯片的能效不仅是最先进芯片的两倍,而且用途广泛,提供的结果与传统数字芯片一样准确。(图片来源:David Baillot/加州大学圣地亚哥分校。)

为解决这一问题,斯坦福大学的工程师于近日发布了一款新颖的电阻式随机存取存储器(RRAM)芯片。此芯片特点是在内存内进行AI处理,消除计算单元和内存单元之间的分离。虽然体积很小但是效率很高。

“在芯片上完成计算过程,而不是从云端发送与接收信息。能够实现更快、更安全、更便宜、更具可扩展性的能力”,H.-S Philip Wong工程学院的Willard R.和Inez Kerr Bell教授谈道。

“通过我们的芯片,展示了如何应对移动中的低效问题。”刚从斯坦福大学毕业的Weier Wan补充道。

他们在Nature杂志最近的一篇文章中介绍了NeuRRAM。虽然内存计算已经存在了几十年,但该芯片是第一个在硬件上实际演示广泛的AI应用程序的芯片,不仅仅是通过模拟。

将计算能力放在设备上

为了克服数据移动瓶颈,研究人员实现了一种内存计算(CIM),这是一种新颖的芯片架构,可以直接在内存中而不是在单独的计算单元中执行AI计算。NeuRRAM使用的存储技术是电阻式随机存取存储器(RRAM),这是一种非易失性存储器,其特点是即使断电也能保留数据,目前其已经应用于商业产品中。RRAM可以在小面积内存储大型AI模型,并且功耗极低,非常适合小尺寸和低功耗的边缘设备。

NeuRRAM论文的共同资深作者Wong表示:“这是将大量内存直接集成到神经网络芯片上并呈现所有基准测试结果,通过硬件测量的首批实例之一。”

NeuRRAM的架构是与加州大学圣地亚哥分校的Gert Cauwenberghs实验室合作设计的,该实验室开创了低功耗神经形态硬件设计的先河。此架构允许芯片以低功耗和紧凑面积的方法执行模拟内存计算,还支持数据流方向的可重构性以及各种AI工作负载映射策略,并且可以与不同类型的AI算法一起工作。

为了展示NeuRRAM人工智能能力的准确性,该团队测试了它在不同任务中的运作方式。他们发现MNIST数据集的字母识别准确率为99%,CIFAR-10数据集的图像分类准确率为85.7%,谷歌语音命令识别准确率为84.7%,贝叶斯算法的图像重建错误减少了70%。

“效率、多功能性和准确性都是应用该技术时要考虑的重要方面,但要同时实现它们并不简单。关键在于要从硬件到软件整个堆栈共同优化。”Wan表示道。

推动未来的边缘计算

目前,NeuRRAM只是一种物理概念层面的验证,但要转化为实际的边缘设备则需要更多开发。

这种结合效率、准确性和执行不同任务的能力充分展示了芯片的潜力。Wan说:“也许目前它只用于执行简单的人工智能任务,例如关键字定位或人体检测,但未来它可以实现完全不同的用户体验。我们需要继续改进设计并将RRAM扩展到更先进的技术节点。”

电气工程助理教授Priyanka Raina谈道 “这项工作为RRAM设备工程、内存计算的编程模型和神经网络设计的未来研究开辟了多种途径,同时能够使该技术可扩展并供软件开发人员使用。

如果成功,像NeuRRAM这样的RRAM内存计算芯片具有几乎无限的潜力。它们可以嵌入农田进行实时人工智能计算,根据当前土壤条件调整灌溉系统。他们也可以将VR眼镜从功能有限的笨重形态变成更类似于Tony Stark在钢铁侠和复仇者联盟电影中的虚拟屏幕。“大规模生产这些芯片会更加便宜,且适应性强、功耗低,可以用于改善我们的日常生活,如用于家庭健康监测的医疗设备。也可用于解决从气候变化到粮食安全的各种问题。”Wong总结道。

继续阅读
AI制药的“野心”:做真正颠覆创新型的药物

“人类受限于生理极限,需要把复杂的问题降维,这个过程其实把很多东西都割裂了,但AI可以在高维的空间内去提炼规律,所以越是复杂的、人类难以理解的东西,其实越适合AI。”

算法、算力、数据,AI落地现在还需要AI工程化

2020年,Gartner发布《2021年重要战略技术趋势》,认为AI工程化(AI Engineering)将是“需要深挖的趋势”,到了2021年年底,在Gartner的《2022年十二大重要战略技术趋势》中,AI工程化又被进一步明确为未来三到五年“企业数字业务创新的加速器”;

最新 AI 技术无创解码“大脑语言”,准确率达 73%

9 月 14 日上午消息,据报道,目前,人工智能技术使得非侵入式大脑解码技术更进一步!尽管该技术尚不能使无法语言交流人群像正常人那样谈笑风生,但可使科学家精准解码他们的语音内容。

AI工具能预测冠状病毒未来变种

瑞士科学家研制出一种新型人工智能(AI)工具,可以预测包括新冠病毒在内的冠状病毒未来变种,有望促进下一代抗体疗法及疫苗的研发,为制定公共卫生政策提供重要参考。相关研究刊发于最新一期《细胞》杂志。

AI标准化将给未来智能世界带来什么惊喜?

前三次工业革命,不论是蒸汽、电力还是信息时代,都没有像AI一样让人如此充满兴趣,对未来的智能程度有更多接近影视科技的想象。AI不仅仅是智能化时代的更迭,同样也将是全面实现技术革新,解放人类劳作的时代。而现在,更多的AI企业已经开始着手打造标准化的人工智能世界。

精彩活动