边缘AI计算在自动驾驶汽车上的潜力

标签:边缘AI
分享到:

自动驾驶是边缘计算的重要应用,自动驾驶需要100-1000TOPS缘AI算力,其具有高性能、低功耗特点的边缘AI(Edge AI)成了行业壁垒。

AI计算需要域来优化算法和数据流架构,摩尔定律已逼近极限,若没有正确的算法和架构,仅基于处理技术的驱动性能将无法实现预期的结果。

整体边缘计算市场规模高速增长。图片来源:IDC

未来计算平台

第一类:冯·诺依曼人工智能架构

  • 哈佛大学推出了参数化深度学习基准套件ParaDNN,这是一种系统化、科学化的跨平台基准测试工具,不仅可以比较运行各种不同深度学习模型的各类平台的性能,还可以支持对跨模型属性交互作用的深入分析、硬件设计和软件支持。
  • TPU(Tensor Processing Unit, 即TPU张量处理单元)是谷歌打造的处理器,专为机器学习量身定做的,执行每个操作所需的晶体管数量更少,效率更高。TPU对CNN和DNN的大批量数据进行了高度优化,具有最高的训练吞吐量。
  • GPU表现出与TPU类似的性能,但对于不规则计算(如小批量和非MatMul计算)具有更好的灵活性和可编程性。
  • CPU在针对RNN方面实现了最高的FLOPS利用率,并且因其内存容量大而支持最大模型。

第二类:非 冯·诺依曼人工智能架构

  • 内存计算(CIM):基于SRAM、NAND闪存以及新兴内存(如ReRAM、CeRAM、MRAM)的CIM阵列被视为神经网络计算的可重新配置、可重新编程加速器。CIM优点:高性能、高密度、低功耗和低延迟。当前的挑战:读出位线模拟信号传感和专用RAM处理技术的ADC。
  • 神经形态计算:神经形态计算将AI扩展到与人类认知相对应的领域,如解释和自主适应。下一代人工智能必须能够处理新的情况和抽象,以自动化普通人类活动。
  • 量子计算:在量子计算中,最小的数据单位是基于磁场自旋的量子位。基于量子纠缠,量子计算允许2个以上的状态,纠缠速度非常快(比如:Google Sycamore、Quantum Supremay、53个Qbits、速度快1.5万亿倍、在200秒内完成一项需要经典计算机10000年才能完成的任务)。当前的挑战:嘈杂中型量子(NISQ)计算机中的错误率和消相干。
  • 量子神经形态计算:量子神经形态计算在类脑量子硬件中物理实现神经网络,以加快计算速度。

边缘AI与垂直应用

  • 边缘人工智能将主导未来的计算,人工智能是一种能实现未来水平和垂直应用的技术。
  • 水平人工智能应用解决了许多不同行业的广泛问题(例如计算机视觉和语音识别);垂直人工智能应用是针对特定领域进行高度优化的特定行业(例如高清地图、自动驾驶定位与导航)。

  • 凭借深厚的领域知识,高效的AI模型和算法可将计算速度提高10-100000倍。这是未来人工智能中最核心、最重要的自动驾驶技术。

  • 所有垂直应用解决方案均需要用于多任务的多级AI模型。

AI模型与算法

  • DNN是人工智能的基础,如今的DNN使用一种称为反向传播的学习形式。如今的DNN训练速度慢,训练后是静态的,有时在实际应用中不能灵活应变。
  • 迁移学习是一种将先前开发的DNN“回收”作为DNN学习第二项任务起点的方法,有了迁移学习,DNN可用较少的数据训练DNN模型。
  • 持续(终身)学习是指在保留先前学习经验的同时,通过适应新知识不断学习的能力。例如,与环境交互的自动驾驶需从自己的经验中学习,且必须能在长时间内逐步获取、微调和迁移知识。
  • 强化持续学习(RCL)通过精心设计的强化学习策略,为每个新任务寻找最佳的神经结构。RCL方法不仅在防止灾难性遗忘方面具有良好的性能,而且能很好地适应新的任务。

自动驾驶系统 (ADS) – 功能框图。图片来源:ARM

自主驾驶技术需要突破:

  • 边缘精确定位和导航–轻量化、基于指纹的精确定位和导航。
  • 关键实时响应–20-30毫秒,类似人脑
  • 消除盲区–V2X、V2I、DSRC、5G
  • 可升级–低功耗和低成本

图片来源:ARM

自动驾驶需要在高清地图、定位和环境感知中处理大量数据,边缘处理的所有数据都需要在关键的几毫秒内完成。在感知、定位、导航、强化交互(驾驶策略)方面智能精确地减少数据,将使自动驾驶系统缩短延迟,并快速响应不断变化的交通状况。

强大、高性能的边缘人工智能(Edge AI)是自动驾驶汽车领域主要壁垒之一。5G连接支持可靠的MIMO连接、低延迟、高带宽。在5G的加持下,强大的边缘AI,加之高清地图、定位和感知方面的创新,将使真正的自动驾驶成为现实。

继续阅读
AI承受巨大责任,“数据科学家”用它优化你的环境

人工智能作为一项交叉性学科,不仅包括了深度学习、机器算法等诸多核心技术领域,而且也涉及到研发创新、市场应用、人才培养、标准规范等多个环节,人工智能(AI)和机器学习(ML)一直是人们热议的焦点

AI与IoT的融合正在加速发展

人工智能(AI)和物联网(IoT)的技术趋势已经开始融合,业界将这种趋势命名为人工智能物联网(AIoT)。人工智能从云端向边缘移动,为阻碍物联网在关键市场更广泛采用的带宽和安全问题提供了解决方案。如果技术发展的历史是未来的可靠指南,那么在接下来的几年里,这种融合至少还有两个阶段要进行。

在边缘IoT设备上实现能量采集的技术对比

随着各企业都在追求数字化转型,各种类型的智能家居成为提高生活质量和可持续性的关键,物联网的部署正在不断的发展。

逾越AI时代的“南北”鸿沟

人工智能(AI)的发展,给世界带来了变革性影响,也给发展中国家带来了新的发展困境。在人工智能影响下,生产模式的“智能化”与“本地化”,使发展中国家的人口红利优势趋于消失,结构性失业压力越来越大,加剧发展中国家经济社会发展的落后性;智能化武器的出现,冲击发展中国家落后的军事实力,加大反恐难度,加剧发展中国家军事安全的脆弱性;先进国家的人工智能军备竞赛,危及发展中国家安全,加剧发展中国家对外关系和发展环境的不稳定性。

AI虚拟学生“华智冰”入学清华,人工智能未来可期

最近,机器人“华智冰”在社交媒体上发布的自我介绍视频一夜之间火爆全网。清华大学计算机系在发布会上宣布“华智冰”正式“入学”。