深度 | 确保人工智能安全,我们凭什么?

分享到:

11
随着人工智能及其在未来扮演的角色成为社会讨论的焦点,恩智浦也在探索一个关键问题:如何从开发流程着手,确保人工智能和机器学习的安全?
 
人工智能:不一样的开发过程
 
在恩智浦,我们会按照客户提出的正式要求,为硬件开发相应的功能。为了满足客户的要求,我们首先列出一些已知的输入信息,也就是用例。用例可能是雷达传感器在汽车中的位置(面朝前方或角落)、电动汽车电池的工作电压、汽车驾驶舱内的屏幕数量等。然后,我们再定义设计,验证功能是否按照预期方式工作,而且不仅在模拟环境中验证,还在实地环境中验证。在实地环境中,我们无法控制功能实际接收到的输入,因而我们要在选定的用例范围内,将功能设计得尽可能稳定可靠。
12
 
但对于人工智能,这个开发过程会有一点变化。我们仍然会定义用例,但还要为每个用例分配明确定义的输出。这个任务交给计算机完成,然后再定义功能。从示例中学习的过程可称为训练。我们要教计算机做出我们需要的响应。 
 
一旦对计算机进行了用例训练,即可将这些知识转移到设备,让设备将知识应用于实地环境,更好地处理难以预知的数据。这个过程就称为推理。它与非人工智能流程的关键差别在于,在人工智能的开发中,工程师不一定像过去那样理解功能本身。
13
 
因此我们必须进行评估,调节机器的行为,直至输出的结果符合我们最初的预期。对于需要高计算量的设备,这个调节过程在云端进行,而不是在边缘进行。 
 
实现安全的人工智能 / 机器学习
 
人工智能和机器学习将被应用于汽车安全功能,因而必须确保它们不会违反安全规则。从汽车行业背景来思考人工智能和机器学习时,汽车OEM面临的问题是如何了解特定功能的风险级别,以及它们可能对人造成的伤害。因此,在定义功能时,既要避免系统性故障,还要减少随机故障。我们利用安全管理流程和安全架构来满足这些要求,从而在由人管理的开发中,实现设备监控。
 
但是,仅遵循我们现有的开发流程是不够的,因为训练和推理在本质上有所不同。因此,我们需要定义不同的问题陈述。首先,我们必须了解训练数据是否存在系统性故障。我们还必须了解人工智能模型是如何创建的。该模型是否会产生可能导致系统性故障的不必要偏差?此外,在推理过程中,模型的执行是否存在随机故障?
 
在这一方面,机器学习质保可以发挥作用。机器学习质保涉及到训练和评估步骤的完整性、正确性和一致性。它涵盖所有顶级安全流程和数据管理。其目的是确保使用的数据是正确和完整的,不存在任何偏差。
 
在推理层面上,安全机制可以确保硬件的完整性。而这些硬件可能是任何形式的硬件内核。经典的安全机制具有ECC/奇偶校验、锁步和流量监控功能,另外还利用安全封装器加以增强,对数据进行更多检查,从统计上衡量安全性能。
14
恩智浦有关算法道德的白皮书阐述了恩智浦对人工智能开发完整性的看法,并探讨了可靠人工智能的安全性和透明度。我们有一款名为Auto eIQ的专用软件,可帮助开发人员评估和优化训练模型,并将训练模型部署到目标环境中,有助我们持续提高模型的可靠性。
相关资讯
智能互联无人机助力提升野火响应能力

恩智浦正与高光谱成像专家Qtechnology紧密合作,集成并演示植被监测无人机。该无人机可在人类团队难以直接抵达、危险或无法进入的区域收集关键的环境信息,为了解可能影响野火行为的植被状况提供宝贵洞察。

恩智浦荣获2026金辑奖中国汽车新供应链百强,以S32K5加速软件定义汽车区域架构演进

日前,2026第八届金辑奖『“中国方案”向全球』颁奖典礼在上海举行。恩智浦半导体凭借S32K5汽车微控制器系列,荣获2026金辑奖中国汽车新供应链百强奖项。恩智浦大中华区汽车电子事业部资深总监周翔出席典礼并代表公司领奖。

大众汽车集团与恩智浦强化战略合作,S32K5赋能大众汽车下一代SDV架构开发

大众汽车集团与恩智浦半导体在沃尔夫斯堡国际供应商博览会 (IZB) 开幕前宣布,双方已达成战略合作伙伴关系。恩智浦S32K5系列微控制器 (MCU) 将成为大众汽车集团未来软件定义汽车 (SDV) 架构的重要构建模块,支持集团旗下所有品牌和车型的区域控制器设计。搭载这一新架构的首款汽车计划于2027年推出。

恩智浦举办创新技术峰会,携手中国合作伙伴共启物理AI新篇章

日前,恩智浦半导体在上海举办创新技术峰会。作为恩智浦深耕中国市场四十周年的重要节点,本届峰会汇聚恩智浦及生态伙伴的系统级创新方案,覆盖边缘AI、具身智能与机器人、软件定义汽车、域控架构、汽车雷达、电气化、互联汽车、工厂自动化、电力与能源管理、医疗健康等应用领域。通过主题演讲、技术论坛与场景化方案展示,峰会全面呈现物理AI时代的产业变革趋势与落地实践,推动中国丰富的创新实践加速转化为面向未来的智能系统应用

恩智浦荣获“边缘AI芯片领军企业奖”,持续推动边缘AI创新与产业落地

近日,在elexcon2026第23届深圳国际电子展暨嵌入式展举办的“嵌入式与边缘AI创新奖”评选中,恩智浦半导体荣获“边缘AI芯片领军企业奖”。该奖项旨在表彰在边缘AI领域实现技术突破、产品创新及产业化落地的代表性企业。

精彩活动