深度 | 确保人工智能安全，我们凭什么？

发布时间：2021-05-28

来源：网络

分享到：

随着人工智能及其在未来扮演的角色成为社会讨论的焦点，恩智浦也在探索一个关键问题：如何从开发流程着手，确保人工智能和机器学习的安全？

人工智能：不一样的开发过程

在恩智浦，我们会按照客户提出的正式要求，为硬件开发相应的功能。为了满足客户的要求，我们首先列出一些已知的输入信息，也就是用例。用例可能是雷达传感器在汽车中的位置（面朝前方或角落）、电动汽车电池的工作电压、汽车驾驶舱内的屏幕数量等。然后，我们再定义设计，验证功能是否按照预期方式工作，而且不仅在模拟环境中验证，还在实地环境中验证。在实地环境中，我们无法控制功能实际接收到的输入，因而我们要在选定的用例范围内，将功能设计得尽可能稳定可靠。

但对于人工智能，这个开发过程会有一点变化。我们仍然会定义用例，但还要为每个用例分配明确定义的输出。这个任务交给计算机完成，然后再定义功能。从示例中学习的过程可称为训练。我们要教计算机做出我们需要的响应。

一旦对计算机进行了用例训练，即可将这些知识转移到设备，让设备将知识应用于实地环境，更好地处理难以预知的数据。这个过程就称为推理。它与非人工智能流程的关键差别在于，在人工智能的开发中，工程师不一定像过去那样理解功能本身。

因此我们必须进行评估，调节机器的行为，直至输出的结果符合我们最初的预期。对于需要高计算量的设备，这个调节过程在云端进行，而不是在边缘进行。

实现安全的人工智能 / 机器学习

人工智能和机器学习将被应用于汽车安全功能，因而必须确保它们不会违反安全规则。从汽车行业背景来思考人工智能和机器学习时，汽车OEM面临的问题是如何了解特定功能的风险级别，以及它们可能对人造成的伤害。因此，在定义功能时，既要避免系统性故障，还要减少随机故障。我们利用安全管理流程和安全架构来满足这些要求，从而在由人管理的开发中，实现设备监控。

但是，仅遵循我们现有的开发流程是不够的，因为训练和推理在本质上有所不同。因此，我们需要定义不同的问题陈述。首先，我们必须了解训练数据是否存在系统性故障。我们还必须了解人工智能模型是如何创建的。该模型是否会产生可能导致系统性故障的不必要偏差？此外，在推理过程中，模型的执行是否存在随机故障？

在这一方面，机器学习质保可以发挥作用。机器学习质保涉及到训练和评估步骤的完整性、正确性和一致性。它涵盖所有顶级安全流程和数据管理。其目的是确保使用的数据是正确和完整的，不存在任何偏差。

在推理层面上，安全机制可以确保硬件的完整性。而这些硬件可能是任何形式的硬件内核。经典的安全机制具有ECC/奇偶校验、锁步和流量监控功能，另外还利用安全封装器加以增强，对数据进行更多检查，从统计上衡量安全性能。

恩智浦有关算法道德的白皮书阐述了恩智浦对人工智能开发完整性的看法，并探讨了可靠人工智能的安全性和透明度。我们有一款名为Auto eIQ的专用软件，可帮助开发人员评估和优化训练模型，并将训练模型部署到目标环境中，有助我们持续提高模型的可靠性。

继续阅读

强强联手，恩智浦半导体与RT-Thread建立合作伙伴关系!

恩智浦深耕中国市场，在过去几年中，与RT-Thread保持紧密合作，连续参与RT-Thread主办的全球技术峰会，年度开发者大会等重要活动，以i.MX RT跨界MCU平台为基础，支持IoT与Embedded GUI设计大赛，培养了强大的用户基础，也为开发者提供了创新研发的技术平台。

加大分布式雷达前瞻技术投入，恩智浦又有新动作

恩智浦半导体日前宣布对软件初创公司Zendar Inc.进行投资并展开合作。Zendar致力于通过高分辨率雷达改变汽车自动驾驶系统。此次投资旨在加速和提升自动驾驶（AD）和高级驾驶辅助系统（ADAS）的高分辨率雷达解决方案，进一步完善恩智浦领先的可扩展雷达产品组合。

恩智浦发布下一代汽车UWB IC：将安全测距和短程雷达功能合二为一！

恩智浦的下一代单芯片超宽带（UWB）解决方案TrimensionTM NCJ29D6B为安全汽车门禁带来安全精确的实时定位改进，相较于前代产品，增强了系统性能和安全性，并降低系统成本

恩智浦中国电气化应用实验室正式启动！

恩智浦半导体宣布恩智浦中国电气化应用实验室（以下称“电气化实验室”）正式启动。这是恩智浦在中国建设的首个专注于电气化领域的实验室，旨在通过一流的技术专家和实验设施为中国客户的应用开发提供高质、及时的支持和服务。这也是恩智浦持续践行本地化的又一重要举措。

确保个人身份证件安全！恩智浦加速推进JCOP ID 2安全eID解决方案

恩智浦半导体宣布推出JCOP®️ ID 2安全eID解决方案，旨在提高个人身份证件安全性，同时也符合近期发布的政府要求，并支持未来的发展变化。JCOP ID 2带有先进的全功能，旨在帮助政府在个人身份证件有效期内保障证件的安全性。