AI数据安全问题频发 技术、法律如何解决

分享到:

6月3日,瑞莱智慧科技有限公司(下称“瑞莱智慧”)CEO田天在2021北京智源大会上对记者表示,“人工智能导致的数据安全风险正成为一个不容忽视的现象,当我们采用人工智能时,必须考虑到这项技术的安全性、可靠性、合规治理,而第三代人工智能正在致力于解决该问题”。

普华永道预测,到2030年全球人工智能市场规模预计将达到了15.7万亿美元,约合人民币104万亿人民币。人工智能具有很多突出的技术优势,但它在很大程度上依赖数据,当数据未能被妥善治理,那么人工智能的发展也就受到阻碍。

在大会的分会场“AI安全与产业治理”论坛上,中国信息通信研究院安全所信息安全研究部主任魏薇表示,人工智能正导致一系列数据安全风险,包括数据的过度采集、数据偏见歧视、数据智能窃取、数据资源滥用等,这些都对国家和社会安全带来一定挑战。

第三代人工智能

中国科学院院士张钹曾对当前人工智能的技术阶段进行划分,目前人工智能技术已经走入第三代,过去的第一代人工智能,是以知识驱动的,很难大规模应用,第二代人工智能以数据驱动,包括深度学习、深度神经网络技术,可以形成语音识别、人脸识别等应用,但是技术本身的可靠性有待加强。那么第三代人工智能将致力于解决安全、可靠性等问题。

张钹是清华大学人工智能研究院院长,该研究院曾在2018年孵化了瑞莱智慧公司。该公司的CEO田天在会议上表示,当前第三代人工智能的几个重要任务是,首先,要解决技术的安全问题,作为一类全新的系统和软件,人工智能的算法会存在新的漏洞,而黑客或者黑产会利用系统漏洞来进行恶意攻击。

其次,要解决可解释性的问题,目前第二代人工智能深度神经网络是一个”黑盒“,即便是设计者也并不理解它是如何做决策的,对于落地的场景,也无法给一个合理的解释,这和现在很多应用场景是相悖的。

然后,解决可扩展性的问题。目前能做的人工智能场景有限,人类如何基于已获得的知识或模型,让技术在新的场景上发挥作用。

田天表示,这三大任务几乎针对人工智能的所有应用,其中最典型的一个场景是人脸识别。目前人脸识别可以做到99%的精度,但是一旦受到恶意攻击,出错几率几乎是100%,可以说人脸识别的安全性是明显不足的。

另一个危险是,目前有商家制作虚拟视频,恶意传播,对人脸识别技术滥用,这在经济和社会舆论上产生很大的负面影响。那么如何检测人脸是否被滥用,也在第三代人工智能要解决的问题范畴内。

技术、法律的解决方案

业界安全意识的发展,经历了一个过程。田天表示,人工智能学术领域从2014、2015年就开始关注该方向,瑞莱智慧也在当时正式提出相关的研究,至2017、2018年,安全方面的技术在学术界已经成形。

同时,一些实际的案例爆发式出现,尤其在2018年之后,这让整个产业界开始反思,即是否需要提高人工智能发展的质量。当时国家相关部门也开始从法规标准上推进。内外驱动之下,推进了2019、2020年人工智能安全性技术的爆发增长。

针对安全问题,技术将发挥起基础性的作用。田天表示,RealAI推出了一系列更加安全可控的人工智能基础设施,作为一项产品,这是基于安全多方计算、联邦学习、匿踪查询等技术打造的数据安全共享基础设施RealSecure,用于解决数据隐私难题;针对人工智能系统推出的防火墙与杀毒软件平台RealSafe,能够为人脸识别、目标检测、图像分类等应用提供有效的安全检测与防御加固服务。

技术之外,会议还对数据治理的法律解决路径进行了探讨。魏薇表示,人工智能数据安全治理需加快法律法规的建立,确立不同主体人工智能数据权力与安全责任,设立问责制,制定和细化相关部门规章,开展人工智能数据安全执法,加大执法惩戒力度等。

经济观察网 记者 沈怡然 6月3日,瑞莱智慧科技有限公司(下称“瑞莱智慧”)CEO田天在2021北京智源大会上对记者表示,“人工智能导致的数据安全风险正成为一个不容忽视的现象,当我们采用人工智能时,必须考虑到这项技术的安全性、可靠性、合规治理,而第三代人工智能正在致力于解决该问题”。

普华永道预测,到2030年全球人工智能市场规模预计将达到了15.7万亿美元,约合人民币104万亿人民币。人工智能具有很多突出的技术优势,但它在很大程度上依赖数据,当数据未能被妥善治理,那么人工智能的发展也就受到阻碍。

在大会的分会场“AI安全与产业治理”论坛上,中国信息通信研究院安全所信息安全研究部主任魏薇表示,人工智能正导致一系列数据安全风险,包括数据的过度采集、数据偏见歧视、数据智能窃取、数据资源滥用等,这些都对国家和社会安全带来一定挑战。

第三代人工智能

中国科学院院士张钹曾对当前人工智能的技术阶段进行划分,目前人工智能技术已经走入第三代,过去的第一代人工智能,是以知识驱动的,很难大规模应用,第二代人工智能以数据驱动,包括深度学习、深度神经网络技术,可以形成语音识别、人脸识别等应用,但是技术本身的可靠性有待加强。那么第三代人工智能将致力于解决安全、可靠性等问题。

张钹是清华大学人工智能研究院院长,该研究院曾在2018年孵化了瑞莱智慧公司。该公司的CEO田天在会议上表示,当前第三代人工智能的几个重要任务是,首先,要解决技术的安全问题,作为一类全新的系统和软件,人工智能的算法会存在新的漏洞,而黑客或者黑产会利用系统漏洞来进行恶意攻击。

其次,要解决可解释性的问题,目前第二代人工智能深度神经网络是一个”黑盒“,即便是设计者也并不理解它是如何做决策的,对于落地的场景,也无法给一个合理的解释,这和现在很多应用场景是相悖的。

然后,解决可扩展性的问题。目前能做的人工智能场景有限,人类如何基于已获得的知识或模型,让技术在新的场景上发挥作用。

田天表示,这三大任务几乎针对人工智能的所有应用,其中最典型的一个场景是人脸识别。目前人脸识别可以做到99%的精度,但是一旦受到恶意攻击,出错几率几乎是100%,可以说人脸识别的安全性是明显不足的。

另一个危险是,目前有商家制作虚拟视频,恶意传播,对人脸识别技术滥用,这在经济和社会舆论上产生很大的负面影响。那么如何检测人脸是否被滥用,也在第三代人工智能要解决的问题范畴内。

技术、法律的解决方案

业界安全意识的发展,经历了一个过程。田天表示,人工智能学术领域从2014、2015年就开始关注该方向,瑞莱智慧也在当时正式提出相关的研究,至2017、2018年,安全方面的技术在学术界已经成形。

同时,一些实际的案例爆发式出现,尤其在2018年之后,这让整个产业界开始反思,即是否需要提高人工智能发展的质量。当时国家相关部门也开始从法规标准上推进。内外驱动之下,推进了2019、2020年人工智能安全性技术的爆发增长。

针对安全问题,技术将发挥起基础性的作用。田天表示,RealAI推出了一系列更加安全可控的人工智能基础设施,作为一项产品,这是基于安全多方计算、联邦学习、匿踪查询等技术打造的数据安全共享基础设施RealSecure,用于解决数据隐私难题;针对人工智能系统推出的防火墙与杀毒软件平台RealSafe,能够为人脸识别、目标检测、图像分类等应用提供有效的安全检测与防御加固服务。

技术之外,会议还对数据治理的法律解决路径进行了探讨。魏薇表示,人工智能数据安全治理需加快法律法规的建立,确立不同主体人工智能数据权力与安全责任,设立问责制,制定和细化相关部门规章,开展人工智能数据安全执法,加大执法惩戒力度等。

继续阅读
安全、隐私以及智能家居的兴起

由于联网智能家居设备的兴起,公寓社区应该注意哪些安全和隐私威胁?

在云中确保安全的五个技巧

英国电信(BT)公司全球咨询总监Tris Morgan对如何在云计算基础设施中确保安全的五个技巧进行了阐述和分析。

中国的“AI技术”已经领先全球,人才的创新发展少不了!

自1972年建业以来,如意集团矢志不渝地坚持发展纺织服装产业生态链,全球专业招聘集团瀚纳仕之前发布了《中国大陆科技行业报告》,公司目前正致力于发展纺织服装产业的生态链,近年来,随着人工智能的兴起,人才的供给方和供给方都有差异,而且越来越多的人也转投到了算法工程师的领域,人才缺口正在不断填补,这也意味着未来竞争将更加激烈。

AI 芯片:为何它们如此重要?

环顾四周,你可能就会意识到人工智能已经变得非常重要。无论是面部识别摄像头还是语音助手,人工智能已经实现了这一切。这为人们对 AI 芯片究竟是什么以及它与其他芯片的不同之处的充满了好奇。此外,人工智能芯片市场被高度重视的事实更成为人们为什么应该了解人工智能芯片的一个重要因素。

人工智能如何防止数据泄露后的疲劳现象

数据泄露的疲劳是一个长期存在的问题。首席信息安全官(CISO)因不断灭火和处理违规事件所带来的后果而感到不堪重负,安全团队也感到疲惫不堪。消费者也因为有这么多的数据泄露事件,以及他们对网络安全的整体缺乏了解而选择了调离。