当前人类社会面临的人工智能安全问题有哪些?

标签:人工智能
分享到:

在科技发展史上,科学技术的每一次进步和变革都会不可避免地带来“双刃剑”效应。

人工智能技术也是如此,它的提出到应用正在以惊人的速度改变着我们的生活方式,逐步渗透到了工业制造、家居、教育、医疗、物流等各行各业中。

虽然人工智能尚处于发展阶段,但这项技术可能带来的安全、伦理、隐私等一系列问题早已引起了人们的关注,这些问题直接影响着人们对人工智能技术的信任程度,随着智能革命的发展人们的生活也将迎来一场翻天覆地的变化。

当前人类社会面临的人工智能安全问题:鉴于人工智能算法与系统的特点,因人工智能技术的客观原因导致的安全问题主要源于以下三点。

(1)系统安全层面。集中表现为基础安全技术缺陷、智能硬件的系统漏洞,以及当前智能技术和产品供应链条的复杂性。

(2)算法透明度与可解释性层面。AI技术本身具有一定的不确定性,由于人类没有充分认识到人工智能算法的自主学习与决策过程,以深度学习为代表的人工智能算法经常被视作一个无人理解的黑箱。因此,人工智能算法可解释性和透明度的严重缺失,可能给人类社会带来巨大的影响。

(3)数据使用和隐私保护层面。人工智能的不断发展是建立在大量的个人数据的记录和分析之上的,所以如何在这个过程中保障个人隐私,合理地使用个人信息则是重中之重。

上述三个问题本身就是巨大的风险,同时由其引发的归责问题、监管问题乃至国家安全问题、社会安全问题等也都是人工智能发展面临的挑战。

安全是任何科技能够长足发展的前提,如何增加社会对科技的信任,如何让科技的发展遵循伦理道德要求都是需要考虑的问题。

继续阅读
科技部力推新一代人工智能 五大自动驾驶场景入列

10个示范应用场景包括:智能港口、智能工厂自动驾驶等。其中,针对自动驾驶从特定道路向常规道路进一步拓展需求,运用车端与路端传感器融合的高准确环境感知与超视距信息共享、车路云一体化的协同决策与控制等关键技术,开展交叉路口、环岛、匝道等复杂行车条件下自动驾驶场景示范应用,推动高速公路无人物流、高级别自动驾驶汽车、智能网联公交车、自主代客泊车等场景发展。

科技部等六部门统筹推进人工智能场景创新

为系统指导各地方和各主体加快人工智能场景应用,推动经济高质量发展,科技部、教育部、工业和信息化部、交通运输部、农业农村部、国家卫生健康委等六部门印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》,统筹推进人工智能场景创新,着力解决人工智能重大应用和产业化问题,全面提升人工智能发展质量和水平,更好支撑高质量发展。

人工智能可能有自主意识了吗?

大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破,但距离具备自主意识还很远。换言之,即便人工智能可以对人类的语言、表情所传递的情绪作出判断,但这主要应用的是自然语言处理、计算机视觉等技术

超声医生缺口15万,为何人工智能难以替代人工

近日,深圳龙华区的一家医院在其公众号上打出了这样的招聘广告,类似急招超声医生的帖子在网上也很常见,这背后折射的是当下超声人才匮乏的窘况。公开数据显示,我国超声人才缺口至少15万。

刘庆峰:人工智能将以解决人类刚需而被更深刻地载入史册

“统筹疫情防控和经济社会发展,就一定要能够对疫情防控做到科学精准高效且低成本,这就需要大数据和人工智能的深度结合——大数据是底座,人工智能实现精准、高效、低成本。”

精彩活动