哥伦比亚大学研制出新算法可以阻止流氓麦克风监听

标签:算法监听
分享到:

有没有关注到现在朋友圈推送的广告,小红书推荐的观看内容,与您最近与朋友和家人谈论的内容非常接近?如今,麦克风几乎嵌入到所有东西中,从我们的手机、手表和电视到语音助手,它们总是在听你说话。计算机不断使用神经网络和人工智能来处理你的语音,以便获得关于你的信息。如果你想防止这种情况发生,你怎么能去做呢?

哥伦比亚工程公司的研究人员开发了一种新系统,可以产生低声细语的声音,您可以在任何情况下在任何房间播放这些声音,以阻止智能设备监视您。而且它很容易在计算机和智能手机等硬件上实施,使人们能够保护自己的声音隐私。

在对话中保持领先地位

虽然该团队在破坏自动语音识别系统方面的结果在理论上已知在人工智能中是可能的,但实现它们的速度足够快以在实际应用中使用仍然是一个主要瓶颈。问题在于,现在在这个特定时刻打断一个人说话的声音并不是一秒钟后会打断言语的声音。当人们说话时,他们的声音会不断变化,因为他们说不同的单词,说话非常快。这些变化使得机器几乎不可能跟上一个人说话的快速节奏。

“我们的算法能够通过预测一个人接下来会说什么的特征来跟上,给它足够的时间来产生正确的耳语,”该研究的第一作者,Vondrick实验室的博士生Mia Chiquier说。“到目前为止,我们的方法适用于大多数英语词汇,我们计划将算法应用于更多语言,并最终使耳语听起来完全难以察觉。

启动“预测性攻击”

研究人员需要设计一种算法,可以实时破坏神经网络,可以在说出语音时连续生成,并且适用于语言中的大多数词汇。虽然早期的工作至少满足了这三个要求中的一个,但没有一个达到所有这三个要求。Chiquier的新算法使用了她所谓的“预测攻击”——这种信号可以破坏自动语音识别模型训练转录的任何单词。此外,当攻击声音通过无线方式播放时,它们需要足够大,以破坏任何可能很远的流氓“监听”麦克风。攻击声音需要携带与声音相同的距离。

研究人员的方法通过预测对信号或单词未来的攻击来实现实时性能,条件是输入语音的两秒钟。该团队优化了攻击,使其音量类似于正常的背景噪音,允许房间里的人自然地交谈,而不会被自动语音识别系统成功监控。该小组成功地证明了他们的方法在具有自然环境噪声和复杂场景几何形状的真实房间内工作。

人工智能的道德底线

“对于我们研究界的许多人来说,人工智能技术的伦理问题是一个基本问题,但它似乎属于一个单独的思维过程。就像我们非常高兴,我们终于制造了一辆驾驶汽车,但忘记设计方向盘和刹车,“宾夕法尼亚大学计算机和信息科学教授,机器学习领域的领先研究员史建波说。“作为一个社区,我们需要'有意识地'思考我们从最早的研究设计阶段开发的人工智能技术对人类和社会的影响。Mia Chiquier和Carl Vondrick的研究提出了一个问题:“如何使用AI来保护我们免受意外AI使用的影响?他们的工作使我们中的许多人朝着以下方向思考:不要问道德人工智能能为我们做些什么,而是我们能为人工智能坚守哪些道德底线?一旦我们相信这个方向,人工智能道德研究就同样有趣和富有创造力。

Chiquier将于2022年4月25日在学习表示国际会议上发表她的论文。

继续阅读
哥伦比亚大学研制出新算法可以阻止流氓麦克风监听

有没有关注到现在朋友圈推送的广告,小红书推荐的观看内容,与您最近与朋友和家人谈论的内容非常接近?如今,麦克风几乎嵌入到所有东西中,从我们的手机、手表和电视到语音助手,它们总是在听你说话。计算机不断使用神经网络和人工智能来处理你的语音,以便获得关于你的信息。如果你想防止这种情况发生,你怎么能去做呢?

如何更有效的将深度学习算法部署在计算资源有限的设备?

深度学习已成为许多机器学习应⽤程序不可或缺的⼀部分,现在可以在⽆数电⼦设备和服务中找到,从智能⼿机和家⽤电器到⽆⼈机、机器⼈和⾃动驾驶汽车。随着深度学习在我们⽇常⽣活中的普及,对快速且节能的神经⽹络推理的需求也在增加。神经⽹络量化是降低推理过程中神经⽹络的能量和延迟要求的最有效⽅法之⼀。

网信办督促平台整改算法歧视、大数据杀熟等问题

近日,在国务院新闻办公室清朗发布会上,针对“网信办在治理算法滥用方面有何计划”提问,网信办回应称,算法滥用也影响了广大网民的正常生活和相关权益。为有效保护网民的根本权益,网信办去年组织开展了“清朗?算法滥用治理”专项行动,对全国范围内 300 余家互联网企业进行了算法检查,包括新闻媒体、电商平台、视频网站等。

算法一键关闭,避免“算法”变“算计”

近日,人民日报发布评论内容:算法一键关闭,避免“算法”变“算计”。

人工智能在算法战中的应用(上)

本文是美国博思艾伦汉密尔顿咨询公司(BAH)战略创新小组的首席科学家Courtney Crosby博士在《MILITARY REVIEW》上发表的关于将人工智能应用于算法战的文章。Courtney Crosby博士目前负责C5ISR领域内的人工智能运用与创新,专门为美国国防部研发战场人工智能(AI)系统。本文阐述了军事人工智能效能框架,首次提出了评估人工智能效能的五项要求,并对人工智能项目投入实战应用提出了建议。

精彩活动