哥伦比亚大学研制出新算法可以阻止流氓麦克风监听

标签:算法监听
分享到:

有没有关注到现在朋友圈推送的广告,小红书推荐的观看内容,与您最近与朋友和家人谈论的内容非常接近?如今,麦克风几乎嵌入到所有东西中,从我们的手机、手表和电视到语音助手,它们总是在听你说话。计算机不断使用神经网络和人工智能来处理你的语音,以便获得关于你的信息。如果你想防止这种情况发生,你怎么能去做呢?

哥伦比亚工程公司的研究人员开发了一种新系统,可以产生低声细语的声音,您可以在任何情况下在任何房间播放这些声音,以阻止智能设备监视您。而且它很容易在计算机和智能手机等硬件上实施,使人们能够保护自己的声音隐私。

在对话中保持领先地位

虽然该团队在破坏自动语音识别系统方面的结果在理论上已知在人工智能中是可能的,但实现它们的速度足够快以在实际应用中使用仍然是一个主要瓶颈。问题在于,现在在这个特定时刻打断一个人说话的声音并不是一秒钟后会打断言语的声音。当人们说话时,他们的声音会不断变化,因为他们说不同的单词,说话非常快。这些变化使得机器几乎不可能跟上一个人说话的快速节奏。

“我们的算法能够通过预测一个人接下来会说什么的特征来跟上,给它足够的时间来产生正确的耳语,”该研究的第一作者,Vondrick实验室的博士生Mia Chiquier说。“到目前为止,我们的方法适用于大多数英语词汇,我们计划将算法应用于更多语言,并最终使耳语听起来完全难以察觉。

启动“预测性攻击”

研究人员需要设计一种算法,可以实时破坏神经网络,可以在说出语音时连续生成,并且适用于语言中的大多数词汇。虽然早期的工作至少满足了这三个要求中的一个,但没有一个达到所有这三个要求。Chiquier的新算法使用了她所谓的“预测攻击”——这种信号可以破坏自动语音识别模型训练转录的任何单词。此外,当攻击声音通过无线方式播放时,它们需要足够大,以破坏任何可能很远的流氓“监听”麦克风。攻击声音需要携带与声音相同的距离。

研究人员的方法通过预测对信号或单词未来的攻击来实现实时性能,条件是输入语音的两秒钟。该团队优化了攻击,使其音量类似于正常的背景噪音,允许房间里的人自然地交谈,而不会被自动语音识别系统成功监控。该小组成功地证明了他们的方法在具有自然环境噪声和复杂场景几何形状的真实房间内工作。

人工智能的道德底线

“对于我们研究界的许多人来说,人工智能技术的伦理问题是一个基本问题,但它似乎属于一个单独的思维过程。就像我们非常高兴,我们终于制造了一辆驾驶汽车,但忘记设计方向盘和刹车,“宾夕法尼亚大学计算机和信息科学教授,机器学习领域的领先研究员史建波说。“作为一个社区,我们需要'有意识地'思考我们从最早的研究设计阶段开发的人工智能技术对人类和社会的影响。Mia Chiquier和Carl Vondrick的研究提出了一个问题:“如何使用AI来保护我们免受意外AI使用的影响?他们的工作使我们中的许多人朝着以下方向思考:不要问道德人工智能能为我们做些什么,而是我们能为人工智能坚守哪些道德底线?一旦我们相信这个方向,人工智能道德研究就同样有趣和富有创造力。

Chiquier将于2022年4月25日在学习表示国际会议上发表她的论文。

继续阅读
00后大学生自主开发火箭垂直起降飞控程序算法

大一新生张立中正式开始造火箭是从2021年6月25日开始,最先开始选择的也是开源框架,但张立中表示,等到我真正去做的时候发现了一些问题,就是这些开源框架部署起来不够快,就自己去写了一套框架,极大程度减少了开发时间。

算法、算力、数据,AI落地现在还需要AI工程化

2020年,Gartner发布《2021年重要战略技术趋势》,认为AI工程化(AI Engineering)将是“需要深挖的趋势”,到了2021年年底,在Gartner的《2022年十二大重要战略技术趋势》中,AI工程化又被进一步明确为未来三到五年“企业数字业务创新的加速器”;

基于算法改进的微波雷达传感器,用于准确监测呼吸频率

研究结果表明,所提出的评估方法在统计上是稳定的。信号变异的根源在于个体的呼吸模式,而不是所用设备的工作原理。

中科院院士张钹:我们正处在AI算法不可控的危险状态

8月19日,2022世界机器人大会主论坛正式开幕,期间,有三位院士到场,就“未来机器人:目标、路径和挑战”的主题进行了一场深刻的谈话。

AI 算法能检测大脑缺陷,有助于治疗癫痫疾病

8 月 16 日上午消息,据报道,目前,科学家最新研发一种 AI 算法,能够检测出癫痫患者早期症状,甚至包括经验丰富的资深医师可能忽略的症状。

精彩活动