AI语音生成器是下一大安全威胁吗?

这篇具有很好参考价值的文章主要介绍了AI语音生成器是下一大安全威胁吗?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

ChatGPT一经上市,有关监管人工智能的讨论就开始升温。任何试图遏制这种技术的做法都可能需要国际合作,需要我们在过去几十年来从未见过的合作程度,因此不太可能遏制人工智能。
人工智能是一项功能强大的技术,有望彻底改变我们生活。这一点从来没有像今天这样昭然若揭;只要能连接互联网,谁都可以享用功能强大的工具。

这些工具包括人工智能语音生成器,这种先进的软件能够惟妙惟肖地模仿人类语音,以至于无法区分和辨别两者。这对网络安全又意味着什么呢?
AI语音生成器是下一大安全威胁吗?

人工智能语音生成器是如何工作的?

语音合成指人工生成人类语音的过程,它已存在了几十年。就像所有技术一样,多年来它已经历了重大而深刻的变化。

用过Windows 2000和XP的用户可能还记得微软Sam,这是微软操作系统默认的文本转换成语音男声。微软Sam的表现可谓中规中矩,但它发出的声音很机械、很僵硬、很造作。我们现在手头拥有的工具要先进得多,这在很大程度上归功于深度学习。

深度学习是一种基于人工神经网络的机器学习方法。由于这些神经网络,现代人工智能处理数据的能力几乎如同人类大脑中的神经元解释信息一样强大。也就是说,人工智能变得越像人类,模仿人类行为的本领就越高超。

简而言之,这就是现代人工智能语音生成器的工作方式。它们接触的语音数据越多,就越擅长模仿人类语音。由于这项技术最新取得的进展,最先进的文本转换成语音软件基本上可以复制馈送给它的声音。

威胁分子如何使用人工智能语音生成器?

不出所料,这种技术正被威胁分子滥用。不仅是典型意义上的网络犯罪分子,还有虚假信息代理人、骗子、黑帽营销人员和网络喷子。

就在ElevenLabs于2023年1月发布其文本转换成语音软件的测试版的那一刻,留言板4chan上的极右翼网络喷子就开始滥用它。他们使用这种先进的人工智能技术,复制了BBC电视台主持人David Attenborough和知名演员Emma Watson等名人的声音,让人感觉这些名人好像在发表恶毒、仇恨的长篇大论。

正如IT外媒Vice当时所报道,ElevenLabs承认有人在滥用其软件,尤其是在滥用语音克隆功能。这项功能让任何人都可以“克隆”另一个人的声音;你只需要上传一分钟时长的录音,然后让人工智能做剩余的事情。据推测,录音时间越长,输出结果就越逼真。

2023年3月,一段在TikTok上疯传的视频引起了《纽约时报》杂志的注意。在这段视频中,著名的播客主持人Joe Rogan和经常现身其The Joe Rogan Experience节目的Andrew Huberman博士讨论了一种“增强性欲”的咖啡因饮料。这段视频让人觉得Rogan和Huberman都明确力挺这款产品。而实际上,他们俩的声音是用人工智能克隆出来的。

大约在同一时间,总部位于加利福尼亚州圣克拉拉的硅谷银行因风险管理错误及其他问题而倒闭,并被州政府接管。这是自2008年金融危机以来美国最严重的银行倒闭事件,因此在全球市场引起了轩然大波。

让人们更加恐慌的是美国拜登总统的一段假录音。在录音中,可以明显听到拜登警告即将到来的“崩溃”,并指令美国政府“充分利用媒体的力量来安抚公众”。像PolitiFact这样追求事实真相的网站很快就揭穿了这段视频,但至此可能已经有数百万人听过了这段录音。

如果人工智能语音生成器可以用来冒充名人,那么它们也可以用来冒充平民百姓,这正是网络犯罪分子一直在从事的勾当。据IT外媒ZDNet报道,每年都有成千上万的美国人上语音钓鱼(vishing)骗局的当。2023年,一对年迈的夫妇因接到“孙子”打来的电话而登上了全国报章头条,“孙子”声称关在监狱里,向他们要钱。

如果你曾经上传过YouTube视频(或在YouTube视频中出现过)、与一群不认识的人一起参加过大型群体电话会议,或者以某种方式将自己的声音上传到互联网上,理论上来说你或亲朋好友可能处于危险之中。怎样才能阻止骗子把你的声音上传到人工智能生成器、克隆声音、然后冒充你联系你的家人?
AI语音生成器是下一大安全威胁吗?

人工智能音生成器在颠覆网络安全格局

不是说非得是网络安全专家才能意识到人工智能落入坏人之手有多危险。虽然所有技术都是如此,但人工智能是一种独特的威胁,这有几个原因。

首先,它是一项比较新的技术,这意味着我们其实不知道它能为我们带来什么。现代人工智能工具让网络犯罪分子能够以前所未有的方式扩大活动规模,并实现自动化操作,同时充分利用公众对这一问题相对无知来大做文章。此外,生成式人工智能使缺乏知识和技能的威胁分子也能够创建恶意代码、构建欺骗网站、传播垃圾邮件、撰写钓鱼邮件、生成逼真的图像,并生成长篇的虚假音频和视频内容。

至关重要的是,我们反过来也可以利用人工智能:人工智能也被用于保护系统,而且可能在未来几十年都是如此。可以料想,网络犯罪分子和网络安全行业之间会上演某种人工智能军备竞赛,因为这些工具的防御和进攻能力本质上不相上下。

对于普通人来说,生成式人工智能的遍地开花需要彻底重新思考安全实践。尽管人工智能可能令人兴奋、很实用,但它至少可以以假乱真,最坏的情况是加剧现有的安全问题,并为威胁分子提供新的舞台。

语音生成器展示了人工智能的破坏性潜力

ChatGPT一经上市,有关监管人工智能的讨论就开始升温。任何试图遏制这种技术的做法都可能需要国际合作,需要我们在过去几十年来从未见过的合作程度,因此不太可能遏制人工智能。

精灵已从瓶子里跑出来,我们能做的也就是习惯它适应它,但愿网络安全行业能做出相应的调整。文章来源地址https://www.toymoban.com/news/detail-426319.html

到了这里,关于AI语音生成器是下一大安全威胁吗?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ai绘画生成器app是什么?安利三款ai绘画生成器app

    你是否曾经因为缺乏艺术细胞而自卑,或者看到别人画风清奇而嫉妒不已?现在,你可以放心大胆地发挥创造力了,因为有了ai绘画生成器,想要成为艺术大师已经不再是梦想!这些app让你在不会画画的情况下也可以轻松创造出艺术作品! 它们就像是一个魔法盒子,里面充满

    2024年02月11日
    浏览(58)
  • ai写作生成器(论文ai写作网站)

    论文大纲作为论文的纲要和导航,其重要性不言而喻。幸运的是,借助AI PaperPass这一工具,我们可以轻松获得免费的论文大纲,为我们的论文写作提供有力的指导和支持。 ▼输入【学科】+【论文题目】+【字数】 AI论文,免费大纲,10分钟3万字 ,查重高于15%退费,支持数据图

    2024年04月16日
    浏览(77)
  • 怎么把文字生成图片?三款ai绘画生成器分享

    如果你对ai绘画工具有一定了解的话,你就会知道:市面上大部分ai绘画工具都是收费。再退一步讲,我们暂且不论收费价格的高低,大多数收费的ai绘画工具也不一定能准确匹配我们的需求。 仅仅在学生党和工作党之间,对ai绘画工作的使用需求的差别就如此明显,更何况几

    2024年02月12日
    浏览(39)
  • 【分享】AI绘画提示词生成器工具

    哈喽,大家好,我是木易巷~ 今天,木易巷给大家带来AI绘画提示词生成器工具---PromptoMANIA。 PromptoMANIA【AI绘画提示词生成器工具】    介绍 PromptoMANIA   PromptoMANIA是一个聚焦于人工智能艺术的社区,它为用户提供了一个在线提示词生成器,可以帮助用户轻松地创建高品质的

    2024年02月09日
    浏览(64)
  • 分享三个ai写作生成器给大家

    在当今数字化时代,随着人工智能的快速发展,ai写作软件已经成为越来越多人关注的热门话题。这些创新的软件利用机器学习和自然语言处理等技术,能够生成一些好的文章、博客、新闻稿甚至小说等内容,大大地提升了写作的效率和质量。然而,面对众多的ai写作软件选择

    2024年02月16日
    浏览(56)
  • 四个好用的AI写作生成器

    AI写作生成器是一种基于人工智能技术的工具,可以帮助人们快速、准确地创作出高质量的文本内容。 以下是几个好用的AI写作生成器的详细介绍和使用建议: 一、神码ai智能写作 神码ai智能写作是一款智能写作工具,利用AI技术自动生成文案内容。它支持多种形式的文案创作

    2024年02月04日
    浏览(61)
  • 如何使用 Haiper AI 视频生成器

    使用步骤 1. 选择视频模板 Haiper AI 提供了各种视频模板供您选择,包括: 介绍视频 产品演示 解释性视频 动画视频 音乐视频 白板动画   2. 输入您的文字描述 在您选择了一个模板之后,您就可以输入您的文字描述了。您可以使用简单的语言描述您想要创建的视频,Haiper AI 会

    2024年04月09日
    浏览(56)
  • AI作画生成器,AI作画的优缺点

    AI作画生成器,AI作画生成是一种基于人工智能技术的艺术创作方式,其在过去几年中得到了广泛应用和迅速发展。本文将以此为题,从几个方面来探讨AI作画生成。 一.什么是AI作画生成 AI作画生成,顾名思义,指的是使用人工智能技术进行艺术作品的生成。AI作画生成的核心

    2024年02月09日
    浏览(40)
  • 开源AI漫画生成器-AI Comic Factory

    AI Comic Factory是一个免费开源AI漫画生成器,使用 LLM + SDXL 开发的漫画生成器,直接输入提示词即可生成漫画风格的照片,生成的照片支持直接无损放大,也可以保存或者直接打印。 地址:点击前往

    2024年01月16日
    浏览(90)
  • 用漫画生成器生成AI绘画下的病娇美少女

            喜欢一个人到透彻心底的地步,或许是一种美好的经历。但是,对于一些人来说,这种感情的风险也可能会超过收益,这就是令人不安的“病娇”状态,一种充满危险的情感状态。       从明天起,我们或许需要更加关注自己的情感状态,以及对于爱情的定义,我们

    2024年02月11日
    浏览(35)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包