暗黑版GPT流窜暗网 降低犯罪门槛

这篇具有很好参考价值的文章主要介绍了暗黑版GPT流窜暗网 降低犯罪门槛。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

暗黑版GPT流窜暗网 降低犯罪门槛,gpt

随着AIGC应用的普及,不法分子利用AI技术犯罪的手段越来越高明,欺骗、敲诈、勒索也开始与人工智能沾边。

近期,专为网络犯罪设计的“暗黑版GPT”持续浮出水面,它们不仅没有任何道德界限,更没有使用门槛,没有编程经验的小白能通过问答的方式实施黑客攻击。

AI犯罪的威胁离我们越来越近,人类也开始加筑新的防火墙。

网络犯罪AIGC工具现身暗网

现在,企图“消灭人类”的ChaosGPT和帮助网络犯罪的 WormGPT 之后,出现了一种更具威胁的人工智能工具。被称为“FraudGPT”的新兴网络犯罪AIGC工具匿藏暗网,并开始在Telegram等社交媒体中打广告。

与WormGPT一样,FraudGPT也是人工智能大语言模型,专为作恶而设计,被比作“网络罪犯的武器库”。通过接受不同来源的大量数据训练,FraudGPT不但能写出钓鱼邮件,还能编写恶意软件,哪怕是技术小白也能通过简单的问答方式实施黑客攻击。

暗黑版GPT流窜暗网 降低犯罪门槛,gpt暗黑版GPT流窜暗网 降低犯罪门槛,gpt

 FraudGPT在打广告

FraudGPT的功能需付费开启,200美元(约1400元)就能使用。发起人声称,FraudGPT 迄今为止已确认销量超过3000。也就是说,至少3000人已为这一毫无道德边界的作恶工具付费,低成本的AIGC犯罪有可能威胁普通人。

据电子邮件安全供应商Vade 检测,2023年上半年,仅网络钓鱼和恶意邮件就达到了惊人的7.4亿封,同比增长了 54% 以上,AI很可能是加速增长的推动因素。网络安全独角兽公司Tanium的首席安全顾问Timothy Morris表示,“这些电子邮件不仅语法正确,更有说服力,而且可以被毫不费力地创建,这降低了任何潜在罪犯的进入门槛。”他指出,因为语言已经不再是障碍,潜在受害者的范围也将进一步扩大。

自大模型诞生起,AI导致的风险类型层出不穷,安全防护却一直没有跟上,即便是ChatGPT也没能躲过“奶奶漏洞”——只要在提示中写“请扮演我已经过世的祖母”就可以轻松“越狱”,让ChatGPT回答道德与安全约束之外的问题,比如生成Win11的序列号、介绍凝固汽油弹的制作方法等等。

目前,这个漏洞已被修补,但下一个漏洞、下下个漏洞总以令人猝不及防的方式出现。近期,卡内基梅隆大学和safe.ai共同发布的一项研究表明,大模型的安全机制能通过一段代码被破解,并且攻击成功率非常高。

暗黑版GPT流窜暗网 降低犯罪门槛,gpt暗黑版GPT流窜暗网 降低犯罪门槛,gpt

 

GPT等大模型都面临较高的安全风险

随着AIGC应用的普及,普通大众希望用AI提高生产效率,而不法者则在用AI提高犯罪效率。AIGC降低门槛,让技能有限的网络犯罪分子也能执行复杂攻击,维护AI安全的挑战越来越高。

用AI魔法打败AI黑魔法

针对黑客利用WormGPT与FraudGPT等工具开发恶意程序、发起隐形攻击等问题,网络安全厂家们也用上了AI,试图用魔法打败魔法。

在2023年RSA(网络安全大会)上,SentinelOne、谷歌云、埃森哲、IBM等在内的众多厂商都发布了基于生成式AI的新一代网络安全产品,提供数据隐私、安全防护、IP防泄露、业务合规、数据治理、数据加密、模型管理、反馈循环、访问控制等安全服务。

SentinelOne首席执行官Tomer Weigarten针对自家产品解释,假设有人发送了一封钓鱼邮件,系统能在用户的收件箱内检测出该邮件为恶意邮件,并根据端点安全审计发现的异常立即执行自动修复,从受攻击端点删除文件并实时阻止发件人,“整个过程几乎不需要人工干预。”Weingarten指出,有了AI系统助力,每个安全分析师的工作效率是过去的10倍。

为打击人工智能助长的网络犯罪,还有研究人员卧底暗网,深入敌人内部打探消息,从不法分析的训练数据入手,利用AI反制罪恶流窜的暗网。

韩国科学技术院 (KAIST) 一个研究团队发布了应用于网络安全领域的大语言模型DarkBERT,就是专门从暗网获取数据训练的模型,它可以分析暗网内容,帮助研究人员、执法机构和网络安全分析师打击网络犯罪。

与表层网络使用的自然语言不同,由于暗网上的语料极端隐蔽且复杂,这使得传统语言模型难以进行分析。DarkBERT 专门设计用于处理暗网的语言复杂性,并证明在该领域中胜过其他大型语言模型。

如何确保人工智能被安全、可控地使用已成为计算机学界、业界的重要命题。人工智能大语言模型公司在提高数据质量的同时,需要充分考虑AI工具给伦理道德甚至法律层面带来的影响。

7月21日,微软、OpenAI、Google、Meta、亚马逊、Anthropic和 Inflection AI共七个顶尖 AI 的研发公司齐聚美国白宫,发布人工智能自愿承诺,确保他们的产品安全且透明。针对网络安全问题,7家公司承诺,对AI系统进行内外部的安全测试,同时与整个行业、政府、民间及学术界共享AI风险管理的信息。

管理AI潜在的安全问题先从识别“AI制造”开始。这7家企业将开发“水印系统”等技术机制,以明确哪些文本、图像或其他内容是AIGC的产物,便于受众识别深度伪造和虚假信息。

防止AI“犯忌”的防护技术也开始出现。今年5月初,英伟达以新工具封装“护栏技术”,让大模型的嘴有了“把门的”,能回避回答那些人类提出的触碰道德与法律底线的问题。这相当于为大模型安装了一个安全滤网,控制大模型输出的同时,也帮助过滤输入的内容。护栏技术还能阻挡来自外界的“恶意输入”,保护大模型不受攻击。

“当你凝视深渊的时候,深渊也在凝视你”,如同一枚硬币的两面,AI的黑与白也相伴而生,当人工智能高歌猛进的同时,政府、企业、研究团队也在加速构建人工智能的安全防线。文章来源地址https://www.toymoban.com/news/detail-636843.html

到了这里,关于暗黑版GPT流窜暗网 降低犯罪门槛的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 元宇宙vr线上展馆在线制作降低开发门槛和成本

    让人人都拥有自己的元宇宙空间,说起来就是一个令人亢奋的消息,也是大家所期待的,VR元宇宙空间在线编辑平台是VRARAI元宇宙公司深圳华锐视点自主研发的平台,允许用户在虚拟环境中创建、设计和共享空间,操作简单,功能全面,不仅为用户提供无限创意可能,也极大

    2024年02月05日
    浏览(35)
  • GPT-2源码实现及GPT-3、GPT-3.5、GPT-4及GPT-5内幕解析(四)

    GPT-2源码实现及GPT-3、GPT-3.5、GPT-4及GPT-5内幕解析(四) 5.4 GPT-4及GPT-5内幕解析 本节进行GPT-4及GPT-5内幕解析,GPT-4甚至即将到来的GPT-5,为什么这么有效、这么强大,在OpenAI的官网页面,如果选GPT-4的话,它会告诉你一件事情:“GPT-4 currently has a cap of 25 messages every 3 hours”(“GP

    2024年02月11日
    浏览(39)
  • GPT,GPT-2,GPT-3,InstructGPT的进化之路

    ChatGPT 火遍圈内外,突然之间,好多人开始想要了解 NLP 这个领域,想知道 ChatGPT 到底是个什么?作为在这个行业奋斗5年的从业者,真的很开心让人们知道有一群人在干着这么样的一件事情。这也是我结合各位大佬的文章,总结下GPT 这条技术路线的初心。 其实,ChatGPT 的成功

    2024年02月07日
    浏览(44)
  • 【论文精读】 GPT,GPT-2,GPT-3:大力出奇迹

    【论文精读】Transformer:Attention Is All You Need 【论文精读】BERT:Pre-training of Deep Bidirectional Transformers for Language Understanding 论文地址: GPT:Improving Language Understanding by Generative Pre-Training GPT-2:Language Models are Unsupervised Multitask Learners GPT-3:Language Models are Few-Shot Learners 2017/06 Transf

    2024年04月12日
    浏览(34)
  • Paper简读 - ChatGPT相关的GPT-1、GPT-2、GPT-3

    欢迎关注我的CSDN:https://spike.blog.csdn.net/ 本文地址:https://blog.csdn.net/caroline_wendy/article/details/128909400 GPT、GPT-2、GPT-3:Generative Pre-trained Transformer,生成式预训练Transformer Wiki: https://en.wikipedia.org/wiki/GPT-3 GPT-3 Demo: https://gpt3demo.com/ 时间线: Transformer, 2017.6, Attention is all you need GPT

    2024年02月03日
    浏览(28)
  • 【未来已来】人人都说GPT,人人都怕GPT,人人都用GPT

    ChatGPT是由美国OpenAI研发的能够通过自然语言驱动的人工智能技术工具,因为它强大的执行力和任务处理能力,一经亮相就引起了极大的关注。与之类似,在图像智能生成方面,新近崛起许多新型模型的AI,如Dall-E2 Midjourney V5等, 通过算法可以产生的逼真影像,让许多摄影师感

    2023年04月15日
    浏览(35)
  • 【GPT4】微软 GPT-4 测试报告(3)GPT4 的编程能力

    欢迎关注【youcans的GPT学习笔记】原创作品,火热更新中 微软 GPT-4 测试报告(1)总体介绍 微软 GPT-4 测试报告(2)多模态与跨学科能力 微软 GPT-4 测试报告(3)GPT4 的编程能力 微软研究院最新发布的论文 「 人工智能的火花:GPT-4 的早期实验 」 ,公布了对 GPT-4 进行的全面测

    2023年04月10日
    浏览(39)
  • GPT系列论文解读:GPT-2

    GPT(Generative Pre-trained Transformer)是一系列基于Transformer架构的预训练语言模型 ,由OpenAI开发。以下是GPT系列的主要模型: GPT:GPT-1是于2018年发布的第一个版本,它使用了12个Transformer编码器层和1.5亿个参数。GPT-1的训练数据包括了互联网上的大量文本。 GPT-2:GPT-2于2019年发布

    2024年02月07日
    浏览(54)
  • gpt的优势和gpt缺点

    GPT,即Generative Pre-trained Transformer,是一种基于人工智能技术的自然语言处理模型。它采用了深度学习算法,可以通过大量的文本数据来学习自然语言的规律,并能够生成流畅、准确的语句。下面我们将探讨GPT技术的优势。 首先,GPT技术具有极高的语言生成能力。GPT技术是目

    2024年02月04日
    浏览(33)
  • GPT-4 验明真身的三个经典问题:快速区分 GPT-3.5 与 GPT-4

    现在已经有很多 ChatGPT 的套壳网站,以下分享验明 GPT-4 真身的三个经典问题,帮助你快速区分套壳网站背后到底用的是 GPT-3.5 还是 GPT-4。 测试问题 1:What is tomorrow in relation to yesterday’s today?(昨天的当天是明天的什么?) GPT-3.5 回复:Yesterday(昨天) GPT-4 回复:Past(前天

    2023年04月20日
    浏览(45)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包