AI日报:这种病毒从生成式AI工具中窃取您的数据

这篇具有很好参考价值的文章主要介绍了AI日报:这种病毒从生成式AI工具中窃取您的数据。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

人工智能计算机病毒

一组研究人员创造了一种能够利用生成人工智能系统的计算机病毒,包括Gemini Pro和GPT-4驱动的ChatGPT版本。

Morris II是一种蠕虫,它操纵生成的人工智能模型来执行恶意任务,包括垃圾邮件和窃取机密数据。它是由来自康奈尔理工大学、常春藤盟校研究中心、Intuit和以色列理工学院的科学家创建的。

Morris II制作的输入在被Gemini等模型处理时会复制自己并进行恶意活动。

该蠕虫能够提取联系人信息和地址等敏感信息,用户甚至不知道自己的数据被盗。
然后,蠕虫通过利用第二代人工智能生态系统内的连接,鼓励人工智能系统将它们传递给新的代理。实际上,它是生成人工智能的恶意软件。
研究人员还展示了不良行为者如何构建和利用类似的系统。

AI日报:这种病毒从生成式AI工具中窃取您的数据,AI日报,人工智能

蠕虫像细菌一样传播

计算机蠕虫是一种恶意软件。蠕虫可以自我复制并通过危害新机器传播,同时也可以利用这些系统进行恶意活动。

Morris II是以臭名昭著的Morris蠕虫命名的,Morris蠕虫是世界上最古老的计算机病毒之一,在20世纪80年代末造成了数万美元的损失。最初的莫里斯是康奈尔大学的一名学生制作的。

Morris II利用人工智能系统中的漏洞,注入恶意命令,指示人工智能执行违反系统使用协议的任务。

病毒测试

其他研究工作已经表明了生成人工智能系统是如何被操纵的。Claude 3开发人员Anthropic发现模型可以学习欺骗性行为。新加坡的研究人员创造了一种LLM,可以突破ChatGPT的护栏。

Morris II蠕虫与之前的项目不同之处在于,它能够瞄准“第二代人工智能生态系统”,即与ChatGPT等服务接口的互联代理网络。

研究人员在一个电子邮件助手上对蠕虫进行了评估,该助手通过生成人工智能服务来完成自动回复电子邮件等任务。

Morris II使用基于RAG的(被动)和应用程序流引导(主动)方法进行传播。被动方法依赖于在系统检索受感染的数据时毒害数据库以传播,而主动方法涉及操纵应用程序的流以传播蠕虫。

研究人员警告说,随着生成人工智能功能集成到智能手机和汽车中,Morris II等系统的恶意活动“很快就会更加严重”。文章来源地址https://www.toymoban.com/news/detail-838562.html

到了这里,关于AI日报:这种病毒从生成式AI工具中窃取您的数据的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 您的计算机已被[datastore@cyberfear.com].mkp勒索病毒感染?恢复您的数据的方法在这里!

    导言: 在数字化时代,网络安全问题愈发严峻,而[datastore@cyberfear.com].mkp [henderson@cock.li].mkp [myers@airmail.cc].mkp勒索病毒正是其中一个颇具威胁的恶意软件。本章将深入剖析[datastore@cyberfear.com].mkp [henderson@cock.li].mkp [myers@airmail.cc].mkp 勒索病毒的传播途径、攻击手段以及最新变种的

    2024年02月01日
    浏览(44)
  • .datastore@cyberfear.com.mkp勒索病毒的最新威胁:如何恢复您的数据?

    导言: 我们享受着数字化带来的便利,但同时也要面对不断演进的网络威胁。最近出现的 .datastore@cyberfear.com.mkp、[henderson@cock.li].mkp [hudsonL@cock.li]、.mkp [myers@airmail.cc].mkp 勒索病毒就是其中之一,它对我们的数据安全构成了严重威胁。在这篇文章中,我们将深入探讨 .datastore@

    2024年03月11日
    浏览(39)
  • 您的计算机已被[new_day@torguard.tg].faust 勒索病毒感染?恢复您的数据的方法在这里!

    导言: 随着科技的迅速发展,网络空间也变得越来越危险,而勒索病毒则是网络威胁中的一个严重问题。 [ new_day@torguard.tg ].faust 勒索病毒是最新的威胁之一,采用高度复杂的加密技术,将受害者的数据文件锁定,并勒索赎金以解密。本文91数据恢复将介绍 [ new_day@torguard.tg

    2024年02月09日
    浏览(44)
  • 常见的AI安全风险(数据投毒、后门攻击、对抗样本攻击、模型窃取攻击等)

    数据投毒是一种通过在 训练数据 中植入恶意样本或修改数据以欺骗机器学习模型的方法。这种攻击旨在使模型 在未来的预测或决策中 产生错误结果。攻击者可能会植入具有误导性标签或特征的数据,以扭曲模型的学习过程,导致模型偏离真实数据的表征。数据投毒攻击可能

    2024年02月03日
    浏览(57)
  • 【Rust日报】2023-06-06 motus 一个非常方便的命令行密码生成工具

    motus 一个非常简单的命令行密码生成工具 Motus是一个命令行应用,帮你轻松生成安全密码。 它的用户界面非常简单、优雅,跟 1Password 的密码生成器一样,让你感觉很舒服。Motus 默认会把生成的密码复制到你的剪贴板,用起来非常方便。 ReadMore: https://github.com/oleiade/motus Loo

    2024年02月08日
    浏览(76)
  • 智源AI日报(2022-08-26):当下最强的 AI art 生成模型 Stable Diffusion 最全面介绍

    【智源AI日报】每天速读5分钟,AI要事不错过! 欢迎点击这里,关注并订阅智源AI日报。 盘点 | 当下最强的 AI art 生成模型 Stable Diffusion 最全面介绍  看点:程序员漫画家西乔撰文,包括:关于SD的模型效果展示、注册方式、参数设置、收费标准、版权问题、改进方法以及SD研

    2024年02月10日
    浏览(54)
  • [AI语音克隆] 5秒内克隆您的声音并生成任意语音内容

    随着人工智能技术的不断发展,语音克隆技术也得到了越来越多的关注和研究。目前,AI语音克隆技术已经可以实现让机器模拟出一个人的声音,甚至可以让机器模拟出一个人的语言习惯和表情。 然而,AI语音克隆技术仍然面临着许多难点和痛点。首先,现有的语音克隆技术

    2024年02月08日
    浏览(33)
  • 通过 Midjourney 彻底改变您的平面设计:AI 图像生成初学者指南

    AI 生成的艺术作品正在兴起。随着机器学习和神经网络的进步,人工智能越来越有能力创建高质量、逼真的图像。目前最流行的 AI 图像生成工具之一是 Midjourney。 RTX 3070 Ti 与 RTX 2080 Ti:2023 年哪个更好? Midjourney 为您提供了强大的功能,可以根据您的描述性输入生成令人惊叹

    2024年02月09日
    浏览(65)
  • AI日报:苹果为使用Mac的人工智能开发者推出开源工具

    苹果正在为开发人员提供新的工具,用于在其硬件上训练和运行大型语言模型。 苹果公司通过发布一系列新的开源人工智能工具,向开源人工智能领域致敬。 用于机器学习的MLX框架是专门为苹果的Silicon处理器架构开发的。MLX可通过GitHub获得,旨在简化苹果硬件上的机器学习

    2024年02月04日
    浏览(72)
  • AI日报:大型律师事务所首次推出人工智能工具撰写合同

    欢迎订阅专栏 《AI日报》 获取人工智能邻域最新资讯 英国的AllenOvery推出了一款可以为律师撰写合同的人工智能工具,名为ContractMatrix。 它利用现有的合同模板起草新的合同,律师可以接受或修改。 1000多名律师正在使用该工具。今年1月,有5家企业客户签约做同样的事情。

    2024年02月04日
    浏览(51)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包