人工智能计算机病毒
一组研究人员创造了一种能够利用生成人工智能系统的计算机病毒,包括Gemini Pro和GPT-4驱动的ChatGPT版本。
Morris II是一种蠕虫,它操纵生成的人工智能模型来执行恶意任务,包括垃圾邮件和窃取机密数据。它是由来自康奈尔理工大学、常春藤盟校研究中心、Intuit和以色列理工学院的科学家创建的。
Morris II制作的输入在被Gemini等模型处理时会复制自己并进行恶意活动。
该蠕虫能够提取联系人信息和地址等敏感信息,用户甚至不知道自己的数据被盗。
然后,蠕虫通过利用第二代人工智能生态系统内的连接,鼓励人工智能系统将它们传递给新的代理。实际上,它是生成人工智能的恶意软件。
研究人员还展示了不良行为者如何构建和利用类似的系统。
蠕虫像细菌一样传播
计算机蠕虫是一种恶意软件。蠕虫可以自我复制并通过危害新机器传播,同时也可以利用这些系统进行恶意活动。
Morris II是以臭名昭著的Morris蠕虫命名的,Morris蠕虫是世界上最古老的计算机病毒之一,在20世纪80年代末造成了数万美元的损失。最初的莫里斯是康奈尔大学的一名学生制作的。
Morris II利用人工智能系统中的漏洞,注入恶意命令,指示人工智能执行违反系统使用协议的任务。
病毒测试
其他研究工作已经表明了生成人工智能系统是如何被操纵的。Claude 3开发人员Anthropic发现模型可以学习欺骗性行为。新加坡的研究人员创造了一种LLM,可以突破ChatGPT的护栏。
Morris II蠕虫与之前的项目不同之处在于,它能够瞄准“第二代人工智能生态系统”,即与ChatGPT等服务接口的互联代理网络。
研究人员在一个电子邮件助手上对蠕虫进行了评估,该助手通过生成人工智能服务来完成自动回复电子邮件等任务。
Morris II使用基于RAG的(被动)和应用程序流引导(主动)方法进行传播。被动方法依赖于在系统检索受感染的数据时毒害数据库以传播,而主动方法涉及操纵应用程序的流以传播蠕虫。文章来源:https://www.toymoban.com/news/detail-838562.html
研究人员警告说,随着生成人工智能功能集成到智能手机和汽车中,Morris II等系统的恶意活动“很快就会更加严重”。文章来源地址https://www.toymoban.com/news/detail-838562.html
到了这里,关于AI日报:这种病毒从生成式AI工具中窃取您的数据的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!