在开源的基础上构建 AI 需要一种全新的应用程序安全方法

这篇具有很好参考价值的文章主要介绍了在开源的基础上构建 AI 需要一种全新的应用程序安全方法。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

在开源的基础上构建 AI 需要一种全新的应用程序安全方法,网络研究观,人工智能,安全,网络,AI,解决方案

关注公众号: 网络研究观 获取更多信息

在开源的基础上构建 AI 需要一种全新的应用程序安全方法,网络研究观,人工智能,安全,网络,AI,解决方案

人工智能已经从科幻小说中涌现出来,进入了我们的日常生活。

在开源软件(OSS)模型的支持下,人工智能革命正在加速。这些模型是专为开发 AI 而制作的复杂开源代码包,使组织能够高效、大规模地部署 AI 模型。

虽然大多数组织都确保检查任何给定的标准开源代码行是否存在漏洞,但他们部署的大型开源模型通常逃脱了同样的审查。

最近发现的一系列漏洞凸显了如何通过恶意 OSS 模型执行供应链攻击。这一发现引发了人们对开源模型的脆弱性和人工智能系统整体安全性的担忧,强调了在人工智能迅速普及的情况下,对严格的开放源码软件安全措施的迫切需求。

OSS模型是人工智能革命的基石。为什么?如今,大多数组织都不是从头开始构建自己的 AI 模型——他们越来越依赖开源模型作为其 AI 计划的基础组件。这种方法加快了开发速度,允许快速部署和定制以满足特定需求。

然而,这种便利性和效率的权衡是安全性。OSS 软件包被广泛使用,攻击者也知道这一点。他们也知道,组织很难仔细检查外部开发人员编写的代码中的潜在漏洞。结果:OSS 模型经常引入漏洞,恶意行为者可以轻松利用这些漏洞来破坏敏感数据、决策过程和整体系统完整性。

人工智能研究和解决方案仍处于“快速行动和打破常规”的阶段,因此OSS模型的安全协议仍处于起步阶段。这就是为什么像最近的 Hugging Face 漏洞这样的网络事件——包括 Google 和 Microsoft 在内的 700 多家公司使用的 1500 LLM多个集成 API 令牌遭到入侵正在增加。

入侵 AI 基础设施为不良行为者提供了通往王国的钥匙。攻击者可以查看和窃取敏感数据,以前所未有的规模损害用户隐私。他们还可以访问、窃取甚至删除 AI 模型,从而损害组织的知识产权。也许最令人担忧的是,它们可以改变人工智能模型产生的结果。

想象一下这样一个场景:一个持续头痛的人向 AI 聊天机器人或大型语言模型 (LLM) 询问基本的头痛技巧。被破坏的人工智能不是建议休息或 Advil,而是建议人们以一种头痛患者不知道的方式组合两种非处方药,这可能会导致有毒或致命的副作用。

或者考虑一辆依赖人工智能进行导航的自动驾驶汽车。如果它的人工智能系统被篡改,它可能会将红色交通信号灯误解为绿色,从而引发碰撞。同样,如果汽车制造厂的人工智能质量控制系统被篡改,它可能会错误地验证不良焊缝,从而危及驾驶员安全和召回。

即使在看似良性的情况下,受损的人工智能也可能是危险的。想象一下,用户提示 AI 助手建议意大利的旅行提示。受LLM感染者可以在其响应中嵌入恶意 URL,将用户引导至充满恶意软件的网络钓鱼网站——所有这些都伪装成有益的旅行资源。虽然潜在的旅行者可能永远不会意识到他们已经启用了漏洞利用,但攻击者现在可以使用他们的新访问权限来感染网络上更多用户的计算机。

随着 OSS 模型受损风险的增加,组织必须采取积极主动的态度来加强其 OSS 模型的安全性。这就要求采取多方面的办法,而不能仅仅采取被动措施,因为这些措施只有在安全漏洞发生后才会发挥作用。

持续监控和实时威胁检测机制是关键。组织应寻求能够实时识别开源模型的异常、异常行为或潜在威胁的高级监控工具。在这种情况下,人工智能驱动的系统——以火灭火——可能是最有效的。

此外,组织应优先考虑强大的身份验证协议、加密方法和访问控制,以加强其 AI 基础设施的完整性。定期进行安全审计、漏洞评估和专门针对开源模型的代码审查将有助于在潜在弱点被利用之前识别和解决它们。

最后,在团队中培养组织范围内的安全意识和主动响应的文化,确保可以采取快速行动来缓解新出现的风险。

通过集成实时预防、检测和响应威胁的主动安全解决方案,组织可以增强其 OSS 模型基础设施的网络弹性,并确保他们的数据和客户免受 AI 革命的阴暗面的影响。

搜索关注公众号 网络研究观 阅读全文

在开源的基础上构建 AI 需要一种全新的应用程序安全方法,网络研究观,人工智能,安全,网络,AI,解决方案文章来源地址https://www.toymoban.com/news/detail-859697.html

到了这里,关于在开源的基础上构建 AI 需要一种全新的应用程序安全方法的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 使用Gradio构建生成式AI应用程序; Stability AI推出Stable Diffusion XL 1.0

    🦉 AI新闻 🚀 Stability AI推出最先进的AI工具Stable Diffusion XL 1.0 摘要 :Stability AI宣布推出Stable Diffusion XL 1.0,该版本是其迄今为止最先进的AI工具。Stable Diffusion XL 1.0提供更鲜艳、更准确的图片生成,包括对比度、阴影和光照效果。该版本还支持用户定制生成的图片风格和在图片

    2024年02月14日
    浏览(38)
  • 什么是RESTful API,以及如何它使用构建 web 应用程序(InsCode AI 创作助手)

    RESTful API 是一种基于 REST(Representational State Transfer,表征状态转移) 架构风格的 API,它使用 HTTP 协议的方法(GET,POST,PUT,DELETE)来实现资源的创建、读取、更新和删除。通过这种方式,API 可以更加简单和灵活,使得不同编程语言之间的交互更加容易。 使用 RESTful API 构建

    2024年02月09日
    浏览(63)
  • Building AI-Copilot:构建 LLM 支持的生成应用程序的一些经验教训和模式

    我们正在构建一个用于产品策略和生成创意的实验性人工智能副驾驶,名为“Boba”。一路上,我们学到了一些关于如何构建此类应用程序的有用经验,我们已经根据模式制定了这些应用程序。这些模式允许应用程序帮助用户更有效地与大语言模型 (LLM) 交互,编排提示以获得

    2024年02月14日
    浏览(43)
  • 桌面应用小程序,一种创新的跨端开发方案

    Qt Group在提及2023年有桌面端应用程序开发热门趋势时,曾经提及三点: 关注用户体验:无论您是为桌面端、移动端,还是为两者一起开发应用程序,有一点是可以确定的:随着市场竞争日益激烈,对产品的期望值不断升高,终端用户的标准也在不断提高。简而言之,现在我们

    2024年02月07日
    浏览(42)
  • Spring Profiles提供了一种隔离应用程序配置的方式

    24. Profiles Spring Profiles提供了一种隔离应用程序配置的方式,并让这些配置只能在特定的环境下生效。任何@Component或@Configuration都能被@Profile标记,从而限制加载它的时机。 以正常的Spring方式,你可以使用一个spring.profiles.active的Environment属性来指定哪个配置生效。你可以使用平

    2024年02月05日
    浏览(54)
  • 您可能并不需要单页应用程序

    前端框架的迅速崛起,如React、Angel、Vue.js、Elm等,使得单页面应用程序(Single Page Application)在网络上无处不在。对于许多开发人员来说,这些已经成为他们“默认”工具集的一部分。当他们开始一个新项目时,他们会使用他们已经知道的工具:后端的REST API和Reaction/Angel/V

    2024年02月13日
    浏览(33)
  • PyBullet:一种用 Python 构建的开源 3D 物理模拟工具(教程含源码)

    PyBullet 是一种物理引擎,用于模拟刚体动力学并支持创建逼真的 3D 环境。它基于 Bullet Physics Library,并提供易于使用的界面来模拟各种物理现象。在这篇博文中,我们将探讨 PyBullet 中的用例和可用方法。 PyBullet 在各个行业都有广泛的用例。以下是 PyBullet 的一些最常见用例:

    2024年02月04日
    浏览(36)
  • Flutter中的Web应用程序开发:构建现代Web应用程序

    作者:禅与计算机程序设计艺术 作为人工智能专家,程序员和软件架构师,CTO,我今天将为大家分享有关 Flutter 中 Web 应用程序开发的见解。在这篇文章中,我们将深入探讨 Flutter Web 应用程序的开发过程、技术原理以及最佳实践。 引言 随着移动设备的普及,Web 应用程序在全

    2024年02月12日
    浏览(74)
  • 错误: 缺少 JavaFX 运行时组件, 需要使用该组件来运行此应用程序

    这种情况一般是jdk11以上会出现,最简单直接的解决办法就是新建一个启动类来引导你的application类的运行。 在java8里这段代码可以直接运行,但是11以上会报错,此时新建一个启动类: 运行这个启动类就行了。

    2024年02月11日
    浏览(43)
  • 【Serverless Web 应用程序】构建流程

    【1】选择构建 Serverless Web 应用程序,程序架构如下所示: 【2】开发流程 【2.1】静态 Web 托管与持续部署: 所有的静态网页内容(HTML、CSS、JavaScript、图 像)和其他文件将由 AWS Amplify 控制台管理。用户将使用 AWS Amplify 控制 台公开的公共网站 URL 访问 Web。不需要额外运行

    2024年02月03日
    浏览(56)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包