Counterfit 部署教程

这篇具有很好参考价值的文章主要介绍了Counterfit 部署教程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

序言

近日,微软宣布开源了一种人工智能系统的安全测试工具——Counterfit。微软最初开发该工具来测试自己的AI系统的安全性,在评估其漏洞之后,微软决定开源Counterfit,以帮助组织验证他们使用的AI算法是否“健壮、可靠且值得信赖”。Counterfit最初是为针对单个AI模型编写的攻击脚本的集合,但Microsoft却将其变成了自动化工具,可以大规模攻击多个AI系统。“今天,我们常规地将Counterfit用作我们的AI红队运营的一部分。我们发现,自动化MITRE的Adversarial ML威胁矩阵中的技术并将其与Microsoft自己的生产环境AI服务进行重放以主动扫描特定于AI的漏洞很有帮助。微软公司的Azure Trustworthy ML团队的Will Pearce和Ram Shankar Siva Kumar解释说:“我们在AI开发阶段就导入Counterfit,以在AI系统中的漏洞投入生产之前发现它们。”Counterfit是一种命令行工具,可以在云中或本地安装和部署。该工具与环境无关:评估后的AI模型可以托管在本地或边缘的云环境中。“该工具将其AI模型的内部工作抽象化,以便安全专业人员可以专注于安全评估。Counterfit使安全社区可以访问已发布的攻击算法,并有助于提供一个可扩展的接口,通过该接口可以开发、管理和发起对AI模型的攻击。”Counterfit还可以用于渗透测试和红队AI系统(通过使用预加载的已发布攻击算法),扫描其中的漏洞并进行日志记录(记录针对目标模型的攻击)。Counterfit的另一个优点是可以在使用不同数据类型(文本、图像或通用输入)的AI模型上运行。在开放源代码之前,Microsoft已要求大型组织、中小企业和政府组织中的合作伙伴针对其环境中的ML模型对该工具进行测试,以确保它可以满足每个人的需求。MITRE在最近的报告中指出:“过去三年中,包括谷歌、亚马逊、微软和特斯拉等公司的机器学习系统都曾被欺骗、绕过或误导,此类攻击将来只会越来越多。”

——“安全牛”微软开源人工智能安全测试工具:Counterfit 2021-05-07

项目连接先放上了
https://github.com/Azure/counterfit/

项目运行部署

环境:pycharm2018\windows10\python 3.9.6(虽然官方给3.7,但决定先踩踩坑)
requirements:

# counterfit
cmd2==1.3.11
numpy==1.18.5
requests==2.24.0
hyperopt==0.2.3
scipy==1.7.1
questionary==1.9.0
python-Levenshtein==0.12.2
# frameworks
adversarial-robustness-toolbox>=1.5
textattack
torchvision==0.9.0
torch==1.8.0
tensorflow-hub==0.12.0 # to run textbugger, bae_garg and textfooler attacks
torchfile==0.1.0 # to run fga_jia_2019 attack
h5py==2.10
lightgbm==3.1.1
# testing framework
pytest==6.1.1

安装到textattack:
https://textattack.readthedocs.io/en/latest/
pycharm直接在setting里面安装报错,pip install textattack也一样,非版本问题、非中文路径问题
报错内容:

_editdistance.cpp
  editdistance/_editdistance.cpp: warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Uni
code 格式以防止数据丢失
  editdistance/_editdistance.cpp(117): error C2059: 语法错误:“if”
  editdistance/_editdistance.cpp(118): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(119): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(120): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(121): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(122): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(123): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(124): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(125): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(126): error C2059: 语法错误:“else”
  editdistance/_editdistance.cpp(127): error C2059: 语法错误:“return”
  editdistance/_editdistance.cpp(128): error C2059: 语法错误:“}”
  editdistance/_editdistance.cpp(128): error C2143: 语法错误: 缺少“;”(在“}”的前面)
  Running setup.py install for editdistance ... error
    ERROR: Command errored out with exit status 1:……

解决方法:直接下载 editdistance-0.3.1.tar.gz
找到报错文件,打开.\editdistance-0.3.1\editdistance_editdistance.cpp
发现里面有日文注释line:33、66、104、109-111、129全部删除保存
Counterfit 部署教程
安装textattack源:

git clone https://github.com/QData/TextAttack.git
cd TextAttack

找到textattack里面的editdistance删除
Counterfit 部署教程
然后进入textattack执行pip install -e .
安装成功:
Counterfit 部署教程
python3.9:
运行counterfit.py
报错:ImportError: cannot import name ‘gcd’ from ‘fractions’
解决方法:python3.9 gdc 函数在math中,修改dag.py:
Counterfit 部署教程
counterfit成功执行:
Counterfit 部署教程文章来源地址https://www.toymoban.com/news/detail-464206.html

到了这里,关于Counterfit 部署教程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 微软宣布推广数字助理 Copilot;GPT 应用开发和思考

    🦉 AI新闻 🚀 微软宣布推广基于生成式人工智能的数字助理 Copilot 摘要 :微软宣布将基于生成式人工智能的数字助理 Copilot 推广到更多软件产品中。新的 AI 助理 Microsoft Copilot 将在 Windows 中无缝可用,包括 Windows 11 桌面、Microsoft 365、Outlook、Edge 浏览器和必应。它能够提取用

    2024年02月08日
    浏览(46)
  • 微软正式宣布 Win10 死刑,Win11 LTSC要来了

    微软在 2015 年带来了 Windows 10,PC 操作系统也由此进入到一个新的篇章。 如此前每代新系统一样,Windows 10 发布之初,稳定性不足,BUG 众多。 全新的界面设计、交互逻辑以及操作习惯上的强行改变让其很长一段时间都不那么受 待见 。 直到经历大小版本优化完善,加之微软放

    2024年02月16日
    浏览(59)
  • 微软宣布 Windows Copilot:基于 AI,全新的 Windows 人机交互方式

    原文链接:https://www.winisle.com/post/introducing-windows-copilot/  今天,微软正式在 Build 2023 期间宣布了 Windows Copilot 功能。这项基于 AI 的功能即将重新定义 Windows 的人机交互方式。Windows Copilot 的三大功能: Windows Copilot 整合了 Bing 和 ChatGPT 功能,可以直接向 Windows 提问(比如:如何

    2024年02月13日
    浏览(48)
  • 微软刚刚宣布Pavan Davuluri担任新的Windows和Surface负责人

      每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与

    2024年04月14日
    浏览(33)
  • 微软宣布计划在 Windows 10 版本 22H2 中引入 AI 助手 Copilot

    根据之前的传言,微软宣布计划在 Windows 10 版本 22H2 中引入 AI 助手 Copilot。Copilot 将包含在 Windows 10 家庭版和专业版中。该更新的发布日期尚未公布,但预计将在不久的将来发布。 在一份新闻稿中,微软表示在向 Windows 11 用户提供 Copilot 时收到了 “很好的反馈”。与之前不为

    2024年02月05日
    浏览(44)
  • 抢先微软,Google版Copilot上线!谷歌宣布给Google全家桶开放Bard功能

    夕小瑶科技说 原创 作者 | 智商掉了一地、兔子酱   就在本月 5 号,Bard 和 Google Workspace 同步更新了一则新闻,宣布 Workspace 的团队用户即日起可以申请体验由 Bard 大模型驱动的生成式 AI 工具。 这项计划在今年 3 月份首次公布,当时该工具仅对 Bard 用户开放,但现在 Workspac

    2024年02月09日
    浏览(63)
  • 微软宣布在 Excel 中使用 Python:结合了 Python 的强大功能和 Excel 的灵活性。

    自诞生以来,Microsoft Excel 改变了人们组织、分析和可视化数据的方式,为每天使用它的数百万人提供了决策基础。今天,我们宣布发布 Excel 中的 Python 公共预览版,从而使 Excel 中的分析功能取得重大进展。 Excel 中的 Python 可以在同一工作簿中本地组合 Python 和 Excel 分析 - 无

    2024年02月11日
    浏览(42)
  • 微软宣布 AI 聊天机器人必应聊天已向所有人开放,使用方法说明

    点击了解详细信息,网页会跳转到微软新必应的介绍页面,如下所示: 到这里大家就应该知道怎么操作了,点击“在Microsoft Edge中打开”按钮,就会跳转到打开的页面: 点击打开edge浏览器,就会跳转到本地安装的edge浏览器(当然,如果没有安装,就自行安装一下),跳转后

    2024年02月11日
    浏览(68)
  • OceanBase宣布ODC开源,共建企业级的数据库协同开发工具

    8月18日,在第十四届 DTCC 中国数据库技术大会上, OceanBase 宣布将四大生态工具之一的 ODC 正式开源,这意味着在公开核心代码等动作后, OceanBase 进一步开源开放。 OceanBase 产品总经理杨志丰在 DTCC 2023 主会场,宣布 ODC 开源 ODC( OceanBase Developer Center )是一款企业级的数据库

    2024年02月12日
    浏览(41)
  • 互联网快讯:诺基亚与微软拓展合作;极米Z6X Pro、极米H3S成爆款;美的宣布收购武汉天腾动力

    国内要闻 智联招聘报告:2022届求职毕业生平均期望月薪6295元,比去年下降约6%; 荣耀回应“筹资450亿美元计划2022年上市”传闻:不属实; 美的宣布收购武汉天腾动力,进入二轮电动车领域; 华为再次宣布面向全球招募“天才少年”:5+倍薪酬,不限学历,不限学校; 金山

    2024年02月07日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包