如何理解鲁棒性?为什么robustness会翻译为鲁棒性?

这篇具有很好参考价值的文章主要介绍了如何理解鲁棒性?为什么robustness会翻译为鲁棒性?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

鲁棒性,英文为Robustness(承受故障和干扰的能力),是许多复杂系统(包括复杂网络)的关键属性。复杂网络的鲁棒性研究对许多领域都非常重要。本文着重介绍了鲁棒性的基本定义、命名起源、分类区别、提升方法和具体应用,供大家学习参考。

1. 鲁棒性的基本定义

鲁棒性(英语:Robustness),鲁棒是Robust的音译,“robust”有四个含义:

1.“强健的;强壮的”

  1. “结实的;耐用的;坚固的”

  2. “(体制或机构)强劲的;富有活力的”

  3. “坚定的;信心十足的”。

百度百科对鲁棒性的定义是:鲁棒是Robust的音译,也就是健壮和强壮的意思。它也是在异常和危险情况下系统生存的能力。比如说,计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下,能否不死机、不崩溃,就是该软件的鲁棒性。所谓“鲁棒性”,也是指控制系统在一定(结构,大小)的参数摄动下,维持其它某些性能的特性。

鲁棒性的起源

据考察,鲁棒一词最早起源于1979年,南开大学涂奉生、齐寅峰教授在《信息与控制》上,分别发表题为《鲁棒(Robust)调节器》和《鲁棒调节器的一种设计》3的两篇文章,文章中首次将robust翻译为“鲁棒性”。有学者认为,将“robust”译为“鲁棒”是“音义兼顾”的绝好译法。因为“robust调节器”具有“使系统保持稳定且具有渐进调节特性的能力”,而“‘鲁’者粗莽也,‘棒’者强之同义也。”所以“‘鲁棒’一词较好地表明了此类调节器的特征,且较‘粗壮’,‘强壮’等词生动。”鲁棒性一词因其形神兼备的译法逐渐得到学术界的认可,渐渐沿用下来。

鲁棒这个词为啥这样翻译,技术干货,鲁棒,人工智能

2. 鲁棒性与稳定性的区别

鲁棒性和稳定性都是反应控制系统抗干扰能力的参数,但鲁棒性不等同于稳定性。

定义上

“鲁棒性”,是指控制系统在一定(结构,大小)的参数摄动下,维持其它某些性能的特性。

“稳定性”,是指控制系统在使它偏离平衡状态的扰动作用消失后,返回原来平衡状态的能力。

受到的扰动

稳定性是指系统受到瞬时扰动,扰动消失后系统回到原来状态的能力,而鲁棒性是指系统受到持续扰动能保持原来状态的能力。

稳定的概念

稳定性分为一致稳定和渐进稳定,就是说可以慢慢的稳定也可以螺旋形绕着稳定点稳定:

鲁棒性,是指你可以设定一个鲁棒界(可以 2 范数也可以是无穷范数),只要系统在这个界内就是稳定的。

以送外卖为例做一个形象的比喻:

外卖小哥在送餐时遇到了极端天气(如暴雨暴雪),当这个极端天气结束后,外卖小哥仍然可以以原先的速度送餐,我们可以说外卖小哥是稳定的;但如果在遭遇极端天气的过程中,外卖小哥冒着雨雪将外卖按时送到顾客手中,这种情况就称为鲁棒性好。

稳定性是指系统不随外界而变化的能力,鲁棒性是指当外界变化时,系统自适应的能力。

3. 鲁棒性的分类

在实际问题中,系统特性或参数的摄动常常是不可避免的,产生摄动的原因主要有两个方面:一个是由于测量的不精确使特性或参数的实际值会偏离它的设计值(标称值),另一个是系统运行过程中受环境因素的影响而引起特性或参数的缓慢漂移。

控制系统的一个鲁棒性是指控制系统在某种类型的扰动作用下,包括自身模型的扰动下,系统某个性能指标保持不变的能力。对于实际工程系统,人们最关心的问题是一个控制系统当其模型参数发生大幅度变化或其结构发生变化时能否仍保持渐近稳定,这叫稳定鲁棒性。进而还要求在模型扰动下系统的品质指标仍然保持在某个许可范围内,这称为品质鲁棒性。

设计一个控制器,如果该控制器对对象集合中的每个对象都能满足给定的性能指标,则称该控制器对此性能指标(特性)是鲁棒的,两个重要的鲁棒概念是:

稳定鲁棒性:一个控制器如果对集合P中的每一个对象都能保证系统稳定则是鲁棒稳定的。

品质鲁棒性:一个控制器如果对集合P中的每一个对象都能保证系统稳定和一种特定品质则认为是品质鲁棒的。

4. 如何提高鲁棒性

AI模型的鲁棒可以理解为模型对数据变化的容忍度。假设数据出现较小偏差,只对模型输出产生较小的影响,则称模型是鲁棒的。 Huber从稳健统计的角度给出了鲁棒性的3个要求:

1.模型具有较高的精度或有效性。

2.对于模型假设出现的较小偏差(noise),只能对算法性能产生较小的影响。

3.对于模型假设出现的较大偏差(outlier),不能对算法性能产生“灾难性”的影响。

提升鲁棒性的方法:

1)从数据上提升性能

收集更多的数据、产生更多的数据、对数据做缩放、对数据做变换、特征选择、重新定义问题

2)从算法上提升性能

算法的筛选、从文献中学习、重采样的方法

3)从算法调优上提升性能

注意力机制(给与每个像素权重,来衡量像素间的相关性SPNet)、模型可诊断性、权重的初始化、学习率、激活函数、网络结构、batch和epoch、正则项、优化目标、提早结束训练

4)用融合方法提升效果

模型融合、视角融合、stacking、多尺度融合(使用不同尺度的卷积核,增加模型的感受野,典型代表金字塔Deeplab系列)

5)增加模型宽度

将通道分成多组,每组单独进行卷积,然后再将通道合成可以减少模型的参数,提高模型准确率,增加鲁棒性(ResNext)。

5.鲁棒性的应用

在实际中,鲁棒性的应用非常广泛,由于测量的不精确和运行中受环境因素的影响,不可避免地会引起系统特性或参数缓慢而不规则的漂移,所以在应用复杂性范式对各种类型控制系统进行设计时,都要考虑鲁棒性问题。如组织行为管理、制定战略规划、提供决策方案,生态系统的恢复性,动态平衡、遗传网络、遗传变异的阻尼,生物复杂性的发展定向进化进化的自动选择,免疫系统里的分布式反馈。神经系统,计算机网络系统,经济社会系统的经济博弈、社会制度、政治协议、体制机制等等。文章来源地址https://www.toymoban.com/news/detail-805737.html

到了这里,关于如何理解鲁棒性?为什么robustness会翻译为鲁棒性?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 为什么分类问题不能使用mse损失函数,更容易理解版本

    分类问题通常不适合使用均方误差(Mean Squared Error,MSE)损失函数,原因如下: 输出差异的度量不同:MSE损失函数是基于预测值和真实值之间的差异的平方和进行计算的,适用于回归问题(建立一个模型来预测连续数值输出的问题, eg: 房价预测;股票价格预测…),其中

    2024年04月26日
    浏览(31)
  • 学习笔记18——个人理解为什么快速重传是3次ACK

    为什么快速重传是选择3次ACK? 个人理解:首先网络中的丢包,乱序以及网路故障都会让服务器端发回duplicated ACK,表示有一个包一直未收到。快速重传是通过3次ACK来区分乱序,丢包和网路拥塞的情况,是基于实践经验得到的,所以说这种判断方式不一定准确,只是“大概率

    2024年02月02日
    浏览(39)
  • K8s为什么需要calico? calico 原理深入理解.

    Status: Not Started Tags: 网络, 面试 Calico作为容器网络方案和我们前面介绍的那些方案最大的不同是它没有采用overlay网络做报文的转发,而是提供了 纯3层的网络模型. 三层通信模型表示每个容器都通过IP直接通信,中间通过路由转发找到对方。在这个过程中,容器所在的节点类似

    2024年02月16日
    浏览(44)
  • 基于深度学习的多模态语音识别:如何提高语音识别准确率和鲁棒性

    作者:禅与计算机程序设计艺术 随着语音识别技术的发展,采用多种模态(声学、语言模型、视觉特征等)进行联合建模,基于深度学习的多模态语音识别取得了新进展。传统的声学模型或手工特征工程方法已经无法满足实时、高精度、低延迟的需求,多模态语音识别需要解决

    2024年02月13日
    浏览(63)
  • 分布式 - 谈谈你对分布式的理解,为什么引入分布式?

    不啰嗦,我们直接开始! 真正了解分布式系统的概念,日后工作中具有分布式系统设计思想。 能否在设计中对系统稳定性方面考虑周全。 能构建高 QPS 健壮的系统架构。 问题分析: 各种分布式框架层出不穷,Spring Cloud,阿里的 Dubbo,无论使用哪一个,原理都相同,考察下基

    2024年02月15日
    浏览(47)
  • 为什么需要协调能力?如何提高协调能力?

    协调能力指的是协作与调和,属于综合性能力的体现,涉及到表达,沟通,逻辑等方面,在日常生活中缺乏协调能力,也许影响并不太大,但是如果在职业发展中,协调能力就尤为重要,尤其是某些职业岗位,对协调能力有更高的要求。 在我们的职业生涯中,团队协作是永恒

    2024年02月07日
    浏览(47)
  • 为什么Windows 10电脑运行缓慢?如何解决?

    ​虽然电脑是大家生活中的常用工具,但它经常会出现一些烦人的小问题,比如Windows 10系统在长时间使用后运行会变的缓慢。这时你必须等待一会才能打开/关闭电脑、打开和访问文件夹或软件,那要如何优化Windows 10电脑来解决运行缓慢的问题呢?   不用担心,请继续往下

    2024年02月10日
    浏览(51)
  • 【JAVA】为什么要使用封装以及如何封装

    个人主页:【😊个人主页】 系列专栏:【❤️初识JAVA】 Java的封装指的是在一个类中将数据和方法进行封装,使其可以保护起来,只能在该类内部访问,而不允许外部直接访问和修改。这是Java面向对象编程的三个基本特性之一,另外两个是继承和多态。在此之前我们已经学

    2024年02月08日
    浏览(56)
  • 为什么项目可见性难以实现?该如何提高?

    在项目和专业服务管理中,失败有时难以避免。沟通不足和需求定义不明确被认为是造成失败的最大原因,这意味着项目可见性和信息流动至关重要。 什么是项目可见性? 项目可见性是组织项目相关信息的方式,以便所有团队成员、项目经理和项目利益相关者都能获得全面

    2024年02月16日
    浏览(40)
  • 为什么黑客不黑/攻击赌博网站?如何入门黑客?

    攻击了,只是你不知道而已! 同样,对方也不会通知你,告诉你他黑了赌博网站。 攻击赌博网站的不一定是正义的黑客,也可能是因赌博输钱而误入歧途的法外狂徒。之前看过一个警方破获的真实案件:28岁小伙因赌博无法提款自学成为黑客,攻击境外博彩网站日进万元,最

    2023年04月11日
    浏览(68)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包