IT运维:使用数据分析平台监控PowerStore存储

这篇具有很好参考价值的文章主要介绍了IT运维:使用数据分析平台监控PowerStore存储。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

概述

存储在企业中一直承担着重要的角色,保证数据的安全性更是重中之重。存储的运行是否正常?我们的数据是否安全?存储管理人员的操作是否规范?这些都是企业需要关注的问题。那么该如何确保这些问题能够有效的解决?我们的选择是鸿鹄数据平台。通过鸿鹄将存储的安全日志,操作日志,告警日志集中的存储,利用其搜索功能,可以快速的定位问题,并且可以通过其丰富的报表功能进行展示。

监控目标

监控安全事件,如用户登录

监控操作事件,如用户的操作行为

监控告警事件,如存储运行状态的告警

实现以上监控的图表展示

安装vector

Vector作为数据采集器,可以接收设备的syslog日志,并转发鸿鹄平台。Vector配置方法参考下文:

安装Vector

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

查看安装后vector版本,确认安装成功

vector安装好后,直接执行vector 时,系统首先会去/usr/bin下寻找命令,如果不在这个目录中,就会找不到了。这个时候我们就需要为这些找不到的命令建立一个链接文件,链接到/usr/bin下  

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

(详细代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

登录鸿鹄平台,数据管理>新建数据集

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

编辑数据源名称,选择数据集范围为上面创建的“switch”,此时会启用

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

创建syslog.toml脚本,需要调整字段

address = "0.0.0.0:514":0.0.0.0表示接收所有主机发送过来的syslog,514表示接收的端口(syslog默认为514)

mode = "udp":表示接收syslog的协议syslog默认为udp)

._target_table = "switch" : 表示上文你创建的数据集名称

address = "172.20.6.111:9092":鸿鹄的IP和相应的端口

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

运行修改的syslog脚本,注意保持运行状态。

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

(详细代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

登录设备触发syslog(注:登录设备会自动触发syslog)。登录鸿鹄平台查看数据是否导入到switch数据集。如下图事件计数已经显示数据导入成功

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

查询下通过vector导入到switch数据集的数据,比如这里我查看下存储的日志

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

配置PowerStore syslog

登录到PowerStore存储,Setting>Remote Logging>ADD

Host/IP Address 填写鸿鹄的地址

协议:默认是udp(与上文syslog.toml里一致)

端口号:默认514(与上文syslog.toml里一致)

Audit Type:全选

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

SEND TEST MASSEGE,发送测试一个日志信息测试下鸿鹄是否收到

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

在鸿鹄上查询下日志,发现已经收到存储发送的测试日志,至此配置syslog完成

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

字段抽取

通常情况下,存储发送过来的日志是由多种类型的,比如登录相关日志,配置相关日志,这些日志的格式在鸿鹄中会先进行一次字段抽取,我们可以在看到默认抽取的字段,如果这些字段已经包含了你需要的,那么可以直接使用。如果有些字段并未抽取,那么就需要你自己抽取,鸿鹄支持正则表达式的方式抽取字段。

以下面的日志为例,我们进行正则表达式的编写

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

我们可以将日志复制到正则表达式测试网站上来编写,这样能随时知道哪里写错了。以下是我使用的测试网站https://regex101.com/

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

正则表达式如下

\w+\s\d+\s\d{2}:\d{2}:\d{2}\s\w+-\w+\s\[\d+]:\s\d+-\d+-\d+\w+\d+:\d+:\d+.\d+\s\w+-\w+\s\w+\s\w+@(?\w+)\s(?\w+)\s\[\w+@\w+\s\w+="(?\d+)"\s\w+="(?\w+)"\s\w+="(?\w+)"\s\w+="(?\w+)"\s\w+=(?"[^"]*")\s\w+=(?"[^"]*")\s\w+=(?"[^"]*")]\s(?.+)

ps_syslog,这里是需要新建的视图名称

switch._time 脚本中由第六行开始switch均指的需要抽取数据的原数据集,这里需要根据你的数据集名称替换

where contains( switch._message, 'powerstore') 'powerstore'指的是你要搜索到这个写日志特定的字段,通过powerstore可以限定日志里所有包含powerstore的日志

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

(完整代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

在高阶查询中运行,成功

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

我们运行下搜索语句测试下,可以看到我们抽取出来的字段

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

图表创建

在进行图表展示前有一个重要的点需要提一下,一般存储在没有触发其日志时,是不会生成日志的。我们需要图表展示,那么就需要尽可能多的日志数据。我们可以在存储上进行一些操作,比如登录、创建测试卷、删除测试卷等,以便丰富日志数据。

仪表板>新建仪表板

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

创建完成

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

图表创建方法1

这里我会介绍两种创建图表的方式,一般建议采用第二种方式。鸿鹄支持多种图表的样式,只要搜索语句能够正常生成结果数据,那么就可以选择对应的图表。本文不会介绍所有图表的样式,只针对创建方式进行描述。第一种就是在仪表板内创建图表,方法如下:

新建图表>设备数量
选择图表类型:单值趋势图
查询语句:这个语句可以先在查询里验证,确认查找的结果是想要的
时间范围:选择30天,可以根据自己的情况调整

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

生成图表

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

图表创建方法2

图表创建第二种是先搜索,后使用搜索的数据生成图表添加到对应的仪表盘,方法如下:

在查询里输入搜索语句

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

在查询语句运行完后,点击新建图表

图表类型:可以从各种图表类型中根据需求选择

标题:操作行为统计

选择仪表板:意思是将该图表保存到哪个仪表板

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

添加后可以在仪表板里看到添加的图表

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

以上两种方法大家可以根据情况选择,第二种更加直观简单。图表的展示这里我不详细展示,将搜索语句列出,可以给大家参考。

搜索语句

以下列出所有本文中的搜索语句,供参考

小提示:搜索语句命令部分会调用抽取的字符段,如果未抽取字符段,会出现报错

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

(完整代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

效果展示

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

延伸项

按照上文的图表创建,都是在图表生成时选择好图表的时间,比如30天,或者1天的数据展示,在实际场景中,如果我们查看图表时,想要所有的图表可以根据选择灵活的显示该怎么做,比如我想看1天的,想看7天的,那么这时候我们可以做一个”时间项“,方法如下:

创建时间选择

编辑

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

添加输入

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

输入类型:选择时间

标记名称:time_range(这个用于给图表调用)

显示标签:这个时间项显示的名字

默认标记值:这里根据自己的情况选择,我一般选择相对时间,设置成30天

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

确定后会生成一个时间选择的项

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

调用时间选择

选择想要调用的图表,选择编辑查询

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

将查询时间范围改为时间标记值,标记名称time_range(上文创建的时间选择时填写的标记名称)

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

保存后就可以在”时间选择“里选择想要查看的时间,点击应用,图表就会根据时间变化了

IT运维:使用数据分析平台监控PowerStore存储,运维,数据分析,数据挖掘

总结

通常来讲,存储设备本身会提供自己的日志审计功能,它本身也能够支持查看,简单的搜索,但是我们再深入下看待这个事情,如果我们有1套存储,存储本身的功能能够支撑,但如果我们有10台,甚至更多的存储呢?利用鸿鹄我们可以通过syslog的方式,将存储的数据统一的存储,并且利用其搜索语句进行快速的搜索,并生成相应的图表展示,这样可以大大节省我们的运维工作。

后续工作

本次针对存储只是基于现有的日志数据进行初步的展示,后续随着日志的丰富,我们还会需要进一步的进行优化,大致方向包含

  • 多套存储设备监控,比如我们有10套存储,我们应该能够灵活的选择查看具体每套存储的情况,图表会根据我们选择的存储进行变化

  • 硬件故障监控,比如硬盘故障、控制器故障、链路故障

  • 监控的告警,在某些error事件时,主动的触发邮件的告警文章来源地址https://www.toymoban.com/news/detail-639555.html

到了这里,关于IT运维:使用数据分析平台监控PowerStore存储的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【Excel统计分析插件】上海道宁为您提供统计分析、数据可视化和建模软件——Analyse-it

    Analyse-it是Microsoft Excel中的 统计分析插件 它为Microsoft Excel带来了 易于使用的统计软件 Analyse-it在软件中 引入了一些新的创新统计分析   Analyse-it与 许多Excel加载项开发人员不同 使用完善的软件开发和QA实践 包括单元/集成/系统测试 敏捷开发、代码审查 问题跟踪和用于变更管

    2024年02月07日
    浏览(48)
  • 安科瑞智慧安全用电云平台【无人化数据监控 远程控制 运维管理】

    背景 在住宅火灾中,电气引发的居高不下,已查明原因的火灾中有52%系电气原因引起,尤其是各类家用电器、电动车、电气线路等引发的火灾越来越突出,仅电动自行车引发的较大火灾就有7起。这些事故暴露出电器产品生产质量、流通销售,建设工程电气设计、施工,电器

    2024年03月20日
    浏览(54)
  • 【比赛记录】国电投-光伏电站人工智能运维大数据处理分析比赛

            DataFountain平台举办的比赛,赛题:光伏电站人工智能运维大数据处理分析。以下是比赛链接:光伏电站人工智能运维大数据处理分析 Competitions - DataFountain         在分析光伏发电原理的基础上,论证了辐照度、光伏板工作温度等影响光伏输出功率的因素,通过实

    2024年02月02日
    浏览(49)
  • 大数据分析——某电商平台药品销售数据分析

    大数据分析——某电商平台药品销售数据分析 一、   选题背景 我们已经习惯了在网上购买衣服、数码产品和家用电器,但是在网上买药品的还是不多。据史国网上药店理事会调查报告显示:2022 年,医药 B2C 的规模达到 4 亿元,仅出现 5 家锁售额达.5000 万元的网上药店。而

    2024年02月04日
    浏览(49)
  • 【数据分析】京东平台用户画像分析

    1.用户信息标签 用户信息的收集包括用户基础要素、用户场景、行为偏好、心理个性、交际等多方面。 可以用 静态标签 、 动态标签 两大类来划分。 静态数据:用户相对稳定的信息,主要包括人口属性、商业属性等方面数据;这类信息果企业有真实信息则无需过多建模预测

    2024年02月05日
    浏览(52)
  • 网络安全工具:通过监控分析日志数据保护企业网络

    由于混合工作模式的兴起以及业务运营向云环境的迁移,企业网络变得更加分散和复杂,仅安装外围安全解决方案只会创建一个基本的防御层,系统、服务器和其他网络实体会生成记录所有网络活动的日志。集中式日志管理系统可以帮助管理员自动监控网络日志,全面了解网

    2024年01月20日
    浏览(52)
  • 数据库监控与调优【六】—— SQL性能分析

    TIPS 本文基于MySQL 8.0 EXPLAIN分析SQL它不香吗?如何更加细致分析SQL的性能呢?深入SQL内部分析性能! SHOW PROFILE:简单、方便,已废弃 INFORMATION_SCHEMA.PROFILING:和SHOW PROFILE本质是一样的,已废弃 PERFORMANCE_SCHEMA:MYSQL建议的方式,未来之光,但目前来说使用不够方便 先要做一定的

    2024年02月11日
    浏览(59)
  • 人工智能在物流数据分析中的应用:基于人工智能的物流智能监控与分析

    作者:禅与计算机程序设计艺术 引言 1.1. 背景介绍 随着全球经济的快速发展和物流行业的不断壮大,对物流管理的效率与质量的要求也越来越高。传统的物流管理手段已经难以满足现代物流行业的需要,人工智能技术在物流管理中的应用显得尤为重要。 1.2. 文章目的 本文旨

    2024年02月08日
    浏览(61)
  • openGauss学习笔记-195 openGauss 数据库运维-常见故障定位案例-分析查询语句运行状态

    195.1 分析查询语句运行状态 195.1.1 问题现象 系统中部分查询语句运行时间过长,需要分析查询语句的运行状态。 195.1.2 处理办法 以操作系统用户omm登录主机。 使用如下命令连接数据库。 postgres为需要连接的数据库名称,8000为端口号。 设置参数track_activities为on。 当此参数为

    2024年01月15日
    浏览(59)
  • 数据分析平台哪个好

       在当今数字化时代,数据分析已经成为企业取得竞争优势的不可或缺的一环。随着数据量的爆炸式增长,企业需要强大的数据分析平台来帮助他们从海量数据中找到有价值的信息。然而,在众多数据分析平台中,要选择最适合自己的工具可不是一件容易的事。数聚将为企

    2024年01月17日
    浏览(35)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包