【干货】日志管理与分析(一)——日志收集及来源

2023-10-27

对广大IT工作者,尤其是运维和安全人员来说,“日志”是一个再熟悉不过的名词。

日志从哪来?机房中的各种软件(系统、防火墙)和硬件(交换机、路由器等),都在不断地生成日志。IT安全业界的无数实践告诉我们,健全的日志记录和分析系统,是系统正常运营、优化以及安全事故响应的基础,虽然安全系统厂商为我们提供了五花八门的解决方案,但基石仍是具有充足性、可用性、安全性的日志记录系统。

实际工作中,许多单位内部对日志并没有充分的认识,安全建设更多在于投入设备,比如防火墙、IDS、IPS、防病毒软件等,被动地希望这些系统帮助我们完成一切工作,但是俗话说的好:“魔高一尺道高一丈”,以特征码和预定义规则为基础的上述设备,在防护方面永远落在攻击者后面,防微杜渐才是真正的出路。

作为一名合格的安全人员,了解日志的概念,了解日志的配置和分析方法,是发现威胁、抵御攻击的重要技能,有了这方面的深刻认识,各种自动化安全解决方案才能真正地发挥效能。PHP大马

 

 

近日,有幸拜读《日志管理与分析权威指南》一书,本书由三位业界资深安全专家编著,从日志的基本概念开始,由浅入深讲述了整个日志生命周期的详细过程,从日志的概念、数据概念、人工分析日志、以及日志与合规的依从性、自动化分析日志引申到SIEM日志管理。而其一作者Anton A.Chuvakin博士是日志管理、SIEM和PCI DSS依从性领域公认的安全专家,他的博客www.securitywarrior.org是该领域中最受欢迎的博客之一,下面附一张Anton A.Chuvakin博士的博客截图。

题主并不是日志分析专家,只是借着学习后的总结分享出来,每个人在不同时机看的东西不一样,欢迎指正~

 

01

日志数据

 

简单地说,日志消息就是计算机系统、设备、软件等在某种触发下反应生成的东西。确切的触发在很大程度上取决于日志消息的来源。例如,UNix操作系统会记录用户登录和注销的消息,防火墙将记录ACL通过和拒绝的消息,磁盘存储系统在故障发生或者在某些系统认为将会发生故障的情况下会生成日志消息。

日志数据就是一条日志消息里用来告诉你为什么生成消息的信息,例如,web服务器一般会在有人访问web页面请求资源(图片、文件等等)的时候记录日志。如果用户访问的页面需要通过认证,日志消息将会包含用户名。天天好彩

 

日志消息可以分成下面的几种通用类型:

  • 信息:这种类型的消息被设计成告诉用户和管理员一些没有风险的事情发生了。例如,Cisco IOS将在系统重启的时候生成消息。不过,需要注意的是,如果重启发生在非正常维护时间或是业务时间,就有发出报警的理由。

  • 调试:软件系统在应用程序代码运行时发生调试信息,是为了给软件开发人员提供故障检测和定位问题的帮助。

  • 警告:警告消息是在系统需要或者丢失东西,而又不影响操作系统的情况下发生的。

  • 错误:错误日志消息是用来传达在计算机系统中出现的各种级别的错误。例如,操作系统在无法同步缓冲区到磁盘的时候会生成错误信息。

  • 警报:警报表明发生了一些有趣的事,一般情况下,警报是属于安全设备和安全相关系统的,但并不是硬性规定。在计算机网络中可能会运行一个入侵防御系统IPS,检查所有入站的流量。它将根据数据包的内容判断是否允许其进行网络连接。如果IPS检测到一个恶意连接,可能会采取任何预先配置的处置。IPS会记录下检测结果以及所采取的行动。

 

02

日志数据的传输与收集

 

计算机或者其他设备都实现了日志记录子系统,能够在确定有必要的时候生成日志消息,具体的确定方式取决于设备。另外,必须有一个用来接收和收集日志消息的地方,这个地方一般被称为日志主机。日志主机是一个计算机系统,一般来说可能是linux和windows服务器系统,它是集中收集日志消息的地方。使用集中日志收集器的优点如下:

  • 可以集中存储从多个地方得到的日志消息。

  • 可以在上面备份你的日志。

  • 可以在上面进行日志数据的分析。

 

那么,日志消息如何传输?最常见的方法是通过syslog协议。syslog协议是日志消息交换的一种标准。常见于Linux系统中,也使用在windows平台上。syslog基本上都实现了客户端和服务端组件,两者之间通过用户数据报协议(UDP)通信,但是为了可靠传输,很多开源和商业syslog实现同样也支持传输控制协议(TCP)。

syslog并不是传输和收集日志数据的唯一机制。例如,微软为windows开发了自己的日志记录系统,称为windows事件日志。用户登录注销,应用程序消息等都以专有的格式存储。有开源和商业的应用程序用来将windows事件日志转换成syslog的格式,以发送给syslog服务器。

简单网络管理协议(SNMP)是一种用来管理网络设备的基于标准的协议。

数据库已经变成了应用程序存储日志消息的简便途径。应用程序可以将它的日志消息写进数据库模式,而不是生成一条syslog消息。在某些情况下,syslog服务器本身也可以直接写入关系型数据库,特别是在结构化存储、分析和报告日志消息的情况下有着极大的优势。

最后,也有一些专有的日志记录格式。第三方设备和应用程序实现了用于生成和检索日志消息的专有机制。在这个领域,供应商可能以C或者java类库的形式给你提供应用编程接口(API),或者由你自行实现协议。可将windows事件日志看作一种专有格式,但时常人们将其看作非官方日志记录标准,类似syslog,因此这种方式很流行。

  1. syslog:基于UDP的客户端/服务器协议。这是最常见和普遍的日志记录机制。

  2. SNMP:SNMP最初是为了管理网络中的设备而创造的,然而多年来许多非网络系统已采用SNMP作为发出日志消息和其他状态类型数据的方式。

  3. windows事件日志:微软的专

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

【干货】日志管理与分析(一)——日志收集及来源 的相关文章

  • 微信小程序滑动穿透解决方案

    微信小程序滑动穿透解决方案 微信小程序弹窗滑动会穿透 导致底层也会跟着滑动 在网上找了好多方法都没有解决滑动穿透问题 后来在开发中做滑动的时候用到了scroll view 后改用这个标签尝试了一下 果然解决了滑动穿透的问题 出现滑动穿透的原
  • 常见的Java框架有哪些?

    Java语言仍然是当下 程序猿 们最爱使用的热门编程语言之一 想要进入这个行业 Java可以为你引路 很多初学的人可能没有系统的了解过Java框架都有哪些 今天为大家整理一下常见的Java框架都有什么 Java框架 1 Spring框架 S
  • matlab 多输入多输出神经网络

    构建训练样本集 inputn input train outputn output train 构建BP神经网络 net newff inputn outputn 21 21 tansig tansig trainbr 网络参数 net t
  • STM32 之十 供电系统及内部参照电压(VREFINT)使用及改善ADC参考电压,内部参照电压的具体方法,只有在STM32F0x芯片的参考手册中才能找到,其他MCU的参考手册都是很简单的说明

    STM32 之十 供电系统及内部参照电压 VREFINT 使用及改善ADC参考电压 ZCShouEXP 2018 12 21 10 50 33 16404 收藏 32 展开 问题 今天在使用 STM32F407 的 ADC 时遇到一个问题
  • char *,char **,char a[ ],char *a[]

    1 字符数组 C语言中规定数组代表数组所在内存位置的首地址 也是 str 0 的地址 即str str 0 而printf s str 为什么用首地址就可以输出字符串 因为还有一个关键 在C语言中字符串常量的本质表示其实是一个地址 这是许多
  • 2022年年终总结,不忘初心,砥砺前行

    从2019年开始第一次在csdn写个人年终总结 不知不觉已经坚持了三年 今年是第四次写年终总结 其实在前几个周自己写过一个年终总结 不过那是每年公司年要求每个人都要写的一个工作述职 来总结过去一年自己给公司所做的贡献 以及存在的问题 还有未
  • MySQL优化篇:执行计划explain中key_len计算方式

    概述 key len表示索引使用的字节数 根据这个值可以判断索引的使用情况 特别是在使用联合索引的时候 判断该索引有多少部分被使用到非常重要 key len的长度计算公式很重要 key len越小 说明索引效果越好 准备结构和数据 在MyS
  • IDEA 2016免费下载(附安装教程)

    下载地址 软件名称 IntelliJ IDEA 2016 软件大小 790MB 安装环境 Windows 下载链接 https pan baidu com s 1Hy0bVzh9uemWMnhRgx8HkA 提 取 码 geek 建议复制粘
  • QT之Layout类

    这个类是用来布局的 它有各种各样既定风格的盒子 往这个盒子里添加控件 这些控件就会按照这个盒子的风格来找到自己的位置 举个例子 一个水平盒子往里面添加控件 是按照从左往右的顺序依次添加 QHBoxLayout layout 首先创建一个水平
  • IDEA中编译及运行ssm(非maven)项目

    一直用springboot框架 所有回顾下ssm项目环境配置及启动 1 导入项目 2 配置项目环境 2 1然后添加项目自带的jar包 2 2添加 tomcat server服务器 要不运行时代码会报错 缺少依赖 选择自己电脑上的tomcat
  • 写一篇关于chatGPT的心得体会

    这次使用ChatGPT训练的大型语言模型 让我真正感受到了自然语言处理的强大能力 ChatGPT可以根据用户输入的文本 快速生成准确 流畅的回复 拥有丰富的语义表达能力 可以识别各种语句的结构和意义 快速建立起人机之间的交互 它不仅可以帮助
  • MobaXterm插件连接Linux虚拟机

    一 前言 在VirtualBox里面打开的虚拟机系统界面是非常小的 而且看不到鼠标的光标显示 无法去随意点击和进行文件的手动操作 所以老师这里有一个可以连接虚拟机的插件 MobaXterm插件 这个就相当于是手机的投屏器 可以放大系统界面
  • 微信小程序开发架构——JavaScript的基本概述 和 JavaScript在 Nodejs、小程序中、浏览器中的使用方法

    轻量 是指在入门JavaScript语言时候觉得JavaScript 没有其它语言学习起来那么重 解释性 是指所编写的JavaScript语言它在运行时 机器会把JavaScript语言翻译成机器语言 JavaScript语法接近于Java
  • 数字图像字符识别——数字识别

    本文简单介绍图片字符识别的原理 主要识别图片中的数字 其他字符识别原理类似 大家应该知道 对于人类来说 可以很容易理解一张图片所表达的信息 这是人类视觉系统数万年演变进化的结果 但对于计算机这个诞生进化不到百年的 新星 要让它理解一张图像上
  • 如何从头手写一个富文本编辑器(解析slate源码,连载)

    背景 最近文档很火 老板也要 我也很感兴趣 于是入坑学习实践了一番 一眨眼就是一年过去了 项目初见成效 但是发现困难和挑战也越来越棘手 于是深入研究改编了一下源码 为后面重写源码做准备 我们的项目的成果截图 镇宅一下 文章末尾有demo源码
  • 聊聊2017 OWASP Top 10

    关于OWASP Top10 OWASP项目最具权威的就是其 十大安全漏洞列表 OWASPTop 10 OWASP Top 10不是官方文档或标准 而只是一个被广泛采用的意识文档 被用来分类网络安全漏洞的严重程度 目前被许多漏洞奖励平台和企业
  • moduleName is declared but its value is never read.ts(6133)报错解析

    问题重现 当使用ts语法导入第三方库时 比如koa模块 这时会发现出现这个错误 这个错误因为没有默认导出 问题原因 一般我们使用ts导入其他模块时都会有一个声明文件 不明白可以看我另外一篇 博客 我们进入声明文件中可以发现模块是通过expo
  • 使用Easyexcel对Excel进行读写操作

    1 概述 EasyExcel是一个基于Java的简单 省内存的读写Excel的开源项目 在尽可能节约内存的情况下支持读写百M的Excel github地址 GitHub alibaba easyexcel 快速 简洁 解决大文件内存溢出的j
  • ES6模块

    项目目录 node modules package json server js public index html index js math js babelrc dist 搭建验证环境 npm init y npm install s
  • 小程序中使用for循环,并动态添加class

    前言 小程序中使用for循环 并动态添加class 实现效果 实现代码 index wxml中

随机推荐

  • 考研高数数二 一元函数积分学内容框架

    完整的思维导图链接 https zhimap com m NojzfjkC
  • 第46讲 Android Camera2 API AWB自动白平衡

    本讲是Android Camera专题系列的第46讲 我们介绍Android Camera2 API专题的AWB自动白平衡 包括如下内容 为什么要做白平衡 什么是自动白平衡 Android Camera颜色处理流程 AWB模式 AWB Lo
  • Java运算符优先级顺序

    Java运算符优先级顺序 图集说明 1 算数运算符 补充两个 单目运算符 正号 10 10 单目运算符 负号 n 10 n 10 1 除法规则 若两个操作数都是整型 结果也是整型 除数不能为0 若两个操作数有一个是浮点型 结果是浮点型 Sy
  • python爬虫十三:详细了解scrapy

    1 Scrapy log信息的认知 2019 01 19 09 50 48 scrapy utils log INFO Scrapy 1 5 1 started bot tencent 2019 01 19 09 50 48 scrapy
  • Matlab安装 MinGW-w64 编译器的方法

    最近用Matlab实现机器学习算法 学习到支持向量机时 提示需要运行lib svm包需要安装 MinGW w64 C 编译器 在这里把步骤列一下 1 下载MinGW w64 C 编译器 点击下载 安装时注意选择32位还是64位的 1 安装时
  • Windows混音器API使用

    1 首先用mixerGetNumDevs 函数获取系统中的混音器设备的数量 一般 机器上都至少有一个混音器设备 声卡 如果机器上没有连接其它的音频设备 那么也就只有声卡这一个混音器设备 我的机器上接有一个名为USB EMP Audio De
  • go-redis 框架基本使用

    文章目录 redis使用场景 下载框架和连接redis 1 安装go redis 2 连接redis 字符串操作 有序集合操作 流水线 事务 1 普通事务 2 Watch redis使用场景 缓存系统 减轻主数据库 MySQL 的压力 计数
  • 自适应控制设计(二)

    自适应控制设计 二 自适应控制基本思想 一文主要介绍了自适应控制设计的基本思路 但是针对控制率的设计没有具体说明 这里针对反馈控制率的设计步骤进行具体介绍 控制器设计基本思想 对于任何一个动态系统 我们都可以根据Lyapunov稳定性设计其
  • C++MFC编程之按钮控件Button、Radio Button和Check Box

    钮控件包括命令按钮 Button 单选按钮 Radio Button 和复选框 Check Box 等 命令按钮就是我们前面多次提到的狭义的按钮控件 用来响应用户的鼠标单击操作 进行相应的处理 它可以显示文本也可以嵌入位图 单选按钮使用时
  • 解决el-select下拉框多选在赋完值之后,不能对tag和已选中的值取消掉

    这种是原先的写法
  • 如何在Linux环境创建GRE Tunnel

    Question I want to connect to remote networks by using a GRE tunnel How can I create a GRE tunnel between two end points
  • ini配置文件读写操作入门

    ini配置文件读写操作入门 ini文件 Initialization file 这种类型的文件中通常存放的是一个程序的初始化信息 ini文件由若干个节 Section 组成 每个Section由若干键 Key 组成 每个Key可以赋相应的值
  • 大点云的可以用opencv和pcl结合粗配准

    比如 可以把点云转换为 tif 通过一部分截取8位图像 进行sift 将得到的内点序号序列 转换为三维坐标序列 然后将三维坐标转换为点云sift cloud1和sift cloud2 这时候 由于是一一对应的 即在pcl中 query in
  • 目标跟踪综述 (持续更新)

    这几天对目标跟踪挺感兴趣的 但是在CSDN和知乎上面找的相关介绍资料都看的一知半解 所以自己找了一篇 2022 04 26 发表的综述文章作下笔记学习下 目录 一 基于相关滤波的目标跟踪算法 1 相关滤波视频目标跟踪算法的框架 2 相关滤波
  • c#特性(Attribute)与反射(Reflection)学习

    概念 特性 Attribute 用于在运行时传递程序中各种元素 比如类 方法 结构 枚举 组件等 的行为信息的声明性标签 放置在他所修饰的元素前面用 包裹 用于添加元数据 如编译器指令和注释 描述 方法 类等其他信息 可以使用预定义的特性或
  • 通过SpringBoot生成微信小程序二维码,跳转指定页面

    以下通过两种方法实现生成微信小程序二维码保存 通过华为存储obs服务 通过 IO流 字符流的使用 读取字符流 字符流写入 微信小程序获取二维码参数 onLoad function options console log options 方式
  • qt 如何在另一个线程更新控件状态

    在 Qt 中 如果要在另一个线程中更新控件的状态 有以下几种方法可以考虑 使用信号和槽 在另一个线程中发射信号 连接到控件的槽函数 在槽函数中更新控件的状态 使用事件队列 在另一个线程中调用 QCoreApplication postEve
  • 手机投屏不是全屏怎么办_手机投屏到竖放的电视

    手机投屏到竖放的电视 今天有网友给我发了手机投屏电视 但是手机横屏之后 电视机还是竖屏 其实这个很正常 因为当手机与电视机处于镜像投屏模式的时候 因为显示比例的关系 电视机是不会满屏的 只能以竖屏模式在中间显示一部分画面 就像上面的图一样
  • Maven Install 报错:To see the full stack trace of the errors, re-run Maven with the -e switch

    博主 在eclipse打包项目 将war包部署到 linux 上 install 时的报错 蓝色标志 出现这个error信息 说明仓库里有些对应的jar包没下载完全 试过非常多办法就是不行 最后 处理方法是去到本地仓库里 把对应的jar包先
  • 【干货】日志管理与分析(一)——日志收集及来源

    对广大IT工作者 尤其是运维和安全人员来说 日志 是一个再熟悉不过的名词 日志从哪来 机房中的各种软件 系统 防火墙 和硬件 交换机 路由器等 都在不断地生成日志 IT安全业界的无数实践告诉我们 健全的日志记录和分析系统 是系统正常运营 优