日志采集 第2页
日志平台设计:如何搭建有价值的日志分析体系-AI运维探索者

日志平台设计:如何搭建有价值的日志分析体系

一、日志规范 在K8S架构中,为了统一和标准化日志格式,可以使用以下几种常见的日志规范: 1、日志格式规范: - 结构化日志:使用结构化日志格式,如JSON、XML 或 Key-Value Pair(键值 对)格...
头像3年前
05112
Filebeat与Loki日志收集方案分析-AI运维探索者

Filebeat与Loki日志收集方案分析

一、Filebeat 在早期的ELK架构中,日志收集均以Logstash为主,Logstash负责收集和解析日志,它对内存、CPU、IO资源的消耗比较高,但是Filebeat所占系统的CPU和内存几乎可以忽略不计。 由于Fileb...
头像3年前
03111
Filebeat实战:采集容器内日志与环境清理-AI运维探索者

Filebeat实战:采集容器内日志与环境清理

一、使用Filebeat收集容器内的日志 有些程序在设计时,并没有符合云原生设计,也就是把程序的日志直接输出到了本地文件,此时如果也需要收集日志,可以在程序的 Pod 内,启动一个 Filebeat 的容...
头像3年前
03411
Loki 场景实践:虚机日志、Java 应用日志与生产优化-AI运维探索者

Loki 场景实践:虚机日志、Java 应用日志与生产优化

- 一、背景 - 非K8S集群节点,单独部署某个特殊应用或Job的虚机; - 各个应用间的日志数据非同一目录; - 当前K8S环境中已经部署了Loki日志管理系统; 一、非K8S集群虚机日志收集 1.1 安装和配...
头像3年前
03010
Filebeat实战:按标签采集Kubernetes日志-AI运维探索者

Filebeat实战:按标签采集Kubernetes日志

一、使用Filebeat根据标签收集日志 除了逐个配置 Namespace,也可以根据 Namespace 的标签进行过滤,更加方便。 比如只收集 Namespace 具有 filebeat=true 标签的空间日志: 1、备份配置文件 2...
头像3年前
05010
Filebeat实战:采集指定文件日志-AI运维探索者

Filebeat实战:采集指定文件日志

一、使用Filebeat收集指定文件日志 如果想要收集某个文件的日志,可以直接添加 log 类型日志配置即可: 1、备份配置文件 2、修改filebeat配置文件 添加内容 完整配置文件 3、重新应用filebeat配...
头像3年前
03510
ECK日志采集核心:Beat资源与Filebeat配置详解-AI运维探索者

ECK日志采集核心:Beat资源与Filebeat配置详解

一、ECK核心资源Beat配置详解 ECK核心资源Beat配置示例: 1.1 FileBeat配置详解 1.1 FileBeat基于k8s自动发现配置 ECK核心资源FileBeat配置示例: 1.1 FileBeat基于inputs配置 ECK核心资源FileB...
头像3年前
0409
Fluentd 入门:安装方式、事件模型与基础过滤-AI运维探索者

Fluentd 入门:安装方式、事件模型与基础过滤

一、前言 Fluentd 是一个开源的日志收集和传输工具,用于可靠地收集、传输和处理各种类型的 日志数据。它被设计成具有灵活性和可扩展性,可以在复杂的日志处理场景中进行配置和定制。 以下是 Fl...
头像3年前
0408
Filebeat实战:在Kubernetes中收集和查询集群日志-AI运维探索者

Filebeat实战:在Kubernetes中收集和查询集群日志

一、使用Filebeat收集K8s日志 1.1 在K8s中一键部署Filebeat 参考链接:https://www.elastic.co/docs/deploy-manage/deploy/cloud-on-k8s/quickstart-beats 1.1 部署Filebeat 1、创建一个定义 Fi...
头像3年前
0268
多种日志收集方案:应用日志、Pod 日志与 Sidecar 实践-AI运维探索者

多种日志收集方案:应用日志、Pod 日志与 Sidecar 实践

一、前言 集群级/应用日志通过将日志数据从容器或节点中解耦,并将其发送到集中的日志存储或处理系统,使日志数据在整个集群中可见。 **优势**:即使容器或节点发生故障,仍然可以访问日志数据...
头像3年前
0277