首页
个人开发
工作相关
搜索
登录
搜索
colo
欲买桂花同载酒
累计撰写
1824
篇文章
累计收到
0
条评论
首页
栏目
首页
个人开发
工作相关
日志系统
2025-12-12
设计一个简单的单机日志系统
一个简单的单机日志系统应包含以下核心要素:日志级别:DEBUG、INFO、WARN、ERROR等级别控制日志格式:包含时间戳、日志级别、消息内容等字段输出目标:控制台输出和文件输出两种方式基础功能:日志记录、级别过滤、简单轮转
2025年-12月-12日
4 阅读
0 评论
日志系统
2025-12-12
设计一个支持 PB 级日志的实时分析系统
设计要点:分层架构:日志采集层(Fluentd/Filebeat)→ 消息队列层(Kafka/Pulsar)→ 流处理层(Flink/Spark)→ 存储层(Elasticsearch/Cassandra)→ 查询层实时处理:使用流处理引擎实现窗口聚合和实时告警存储优化:冷热数据分层存储 + 列式压缩(Parquet/ORC)容错机制:Exactly-once 语义 + 副本策略 + 自动故障转移查询加速:预聚合 + 倒排索引 + 缓存机制
2025年-12月-12日
3 阅读
0 评论
日志系统
2025-12-11
设计一个高吞吐的分布式日志收集系统
设计高吞吐分布式日志系统的核心要点:分层架构:采用Agent→消息队列→处理引擎→存储的分层模型关键组件:轻量级Agent(Filebeat/Fluentd)收集日志Kafka作为缓冲队列流处理引擎(Flink/Logstash)实时处理Elasticsearch分布式存储高可用保障:Kafka分区副本机制Elasticsearch分片与副本处理引擎集群化部署性能优化:批量写入、数据压缩、索引优化
2025年-12月-11日
3 阅读
0 评论
日志系统