对于大规模系统日志的日志模式提炼算法的优化
大小:0.66 MB 人气: 2017-11-21 需要积分:0
标签:日志(10558)
LARGE框架是部署在中国科学院超级计算环境中的日志分析系统,通过日志收集、集中分析、结果反馈等步骤对环境中的各种日志文件进行监控和分析。在对环境中系统日志的监控过程中,系统维护人员需要通过日志模式提炼算法将大量的过往系统日志记录缩减为少量的日志模式集合。然而随着日志规模的增长以及messages日志文件的特殊性,原有的日志模式提炼算法已经难以满足对大规模日志快速处理的需要。介绍了一种对于日志模式提炼算法的优化方法,通过引入MapReduce机制实现在存在多个日志输入文件的情况下对日志处理和模式提炼的流程进行加速。实验表明,当输入文件较多时,该优化方法能够显著提高词汇一致率算法的运行速度,大幅减少运行时间。此外,还对使用词汇转换函数时的算法运行时间和提炼效果进行了验证。
非常好我支持^.^
(0) 0%
不好我反对
(0) 0%
下载地址
对于大规模系统日志的日志模式提炼算法的优化下载
相关电子资料下载
- 鸿蒙开发系统基础能力:ohos.hilog 日志打印 166
- 鸿蒙开发系统基础能力:ohos.faultLogger 故障日志获取 146
- 奇怪!应用的日志呢?? 173
- 微软将Xbox Wire更新日志迁移至Xbox Support网站 233
- 【嵌入式SD NAND】基于FATFS/Littlefs文件系统的日志框架实现 847
- 【嵌入式SD NAND】基于FATFS/Littlefs文件系统的日志框架实现 794
- 基于Clickhouse构建新一代日志存储系统 454
- Windows事件日志查看器存在零日漏洞 287
- 润和软件HopeStage与日志易系统完成产品兼容性互认证 233
- 请问Spring Boot是如何快速过滤出一次请求所有日志的? 245