CloudWatch 管道
CloudWatch 管道是一个完全托管的数据收集器,用于从 AWS 服务、第三方应用程序和自定义来源摄取和转换日志数据,并将其路由到 CloudWatch。内置处理器能够让您对日志进行丰富、筛选和标准化处理,使其符合 OCSF 之类的格式,而无需管理基础设施或第三方工具。
CloudWatch 管道与日志管理体验完全集成,使您能够通过数据来源和数据类型规范,在相关日志组范围内一致地处理和丰富日志数据。这可以解锁类似下面的使用案例:
-
自动对日志进行分类:通过管道处理的日志会自动标记上数据来源信息,从而能够实现以服务为中心的基础设施范围内的发现和查询操作
-
扩大对第三方的支持:对来自不断扩大的第三方来源的日志进行汇总和规范化处理,以便实现统一的分析和合规管理
管道的输出完全兼容 CloudWatch Logs 的各项功能,包括 Logs Insights 查询、日志异常检测和 Live Tail。CloudWatch 管道既适用于标准访问日志类别,也适用于非频繁访问日志类别,并且向后兼容日志转换器。
要开始使用 CloudWatch 管道,请访问 CloudWatch 控制台中的 CloudWatch 摄取页面中的管道
注意
请注意,CloudWatch 管道适用以下限制条件
-
每个账户的管道最大数量:330 个
-
从 CloudWatch Logs 收集数据的管道最多可创建 300 个
-
从其他数据来源收集数据的管道最多可创建 30 个
-
管道组件
每个管道包括以下组成部分:
-
来源:定义数据的来源(Amazon S3 存储桶、CloudWatch Logs、第三方集成)。每条管道必须恰好有一个来源。
-
处理器(可选):在日志数据流经管道时,对数据进行转换、解析和丰富。将处理器按照定义处理器的顺序依次应用。
-
接收器:定义了已处理日志数据的发送目标。每条管道必须恰好有一个接收器。
-
扩展(可选):提供其他功能,例如用于凭证管理的 AWS Secrets Manager 集成。
在整个管道中,您的数据都通过传输层加密进行保护,从而确保满足安全性和合规性要求。
注意
管道定义本身不加密,切勿在其中包含个人身份信息(PII)等敏感数据。
注意
添加处理器会导致日志事件发生变更,且原始日志不会被保留。
定价
CloudWatch Logs 中包含了 CloudWatch 管道,无需额外费用。基于日志类别(已出售或自定义)和存储类别(标准或低频率访问)的标准日志摄入费率仍然适用。计量在第一次摄取到 CloudWatch 时进行。CloudWatch Logs 的来源在管道处理之前进行计量。第三方和 S3 存储桶源被分类为自定义日志,并在处理后进行计量。有关定价详细信息,请参阅 CloudWatch 定价
区域可用性
CloudWatch 管道在以下 AWS 区域提供服务:
-
美国东部(俄亥俄州)
-
美国东部(弗吉尼亚州北部)
-
美国西部(北加利福尼亚)
-
美国西部(俄勒冈州)
-
亚太地区(香港)
-
亚太地区(马来西亚)
-
亚太地区(孟买)
-
亚太地区(大阪)
-
亚太地区(首尔)
-
亚太地区(新加坡)
-
亚太地区(悉尼)
-
亚太地区(泰国)
-
亚太地区(东京)
-
加拿大(中部)
-
欧洲地区(法兰克福)
-
欧洲地区(爱尔兰)
-
欧洲地区(伦敦)
-
Europe (Paris)
-
欧洲(西班牙)
-
欧洲地区(斯德哥尔摩)
-
南美洲(圣保罗)
注意
第三方数据来源收集功能,仅在 OpenSearch Ingestion 服务部署了 API 端点的区域可用。
有关更多信息,请参阅《AWS 一般参考》中的 Amazon CloudWatch 端点和配额。