S3 Storage Lens のエクスポートマニフェストとは? - Amazon Simple Storage Service

S3 Storage Lens のエクスポートマニフェストとは?

集計されるデータが大量の場合、S3 Storage Lens の日次メトリクスのエクスポートは、複数のファイルに分割されます。マニフェストファイル manifest.json には、その日のメトリクスのエクスポートファイルが保存された場所が記述されています。新しいエクスポートが配信されるたびに、マニフェストも新たに添付されます。manifest.json ファイルに含まれる各マニフェストには、対象のエクスポートに関するメタデータおよびその他の基本的な情報が記載されています。

マニフェストの情報には、次のプロパティが含まれています。

  • sourceAccountId – その設定の所有者であるアカウント ID。

  • configId – ダッシュボードの一意の識別子。

  • destinationBucket – メトリクスのエクスポートが保存されるバケットの、Amazon リソースネーム (ARN)。

  • reportVersion – エクスポートのバージョン。

  • reportDate – レポートの日付。

  • reportFormat – レポートの形式。

  • reportSchema – レポートのスキーマ。

  • reportFiles – 保存先のバケットにある、実際のエクスポートレポートファイルのリスト。

CSV 形式で作成されたエクスポートの、manifest.json ファイルに記述されたマニフェストの例を次に示します。

{
   "sourceAccountId":"123456789012",
   "configId":"my-dashboard-configuration-id",
   "destinationBucket":"arn:aws:s3:::amzn-s3-demo-destination-bucket",
   "reportVersion":"V_1",
   "reportDate":"2020-11-03",
   "reportFormat":"CSV",
   "reportSchema":"version_number,configuration_id,report_date,aws_account_number,aws_region,storage_class,record_type,record_value,bucket_name,metric_name,metric_value",
   "reportFiles":[
        {
            "key":"DestinationPrefix/StorageLens/123456789012/my-dashboard-configuration-id/V_1/reports/dt=2020-11-03/a38f6bc4-2e3d-4355-ac8a-e2fdcf3de158.csv",
            "size":1603959,
            "md5Checksum":"2177e775870def72b8d84febe1ad3574"
        }
      ]
}

Parquet 形式のエクスポート用の manifest.json ファイルに含まれるマニフェストの例を次に示します。

{
   "sourceAccountId":"123456789012",
   "configId":"my-dashboard-configuration-id",
   "destinationBucket":"arn:aws:s3:::amzn-s3-demo-destination-bucket",
   "reportVersion":"V_1",
   "reportDate":"2020-11-03",
   "reportFormat":"Parquet",
   "reportSchema":"message s3.storage.lens { required string version_number; required string configuration_id; required string report_date; required string aws_account_number; required string aws_region; required string storage_class; required string record_type; required string record_value; required string bucket_name; required string metric_name; required long metric_value; }",
   "reportFiles":[
      {
         "key":"DestinationPrefix/StorageLens/123456789012/my-dashboard-configuration-id/V_1/reports/dt=2020-11-03/bd23de7c-b46a-4cf4-bcc5-b21aac5be0f5.par",
         "size":14714,
         "md5Checksum":"b5c741ee0251cd99b90b3e8eff50b944"
      }
}

メトリクスのエクスポートの生成は、Amazon S3 コンソールでダッシュボード設定の一部とするか、Amazon S3 REST API、AWS CLI、および SDK を使用するかの、どちらかで実行できます。