View a markdown version of this page

使用将 Amazon RDS for SQL Server 表导出到 S3 存储桶 AWS DMS - AWS 规范指引

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用将 Amazon RDS for SQL Server 表导出到 S3 存储桶 AWS DMS

Subhani Shaik,Amazon Web Services

Summary

适用于 SQL Server 的亚马逊关系数据库服务 (Amazon RDS) 不支持将数据加载到亚马逊网络服务 () 云上的其他数据库 (DB AWS) 引擎链接服务器上。相反,您可以使用 AWS Database Migration Service (AWS DMS) 将 Amazon RDS for SQL Server 表导出到亚马逊简单存储服务 (Amazon S3) Service 存储桶,其他数据库引擎可以在该存储桶中使用数据。

AWS DMS 帮助您 AWS 快速、安全地将数据库迁移到。在迁移过程中,源数据库可以完全运行,从而最大限度地减少依赖该数据库的应用程序的停机时间。 AWS DMS 可以将您的数据迁入和迁出最广泛使用的商业和开源数据库。

此模式 AWS Secrets Manager 在配置 AWS DMS 端点时使用。 服务可帮助您保护访问您的应用程序、服务和 IT 资源所需密钥。您可以使用 Secrets Manager 在数据库凭证、API 密钥和其他密钥的整个生命周期内对其进行轮换、管理和检索。用户和应用程序通过调用 Secrets Manager 来检索机密,从而减少对敏感信息进行硬编码的需要。Secrets Manager 提供密钥轮换,内置集成了亚马逊 RDS、Amazon Redshift 和亚马逊 DocumentDB(兼容 MongoDB)。该服务可扩展至其他类型机密,包括 API 密钥和 OAuth 令牌。借助 Secrets Manager,您可以通过使用细粒度的权限来控制对密钥的访问权限,并集中审核 AWS 云端、第三方服务和本地资源的密钥轮换。

先决条件和限制

先决条件

  • 活跃的 AWS 账户

  • 亚马逊 S3 存储桶

  • 虚拟私有云(VPC)

  • 数据库子网

  • Amazon RDS for SQL Server

  • 一个 AWS Identity and Access Management (IAM) 角色,可以代表 Amazon RDS 实例访问 S3 存储桶(列出、获取和放置对象)

  • 用于存储 Amazon RDS 实例凭证的 Secrets Manager

架构

技术堆栈

  • Amazon RDS for SQL Server

  • AWS DMS

  • Amazon S3

  • AWS Secrets Manager

目标架构

下图显示了在的帮助下将数据从 Amazon RDS 实例导出到 Amazon S3 存储桶的架构 AWS DMS。

描述如图所示。
  1. 通过源终端节点连接到源 Amazon RDS 实例的 AWS DMS 迁移任务

  2. 从源 Amazon RDS 实例复制数据

  3. 通过目标终端节点连接到目标 Amazon S3 存储桶的 AWS DMS 迁移任务

  4. 以逗号分隔值 (CSV) 格式将复制的数据导出到 Amazon S3 存储桶

工具

AWS 服务

其他工具

最佳实践

操作说明

Task说明所需技能

创建 Amazon RDS for SQL Server 实例。

  1. 打开 AWS 管理控制台,选择 RDS,然后使用标准创建选项创建具有所需版本的 Amazon RDS 实例,例如 SQL Server Express 版、SQL Server 标准版或 SQL Server 企业版。对于版本,请选择 2016 年或更高版本。

  2. 在 “模板” 下,选择Dev/Test

数据库管理员、工程师 DevOps

设置实例的凭证。

  1. 为实例输入名称。

  2. 提供 Amazon RDS 实例的用户名和密码。

数据库管理员、工程师 DevOps

配置实例类别、存储、自动扩缩以及可用性。

  1. 从列表中选择数据库实例类标准内存优化突发性能类。选择可分配为此数据库实例规划的工作负载所需计算、网络和内存容量的数据库实例类型。有关详情,请参阅 AWS 文档

  2. 从列表中选择存储类型通用型 SSD预配置 IOPS 固态硬盘或磁性。根据需要分配默认存储大小。

  3. 选择启用存储自动扩缩,根据容量规划增加 Amazon RDS 存储空间。

  4. 支持使用复制实例进行 Multi-AZ 部署 AWS DMS。在可用区、内部硬件或网络中断时, AWS DMS 将创建一个备用实例,并通过自动故障转移到备用副本来提供高可用性 (HA)。根据您导入的大小,选择相应选项。

数据库管理员、工程师 DevOps

指定虚拟私有云(VPC)、子网组、公共访问和安全组。

根据需要选择 VPC数据库子网组VPC 安全组创建 Amazon RDS 实例。遵循最佳实践,例如:

  • 请勿启用对 Amazon RDS 实例的公开访问权限。

  • 请勿使用 CIDR 0.0.0。 0/0 在安全组中。

  • 仅使用所需的 IP 地址和端口详细信息来访问 Amazon RDS 实例。

数据库管理员、工程师 DevOps

配置监控、备份和维护。

  1. 指定所需备份选项。默认情况下,启用备份,保留期为一天。

  2. 选择相应的 auto 次要版本升级维护窗口设置,以将 Amazon RDS 的待处理修改或维护应用于数据库。

  3. 选择 Create database(创建数据库)。

数据库管理员、工程师 DevOps
Task说明所需技能

创建表和加载示例数据。

在新数据库中创建一个表。使用其他信息部分中的示例代码将数据加载到表中。

数据库管理员、工程师 DevOps
Task说明所需技能

创建密钥。

  1. 在主机上,选择 S ecrets Manager,然后选择存储新密钥

  2. 输入 Amazon RDS for SQL Server 数据库用户名和密码。

此密钥将用于 AWS DMS 源端点。

数据库管理员、工程师 DevOps
Task说明所需技能

创建 IAM 角色以便访问 Amazon RDS

  1. 在控制台上,选择 IAM,然后创建一个 IAM 角色来授予 S3 存储桶 read/write 访问 Amazon RDS 的权限。

  2. 功能,选择S3 集成

数据库管理员、工程师 DevOps
Task说明所需技能

创建 Amazon S3 存储桶。

要保存来自 Amazon RDS for SQL Server 的数据,请在控制台上选择 S3,然后选择创建存储桶。确保 Amazon S3 存储桶未公开发布。

数据库管理员、工程师 DevOps
Task说明所需技能

为创建 IAM 角色 AWS DMS 以访问亚马逊 S3。

创建一个 IAM 角色, AWS DMS 允许列出、获取和放置来自 Amazon S3 存储桶的对象。

数据库管理员、工程师 DevOps
Task说明所需技能

创建 AWS DMS 源端点。

  1. 在控制台上,选择 Database Migration Service,然后选择端点。创建源端点,选中选择 RDS 数据库实例复选框。

  2. 对于源引擎,请选择 Microsoft SQL Server

  3. 在 “访问终端节点数据库” 下 AWS Secrets Manager,选择并输入您之前创建的密钥和 IAM 角色以及数据库名称。

  4. 测试源端点。

数据库管理员、工程师 DevOps

创建 AWS DMS 目标端点。

创建目标端点,选择 Amazon S3 作为目标引擎

为您之前创建的 IAM 角色提供 Amazon S3 存储桶名称和文件夹名称。

数据库管理员、工程师 DevOps

创建 AWS DMS 复制实例。

在同一 VPC、子网和安全组中,创建 AWS DMS 复制实例。有关选择实例类的更多信息,请参阅AWS 文档

数据库管理员、工程师 DevOps

创建 AWS DMS 迁移任务。

要将数据从 Amazon RDS for SQL Server 导出到 Amazon S3 存储桶,请创建数据库迁移任务。对于迁移类型,请选择迁移现有数据。选择您创建的 AWS DMS 终端节点和复制实例。

数据库管理员、工程师 DevOps
Task说明所需技能

运行数据库迁移任务。

若要导出 SQL Server 表数据,请启动数据库迁移任务。该任务将以 CSV 格式将数据从 Amazon RDS for SQL Server 导出到亚马逊 S3 存储桶。

数据库管理员、工程师 DevOps
Task说明所需技能

删除资源。

为了避免产生额外费用,请使用控制台按以下顺序删除资源:

  1. 迁移任务

  2. 复制实例

  3. 端点

  4. 亚马逊 S3 存储桶

  5. 数据库实例

数据库管理员、工程师 DevOps

问题排查

问题解决方案

排除 Microsoft SQL Server 中的问题

有关在使用时解决微软 SQL Server 问题的更多信息 AWS DMS,请参阅微软 SQL Server 问题疑难解答

迁移任务疑难解答

有关在使用时解决迁移问题的更多信息 AWS DMS,请参阅中的迁移任务疑难解答 AWS Database Migration Service

相关资源

附加信息

要创建数据库和表并加载示例数据,请使用以下代码:

--Step1: Database creation in RDS SQL Server CREATE DATABASE [Test_DB] ON PRIMARY ( NAME = N'Test_DB', FILENAME = N'D:\rdsdbdata\DATA\Test_DB.mdf' , SIZE = 5120KB , FILEGROWTH = 10%) LOG ON ( NAME = N'Test_DB_log', FILENAME = N'D:\rdsdbdata\DATA\Test_DB_log.ldf' , SIZE = 1024KB , FILEGROWTH = 10%) GO --Step2: Create Table USE Test_DB GO Create Table Test_Table(ID int, Company Varchar(30), Location Varchar(20)) --Step3: Load sample data. USE Test_DB GO Insert into Test_Table values(1,'AnyCompany','India') Insert into Test_Table values(2,'AnyCompany','USA') Insert into Test_Table values(3,'AnyCompany','UK') Insert into Test_Table values(4,'AnyCompany','Hyderabad') Insert into Test_Table values(5,'AnyCompany','Banglore')