本文介绍如何使用数据传输服务DTS（Data Transmission Service），将自建Redis迁移至阿里云Redis实例。DTS支持全量数据迁移以及增量数据迁移，同时使用这两种迁移类型可以实现在自建应用不停服的情况下，平滑地完成自建Redis数据库的迁移上云。

前提条件

  • 自建Redis数据库版本为2.8、3.0、3.2、4.0、5.0、6.0。
  • 自建Redis数据库为单机架构，暂不支持集群架构。
    说明 如果是集群架构，您可以通过数据同步的方式来实现数据迁移，详情请参见 从自建Redis集群同步至Redis集群实例。
  • 自建Redis数据库可正常运行psync或sync命令。
  • 阿里云Redis实例的存储空间须大于自建Redis数据库占用的存储空间。

注意事项

  • DTS在执行全量数据迁移时将占用源库和目标库一定的资源，可能会导致数据库服务器负载上升。如果数据库业务量较大或服务器规格较低，可能会加重数据库压力，甚至导致数据库服务不可用。建议您在执行数据迁移前谨慎评估，在业务低峰期执行数据迁移。
  • 如果目标库的数据逐出策略（maxmemory-policy）配置为noeviction以外的值，可能导致目标库的数据与源库不一致。关于数据逐出策略详情，请参见Redis数据逐出策略介绍。
  • 如果源库中的某些Key使用了过期（expire）策略，由于可能存在Key已过期但未被及时删除的情况，所以在目标库中查看到的Key数量（例如通过info命令查看）会比源库的Key数量少。
    说明 源和目标库中，未设置过期策略或未过期的Key数量是一致的。
  • 对于通过EVAL或EVALSHA调用的Lua脚本，在增量数据迁移时，由于目标端在执行脚本时不会明确返回执行结果，所以DTS无法确认该类型脚本是否执行成功。
  • 对于List列表，由于DTS在调用psync或sync传输数据时，不会对目标端已有的数据执行Flush操作，所以可能出现重复的数据。
  • 迁移期间，如自建Redis发生扩缩容（如增加或者减少分片）、规格变配（如扩大内存），则您需重新配置任务。且为保障数据一致性，在重新配置任务前，建议先清空已迁移至目标Redis的数据。
  • 迁移期间，如自建Redis连接地址变化，则您需要提交工单进行处理，如果长时间未处理，自建Redis会重置AOF文件，届时您需重新配置任务。
  • 对于迁移失败的任务，DTS会触发自动恢复。当您需要将业务切换至目标实例时，请务必先结束或释放该任务，避免该任务被自动恢复后，导致源端数据覆盖目标实例的数据。

费用说明

迁移类型 链路配置费用 公网流量费用
结构迁移和全量数据迁移 不收费。 通过公网将数据迁移出阿里云时将收费，详情请参见产品定价。
增量数据迁移 收费，详情请参见产品定价。

迁移类型说明

  • 全量数据迁移
    DTS将自建Redis数据库迁移对象的存量数据，全部迁移到阿里云Redis实例中。
    说明 为保障数据一致性，全量数据迁移期间请勿在自建Redis数据库中写入新的数据。
  • 增量数据迁移

    在全量数据迁移的基础上，DTS将自建Redis数据库的增量更新数据到阿里云Redis实例中。通过增量数据迁移可以实现在应用不停服的情况下，平滑地完成Redis数据库的迁移上云。

增量数据迁移支持同步的命令

  • APPEND
  • BITOP、BLPOP、BRPOP、BRPOPLPUSH
  • DECR、DECRBY、DEL
  • EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT
  • FLUSHALL、FLUSHDB
  • GEOADD、GETSET
  • HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX
  • INCR、INCRBY、INCRBYFLOAT
  • LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM
  • MOVE、MSET、MSETNX、MULTI
  • PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX、PUBLISH
  • RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX
  • SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE
  • ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE

准备工作（增量数据迁移）

为保障增量数据迁移任务的正常执行，建议关闭复制输出缓冲区的限制。本文以Linux操作系统的服务器为例进行演示。

说明 如您只须要进行全量数据迁移，可跳过本步骤。
  1. 使用redis-cli工具连接自建Redis数据库。
    说明 安装原生Redis即可使用redis-cli，详情请参见 Redis社区版官网。 
    redis-cli -h <host> -p <port> -a <password>
    说明
    • <host>：自建Redis数据库的访问地址，本机可使用127.0.0.1。
    • <port>：自建Redis数据库的服务端口，默认为6379。
    • <password>：自建Redis数据库的访问密码。

    示例：

    redis-cli -h 127.0.0.1 -p 6379 -a Test123456
  2. 执行下述命令，关闭复制输出缓冲区的限制。 
    config set client-output-buffer-limit 'slave 0 0 0'

操作步骤

  1. 登录数据传输控制台。
  2. 在左侧导航栏，单击数据迁移。
  3. 在迁移任务列表页面顶部，选择迁移的目标实例所属地域。选择地域
  4. 单击页面右上角的创建迁移任务。
  5. 配置迁移任务的源库及目标库信息。配置源库及目标库信息
    类别 配置 说明
    无 任务名称 DTS会自动生成一个任务名称，建议配置具有业务意义的名称（无唯一性要求），便于后续识别。
    源库信息 实例类型 根据源库的部署位置进行选择，本文以有公网IP的自建数据库为例介绍配置流程。
    说明 当自建数据库为其他实例类型时，您还需要执行相应的准备工作，详情请参见 准备工作概览。
    实例地区 当实例类型选择为有公网IP的自建数据库时，实例地区无需设置。
    说明 如果您的自建Redis数据库进行了白名单安全设置，您需要在 实例地区配置项后，单击 获取DTS IP段来获取到DTS服务器的IP地址，并将获取到的IP地址加入自建Redis数据库的白名单安全设置中。
    数据库类型 选择Redis。
    实例模式 固定为单机版，暂不支持集群版。
    主机名或IP地址 填入自建Redis数据库的访问地址，本案例中填入公网地址。
    端口 填入自建Redis数据库的服务端口，默认为6379。
    说明 本案例中，该服务端口需开放至公网。
    数据库密码 填入自建Redis的数据库密码。
    说明 源库信息填写完毕后，您可以单击 数据库密码后的 测试连接来验证填入的源库信息是否正确。源库信息填写正确则提示 测试通过；如果提示 测试失败，单击 测试失败后的 诊断，根据提示调整填写的源库信息。
    目标库信息 实例类型 选择Redis实例。
    实例地区 选择目标Redis实例所属地域。
    Redis实例ID 选择目标Redis实例ID。
    数据库密码 填入目标Redis实例的数据库密码。
    说明 目标库信息填写完毕后，您可以单击 数据库密码后的 测试连接来验证填入的目标库信息是否正确。目标库信息填写正确则提示 测试通过；如果提示 测试失败，单击 测试失败后的 诊断，根据提示调整填写的目标库信息。
  6. 配置完成后，单击页面右下角的授权白名单并进入下一步。
    说明 此步骤会将DTS服务器的IP地址自动添加到目标Redis实例的白名单中，用于保障DTS服务器能够正常连接目标Redis实例。
  7. 选择迁移对象及迁移类型。 选择迁移类型和迁移对象
    配置 说明
    迁移类型
    • 如果只需要进行全量迁移，则勾选全量数据迁移。
    • 如果需要进行不停机迁移，则同时勾选全量数据迁移和增量数据迁移。
    说明 如果未勾选 增量数据迁移，为保障数据一致性，数据迁移期间请勿在自建Redis数据库中写入新的数据。
    迁移对象

    在迁移对象框中单击待迁移的数据库，然后单击向右小箭头将其移动至已选择对象框。

    说明 迁移对象选择的粒度为库。
    映射名称更改 如需更改迁移对象在目标实例中的名称，请使用对象名映射功能，详情请参见库表列映射。
    源、目标库无法连接重试时间 默认重试12小时，您也可以自定义重试时间。如果DTS在设置的时间内重新连接上源、目标库，迁移任务将自动恢复。否则，迁移任务将失败。
    说明 由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。
  8. 上述配置完成后，单击页面右下角的预检查并启动。
    说明
    • 在迁移任务正式启动之前，会先进行预检查。只有预检查通过后，才能成功启动迁移任务。
    • 如果预检查失败，单击具体检查项后的提示，查看失败详情。
      • 您可以根据提示修复后重新进行预检查。
      • 如无需修复告警检测项，您也可以选择确认屏蔽、忽略告警项并重新进行预检查，跳过告警检测项重新进行预检查。
  9. 预检查通过后，单击下一步。
  10. 在购买配置确认页面，选择链路规格并选中数据传输（按量付费）服务条款。
  11. 单击购买并启动，迁移任务正式开始。
    • 全量数据迁移

      请勿手动结束迁移任务，否则可能导致数据不完整。您只需等待迁移任务完成即可，迁移任务会自动结束。

    • 增量数据迁移

      迁移任务不会自动结束，您需要手动结束迁移任务。

      说明 请选择合适的时间手动结束迁移任务，例如业务低峰期或准备将业务切换至目标实例时。
      1. 观察迁移任务的进度变更为增量迁移，并显示为无延迟状态时，将源库停写几分钟，此时增量迁移的状态可能会显示延迟的时间。
      2. 等待迁移任务的增量迁移再次进入无延迟状态后，手动结束迁移任务。无延迟
  12. 将业务切换至Redis实例。

后续操作

用于数据迁移的数据库账号拥有读写权限，为保障数据库安全性，请在数据迁移完成后，修改自建Redis数据库和阿里云Redis实例中的数据库密码。