数据量超过亿级别,MySQL大表迁移该如何做?

这篇具有很好参考价值的文章主要介绍了数据量超过亿级别,MySQL大表迁移该如何做?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

MySQL 作为当前应用最广泛的开源关系型数据库之一,具有高性能、稳定性和易用性等特性,是许多网站、应用和商业产品的主要数据存储。在一些场景中,如果出现单表行数上亿的情况,就可能需要开发和 DBA 对大表进行优化:分表、归档或扩容操作,而在这些操作中都涉及了对数据的迁移。所以,提供高效、准确、稳定的大表迁移能力是非常有必要的。

1. 传统的迁移方案

目前,数据迁移主要分为逻辑迁移和物理迁移,逻辑迁移主要有 mysqldump、mysqlpump 和 load data,物理迁移主要有 XtraBackup。对于这类导入导出和拷贝文件的传统迁移方案,在大表迁移中会存在一些问题:

  • 需要停机,对于物理迁移,不能保障在线业务。

  • 性能差,对于逻辑迁移,单线程导出表。

  • 可靠性差,导出异常后,不支持断点,需要重新导出。

  • 运维性差,迁移期间,不能对导入导出进行暂停、限流等操作。

2. 领先的迁移方案

NineData 提供的数据复制同时包含了数据迁移和数据同步的能力,在不影响业务的前提下,提供了高效、稳定、可运维的大表迁移能力。对大表(单表 227G,行数 10 亿)迁移:NineData 约 30 分钟完成迁移,平均速率 124.2 MB/s,平均 534188 RPS。

通过对 MySQL 大表迁移的性能测试,和传统迁移比,NineData 数据迁移的优势有:

  • 简单易用:一分钟即可完成任务配置,并全自动化完成任务迁移。

  • 强劲性能:完善的智能分片、行级并发、动态攒批等核心技术,有效保证迁移性能。

  • 高可靠:结合新型断点、异常诊断及丰富的修复手段,对于迁移过程中可能出现软硬件故障,提供完善的容灾能力,大大提高了大表迁移的成功率。

通过上述优势,保证了 NineData 在大表迁移场景下的领先性。另外,NineData 还提供了对比功能,包含数据和结构的对比,以及全量、快速和不一致复检的对比方式,并且也支持不同的对比频率。在迁移或复制结束后,通过数据和结构对比,能有效的保障数据的一致性。

NineData 在提供强大迁移能力的同时,也保证了使用的简单性,只需要 1 分钟就能完成迁移任务的配置,实现完全自动化的数据迁移过程。下面我们来看下整个任务的配置过程:

迁移链路的配置

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

  1. 配置任务名称,选择要迁移的源和目标实例。

  2. 选择复制类型,数据迁移选择结构和全量复制(数据迁移)。

  3. 根据需要,选择合适的冲突处理策略。

  4. 点击下一步,进行迁移对象的选择。

选择迁移对象

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

选择迁移对象:针对不同粒度选择迁移对象:实例、库、表、视图等。

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

配置映射和过滤规则:目标实例可以自定义迁移的库名、表名和按照过滤条件进行部分数据迁移,也可以针对表的列名进行映射和部分列迁移。

预检查

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

通过丰富的检查项,保证了迁移任务的稳定性及和数据的一致性。到此,我们就完成了一个高性能迁移任务的配置。

同时,为了提供更好的迁移体验,NineData 针对迁移过程提供了完善的观测、干预能力。其不但提供对象迁移的详细状态、进展、详情,还通过监控和日志透露后台线程的内部执行情况,帮助用户全方位追踪迁移进展。同时,还针对运行过程中可能出现的异常情况,提供基础诊断能力,及修复、跳过、移除等多种修复策略和迁移限流能力,让用户能够自主快速得诊断并修复链路,保障迁移稳定性。

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

mysql上亿数据如何快速迁移,云数据库技术,数据复制,mysql,数据库,迁移学习,运维

3. 总结

NineData 提供的高效、快速、稳定的 MySQL 大表迁移能力,很好的补充了传统迁移方案的不足。当前,NineData 已经支持数十种常见数据库的迁移复制,同时,除了 SAAS 模式外,还提供了企业专属集群模式,满足企业最高的数据安全合规要求。目前,NineData 已在运营商、金融、制造业、地产、电商等多个行业完成大规模应用实践。如果您感兴趣的话,可以登录官网 https://www.ninedata.cloud/dbmigration,立即开始免费使用。文章来源地址https://www.toymoban.com/news/detail-680284.html

到了这里,关于数据量超过亿级别,MySQL大表迁移该如何做?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 如何将数据从 Oracle 迁移到 MySQL:分步指南

    数据迁移在各种业务场景中发挥着至关重要的作用。当您的公司将其服务从本地迁移到云端时,数据迁移就会介入,将数据从旧位置传输到新位置。另一种常见的做法可能是更换或升级服务器或存储设备。在这种情况下,数据迁移可确保数据的顺利高效传输,最大限度地减少

    2024年02月11日
    浏览(88)
  • Mysql数据库迁移|如何把一台服务器的mysql数据库迁移到另一台服务器上的myql中

      那么这里博主先安利一下一些干货满满的专栏啦! Linux专栏 https://blog.csdn.net/yu_cblog/category_11786077.html?spm=1001.2014.3001.5482 操作系统专栏 https://blog.csdn.net/yu_cblog/category_12165502.html?spm=1001.2014.3001.5482 手撕数据结构 https://blog.csdn.net/yu_cblog/category_11490888.html?spm=1001.2014.3001.5482 一、在

    2024年02月06日
    浏览(85)
  • mysql小表驱动大表

    摘要: 小表驱动大表是优化器从成本考虑后做出的选择 判断谁做小表时,是比较算上过滤条件后的字段+条数的总大小 小表驱动大表在执行计划中体现,第一行是小表第二行是大表。不是在show warnings体现 left join时右表过滤条件在where,优化器会转为inner join小表驱动大表。

    2024年02月08日
    浏览(35)
  • mysql 为大表新增字段或索引

    mysql 为大表增加或增加索引等操作时,直接操作原表可能会因为执行超时而导致失败。解决办法如下。 (1) 建新表 -复制表A 的数据结构,不复制数据 (2) 加字段或索引 -表B加上新字段或索引 (3) 导数据到新表 -把原有数据导入新表           未新增字段时      

    2024年01月18日
    浏览(37)
  • mysql不同隔离级别事务插入数据

    面试中问到了相关问题,做下问题记录 问题是这样的,数据库默认隔离级别下,事务A插入一条数据,没有提交,事务B插入一条数据,提交,表id为自增,如果表是空表,事务A和事务B的id分别是多少。 2.1.1 打开一个mysql窗口,事务A 执行代码块 2.1.2 打开另一个窗口,事务B 执

    2024年02月11日
    浏览(48)
  • MySQL - 数据库级别的外键

    测试数据 : 学生表 年级表  学生表的 grade 列引用年级表的 id (外键约数) :  定义外键 key 给这个外键添加约束 (执行引用) references 引用 【注意】     当我们给表添加上外键后, 我们想要删除有外键关系的表的时候, 必须要先删除引用别人的表 (从表), 再删除被引用的表 (主表

    2024年02月11日
    浏览(43)
  • 支持超过1TB的MySQL数据对比,是什么概念?|NineData

    在现代商业环境中,数据库是企业存储核心数据的重要工具,而 MySQL 作为最受欢迎的关系型数据库管理系统,广泛应用于各行各业。在容灾、数据迁移、备份恢复等场景下,为了确保两端或多端之间数据的一致性,通常需要对数据进行一致性对比。 而数据对比的传统做法 “

    2024年02月14日
    浏览(35)
  • 【Mysql数据库 第13章】MySQL的事务、事务的隔离级别、事务的保存点

    💖Spring中的创建对象的三种方式、第三方资源配置管理详细描述及使用(XML版完结篇) 💖Spring中的bean的配置、作用范围、生命周期详细描述及使用(XML版上篇) 💖

    2023年04月20日
    浏览(53)
  • MySQL大表优化方案(应该是最完整最全的了)

    当MySQL单表记录数过大时,增删改查性能都会急剧下降,可以参考以下步骤来优化: 单表优化 除非单表数据未来会一直不断上涨,否则不要一开始就考虑拆分,拆分会带来逻辑、部署、运维的各种复杂度,一般以整型值为主的表在 千万级 以下,字符串为主的表在 五百万 以

    2024年04月28日
    浏览(30)
  • 【后端面经-数据库】MySQL的事务隔离级别简介

    目录 0. 事务的概念 1. 三类问题 2. 事务隔离级别 3. 操作指令 4. 总结 5. 参考博文 事务指的是一连串的集中操作指令,一个事务的执行必须执行完所有的动作才能算作执行结束。事务具有四个特点,简记作 ACID : A -Atomicity: 原子性,事务的执行必须保证所有的动作都执行完毕;

    2024年02月08日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包