V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
HiBoy23
V2EX  ›  数据库

大数据量下多线程并发写入 MariaDB 问题

  •  
  •   HiBoy23 · 2018-07-12 10:32:59 +08:00 · 1311 次点击
    这是一个创建于 2086 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在使用 kafka-storm-MariaDB 流程中,storm 计算后的数据量很大,最后需要入库到 MariaDB,有没有大神有什么好的方法可以减轻数据库压力,定时器五分钟执行一次,数据量大概五分钟有三千万左右,目前逻辑是正常 insert into 语句,Batch 数量为十万条 commit 一次。

    2 条回复    2019-01-03 14:07:51 +08:00
    abcbuzhiming
        1
    abcbuzhiming  
       2018-10-15 09:31:18 +08:00
    你这个数据量,1 小时就有 3 6000 0000 条数据,1 小时就 3 亿条了,兄弟别折腾 SQL 了,要么文档存储,要么大数据。这个量级折腾 sql 是不明智的
    dezhou9
        2
    dezhou9  
       2019-01-03 14:07:51 +08:00 via Android
    考虑一下自己实现 MySQL 引擎
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   977 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 20:27 · PVG 04:27 · LAX 13:27 · JFK 16:27
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.