V2EX › noparking188 的所有回复 › 第 27 页 / 共 59 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 ... 23 24 25 26 27 28 29 30 31 32 ... 59

❮

❯

2022-09-22 23:44:36 +08:00

回复了 Renco 创建的主题 › 职场话题 › 真摆烂是主流趋势？

“主管让我们后台大致评估一个方案，给产品。以这个同事为主，有不清晰的可以问我，我辅助他”

他是任务负责人，你可以完全不用管，他要做会主动找你，他不做也不影响你，少一事更好。

楼主应该是比较有责任心。

2022-09-22 23:40:03 +08:00

回复了 Renco 创建的主题 › 职场话题 › 真摆烂是主流趋势？

@fengjianxinghun #9 不要忘了农民，工农不分家，改开原始积累靠剥削农民

2022-09-20 00:26:19 +08:00

回复了 leonme 创建的主题 › Java › Spark 如何精准控制消息的发送速率？

@leonme #14 看上去
1. 不要用 Spark 直接写 MQ （瞬间写几千万到队列也不是很合适的样子，除非实时性要求高，下游可以瞬间消费完）
2. 调整消费端的消费策略（推荐）

一点建议，仅供参考

2022-09-19 19:30:18 +08:00

回复了 leonme 创建的主题 › Java › Spark 如何精准控制消息的发送速率？

@leonme #11 老哥，我看你主题描述的是想控制 Spark 写 MQ 的速度，这边回复里说是想控制消费端消费 MQ 的速度

我没有裸写程序消费 Kafka 的经验，不过我有用过 Flink 消费 Kafka ，可以限制消费速度，比如隔多久 fetch 一次，fetch size 啥的，也许可以参考。补充一下，我也是所有数据都推同一个 topic ，多个 flink 应用消费同一个 topic ，根据条件过滤无关的消息，几千万数据倒是没有不稳定的。

可能我经验不足，有点不明白的是，你的消费端程序难道不是按一定频率通过偏移量读消息（比如等待几秒再更新一次），而是只要来了就立马消费？

2022-09-18 20:40:04 +08:00

回复了 onecode 创建的主题 › 求职 › 苏州， 8 年半 .net/.net core 求职

老哥可以试试小冰，月亮湾那里

2022-09-18 17:53:29 +08:00

回复了 leonme 创建的主题 › Java › Spark 如何精准控制消息的发送速率？

@leonme #7 给个参考：
1. Spark 写 Parquet 文件，这个写完很快，不会占用太久集群资源
2. DataX 之类工具读 Parquet 写 DB ，可以设置并发和 Batch Size ，开很小的资源就够了
以上是离线处理的场景，你的场景是什么？

2022-09-18 09:40:07 +08:00

回复了 legendJohn 创建的主题 › 职场话题 › offer 选择求各位大佬指点

要不要天眼查企查查上看一下这些公司经营状况，股权背景？

2022-09-17 22:21:54 +08:00

回复了 leonme 创建的主题 › Java › Spark 如何精准控制消息的发送速率？

请问是用 Spark Streaming 吗？以我的理解 Spark 适合批量写，不知道你这个场景是不是适合用流处理
以前我有个需求，设置一定速率来读取数据库、文件等来源的数据，发送到 Redis 队列里，不能超过队列预定的容量，我是手写 Python 处理的
当然这个得根据你的数据量来考虑了