推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
这是一个创建于 1797 天前的主题，其中的信息可能已经有所发展或是发生改变。
我使用 scrapy-redis 开发了一个分布式爬虫，并分别部署在 4 个 docker 中，抓取程序中的 pipeline 负责连接 hadoop 并将数据追加到 hadoop 中，但因为是分布式的存在，必定会造成同一时刻有多个 client 操作同一个 file，就违反了 hadoop 的 lease 机制，从而造成数据入库失败，大家有什么办法解决吗
 |
1
vveexx 2019-12-24 12:57:15 +08:00  1
和楼主的场景类似，我们走了 kafka，多生产者，单个消费者
|
 |
2
hdbzsgm 2019-12-24 12:59:38 +08:00 1
简单场景 随便用个单点 redis 做锁喽
|
 |
4
liprais 2019-12-24 13:22:24 +08:00
没这么复杂，每个爬虫自己写自己的文件最后合起来处理就行了
|
 |
6
Leiothrix 2019-12-24 14:33:35 +08:00
用 redis 实现一个简单的分布式进程锁可解，用 lua 脚本保证操作原子性
|
Select Language