求教，gevent + urllib2 采集https://code.google.com抛出一堆错误 _ssl.c:504: EOF occurred in violation of protocol

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

这是一个创建于 4235 天前的主题，其中的信息可能已经有所发展或是发生改变。

urllib2

gevent

求教

7 条回复 • 1970-01-01 08:00:00 +08:00

ljbha007

2013-05-22 19:19:29 +08:00

多半是被墙了

ioven

2013-05-22 19:53:35 +08:00

@ljbha007 木被墙，单用urllib2完全木问题

feisuzhu

2013-05-23 17:42:02 +08:00

monkey_patch的时候有没有指定patch_ssl?

ioven

2013-05-24 07:17:16 +08:00

@feisuzhu __import__('gevent.monkey').monkey.patch_all(thread=False)

feisuzhu

2013-05-24 09:48:58 +08:00

@ioven 抱歉我也没有过patch_ssl。monkey_patch尽量放到所有import的前面。还有就是，你可以试试gevent1.0，尽管还是beta，但是beta了好久了。

ioven

2013-05-24 11:54:05 +08:00

@feisuzhu gevent 1.0 官网，pypi找了一圈也没找到，求下载地址

ioven

2013-05-25 19:31:07 +08:00

找到原因了，采集的数据保存用的是mysql，MySQLdb无法被gevent path，所以线程阻塞导致urllib2出现错误

偶是白痴。。。