V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  pango  ›  全部回复第 14 页 / 共 18 页
回复总数  355
1 ... 6  7  8  9  10  11  12  13  14  15 ... 18  
2015-12-08 12:03:36 +08:00
回复了 lepture 创建的主题 旅行 周末的黄山
冬季的黄山还真是别有一番味道。这是用手机拍的吗?
@1987618girl 无 git 。
@sinux 你是说抓取部分还是 django 部分?
@XianZaiZhuCe 自己撸可以撸出成就感
@lawder 部分数据来自于搜狗搜索
2015-12-08 10:35:40 +08:00
回复了 gongzili456 创建的主题 奇思妙想 微信你的 RSS
反过来我已经实现了: http://v2ex.com/t/241919
2015-12-07 21:42:24 +08:00
回复了 jiych 创建的主题 程序员 新浪 app pv 太大
pv 不是越多越好吗?不然你搭个网站干嘛?
谁说自营网站是玩玩的?
10 月 27 号的前三名被中国人包了。。。
2015-10-26 15:05:06 +08:00
回复了 appleaa 创建的主题 Python scrapy 抓取信息, time.sleep()问题
为什么要 sleep ? scrapy 不是可以自己控制并发数吗?
2015-10-23 19:28:56 +08:00
回复了 onlyxuyang 创建的主题 分享创造 分享一个网站,可以推送高清晰度视频到百度云盘
@RyuZheng 楼主说是 youtube ,不是 youku
2015-10-21 21:55:17 +08:00
回复了 xiaoyu9527 创建的主题 问与答 现在做网盘站有没有前途?
@xiaoyu9527 看你“做个 xx 站怎么样”的问题也思考很久了,那你打算什么时候开始?
2015-10-21 19:46:08 +08:00
回复了 xiaoyu9527 创建的主题 问与答 现在做网盘站有没有前途?
做英文的还是有前途的,启动资金也不用很多, 1w 刀就可以很轻松的开始了( 1w 刀包括买程序、买服务器)
2015-10-16 09:12:31 +08:00
回复了 tongle 创建的主题 程序员 高速稳定的代理
@boro
proxy =['x.x.x.x:xx','x.x.x.x:xx','x.x.x.x:xx'...........]
random.choice(proxy)
2015-10-14 21:14:08 +08:00
回复了 tongle 创建的主题 程序员 高速稳定的代理
刚刚去看了下 tor 的原理,“ Tor 的转发节点都是网络上的志愿者们使用自己的服务器和网络带宽建立起来的,如果通过 Tor 网络来进行巨额数据的传输,实在是非常的不厚道”。
我决定放弃使用 tor 抓取大量数据了,多谢 boter 提醒,也请大家仅用这个方法来测试用,不要用作生产环境。
在这里推荐另外一个方法:
https://github.com/wenson/proxypool
这个可以抓取各大 proxy 站点公布的 proxy ,经过测试有效性后存入 redis ,可以同时提供多达几百个有效 proxy ,可以自己写个 cronjob 每隔一段时间更新 proxy 库,用作抓取应该够了。
2015-10-14 20:50:33 +08:00
回复了 tongle 创建的主题 程序员 高速稳定的代理
@boter 好吧,我去开少点,其实我也只是抓取的时候开一下啊,一般每次就一两个小时。[doge] 是什么意思?
2015-10-14 20:48:33 +08:00
回复了 tongle 创建的主题 程序员 高速稳定的代理
@kmahyyg 开 n 个 tor ,比如: tor --RunAsDaemon 1 --CookieAuthentication 0 --HashedControlPassword "" --ControlPort $your_random_port --PidFile tor$your_random_id.pid --SocksPort $your_random_socks_port --DataDirectory data/tor$your_random_id ,然后你就有了 n 个不同端口的本地代理啊,然后抓取程序随机选择一个就行了。
2015-10-14 13:04:16 +08:00
回复了 tongle 创建的主题 程序员 高速稳定的代理
tor ,你值得拥有。
我在 do 的 vps 上开 100 个 tor 实例,每小时重启 1/3 实例,于是就有了取之不尽用之不竭的 ip
2015-10-11 21:47:42 +08:00
回复了 LINEX 创建的主题 Python 求推荐轻量级的 Python IDE
windows 的话 PythonWin ,非常轻。
2015-10-11 21:43:01 +08:00
回复了 chengchuan1009 创建的主题 问与答 桌面壁纸大家都在那里找的啊?
一直用的一个: http://www.coolestwallpapers.com
@hobbyliu
给你看一个 selenium 版本的
driver = webdriver.PhantomJS(executable_path='D:\phatom\phantomjs-1.9.0-windows\phantomjs.exe',desired_capabilities=dcap, service_args=['--load-images=no'])
其他版本应该差不多,就是传一个--load-images 参数
1 ... 6  7  8  9  10  11  12  13  14  15 ... 18  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1324 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 40ms · UTC 17:50 · PVG 01:50 · LAX 10:50 · JFK 13:50
Developed with CodeLauncher
♥ Do have faith in what you're doing.