V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
xiaoyu9527
V2EX  ›  问与答

继续求教 scrapy 问题 如何忽略某些被隐藏元素的页面?

  •  
  •   xiaoyu9527 · 2016-08-23 16:39:20 +08:00 · 1382 次点击
    这是一个创建于 2818 天前的主题,其中的信息可能已经有所发展或是发生改变。

    抓帖子 有些帖子被隐藏了。 如何才能忽略这些隐藏的帖子

    def parse_item(self, response):
       l = ItemLoader(item=MeizituItem(), response=response)
       l.add_xpath('name', '//html/body/div[1]/div[2]/div/div[2]/div[1]/div[1]/article/header/div[1]/h1/text()')
       l.add_xpath('tags', '//html/body/div[1]/div[2]/div/div[2]/div[1]/div[1]/article/header/div[2]/div[2]/span/ul/li/a/div/text()')
       image_url=l.add_xpath('image_urls', '//html/body/div[1]/div[2]/div/div[2]/div[1]/div[1]/article/div[1]/div/div/img/@src',Identity())
       print image_url
       l.add_value('url', response.url)
       yield l.load_item()
    

    我现在这样抓 如果 image_url 是抓不到的 好像就会报错。。

    1 条回复    2016-08-23 20:51:32 +08:00
    imcocc
        1
    imcocc  
       2016-08-23 20:51:32 +08:00 via iPhone
    看看能写正则忽略不
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   946 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 20:53 · PVG 04:53 · LAX 13:53 · JFK 16:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.