抓取网页用normalize-space出现特殊符号两种方法解决

2022-08-10,,,,

xpath抓取数据值有\r\n\t时去掉的方法:https://blog.csdn.net/z564359805/article/details/101597953

抓取网页含\r \t \n时,用normalize-space出现特殊符号有时候并不会成功,例如:['商家 \xa0厦门有限公司'],'\xa0'在网页源码中是' ',可以用如下方法:

方法一:修改response这种方法是修改网页代码里面的数据,'\xa0'在网页源码中是' ',个人觉得毕竟不是筛选后的数据,修改时间会比较长

def parse(self,response):
    # 修改网页代码里面的数据
    response = response.replace(body=response.text.replace(' ',''))
    order_company = response.xpath('normalize-space(//*[@id="to"]/tbody/tr/td[3]/a/text())').extract()
    item['order_company'] = order_company[0].strip()

方法二:在选择出需要的item数据传递时候直接替换

item['order_company'] = order_company[0].replace("\xa0", "").strip()

本文地址:https://blog.csdn.net/z564359805/article/details/107085872

《抓取网页用normalize-space出现特殊符号两种方法解决.doc》

下载本文的Word格式文档,以方便收藏与打印。