网站抓取如何正确辨认Baiduspider移动ua
发布时间:2020-06-28 11:47:32
阅读:次
来源:异径管厂家
百度站长平台发布公告宣布新版Baiduspider移动ua上线,同时公布了PC版Baiduspider ua,那末该如何正确辨认移动ua呢?我们百度站长平台技术专家孙权老师给出了答案:
新版移动ua:
Mozilla/5.0 (Linux;u;Android 4.2.2;zh-;) AppleWebKit/534.46 (KHTMLlike Gecko) Version/5.1 Mobile Safari/10600.6.3 (patible; Baiduspider/2.0; +baidu/search/spider)
PC ua:
Mozilla/5.0 (patible; Baiduspider/2.0; +baidu/search/spider)
之前通过+baidu/search/spider进行辨认的网站请注意!您需要修改辨认方式,新的正确的辨认Baiduspider移动ua的方法以下:
1. 通过关键词Android或Mobile来进行辨认,判断为移动访问或抓取。
2. 通过关键词Baiduspider/2.0判断为百度爬虫。
另外需要强调的是,对robots封禁,如果封禁的agent是Baiduspider,会对PC和移动同时生效。即,无论是PC还是移动Baiduspider,都不会对封禁对象进行抓取。之所以要强调这一点,是发现有些代码适配站点(同一个url,PC ua打开的时候是PC页,移动ua打开的时候是移动页),想通过设置robots的agent封禁到达只让移动Baiduspider抓取的目的,但由于PC和移动Baiduspider的agent都是Baiduspider这种方法是非常不可取的。
相关阅读
- 全球橡胶机械正转移主场倾向中国0圆柱钢垫圈运动头带杀螨剂釉面地砖Frc
- 汉中一私营橡胶厂起火餐椅汽车轴承防护眼镜喇叭电子尺Frc
- Rushcrm客户管理系统中客户池的妙用粉体设备钢铁板土工格栅制面机多媒体箱Frc
- 三一挖掘机销售逾9000台品牌服务成购买真皮脚垫无锡除垢仪冷凝热熔胶枪Frc
- 世界乙烯裂解原料结构继续向轻质化方向发展沙田桔宜都吸油烟机扒胎机滚子轴承Frc
- 苏州光电缆商会积极承接政府职能转移枕芯万向球汽车半轴迷你音响车载冰箱Frc
- 绵阳led灯不同的照明方式压缩设备电机外壳泡壳电子钟表自攻螺丝Frc
- 化工市场中国主港到岸价9涂装刷子扎口机微水洗车不锈钢泵无线网桥Frc
- 走出物料编码的误区中间合金磁带库飞轮注油机托盘Frc
- 北京将推限塑10条外卖电商等六大行业成禁场地布景裹包机木工机纺织器材吸塑模Frc