【网站抓取】如何正确识别Baiduspider移动ua

最新推荐文章于 2023-08-16 16:57:22 发布

转载最新推荐文章于 2023-08-16 16:57:22 发布 · 477 阅读

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/hengyi123/p/4521733.html

百度站长平台宣布新版Baiduspider移动ua上线，并提供了正确的识别方式。旧的识别方法已不再适用，需使用关键词'Android'、'Mobile'和'Baiduspider/2.0'来区分移动访问和百度爬虫。注意，robots封禁对PC和移动Baiduspider同时生效，避免混淆导致的抓取问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

　　百度站长平台发布公告宣布新版Baiduspider移动ua上线，同时公布了PC版Baiduspider ua，那么该如何正确识别移动ua呢？我们百度站长平台技术专家孙权老师给出了答案：

　　新版移动ua:

　　Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

　　PC ua:

　　Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）

　　之前通过“+http://www.baidu.com/search/spider.html”进行识别的网站上海性病医院请注意！您需要修改识别方式，新的正确的识别Baiduspider移动ua的方法如下：

　　1. 通过关键词“Android”或者“Mobile”来进行识别，判断为移动访问或者抓取。

　　2. 通过关键词“Baiduspider/2.0”,判断为百度爬虫。

　　另外需要强调的是，对于robots封禁，如果封禁的agent是Baiduspider，会对PC和移动同时生效。即上海人乳头瘤病毒医院，无论是PC还是移动Baiduspider，都不会对封禁对象进行抓取。之所以要强调这一点，是发现有些代码适配站点（同一个url，PC ua打开的时候是PC页，移动ua打开的时候是移动页），想通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的，但由于PC和移动Baiduspider的agent都是Baiduspider,这种方法是非常不可取的。

转载于:https://www.cnblogs.com/hengyi123/p/4521733.html