为什么百度pc端的蜘蛛会抓取移动端页面

为什么百度pc端的蜘蛛会抓取移动端页面?先看看百度搜索方面怎么说?百度爬虫会尽可能使用移动UA抓取移动端页面,但对于未知的URL,爬虫不能准确预判它是pc端还是移动端,所以可能使用pc UA爬虫抓取,只要能正常抓回页面,就不会影响到网站的内容收录。

为什么百度pc端的蜘蛛会抓取移动端页面
为什么百度pc端的蜘蛛会抓取移动端页面

从百度方面的回答里面,我们可以得出几个结论:

1、百度抓取pc端的蜘蛛和抓取移动端的蜘蛛不同,但中间没有严格的界线,在预判不准确的情况下,这两种蜘蛛可能会相互抓取。

2、只要页面被抓,不管是pc端还是移动端UA抓,都不影响到页面收录。

3、要注意下页面URL的处理,方便百度搜索蜘蛛做出更加准确的判断,减少两端蜘蛛交叉抓取。

通过百度方面的解释,我们可以很清楚的看到,无论是百度pc端的蜘蛛抓移动页面,还是移动端的蜘蛛抓pc页面,其实影响都不大。

想要减少它们之间的交叉抓取,我们能做的就是把URL处理得更加明显,帮助蜘蛛来判断。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注