172933014    更新文章
未知设备 · 3 年前

想知道网站有没有屏蔽百度蜘蛛的抓取,有两种方法 第一种:查看网站的robots。 #seo

怎样知道网站有没有屏蔽百度蜘蛛的抓取

怎样知道网站有没有屏蔽百度蜘蛛的抓取

上述的例子中,把Disallow: /改成指定的屏蔽目录就可以了,通常情况下,网站的后台目录是需要屏蔽的,只要指定的要屏蔽的目录,其他页面就会自动默认允许抓取了。另外还有一种方法就是把Disallow: /改成Allow: /,Allow的意思是指允许抓取的目录或页面。
喜欢