常见的蜘蛛陷阱分为以下的几种:
常见一:JavaScript链接
示例:常见二:在网页里穿插FLASH常见三:Sesssion ID
常见四:框架结构(iframe)
示例: 百度MP3音乐盒红色代码为百度音乐盒调用框架结构
常见五:动态RUL、参数过多RUL此URL中,动态参数过多,不利于搜索引擎蜘蛛抓取
常见六:社区等需要登陆的页面
蜘蛛和人一样如果需要访问一些没有权限的页面的话,一样需要登陆进去,但是蜘蛛不会和人一样申请账号来登陆,所以抓取不到没有权限的页面。 #蜘蛛 #网站 #链接 #搜索引擎 #索引 #百度 #seo #动态 #抓取 #访问