什么是蜘蛛黑洞及如何避免
【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- ThinkPHP5 中 success 和 error 方法传参的办法全球[VPS测评]
- 号外 Virmach 洛杉矶机房 107.175.x.x 段 IP 可以全球[VPS测评]
- 疯狂猜成语 图猜成语一个人胳膊打着绷带 玫瑰花掉在地上 一颗心碎了看着两全球[VPS测评]
- 2020 要速度快?免备案?上香港 cn2 vps 整理一些售卖香港 c香港VPS[主机]
- 腾讯云服务器双 11 秒杀最后一天 国内 香港云服务器 268 元 3 香港VPS[主机]
- DogYun 新上圣何塞 CN2 七折 全场 8 折 免设置费全球[VPS测评]
- MoeCloud→2019 年国庆节活动 有洛杉矶 cn2 gia kv全球[VPS测评]
- NameSilo - 网站改版新 UI 新注册域名降价优惠全球[VPS测评]
- 疯狂猜成语 图猜成语一个人在看书后面有一口锅在火上煮东西是什么成语?全球[VPS测评]
- php 使用 md5 函数生成 16 位 md5 值返回乱码的原因以及解全球[VPS测评]
- $4.8 首月 2G 内存 25G SSD 200Mbps@不限流量 K全球[VPS测评]
- Virtono→罗马尼亚 KVM 年付 9.95 欧元起 全场 85 折全球[VPS测评]
- vServer.site→€12 年 1GB 内存 5GB SSD 空间虚拟空间(主机)
- OVZ 谨慎-Ethernetserver→$12 年 1 核 1G 1美国VPS[主机]
- Error: php55w-common conflicts with 全球[VPS测评]
- 便宜 VPS $8.75 每年 256M 内存 500G 月流量 强势补全球[VPS测评]
- friendhosting保加利亚抗诉无视版权便宜VPS,不限流量,年付全球[VPS测评]
- Cloudcone双十一特价便宜VPS,KVM架构,1Gbps带宽,年付全球[VPS测评]
- UOVZ 384M 内存 5G SSD 2T单向流量 上海NAT → 月全球[VPS测评]
- 香港云服务器对于建站有什么便捷的地方?香港VPS[主机]
- 人力资源管理系统前端Web模板 - SmartHR全球[VPS测评]
- 什么是IconFont ?iconfont 的使用和解析全球[VPS测评]
- CentOS 7.x 系统安装和配置redis-7.0.4集群全球[VPS测评]
- jquery css3实现的进度条动画特效,带加载进度条百分比动态效果。全球[VPS测评]
- RFCHost:1核1G洛杉矶vps/15GB空间/1TB流量/KVM/虚拟空间(主机)
- CombCloud,香港沙田CN2VPS测评,2核1G52元/月,安畅C香港VPS[主机]
- vpsplayer:新年活动_vps全部7.5折起_深圳BGP/美西Ce香港VPS[主机]
- swancloud:阿里云国际产品线,弹性云服务器等,便宜、无须实名、无全球[VPS测评]
- VPSPlayer,超便宜香港cn2线路小带宽VPS,2核4G内存仅30香港VPS[主机]
- HostKvm:香港国际/美国洛杉矶七折优惠,其它业务全场八折,适合做站美国VPS[主机]
转载请注明原文地址:https://www.motoll.com/read-222495.html