什么是蜘蛛黑洞及如何避免
【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 疯狂猜成语 图猜成语九坨大便和一个医生是什么成语?全球[VPS测评]
- cloudcone→超大硬盘 VPS 补货 洛杉矶 KVM 最高 500全球[VPS测评]
- TypeScript 动态创建类的方法全球[VPS测评]
- ThinkPHP5.1 中使用 phpqrcode 生成二维码全球[VPS测评]
- 便宜 VPS $9 年 512M 内存 10G SSD 250G 流量 全球[VPS测评]
- 促销 $36 年 512M 内存 20G 硬盘 1Gbps 不限流量 K全球[VPS测评]
- ITLDC - 保加利亚主机商 8 数据中心可选全球[VPS测评]
- [11.11]KVMLA 香港 日本 新加坡年付 6 折 月付 8 折日本VPS[主机]
- servaRICA→$15 月 3 核 3GB 内存 2TB 空间 不限虚拟空间(主机)
- 腾讯云拼团→单核 2G 内存 50G 硬盘 1M 带宽月付 15 元 买全球[VPS测评]
- PQS→苏日 IPLC 莞港 IPL 等 KVM VPS 有一定的 DD全球[VPS测评]
- HostXen→日本 2G 套餐月付 70 元 美国 2G 套餐月付 6日本VPS[主机]
- 疯狂猜成语 图猜成语三个人在登山头上有序号 123 是什么成语?全球[VPS测评]
- 触摸云香港CN2GIA线路/10M带宽 ¥26起/月;美国200G高防¥美国VPS[主机]
- 华纳云 香港CN2GIA线路 1G内存50G硬盘2M小带宽半年付280元香港VPS[主机]
- 宝塔面板免费版如何开启 waf 防火墙全球[VPS测评]
- WordPress插件:Simple URLs 链接点击统计管理全球[VPS测评]
- edgenat韩国CN2独立服务器促销,原生IP,月付七折,年付买一年送独立服务器[U]
- 在 Debian 和 Ubuntu 中使用 APT 管理软件包全球[VPS测评]
- 书单推荐:《清单革命-不犯错的秘密武器》和《从汉城到燕京-朝鲜使者眼中的全球[VPS测评]
- 云计算的三种服务模式,SaaS和PaaS的区别在哪里?全球[VPS测评]
- 奇维云优惠活动:香港CN21核1G1M带宽云服务器免费领取香港VPS[主机]
- 8K超高清记录中国空间站凌月:天和核心舱与问天实验舱组成“土”字结构虚拟空间(主机)
- 者也IO,香港日本美国云服务器促销,2核2G1000元/2年,7折+内存日本VPS[主机]
- 华纳云新春活动:香港CN2云服务器4核4G5M仅3476元/3年;美国云美国VPS[主机]
- 快速云:怎么连接vps?VPS的用途有哪些?全球[VPS测评]
- Rustrot-深绿色UI电商网站模板HTML5框架全球[VPS测评]
- 香港站群服务器租用推荐,香港多IP服务器/VPS套餐(站群需求)站群服务器[IP]
- 汇速云:香港沙田CN2云主机,2核CPU带宽1M月付6元,2核2M带宽月香港VPS[主机]
- 2020年国外VPS哪个最好?教你学会选择国外VPS全球[VPS测评]
转载请注明原文地址:http://www.motoll.com/read-226453.html