什么是蜘蛛黑洞及如何避免
【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 充值活动 hostsolutions→充值立返 50% 最高返 250 全球[VPS测评]
- CentOS 7 环境下安装 MySQL全球[VPS测评]
- 黑色星期五 hostsolutions→9 欧 年 1G 内存 10T 全球[VPS测评]
- 线路不行-Sentris→$24.99 3 年 512MB 内存 20G虚拟空间(主机)
- yum 提示 Error: rpmdb open failed 错误的解全球[VPS测评]
- Sublime Text 3 注册码(最新版 build 3143)全球[VPS测评]
- 国内稳定优秀知名云主机商列表及部分简评全球[VPS测评]
- Moack.co.kr→29 美元韩国独立服务器每日限量抢独立服务器[U]
- php 获取文件名 文件路径 文件后缀名信息函数全球[VPS测评]
- PacificRack→$8.88 年 KVM-400MB 12GB 1全球[VPS测评]
- losangelesvps→低至$25 年的 KVM 系列 VPS 洛杉全球[VPS测评]
- TripodCloud→圣何塞 CN2 GIA 线路 KVM 年付 38全球[VPS测评]
- VPS服务器开源 PHP 探针X 探针(刘海探针)介绍全球[VPS测评]
- Windows and Office ISO Downloader 从微WINDOWS
- DMIT 洛杉矶 Cloudflare 高防 CN2GIA 线路 LAX全球[VPS测评]
- 六六云 美国CERA高防三网CN2GIA 1g内存35g硬盘单个IP带2美国VPS[主机]
- ZJI 新上台湾CN2服务器及香港3.5Ghz高主频服务器 七折终身优惠香港VPS[主机]
- 快车道 新用户-季付65折-半年付6折优惠 圣何塞-德国GIA全球[VPS测评]
- 缓解云计算人才焦渴,苏州工业园区用三年引得源头活水来全球[VPS测评]
- 搬瓦工:美国香港cn2 gia线路VPS,10Gbps带宽,移动+联通企美国VPS[主机]
- 租用美国服务器有哪些安全方案美国VPS[主机]
- 月神云:洛杉矶CN2 GIA高防vps、香港CN2 GIA VPS全场7香港VPS[主机]
- Linux系统下安装Java JDK全球[VPS测评]
- 腾讯云香港轻量应用服务器 优惠活动最低月付仅24元香港VPS[主机]
- 速云互联:香港/美国CN2 GIA线路/BGP/10Mbps/全场八折,美国VPS[主机]
- 恒创科技:香港/美国云服务器2折起,年度特价低至13元/月,新购送京东E美国VPS[主机]
- UCloud海外云服务器促销:全场1折起,香港cn2vps最低年付150香港VPS[主机]
- 云米科技:新春欢庆,香港云服务器/美国高防vps服务器全场八折,支持按天美国VPS[主机]
- hostkvm怎么样?香港云vps 带宽30M 月付6美元香港VPS[主机]
- 六一云:春季大欢庆八折,香港CN2/美国高防/美国Cera,CDN产品,美国VPS[主机]
转载请注明原文地址:https://www.motoll.com/read-222732.html