什么是蜘蛛黑洞及如何避免
【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 便宜 $13.99 年 512M 内存 20G SSD 250G 流量 全球[VPS测评]
- spinservers→$99 月-2*E5 2630Lv2 128GB全球[VPS测评]
- Docker 的八个真实应用场景全球[VPS测评]
- 稳定便宜 腾讯云→99 元 年的套餐又开始秒杀了 国内起步做站必选套餐全球[VPS测评]
- 魔方云(CUBECLOUD)香港 VPS 大带宽主机上新设备推出全场 K香港VPS[主机]
- 华为云→香港 北京 上海 广州等云速建站 不限流量 8GB 空间 年付 虚拟空间(主机)
- 玩具-Hosting-russia→5 元 月 512MB 内存 10G全球[VPS测评]
- 阿里云双 11 活动推荐→云服务器首年 86 元起 个人 企业 香港全能香港VPS[主机]
- 新年促销 糖果主机→无限空间 无限流量虚拟主机 6 折起 VPS 年付 虚拟空间(主机)
- 百度搜索将打击网站搜索内容需获取权限才能查看的情况全球[VPS测评]
- WordPress插件:WP Tabel Tag Gen 不需要手动添加全球[VPS测评]
- AkkoCloud上新圣何塞CN2GIA VPS 512M内存/10G硬全球[VPS测评]
- WordPress后台reCaptcha验证登录保护插件:reCaptC全球[VPS测评]
- AnymHost → 4.7$月付起 1C2G25G硬盘 国际300Mb全球[VPS测评]
- 【黑五】hukot.net-捷克 2欧 1核1GB内存10GB硬盘 最高全球[VPS测评]
- LetBox → 2G 内存 20G Nvme 256G块储存 2T流量全球[VPS测评]
- 阁天互联怎么样?香港cn2云服务器 圣何塞cn2vps仅20/月香港VPS[主机]
- 奇维云优惠活动:香港CN21核1G1M带宽云服务器免费领取香港VPS[主机]
- wikihost,微基主机:1核/1G/15G/100Mbps/香港vp香港VPS[主机]
- 阿里行癫:如何理解当下的云计算全球[VPS测评]
- 企鹅小屋:香港VPS限时3折优惠,香港沙田CN2,原生IP,年付486.香港VPS[主机]
- 适合美容院的正能量抖音文案,唯美阳光,正能量满满全球[VPS测评]
- 自适应bootstrap左侧导航可关闭全球[VPS测评]
- 孤狼云:香港CN2/美国CN2 VPS首月特价¥6.8元;香港虚拟主机仅美国VPS[主机]
- 港网科技怎么样?国内BGP云主机,2核2G5M带宽仅377.46元/年全球[VPS测评]
- 企鹅小屋怎么样?深港IPLC专线销售 500M大带宽/2核1G内存/55全球[VPS测评]
- sugarhosts糖果主机黑五:VPS服务器5折,最低月付24.5元,香港VPS[主机]
- 腾讯云海外服务器优惠活动:全球购1核2G美国云服务器低至318元/年美国VPS[主机]
- 拼多多也要做跨境电商?出海之路能一帆风顺吗,了解一下全球[VPS测评]
- 葫芦云:香港将军澳CN2云服务器24元/月,1核/1GB/25G硬盘/3香港VPS[主机]
转载请注明原文地址:http://www.motoll.com/read-224842.html