什么是蜘蛛黑洞及如何避免
【性价之王】 | 【线路之王】 | 【价格之王】 | 【配置之王】 |
【免费之王】 | 【香港首推】 | 【梯子之王】 | 【独服之王】 |
蜘蛛黑洞其实就是蜘蛛陷阱中最常见的一种,可能是由于网站程序细节上的处理不到位而形成,也有可能是黑帽 SEO 手段的故意为止,总之这就是对搜索引擎非常不友好,并且不利于网站的长期运营和 SEO 优化。
内容 1 1.什么是蜘蛛黑洞? 2 2.如何避免蜘蛛黑洞? 2.1 相关文章1.什么是蜘蛛黑洞?
百度官方早在几年前就对蜘蛛黑洞做过解释:对于百度搜索引擎来说,蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多,及内容雷同但具体参数不同的动态 URL ,就像一个无限循环的“黑洞”将 spider 困住,Baiduspider 浪费了大量资源抓取的却是无效网页。
某公司就曾花钱找网络公司给做过所谓的“全网营销网站”,通过搜索引擎的 sitie 查看 Google 的收录可以达到上万的索引数据,而通过百度可以查到仅有 1 条首页结果,其中大量的重复页面均是由于动态 URL 链接造成,只要文章的 ID 一致,其它任意参数都会是一个一模一样的页面。
再比如很多网站都有筛选功能,通过筛选功能产生的网页经常会被搜索引擎大量抓取,而这其中很大一部分检索价值不高,如“500-1000 之间价格的租房”,首先网站(包括现实中)上基本没有相关资源,其次站内用户和搜索引擎用户都没有这种检索习惯。这种网页被搜索引擎大量抓取,只能是占用网站宝贵的抓取配额。
2.如何避免蜘蛛黑洞?
由于蜘蛛黑洞大多是由于动态 URL 链接造成,一方面是从网站技术上杜绝这样的情况,保证动态 URL 的唯一性,非规范的 URL 应该返回 404 状态或者跳转。
同样根据百度官方的推荐方式还可以巧用 robots 避免蜘蛛黑洞,robots.txt 的文件用法中有这样一条规则:Disallow: /*?* ,即禁止搜索引擎访问网站中所有的动态页面。该网站恰是通过这种方式,对 Baiduspider 优先展示高质量页面、屏蔽了低质量页面,为 Baiduspider 提供了更友好的网站结构,避免了黑洞的形成。
在网站的 robots.txt 文件中添加一行 Disallow: /*?*规则,主流的搜索引擎都是能够支持和遵守的,能够更有利于网站的优化与内容的运营。
[SEO]历史优惠活动内容
猜你可能想看的VPS
- 优惠 iON→Krypt 旗下品牌 5 折优惠来袭 全部为 CN2 GT全球[VPS测评]
- 保看奈飞 $18.75 月 2 核 CPU 1.5G 内存 30G SS日本VPS[主机]
- 疯狂猜成语 图猜成语一个人气喘吁吁的在说话是什么成语?全球[VPS测评]
- 腾讯云 - 双十一促销 11.11 智惠上云 2C8G5M 三年付 12全球[VPS测评]
- 一个望一个张是什么成语?全球[VPS测评]
- 淘宝特价版新人送 5 元,几分或几毛钱买实物全球[VPS测评]
- $49 年 512M 内存 80G 硬盘 500G 流量 1Gbps K全球[VPS测评]
- eCoinVPS→$7.6 年 512MB 内存 10GB NVMe 空虚拟空间(主机)
- 便宜 桔子数据:月付 14 元起 Cera 三网 CN2 GIA 直连以日本VPS[主机]
- 老薛主机 共同抗疫 共渡难关 网络创业 VPS 爆款 9.9 元疯抢全球[VPS测评]
- 储存 VPS $45 年 768M 内存 150G 硬盘 1T 流量 8全球[VPS测评]
- 狗云 VPS:五大 CN2 GIA 直连数据中心 圣何塞 CN2 GIA全球[VPS测评]
- WordPress免插件代码实现Gravatar头像缓存全球[VPS测评]
- CAD清理注册表/CAD重装失败怎么办?AUTO Uninstaller全球[VPS测评]
- CloudIPLC七五折优惠 泉州CN2 VPS 大流量/100Mbps全球[VPS测评]
- Spinservers圣何塞独立服务器促销,$119起/月,不限流量,可独立服务器[U]
- WebHorizon-年付6刀 年付12刀500GB流量 45折 日本 日本VPS[主机]
- PacificRack → 512M 25G SSD 500G $12.全球[VPS测评]
- 购买香港服务器需要做哪些准备香港VPS[主机]
- wordpress 上传附件报错 “抱歉,出于安全的考虑,不支持此文件类全球[VPS测评]
- 20个温暖心灵的问题,抖音,朋友圈都可以拿去发。全球[VPS测评]
- 数据中心助力光纤光缆行业发展全球[VPS测评]
- 六一云:香港CN2/洛杉矶高防85折优惠,CDN半年优惠,充值返利送水杯香港VPS[主机]
- 2020年国外VPS哪个最好?教你学会选择国外VPS全球[VPS测评]
- 野草云vps怎么样?香港美国vps,1核1G3M带宽,38元/月美国VPS[主机]
- 奇维云优惠活动:香港CN21核1G1M带宽云服务器免费领取香港VPS[主机]
- 亿速云香港服务器助力企业出海 有哪些具体的特点和优势?香港VPS[主机]
- 做跨境电商一个月都有多少收入?全球[VPS测评]
- ucloud香港服务器怎么样?听听这些网友们怎么说的香港VPS[主机]
- 麻花云:香港CN2云服务器首月9元起;安徽移动BGP云主机月付29元起香港VPS[主机]
转载请注明原文地址:https://www.motoll.com/read-224417.html