SEO:搜索引擎蜘蛛名称UA(user-agent)

2024-05-16 06:52

本文主要是介绍SEO:搜索引擎蜘蛛名称UA(user-agent),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

最近网站在做统计功能,想着统计下蜘蛛爬行记录,看看都有哪些搜索引擎蜘蛛经常关顾,故而好进行相应的对策改变。都知道搜索引擎对一个网站很重要,是很多网站重要的流量来源。熟悉各大搜索引擎的蜘蛛就显得必要。

做SEO优化的通常会说蜘蛛爬得越勤快,网页收录也快。通过分析网站访问日志:查看访问者的user-agent,我们就可以了解哪些搜索蜘蛛过来爬行过网站页面了,下面整理一下国内常用的一些搜索蜘蛛


1、 百度蜘蛛:Baiduspider Baiduspider-image baiduboxapp Baiduspider-render

百度搜索资源平台_共创共享鲜活搜索

2、 谷歌蜘蛛:Googlebot (很勤奋的蜘蛛) Googlebot-Image Google-Read-Aloud Googlebot-Video

谷歌中文站长平台  >> 需要翻墙

3、 360蜘蛛:360Spider (比较懒的蜘蛛)

360站长平台-站长平台

4、 搜狗蜘蛛:SogouSpider, Sogou web spider

搜狗资源平台_公平开放的交流平台

5、 神马蜘蛛:YisouSpider (UC浏览器默认搜索sm.cn的蜘蛛)

神马站长平台

6、 必应蜘蛛:bingbot BingPreview

必应

7、 有道蜘蛛:YoudaoBot,YodaoBot(找不到)

8、 MSN蜘蛛:msnbot,msnbot-media

9、 雅虎蜘蛛:“Yahoo! Slurp China”或者Yahoo!(找不到)

10、 Yandex蜘蛛:YandexBot (俄罗斯搜索引擎)

Oops, Captcha!  >> 需要翻墙

11、 DNSPOD监控蜘蛛:DNSPod-Monitor

12、 MJ12bot:MJ12bot (英国SEO分析页面蜘蛛)

13、 SEMrush:SemrushBot (美国SEO综合分析网站的蜘蛛)

Semrush - 在线营销简单方便

14、 头条蜘蛛:Bytespider (今日头条旗下:高频抓取 被很多站长封禁后 有所改善)

头条搜索站长平台

15、 华为蜘蛛:AspiegelBot ( 华为旗下Aspiegel公司 疯狂高频爬行无节制 )

对于国内中文用户为主的站长主要使用 百度、Sogou搜狗、Bing、360搜索、神马、头条

对于大陆中文网站站长主要是 百度、360搜索和头条搜索,其它的可有可无

若是网站客户来源,手机端特别多,建议神马的不要禁止,毕竟UC的用户也有不少。

特别推荐屏蔽,甚至是拉进黑名单的:Yandex  MJ12bot  SEMrush,至于AspiegelBot需要看日志在决定,搞完之后能省下来不少性能和流量。

这篇关于SEO:搜索引擎蜘蛛名称UA(user-agent)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/994187

相关文章

探索Elastic Search:强大的开源搜索引擎,详解及使用

🎬 鸽芷咕:个人主页  🔥 个人专栏: 《C++干货基地》《粉丝福利》 ⛺️生活的理想,就是为了理想的生活! 引入 全文搜索属于最常见的需求,开源的 Elasticsearch (以下简称 Elastic)是目前全文搜索引擎的首选,相信大家多多少少的都听说过它。它可以快速地储存、搜索和分析海量数据。就连维基百科、Stack Overflow、

BD错误集锦9——查询hive表格时出错:Wrong FS: hdfs://s233/user/../warehouse expected: hdfs://mycluster

集群环境描述:HDFS集群处于HA模式下,同时启动了YARN\JN\KAFKA\ZK。 现象: FAILED: SemanticException Unable to determine if hdfs://s233/user/hive/warehouse/mydb.db/ext_calllogs_in_hbase is encrypted: java.lang.IllegalArgument

vscode python pip : 无法将“pip”项识别为 cmdlet、函数、脚本文件或可运行程序的名称

在vscode中控制台运行python文件出现:无法将"pip”项识别为 cmdlet、函数、脚本文件或可运行程序的名称。 使用vscode开发python,需要安装python开发扩展: 本文已经安装,我们需要找的是python安装所在目录,本文实际路径如下: 如果在本文路径中没有此目录,请尝试在C盘中搜索 python,搜索到相关python目录后,点击Python 3.9进入目录,

SEO 优化注意事项

一.站内优化 1.做好HTML头标签 标题(title):标题是网页优化中相当有分量,一般网页title主要包含一些关键词、网站名称等。 关键词(keyword):重要性大家都知道!关键词设定要参考热度、百度指数等一些手段,当然选择这些的前提要与自己网站的主题相关。关键词不宜多,一般就是1-3个。 描述(description):主要是对网站的一个介绍,虽然没有前两个标签在搜索引擎

用python写一个AI Agent对接企业微信上下游协同的案例

要实现一个AI Agent对接企业微信上下游协同,我们可以使用Python编写一个企业微信机器人,用于接收和处理来自企业微信的消息。在此示例中,我们将使用`wechatpy`库来实现企业微信机器人,并使用`requests`库实现与上下游系统的通信。 首先,确保安装了`wechatpy`和`requests`库: ```bash pip install wechatpy requests ``

linux cron /etc/crontab 及 /var/spool/cron/$USER 中定义定时任务

简介 定时任务在linux上主要体现在两个地方,一个是/etc/crontab ,另一个就是定义了任务计划的用户/var/spool/cron/$USER 1、crontab -e 或者直接编辑/etc/crontab文件,这种方式用的人比较多,/etc/crontab是系统调度的配置文件,只有root用户可以使用,使用时需root权限,而且必须指定运行用户,才会执行 * * * * * *

网络营销经理的福利 一个完整的SEO优化方案

搜索优化随着自媒体的爆火似乎重要性有所降低,实际上不光是网站需要SEO,新兴的自媒体平台抖音、小红书一样也需要SEO优化的思维和技巧。对于一个网络营销经理,掌握SEO的思维和原理对开展网络营销工作不无裨益。那么,如何写一个完整的SEO优化方案呢?小马识途的SEO顾问认为这应该是许多网络营销工作者需要关注的问题,这里简单分享一个SEO方案的思路和框架,以期对大家有所帮助。 一、竞争对手分析

转:搜索引擎如何抓取互联网页面

先说说搜索引擎的原理吧。搜索引擎是把互联网上的网页内容存在自己的服务器上,当用户搜索某个词的时候,搜索引擎就会在自己的服务器上找相关的内容,这样就是说,只有保存在搜索引擎服务器上的网页才会被搜索到。哪些网页才能被保存到搜索引擎的服务器上呢?只有搜索引擎的网页抓取程序抓到的网页才会保存到搜索引擎的服务器上,这个网页抓取程序就是搜索引擎的蜘蛛.整个过程分为爬行和抓取。   一、 蜘蛛   搜索引擎用

Oracle之AUTHID CURRENT_USER 3

3调用者的举例详解 没有AUTHID CURRENT_USER表示定义者权限(definer rights),以定义者身份执行; 加上AUTHID CURRENT_USER表示调用者权限(invoker rights),以调用者身份执行。   例:   1. 创建两个用户:xxpo,xxgl 2. 在xxpo下创建一张表:xxpo_authid_test

Oracle:Authid Current_User的使用2

2 我们知道,用户拥有的role权限在存储过程是不可用的。 我们知道,用户拥有的role权限在存储过程是不可用的。遇到这种情况,我们一般需要显式授权,如grant create table to usera;但这种方法太麻烦,有时候可能需要进行非常多的授权才能执行存储过程,实际上,oracle给我们提供了在存储过程中使用role权限的方法:修改存储过程,加入Authid Curren