本文主要是介绍使用 CloudFlare 后如何才能不影响搜索引擎蜘蛛爬虫,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
今天,明月给大家再次详细讲解一下,明月在使用 CloudFlare 后如何才能不影响搜索引擎蜘蛛爬虫对站点的抓取,因为这是很多首次使用 CloudFlare 的站长们容易忽略和触犯的问题,并不是 CloudFlare 不友好,而是 CloudFlare 的防火墙(WAF)实在是太给力。其实在【CloudFlare 如何让合法搜索引擎蜘蛛爬虫正常抓取】一文里就给大家分享过使用 CloudFlare 后如何放行搜索引擎蜘蛛爬虫,但因为 CloudFlare 后台多次升级更新,相应的设置也有了些许的变化,所以明月感觉有必要重新给大家分享一下。
目前,明月发现到的 CloudFlare 影响搜索引擎爬虫的只有两个地方,理论上只要这两个地方配置好了,任何搜索引擎爬虫都是可以畅通无阻的来你的站点抓取的,并且每次来访蜘蛛爬虫都可以在 CloudFlare 后台【安全性】——【事件】里看到记录的,如下图所示:
可以看到,虽然明月博客已经迁移到境外服务
这篇关于使用 CloudFlare 后如何才能不影响搜索引擎蜘蛛爬虫的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!