R语言【rgbif】——如何从GBIF网站上获取大量数据?

2024-02-27 16:28

本文主要是介绍R语言【rgbif】——如何从GBIF网站上获取大量数据?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Package rgbif version 3.7.9


Description

GBIF提供了两种获取分布数据的方法:通过/occurrence/search路径(参见occ_search()),或者通过/occurrence/download(参见下面的许多函数)。

occ_search()更适合较小的数据,而occ_download*()函数更适合较大的数据请求。


Settings

您将使用occ_download()启动下载。您需要从您的GBIF配置文件中提供该功能设置:您的用户名、密码和电子邮件。使用该功能需要设置这三项。您可以通过以下三种方式之一指定它们:

  • 将它们作为参数传递给 occ_download 

  • 使用R选项:在当前R会话中使用options()函数作为选项,或者在.Rprofile文件中设置它们,之后它们将被自动读入

  • 使用环境变量:在当前R会话中使用Sys.setenv()函数作为环境变量,或者在. Renviron /.bash_profile或类似的文件中设置它们,之后它们将自动读入


Beware

你不能执行那么多下载,所以要明智地计划。请参阅下面的速率限制。


Rate limiting

如果你试图启动太多的下载,你会收到420 "Enhance Your Calm"回应。如果所有GBIF用户的总数少于100个,那么一次可以运行3个。如果有更多,那么每个用户只能被限制为1个。这些数字可能会有变化。


Functions

occ_download():开始下载

occ_download_prep():准备下载请求

occ_download_queue():在队列中启动多个下载

occ_download_cached():检查GBIF帐户中已经下载的文件

occ_download_wait():重新运行occ download meta(),直到准备好

occ_download_meta():获取单次下载的元数据进度

occ_download_list():列出你的下载

occ_download_cancel():取消一个下载

occ_download_cancel_staged():取消状态为RUNNING或PREPARING的作业

occ_download_get():检索下载

occ_download_import():从本地文件系统导入下载文件

occ_download_datasets():列出可供下载的数据集

occ_download_datasets_activity():列出数据集的下载活动


Query length

GBIF对下载查询的限制为12,000个字符。这意味着你可以有一个相当长的查询,但在某些时候,它可能会导致GBIF方面的错误,你将不得不把你的查询分成几个。


Download status

以下状态可以在任何下载中找到:

  • PREPARING:刚刚由用户提交并等待处理(通常只有几秒钟)
  • RUNNING:创建过程(通常需要1-15分钟)
  • FAILED:发生了意想不到的事情
  • KILLED:用户决定在作业处于准备或运行阶段时中止作业
  • SUCCEEDED:已创建下载并通知用户
  • FILE_EARSED:根据保留策略删除下载,参见https://www.gbif.org/faq?question=for-how-long-will-does-gbif-store-downloads

这篇关于R语言【rgbif】——如何从GBIF网站上获取大量数据?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/752987

相关文章

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢?我尝试一种更为智能的方法:P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验,

微信公众号脚本-获取热搜自动新建草稿并发布文章

《微信公众号脚本-获取热搜自动新建草稿并发布文章》本来想写一个自动化发布微信公众号的小绿书的脚本,但是微信公众号官网没有小绿书的接口,那就写一个获取热搜微信普通文章的脚本吧,:本文主要介绍微信公众... 目录介绍思路前期准备环境要求获取接口token获取热搜获取热搜数据下载热搜图片给图片加上标题文字上传图片

Java利用JSONPath操作JSON数据的技术指南

《Java利用JSONPath操作JSON数据的技术指南》JSONPath是一种强大的工具,用于查询和操作JSON数据,类似于SQL的语法,它为处理复杂的JSON数据结构提供了简单且高效... 目录1、简述2、什么是 jsONPath?3、Java 示例3.1 基本查询3.2 过滤查询3.3 递归搜索3.4

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

Redis 中的热点键和数据倾斜示例详解

《Redis中的热点键和数据倾斜示例详解》热点键是指在Redis中被频繁访问的特定键,这些键由于其高访问频率,可能导致Redis服务器的性能问题,尤其是在高并发场景下,本文给大家介绍Redis中的热... 目录Redis 中的热点键和数据倾斜热点键(Hot Key)定义特点应对策略示例数据倾斜(Data S

使用Python实现获取网页指定内容

《使用Python实现获取网页指定内容》在当今互联网时代,网页数据抓取是一项非常重要的技能,本文将带你从零开始学习如何使用Python获取网页中的指定内容,希望对大家有所帮助... 目录引言1. 网页抓取的基本概念2. python中的网页抓取库3. 安装必要的库4. 发送HTTP请求并获取网页内容5. 解

Python实现将MySQL中所有表的数据都导出为CSV文件并压缩

《Python实现将MySQL中所有表的数据都导出为CSV文件并压缩》这篇文章主要为大家详细介绍了如何使用Python将MySQL数据库中所有表的数据都导出为CSV文件到一个目录,并压缩为zip文件到... python将mysql数据库中所有表的数据都导出为CSV文件到一个目录,并压缩为zip文件到另一个

C语言中的数据类型强制转换

《C语言中的数据类型强制转换》:本文主要介绍C语言中的数据类型强制转换方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录C语言数据类型强制转换自动转换强制转换类型总结C语言数据类型强制转换强制类型转换:是通过类型转换运算来实现的,主要的数据类型转换分为自动转换