转录组学习第三弹-下载SRR数据并转成fastq

2023-11-21 08:44

本文主要是介绍转录组学习第三弹-下载SRR数据并转成fastq,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

下载数据

前面已经安装好了需要的软件,那么我们现在需要下载我们练习需要用到的sra数据。从 SRA 数据库下载数据有多种方法。可以用ascp快速的来下载 sra 文件,也可以用wget或curl等传统命令从 FTP 服务器上下载 sra 文件。另外sra-tools的prefetch也支持直接下载。在此处我用的是prefetch,因为ascp我尝试了很多次都没成功,遂放弃了。

说明:由于数据量大,计算量也大,此处已换成服务器,非Mac。

1.去NCBI下载SRR.txt
点击下图红框的位置获取SRR.txt,文档内容是SRR号码(一个号码占据一行)
在这里插入图片描述
在这里插入图片描述
2.prefetch下载数据
1)conda activate rna_seq
说明:服务器所建立的虚拟环境是rna_seq,并按照前面的步骤安装好软件包
2)mkdir -p my_project/airway/raw
新建raw文件夹用于存放下载的sra数据,并将SRR.txt放到airway文件夹下
3)cd ./my_project/airway/raw
4)cat ../SRR.txt |while read id;do (prefetch ${id} &);done
挂服务器后台下载,因为没有用上ascp,所以这里是通过HTTPS方式下载的,下载速度很慢,就晚上放着第二天早上下完就行。

请添加图片描述
下载完之后可以检查一下数据大小,这里数据大小是没问题的,如果遇到大部分数据是1-3G,有个别数据是200多M的,那就要检查一下是不是下载不完整。
在这里插入图片描述
5)mkdir sra在airway目录下新建一个sra目录,然后将所有.sra文件复制到此处,for i in `ls raw`;do cp ./raw/$i/*sra ./sra;done
在这里插入图片描述
3. sra转换成 fastq 格式

ls *sra|while read id;do (nohup fastq-dump --split-3 --gzip -O ./ ${id} &);done

在这里插入图片描述
可以看到数据正在转换中,数据较大,需要等一段时间才能转换完毕
在这里插入图片描述
长腿猴子请来的救兵
写于2023年11月20日

这篇关于转录组学习第三弹-下载SRR数据并转成fastq的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/401201

相关文章

MyBatis-Plus通用中等、大量数据分批查询和处理方法

《MyBatis-Plus通用中等、大量数据分批查询和处理方法》文章介绍MyBatis-Plus分页查询处理,通过函数式接口与Lambda表达式实现通用逻辑,方法抽象但功能强大,建议扩展分批处理及流式... 目录函数式接口获取分页数据接口数据处理接口通用逻辑工具类使用方法简单查询自定义查询方法总结函数式接口

SQL server数据库如何下载和安装

《SQLserver数据库如何下载和安装》本文指导如何下载安装SQLServer2022评估版及SSMS工具,涵盖安装配置、连接字符串设置、C#连接数据库方法和安全注意事项,如混合验证、参数化查... 目录第一步:打开官网下载对应文件第二步:程序安装配置第三部:安装工具SQL Server Manageme

SQL中如何添加数据(常见方法及示例)

《SQL中如何添加数据(常见方法及示例)》SQL全称为StructuredQueryLanguage,是一种用于管理关系数据库的标准编程语言,下面给大家介绍SQL中如何添加数据,感兴趣的朋友一起看看吧... 目录在mysql中,有多种方法可以添加数据。以下是一些常见的方法及其示例。1. 使用INSERT I

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查

python实现对数据公钥加密与私钥解密

《python实现对数据公钥加密与私钥解密》这篇文章主要为大家详细介绍了如何使用python实现对数据公钥加密与私钥解密,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录公钥私钥的生成使用公钥加密使用私钥解密公钥私钥的生成这一部分,使用python生成公钥与私钥,然后保存在两个文

mysql中的数据目录用法及说明

《mysql中的数据目录用法及说明》:本文主要介绍mysql中的数据目录用法及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、版本3、数据目录4、总结1、背景安装mysql之后,在安装目录下会有一个data目录,我们创建的数据库、创建的表、插入的

Navicat数据表的数据添加,删除及使用sql完成数据的添加过程

《Navicat数据表的数据添加,删除及使用sql完成数据的添加过程》:本文主要介绍Navicat数据表的数据添加,删除及使用sql完成数据的添加过程,具有很好的参考价值,希望对大家有所帮助,如有... 目录Navicat数据表数据添加,删除及使用sql完成数据添加选中操作的表则出现如下界面,查看左下角从左