sambamba — samtools 的高效平替工具

2024-02-24 03:52

本文主要是介绍sambamba — samtools 的高效平替工具,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

sambamba — samtools 的高效平替工具

sambamba 是一个 BAM 文件处理工具。

sambamba
sambamba

它使用了 D 语言的多线程和异步 IO 特性,实现了高效的并行化处理。sambamba 可以在多核 CPU 上同时运行多个任务,利用硬盘和内存的带宽,提高了处理速度。sambamba 还使用了一些优化算法和数据结构,比如快速排序,哈希表,位图等,减少了内存占用和磁盘读写。

sambamba 支持 samtools 和 picard 的大部分功能,而且速度更快,内存占用更少,操作更简单。sambamba 不仅可以对 BAM 文件进行排序、索引、过滤、统计、标记重复等常见的操作,还可以进行一些特殊的功能,比如区域过滤,标记重复序列,检测结构变异等。sambamba 还支持多种输入和输出格式,比如 CRAM、SAM、BED、VCF 等,让我们可以灵活地处理各种数据类型。

此外,sambamba 还弥补了 samtools 无法对超过 512Mb 长度的染色体建立 bam 文件索引的缺陷,例如:

$ samtools index -b test.sort.bam test.sort.bam.bai
[E::hts_idx_check_range] Region 536870922..536871063 cannot be stored in a bai index. Try using a csi index[E::sam_index] Read 'E00548:269:HV7NVCCXY:3:2117:26494:57301' with ref_name='chr1H', ref_length=558535432, flags=81, pos=536870923 cannot be indexed
samtools index: failed to create index for "Atlas.sort.bam": Numerical result out of range

错误信息表明区域 536870922..536871063 无法存储在 .bai 索引中,并建议尝试使用 .csi 索引。但是 GATK 等一些生信工具不支持 .csi 格式的索引文件。sambamba 能够给最大参考序列长度的 bam 文件构建 bai 索引。

https://lomereiter.github.io/sambamba/docs/sambamba-markdup.html

安装方式

使用 conda 安装

conda install -c bioconda sambamba
/opt/miniconda3/bin/sambamba

安装日期:23/12/25

安装版本:1.0.0

源码安装

从 https://github.com/biod/sambamba/releases/tag/v1.0.1 下载安装包。

wget -c https://github.com/biod/sambamba/archive/refs/tags/v1.0.1.tar.gz
tar -zxvf sambamba-1.0.1.tar.gz
cd sambamba-1.0.1
make

这个时候可能会报错

which: no ldmd2 in (/opt/miniconda3/condabin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin)
python3 ./gen_ldc_version_info.py  > utils/ldc_version_info_.d
make: *** [utils/ldc_version_info_.d] Error 1

系统无法在给定的路径中找到 ldmd2 命令。ldmd2 是 D 语言编译器 LDC 的一部分。这个错误通常表明 LDC 没有被正确安装,或者其安装位置没有被加入到系统的环境变量 PATH 中。

LDC 编译器的 Github 存储库提供二进制版本。Sambamba 当前首选的版本是 LDC - LLVM D 编译器(>= 1.6.1)。从 https://github.com/ldc-developers/ldc/releases/ 安装 LDC:

wget https://github.com/ldc-developers/ldc/releases/download/v1.35.0/ldc2-1.6.1-linux-x86_64.tar.xz
tar xvJf ldc2-1.35.0-linux-x86_64.tar.xz
export PATH=/app/sambamba-1.0.1/ldc2-1.35.0-linux-x86_64/bin:$PATH
export LIBRARY_PATH=/app/sambamba-1.0.1/ldc2-1.35.0-linux-x86_64/lib

再安装 sambamba

make
cd bin
echo "export PATH=`pwd`:$PATH" >>~/.bashrc
source ~/.bashrc

或者直接使用预编译版本

wget https://github.com/biod/sambamba/releases/download/v1.0.1/sambamba-1.0.1-linux-amd64-static.gz
gzip -d sambamba-1.0.1-linux-amd64-static.gz
chmod 755 sambamba-1.0.1-linux-amd64-static
mkdir sambamba-1.0.1
mv sambamba-1.0.1-linux-amd64-static sambamba-1.0.1/
ln -s /app/sambamba-1.0.1/sambamba-1.0.1-linux-amd64-static /usr/local/bin/sambamba

使用方式

安装完成后直接运行看一下 sambamba 功能:

$ /opt/miniconda3/bin/sambamba
                                                                                                                                                    
sambamba 1.0.0                                                                                                                                      
 by Artem Tarasov and Pjotr Prins (C) 2012-2022                                                                                                     
    LDC 1.28.1 / DMD v2.098.1 / LLVM12.0.0 / bootstrap LDC - the LLVM D compiler (1.28.1)                                                           
                                                                                                                                                    
                                                                                                                                                    
Usage: sambamba [command] [args...]                                                                                                                 
                                                                                                                                                    
  Available commands:                                                                                                                               
                                                                                                                                                    
    view        view contents and convert from one format                                                                                           
                to another (SAM/BAM/JSON/UNPACK)                                                                                                    
    index       build index (BAI)                                                                                                                   
    merge       merge files (BAM)                                                                                                                   
    sort        sort file (BAM)
    slice       slice file (BAM using BED)
    markdup     mark or remove duplicates (BAM)
    subsample   subsample (BAM)
    flagstat    output statistics (BAM)
    depth       output statistics (BAM)
    validate    simple validator (BAM)

  No longer recommended:

    mpileup     parallel execution of samtools (BAM)

To get help on a particular command, call it without args.

Global options

    -q          quiet mode (do not show banner)

For bug reports and feature requests see

       https://github.com/biod/

sambamba 的主要功能如下:

  • sort: 对 SAM/BAM 文件进行排序,可以按照位置或者名称排序,支持多线程和压缩。
  • index: 对 BAM 文件建立索引,可以加速后续的查看和切片操作。
  • view: 查看 SAM/BAM 文件的内容,可以指定输出格式和过滤条件,也可以查看参考序列的信息。
  • merge: 合并多个 BAM 文件,可以自动处理 header 和压缩级别。
  • flagstat: 统计 BAM 文件中的 reads 的标志位,可以显示 QC 通过和失败的 reads 数目,以及各种配对情况和重复情况。
  • markdup: 标记或者移除 BAM 文件中的重复 reads,可以设置临时文件目录和压缩级别,使用 Picard 算法。
  • slice: 提取 BAM 文件中的某个区域,可以指定输出格式和过滤条件。
  • subsample: 对 BAM 文件进行子采样。子采样是指从原始数据中随机选择一部分数据,以便在保留原始数据特征的同时减少数据量,可以提高计算效率。
  • depth: 输出统计信息(BAM)
  • validate: 简单验证器(BAM)
  • mpileup 变异检测(不推荐)

flagstat — 统计

从 read flags 中提取和输出统计信息

统计信息第一行是过质量控制(QC-passed)和未通过质量控制(QC-failed)的 read 数量,然后分别对通过和未通过的 read 进行统计

index — 建索引

sambamba index test.sort.bam test.sort.bam.bai

depth — 覆盖度统计

用于计算 BAM 文件中指定区域覆盖深度,这个工具在玩法上显著优于 samtools。

 sambamba depth region|window|base [options] input.bam [input2.bam [...]]

优势在于该工具有三种模式:baseregionwindow,每种模式的名称表示以其作为单位输出统计数据:

公共选项

  • -F, --filter=FILTER: 设置对比对的自定义过滤条件。默认值是 'mapping_quality > 0 and not duplicate and not failed_quality_control',这意味着只计算那些映射质量大于0、非重复、质量控制通过的read
  • -o: 指定输出文件名,默认输出到标准输出
  • -t: 设定线程
  • -c, --min-coverage=MINCOVERAGE: 设置输出的最小平均覆盖深度,默认为0(region/window模式)或1(base模式)。只有平均覆盖度达到这个阈值的区域才会被报告
  • -C, --max-coverage=MAXCOVERAGE: 设置输出的最大平均覆盖深度。这有助于识别和排除异常高覆盖的区域
  • -q, --min-base-quality=QUAL: 不计算低于此质量值的碱基。这有助于提高覆盖深度计算的准确性
  • --combined: 输出所有样本的组合统计。通常用于比较多个样本的覆盖深度
  • -a, --annotate: 添加额外的列来标记是否满足给定的标准,而不是跳过不满足条件的记录
  • -m, --fix-mate-overlaps: 检测配对读取的重叠部分,并在每个碱基的基础上处理它们;这有助于更准确地计算覆盖度

base 模式特定选项

  • -L, --regions=FILENAME|REGION

    (可选)指定感兴趣区域的列表或单个区域的形式(例如 chr:beg-end)。通常用于分析特定基因或区域的覆盖深度。

region 模式特定选项

  • -L, --regions=FILENAME|REGION

    (必要)与上面的 base 模式选项相同,但必需。

  • -T, --cov-threshold=COVTHRESHOLD

    提供一个或多个覆盖度阈值,对于每个阈值,会添加一个额外的列,显示区域中覆盖度超过此值的碱基的百分比。

这个模式是最有用的,结合它我们可以输出染色体上的碱基覆盖深度及占比。

window 模式特定选项

  • -w, --window-size=WINDOWSIZE: 窗口的宽度,以碱基对(bp)为单位(必需);这定义了计算覆盖度的窗口大小
  • --overlap=OVERLAP: 连续窗口之间的重叠,以碱基对(bp)为单位(默认是0);这可以帮助平滑覆盖度的变化
  • -T, --cov-threshold=COVTHRESHOLD: 与 'region' 子命令中的含义相同,表示覆盖度的阈值

结果会生成一个文本文件,列出了每个染色体上每个碱基位置的覆盖度。

slice 拆分 bam 文件

sambamba slice input.bam chr1H:10000-20000 > output.bam

markdup — 去重

sambamba markdup OPTIONS <input.bam> <output.bam>
sambamba markdup -t 4 --tmpdir=./tmp/ ./test.bam  ./test.markdup.bam 2>>log/sambamba_markdup_log.txt

-t:线程数

-r:表示删除重复,默认仅标记不删除

--tmpdir=TMPDIR:指定临时文件的目录

--overflow-list-size=OVERFLOW_LIST_SIZE:增加大小会减少创建的临时文件的数量。

如果出现 Too many open files 报错,需要通过使用 ulimit -n 8000 或添加 --overflow-list-size=600000 来解决

扫码关注微信公众号【生信F3】获取文章完整内容,分享生物信息学最新知识。 ShengXinF3_QRcode

本文由 mdnice 多平台发布

这篇关于sambamba — samtools 的高效平替工具的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/740879

相关文章

C#使用SQLite进行大数据量高效处理的代码示例

《C#使用SQLite进行大数据量高效处理的代码示例》在软件开发中,高效处理大数据量是一个常见且具有挑战性的任务,SQLite因其零配置、嵌入式、跨平台的特性,成为许多开发者的首选数据库,本文将深入探... 目录前言准备工作数据实体核心技术批量插入:从乌龟到猎豹的蜕变分页查询:加载百万数据异步处理:拒绝界面

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

Python基于wxPython和FFmpeg开发一个视频标签工具

《Python基于wxPython和FFmpeg开发一个视频标签工具》在当今数字媒体时代,视频内容的管理和标记变得越来越重要,无论是研究人员需要对实验视频进行时间点标记,还是个人用户希望对家庭视频进行... 目录引言1. 应用概述2. 技术栈分析2.1 核心库和模块2.2 wxpython作为GUI选择的优

使用Java实现通用树形结构构建工具类

《使用Java实现通用树形结构构建工具类》这篇文章主要为大家详细介绍了如何使用Java实现通用树形结构构建工具类,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录完整代码一、设计思想与核心功能二、核心实现原理1. 数据结构准备阶段2. 循环依赖检测算法3. 树形结构构建4. 搜索子

SpringBoot使用OkHttp完成高效网络请求详解

《SpringBoot使用OkHttp完成高效网络请求详解》OkHttp是一个高效的HTTP客户端,支持同步和异步请求,且具备自动处理cookie、缓存和连接池等高级功能,下面我们来看看SpringB... 目录一、OkHttp 简介二、在 Spring Boot 中集成 OkHttp三、封装 OkHttp

利用Python开发Markdown表格结构转换为Excel工具

《利用Python开发Markdown表格结构转换为Excel工具》在数据管理和文档编写过程中,我们经常使用Markdown来记录表格数据,但它没有Excel使用方便,所以本文将使用Python编写一... 目录1.完整代码2. 项目概述3. 代码解析3.1 依赖库3.2 GUI 设计3.3 解析 Mark

利用Go语言开发文件操作工具轻松处理所有文件

《利用Go语言开发文件操作工具轻松处理所有文件》在后端开发中,文件操作是一个非常常见但又容易出错的场景,本文小编要向大家介绍一个强大的Go语言文件操作工具库,它能帮你轻松处理各种文件操作场景... 目录为什么需要这个工具?核心功能详解1. 文件/目录存javascript在性检查2. 批量创建目录3. 文件

使用Python高效获取网络数据的操作指南

《使用Python高效获取网络数据的操作指南》网络爬虫是一种自动化程序,用于访问和提取网站上的数据,Python是进行网络爬虫开发的理想语言,拥有丰富的库和工具,使得编写和维护爬虫变得简单高效,本文将... 目录网络爬虫的基本概念常用库介绍安装库Requests和BeautifulSoup爬虫开发发送请求解

jvm调优常用命令行工具详解

《jvm调优常用命令行工具详解》:本文主要介绍jvm调优常用命令行工具的用法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一 jinfo命令查看参数1.1 查看jvm参数二 jstack命令2.1 查看现场堆栈信息三 jstat 实时查看堆内存,gc情况3.1

MySQL使用binlog2sql工具实现在线恢复数据功能

《MySQL使用binlog2sql工具实现在线恢复数据功能》binlog2sql是大众点评开源的一款用于解析MySQLbinlog的工具,根据不同选项,可以得到原始SQL、回滚SQL等,下面我们就来... 目录背景目标步骤准备工作恢复数据结果验证结论背景生产数据库执行 SQL 脚本,一般会经过正规的审批