Python爬虫获取geneID对应的NCBI注释

2023-11-21 14:40

本文主要是介绍Python爬虫获取geneID对应的NCBI注释,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在海量的组学数据中,我们经常需要根据已有的差异表达基因找到对应的注释信息。那么针对一系列基因ID批量获取其注释无疑能够大大简化后继的分析,提高科研效率。本次来分享使用python爬虫完成NCBI基因注释的方法。

Sample input: 输入文件如下,是一列geneID。
输入文件样式


待获取的信息来源于NCBI-geneID页中Description项,也就是下图中红色方框项:
NCBI网站

Sample output: 最终输出结果如下
输出文件样式


下面讲解一下思路流程:
1. 逐行读取xls文件列名并获取基因ID。
2. NCBI搜索基因ID,进入网站并获取注释信息。
3. 记录注释信息并逐行保存在xls文件中。

所使用的python API:

urllib 获取网页信息。
pandas 读取xls格式输入文件。
tqdm 可视geneID注释信息获取进度。
re 正则表达式找到网页URL对应的信息行。

下面我们分步完成:


Step1:逐行读取xls文件列名并获取基因ID

首先,因为我们的输入文件是xls格式的,我们需要通过pandas包将输入数据读入计算机内存中。在这里定义了read_xlsx方法,通过输入文件路径(path),输入文件中的工作表名称(sheetname),该工作表中待获取的列数(i)。最终以数组形式返回基因ID,可供后继遍历使用。

# 1.逐行读取xls文件列名并获取基因ID
def read_xlsx(path, sheetname,i):sheet = pd.read_excel(path, sheetname)geneID = []for row in sheet.index.values:geneID.append(sheet.iloc[row, i-1])return geneID

Step2:NCBI搜索基因ID,进入网站并获取注释信息。

将Step1中得到的geneID数组作为Step2的输入数据。逐行读取geneID,并将获得的geneID保存到变量i中并传入"https://www.ncbi.nlm.nih.gov/gene/?term={i}",这样相当于获得了每一个geneID在NCBI的信息页。

此时,我们使用urllib包的request打开刚刚得到的url,获取网页信息并保存到content 中(decode用于html解码)。

最后使用正则表达式re.findall匹配注释信息(Description)所在的模式行:<dd>(.*?)</dd>。这是所获取的信息就是Description,我们将它保存在p中并输出到数组infoID中。

# 2.NCBI搜索基因ID,找到注释信息
def get_infoID(GeneID):infoID = []for i in tqdm(GeneID):url = f'https://www.ncbi.nlm.nih.gov/gene/?term={i}'  # 查找基因的网址headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36"}request = urllib.request.Request(url, headers=headers)response = urllib.request.urlopen(request)content = response.read().decode('utf-8')p = re.findall('<dd>(.*?)</dd>', content)[0]# (.*?)为正则表达式的目标区域infoID.append(p)return infoID

Step3:运行上述代码,记录注释信息并逐行保存在xls文件中。

输入文件的路径为"C:/Users/Administrator/Desktop/gene-NCBI_NO.xlsx",而geneID信息保存在此表中的“218”工作表的第一列。

分别执行Step1和Step2。

最后使用pandas的ExcelWriter写入新的excel之中。

if __name__ == '__main__':# 1.逐行读取xls文件列名并获取基因IDGeneID = read_xlsx("C:/Users/Administrator/Desktop/gene-NCBI_NO.xlsx", "218", 1)print("读取基因标签完毕,正在获取基因注释!")# 2.NCBI搜索基因ID,找到注释信息infoID = get_infoID(GeneID)print("基因注释获取完毕,正在生成注释表格!")# 3.记录注释信息并逐行保存在xls文件中df = pd.DataFrame({'GeneID': GeneID, 'Description': infoID})writer = pd.ExcelWriter('C:/Users/Administrator/Desktop/218_with_Description.xls')df.fillna(' ', inplace=True)  # 文本空格消除掉df.to_excel(writer, sheet_name='218', index=False)writer.save()print("完成")

总结

本篇博客分享了使用Python语言实现NCBI爬虫获取基因注释的方法。当然,对于基因功能,分子组分和通路注释的方法,在生物信息学方面有对应的GO和KEGG注释可以实现并且可视化。亦可采用R来解决,实现的方法很丰富。

在本篇博客以代码实现为主,对于python爬虫的实现原理讲解相对较少。实现网站爬虫需要了解html开发者模式,re正则表达式等等,有兴趣的小伙伴可以自行学习~

这篇关于Python爬虫获取geneID对应的NCBI注释的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/402992

相关文章

python: 多模块(.py)中全局变量的导入

文章目录 global关键字可变类型和不可变类型数据的内存地址单模块(单个py文件)的全局变量示例总结 多模块(多个py文件)的全局变量from x import x导入全局变量示例 import x导入全局变量示例 总结 global关键字 global 的作用范围是模块(.py)级别: 当你在一个模块(文件)中使用 global 声明变量时,这个变量只在该模块的全局命名空

【Python编程】Linux创建虚拟环境并配置与notebook相连接

1.创建 使用 venv 创建虚拟环境。例如,在当前目录下创建一个名为 myenv 的虚拟环境: python3 -m venv myenv 2.激活 激活虚拟环境使其成为当前终端会话的活动环境。运行: source myenv/bin/activate 3.与notebook连接 在虚拟环境中,使用 pip 安装 Jupyter 和 ipykernel: pip instal

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

nudepy,一个有趣的 Python 库!

更多资料获取 📚 个人网站:ipengtao.com 大家好,今天为大家分享一个有趣的 Python 库 - nudepy。 Github地址:https://github.com/hhatto/nude.py 在图像处理和计算机视觉应用中,检测图像中的不适当内容(例如裸露图像)是一个重要的任务。nudepy 是一个基于 Python 的库,专门用于检测图像中的不适当内容。该

pip-tools:打造可重复、可控的 Python 开发环境,解决依赖关系,让代码更稳定

在 Python 开发中,管理依赖关系是一项繁琐且容易出错的任务。手动更新依赖版本、处理冲突、确保一致性等等,都可能让开发者感到头疼。而 pip-tools 为开发者提供了一套稳定可靠的解决方案。 什么是 pip-tools? pip-tools 是一组命令行工具,旨在简化 Python 依赖关系的管理,确保项目环境的稳定性和可重复性。它主要包含两个核心工具:pip-compile 和 pip

vscode中文乱码问题,注释,终端,调试乱码一劳永逸版

忘记咋回事突然出现了乱码问题,很多方法都试了,注释乱码解决了,终端又乱码,调试窗口也乱码,最后经过本人不懈努力,终于全部解决了,现在分享给大家我的方法。 乱码的原因是各个地方用的编码格式不统一,所以把他们设成统一的utf8. 1.电脑的编码格式 开始-设置-时间和语言-语言和区域 管理语言设置-更改系统区域设置-勾选Bata版:使用utf8-确定-然后按指示重启 2.vscode

HTML提交表单给python

python 代码 from flask import Flask, request, render_template, redirect, url_forapp = Flask(__name__)@app.route('/')def form():# 渲染表单页面return render_template('./index.html')@app.route('/submit_form',

Python3 BeautifulSoup爬虫 POJ自动提交

POJ 提交代码采用Base64加密方式 import http.cookiejarimport loggingimport urllib.parseimport urllib.requestimport base64from bs4 import BeautifulSoupfrom submitcode import SubmitCodeclass SubmitPoj():de

Android Environment 获取的路径问题

1. 以获取 /System 路径为例 /*** Return root of the "system" partition holding the core Android OS.* Always present and mounted read-only.*/public static @NonNull File getRootDirectory() {return DIR_ANDR