在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

2024-01-03 15:40

本文主要是介绍在大数据世界“寻宝”,科研新范式如何用好存储这把利器?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

模拟脑神经网络,探索人脑上亿个神经元之间是如何连接与工作的,带来每秒高达100TB数据高吞吐量;脑疾病研究中,通过数万份患者数据验证抑郁症与睡眠治理不佳的脑区有重合之处;在自动驾驶车辆每天产生了数十TB数据中训练视觉识别算法;天文专家从数十PB海量数据中分析发现新天体……

如今在科研领域,数据正在发挥着越来越重要的作用。尤其是随着数据采集、存储等技术的不断提升,海量数据的出现彻底改变了传统科研模式。继实验科学、理论科学、计算科学之后,基于“数据密集型科学”的科研新范式在大数据时代下,受到越来越多科研人员的青睐。

在“数据密集型科学”的科研新范式驱动下,高校、科研机构加速构建人工智能与大数据平台、为不同学科提供创新基础设施成为当务之急。但由于科研聚焦前沿研究,且不同学科之间存在着很大的差异性,造成对于数据的计算、采集、存储、管理和利用的需求不尽相同,也让高校的人工智能与大数据平台加速向更高水准演进。

数据要素成为科研的驱动力

科研范式因为大数据而迅速改变。

正所谓是“巧妇难为无米之炊”,即便理论再“高明”、算法再先进,缺乏数据的支持,再好的研究设计都得“半途而废”。如果科研数据越多,研究人员就可以利用大量数据的相关性、可取代因果关系和理论与模型,基于海量数据间的相关性验证更多研究想法和理论,获得更多新知识和新发现。

例如,在当前非常热门的类脑科学研究,有一个重要的方向就是多模态多尺度数据分析理论与应用。首先建立脑成像中心,全套磁共振成像设备对小动物或者人体进行脑成像,不断采集和分析脑科学数据,构建起多模态多尺度脑数据库;然后,在利用模式识别、深度学习等类脑智能方法寻找基因、脑影像和认知功能的诊断指标,以揭示脑疾病致病机制、提升脑疾病临床诊断以及药物疗效评估的准确性和效率。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

“目前高校数据量增长的确非常大,很多科研领域对于各种科研数据的收集也非常重视。”复旦大学大数据学院副院长薛向阳教授如是说。

如何理解数据密集型科学与之前计算科学之间的区别,两种科研范式似乎都需要通过大量的计算、数据来完成科学研究。但计算科学通常是先提出可行理论,再搜集数据,之后通过计算仿真进行验证;而数据密集型科学则是先通过采集大量的数据,再通过计算与分析获得新知识和新发现。

“数据密集型科学”的科研新范式核心挑战还在于数据。科研数据的数据密集型,具有不可重复性、高度不确定性、高维、计算高度复杂等特征。如今越来越多科研人员,面临的不是缺少数据的难题,而是海量数据环境下如何存储、管理和利用数据,这对于科研数据底座的存储在容量、性能、扩展和管理等方面提出极高的要求。

薛向阳教授介绍:“我们正在建设一个人工智能与大数据的开放共享平台,就是希望为科研工作者解决数据存储、管理和利用等方面的挑战,让数据更好地为科研所用。”

科研新范式不应被存储所束缚

与其他行业相比,高校与科研机构在建立人工智能与大数据平台时,对于存储的要求更高,往往需要存储这个科研数据基础设施有效解决数据存不下、管不好、用不顺等挑战。

具体来看,如今的高校与科研机构普遍都在加速向“数据密集型科学”的科研新范式转变,多学科、交叉研究的现象很常见,都重视科研数据的采集与存储,直接导致了底层存储的巨大压力。

以脑科学与类脑研究为例,其所产生的数据主要以影像大文件为主,并包含了大量临时小文件数据。由于需要存储的数据量极大,并且始终保持着很高的增长速度,很多科研机构之前采用传统纵向扩展的存储很快出现明显瓶颈;也有一些天文研究机构,一开始寄希望于通过公有云的方式来保存数据,但是随着数据不断积累,通过公有云的方式不仅带来了额外的带宽成本,还存在效率等方面挑战。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

“当前很多高校的研究都是基于大数据,首先最关键的是将数据存下来。”薛向阳教授直言道。

除了将数据很好地存下来,高校与科研机构大多都渴望将数据流动与共享起来,但现实情况却是数据管理粗放、不够精细化,数据共享低效、管理困难。比如在高校中,经常会遇到一份科研数据同时被多个课题组所使用,每个课题组都需要拷贝一份数据,在不断科研过程中,又各自产生了大量不同的数据,最后衍生出多种版本,让数据管理的复杂度大幅升上,降低了数据功效与流动的效率。

另外,因为学科的不同,对于存储的性能、功能要求也是千差万别,没有强大的存储做支撑,往往让科研人员用不顺。例如,从事机器视觉研究的人员,对于存储空间极度渴求;模拟脑神经网络相关的研究,当前只能模拟不到5%,要想100%模拟需要100 TB/s的通量,则对于数据存储性能和带宽要求极高,且挑战巨大。薛向阳教授表示:“高校应用偏科学研究,很多应用都较为超前,对于存储功能层面一直会产生新需求和新挑战。”

“一直以来,浪潮都跟国内外多所高校进行紧密合作。高校科研领域的确走在数据存储场景应用的最前沿。”浪潮存储产品线副总经理周川如是说,“浪潮存储有一些新功能、新思路都是在与高校、科研机构的深入合作中产生。”

例如,针对高校多个学科与多个课题组共享、使用、管理数据会产生多份数据的难题,浪潮存储为用户定制的软拷贝功能,在元数据和索引上做变更,用户视角是多份不同的文件,但底层则是共同的存储空间,只有数据修改和写入才会增加新的存储空间,实现多份数据极速拷贝和使用,还大幅降低存储容量开销和管理成本,让数据共享、使用变得更加高效。

浪潮存储资深架构师叶毓睿介绍:“软拷贝功能是浪潮存储在科研场景实践的一个小注脚,它带来了两大直接好处:一是数据共享加速,第二则是提升存储效率。”

新存储让科研新范式步入快车道

今年初,国家正式提出加快数据中心、5G等新型基础设施的建设进度。国家发改委之后则首次指出,创新基础设施为新基建三大范围之一,包括科技基础设施、科教基础设施等,重点支撑科学研究、技术开发等工作。随着中国高校科研费用投入逐年增加,多个科研领域取得诸多突破与成果,创新基础设施的重要性也日渐突出。

为此,浪潮存储今年提出新存储之道,在“云存智用、运筹新数据”理念的基础上,推进“存储即平台”战略,打造存储的极致性能、容量、管理等七大核心能力,为创新基础设施构建坚实的数据底座,让科研新范式进入到发展的快车道。

例如,在一些注重数据存储性能的科研场景,浪潮存储专门为高频访问的元数据和日志数据“开小灶”,采用SSD盘承载元数据和日志数据显著提升热点数据访问速度,并针对不同数据类型的场景进行优化,让每种场景都能够快速访问、使用数据。

在大数据世界“寻宝”,科研新范式如何用好存储这把利器?

 

又如,针对高校与科研机构运维人员较少、专业度有限的情况,浪潮存储基于智能存储管理平台InView,将人工智能技术融入存储系统,对存储系统进行集中管理、智能监测和故障预测报警,大幅降低科研机构日常的运维工作,并让运维走向自动化和智能化,从而更好地保障各种科研项目的顺利进行。

不仅如此,针对高校科研领域对于数据存储需求趋势,浪潮存储积极调研与深入沟通,在新存储之道中聚焦新架构、新介质和新能力的打造,在EB级容量、亿级IOPS、TB级带宽、7个9可靠性、存储自治等关键新能力上提前布局,为科研的数据底座“厉兵秣马”,提前做好准备。

总体来看,浪潮存储近年来为构建强大的科研新基建不断“加码”,除了复旦大学类脑智能科学与技术研究院、清华大学RUSH、华中科大苏州脑科学研究院、中国天眼等一系列明星科研项目中积累了丰富的实践经验外,还在科研领域打通用户需求洞察、场景功能适配与前沿技术创新,形成良性循环,让科研新范式加速步入发展的快车道。

这篇关于在大数据世界“寻宝”,科研新范式如何用好存储这把利器?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/566213

相关文章

Redis的数据过期策略和数据淘汰策略

《Redis的数据过期策略和数据淘汰策略》本文主要介绍了Redis的数据过期策略和数据淘汰策略,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录一、数据过期策略1、惰性删除2、定期删除二、数据淘汰策略1、数据淘汰策略概念2、8种数据淘汰策略

轻松上手MYSQL之JSON函数实现高效数据查询与操作

《轻松上手MYSQL之JSON函数实现高效数据查询与操作》:本文主要介绍轻松上手MYSQL之JSON函数实现高效数据查询与操作的相关资料,MySQL提供了多个JSON函数,用于处理和查询JSON数... 目录一、jsON_EXTRACT 提取指定数据二、JSON_UNQUOTE 取消双引号三、JSON_KE

Python给Excel写入数据的四种方法小结

《Python给Excel写入数据的四种方法小结》本文主要介绍了Python给Excel写入数据的四种方法小结,包含openpyxl库、xlsxwriter库、pandas库和win32com库,具有... 目录1. 使用 openpyxl 库2. 使用 xlsxwriter 库3. 使用 pandas 库

SpringBoot定制JSON响应数据的实现

《SpringBoot定制JSON响应数据的实现》本文主要介绍了SpringBoot定制JSON响应数据的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们... 目录前言一、如何使用@jsonView这个注解?二、应用场景三、实战案例注解方式编程方式总结 前言

Redis存储的列表分页和检索的实现方法

《Redis存储的列表分页和检索的实现方法》在Redis中,列表(List)是一种有序的数据结构,通常用于存储一系列元素,由于列表是有序的,可以通过索引来访问元素,因此可以很方便地实现分页和检索功能,... 目录一、Redis 列表的基本操作二、分页实现三、检索实现3.1 方法 1:客户端过滤3.2 方法

使用Python在Excel中创建和取消数据分组

《使用Python在Excel中创建和取消数据分组》Excel中的分组是一种通过添加层级结构将相邻行或列组织在一起的功能,当分组完成后,用户可以通过折叠或展开数据组来简化数据视图,这篇博客将介绍如何使... 目录引言使用工具python在Excel中创建行和列分组Python在Excel中创建嵌套分组Pyt

在Rust中要用Struct和Enum组织数据的原因解析

《在Rust中要用Struct和Enum组织数据的原因解析》在Rust中,Struct和Enum是组织数据的核心工具,Struct用于将相关字段封装为单一实体,便于管理和扩展,Enum用于明确定义所有... 目录为什么在Rust中要用Struct和Enum组织数据?一、使用struct组织数据:将相关字段绑

在Mysql环境下对数据进行增删改查的操作方法

《在Mysql环境下对数据进行增删改查的操作方法》本文介绍了在MySQL环境下对数据进行增删改查的基本操作,包括插入数据、修改数据、删除数据、数据查询(基本查询、连接查询、聚合函数查询、子查询)等,并... 目录一、插入数据:二、修改数据:三、删除数据:1、delete from 表名;2、truncate

Java实现Elasticsearch查询当前索引全部数据的完整代码

《Java实现Elasticsearch查询当前索引全部数据的完整代码》:本文主要介绍如何在Java中实现查询Elasticsearch索引中指定条件下的全部数据,通过设置滚动查询参数(scrol... 目录需求背景通常情况Java 实现查询 Elasticsearch 全部数据写在最后需求背景通常情况下

Java中注解与元数据示例详解

《Java中注解与元数据示例详解》Java注解和元数据是编程中重要的概念,用于描述程序元素的属性和用途,:本文主要介绍Java中注解与元数据的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参... 目录一、引言二、元数据的概念2.1 定义2.2 作用三、Java 注解的基础3.1 注解的定义3.2 内