2024 年数据管理预测:从云优先到数据优先

2024-01-10 12:04

本文主要是介绍2024 年数据管理预测:从云优先到数据优先,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在数据存储和非结构化数据管理领域,过去 12 个月发生了很大变化。在不确定的经济时期,随着成本上升和 IT 预算压力增加,云存储战略受到关注,生成式 AI 正在创造新的数据存储和治理要求,数据迁移越来越复杂。但是,在数据中心整合时代,IT 组织面临着控制成本和提供更大数据价值的巨大压力。如何处理这一切?以下是针对 IT 组织和数据存储团队的一些预测,首先是 AI 和非结构化数据管理。

人工智能将使非结构化数据发挥更大的价值

非结构化数据非常庞大,直到今天,由于搜索、分类、细分和迁移到 AI 引擎和分析工具既困难又昂贵,非结构化数据仍无法完全使用。随着人工智能工具和服务的发展,让许多用户(而不仅仅是财力雄厚的大型组织)能够更好地使用非结构化数据,且人们越来越需要利用这些数据来创造新的业务价值。

但挑战在于:想要向 AI 发送数据的研究人员和数据科学家没有简单的方法来安全地做到这一点。它需要编写手动脚本,这需要数天或数周的工作。另外,人工智能和机器学习技术仍然不太准确,并引入了偏见和错误的结果。

然而,我们仍然预测对解决方案的需求将会增加,这些解决方案可以创建一个工作流程,人工智能可以快速找到所需的数据,丰富数据并验证结果。工作流程可能包括首先使用人工智能工具扫描云数据湖或数据中心中的数据,以找到项目所需的数据类型。

然后,AI 通过扫描文件内容和标记文件(例如“包含用于诊断随访的标记 X”)来丰富元数据,并返回一个可以由人类验证为正确输出的数据集。具有可搜索全局文件索引的非结构化数据管理可以通过 API 连接到 AI 工具,以进一步识别和丰富数据。它为 AI 项目节省时间、提高效率和准确性。

从云优先到数据优先

在全球疫情最严重的时候,云优先战略风靡一时。但今天,这些计划已经暴露在显微镜下。IT 组织使用适合不同工作负载的多种供应商技术创建了灵活的混合云和多云环境,一些组织发现他们不仅没有节省足够的资金,而且有时甚至比将数据保存在内部花费更多。

这一现实背后有很多原因,但将大部分或全部工作负载放在云中以最终节省成本的想法并没有成功。IT 组织将根据其数据在整个生命周期中的性能、成本和安全需求,从市场上的众多存储选项(无论是在本地还是在云中)中进行选择。

随着需求的变化或更好的技术可用,能够轻松移动数据至关重要。因此,允许大量非结构化数据在不受供应商锁定的情况下移动的数据管理工具将越来越有价值。

非结构化数据迁移变得更加智能、自动化

传统上,企业数据迁移非常复杂,需要大量实际操作,并且需要大量的专业服务,尤其是在涉及大量非结构化数据时。自动化和人工智能将改变这种状况,实现智能、高效的数据迁移,不再需要 IT 经理照看他们,而且它们也将具有适应性。

这些工具将知道如何即时解决问题并自我修复。随着技术的增长,高级迁移规划工具将针对不同的工作负载和应用案例推荐最佳存储层。因为,数据迁移取决于客户不断变化的环境:他们的防火墙、网络连接和安全配置。企业客户将寻求能够提供数量级更快的迁移速度、更好地长期结果以及更少的数据丢失、错误和安全风险实例的解决方案。

存储 IT 职业:需要 FinOps 和跨孤岛技能

鉴于上述所有趋势,存储 IT 团队将需要获得更多的专业知识,以便更具成本效益和效率,并符合业务和部门的需求。FinOps 一词将成为 2024 年存储架构师命名法的一部分。随着存储越来越以软件和服务为中心,现在对硬件的管理需求也越来越少。相反,管理供应商、合同以及向部门和用户提供安全、经济高效的数据服务将占用存储专业人员的大量时间。

同样,企业正在摆脱单一供应商。因此,存储管理员必须在不同的技术之间跳来跳去,而不是专注于一个平台。这需要在网络、安全、云架构、成本建模和数据分析方面拥有更广泛的技能和知识。

为此,特定于存储的职位将被数据头衔所取代,例如“数据洞察工程师”或“数据管理架构师”。在成熟的基础架构团队中,负责存储的经理将与数据科学和 AI 团队更紧密地合作,采购 AI 就绪的基础架构,并制定数据分类和分析平台数据工作流的计划。

这篇关于2024 年数据管理预测:从云优先到数据优先的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/590735

相关文章

Python将大量遥感数据的值缩放指定倍数的方法(推荐)

《Python将大量遥感数据的值缩放指定倍数的方法(推荐)》本文介绍基于Python中的gdal模块,批量读取大量多波段遥感影像文件,分别对各波段数据加以数值处理,并将所得处理后数据保存为新的遥感影像... 本文介绍基于python中的gdal模块,批量读取大量多波段遥感影像文件,分别对各波段数据加以数值处

使用MongoDB进行数据存储的操作流程

《使用MongoDB进行数据存储的操作流程》在现代应用开发中,数据存储是一个至关重要的部分,随着数据量的增大和复杂性的增加,传统的关系型数据库有时难以应对高并发和大数据量的处理需求,MongoDB作为... 目录什么是MongoDB?MongoDB的优势使用MongoDB进行数据存储1. 安装MongoDB

Python MySQL如何通过Binlog获取变更记录恢复数据

《PythonMySQL如何通过Binlog获取变更记录恢复数据》本文介绍了如何使用Python和pymysqlreplication库通过MySQL的二进制日志(Binlog)获取数据库的变更记录... 目录python mysql通过Binlog获取变更记录恢复数据1.安装pymysqlreplicat

Linux使用dd命令来复制和转换数据的操作方法

《Linux使用dd命令来复制和转换数据的操作方法》Linux中的dd命令是一个功能强大的数据复制和转换实用程序,它以较低级别运行,通常用于创建可启动的USB驱动器、克隆磁盘和生成随机数据等任务,本文... 目录简介功能和能力语法常用选项示例用法基础用法创建可启动www.chinasem.cn的 USB 驱动

Oracle数据库使用 listagg去重删除重复数据的方法汇总

《Oracle数据库使用listagg去重删除重复数据的方法汇总》文章介绍了在Oracle数据库中使用LISTAGG和XMLAGG函数进行字符串聚合并去重的方法,包括去重聚合、使用XML解析和CLO... 目录案例表第一种:使用wm_concat() + distinct去重聚合第二种:使用listagg,

Python实现将实体类列表数据导出到Excel文件

《Python实现将实体类列表数据导出到Excel文件》在数据处理和报告生成中,将实体类的列表数据导出到Excel文件是一项常见任务,Python提供了多种库来实现这一目标,下面就来跟随小编一起学习一... 目录一、环境准备二、定义实体类三、创建实体类列表四、将实体类列表转换为DataFrame五、导出Da

Python实现数据清洗的18种方法

《Python实现数据清洗的18种方法》本文主要介绍了Python实现数据清洗的18种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录1. 去除字符串两边空格2. 转换数据类型3. 大小写转换4. 移除列表中的重复元素5. 快速统

Python数据处理之导入导出Excel数据方式

《Python数据处理之导入导出Excel数据方式》Python是Excel数据处理的绝佳工具,通过Pandas和Openpyxl等库可以实现数据的导入、导出和自动化处理,从基础的数据读取和清洗到复杂... 目录python导入导出Excel数据开启数据之旅:为什么Python是Excel数据处理的最佳拍档

在Pandas中进行数据重命名的方法示例

《在Pandas中进行数据重命名的方法示例》Pandas作为Python中最流行的数据处理库,提供了强大的数据操作功能,其中数据重命名是常见且基础的操作之一,本文将通过简洁明了的讲解和丰富的代码示例,... 目录一、引言二、Pandas rename方法简介三、列名重命名3.1 使用字典进行列名重命名3.编

Python使用Pandas库将Excel数据叠加生成新DataFrame的操作指南

《Python使用Pandas库将Excel数据叠加生成新DataFrame的操作指南》在日常数据处理工作中,我们经常需要将不同Excel文档中的数据整合到一个新的DataFrame中,以便进行进一步... 目录一、准备工作二、读取Excel文件三、数据叠加四、处理重复数据(可选)五、保存新DataFram