精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告

本文主要是介绍精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本篇由 Cloud Ace 数据解决方案部高级工程师撰写。

我听说了拉斯维加斯 Google Cloud Next'24 举办的“使用 BigQuery 连续查询构建连续数据和 AI 管道”(“Build continuous data and AI pipelines with BigQuery continuous queries”)会议,我想对此进行报道。

本次会议更详细地介绍了 Google Cloud Next'24 上宣布的 BigQuery 连续查询。我通常使用 BigQuery、Vertex AI 和 Dataflow,因此本次会议是我真正感兴趣的会议。

现在我们来检查一下内容。

可以使用 BigQuery 进行流处理吗?

能够实时处理数据具有巨大的好处。例如,欺诈检测和异常检测通常需要实时数据处理。

此外,您做出的决策越快、越准确,为您的企业带来的好处就越大

为此,需要能够对内容进行实时处理和判断,同时与前后数据进行比较BigQuery 连续查询的推出就是为了满足这一需求。

此功能允许您连续查询流入 BigQuery 的数据。

什么是 BigQuery 连续查询?

同样,它是连续查询流插入数据的能力。

您可以使用基本的 SQL 语法进行查询,当然也可以调用 Generative AI 和 Vertex AI 等机器学习模型。对于实时数据丰富、数据生成和异常检测非常有用。

查询结果可以发送到Pub/Sub或写入BigQuery、Bigtable等。

具体用途和用例

传统上,执行实时处理(例如使用Dataflow实时处理或定期执行计划查询)的障碍很高,并且学习成本也非常高。

BigQuery连续查询不需要您编写任何特殊查询,从而非常容易实现实时处理。要导出数据,除了常规查询之外,只需编写EXPORT DATA语句即可。

这里(我认为是新的)简单介绍了Pub/Sub的EXPORT DATA语句。

要作为连续查询运行,只需选中查询设置中的连续查询复选框即可。这很简单

在会场的演示中,连续查询将数据插入到持续运行一个多小时的BigQuery表中,并确认查询处理后的数据已写入Bigtable。

在此用例中,我们收集在线购物时的用户趋势,使用连续查询实时分析它们,并将结果发送到 Pub/Sub。

发送 Pub/Sub 后,您可以使用其他服务(例如 Cloud Functinos)向用户实时发送电子邮件或分发优惠券。

当然,JOIN操作也是可以的。一侧指定要插入流中的表,您可以与另一个表 JOIN。

对于习惯了流的用户,您可能会对流和窗口之间的 JOIN 感兴趣,但更多信息将在稍后公布。

综上所述

这是一份关于“使用 BigQuery 连续查询构建连续数据和 AI 管道”的会议报告。

BigQuery连续查询是一个可以非常轻松地进行实时数据处理的功能,我们期待BigQuery未来的演变。

没有提到定价,但在与 Google 员工核实后,似乎将根据处理的数据量(针对点播)或使用的插槽数量(针对版本)收取费用。我想在正式发布后再次检查一下。

现有的 Pub/Sub BigQuery 订阅和 BigQuery 连续查询的结合似乎是实时处理的黄金模式。这种组合非常强大,因为它允许仅使用 SQL 来实现实时处理。


Cloud Ace 目前已获得 Google Cloud 生成式 AI 合作伙伴认证,为企业提供生成式 AI 的实施和技术支持。

如果您也想乘上 AI 时代的快车,利用人工智能实现企业的业务转型,请联系我们!

这篇关于精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/937678

相关文章

mysql线上查询之前要性能调优的技巧及示例

《mysql线上查询之前要性能调优的技巧及示例》文章介绍了查询优化的几种方法,包括使用索引、避免不必要的列和行、有效的JOIN策略、子查询和派生表的优化、查询提示和优化器提示等,这些方法可以帮助提高数... 目录避免不必要的列和行使用有效的JOIN策略使用子查询和派生表时要小心使用查询提示和优化器提示其他常

Spring Cloud Hystrix原理与注意事项小结

《SpringCloudHystrix原理与注意事项小结》本文介绍了Hystrix的基本概念、工作原理以及其在实际开发中的应用方式,通过对Hystrix的深入学习,开发者可以在分布式系统中实现精细... 目录一、Spring Cloud Hystrix概述和设计目标(一)Spring Cloud Hystr

Spring Boot 3 整合 Spring Cloud Gateway实践过程

《SpringBoot3整合SpringCloudGateway实践过程》本文介绍了如何使用SpringCloudAlibaba2023.0.0.0版本构建一个微服务网关,包括统一路由、限... 目录引子为什么需要微服务网关实践1.统一路由2.限流防刷3.登录鉴权小结引子当前微服务架构已成为中大型系统的标

Spring Cloud LoadBalancer 负载均衡详解

《SpringCloudLoadBalancer负载均衡详解》本文介绍了如何在SpringCloud中使用SpringCloudLoadBalancer实现客户端负载均衡,并详细讲解了轮询策略和... 目录1. 在 idea 上运行多个服务2. 问题引入3. 负载均衡4. Spring Cloud Load

SQL 中多表查询的常见连接方式详解

《SQL中多表查询的常见连接方式详解》本文介绍SQL中多表查询的常见连接方式,包括内连接(INNERJOIN)、左连接(LEFTJOIN)、右连接(RIGHTJOIN)、全外连接(FULLOUTER... 目录一、连接类型图表(ASCII 形式)二、前置代码(创建示例表)三、连接方式代码示例1. 内连接(I

轻松上手MYSQL之JSON函数实现高效数据查询与操作

《轻松上手MYSQL之JSON函数实现高效数据查询与操作》:本文主要介绍轻松上手MYSQL之JSON函数实现高效数据查询与操作的相关资料,MySQL提供了多个JSON函数,用于处理和查询JSON数... 目录一、jsON_EXTRACT 提取指定数据二、JSON_UNQUOTE 取消双引号三、JSON_KE

查询SQL Server数据库服务器IP地址的多种有效方法

《查询SQLServer数据库服务器IP地址的多种有效方法》作为数据库管理员或开发人员,了解如何查询SQLServer数据库服务器的IP地址是一项重要技能,本文将介绍几种简单而有效的方法,帮助你轻松... 目录使用T-SQL查询方法1:使用系统函数方法2:使用系统视图使用SQL Server Configu

Java使用POI-TL和JFreeChart动态生成Word报告

《Java使用POI-TL和JFreeChart动态生成Word报告》本文介绍了使用POI-TL和JFreeChart生成包含动态数据和图表的Word报告的方法,并分享了实际开发中的踩坑经验,通过代码... 目录前言一、需求背景二、方案分析三、 POI-TL + JFreeChart 实现3.1 Maven

MYSQL关联关系查询方式

《MYSQL关联关系查询方式》文章详细介绍了MySQL中如何使用内连接和左外连接进行表的关联查询,并展示了如何选择列和使用别名,文章还提供了一些关于查询优化的建议,并鼓励读者参考和支持脚本之家... 目录mysql关联关系查询关联关系查询这个查询做了以下几件事MySQL自关联查询总结MYSQL关联关系查询

Java实现Elasticsearch查询当前索引全部数据的完整代码

《Java实现Elasticsearch查询当前索引全部数据的完整代码》:本文主要介绍如何在Java中实现查询Elasticsearch索引中指定条件下的全部数据,通过设置滚动查询参数(scrol... 目录需求背景通常情况Java 实现查询 Elasticsearch 全部数据写在最后需求背景通常情况下