精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告

本文主要是介绍精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本篇由 Cloud Ace 数据解决方案部高级工程师撰写。

我听说了拉斯维加斯 Google Cloud Next'24 举办的“使用 BigQuery 连续查询构建连续数据和 AI 管道”(“Build continuous data and AI pipelines with BigQuery continuous queries”)会议,我想对此进行报道。

本次会议更详细地介绍了 Google Cloud Next'24 上宣布的 BigQuery 连续查询。我通常使用 BigQuery、Vertex AI 和 Dataflow,因此本次会议是我真正感兴趣的会议。

现在我们来检查一下内容。

可以使用 BigQuery 进行流处理吗?

能够实时处理数据具有巨大的好处。例如,欺诈检测和异常检测通常需要实时数据处理。

此外,您做出的决策越快、越准确,为您的企业带来的好处就越大

为此,需要能够对内容进行实时处理和判断,同时与前后数据进行比较BigQuery 连续查询的推出就是为了满足这一需求。

此功能允许您连续查询流入 BigQuery 的数据。

什么是 BigQuery 连续查询?

同样,它是连续查询流插入数据的能力。

您可以使用基本的 SQL 语法进行查询,当然也可以调用 Generative AI 和 Vertex AI 等机器学习模型。对于实时数据丰富、数据生成和异常检测非常有用。

查询结果可以发送到Pub/Sub或写入BigQuery、Bigtable等。

具体用途和用例

传统上,执行实时处理(例如使用Dataflow实时处理或定期执行计划查询)的障碍很高,并且学习成本也非常高。

BigQuery连续查询不需要您编写任何特殊查询,从而非常容易实现实时处理。要导出数据,除了常规查询之外,只需编写EXPORT DATA语句即可。

这里(我认为是新的)简单介绍了Pub/Sub的EXPORT DATA语句。

要作为连续查询运行,只需选中查询设置中的连续查询复选框即可。这很简单

在会场的演示中,连续查询将数据插入到持续运行一个多小时的BigQuery表中,并确认查询处理后的数据已写入Bigtable。

在此用例中,我们收集在线购物时的用户趋势,使用连续查询实时分析它们,并将结果发送到 Pub/Sub。

发送 Pub/Sub 后,您可以使用其他服务(例如 Cloud Functinos)向用户实时发送电子邮件或分发优惠券。

当然,JOIN操作也是可以的。一侧指定要插入流中的表,您可以与另一个表 JOIN。

对于习惯了流的用户,您可能会对流和窗口之间的 JOIN 感兴趣,但更多信息将在稍后公布。

综上所述

这是一份关于“使用 BigQuery 连续查询构建连续数据和 AI 管道”的会议报告。

BigQuery连续查询是一个可以非常轻松地进行实时数据处理的功能,我们期待BigQuery未来的演变。

没有提到定价,但在与 Google 员工核实后,似乎将根据处理的数据量(针对点播)或使用的插槽数量(针对版本)收取费用。我想在正式发布后再次检查一下。

现有的 Pub/Sub BigQuery 订阅和 BigQuery 连续查询的结合似乎是实时处理的黄金模式。这种组合非常强大,因为它允许仅使用 SQL 来实现实时处理。


Cloud Ace 目前已获得 Google Cloud 生成式 AI 合作伙伴认证,为企业提供生成式 AI 的实施和技术支持。

如果您也想乘上 AI 时代的快车,利用人工智能实现企业的业务转型,请联系我们!

这篇关于精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/937678

相关文章

【专题】2024飞行汽车技术全景报告合集PDF分享(附原数据表)

原文链接: https://tecdat.cn/?p=37628 6月16日,小鹏汇天旅航者X2在北京大兴国际机场临空经济区完成首飞,这也是小鹏汇天的产品在京津冀地区进行的首次飞行。小鹏汇天方面还表示,公司准备量产,并计划今年四季度开启预售小鹏汇天分体式飞行汽车,探索分体式飞行汽车城际通勤。阅读原文,获取专题报告合集全文,解锁文末271份飞行汽车相关行业研究报告。 据悉,业内人士对飞行汽车行业

poj2406(连续重复子串)

题意:判断串s是不是str^n,求str的最大长度。 解题思路:kmp可解,后缀数组的倍增算法超时。next[i]表示在第i位匹配失败后,自动跳转到next[i],所以1到next[n]这个串 等于 n-next[n]+1到n这个串。 代码如下; #include<iostream>#include<algorithm>#include<stdio.h>#include<math.

活用c4d官方开发文档查询代码

当你问AI助手比如豆包,如何用python禁止掉xpresso标签时候,它会提示到 这时候要用到两个东西。https://developers.maxon.net/论坛搜索和开发文档 比如这里我就在官方找到正确的id描述 然后我就把参数标签换过来

高效录音转文字:2024年四大工具精选!

在快节奏的工作生活中,能够快速将录音转换成文字是一项非常实用的能力。特别是在需要记录会议纪要、讲座内容或者是采访素材的时候,一款优秀的在线录音转文字工具能派上大用场。以下推荐几个好用的录音转文字工具! 365在线转文字 直达链接:https://www.pdf365.cn/ 365在线转文字是一款提供在线录音转文字服务的工具,它以其高效、便捷的特点受到用户的青睐。用户无需下载安装任何软件,只

XTU 1233 n个硬币连续m个正面个数(dp)

题面: Coins Problem Description: Duoxida buys a bottle of MaiDong from a vending machine and the machine give her n coins back. She places them in a line randomly showing head face or tail face o

计算机毕业设计 大学志愿填报系统 Java+SpringBoot+Vue 前后端分离 文档报告 代码讲解 安装调试

🍊作者:计算机编程-吉哥 🍊简介:专业从事JavaWeb程序开发,微信小程序开发,定制化项目、 源码、代码讲解、文档撰写、ppt制作。做自己喜欢的事,生活就是快乐的。 🍊心愿:点赞 👍 收藏 ⭐评论 📝 🍅 文末获取源码联系 👇🏻 精彩专栏推荐订阅 👇🏻 不然下次找不到哟~Java毕业设计项目~热门选题推荐《1000套》 目录 1.技术选型 2.开发工具 3.功能

ural 1026. Questions and Answers 查询

1026. Questions and Answers Time limit: 2.0 second Memory limit: 64 MB Background The database of the Pentagon contains a top-secret information. We don’t know what the information is — you

Mybatis中的like查询

<if test="templateName != null and templateName != ''">AND template_name LIKE CONCAT('%',#{templateName,jdbcType=VARCHAR},'%')</if>

消除安卓SDK更新时的“https://dl-ssl.google.com refused”异常的方法

消除安卓SDK更新时的“https://dl-ssl.google.com refused”异常的方法   消除安卓SDK更新时的“https://dl-ssl.google.com refused”异常的方法 [转载]原地址:http://blog.csdn.net/x605940745/article/details/17911115 消除SDK更新时的“

Python:豆瓣电影商业数据分析-爬取全数据【附带爬虫豆瓣,数据处理过程,数据分析,可视化,以及完整PPT报告】

**爬取豆瓣电影信息,分析近年电影行业的发展情况** 本文是完整的数据分析展现,代码有完整版,包含豆瓣电影爬取的具体方式【附带爬虫豆瓣,数据处理过程,数据分析,可视化,以及完整PPT报告】   最近MBA在学习《商业数据分析》,大实训作业给了数据要进行数据分析,所以先拿豆瓣电影练练手,网络上爬取豆瓣电影TOP250较多,但对于豆瓣电影全数据的爬取教程很少,所以我自己做一版。 目