monarch专题

Monarch: 谷歌的全球级内存时序数据库

点击上方“朱小厮的博客”,选择“设为星标” 后台回复"书",获取 本文为Google监控团队发表在VLDB的论文,翻译为蚂蚁监控团队计算组。 摘要 Monarch 是谷歌的一个全球分布式内存时序数据库。它是一个多租户的服务,通常用于监控谷歌内部那些服务于数十亿用户的系统的可用性,正确性,性能,负载以及其他各方面。每秒钟,Monarch采集了TB级别的时序数据到内存,并且支撑了数百万的查询。M

Monarch Mixer:介绍一种性能比Transformer更强的网络架构

六年前,谷歌团队在arXiv上发表了革命性的论文《Attention is all you need》。作为一种优势的机器学习网络架构,Transformer技术迅速席卷全球。Transformer一直是现代基础模型背后的主力架构,并且在不同的应用程序中取得了令人印象深刻的成功:包括像BERT、ChatGPT和Flan-T5这样的预训练语言模型,到像SAM和stable diffusion这样的图

Monarch Mixer:一种性能比Transformer更强的网络架构

六年前,谷歌团队在arXiv上发表了革命性的论文《Attention is all you need》。作为一种优势的机器学习网络架构,Transformer技术迅速席卷全球。Transformer一直是现代基础模型背后的主力架构,并且在不同的应用程序中取得了令人印象深刻的成功:包括像BERT、ChatGPT和Flan-T5这样的预训练语言模型,到像SAM和stable diffusion这样的图