推荐系统模型的实时性

2024-06-04 12:18
文章标签 系统 推荐 模型 实时性

本文主要是介绍推荐系统模型的实时性,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

模型的实时性与模型的训练方式紧密相关,模型的实时性由弱到强的训练方式分别是全量更新,增量更新和在线学习。
1.全量更新
模型在某个时间段内所有训练样本进行训练,全量更新是最常用的训练方式
2.增量更新
增量更新仅将新加入的样本“喂”给模型进行增量训练,从技术上讲,深度学习模型往往采用随机梯度下降SGD法及其变种进行学习,缺点是增量更新的模型往往无法找到全局最优点,因此在实际的推荐系统中,经常采用增量更新与全局更新结合的方式,在进行了几轮增量更新后,在业务量较小的时间窗口进行全局更新。
3.在线学习
是进行模型实时更新的主要方法,也就是在获得一个新的样本的同时更新模型,与增量更新一样,在技术上也是使用SGD训练方式实现,但由于需要在线上环境进行模型的训练和大量模型相关参数的更新和存储,工程上的要求比较高。在线学习另一个附带问题是模型的稀疏性不强,例如一个输入特征量达到几百W维的模型中,如果模型的稀疏性好,就可以在模型效果不受影响的前提下,仅让极小一部分的特征权重非0,从而让上线的模型体积很小(摒弃掉所有权重为0的特征),在这方面,兼顾训练效果和模型稀疏性,有大量相关研究,包括微软的FOBOS,谷歌的FTRL等。
在线学习的另一个方向是将强化学习与推荐系统结合,在DRN模型中,应用竞争梯度下降算法等。
4.局部更新
进行模型的局部更新,降低训练效率低的部分的更新频率,提高训练效率高的部分的更新频率,例如Facebook的GBDT+LR模型,GBDT训练效率低,更新周期长,这样Facebook采取每天训练一次GBDT,固定GBDT模型后,实时训练LR模型。模型局部更新的做法较多应用在“Embedding+神经网络”模型中,业界往往采用Embedding层单独预训练和EMbedding层以上的模型部分高频更新的混合策略。
5.客户端模型实时更新
能否在客户端就根据当前用户的行为历史更新模型呢?在推荐系统业界仍处于探索阶段,对于一些计算机视觉的模型,可以通过模型压缩的方式生成轻量级模型,部署于客户端,但对于推荐模型这类重量级模型,需要依赖服务端强大计算资源和丰富的特征数据进行模型服务。但客户端往往可以保存和更新模型一部分的参数和特征,比如当前用户的Embedding向量。这里的逻辑和动机是,模型往往要接受用户Embedding和物品Embedding两个关键的特征向量。对于物品Embedding的更新,一般需要全局的数据,因此只能在服务端进行更新,而对于用户Embedding,更多依赖用户自身的数据,这部分放在客户端,能实时把用户最近的行为数据反应的用的Embedding。例如用户Embedding是由用户点击过的物品Embedding进行平均得到,那么最先得到用户最新点击物品信息的客户端,就可以根据用户点击物品的Embedding实时更新用户Embedding,并保存在该Embedding,在下次推荐时,将更新后的用户Embedding传给服务器,服务器端可根据最新的用户Embedding返回实时推荐内容。

参考《深度学习推荐系统》

这篇关于推荐系统模型的实时性的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1030060

相关文章

Qt QCustomPlot库简介(最新推荐)

《QtQCustomPlot库简介(最新推荐)》QCustomPlot是一款基于Qt的高性能C++绘图库,专为二维数据可视化设计,它具有轻量级、实时处理百万级数据和多图层支持等特点,适用于科学计算、... 目录核心特性概览核心组件解析1.绘图核心 (QCustomPlot类)2.数据容器 (QCPDataC

Java内存分配与JVM参数详解(推荐)

《Java内存分配与JVM参数详解(推荐)》本文详解JVM内存结构与参数调整,涵盖堆分代、元空间、GC选择及优化策略,帮助开发者提升性能、避免内存泄漏,本文给大家介绍Java内存分配与JVM参数详解,... 目录引言JVM内存结构JVM参数概述堆内存分配年轻代与老年代调整堆内存大小调整年轻代与老年代比例元空

深度解析Java DTO(最新推荐)

《深度解析JavaDTO(最新推荐)》DTO(DataTransferObject)是一种用于在不同层(如Controller层、Service层)之间传输数据的对象设计模式,其核心目的是封装数据,... 目录一、什么是DTO?DTO的核心特点:二、为什么需要DTO?(对比Entity)三、实际应用场景解析

Go语言中nil判断的注意事项(最新推荐)

《Go语言中nil判断的注意事项(最新推荐)》本文给大家介绍Go语言中nil判断的注意事项,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.接口变量的特殊行为2.nil的合法类型3.nil值的实用行为4.自定义类型与nil5.反射判断nil6.函数返回的

python 常见数学公式函数使用详解(最新推荐)

《python常见数学公式函数使用详解(最新推荐)》文章介绍了Python的数学计算工具,涵盖内置函数、math/cmath标准库及numpy/scipy/sympy第三方库,支持从基础算术到复杂数... 目录python 数学公式与函数大全1. 基本数学运算1.1 算术运算1.2 分数与小数2. 数学函数

Python Pillow 库详解文档(最新推荐)

《PythonPillow库详解文档(最新推荐)》Pillow是Python中最流行的图像处理库,它是PythonImagingLibrary(PIL)的现代分支和继承者,本文给大家介绍Pytho... 目录python Pillow 库详解文档简介安装核心模块架构Image 模块 - 核心图像处理基本导入

linux重启命令有哪些? 7个实用的Linux系统重启命令汇总

《linux重启命令有哪些?7个实用的Linux系统重启命令汇总》Linux系统提供了多种重启命令,常用的包括shutdown-r、reboot、init6等,不同命令适用于不同场景,本文将详细... 在管理和维护 linux 服务器时,完成系统更新、故障排查或日常维护后,重启系统往往是必不可少的步骤。本文

Mac系统下卸载JAVA和JDK的步骤

《Mac系统下卸载JAVA和JDK的步骤》JDK是Java语言的软件开发工具包,它提供了开发和运行Java应用程序所需的工具、库和资源,:本文主要介绍Mac系统下卸载JAVA和JDK的相关资料,需... 目录1. 卸载系统自带的 Java 版本检查当前 Java 版本通过命令卸载系统 Java2. 卸载自定

CSS Anchor Positioning重新定义锚点定位的时代来临(最新推荐)

《CSSAnchorPositioning重新定义锚点定位的时代来临(最新推荐)》CSSAnchorPositioning是一项仍在草案中的新特性,由Chrome125开始提供原生支持需... 目录 css Anchor Positioning:重新定义「锚定定位」的时代来了! 什么是 Anchor Pos

Java SWT库详解与安装指南(最新推荐)

《JavaSWT库详解与安装指南(最新推荐)》:本文主要介绍JavaSWT库详解与安装指南,在本章中,我们介绍了如何下载、安装SWTJAR包,并详述了在Eclipse以及命令行环境中配置Java... 目录1. Java SWT类库概述2. SWT与AWT和Swing的区别2.1 历史背景与设计理念2.1.