AFM,NFM

2024-09-06 05:58
文章标签 nfm afm

本文主要是介绍AFM,NFM,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

推荐系统中使用ctr排序的f(x)的设计-dnn篇之AFM模型

推荐系统中使用ctr排序的f(x)的设计-dnn篇之AFM模型

 图中的前三部分:sparse iput,embedding layer,pair-wise interaction layer,都和FM是一样的。而后面的两部分,则是AFM的创新所在。从比较宏观的角度理解,AFM就是通过一个attention net生成一个关于特征交叉项的权重,然后将FM原来的二次项直接累加,变成加权累加。

从宏观来看,AFM只是在FM的基础上添加了attention的机制,但是实际上,由于最后的加权累加,二次项并没有进行更深的网络去学习非线性交叉特征,所以它的上限和FFM很接近,没有完全发挥出dnn的优势。

 推荐系统中使用ctr排序的f(x)的设计-dnn篇之NFM模型

Bi是Bi-linear的缩写,这一层其实是一个pooling层操作,它把很多个向量转换成一个向量,形式化如下:

![](https://img2018.cnblogs.com/blog/1630213/201907/1630213-20190730092405630-1054840434.png)

fbi的输入是整个的嵌入向量,xi ,xj是特征取值,vi, vj是特征对应的嵌入向量。中间的操作表示对应位置相乘。所以原始的嵌入向量任意两个都进行组合,对应位置相乘结果得到一个新向量;然后把这些新向量相加,就得到了Bi-Interaction的输出。这个输出只有一个向量。

​​​​​​​

这篇关于AFM,NFM的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141193

相关文章

Apple LLM: 智能基础语言模型(AFM)

今天想和大家分享一下我最近在arXiv.org上看到苹果发表的一篇技术论文 Apple Intelligence Foundation Language Models (https://arxiv.org/abs/2407.21075),概述了他们的模型训练。这虽然出乎意料,但绝对是一个积极的惊喜! 这篇论文有那么多作者参与,就知道这模型不简单。研究团队在这篇论文里给我们展示了两个超厉害

FNN、DeepFM与NFM

AI上推荐 之 FNN、DeepFM与NFM(FM在深度学习中的身影重现)_ai上推荐fm-CSDN博客

推荐算法实战项目:AFM 原理以及案例实战(附完整 Python 代码)

本文要介绍的是由浙江大学联合新加坡国立大学提出的AFM模型。通过名字也可以看出,此模型又是基于FM模型的改进,其中A代表”Attention“,即AFM模型实际上是在FM模型中引入了注意力机制改进得来的。 之所以要在FM模型中引入注意力机制,是因为传统的FM模型对所有的交叉特征都平等对待,即每个交叉特征的权重都是相同的(都为1)。而在实际应用中,不同交叉特征的重要程度往往是不一样的。 如果”一

还不知道AFM的应用?三个案例告诉你!-科学指南针

纳米世界的上帝之手--AFM AFM测试全称Atomic Force Microscope,即原子力显微镜,它是继扫描隧道显微镜(Scanning Tunneling Microscope, STM)之后发明的一种具有原子级高分辨的新型仪器,可以在大气和液体环境下对各种材料和样品进行纳米区域的物理性质包括形貌进行探测,之所以称AFM为纳米世界的上帝之手是因为其可直接进行纳米操纵;该技术现已广泛应

深度模型笔记04 NFM模型与应用

深度模型笔记04 NFM模型与应用 具体NFM模型学习资料来源请参考datawhale 1.NFM模型 一句话来描述NFM,NFM模型是在FM的模型基础上引进特征交叉池化层,使FM和DNN完美衔接的模型,既具有FM的低阶特征交互能力,又具有DNN学习高阶特征交互和非线性的能力。 模型大致结构如下图所示: 各层作用如下: input和embedding层:输入层,稀疏输入转稠密向量B