推荐系统中使用ctr排序的f(x)的设计-dnn篇之AFM模型  图中的前三部分：sparse iput，embedding layer，pair-wise interaction layer，都和FM是一样的。而后面的两部分，则是AFM的创新所在。从比较宏观的角度理解，AFM就是通过一个attention net生成一个关于特征交叉项的权重，然后将FM原来的二次项直接累加，变成加权累加。

今天想和大家分享一下我最近在arXiv.org上看到苹果发表的一篇技术论文 Apple Intelligence Foundation Language Models (https://arxiv.org/abs/2407.21075)，概述了他们的模型训练。这虽然出乎意料，但绝对是一个积极的惊喜！ 这篇论文有那么多作者参与，就知道这模型不简单。研究团队在这篇论文里给我们展示了两个超厉害

本文要介绍的是由浙江大学联合新加坡国立大学提出的AFM模型。通过名字也可以看出，此模型又是基于FM模型的改进，其中A代表”Attention“，即AFM模型实际上是在FM模型中引入了注意力机制改进得来的。 之所以要在FM模型中引入注意力机制，是因为传统的FM模型对所有的交叉特征都平等对待，即每个交叉特征的权重都是相同的（都为1）。而在实际应用中，不同交叉特征的重要程度往往是不一样的。 如果”一

纳米世界的上帝之手--AFM AFM测试全称Atomic Force Microscope，即原子力显微镜，它是继扫描隧道显微镜（Scanning Tunneling Microscope， STM）之后发明的一种具有原子级高分辨的新型仪器，可以在大气和液体环境下对各种材料和样品进行纳米区域的物理性质包括形貌进行探测，之所以称AFM为纳米世界的上帝之手是因为其可直接进行纳米操纵；该技术现已广泛应