文章目录 一、完整代码二、论文解读2.1 注意力机制2.2 绝对位置编码2.3 相对位置编码2.4 旋转位置编码Long-term decayAdaption for linear attention 2.5 模型效果 三、过程实现四、整体总结 论文：ROFORMER: ENHANCED TRANSFORMER WITH ROTARY POSITION EMBEDDING 作者