🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 | 接辅导、项目定制 🏡我的环境： 语言环境：Python3.11.4编译器：Jupyter Notebooktorcch版本：2.0.1   import torchimport torch.nn as nnclass MultiHeadAttention(nn.Module):def __init__(

目录 前言自注意力机制Self-Attention层的具体机制Self-Attention 矩阵计算 多头注意力机制例子解析 代码实现总结与心得体会 前言 多头注意力机制可以说是Transformer中最主要的模块，没有之一。这次我们来仔细分析一下注意力机制与多头注意力机制。 自注意力机制 在Transformer模型中，输入的文本序列经过输入处理转换为一个向量的序列