首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
cosent专题
再次理解苏神的CoSENT损失函数的pytorch代码实现(终于搞懂了)
最近学习深度学习关于自然语言处理的有关内容时,看到了苏神关于在解决文本相似任务时提出的新的计算损失的方式:CoSENT损失。原文链接:CoSENT损失计算方式及原理。然后就想看看代码是怎么实现的。刚开始看属实是有点难,但还是给弄明白了,这里记录一下,供大家参考。 先看pytorch的代码实现,如下图: 那么在这里主要给大家解释实现方式中的前三步:取出真实的标签、句子向量归一化、奇偶向量相乘(
阅读更多...