codebert专题

【论文阅读】CodeBERT: A Pre-Trained Model for Programming and Natural Languages

目录一、简介二、方法1. 输入输出表示2. 预训练数据3. 预训练MLMRTD 4. 微调natural language code searchcode-to-text generation 三、实验1. Natural Language Code Search2. NL-PL Probing3. Code Documentation Generation4. 泛化实验

微调codebert、unixcoder、grapghcodebert完成漏洞检测代码

文件结构如下所示： mode.py # Copyright (c) Microsoft Corporation.# Licensed under the MIT License.import torchimport torch.nn as nnimport torchfrom torch.autograd import Variableimport copyfrom

【论文阅读】CodeBERT: A Pre-Trained Model for Programming and Natural Languages

目录一、简介二、方法1. 输入输出表示2. 预训练数据3. 预训练MLMRTD 4. 微调natural language code searchcode-to-text generation 三、实验1. Natural Language Code Search2. NL-PL Probing3. Code Documentation Generation4. 泛化实验