Code Llama: Open Foundation Models for Code论文阅读

2024-08-27 20:20

本文主要是介绍Code Llama: Open Foundation Models for Code论文阅读,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

整体介绍

Code Llama 发布了3款模型,包括基础模型、Python 专有模型和指令跟随模型,参数量分别为 7B、13B、34B 和 70B。这些模型在长达 16k tokens 的序列上训练。都是基于 Llama 2。

作者针对infilling (FIM) 、长上下文、指令专门做了微调 long-context fine-tuning (LCFT).
在这里插入图片描述

codellama细节

Code Llama 模型家族

  • 初始化: 所有 Code Llama 模型均以 Llama 2 模型权重初始化。
  • 训练数据: 训练使用了500B tokens,而70B模型使用了1T tokens。
  • 填充能力: 7B、13B和70B模型支持基于上下文的填充(infill)。

数据集

Code Llama 模型的训练数据集由公开可用的代码组成,其中8%的样本数据来自与代码相关的自然语言数据集。这些数据集包含代码讨论和代码片段,有助于模型理解自然语言。

  • 数据集: 训练数据主要来自公开可用的代码数据,以及与代码相关的自然语言数据。
  • 标记化: 使用与 Llama 2 相同的标记器进行标记化处理。

Infilling(填充)

填充是预测程序中缺失部分的任务,Code Llama 模型通过特定的训练方法来实现这一功能。训练使用了因果掩码(causal masking)技术,将训练序列的部分移动到序列末尾,并自回归地预测重排序列。

  • 分割: 训练文档在字符级别上分割为前缀、中间部分和后缀。
  • 掩码: 以一定概率应用掩码转换,只对不超过模型上下文长度的文档进行操作。

长上下文微调(Long context fine-tuning)

长上下文微调阶段是专门提出来提高模型处理长序列的能力。通过修改RoPE位置嵌入的参数,将模型的最大上下文长度从4,096 tokens扩展到100,000 tokens。

  • 序列长度: 训练时使用的序列长度为16,384 tokens。
  • RoPE调整: 调整了旋转嵌入的频率,以适应更长的序列。

指令微调(Instruction fine-tuning)

Code Llama - Instruct 模型在 Code Llama 的基础上,通过三种额外的数据进行微调,以更好地回答问题。
三种不同类型的数据:

  • 专有数据集: 使用 Llama 2 的RLHF V5 指令微调数据集。提高模型输出的安全性,增强模型对用户指令的响应能力。
  • 自指导数据集: 通过执行反馈选择数据,构建自指导数据集。使用llama2 70B生产指令问题,coda llama 7B回答问题,选择对的作为最后的数据集。
  • 复述: 防止模型在一般编码和语言理解能力上退步,使用代码数据集和自然语言数据集的一小部分进行训练。

2.6 训练细节

  • 优化器: 使用 AdamW 优化器,并采用余弦调度策略。
  • 学习率: 根据模型大小调整学习率。

能力对比

三种的能力对比:

  • Code Llama (基础模型)
    代码生成: 用于广泛的代码生成任务。
    多语言支持: 不局限于单一编程语言,能够处理多种编程语言的代码。
    参数规模: 提供7B、13B、34B和70B参数的模型。
    长上下文处理: 经过特别微调,能够处理长达100k tokens的输入上下文。
  • Code Llama - Python (Python 专有模型)
    Python 语言优化: 专为Python编程语言设计,提高在Python代码生成任务上的性能。
    参数规模: 同样提供7B、13B、34B和70B参数的模型。
    长上下文与填充: 支持长上下文处理,并且7B、13B和34B参数的模型支持代码填充。
  • Code Llama - Instruct (指令跟随模型)
    指令跟随: 经过额外的微调,以更好地遵循自然语言指令来生成代码。
    安全性与有用性: 通过在包含安全和有帮助响应的数据集上的训练,提高了模型的安全性和有用性。
    参数规模: 目前提供7B、13B和34B参数的模型。
    自生成数据: 使用自生成的单元测试和解决方案来训练模型,增强了代码生成和理解的能力。

所有这些模型都是在大量代码数据上训练的,并且都经过了优化以提高在代码生成和理解任务上的性能。Code Llama - Python 专注于Python语言的代码生成,而 Code Llama - Instruct 专注于提高对自然语言指令的遵循能力,并增强了模型的安全性。基础模型 Code Llama 提供了广泛的代码生成能力,适用于多种不同的编程语言。

其他能力

该模型还可以做代码问题解答:
在这里插入图片描述
可以生成注释
在这里插入图片描述

这篇关于Code Llama: Open Foundation Models for Code论文阅读的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1112680

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需

Debugging Lua Project created in Cocos Code IDE creates “Waiting for debugger to connect” in Win-7

转自 I Installed Cocos Code IDE and created a new Lua Project. When Debugging the Project(F11) the game window pops up and gives me the message waiting for debugger to connect and then freezes. Also a