最强开源大模型再次易主,Llama3登顶王座!

2024-04-24 21:12

本文主要是介绍最强开源大模型再次易主,Llama3登顶王座!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言:

前阵子马斯克Grok-1.5的开源宝座,还没坐热乎,Meta在这两天就发布了最新一代的开源大模型Llama3,直接飙到了大模型排行榜的头部,力压Claude3 Opus,媲美GPT-4,今天就来盘点一下这个最强的开源大模型,到底强在哪儿?


先介绍一下Meta这次发布的两个版本的大模型

Llama3-8B:

  1. 参数规模:Llama-3-8B是一个具有80亿参数的语言模型
  2. 性能:根据Meta的测评报告,Llama-3-8B在某些任务上的性能超过了之前700亿参数的Llama-2-70B模型。
  3. 训练数据:Llama-3-8B在超过15万亿tokens的数据集上进行了预训练,该数据集是Llama-2的七倍多,并且包含了更多的代码数据。
  4. 多语言支持:预训练数据集中包含5%的非英语数据,支持多达30种语言,尽管主要性能以英语为主3。
  5. 优化:Llama-3-8B Instruct针对对话应用进行了优化,结合了超过1000万的人工标注数据,通过多种技术进行训练,包括监督式微调(SFT)、拒绝采样、近端策略优化(PPO)和直接策略优化(DPO)。
  6. 应用:Llama-3-8B因其较低的参数数量,可以在具有24G显存的系统上流畅运行,适合成本敏感的应用场景。

Llama-70B

  1. 参数规模:Llama-3-70B是一个更大规模的语言模型,具有700亿参数。
  2. 性能:尽管Llama-3-8B在某些任务上展现出色,但Llama-3-70B因其更大的参数规模,复杂任务和细微语言理解上会有更出色的表现。
  3. 训练:与8B版本一样,70B版本也在大规模数据集上进行了预训练,使得模型在多种任务上都具有较高的性能。
  4. 应用场景:相比于8B版本,70B版本更适合处理更复杂语言任务的场景,比如,深度语言理解、创意写作、编程等。

这两个版本都是开源的大模型,才刚发布几天,在HuggingFace上已经取得了惊人的数据

在大模型rank榜上,直接干到了头部的位置,甚至压过了Claude的超大杯(Opus)

LLama-3使用了超过15万亿(15T)tokens的公开在线数据进行预训练

数据量是Llama-2的七倍多,并且包含四倍多的代码数据

预训练数据集覆盖了超30种语言,但是非英语类的语言只有不到5%,所以对于中文用户来说可能不是很友好。

目前Llama3可以直接在Groq上直接免费使用

Groq还提供了每秒输出800个tokens的强大功能,这是什么样的概念呢。就相当于一秒钟Llama3能够直接回复我们大约500个汉字。

而GPT-4和Claude3 Opus的水平分别为:36tokens/每秒  18tokens/每秒

该说不说,GPT-4虽然好用,但是真的该提提速了,再这样下去,用户怕是要继续流失

很多网友都在社交媒体上,开源才是大模型的最优解!

1400tps,网友直呼wtf

接下来,我们就实际体验一下Llama3的水平到底咋样,

老规矩,先测一下数学计算能力

6235842的平方根是多少?
565547854121的平方是多少?

答案显而易见,两个问题都错了,原以为是语言的问题,然后换成英语又试了一遍,答案还是一样,看来在回答数学问题上,Llama似乎还差点意思?

我们在换几个问题试试

问题 1: 逻辑 

一只蜗牛在 20 英尺深的井底。每天,它爬上 3 英尺,但晚上,它滑回 2 英尺。蜗牛需要多少天才能到达井顶?

A) 10 天 B) 12 天 C) 15 天 D) 18 天

它回复我们的是19天,然而正确答案是D,有意思的是它给出了推理过程,答案竟然也还是错了

我又问了一下GPT-4,结果GPT-4也答错了,有点滑稽咱就说。

问题 2: 代数 

家面包店在某天卖出了 480 个麻薯和蛋糕。卖出的麻薯数量比蛋糕多 120 个。请告诉我,当天面包店卖出了多少个麻薯和蛋糕?

问题 3: 编程 

使用 C# 编写一个程序,生成一个长度为 8 个字符的随机密码,包括大写字母、小写字母和数字。密码至少包含一个大写字母、一个小写字母和一个数字。

Llama3和GPT-4给出的代码都比较完整,没有明显的问题。

综上,通过几个小测试,来帮助大家了解一下Llama3的大概情况,需要特别注意的是,在使用Llama3的过程中,需要每次强调用中文回复,否则它大概率回给你回复成英文的


好了,今天的测试到这里就结束咯,简单做个总结,整体来看,Llama3的响应速度的确是目前大模型中的头一档,每秒800tokens能够节省太多的时间,并且作为一个开源大模型,Llama3的可塑性更强,且对于大部分用户来说都比较友好。最重要的是,目前免费,而且不限速,不限次。相信,就这两个月以来,发布的诸多大模型,应该足够给Openai带来一点点压力了吧,希望奥特曼能尽早官宣GPT-5!快都卷起来,让我们用上最好的大模型!

这篇关于最强开源大模型再次易主,Llama3登顶王座!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/932860

相关文章

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容:标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO(blocking I/O)NI

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

无需邀请码!Manus复刻开源版OpenManus下载安装与体验

《无需邀请码!Manus复刻开源版OpenManus下载安装与体验》Manus的完美复刻开源版OpenManus安装与体验,无需邀请码,手把手教你如何在本地安装与配置Manus的开源版OpenManu... Manus是什么?Manus 是 Monica 团队推出的全球首款通用型 AI Agent。Man

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

CSS3 最强二维布局系统之Grid 网格布局

《CSS3最强二维布局系统之Grid网格布局》CS3的Grid网格布局是目前最强的二维布局系统,可以同时对列和行进行处理,将网页划分成一个个网格,可以任意组合不同的网格,做出各种各样的布局,本文介... 深入学习 css3 目前最强大的布局系统 Grid 网格布局Grid 网格布局的基本认识Grid 网

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

如何在本地部署 DeepSeek Janus Pro 文生图大模型

《如何在本地部署DeepSeekJanusPro文生图大模型》DeepSeekJanusPro模型在本地成功部署,支持图片理解和文生图功能,通过Gradio界面进行交互,展示了其强大的多模态处... 目录什么是 Janus Pro1. 安装 conda2. 创建 python 虚拟环境3. 克隆 janus