最强开源大模型再次易主,Llama3登顶王座!

2024-04-24 21:12

本文主要是介绍最强开源大模型再次易主,Llama3登顶王座!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言:

前阵子马斯克Grok-1.5的开源宝座,还没坐热乎,Meta在这两天就发布了最新一代的开源大模型Llama3,直接飙到了大模型排行榜的头部,力压Claude3 Opus,媲美GPT-4,今天就来盘点一下这个最强的开源大模型,到底强在哪儿?


先介绍一下Meta这次发布的两个版本的大模型

Llama3-8B:

  1. 参数规模:Llama-3-8B是一个具有80亿参数的语言模型
  2. 性能:根据Meta的测评报告,Llama-3-8B在某些任务上的性能超过了之前700亿参数的Llama-2-70B模型。
  3. 训练数据:Llama-3-8B在超过15万亿tokens的数据集上进行了预训练,该数据集是Llama-2的七倍多,并且包含了更多的代码数据。
  4. 多语言支持:预训练数据集中包含5%的非英语数据,支持多达30种语言,尽管主要性能以英语为主3。
  5. 优化:Llama-3-8B Instruct针对对话应用进行了优化,结合了超过1000万的人工标注数据,通过多种技术进行训练,包括监督式微调(SFT)、拒绝采样、近端策略优化(PPO)和直接策略优化(DPO)。
  6. 应用:Llama-3-8B因其较低的参数数量,可以在具有24G显存的系统上流畅运行,适合成本敏感的应用场景。

Llama-70B

  1. 参数规模:Llama-3-70B是一个更大规模的语言模型,具有700亿参数。
  2. 性能:尽管Llama-3-8B在某些任务上展现出色,但Llama-3-70B因其更大的参数规模,复杂任务和细微语言理解上会有更出色的表现。
  3. 训练:与8B版本一样,70B版本也在大规模数据集上进行了预训练,使得模型在多种任务上都具有较高的性能。
  4. 应用场景:相比于8B版本,70B版本更适合处理更复杂语言任务的场景,比如,深度语言理解、创意写作、编程等。

这两个版本都是开源的大模型,才刚发布几天,在HuggingFace上已经取得了惊人的数据

在大模型rank榜上,直接干到了头部的位置,甚至压过了Claude的超大杯(Opus)

LLama-3使用了超过15万亿(15T)tokens的公开在线数据进行预训练

数据量是Llama-2的七倍多,并且包含四倍多的代码数据

预训练数据集覆盖了超30种语言,但是非英语类的语言只有不到5%,所以对于中文用户来说可能不是很友好。

目前Llama3可以直接在Groq上直接免费使用

Groq还提供了每秒输出800个tokens的强大功能,这是什么样的概念呢。就相当于一秒钟Llama3能够直接回复我们大约500个汉字。

而GPT-4和Claude3 Opus的水平分别为:36tokens/每秒  18tokens/每秒

该说不说,GPT-4虽然好用,但是真的该提提速了,再这样下去,用户怕是要继续流失

很多网友都在社交媒体上,开源才是大模型的最优解!

1400tps,网友直呼wtf

接下来,我们就实际体验一下Llama3的水平到底咋样,

老规矩,先测一下数学计算能力

6235842的平方根是多少?
565547854121的平方是多少?

答案显而易见,两个问题都错了,原以为是语言的问题,然后换成英语又试了一遍,答案还是一样,看来在回答数学问题上,Llama似乎还差点意思?

我们在换几个问题试试

问题 1: 逻辑 

一只蜗牛在 20 英尺深的井底。每天,它爬上 3 英尺,但晚上,它滑回 2 英尺。蜗牛需要多少天才能到达井顶?

A) 10 天 B) 12 天 C) 15 天 D) 18 天

它回复我们的是19天,然而正确答案是D,有意思的是它给出了推理过程,答案竟然也还是错了

我又问了一下GPT-4,结果GPT-4也答错了,有点滑稽咱就说。

问题 2: 代数 

家面包店在某天卖出了 480 个麻薯和蛋糕。卖出的麻薯数量比蛋糕多 120 个。请告诉我,当天面包店卖出了多少个麻薯和蛋糕?

问题 3: 编程 

使用 C# 编写一个程序,生成一个长度为 8 个字符的随机密码,包括大写字母、小写字母和数字。密码至少包含一个大写字母、一个小写字母和一个数字。

Llama3和GPT-4给出的代码都比较完整,没有明显的问题。

综上,通过几个小测试,来帮助大家了解一下Llama3的大概情况,需要特别注意的是,在使用Llama3的过程中,需要每次强调用中文回复,否则它大概率回给你回复成英文的


好了,今天的测试到这里就结束咯,简单做个总结,整体来看,Llama3的响应速度的确是目前大模型中的头一档,每秒800tokens能够节省太多的时间,并且作为一个开源大模型,Llama3的可塑性更强,且对于大部分用户来说都比较友好。最重要的是,目前免费,而且不限速,不限次。相信,就这两个月以来,发布的诸多大模型,应该足够给Openai带来一点点压力了吧,希望奥特曼能尽早官宣GPT-5!快都卷起来,让我们用上最好的大模型!

这篇关于最强开源大模型再次易主,Llama3登顶王座!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/932860

相关文章

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

透彻!驯服大型语言模型(LLMs)的五种方法,及具体方法选择思路

引言 随着时间的发展,大型语言模型不再停留在演示阶段而是逐步面向生产系统的应用,随着人们期望的不断增加,目标也发生了巨大的变化。在短短的几个月的时间里,人们对大模型的认识已经从对其zero-shot能力感到惊讶,转变为考虑改进模型质量、提高模型可用性。 「大语言模型(LLMs)其实就是利用高容量的模型架构(例如Transformer)对海量的、多种多样的数据分布进行建模得到,它包含了大量的先验

图神经网络模型介绍(1)

我们将图神经网络分为基于谱域的模型和基于空域的模型,并按照发展顺序详解每个类别中的重要模型。 1.1基于谱域的图神经网络         谱域上的图卷积在图学习迈向深度学习的发展历程中起到了关键的作用。本节主要介绍三个具有代表性的谱域图神经网络:谱图卷积网络、切比雪夫网络和图卷积网络。 (1)谱图卷积网络 卷积定理:函数卷积的傅里叶变换是函数傅里叶变换的乘积,即F{f*g}

秋招最新大模型算法面试,熬夜都要肝完它

💥大家在面试大模型LLM这个板块的时候,不知道面试完会不会复盘、总结,做笔记的习惯,这份大模型算法岗面试八股笔记也帮助不少人拿到过offer ✨对于面试大模型算法工程师会有一定的帮助,都附有完整答案,熬夜也要看完,祝大家一臂之力 这份《大模型算法工程师面试题》已经上传CSDN,还有完整版的大模型 AI 学习资料,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

【生成模型系列(初级)】嵌入(Embedding)方程——自然语言处理的数学灵魂【通俗理解】

【通俗理解】嵌入(Embedding)方程——自然语言处理的数学灵魂 关键词提炼 #嵌入方程 #自然语言处理 #词向量 #机器学习 #神经网络 #向量空间模型 #Siri #Google翻译 #AlexNet 第一节:嵌入方程的类比与核心概念【尽可能通俗】 嵌入方程可以被看作是自然语言处理中的“翻译机”,它将文本中的单词或短语转换成计算机能够理解的数学形式,即向量。 正如翻译机将一种语言

金融业开源技术 术语

金融业开源技术  术语 1  范围 本文件界定了金融业开源技术的常用术语。 本文件适用于金融业中涉及开源技术的相关标准及规范性文件制定和信息沟通等活动。

安全管理体系化的智慧油站开源了。

AI视频监控平台简介 AI视频监控平台是一款功能强大且简单易用的实时算法视频监控系统。它的愿景是最底层打通各大芯片厂商相互间的壁垒,省去繁琐重复的适配流程,实现芯片、算法、应用的全流程组合,从而大大减少企业级应用约95%的开发成本。用户只需在界面上进行简单的操作,就可以实现全视频的接入及布控。摄像头管理模块用于多种终端设备、智能设备的接入及管理。平台支持包括摄像头等终端感知设备接入,为整个平台提