一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!

2024-04-24 00:28

本文主要是介绍一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

公共资源速递

This Weekly Snapshots !

5 个数据集:

* 老乡鸡菜品溯源报告

* Quora 文本分类研究数据集

* dmsc_v2 电影评论数据集

* 15 个动物图像分类数据集

* TriviaQA 用于阅读理解和问答的大型数据集

3 个模型:

* Llama3-8B-instruct 

* Llama3-70B

* FuseChat-7B-VaRM 

3 个教程:

* 用 Ollama 和 Open WebUI 部署 Llama3-8B

* 用 Ollama 和 Open WebUI 部署 Llama3-70B

* SUPIR-AI 图像修复教程

访问官网立即使用:openbayes.com

公共数据集

1. 老乡鸡菜品溯源报告

该数据集覆盖老乡鸡当前 1,218 家餐厅共计 226 个 SKU 、873 种原料以及 305 家供应商。老乡鸡将 677 页共 20 万字的《老乡鸡菜品溯源报告》向社会全面公开。

直接使用:

https://go.openbayes.com/DZMtq

2. Quora Duplicate Questions 文本分类研究数据集

该数据集是判别文本中的问题对是否为重复问题的数据集,主要用于文本分类研究。数据集由超过 400,000 行潜在问题重复对组成。每行包含对中每个问题的 ID、每个问题的完整文本以及指示该行是否真正包含重复对的二进制值。

直接使用:

https://go.openbayes.com/YUwdx

3.dmsc_v2 电影评论数据集

该数据集包含超 70 万用户对 28 部电影的超 200 万条评分或评论数据。适用于推荐系统、情感/观点/评论等倾向性分析的任务。

直接使用:

https://go.openbayes.com/ZloQG

4. 15 个动物图像分类数据集

该数据集包含 15 个动物的图像文件夹,所有图像大小均为 224X224,适合图像分类。图像是从网络下载的并使用 OpenCV 库进行了预处理(调整大小和增强)。

直接使用:

https://go.openbayes.com/14eum

5.TriviaQA 用于阅读理解和问答的大型数据集

该数据集是基于文本的问答数据集,其中包括从维基百科和网络收集的 662K 文档中的 950K 问答对。

直接使用:

https://go.openbayes.com/cQsMP

公共模型

1. Llama3-8B-instruct

该模型为 Meta 发布的 Llama 3 大语言模型系列的 8B 规模参数模型,可以用于在消费级 GPU 上高效部署和开发。模型的上下文长度为 8k,预训练数据的截止日期为 2023 年 3 月。

直接使用:

https://go.openbayes.com/bV75K

2. Llama3-70B

该模型为 Meta 新一代开源大模型 Llama 3 的 70B 规模参数模型,适用于大规模 AI 原生应用程序。模型的上下文长度为 8k,预训练数据的截止日期为 2023 年 12 月。

直接使用:

https://go.openbayes.com/xd6KU

3. FuseChat-7B-VaRM

FuseAI 提出了一个扩展的 FuseLLM 框架,将多个结构和尺度不同的聊天 LLM 的集体知识和个人优势融合为一个更强大的聊天 LLM,即 FuseChat。

直接使用:

https://go.openbayes.com/Nwi5x

公共教程

1. 使用 Ollama 和 Open WebUI 部署 Llama3-8B

该教程为 Ollama + Open WebUI 一键运行包,只需按步骤输入命令即可运行 Llama3-8B。

在线运行:

https://go.openbayes.com/abGbx

2. 使用 Ollama 和 Open WebUI 部署 Llama3-70B

该教程为 Ollama + Open WebUI 一键运行包,仅需按步骤输入命令即可运行 Llama3-70B。虽然模型参数较大,但经过平台部署后单卡 A6000 就能使用,仅占用 1.07 GB 存储。

在线运行:

https://go.openbayes.com/ymPcZ

3. 在线教程|张国荣、鲁迅等老照片秒变高清!即刻上手的超火 SUPIR-AI 图像修复教程

SUPIR 是一款非常强大的开源AI图像放大工具,它可以将低分辨率的图像放大到高分辨率,同时保持图像的细节和真实感。现已上线至 OpenBayes「公共教程」,该教程为大家搭建好了环境,无需任何复杂的前期准备,点击链接即可一键修复图片

在线运行:

https://go.openbayes.com/wHqCt

以上就是小贝上周在 OpenBayes 的全部更新内容啦~

此外,OpenBayes 平台还提供超过 500 个精选公共数据集、模型、教程等优质资源,并已经整合到「公共资源」模块中。OpenBayes 平台支持一键 Input,开箱即用!

https://www.bilibili.com/video/BV1MC4y1A72S/?spm_id_from=333.999.0.0&vd_source=5e54209e1f8c68b7f1dc3df8aabf856c

这篇关于一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/930288

相关文章

关于Java内存访问重排序的研究

《关于Java内存访问重排序的研究》文章主要介绍了重排序现象及其在多线程编程中的影响,包括内存可见性问题和Java内存模型中对重排序的规则... 目录什么是重排序重排序图解重排序实验as-if-serial语义内存访问重排序与内存可见性内存访问重排序与Java内存模型重排序示意表内存屏障内存屏障示意表Int

如何测试计算机的内存是否存在问题? 判断电脑内存故障的多种方法

《如何测试计算机的内存是否存在问题?判断电脑内存故障的多种方法》内存是电脑中非常重要的组件之一,如果内存出现故障,可能会导致电脑出现各种问题,如蓝屏、死机、程序崩溃等,如何判断内存是否出现故障呢?下... 如果你的电脑是崩溃、冻结还是不稳定,那么它的内存可能有问题。要进行检查,你可以使用Windows 11

Python基于火山引擎豆包大模型搭建QQ机器人详细教程(2024年最新)

《Python基于火山引擎豆包大模型搭建QQ机器人详细教程(2024年最新)》:本文主要介绍Python基于火山引擎豆包大模型搭建QQ机器人详细的相关资料,包括开通模型、配置APIKEY鉴权和SD... 目录豆包大模型概述开通模型付费安装 SDK 环境配置 API KEY 鉴权Ark 模型接口Prompt

正则表达式高级应用与性能优化记录

《正则表达式高级应用与性能优化记录》本文介绍了正则表达式的高级应用和性能优化技巧,包括文本拆分、合并、XML/HTML解析、数据分析、以及性能优化方法,通过这些技巧,可以更高效地利用正则表达式进行复杂... 目录第6章:正则表达式的高级应用6.1 模式匹配与文本处理6.1.1 文本拆分6.1.2 文本合并6

Vue3 的 shallowRef 和 shallowReactive:优化性能

大家对 Vue3 的 ref 和 reactive 都很熟悉,那么对 shallowRef 和 shallowReactive 是否了解呢? 在编程和数据结构中,“shallow”(浅层)通常指对数据结构的最外层进行操作,而不递归地处理其内部或嵌套的数据。这种处理方式关注的是数据结构的第一层属性或元素,而忽略更深层次的嵌套内容。 1. 浅层与深层的对比 1.1 浅层(Shallow) 定义

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

性能测试介绍

性能测试是一种测试方法,旨在评估系统、应用程序或组件在现实场景中的性能表现和可靠性。它通常用于衡量系统在不同负载条件下的响应时间、吞吐量、资源利用率、稳定性和可扩展性等关键指标。 为什么要进行性能测试 通过性能测试,可以确定系统是否能够满足预期的性能要求,找出性能瓶颈和潜在的问题,并进行优化和调整。 发现性能瓶颈:性能测试可以帮助发现系统的性能瓶颈,即系统在高负载或高并发情况下可能出现的问题

NameNode内存生产配置

Hadoop2.x 系列,配置 NameNode 内存 NameNode 内存默认 2000m ,如果服务器内存 4G , NameNode 内存可以配置 3g 。在 hadoop-env.sh 文件中配置如下。 HADOOP_NAMENODE_OPTS=-Xmx3072m Hadoop3.x 系列,配置 Nam

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G