一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!

2024-04-24 00:28

本文主要是介绍一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

公共资源速递

This Weekly Snapshots !

5 个数据集:

* 老乡鸡菜品溯源报告

* Quora 文本分类研究数据集

* dmsc_v2 电影评论数据集

* 15 个动物图像分类数据集

* TriviaQA 用于阅读理解和问答的大型数据集

3 个模型:

* Llama3-8B-instruct 

* Llama3-70B

* FuseChat-7B-VaRM 

3 个教程:

* 用 Ollama 和 Open WebUI 部署 Llama3-8B

* 用 Ollama 和 Open WebUI 部署 Llama3-70B

* SUPIR-AI 图像修复教程

访问官网立即使用:openbayes.com

公共数据集

1. 老乡鸡菜品溯源报告

该数据集覆盖老乡鸡当前 1,218 家餐厅共计 226 个 SKU 、873 种原料以及 305 家供应商。老乡鸡将 677 页共 20 万字的《老乡鸡菜品溯源报告》向社会全面公开。

直接使用:

https://go.openbayes.com/DZMtq

2. Quora Duplicate Questions 文本分类研究数据集

该数据集是判别文本中的问题对是否为重复问题的数据集,主要用于文本分类研究。数据集由超过 400,000 行潜在问题重复对组成。每行包含对中每个问题的 ID、每个问题的完整文本以及指示该行是否真正包含重复对的二进制值。

直接使用:

https://go.openbayes.com/YUwdx

3.dmsc_v2 电影评论数据集

该数据集包含超 70 万用户对 28 部电影的超 200 万条评分或评论数据。适用于推荐系统、情感/观点/评论等倾向性分析的任务。

直接使用:

https://go.openbayes.com/ZloQG

4. 15 个动物图像分类数据集

该数据集包含 15 个动物的图像文件夹,所有图像大小均为 224X224,适合图像分类。图像是从网络下载的并使用 OpenCV 库进行了预处理(调整大小和增强)。

直接使用:

https://go.openbayes.com/14eum

5.TriviaQA 用于阅读理解和问答的大型数据集

该数据集是基于文本的问答数据集,其中包括从维基百科和网络收集的 662K 文档中的 950K 问答对。

直接使用:

https://go.openbayes.com/cQsMP

公共模型

1. Llama3-8B-instruct

该模型为 Meta 发布的 Llama 3 大语言模型系列的 8B 规模参数模型,可以用于在消费级 GPU 上高效部署和开发。模型的上下文长度为 8k,预训练数据的截止日期为 2023 年 3 月。

直接使用:

https://go.openbayes.com/bV75K

2. Llama3-70B

该模型为 Meta 新一代开源大模型 Llama 3 的 70B 规模参数模型,适用于大规模 AI 原生应用程序。模型的上下文长度为 8k,预训练数据的截止日期为 2023 年 12 月。

直接使用:

https://go.openbayes.com/xd6KU

3. FuseChat-7B-VaRM

FuseAI 提出了一个扩展的 FuseLLM 框架,将多个结构和尺度不同的聊天 LLM 的集体知识和个人优势融合为一个更强大的聊天 LLM,即 FuseChat。

直接使用:

https://go.openbayes.com/Nwi5x

公共教程

1. 使用 Ollama 和 Open WebUI 部署 Llama3-8B

该教程为 Ollama + Open WebUI 一键运行包,只需按步骤输入命令即可运行 Llama3-8B。

在线运行:

https://go.openbayes.com/abGbx

2. 使用 Ollama 和 Open WebUI 部署 Llama3-70B

该教程为 Ollama + Open WebUI 一键运行包,仅需按步骤输入命令即可运行 Llama3-70B。虽然模型参数较大,但经过平台部署后单卡 A6000 就能使用,仅占用 1.07 GB 存储。

在线运行:

https://go.openbayes.com/ymPcZ

3. 在线教程|张国荣、鲁迅等老照片秒变高清!即刻上手的超火 SUPIR-AI 图像修复教程

SUPIR 是一款非常强大的开源AI图像放大工具,它可以将低分辨率的图像放大到高分辨率,同时保持图像的细节和真实感。现已上线至 OpenBayes「公共教程」,该教程为大家搭建好了环境,无需任何复杂的前期准备,点击链接即可一键修复图片

在线运行:

https://go.openbayes.com/wHqCt

以上就是小贝上周在 OpenBayes 的全部更新内容啦~

此外,OpenBayes 平台还提供超过 500 个精选公共数据集、模型、教程等优质资源,并已经整合到「公共资源」模块中。OpenBayes 平台支持一键 Input,开箱即用!

https://www.bilibili.com/video/BV1MC4y1A72S/?spm_id_from=333.999.0.0&vd_source=5e54209e1f8c68b7f1dc3df8aabf856c

这篇关于一周速览|极速体验 Llama3!70B 模型仅占 1.07 GB 内存、性能炸裂!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/930288

相关文章

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

Redis中高并发读写性能的深度解析与优化

《Redis中高并发读写性能的深度解析与优化》Redis作为一款高性能的内存数据库,广泛应用于缓存、消息队列、实时统计等场景,本文将深入探讨Redis的读写并发能力,感兴趣的小伙伴可以了解下... 目录引言一、Redis 并发能力概述1.1 Redis 的读写性能1.2 影响 Redis 并发能力的因素二、

Golang中拼接字符串的6种方式性能对比

《Golang中拼接字符串的6种方式性能对比》golang的string类型是不可修改的,对于拼接字符串来说,本质上还是创建一个新的对象将数据放进去,主要有6种拼接方式,下面小编就来为大家详细讲讲吧... 目录拼接方式介绍性能对比测试代码测试结果源码分析golang的string类型是不可修改的,对于拼接字

无需邀请码!Manus复刻开源版OpenManus下载安装与体验

《无需邀请码!Manus复刻开源版OpenManus下载安装与体验》Manus的完美复刻开源版OpenManus安装与体验,无需邀请码,手把手教你如何在本地安装与配置Manus的开源版OpenManu... Manus是什么?Manus 是 Monica 团队推出的全球首款通用型 AI Agent。Man

Redis 内存淘汰策略深度解析(最新推荐)

《Redis内存淘汰策略深度解析(最新推荐)》本文详细探讨了Redis的内存淘汰策略、实现原理、适用场景及最佳实践,介绍了八种内存淘汰策略,包括noeviction、LRU、LFU、TTL、Rand... 目录一、 内存淘汰策略概述二、内存淘汰策略详解2.1 ​noeviction(不淘汰)​2.2 ​LR

Golang基于内存的键值存储缓存库go-cache

《Golang基于内存的键值存储缓存库go-cache》go-cache是一个内存中的key:valuestore/cache库,适用于单机应用程序,本文主要介绍了Golang基于内存的键值存储缓存库... 目录文档安装方法示例1示例2使用注意点优点缺点go-cache 和 Redis 缓存对比1)功能特性

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo

mysql线上查询之前要性能调优的技巧及示例

《mysql线上查询之前要性能调优的技巧及示例》文章介绍了查询优化的几种方法,包括使用索引、避免不必要的列和行、有效的JOIN策略、子查询和派生表的优化、查询提示和优化器提示等,这些方法可以帮助提高数... 目录避免不必要的列和行使用有效的JOIN策略使用子查询和派生表时要小心使用查询提示和优化器提示其他常

Go使用pprof进行CPU,内存和阻塞情况分析

《Go使用pprof进行CPU,内存和阻塞情况分析》Go语言提供了强大的pprof工具,用于分析CPU、内存、Goroutine阻塞等性能问题,帮助开发者优化程序,提高运行效率,下面我们就来深入了解下... 目录1. pprof 介绍2. 快速上手:启用 pprof3. CPU Profiling:分析 C

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot