利用RWKV-Runner初步感受一下ai的世界

2024-03-27 21:12

本文主要是介绍利用RWKV-Runner初步感受一下ai的世界,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

最近又听到群里的高手在讨论RWKV-Runner,于是没忍住,就想试试,没想到第一关就卡住了。

从群里大咖上传的RWKV-Runner_windows_x64.exe文件开始吧,又找了个虚拟机,直接放在桌面上运行一下,结果就跳出一堆文件夹,并且还出了个提示:

The WebView2 runtime is required. Press Ok to download and install. Note: The
installer will download silently so please wait.
提示没看懂,赶紧百度翻译

大概意思是要装一个WebView2,按“确定”下载并安装。安装程序还是在后台自已 下前台没提示。

我一看,先把那些文件夹全删除了,把RWKV-Runner_windows_x64.exe弄D盘里吧。重新运行。

点击确定

这算后台静默安装么?

好像不是啊

应该是自动安装,但并不是后台静默。

这一切一闪眼就这样了

我也不懂应该怎么弄,先瞎弄一下吧。

先随便下了一个模型,然后点运行,先是提示没装py,点下载就自动下载安装了,双提示没装VC++,这个点了下载不会自动安装

还得自己手动安装

这样就显示成功了?


 

再点启动就开始跑了

但是好像我之前下的模型对不上号再下载一下吧。

然后再启动就提示读取模型了

但是我没有显卡啊。我的机器是虚拟机,没显卡

我也不知道有啥区别。我就先改成CPU

启动完成就有这个提示

 以上是用了一台winsever2022的机器出现的问题,但是在另一台win10企业版好像没有遇到要安装什么的提示,就直接能运行。

但是我当时有一个问题搞错了,就是没看显存。就是这个过程,让我后面又选错了模型。

 往下看,在这里。

我也是后来看软件的关于里的视频讲解才搞明白这一步。但是大神讲东西还是太快,这里专用和共享到底咋算,我也没搞明白。但我看大神圈点的是专用,那么,我这台机好像就是按4G算吧,但实际上,好像软件的标题栏上,有显示显存是多少啊。我的显存是4,但明显被占用了一些,我能不能选4的呢?

看大神的操作,他的显存是22,他只选了16的选项,但是16是顶头了,所以这里要选2还是四,其实我也不知道,我还是保守点选个2吧。

我这次看大神说,直接在主页上选就行。我就直接在主页上选了GPU-2G-3B-world,大神说2G是显存。3B是模型的规模,当然是越大越好。但是2G的显存选项就没有大小区别,只有了个3B,最后这个英文CN是代表已经训练了大量中文数据模型,而这个world是个啥?世界语么?搞不懂了。得了。要不选4G的?算了,还是没敢。这台设备可是挪用的,一但给弄坏了,麻烦。

直接点运行还是会告诉你Python没装,问是否下载,点就是了。

下载过程一样

不过没自动安装。再次点运行,它问了一下。点安装就是了。

安装过程就自动了

安装完之后,窗口自己就自动关了。

再点运行,py会闪一次。然后提示你模型没下载直接点下载就行了

它就自己给你选好了模型并下载了。

这个模型文件不小。5G多呢。

再点一下运行,就开始读取模型了。这个过程要运行py

还挺慢

到这样是好了?这个py界面竟然不自动关了?

我了个去,这语言。主打一个各说各的?

完了,他不会了

半天之后,不是他蒙了,我也蒙了。

杀了我吧。我就是死也不能跟他聊天啊。我还是得上个会说中国话的。直接选了这个。它就运行起来了。

这个快,不知道为啥,可能是因为我先下了那个模型的原因?

完了,还是乱码。

我这次把软件关了,重开。再运行的时候看到这样一行字。

还是不太行的样子。得,我直接换个没下载的模型吧。

试试就试试吧。4G7B的中文。直接上。试一下。能咋的?!

这个模型文件包也很大。

下载之后运行看看,读取挺慢的。

还在读的过程中,显存就吃了不少。

报错了

这咋整?

没招了,我感觉应该就是显存不足。

我最后还是设置了CPU模式。对了为了网页版访问,在配置里勾上了webUI

然后就正常了。

然后把config.json里的这个改一下。改成本机的局域网ip(注意,我之前用的是winserver那台我可没设置这一步。)

那台机默认好像是这样的,所以这里其实是改成一串0或是本机ip都可以,但是就是不可以是127.0.0.1,如果是127.0.0.1,就只能本地访问,局域网就访问不了。

内网访问或是本机ip访问都要加上端口号8000不能忘了

这篇关于利用RWKV-Runner初步感受一下ai的世界的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/853402

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

AI绘图怎么变现?想做点副业的小白必看!

在科技飞速发展的今天,AI绘图作为一种新兴技术,不仅改变了艺术创作的方式,也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式,帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具,可以扫描下方,免费获取 定制服务:个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如,姓氏头像在电商平台上非常受欢迎,

从去中心化到智能化:Web3如何与AI共同塑造数字生态

在数字时代的演进中,Web3和人工智能(AI)正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术,正相互交织,共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界,并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展,它基于去中心化的区块链技术,旨在创建一个开放、透明且用户主导的数字生态。不同于传统

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

揭秘世界上那些同时横跨两大洲的国家

我们在《世界人口过亿的一级行政区分布》盘点全球是那些人口过亿的一级行政区。 现在我们介绍五个横跨两州的国家,并整理七大洲和这些国家的KML矢量数据分析分享给大家,如果你需要这些数据,请在文末查看领取方式。 世界上横跨两大洲的国家 地球被分为七个大洲分别是亚洲、欧洲、北美洲、南美洲、非洲、大洋洲和南极洲。 七大洲示意图 其中,南极洲是无人居住的大陆,而其他六个大洲则孕育了众多国家和

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件,然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它,快速获取到想要知道的信息。https://www.chatpdf.com/

【北交大信息所AI-Max2】使用方法

BJTU信息所集群AI_MAX2使用方法 使用的前提是预约到相应的算力卡,拥有登录权限的账号密码,一般为导师组共用一个。 有浏览器、ssh工具就可以。 1.新建集群Terminal 浏览器登陆10.126.62.75 (如果是1集群把75改成66) 交互式开发 执行器选Terminal 密码随便设一个(需记住) 工作空间:私有数据、全部文件 加速器选GeForce_RTX_2080_Ti

AI Toolkit + H100 GPU,一小时内微调最新热门文生图模型 FLUX

上个月,FLUX 席卷了互联网,这并非没有原因。他们声称优于 DALLE 3、Ideogram 和 Stable Diffusion 3 等模型,而这一点已被证明是有依据的。随着越来越多的流行图像生成工具(如 Stable Diffusion Web UI Forge 和 ComyUI)开始支持这些模型,FLUX 在 Stable Diffusion 领域的扩展将会持续下去。 自 FLU