本文主要是介绍LLM的测试工具:LaVague平替成国内大模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
LLM的测试工具:LaVague平替成国内大模型
laVague 是将自然语言转化成浏览器交互的操作,完成自动化测试的大模型的agent。
LaVague介绍
LaVague 通过LLM将自然语言转换Selenium的代码引擎,用户或其他人工智能轻松实现自动化。
LaVague通过Llama Index实现了自然语言到python的selenium代码的编写能力,例子中提供了在线调用huggingface的LLM以及本地LLM两种方式,在线调用huggingface的Nous-Hermes-2-Mixtral-8x7B-DPO模型和BAAI/bge-small-en-v1.5的embedding模型实现了上面代码生成,但是要试用huggingface的api必须是pro付费会员,而且访问起来也不方便。
本地大模型的方式需要将模型现在到本地,并且在本地的显里面,那么开发笔记本就需要一个顶级配置的显卡,笔者也没办法解决。
想要尝鲜,怎么办?
智谱免费大模型平替huggingface的付费模型
智谱提供了embedding模型,并且免费账号提供100万个token,实名制再送400万。笔者仔细一算,还是够用的,因此就开始走上了智普大模型完成LaVague的大模型部分的替换工作。(注册步骤省略)
LaVague是基于llama index完成的开发,那么并且提供了CustomLLM类方便自己扩充,因此我们基于这个构建一个调取智谱大模型的ChatGLM类
class ChatGLM(C
这篇关于LLM的测试工具:LaVague平替成国内大模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!