CBLUEbenchmark代码跑通

2024-03-27 05:12

本文主要是介绍CBLUEbenchmark代码跑通,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

CBLUEbenchmark 跑通

github源地址
1.配置

  • 数据下载
    新建文件夹CLBUEDatasets,将数据放在该文件夹下
  • 模型下载到github源地址中选择一个模型来下载:
    在这里插入图片描述
    将下载好的模型放在一个专门放模型的文件夹下,我这里是bert
    文件如下所示放置:
    在这里插入图片描述
    2.训练模型(以CMeEE任务为例):
    首先更改examples\run_ee.sh文件
#!/usr/bin/env bashDATA_DIR="../CBLUEDatasets"TASK_NAME="ee"
MODEL_TYPE="bert"
MODEL_DIR="../bert/"#这里是模型存放路径
MODEL_NAME="chinese_wwm_ext_pytorch"#需要使用的模型
OUTPUT_DIR="../data/output"#输出结果地址
RESULT_OUTPUT_DIR="../data/result_output"MAX_LENGTH=128echo "Start running"if [ $# == 0 ]; thenpython ../baselines/run_classifier.py \#这里记得baselines前面加上../--data_dir=${DATA_DIR} \--model_type=${MODEL_TYPE} \--model_dir=${MODEL_DIR} \--model_name=${MODEL_NAME} \--task_name=${TASK_NAME} \--output_dir=${OUTPUT_DIR} \--result_output_dir=${RESULT_OUTPUT_DIR} \--do_train \--max_length=${MAX_LENGTH} \--train_batch_size=16 \--eval_batch_size=16 \--learning_rate=3e-5 \--epochs=5 \--warmup_proportion=0.1 \--earlystop_patience=100 \--max_grad_norm=0.0 \--logging_steps=200 \--save_steps=200 \--seed=2021
elif [ $1 == "predict" ]; thenpython ../baselines/run_classifier.py \#这里也记得加上--data_dir=${DATA_DIR} \--model_type=${MODEL_TYPE} \--model_name=${MODEL_NAME} \--model_dir=${MODEL_DIR} \--task_name=${TASK_NAME} \--output_dir=${OUTPUT_DIR} \--result_output_dir=${RESULT_OUTPUT_DIR} \--do_predict \--max_length=${MAX_LENGTH} \--eval_batch_size=32 \--seed=2021
fi

然后直接执行bash run_ee.sh 对模型进行训练
中间保存的一些数据放在data/output下,运行结束后会有:
在这里插入图片描述

3.预测模型
执行

bash run_ee.sh predict

预测结果会放在data/result_output下:
在这里插入图片描述

4.检查格式是否正确
将原任务的test.json重命名为test_raw.json和测试结果放在format_checker文件夹下:
在这里插入图片描述
然后执行

python format_checker_CMeEE.py CMeEE_test_raw.json CMeEE_test.json

格式正确会:
在这里插入图片描述

这篇关于CBLUEbenchmark代码跑通的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/851039

相关文章

SpringBoot基于MyBatis-Plus实现Lambda Query查询的示例代码

《SpringBoot基于MyBatis-Plus实现LambdaQuery查询的示例代码》MyBatis-Plus是MyBatis的增强工具,简化了数据库操作,并提高了开发效率,它提供了多种查询方... 目录引言基础环境配置依赖配置(Maven)application.yml 配置表结构设计demo_st

SpringCloud集成AlloyDB的示例代码

《SpringCloud集成AlloyDB的示例代码》AlloyDB是GoogleCloud提供的一种高度可扩展、强性能的关系型数据库服务,它兼容PostgreSQL,并提供了更快的查询性能... 目录1.AlloyDBjavascript是什么?AlloyDB 的工作原理2.搭建测试环境3.代码工程1.

Java调用Python代码的几种方法小结

《Java调用Python代码的几种方法小结》Python语言有丰富的系统管理、数据处理、统计类软件包,因此从java应用中调用Python代码的需求很常见、实用,本文介绍几种方法从java调用Pyt... 目录引言Java core使用ProcessBuilder使用Java脚本引擎总结引言python

Java中ArrayList的8种浅拷贝方式示例代码

《Java中ArrayList的8种浅拷贝方式示例代码》:本文主要介绍Java中ArrayList的8种浅拷贝方式的相关资料,讲解了Java中ArrayList的浅拷贝概念,并详细分享了八种实现浅... 目录引言什么是浅拷贝?ArrayList 浅拷贝的重要性方法一:使用构造函数方法二:使用 addAll(

JAVA利用顺序表实现“杨辉三角”的思路及代码示例

《JAVA利用顺序表实现“杨辉三角”的思路及代码示例》杨辉三角形是中国古代数学的杰出研究成果之一,是我国北宋数学家贾宪于1050年首先发现并使用的,:本文主要介绍JAVA利用顺序表实现杨辉三角的思... 目录一:“杨辉三角”题目链接二:题解代码:三:题解思路:总结一:“杨辉三角”题目链接题目链接:点击这里

SpringBoot使用注解集成Redis缓存的示例代码

《SpringBoot使用注解集成Redis缓存的示例代码》:本文主要介绍在SpringBoot中使用注解集成Redis缓存的步骤,包括添加依赖、创建相关配置类、需要缓存数据的类(Tes... 目录一、创建 Caching 配置类二、创建需要缓存数据的类三、测试方法Spring Boot 熟悉后,集成一个外

轻松掌握python的dataclass让你的代码更简洁优雅

《轻松掌握python的dataclass让你的代码更简洁优雅》本文总结了几个我在使用Python的dataclass时常用的技巧,dataclass装饰器可以帮助我们简化数据类的定义过程,包括设置默... 目录1. 传统的类定义方式2. dataclass装饰器定义类2.1. 默认值2.2. 隐藏敏感信息

opencv实现像素统计的示例代码

《opencv实现像素统计的示例代码》本文介绍了OpenCV中统计图像像素信息的常用方法和函数,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录1. 统计像素值的基本信息2. 统计像素值的直方图3. 统计像素值的总和4. 统计非零像素的数量

IDEA常用插件之代码扫描SonarLint详解

《IDEA常用插件之代码扫描SonarLint详解》SonarLint是一款用于代码扫描的插件,可以帮助查找隐藏的bug,下载并安装插件后,右键点击项目并选择“Analyze”、“Analyzewit... 目录SonajavascriptrLint 查找隐藏的bug下载安装插件扫描代码查看结果总结Sona

Python开发围棋游戏的实例代码(实现全部功能)

《Python开发围棋游戏的实例代码(实现全部功能)》围棋是一种古老而复杂的策略棋类游戏,起源于中国,已有超过2500年的历史,本文介绍了如何用Python开发一个简单的围棋游戏,实例代码涵盖了游戏的... 目录1. 围棋游戏概述1.1 游戏规则1.2 游戏设计思路2. 环境准备3. 创建棋盘3.1 棋盘类