【kettle005】kettle访问Oracle数据库并处理数据至execl文件(已更新)

2024-04-29 21:28

本文主要是介绍【kettle005】kettle访问Oracle数据库并处理数据至execl文件(已更新),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.一直以来想写下基于kettle的系列文章,作为较火的数据ETL工具,也是日常项目开发中常用的一款工具,最近刚好挤时间梳理、总结下这块儿的知识体系。
2.熟悉、梳理、总结下Oracle数据库相关知识体系
3.欢迎批评指正,跪谢一键三连!

  • kettle访问Oracle数据库并处理数据至execl文件文章目录索引如下所示:
    在这里插入图片描述

  • 【实操视频,辅助实操学习,跪谢一键三连!】【kettle005】kettle访问Oracle数据库并处理数据至execl文件

1.环境搭建、配置

  • 1.0 实验环境信息
    • Windows 10
    • CentOS 7.1(虚拟机)
    • Docker version 26.0.2
    • Dbeaver
    • Kettle 8.2
    • Oracle Database 11g Express Edition Release 11.2.0.2.0 - 64bit Production
      在这里插入图片描述
  • 1.1 镜像操作命令
    mkdir -p ./data/oracle && chmod 777 ./data/oracledocker pull wnameless/oracle-xe-11g-r2docker run --name oracle -d -p 1521:1521 -e ORACLE_ALLOW_REMOTE=true wnameless/oracle-xe-11g-r2docker ps -adocker logs 1baadocker exec -it 1baa /bin/bash-- 登录修改密码等
    sqlplus /nolog
    connect sys/oracle as sysdba;
    alter user sys identified by newpassword;
    alter user system identified by newpassword;-- 创建用户和授权
    create user xxx identified by password;
    grant create session to xxx;
    grant create table,unlimited tablespace to xxx;
    grant select any table to xxx;
    grant update any table,drop any table,insert any table to xxx;-- 查看表空间
    select tablespace_name, file_name from dba_data_files;grant connect,resource,dba to youli;
    
  • 1.2 问题解决记录过程
    • 1.2.1 【问题记录1】oracle比较大,无剩余空间导致拉取镜像失败;删除部分镜像及容器;空间还不够的话,扩容Linux虚拟机或进行虚拟机碎片整理。
      在这里插入图片描述

    • 1.2.2 【问题记录2】oracle-11g镜像格式不兼容问题,寻找其他有效oracle镜像

      • docker pull registry.aliyuncs.com/zhuyijun/oracle:19c,版本太大、没空间启动失败
      • docker pull wnameless/oracle-xe-11g-r2,有效命令

      在这里插入图片描述

    • 1.2.3 【问题记录3】docker镜像版本不兼容问题,尝试了很多次仍旧失败。如改镜像源头,设置环境变量等。
      在这里插入图片描述

    • 1.2.4 【问题记录4】镜像拉取成功,大小区别明显
      在这里插入图片描述

    • 1.2.5 【问题记录5】docker: invalid reference format: repository name (library/ORACLE_PDB=ORCLPDB1) must be lowercase.

      • 手敲一遍,或调整下格式,如 \,包含空格

      在这里插入图片描述

  • 1.3 oracle容器最终运行效果
    在这里插入图片描述

2.oracle-xe-11g-r2数据库容器链接测试

  • hostname: localhost
    port: 1521
    sid: xe
    username: system/sys
    password: oracle
    
  • 2.1 链接测试配置详情
    在这里插入图片描述
  • sqlplus 权限授权
    在这里插入图片描述
  • 2.2 建表测试语句
    create table youli_testtable0 (id number primary key,name varchar2(50) not null,description clob,created_at timestamp default current_timestamp
    );comment on table test_table is '这是一个测试表';
    comment on column test_table.id is '测试表的唯一标识';
    comment on column test_table.name is '测试表的名称';
    comment on column test_table.description is '测试表的描述信息';
    comment on column test_table.created_at is '记录的创建时间';create table "youli"."youli_testtable" (	"id" number(22,0) not null enable, "name" varchar2(100) not null enable, "email" varchar2(100) not null enable, "age" number(*,0) not null enable, "sex" varchar2(100) not null enable, "id_card" varchar2(100) not null enable, "mobile_phone" varchar2(100) not null enable, "visa_card" varchar2(100) not null enable, "officer_card" varchar2(255), "address" varchar2(255), primary key ("id")
    )
    tablespace users;INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('1', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸1');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('2', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸2');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('3', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸3');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('4', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸4');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('5', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸5');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('6', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸6');
    INSERT INTO YOULI."youli_testtable"
    ("id", "name", "email", "age", "sex", "id_card", "mobile_phone", "visa_card", "officer_card", "address")
    VALUES
    ('7', 'youli', 'youli@yaho.net', '45', 'M', '50011919870824110X', '18152276065', 'SYP618183458', '', '北京市朝阳区国贸7');SELECT * FROM YOULI."youli_testtable"
    
  • 2.3 DBeaver SQL效果测试
    在这里插入图片描述

3.kettle流程任务配置、效果验证

  • 3.1 将Oracle驱动包放到 kettlle lib 目录下,重启 kettle,进行链接测试
    在这里插入图片描述
  • 3.2 kettle链接oracle-xe-11g-r2数据库容器环境测试结果
    在这里插入图片描述
  • 3.3 遗留问题: 新建表 kettle中加载失败(待进一步排查、解决
    在这里插入图片描述

4.参考文章

  • https://www.cnblogs.com/muphy/p/16769579.html

这篇关于【kettle005】kettle访问Oracle数据库并处理数据至execl文件(已更新)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/947197

相关文章

Python调用Orator ORM进行数据库操作

《Python调用OratorORM进行数据库操作》OratorORM是一个功能丰富且灵活的PythonORM库,旨在简化数据库操作,它支持多种数据库并提供了简洁且直观的API,下面我们就... 目录Orator ORM 主要特点安装使用示例总结Orator ORM 是一个功能丰富且灵活的 python O

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景

oracle DBMS_SQL.PARSE的使用方法和示例

《oracleDBMS_SQL.PARSE的使用方法和示例》DBMS_SQL是Oracle数据库中的一个强大包,用于动态构建和执行SQL语句,DBMS_SQL.PARSE过程解析SQL语句或PL/S... 目录语法示例注意事项DBMS_SQL 是 oracle 数据库中的一个强大包,它允许动态地构建和执行

PLsql Oracle 下载安装图文过程详解

《PLsqlOracle下载安装图文过程详解》PL/SQLDeveloper是一款用于开发Oracle数据库的集成开发环境,可以通过官网下载安装配置,并通过配置tnsnames.ora文件及环境变... 目录一、PL/SQL Developer 简介二、PL/SQL Developer 安装及配置详解1.下

使用Navicat工具比对两个数据库所有表结构的差异案例详解

《使用Navicat工具比对两个数据库所有表结构的差异案例详解》:本文主要介绍如何使用Navicat工具对比两个数据库test_old和test_new,并生成相应的DDLSQL语句,以便将te... 目录概要案例一、如图两个数据库test_old和test_new进行比较:二、开始比较总结概要公司存在多

Redis的数据过期策略和数据淘汰策略

《Redis的数据过期策略和数据淘汰策略》本文主要介绍了Redis的数据过期策略和数据淘汰策略,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录一、数据过期策略1、惰性删除2、定期删除二、数据淘汰策略1、数据淘汰策略概念2、8种数据淘汰策略

轻松上手MYSQL之JSON函数实现高效数据查询与操作

《轻松上手MYSQL之JSON函数实现高效数据查询与操作》:本文主要介绍轻松上手MYSQL之JSON函数实现高效数据查询与操作的相关资料,MySQL提供了多个JSON函数,用于处理和查询JSON数... 目录一、jsON_EXTRACT 提取指定数据二、JSON_UNQUOTE 取消双引号三、JSON_KE

MySQL数据库函数之JSON_EXTRACT示例代码

《MySQL数据库函数之JSON_EXTRACT示例代码》:本文主要介绍MySQL数据库函数之JSON_EXTRACT的相关资料,JSON_EXTRACT()函数用于从JSON文档中提取值,支持对... 目录前言基本语法路径表达式示例示例 1: 提取简单值示例 2: 提取嵌套值示例 3: 提取数组中的值注意

使用C++将处理后的信号保存为PNG和TIFF格式

《使用C++将处理后的信号保存为PNG和TIFF格式》在信号处理领域,我们常常需要将处理结果以图像的形式保存下来,方便后续分析和展示,C++提供了多种库来处理图像数据,本文将介绍如何使用stb_ima... 目录1. PNG格式保存使用stb_imagephp_write库1.1 安装和包含库1.2 代码解

查询SQL Server数据库服务器IP地址的多种有效方法

《查询SQLServer数据库服务器IP地址的多种有效方法》作为数据库管理员或开发人员,了解如何查询SQLServer数据库服务器的IP地址是一项重要技能,本文将介绍几种简单而有效的方法,帮助你轻松... 目录使用T-SQL查询方法1:使用系统函数方法2:使用系统视图使用SQL Server Configu