PostgreSQL跨库数据查询及同步，postgres_fdw操作

2024-02-19 06:48
文章标签 数据 查询 操作 postgresql 同步 跨库 fdw postgres

本文主要是介绍PostgreSQL跨库数据查询及同步，postgres_fdw操作，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

PostgreSQL跨库数据查询及同步，postgres_fdw操作

  • 安装插件及创建链接
  • 创建远程表映射
  • 查看已设置的内容
  • 删除fdw设置
  • 修改fdw设置
  • postgres官方原始设置 F.33.7. 例子
  • 其他参考内容

数据查询及同步原理： PostgreSQL跨库操作（dblink、postgres_fdw、mysql_fdw）

官方参考来源 http://www.postgres.cn/docs/11/postgres-fdw.html

安装插件及创建链接

--创建postgres_fdw插件
CREATE EXTENSION postgres_fdw;

--创建foreign server
CREATE SERVER datasyncreadFOREIGN DATA WRAPPER postgres_fdwOPTIONS (host '127.0.0.1', port '5432', dbname 'postgres');

--创建user mapping
CREATE USER MAPPING FOR datareadSERVER datasyncreadOPTIONS (user 'dataread', password 'p@12##s……!sWord');

创建远程表映射

--创建foreign table
CREATE FOREIGN TABLE ft_account (id integer NOT NULL,data text
)SERVER datasyncreadOPTIONS (schema_name 'public', table_name 'account');

查看已设置的内容

--查看 foreign server
SELECT * FROM pg_foreign_server;

--查看user mapping
SELECT * FROM pg_user_mappings;

删除fdw设置

--删除foreign table
DROP FOREIGN TABLE ft_account;

--删除user mapping
DROP USER MAPPING [ IF EXISTS ] FOR { user_name | USER | CURRENT_USER | PUBLIC } SERVER dataread;

--删除 foreign server
DROP SERVER dataread;

修改fdw设置

--修改foreign server配置
ALTER SERVER foo OPTIONS (set host 'readonly.com',set dbname 'readonly');
ALTER SERVER foo VERSION '8.4' OPTIONS (SET host 'readonly.com');

--修改user mapping
ALTER USER MAPPING FOR bob SERVER foo OPTIONS (user 'postgres', password 'Ap@12##s……!sWord');

--修改foreign table
ALTER FOREIGN TABLE ft_account ALTER COLUMN street SET NOT NULL;
ALTER FOREIGN TABLE public.ft_account OPTIONS (ADD opt1 'value', SET opt2, 'value2', DROP opt3 'value3');

postgres官方原始设置 F.33.7. 例子

F.33. postgres_fdw
F.33.1. postgres_fdw 的 FDW 选项
F.33.2. 连接管理
F.33.3. 事务管理
F.33.4. 远程查询优化
F.33.5. 远程查询执行环境
F.33.6. 跨版本兼容性
F.33.7. 例子
F.33.8. 作者F.33.7. 例子
这里是一个用postgres_fdw创建外部表的例子。首先安装该扩展：CREATE EXTENSION postgres_fdw;
然后使用CREATE SERVER创建一个外部服务器。在这个例子中我们希望连接到一个位于主机192.83.123.89上并且监听5432端口的PostgreSQL服务器。在该远程服务器上要连接的数据库名为foreign_db：CREATE SERVER foreign_serverFOREIGN DATA WRAPPER postgres_fdwOPTIONS (host '192.83.123.89', port '5432', dbname 'foreign_db');
需要用CREATE USER MAPPING定义一个用户映射来标识在远程服务器上使用哪个角色：CREATE USER MAPPING FOR local_userSERVER foreign_serverOPTIONS (user 'foreign_user', password 'password');
现在就可以使用CREATE FOREIGN TABLE创建外部表了。在这个例子中我们希望访问远程服务器上名为some_schema.some_table的表。它的本地名称是foreign_table：CREATE FOREIGN TABLE foreign_table (id integer NOT NULL,data text
)SERVER foreign_serverOPTIONS (schema_name 'some_schema', table_name 'some_table');
CREATE FOREIGN TABLE中声明的列数据类型和其他性质必须要匹配实际的远程表。列名也必须匹配，不过也可以为个别列附上column_name选项以表示它们在远程服务器上对应哪个列。在很多情况中，要手工构造外部表定义，使用IMPORT FOREIGN SCHEMA会更好。

其他参考内容

PostgreSQL-11.3-postgres-FDW-配置和体验1 摘要
本文首先总结了工作中配置postgres-fdw的关键步骤，然后针对外表查询的几个典型场景，记录了每一种场景下，主节点是如何下推查询到外节点的。2 环境配置
配置两台数据库服务器：node1:5432, node2:6432
使用默认数据库: postgresnode1                                  node2 |--------------------|                 |-------------------||        user=user1 --------------------> user=user2       || local table:   t0  |                 |                   || foreign table: t1 --------------------> local table: t1  ||                    |                 |                   || foreign table: t2 --------------------> local table: t2  | |--------------------|                 |-------------------|
2.1 配置node2:
node2上创建数据库账号'user2'
node2上建立两个表: t1, t2
2.1.1 使用超级用户登录node2，在node2上创建数据库账号'user2'
psql -h node2 -p 6432 -d postgres 
CREATE ROLE user2 WITH LOGIN PASSWORD 'pwd#@1';
GRANT ALL PRIVILEGES ON DATABASE postgres to user2;
2.1.2 更改node2:pg_hba.conf，允许node1使用账号user2访问node2
node1的IP地址：192.168.199.110
host    postgres        user2           192.168.199.110/32      md5
2.1.3 在node2上，以user2身份，创建表: t1, t2
psql -h node2 -p 6432 -d postgres -U user2 
create table t1 ( id int, name varchar(100));create table t2 ( id int, name varchar(100));
2.2 配置node1
node1: 创建数据库账号'user1'
node1: 建立一个本地表t0，两个外表: t1, t2，分别指向node2上的t1, t2
2.2.1 使用超级用户，在node1上启用postgres-fdw, 创建数据库账号'user1'
psql -h node1 -p 5432 -d postgres 
create extension postgres_fdw;CREATE ROLE user1 WITH LOGIN PASSWORD '#@1qw';
GRANT ALL PRIVILEGES ON DATABASE postgres to user1;
grant usage on foreign data wrapper postgres_fdw to user1;
2.2.2 node1上，以user1登录
psql -h node1 -p 5432 -d postgres -U user1 
2.2.3 node1上,使用user1账号，创建本地表: t0
create table t0 ( id int, name varchar(100));
2.2.4 node1上,使用user1账号，创建外表：t1, t2
;;外表t1,t2
node1.t1 ---> node2.t1
node1.t2 ---> node2.t2
create server fnode2foreign data wrapper postgres_fdwoptions (host 'node2', port '6432', dbname 'postgres');create user mapping for user1server fnode2options (user 'user2', password 'pwd#@1'); create foreign table t1 (id int,name varchar(100)
)
server fnode2
options (schema_name 'public', table_name 't1');create foreign table t2 (id int,name varchar(100)
)
server fnode2
options (schema_name 'public', table_name 't2');2.3 加载数据，
通过节点node1，分别向node1的三个表(node1.t0, node1.t1,node1.t2)插入数据
三个表的数据相同，每个表有100条数据
insert into t0 select generate_series(1,100), 'tom-'||generate_series(1,100) ;
insert into t1 select generate_series(1,100), 'tom-'||generate_series(1,100) ;
insert into t2 select generate_series(1,100), 'tom-'||generate_series(1,100) ;
三个表的数据相同：id            name
----------------------
1             tom-1
2             tom-2
3             tom-3
...            ...
3. 探索外表查询
3.1 node1单外表扫描
node1.t1是外表
通过node1，查询t1
node1把查询，连带查询条件，推送到node2
node1上执行查询：psql -h node1 -U user1 -d postgres -c "select * from t1 where id=1;"
node2的执行过程如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;
DECLARE c1 CURSOR FOR SELECT id, name FROM public.t1 WHERE ((id = 1));
FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;
3.2 node1上：单外表+单本地表join，推送到外表时无过滤条件(where)
t0是本地表
t1是外表
在node1上执行查询psql -h node1 -U user1 -d postgres -c "select * from t0,t1 where t0.id=1 and t0.name=t1.name;"
下推到node2的查询如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;
DECLARE c1 CURSOR FOR SELECT id, name FROM public.t1;
FETCH 100 FROM c1;
FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;
3.3 node1上：单外表+单本地表join，推送到外表时带有过滤条件(where)
t0是本地表
t1是外表
在node1上执行查询:psql -h node1 -U user1 -d postgres -c "select * from t0,t1 where t1.id=1 and t0.name=t1.name;"
下推到node2的查询如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;DECLARE c1 CURSOR FORSELECT id, name FROM public.t1 WHERE ((id = 1));FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;
3.4 node1上，双外表join
t1是外表
t2是外表
通过node1执行：psql -h node1 -U user1 -d postgres -c "select * from t1,t2 where t1.id=1 and t1.name=t2.name;"
下推到node2的查询如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;DECLARE c1 CURSOR FORSELECT r1.id, r1.name, r2.id, r2.name FROM (public.t1 r1 INNER JOIN public.t2 r2 ON (((r1.name = r2.name)) AND ((r1.id = 1))));FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;
3.5 node1上，对外表avg()
t1是外表
通过node1执行：psql -h node1 -U user1 -d postgres -c "select avg(id) from t1 where id<100;"
下推到node2的查询如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;
DECLARE c1 CURSOR FORSELECT avg(id) FROM public.t1 WHERE ((id < 100));FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;
3.6 node1上，对外表sort
t1是外表
通过node1执行：psql -h node1 -U user1 -d postgres -c "select * from t1 where id<100 order by name;"
下推到node2的查询如下：START TRANSACTION ISOLATION LEVEL REPEATABLE READ;DECLARE c1 CURSOR FORSELECT id, name FROM public.t1 WHERE ((id < 100)) ORDER BY name ASC NULLS LAST;FETCH 100 FROM c1;
CLOSE c1;
COMMIT TRANSACTION;

这篇关于PostgreSQL跨库数据查询及同步，postgres_fdw操作的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/723833。

相关文章

Python获取中国节假日数据记录入JSON文件

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢？我尝试一种更为智能的方法：P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验，
阅读更多...
Mysql表的简单操作(基本技能)

Mysql表的简单操作(基本技能)

《Mysql表的简单操作(基本技能)》在数据库中,表的操作主要包括表的创建、查看、修改、删除等,了解如何操作这些表是数据库管理和开发的基本技能,本文给大家介绍Mysql表的简单操作,感兴趣的朋友一起看... 目录3.1 创建表 3.2 查看表结构3.3 修改表3.4 实践案例：修改表在数据库中，表的操作主要
阅读更多...
C# WinForms存储过程操作数据库的实例讲解

C# WinForms存储过程操作数据库的实例讲解

《C#WinForms存储过程操作数据库的实例讲解》：本文主要介绍C#WinForms存储过程操作数据库的实例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、存储过程基础二、C# 调用流程1. 数据库连接配置2. 执行存储过程（增删改）3. 查询数据三、事务处
阅读更多...
Java使用Curator进行ZooKeeper操作的详细教程

Java使用Curator进行ZooKeeper操作的详细教程

《Java使用Curator进行ZooKeeper操作的详细教程》ApacheCurator是一个基于ZooKeeper的Java客户端库,它极大地简化了使用ZooKeeper的开发工作,在分布式系统... 目录1、简述2、核心功能2.1 CuratorFramework2.2 Recipes3、示例实践3
阅读更多...
Java利用JSONPath操作JSON数据的技术指南

Java利用JSONPath操作JSON数据的技术指南

《Java利用JSONPath操作JSON数据的技术指南》JSONPath是一种强大的工具,用于查询和操作JSON数据,类似于SQL的语法,它为处理复杂的JSON数据结构提供了简单且高效... 目录1、简述2、什么是 jsONPath？3、Java 示例3.1 基本查询3.2 过滤查询3.3 递归搜索3.4
阅读更多...
MySQL大表数据的分区与分库分表的实现

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区？1.2 分区的类型1.3 分区的优点1.4 分
阅读更多...
Mysql删除几亿条数据表中的部分数据的方法实现

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T
阅读更多...
Python 中的异步与同步深度解析(实践记录)

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步：深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步
阅读更多...
Python Dash框架在数据可视化仪表板中的应用与实践记录

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash？1.1
阅读更多...
浅谈mysql的sql_mode可能会限制你的查询

浅谈mysql的sql_mode可能会限制你的查询

《浅谈mysql的sql_mode可能会限制你的查询》本文主要介绍了浅谈mysql的sql_mode可能会限制你的查询,这个问题主要说明的是,我们写的sql查询语句违背了聚合函数groupby的规则... 目录场景：问题描述原因分析：解决方案：第一种：修改后，只有当前生效，若是mysql服务重启，就会失效；
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2