fate隐私求交案例

2024-03-13 22:12
文章标签 案例 隐私 fate 求交

本文主要是介绍fate隐私求交案例,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

intersect组件是解决纵向联邦学习中的隐私求交问题

fate隐私求交的方式有三种:raw,rsa,dh。raw方式不安全,rsa和dh方式是安全的,dh是基于对称加密的安全交集 rsa是基于RSA(非对称加密)的安全交集,,dh方法也用于安全的信息检索(SIR),fate intersect 支持多主机模式即(1个guest与多个host进行求交集)

可配置的hash方法有sha256、md5 和 sm3。raw交集支持base64编码,支持与缓存的交集。

统案例脚本文件:/data/projects/fate/examples/dsl/v2/

1、 1v1案例:

本次案例在guest执行任务,求交host

host

guest

数据文件名称

xxl_test_host.csv

xxl_test_guest.csv

表空间名称

sp_host

sp_guest

表名称

tb_host

tb_guest

/data/projects/fate/examples 目录创建测试目录,并拷贝系统配置

cd /data/projects/fate/examples/mytest
cp /data/projects/fate/examples/dsl/v2/intersect/test_intersect_job_dsl.json ./
cp /data/projects/fate/examples/dsl/v2/intersect/test_intersect_job_raw_conf.json ./

1.1上传文件

1.1.1、host创建上传脚本:

upload_xxl_host.json

{"file": "/data/projects/fate/examples/mytest/xxl_test_host.csv","head": 1,"partition": 10,"work_mode": 0,"namespace": "sp_host","table_name": "tb_host"
}

xxl_test_host.csv 是数据文件(需要有表头)

namespace 表空间名称

table_name 表名称

 1.1.2、guest创建脚本:

upload_xxl_guest.json

{"file": "/data/projects/fate/examples/mytest/xxl_test_guest.csv","head": 1,"partition": 10,"work_mode": 0,"namespace": "sp_guest","table_name": "tb_guest"
}
1.1.3上传文件

# host 端:
source /data/projects/fate/bin/init_env.sh
flow data upload -c upload_xxl_host.json

# guest端:
source /data/projects/fate/bin/init_env.sh
flow data upload -c upload_xxl_guest.json

1.2创建任务脚本

1.2.1、创建dsl文件

test_intersect_job_dsl.json

{"components": {"reader_0": {"module": "Reader","output": {"data": ["data"]}},"data_transform_0": {"module": "DataTransform","input": {"data": {"data": ["reader_0.data"]}},"output": {"data": ["data"],"model": ["model"]}},"intersect_0": {"module": "Intersection","input": {"data": {"data": ["data_transform_0.data"]}},"output": {"data": ["data"]}}}
}
1.2.2、创建任务配置文件

test_intersect_job_rsa_conf.json

{"dsl_version": 2,"initiator": {"role": "guest","party_id": 9999},"role": {"guest": [9999],"host": [10000]},"component_parameters": {"common": {"intersect_0": {"intersect_method": "rsa","sync_intersect_ids": false,"only_output_key": true,"rsa_params": {"hash_method": "sha256","final_hash_method": "sha256","split_calculation": false,"key_length": 2048}}},"role": {"guest": {"0": {"reader_0": {"table": {"name": "tb_guest","namespace": "sp_guest"}},"data_transform_0": {"with_label": false,"output_format": "dense"}}},"host": {"0": {"reader_0": {"table": {"name": "tb_host","namespace": "sp_host"}},"data_transform_0": {"with_label": false,"output_format": "dense"}}}}}
}

1.3执行任务(guest端执行)

cd /data/projects/fate/examples/mytest
source /data/projects/fate/bin/init_env.sh
flow job submit -d test_intersect_job_dsl.json -c test_intersect_job_raw_conf.json

2、1v2案例

本次案例在guest上执行求交任务,求交host2个文件

2.1 上传文件

2.1.1 host创建上传脚本(2个):

upload_xxl_host.json

# 上传第一个文件:upload_xxl_host1.json
{"file": "/data/projects/fate/examples/mytest/1v2/xxl_test_host1.csv","head": 1,"partition": 10,"work_mode": 0,"namespace": "sp_host1","table_name": "tb_host1"
}# 上传第二个文件:upload_xxl_host2.json
{"file": "/data/projects/fate/examples/mytest/xxl_test_host2.csv","head": 1,"partition": 10,"work_mode": 0,"namespace": "sp_host2","table_name": "tb_host2"
}
2.1.2 guest创建脚本:

upload_xxl_guest.json

{"file": "/data/projects/fate/examples/mytest/1v2/xxl_test_guest.csv","head": 1,"partition": 10,"work_mode": 0,"namespace": "sp_guest1","table_name": "tb_guest1"
}
2.1.3 上传文件

# host 端:
source /data/projects/fate/bin/init_env.sh
cd /data/projects/fate/examples/mytest/1v2

flow data upload -c upload_xxl_host1.json

flow data upload -c upload_xxl_host2.json

# guest端:
source /data/projects/fate/bin/init_env.sh
cd /data/projects/fate/examples/mytest/1v2

flow data upload -c upload_xxl_guest.json

2.2 创建任务脚本

本次任务在guest上执行,任务脚本在guest端

2.2.1 创建dsl文件

test_union_job_dsl.json

{"components": {"reader_0": {"module": "Reader","output": {"data": ["data"]}},"reader_1": {"module": "Reader","output": {"data": ["data"]}},"intersection_0": {"module": "Intersection","input": {"data": {"data": ["reader_0.data"]}},"output": {"data": ["data"]}},"intersection_1": {"module": "Intersection","input": {"data": {"data": ["reader_1.data"]}},"output": {"data": ["data"]}},"union_0": {"module": "Union","input": {"data": {"data": ["intersection_0.data","intersection_1.data"]}},"output": {"data": ["data"]}}}
}
2.2.2 创建任务配置文件

test_union_job_conf.json

注意:因为 guest 只有1个文件,host 有2个文件,guest 1个文件求交 host 2个文件,所以这里 guest 角色的 reader_ 和 reader_1 读取的数据都是 guest 同一个表的同一份数据

{"dsl_version": 2,"initiator": {"role": "guest","party_id": 9999},"role": {"host": [10000],"guest": [9999]},"component_parameters": {"common": {"union_0": {"allow_missing": false,"need_run": true}},"role": {"guest": {"0": {"reader_0": {"table": {"name": "tb_guest1","namespace": "sp_guest1"}},"reader_1": {"table": {"name": "tb_guest1","namespace": "sp_guest1"}}}},"host": {"0": {"reader_0": {"table": {"name": "tb_host1","namespace": "sp_host1"}},"reader_1": {"table": {"name": "tb_host2","namespace": "sp_host2"}}}}}}
}

2.3 执行任务(guest端执行)

cd /data/projects/fate/examples/mytest/1v2
source /data/projects/fate/bin/init_env.sh

flow job submit -d test_intersect_job_dsl.json -c test_intersect_job_raw_conf.json

正确求交页面显示:

这篇关于fate隐私求交案例的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/806358

相关文章

Python如何实现PDF隐私信息检测

《Python如何实现PDF隐私信息检测》随着越来越多的个人信息以电子形式存储和传输,确保这些信息的安全至关重要,本文将介绍如何使用Python检测PDF文件中的隐私信息,需要的可以参考下... 目录项目背景技术栈代码解析功能说明运行结php果在当今,数据隐私保护变得尤为重要。随着越来越多的个人信息以电子形

使用Navicat工具比对两个数据库所有表结构的差异案例详解

《使用Navicat工具比对两个数据库所有表结构的差异案例详解》:本文主要介绍如何使用Navicat工具对比两个数据库test_old和test_new,并生成相应的DDLSQL语句,以便将te... 目录概要案例一、如图两个数据库test_old和test_new进行比较:二、开始比较总结概要公司存在多

SpringBoot实现动态插拔的AOP的完整案例

《SpringBoot实现动态插拔的AOP的完整案例》在现代软件开发中,面向切面编程(AOP)是一种非常重要的技术,能够有效实现日志记录、安全控制、性能监控等横切关注点的分离,在传统的AOP实现中,切... 目录引言一、AOP 概述1.1 什么是 AOP1.2 AOP 的典型应用场景1.3 为什么需要动态插

Golang操作DuckDB实战案例分享

《Golang操作DuckDB实战案例分享》DuckDB是一个嵌入式SQL数据库引擎,它与众所周知的SQLite非常相似,但它是为olap风格的工作负载设计的,DuckDB支持各种数据类型和SQL特性... 目录DuckDB的主要优点环境准备初始化表和数据查询单行或多行错误处理和事务完整代码最后总结Duck

MySQL不使用子查询的原因及优化案例

《MySQL不使用子查询的原因及优化案例》对于mysql,不推荐使用子查询,效率太差,执行子查询时,MYSQL需要创建临时表,查询完毕后再删除这些临时表,所以,子查询的速度会受到一定的影响,本文给大家... 目录不推荐使用子查询和JOIN的原因解决方案优化案例案例1:查询所有有库存的商品信息案例2:使用EX

Hadoop企业开发案例调优场景

需求 (1)需求:从1G数据中,统计每个单词出现次数。服务器3台,每台配置4G内存,4核CPU,4线程。 (2)需求分析: 1G / 128m = 8个MapTask;1个ReduceTask;1个mrAppMaster 平均每个节点运行10个 / 3台 ≈ 3个任务(4    3    3) HDFS参数调优 (1)修改:hadoop-env.sh export HDFS_NAMENOD

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

深入探索协同过滤:从原理到推荐模块案例

文章目录 前言一、协同过滤1. 基于用户的协同过滤(UserCF)2. 基于物品的协同过滤(ItemCF)3. 相似度计算方法 二、相似度计算方法1. 欧氏距离2. 皮尔逊相关系数3. 杰卡德相似系数4. 余弦相似度 三、推荐模块案例1.基于文章的协同过滤推荐功能2.基于用户的协同过滤推荐功能 前言     在信息过载的时代,推荐系统成为连接用户与内容的桥梁。本文聚焦于

【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

伴随着区块链技术的不断完善,其在教育信息化中的应用也在持续发展。利用区块链数据共识、不可篡改的特性, 将与教育相关的数据要素在区块链上进行存证确权,在确保数据可信的前提下,促进教育的公平、透明、开放,为教育教学质量提升赋能,实现教育数据的安全共享、高等教育体系的智慧治理。 可信教育区块链治理系统的顶层治理架构由教育部、高校、企业、学生等多方角色共同参与建设、维护,支撑教育资源共享、教学质量评估、

客户案例:安全海外中继助力知名家电企业化解海外通邮困境

1、客户背景 广东格兰仕集团有限公司(以下简称“格兰仕”),成立于1978年,是中国家电行业的领军企业之一。作为全球最大的微波炉生产基地,格兰仕拥有多项国际领先的家电制造技术,连续多年位列中国家电出口前列。格兰仕不仅注重业务的全球拓展,更重视业务流程的高效与顺畅,以确保在国际舞台上的竞争力。 2、需求痛点 随着格兰仕全球化战略的深入实施,其海外业务快速增长,电子邮件成为了关键的沟通工具。