日本大数据应用环境和发展状况(附PPT下载)

2023-11-10 06:50

本文主要是介绍日本大数据应用环境和发展状况(附PPT下载),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

640?wx_fmt=png


本篇选自野村综合研究所数字基础开发部部门经理、高级研究员
城田真琴先生近日在“大数据应用中日交流论坛”上所做的题为《日本的大数据应用环境和发展状况》的演讲。


公众号后台回复"181206"即可获取PPT原文


本篇主要分为四点与大家分享:


  • 日本大数据发展状况与发展趋势

  • 日本《个人信息保护法》的修订

  • 法律修订后的大数据业务

  • 日本大数据应用面临的课题


一、日本大数据的发展状况


640?wx_fmt=png


2012到2014期间,大数据是当时非常流行的词汇,之后被检索的频次开始呈现下降趋势。

640?wx_fmt=png


之后,人工智能被越来越受到关注,在2014年12月份,“人工智能”检索次数首次超越了“大数据”检索次数。

640?wx_fmt=png


上图是日本在1998年到2018年20年间部分相关法律的制定和大数据的实际运用案例。


640?wx_fmt=png


“小松”系统是民间企业第一个开始运用大数据的例子。该系统早在1998年开始实行。在这20年间,“小松”系统仍是日本国内受人称赞的例子。

640?wx_fmt=png


“移动空间统计”应用是手机公司NTT于2013年10月推出的服务。


该应用基于基站数据可以精确推测某地区大致的手机用户的数量,从而统计其相关数据,包括该地区人口分布统计和动态统计。


640?wx_fmt=png


在车辆搭乘该系统后,可以了解到车辆的行驶情况。也可以了解到驾驶员的驾驶方式和驾驶偏好。现在可以根据开车的行驶的距离去算具体的保险费的费率,也就是说,可以通过该系统计算出符合个人驾驶行为习惯的费率。

640?wx_fmt=png


把线上线下的问题(网络与现实)综合地结合起来,大数据可能会发挥出更大效用。这样,当本公司数据不够用时,可以和其他大型网络公司联手,运用其他不同行业的数据,就如日本的积分卡和一些公司的会员卡制度所积累的数据,可能会使这些数据得到更大程度的使用。


有些专门从事大数据处理的公司,跟他们联手,可以把这些数据的价值使用的更广。现在有很多这样的企业,着重于大数据的开发和利用。

但是,当把数据移交给第三方公司时,却有很多顾虑。当数据可能包含消费者信息,个人信息,这些必须通过想关持有人同意,否则无法移交其他公司进行开发利用。因此,在相关法律的限制下,有些日本企业中的人并不十分积极去使用第三方提供的数据。


640?wx_fmt=png


在日本,乘铁路是使用交通卡,而且交通卡都是实名制,其中包括个人的姓名,联系方式及出生日期等。铁路公司把乘客的乘车记录交给第三方公司时,尽管对个人隐私做了消除处理,但消费者对此仍然不满,并提起诉讼,日本国民对于个人隐私保护是特别在意。媒体对此也进行报道,铁路公司停止该行为。这也成为法律修订的契机。


640?wx_fmt=png


日本某大型信息教育公司,委托第三方企业管理本公司的客户信息。但第三方公司的员工以有偿的方式把该客户信息出售给其他企业。事件最终暴露,引起社会的广泛关注。


上述事件在社会上引起反响,日本政府仍决心推进大数据的使用。

640?wx_fmt=png


2013年6月份,日本宣布“创建世界最先进的IT国家宣言”。


640?wx_fmt=png


如何平衡隐私保护和大数据应用,这是一个长期的课题。但是在日本,更多的是放在隐私保护方面,更重视隐私保护。而且作为企业,也担心万一在隐私保护上出点问题,有可能影响客户的声誉,所以企业在大数据的使用方面也是非常谨慎的。


二、《个人信息保护法》的修订


640?wx_fmt=png

《个人信息保护法》修改要点


640?wx_fmt=png


首先关于个人信息在修订之前,更多指的是名字、地址和出生年月日,这样能够识别特定相关个人的信息。但是实际上从企业的角度来说,像指纹、DNA,或者是虹膜,乃至电脑号码,手机号码等信息亦属于个人信息的范畴。

640?wx_fmt=png


除了匿名加工之后的信息之外,企业获取的个人信息需获本人的同意才能提供给第三方。匿名加工信息的做法,现在没有统一的方式,要根据具体内容来定,比如有些把名字、地址、出生年月日或者把其他的删掉即可,必须根据不同的个案予以思考。其概念的引入,意义重大。


640?wx_fmt=png

《个人信息保护法》修订中名册企业治理对策


三、法律修订后的大数据业务


640?wx_fmt=png


把数据进行匿名化的处理,在不涉及法律的情况下,提供给第三方。拥有数据方和数据利用方之间形成了数据交换的平台。这种数据交换平台,它保证不会涉及到违法的问题,可以让数据的利用方放心的使用数据交换平台提供的数据。


640?wx_fmt=png


“信息银行”是一项新的业务。它的出现避免匿名加工信息所带来对信息资源利用的破坏。信息银行是通过尊重个人的意志方式来决定是不是提供个人信息,比如这家公司可以提供,那家公司就不提供。而且获取信息的一方,会向用户提供一定的报酬。

640?wx_fmt=png

日本信用评价业务的先驱:J.Score


它和中国的芝麻信用是比较相近的,也许是参考芝麻信用的做法来推出的业务。它在银行、电商获取一些个人信息,利用AI对数据进行分析计算从而进行评级。提供信息的用户可以从相关企业中获得“AI评分奖励”。


四、日本大数据应用面临的课题


640?wx_fmt=png


2013年,我们做了一个问卷调查,左边是日本,右边是美国。从中可以看出,日本的数据科学家,或者数据分析专家只有8%左右,而美国的企业却有50%左右,现在已经有很大的差距。如今日本出现大数据热潮和人工智能热潮,很多企业都在致力于培养数据科学家,但是跟美国企业相比,仍然有比较大的差距。


640?wx_fmt=png


日本企业高管,他们从传统上来说一直不善于用数据来进行决策,更多的是重视直觉,或者是经验。他们在犹豫不决时,就依靠自己的胆量进行决策。他们不擅长以数据为基础进行决策,或者在企业的经营之中灵活的使用数据。


总结


  • 日本的大数据应用,关键是平衡隐私保护和数据利用两者关系。其特点是更多的重视隐私的保护。

  • 《个人信息保护法》的修订是转折点。

  • 目前,“信息银行”和“信用评分”等新型商务已经兴起。

  • 数据科学家短缺和根据数据进行决策是重大课题。

公众号后台回复"181206"即可获取PPT原文


作者简介


640?wx_fmt=png


城田真琴,总务省“智慧云研究会”技术工作组(WG)委员、经济产业省“IT融合论坛”个人数据WG委员、经济产业省、厚生劳动省、文部科学省“IT人材供求调查”专家委员会成员等。


出版著作:


640?wx_fmt=jpeg


640?wx_fmt=jpeg

640?wx_fmt=jpeg

这篇关于日本大数据应用环境和发展状况(附PPT下载)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/381039

相关文章

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

关于数据埋点,你需要了解这些基本知识

产品汪每天都在和数据打交道,你知道数据来自哪里吗? 移动app端内的用户行为数据大多来自埋点,了解一些埋点知识,能和数据分析师、技术侃大山,参与到前期的数据采集,更重要是让最终的埋点数据能为我所用,否则可怜巴巴等上几个月是常有的事。   埋点类型 根据埋点方式,可以区分为: 手动埋点半自动埋点全自动埋点 秉承“任何事物都有两面性”的道理:自动程度高的,能解决通用统计,便于统一化管理,但个性化定

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

异构存储(冷热数据分离)

异构存储主要解决不同的数据,存储在不同类型的硬盘中,达到最佳性能的问题。 异构存储Shell操作 (1)查看当前有哪些存储策略可以用 [lytfly@hadoop102 hadoop-3.1.4]$ hdfs storagepolicies -listPolicies (2)为指定路径(数据存储目录)设置指定的存储策略 hdfs storagepolicies -setStoragePo

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

【Prometheus】PromQL向量匹配实现不同标签的向量数据进行运算

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,CSDN全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,前后端开发,小程序开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi

常用的jdk下载地址

jdk下载地址 安装方式可以看之前的博客: mac安装jdk oracle 版本:https://www.oracle.com/java/technologies/downloads/ Eclipse Temurin版本:https://adoptium.net/zh-CN/temurin/releases/ 阿里版本: github:https://github.com/

烟火目标检测数据集 7800张 烟火检测 带标注 voc yolo

一个包含7800张带标注图像的数据集,专门用于烟火目标检测,是一个非常有价值的资源,尤其对于那些致力于公共安全、事件管理和烟花表演监控等领域的人士而言。下面是对此数据集的一个详细介绍: 数据集名称:烟火目标检测数据集 数据集规模: 图片数量:7800张类别:主要包含烟火类目标,可能还包括其他相关类别,如烟火发射装置、背景等。格式:图像文件通常为JPEG或PNG格式;标注文件可能为X