Spark项目智慧城市车流量分析项目之固定卡口下车辆的行车轨迹

本文主要是介绍Spark项目智慧城市车流量分析项目之固定卡口下车辆的行车轨迹,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

数据集

  • 日期 卡口ID 摄像头编号 车牌号 拍摄时间
  • date monitor_id camera_id car action_time
    车速 道路ID 区域ID
    speed road_id area_id

数据集

模拟数据

2018-06-27 0007 00536 京R66884 2018-06-27 11:30:25 30 41 08
2018-06-27 0005 01726 闵P89564 2018-06-27 09:34:03 19 7 03
2018-06-27 0005 01272 闵P89564 2018-06-27 09:50:39 187 19 05
2018-06-27 0002 00082 闵P89564 2018-06-27 09:34:47 1 28 05
2018-06-27 0003 08417 闵P89564 2018-06-27 09:23:05 171 42 02
2018-06-27 0003 02757 闵P89564 2018-06-27 09:52:35 32 50 04
2018-06-27 0000 03759 沪W87972 2018-06-27 20:02:43 243 25 05
2018-06-27 0002 08652 沪W87972 2018-06-27 20:05:10 51 11 05

代码逻辑
在这里插入图片描述

本地模拟代码

package test;import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaPairRDD;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.api.java.function.Function;
import org.apache.spark.api.java.function.PairFunction;
import org.apache.spark.api.java.function.VoidFunction;
import org.apache.spark.broadcast.Broadcast;
import scala.Tuple2;import java.util.*;public class Carlearn {public static void main(String[] args) {SparkConf conf = new SparkConf();conf.setMaster("local").setAppName("Carlearn");JavaSparkContext sc = new JavaSparkContext(conf);JavaRDD<String> lineRDD = sc.textFile("monitor_flow_action");//mapToPair 形成一个tuple<卡扣id,车牌号>JavaPairRDD<String, String> rdd2 = lineRDD.mapToPair(new PairFunction<String, String, String>() {@Overridepublic Tuple2<String, String> call(String s) throws Exception {String[] split = s.split("\t");return new Tuple2<>(split[1], split[3]);}});//过滤只留下一个卡扣id为001的信息JavaPairRDD<String, String> rdd3 = rdd2.filter(new Function<Tuple2<String, String>, Boolean>() {@Overridepublic Boolean call(Tuple2<String, String> tuple2) throws Exception {return tuple2._1.equals("0001");}});//map 形成一个个的carJavaRDD<String> rdd4 = rdd3.map(new Function<Tuple2<String, String>, String>() {@Overridepublic String call(Tuple2<String, String> tuple2) throws Exception {return tuple2._2;}});//去重JavaRDD<String> rdd5 = rdd4.distinct();//转换成集合List<String> result = rdd5.collect();//广播变量final Broadcast<List<String>> broadcast = sc.broadcast(result);/*** mapToPair转换成Tuple<车牌号,一行的值>*/JavaPairRDD<String, String> rddA = lineRDD.mapToPair(new PairFunction<String, String, String>() {@Overridepublic Tuple2<String, String> call(String s) throws Exception {String[] split = s.split("\t");return new Tuple2<>(split[3], s);}});//过滤掉只留下卡扣id为001信息的车,JavaPairRDD<String, Iterable<String>> rddC = rddA.filter(new Function<Tuple2<String, String>, Boolean>() {@Overridepublic Boolean call(Tuple2<String, String> tuple2) throws Exception {List<String> carList = broadcast.value();String carId = tuple2._2.split("\t")[3];return carList.contains(carId);}}).groupByKey();rddC.foreach(new VoidFunction<Tuple2<String, Iterable<String>>>() {@Overridepublic void call(Tuple2<String, Iterable<String>> tuple2) throws Exception {Iterator<String> iterator = tuple2._2.iterator();List<Tuple2<String, String>> map = new ArrayList<>();//将时间和卡扣号封装成一个listwhile (iterator.hasNext()) {String next = iterator.next();String time = next.split("\t")[4];String kakouId = next.split("\t")[1];Tuple2<String, String> time_kakou = new Tuple2<>(time, kakouId);map.add(time_kakou);}//通过时间排序,整理出汽车的行车轨迹Collections.sort(map, new Comparator<Tuple2<String, String>>() {@Overridepublic int compare(Tuple2<String, String> o1, Tuple2<String, String> o2) {return o1._1.compareTo(o2._1);}});//打印下行车轨迹String chepai = tuple2._1;System.out.println("汽车号:"+chepai);for (Tuple2<String, String> s : map) {System.out.print("时间:"+s._1+"卡扣:"+s._2+"===>");}System.out.println();}});}
}

结果

06-27 22:39:26卡扣:0005===>时间:2018-06-27 22:40:31卡扣:0008===>时间:2018-06-27 22:41:37卡扣:0005===>时间:2018-06-27 22:42:02卡扣:0000===>时间:2018-06-27 22:43:07卡扣:0002===>时间:2018-06-27 22:44:28卡扣:0004===>时间:2018-06-27 22:45:49卡扣:0001===>时间:2018-06-27 22:51:40卡扣:0005===>时间:2018-06-27 22:53:26卡扣:0008===>时间:2018-06-27 22:54:06卡扣:0007===>时间:2018-06-27 22:57:26卡扣:0004===>时间:2018-06-27 22:57:56卡扣:0005===>时间:2018-06-27 22:58:07卡扣:0006===>时间:2018-06-27 23:00:40卡扣:0006===>时间:2018-06-27 23:01:56卡扣:0008===>时间:2018-06-27 23:04:27卡扣:0004===>时间:2018-06-27 23:04:43卡扣:0003===>时间:2018-06-27 23:05:38卡扣:0001===>时间:2018-06-27 23:09:03卡扣:0007===>时间:2018-06-27 23:09:06卡扣:0005===>时间:2018-06-27 23:09:37卡扣:0004===>时间:2018-06-27 23:11:11卡扣:0007===>时间:2018-06-27 23:12:06卡扣:0001===>时间:2018-06-27 23:12:12卡扣:0008===>时间:2018-06-27 23:14:31卡扣:0002===>时间:2018-06-27 23:16:25卡扣:0007===>时间:2018-06-27 23:23:47卡扣:0000===>时间:2018-06-27 23:24:03卡扣:0008===>时间:2018-06-27 23:26:27卡扣:0003===>时间:2018-06-27 23:29:44卡扣:0001===>时间:2018-06-27 23:30:23卡扣:0003===>时间:2018-06-27 23:33:27卡扣:0007===>时间:2018-06-27 23:34:18卡扣:0002===>时间:2018-06-27 23:34:28卡扣:0002===>时间:2018-06-27 23:34:39卡扣:0001===>时间:2018-06-27 23:39:59卡扣:0005===>时间:2018-06-27 23:45:13卡扣:0001===>时间:2018-06-27 23:48:47卡扣:0004===>
汽车号:京D44143
时间:2018-06-27 02:00:01卡扣:0007===>时间:2018-06-27 02:00:59卡扣:0001===>时间:2018-06-27 02:02:11卡扣:0008===>时间:2018-06-27 02:02:29卡扣:0001===>时间:2018-06-27 02:02:31卡扣:0001===>时间:2018-06-27 02:04:11卡扣:0005===>时间:2018-06-27 02:06:20卡扣:0000===>时间:2018-06-27 02:07:36卡扣:0007===>时间:2018-06-27 02:14:36卡扣:0004===>时间:2018-06-27 02:14:58卡扣:0005===>时间:2018-06-27 02:15:01卡扣:0007===>时间:2018-06-27 02:15:14卡扣:0003===>时间:2018-06-27 02:17:16卡扣:0005===>时间:2018-06-27 02:20:59卡扣:0001===>时间:2018-06-27 02:21:26卡扣:0008===>时间:2018-06-27 02:21:27卡扣:0000===>时间:2018-06-27 02:22:19卡扣:0004===>时间:2018-06-27 02:26:20卡扣:0007===>时间:2018-06-27 02:35:02卡扣:0002===>时间:2018-06-27 02:35:28卡扣:0006===>时间:2018-06-27 02:37:23卡扣:0001===>时间:2018-06-27 02:38:13卡扣:0005===>时间:2018-06-27 02:38:33卡扣:0002===>时间:2018-06-27 02:39:15卡扣:0000===>时间:2018-06-27 02:39:42卡扣:0008===>时间:2018-06-27 02:41:53卡扣:0001===>时间:2018-06-27 02:46:54卡扣:0007===>时间:2018-06-27 02:47:23卡扣:0008===>时间:2018-06-27 02:52:27卡扣:0001===>时间:2018-06-27 02:53:31卡扣:0006===>时间:2018-06-27 03:08:55卡扣:0007===>
汽车号:京R34631
时间:2018-06-27 14:01:24卡扣:0004===>时间:2018-06-27 14:03:36卡扣:0005===>时间:2018-06-27 14:05:04卡扣:0006===>时间:2018-06-27 14:08:40卡扣:0007===>时间:2018-06-27 14:09:29卡扣:0002===>时间:2018-06-27 14:09:51卡扣:0008===>时间:2018-06-27 14:13:40卡扣:0008===>时间:2018-06-27 14:18:55卡扣:0005===>时间:2018-06-27 14:26:54卡扣:0001===>时间:2018-06-27 14:27:20卡扣:0000===>时间:2018-06-27 14:34:02卡扣:0001===>时间:2018-06-27 14:34:39卡扣:0006===>时间:2018-06-27 14:36:10卡扣:0003===>时间:2018-06-27 14:37:08卡扣:0006===>时间:2018-06-27 14:37:30卡扣:0003===>时间:2018-06-27 14:39:25卡扣:0005===>时间:2018-06-27 14:41:00卡扣:0007===>时间:2018-06-27 14:42:03卡扣:0001===>时间:2018-06-27 14:47:36卡扣:0001===>时间:2018-06-27 14:48:16卡扣:0003===>时间:2018-06-27 14:53:22卡扣:0001===>时间:2018-06-27 14:53:34卡扣:0005===>时间:2018-06-27 14:53:54卡扣:0001===>时间:2018-06-27 14:53:56卡扣:0002===>时间:2018-06-27 14:54:14卡扣:0003===>时间:2018-06-27 14:55:44卡扣:0003===>时间:2018-06-27 14:57:27卡扣:0006===>时间:2018-06-27 14:57:53卡扣:0000===>时间:2018-06-27 14:58:12卡扣:0008===>时间:2018-06-27 14:59:11卡扣:0008===>
汽车号:沪V82625

这篇关于Spark项目智慧城市车流量分析项目之固定卡口下车辆的行车轨迹的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/241786

相关文章

Go标准库常见错误分析和解决办法

《Go标准库常见错误分析和解决办法》Go语言的标准库为开发者提供了丰富且高效的工具,涵盖了从网络编程到文件操作等各个方面,然而,标准库虽好,使用不当却可能适得其反,正所谓工欲善其事,必先利其器,本文将... 目录1. 使用了错误的time.Duration2. time.After导致的内存泄漏3. jsO

Spring事务中@Transactional注解不生效的原因分析与解决

《Spring事务中@Transactional注解不生效的原因分析与解决》在Spring框架中,@Transactional注解是管理数据库事务的核心方式,本文将深入分析事务自调用的底层原理,解释为... 目录1. 引言2. 事务自调用问题重现2.1 示例代码2.2 问题现象3. 为什么事务自调用会失效3

一文教你如何将maven项目转成web项目

《一文教你如何将maven项目转成web项目》在软件开发过程中,有时我们需要将一个普通的Maven项目转换为Web项目,以便能够部署到Web容器中运行,本文将详细介绍如何通过简单的步骤完成这一转换过程... 目录准备工作步骤一:修改​​pom.XML​​1.1 添加​​packaging​​标签1.2 添加

tomcat多实例部署的项目实践

《tomcat多实例部署的项目实践》Tomcat多实例是指在一台设备上运行多个Tomcat服务,这些Tomcat相互独立,本文主要介绍了tomcat多实例部署的项目实践,具有一定的参考价值,感兴趣的可... 目录1.创建项目目录,测试文China编程件2js.创建实例的安装目录3.准备实例的配置文件4.编辑实例的

找不到Anaconda prompt终端的原因分析及解决方案

《找不到Anacondaprompt终端的原因分析及解决方案》因为anaconda还没有初始化,在安装anaconda的过程中,有一行是否要添加anaconda到菜单目录中,由于没有勾选,导致没有菜... 目录问题原因问http://www.chinasem.cn题解决安装了 Anaconda 却找不到 An

Spring定时任务只执行一次的原因分析与解决方案

《Spring定时任务只执行一次的原因分析与解决方案》在使用Spring的@Scheduled定时任务时,你是否遇到过任务只执行一次,后续不再触发的情况?这种情况可能由多种原因导致,如未启用调度、线程... 目录1. 问题背景2. Spring定时任务的基本用法3. 为什么定时任务只执行一次?3.1 未启用

springboot集成Deepseek4j的项目实践

《springboot集成Deepseek4j的项目实践》本文主要介绍了springboot集成Deepseek4j的项目实践,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价... 目录Deepseek4j快速开始Maven 依js赖基础配置基础使用示例1. 流式返回示例2. 进阶

SpringBoot项目启动报错"找不到或无法加载主类"的解决方法

《SpringBoot项目启动报错找不到或无法加载主类的解决方法》在使用IntelliJIDEA开发基于SpringBoot框架的Java程序时,可能会出现找不到或无法加载主类com.example.... 目录一、问题描述二、排查过程三、解决方案一、问题描述在使用 IntelliJ IDEA 开发基于

SpringBoot项目使用MDC给日志增加唯一标识的实现步骤

《SpringBoot项目使用MDC给日志增加唯一标识的实现步骤》本文介绍了如何在SpringBoot项目中使用MDC(MappedDiagnosticContext)为日志增加唯一标识,以便于日... 目录【Java】SpringBoot项目使用MDC给日志增加唯一标识,方便日志追踪1.日志效果2.实现步

C++ 各种map特点对比分析

《C++各种map特点对比分析》文章比较了C++中不同类型的map(如std::map,std::unordered_map,std::multimap,std::unordered_multima... 目录特点比较C++ 示例代码 ​​​​​​代码解释特点比较1. std::map底层实现:基于红黑