基于akka与scala实现一个简单rpc框架

2024-06-02 21:08
文章标签 简单 实现 rpc 框架 scala akka

本文主要是介绍基于akka与scala实现一个简单rpc框架,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、RPC简介

RPC,即 Remote Procedure Call(远程过程调用),说得通俗一点就是:调用远程计算机上的服务,就像调用本地服务一样。
RPC 可基于 HTTP 或 TCP 协议,Web Service 就是基于 HTTP 协议的 RPC,它具有良好的跨平台性,但其性能却不如基于 TCP 协议的 RPC。会两方面会直接影响 RPC 的性能,一是传输方式,二是序列化。
众所周知,TCP 是传输层协议,HTTP 是应用层协议,而传输层较应用层更加底层,在数据传输方面,越底层越快,因此,在一般情况下,TCP 一定比 HTTP 快。就序列化而言,Java 提供了默认的序列化方式,但在高并发的情况下,这种方式将会带来一些性能上的瓶颈,于是市面上出现了一系列优秀的序列化框架从而提供更高效的性能。
我们需要将服务部署在分布式环境下的不同节点上,通过服务注册的方式,让客户端来自动发现当前可用的服务,并调用这些服务。这需要一种服务注册表(Service Registry)的组件,让它来注册分布式环境下所有的服务地址(包括:主机名与端口号)。

二、代码框架



三、代码实现

该小项目包含四个文件:

1.WorkerInfo,用于保存Worker的信息,此次保存Worker的上一次心跳时间

package com.zxl.rpcclass WorkerInfo(val id: String, val memory: Int, val cores: Int) {// TODO 上一次心跳var lastHeartbeatTime: Long = _
}
2.RemoteMessage,实现序列化并定义Master与Worker之间传送信息的类型

package com.zxl.rpc/*** 用于实现序列化 网络传输*/
trait RemoteMessage extends Serializable// Worker -> Master
case class RegisterWorker(id: String, memory: Int, cores: Int) extends RemoteMessage
case class Heartbeat(id: String) extends RemoteMessage// Master -> Worker
case class RegisteredWorker(masterUrl: String) extends RemoteMessage// Worker -> self
case object SendHeartbeat// Master -> self
case object CheckTimeOutWorker
3.Worker,与Master进行消息交互

package com.zxl.rpcimport java.util.UUID
import akka.actor.{Props, ActorSystem, Actor, ActorSelection}
import com.typesafe.config.ConfigFactory
import scala.concurrent.duration._class Worker(val masterHost: String, val masterPort: Int, val memory: Int, val cores: Int) extends Actor {// 与master连接的对象var master : ActorSelection = _// 每个worker的idval workerId = UUID.randomUUID().toString// 发送心跳的时间间隔val HEART_INTERVAL = 10000override def preStart(): Unit = {// 建立连接// 在Master启动时会打印下面的那个协议, 可以先用这个做一个标志, 连接哪个master// 继承actor后会有一个context, 可以通过它来连接// 需要有/user, Master要和master那边创建的名字保持一致master = context.actorSelection(s"akka.tcp://MasterSystem@$masterHost:$masterPort/user/Master")// 向Master发送注册消息master ! RegisterWorker(workerId, memory, cores)}override def receive: Receive = {case RegisteredWorker(masterUrl) => {println(masterUrl)// 启动定时器发送心跳import context.dispatcher// 多长时间后执行 单位,多长时间执行一次 单位, 消息的接受者(直接给master发不好, 先给自己发送消息, 以后可以做下判断, 什么情况下再发送消息), 信息context.system.scheduler.schedule(0 millis, HEART_INTERVAL millis, self, SendHeartbeat)}case SendHeartbeat => {println("send heartbeat to master")// 对master发送心跳信息,发送当前worker的idmaster ! Heartbeat(workerId)}}
}object Worker {def main(args: Array[String]) {val host = args(0)val port = args(1).toIntval masterHost = args(2)val masterPort = args(3).toInt// 分配的内存大小val memory = args(4).toInt// 分配的处理器核数val cores = args(5).toInt// 准备配置val configStr =s"""|akka.actor.provider = "akka.remote.RemoteActorRefProvider"|akka.remote.netty.tcp.hostname = "$host"|akka.remote.netty.tcp.port = "$port"""".stripMarginval config = ConfigFactory.parseString(configStr)// ActorSystem老大,辅助创建和监控下面的Actor,它是单例的val actorSystem = ActorSystem("WorkerSystem", config)actorSystem.actorOf(Props(new Worker(masterHost, masterPort, memory, cores)), "Worker")actorSystem.awaitTermination()}
}
4.Master,接收Worker的消息并做回应

package com.zxl.rpcimport akka.actor.{Props, ActorSystem, Actor}
import com.typesafe.config.ConfigFactory
import scala.collection.mutable
import scala.concurrent.duration._class Master(val host: String, val port: Int) extends Actor {// 保存(workerId,WorkerInfo)val idToWorker = new mutable.HashMap[String, WorkerInfo]()// 保存wokerInfo// 使用set删除快, 也可用linkListval workers = new mutable.HashSet[WorkerInfo]()// 超时检查的间隔val CHECK_INTERVAL = 15000override def preStart(): Unit = {println("preStart invoked")// 导入隐式转换import context.dispatcher// 使用timer太low了, 可以使用akka的, 使用定时器, 要导入这个包// 定时检查worker的心跳时间是否超时context.system.scheduler.schedule(0 millis, CHECK_INTERVAL millis, self, CheckTimeOutWorker)}// 用于接收消息override def receive: Receive = {case RegisterWorker(id, memory, cores) => {// 判断一下,是不是已经注册过if(!idToWorker.contains(id)) {// 把Worker的信息封装起来保存到内存当中val workerInfo = new WorkerInfo(id, memory, cores)idToWorker(id) = workerInfoworkers += workerInfo// 通知worker注册 并将master的地址返回给workersender ! RegisteredWorker(s"akka.tcp://MasterSystem@$host:$port/user/Master")}}case Heartbeat(id) => {if(idToWorker.contains(id)) {val workerInfo = idToWorker(id)// 报活val currentTime = System.currentTimeMillis()// 更新已收到id的worker的上一次心跳时间workerInfo.lastHeartbeatTime = currentTime}}case CheckTimeOutWorker => {val currentTime = System.currentTimeMillis()// 获取过时的workerval toRemove = workers.filter(x => currentTime - x.lastHeartbeatTime > CHECK_INTERVAL)// 将超时的worker从两个集合中去掉for(w <- toRemove) {workers -= widToWorker -= w.id}println(workers.size)}}
}object Master {def main(args: Array[String]) {val host = args(0)val port = args(1).toInt// 准备配置val configStr =s"""|akka.actor.provider = "akka.remote.RemoteActorRefProvider"|akka.remote.netty.tcp.hostname = "$host"|akka.remote.netty.tcp.port = "$port"""".stripMarginval config = ConfigFactory.parseString(configStr)// ActorSystem老大,辅助创建和监控下面的Actor,它是单例的val actorSystem = ActorSystem("MasterSystem", config)// 创建Actorval master = actorSystem.actorOf(Props(new Master(host, port)), "Master")master ! "hello"actorSystem.awaitTermination()}
}


这篇关于基于akka与scala实现一个简单rpc框架的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1025087

相关文章

Java实现检查多个时间段是否有重合

《Java实现检查多个时间段是否有重合》这篇文章主要为大家详细介绍了如何使用Java实现检查多个时间段是否有重合,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录流程概述步骤详解China编程步骤1:定义时间段类步骤2:添加时间段步骤3:检查时间段是否有重合步骤4:输出结果示例代码结语作

使用C++实现链表元素的反转

《使用C++实现链表元素的反转》反转链表是链表操作中一个经典的问题,也是面试中常见的考题,本文将从思路到实现一步步地讲解如何实现链表的反转,帮助初学者理解这一操作,我们将使用C++代码演示具体实现,同... 目录问题定义思路分析代码实现带头节点的链表代码讲解其他实现方式时间和空间复杂度分析总结问题定义给定

Java覆盖第三方jar包中的某一个类的实现方法

《Java覆盖第三方jar包中的某一个类的实现方法》在我们日常的开发中,经常需要使用第三方的jar包,有时候我们会发现第三方的jar包中的某一个类有问题,或者我们需要定制化修改其中的逻辑,那么应该如何... 目录一、需求描述二、示例描述三、操作步骤四、验证结果五、实现原理一、需求描述需求描述如下:需要在

如何使用Java实现请求deepseek

《如何使用Java实现请求deepseek》这篇文章主要为大家详细介绍了如何使用Java实现请求deepseek功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1.deepseek的api创建2.Java实现请求deepseek2.1 pom文件2.2 json转化文件2.2

python使用fastapi实现多语言国际化的操作指南

《python使用fastapi实现多语言国际化的操作指南》本文介绍了使用Python和FastAPI实现多语言国际化的操作指南,包括多语言架构技术栈、翻译管理、前端本地化、语言切换机制以及常见陷阱和... 目录多语言国际化实现指南项目多语言架构技术栈目录结构翻译工作流1. 翻译数据存储2. 翻译生成脚本

C++初始化数组的几种常见方法(简单易懂)

《C++初始化数组的几种常见方法(简单易懂)》本文介绍了C++中数组的初始化方法,包括一维数组和二维数组的初始化,以及用new动态初始化数组,在C++11及以上版本中,还提供了使用std::array... 目录1、初始化一维数组1.1、使用列表初始化(推荐方式)1.2、初始化部分列表1.3、使用std::

如何通过Python实现一个消息队列

《如何通过Python实现一个消息队列》这篇文章主要为大家详细介绍了如何通过Python实现一个简单的消息队列,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录如何通过 python 实现消息队列如何把 http 请求放在队列中执行1. 使用 queue.Queue 和 reque

Python如何实现PDF隐私信息检测

《Python如何实现PDF隐私信息检测》随着越来越多的个人信息以电子形式存储和传输,确保这些信息的安全至关重要,本文将介绍如何使用Python检测PDF文件中的隐私信息,需要的可以参考下... 目录项目背景技术栈代码解析功能说明运行结php果在当今,数据隐私保护变得尤为重要。随着越来越多的个人信息以电子形

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景

使用Python快速实现链接转word文档

《使用Python快速实现链接转word文档》这篇文章主要为大家详细介绍了如何使用Python快速实现链接转word文档功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 演示代码展示from newspaper import Articlefrom docx import