关于H2O集群的部署方式

2023-10-09 15:30
文章标签 部署 集群 方式 h2o

本文主要是介绍关于H2O集群的部署方式,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1、前期实践

2、集群部署实践

2.1 Centos环境下kubernetes的快速部署请参考博文:Yum安装Kubernetes(k8s);

2.2 k8s安装完成后,将H2O压缩包上传至centos相关文件夹下,进行解压缩;

2.3 编写flatfile进行集群广播,需在每个h2o节点上传flatfile.txt文件;

2.4  访问master节点的 http://ip:54321 ,查看集群状态(admin-cluster state)如下:

 3、结论


1、前期实践

根据官网指导的多播、fllatfile两种方式可以起多节点部署h2o框架,经实践,仅仅单纯的部署,只能找到本机自身的节点信息,同网络内的其他节点无法自动加入,形成集群(与nginx无关);

2、集群部署实践

官网还提示了Hadoop、K8S的分布式部署方式,本文采用K8S集群来辅助进行分布式部署,由于K8S本身有master、node的概念,节点的寻找及加入问题得到解决,然后再启动H2O服务;

2.1 Centos环境下kubernetes的快速部署请参考博文:Yum安装Kubernetes(k8s);

2.2 k8s安装完成后,将H2O压缩包上传至centos相关文件夹下,进行解压缩;

      最新H2O下载地址:官网下载

      上传至/home 文件夹下: rz  h2o.zip

      解压缩命令:unzip  h2o.zip

      切换文件目录: cd  h2o

2.3 编写flatfile进行集群广播,需在每个h3o节点上传flatfile.txt文件;

        内容如下,然后wq!保存:

        master:54321

        node1:54321

        node2:54321

        作业开始前,使用如下命令启动h2o,节点自动加入,形成集群;

         java  -Xmx4g  -jar  h2o.jar  -flatfile flatfile.txt  -name MyCluster

         -Xmx4g  :表示占用4g的内存空间

         -name  : 写明要建立的集群名称参数,此处是MyCluster

         master启动时:

         

         node1启动时,自动加入集群,此时集群中包含2个节点:

         

         node2启动时,自动加入集群,此时集群中包含3个节点:

         

 2.4  访问master节点的 http://ip:54321 ,查看集群状态(admin-cluster state)如下:

          

 3、结论

         使用k8s辅助进行分布式部署h2o自动机器学习服务框架,那么h2o服务的实际性能,是否即是K8S的性能测试,因为实际的资源调度是由K8S来进行统筹分发,那实际的性能优化,主要侧重在K8S方面?

这篇关于关于H2O集群的部署方式的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/173829

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r

HDFS—集群扩容及缩容

白名单:表示在白名单的主机IP地址可以,用来存储数据。 配置白名单步骤如下: 1)在NameNode节点的/opt/module/hadoop-3.1.4/etc/hadoop目录下分别创建whitelist 和blacklist文件 (1)创建白名单 [lytfly@hadoop102 hadoop]$ vim whitelist 在whitelist中添加如下主机名称,假如集群正常工作的节

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

内核启动时减少log的方式

内核引导选项 内核引导选项大体上可以分为两类:一类与设备无关、另一类与设备有关。与设备有关的引导选项多如牛毛,需要你自己阅读内核中的相应驱动程序源码以获取其能够接受的引导选项。比如,如果你想知道可以向 AHA1542 SCSI 驱动程序传递哪些引导选项,那么就查看 drivers/scsi/aha1542.c 文件,一般在前面 100 行注释里就可以找到所接受的引导选项说明。大多数选项是通过"_

搭建Kafka+zookeeper集群调度

前言 硬件环境 172.18.0.5        kafkazk1        Kafka+zookeeper                Kafka Broker集群 172.18.0.6        kafkazk2        Kafka+zookeeper                Kafka Broker集群 172.18.0.7        kafkazk3

用命令行的方式启动.netcore webapi

用命令行的方式启动.netcore web项目 进入指定的项目文件夹,比如我发布后的代码放在下面文件夹中 在此地址栏中输入“cmd”,打开命令提示符,进入到发布代码目录 命令行启动.netcore项目的命令为:  dotnet 项目启动文件.dll --urls="http://*:对外端口" --ip="本机ip" --port=项目内部端口 例: dotnet Imagine.M

深入理解RxJava:响应式编程的现代方式

在当今的软件开发世界中,异步编程和事件驱动的架构变得越来越重要。RxJava,作为响应式编程(Reactive Programming)的一个流行库,为Java和Android开发者提供了一种强大的方式来处理异步任务和事件流。本文将深入探讨RxJava的核心概念、优势以及如何在实际项目中应用它。 文章目录 💯 什么是RxJava?💯 响应式编程的优势💯 RxJava的核心概念

【即时通讯】轮询方式实现

技术栈 LayUI、jQuery实现前端效果。django4.2、django-ninja实现后端接口。 代码仓 - 后端 代码仓 - 前端 实现功能 首次访问页面并发送消息时需要设置昵称发送内容为空时要提示用户不能发送空消息前端定时获取消息,然后展示在页面上。 效果展示 首次发送需要设置昵称 发送消息与消息展示 提示用户不能发送空消息 后端接口 发送消息 DB = []@ro