Rstudio Server + Docker + tensorflowR - 云端安装与使用R语言与GPU深度学习

本文主要是介绍Rstudio Server + Docker + tensorflowR - 云端安装与使用R语言与GPU深度学习,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

笔者本来想在阿里云上部署nvidia - docker + Rstudio Server,然后使用R语言来进行深度学习。本篇是在该过程中产生的经验之谈。


文章目录

  • 1 准备阶段
  • 2 Rstudio Server nvidia-docker 环境
    • 2.1 docker初始化的问题
    • 2.2 docker中文环境布置问题
  • 3 Rstudio Server的部署
    • 3.1 启动
    • 3.2 添加用户组
  • 4 R语言与tensorflow + keras
    • 4.1 安装
    • 4.2 占用指定显存容量
    • 4.3 模型


1 准备阶段

来看看要准备一些什么:

  • cuda/cudnn不提了…
  • docker/nvidia-docker安装如下,一些问题可参考:docker︱在nvidia-docker中使用tensorflow-gpu/jupyter,大致如下:

安装docker

curl -sSL https://get.docker.com/ | sh1

安装Nvidia Docker

wget -P /tmp https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker_1.0.1-1_amd64.deb
sudo dpkg -i /tmp/nvidia-docker*.deb12

通过以下命令来检验是否成功:

nvidia-docker run --rm nvidia/cuda nvidia-smi

2 Rstudio Server nvidia-docker 环境

在项目pbhogale/gpu-keras-rstudio中有非常棒的环境已经写好,大致的环境为:nvidia/cuda:9.0-cudnn7-runtime

2.1 docker初始化的问题

但是由于在阿里云上对接github上很多资源下载会出现time out;
也会出现因为版本问题而无法下载的,在笔者调试了很多次下该Dockerfile是可以把环境部署好的(下载链接),但是需要自己在docker里面自己装keras:tensorflow。

把笔者提供的Dockerfile替换一下gpu-keras-tidyverse文件夹下的文件。
其中需要注意的有,注意点一:

RUN set -e \&& useradd -m -d /home/rstudio rstudio \&& echo rstudio:rstudioTheLegendOfZelda \| chpasswd \&& apt-get -y autoremove \&& apt-get clean

这个代表了设置rstudio的初始密码,好吧… 这个docker默认设置有点调皮,密码好长…
账号为:rstudio
密码为:rstudioTheLegendOfZelda

注意点二:

RUN set -e \&& grep '^DISTRIB_CODENAME' /etc/lsb-release \| cut -d = -f 2 \| xargs -I {} echo "deb ${CRAN_URL}bin/linux/ubuntu {}/" \| tee -a /etc/apt/sources.list \&& apt-key adv --keyserver keyserver.ubuntu.com --recv-keys E084DAB9 \&& apt-get update \&& apt-get upgrade -y -q \&& pip install --upgrade pip==9.0.3 \&& pip install virtualenv \&& pip install pelican \&& rm -rf .cache \&& echo 'options(repos = c(CRAN = "https://mirrors.tuna.tsinghua.edu.cn/CRAN/"))' >> /etc/R/Rprofile.site \&& /usr/lib/R/site-library/littler/examples/install.r tensorflow keras \&& r -e "install.packages(c('devtools', 'xgboost', 'tidyverse', 'rmarkdown', 'greta', 'usethis', 'docopt'))" \&& apt-get -y autoremove \&& apt-get clean

options(repos = c(CRAN = "https://mirrors.tuna.tsinghua.edu.cn/CRAN/"))这个如果是阿里云需要改成清华的镜像,不然基本下载不了。

2.2 docker中文环境布置问题

启动docker + r server会发现中文读入不了,笔者加载了 Sys.setlocale("LC_ALL", 'en_US.UTF-8')Sys.setlocale()
有以下几个问题:原因是系统里面没有utf-8的locale。

Warning message:
In Sys.setlocale("LC_ALL", "Chinese") :OS reports request to set locale to "Chinese" cannot be honored

以及

Warning message:
Character set is not UTF-8; please change your locale

需要在docker环境下安装locale,可参考:

locale-gen en_US.UTF-8
apt-get install language-pack-zh-hant-base language-pack-zh-hans-base

参考:
Ubuntu 安装和启用中文
修改locale
比较来说,在/etc/default/locale文件最好使用以下:

LANG="en_US.UTF-8"
LANGUAGE="en_US:en"

3 Rstudio Server的部署

3.1 启动

   #查看是否安装正确 sudo rstudio-server verify-installation ## 启动 sudo rstudio-server start ## 查看状态 sudo rstudio-server status ## 停止 sudo rstudio-server stop ## 重启sudo rstudio-server restart## 查看服务端ip地址 ifconfig

3.2 添加用户组

    ##添加用户组sudo groupadd rstudio-group##添加用户sudo useradd anlan -g rstudio-group##设置用户密码sudo passwd xxxxxx##创建用户目录sudo mkdir /home/anlan##赋予目录权限sudo chown -R anlan:rstudio-group /home/anlan

但是如果是在docker之中使用,笔者一直发现一个问题,就是添加不了用户,一直报错:

RSTUDIO INITIALIZATION ERROR: UNABLE TO CONNECT TO SERVICE

解决办法是:
参考:解決登入 Docker 的 RStudio 遇到錯誤 RStudio Initialization Error: Unable to connect to service

  • 只登陆一个账号,一般为rstudio:rstudio,此处如果是默认的docker的话,即为:rstudio:rstudioTheLegendOfZelda
  • 第二种是在docker启动的时候,就为设置账号和密码(笔者实验好像无效):
docker run -d -p 8787:8787 -e USER=<username> -e PASSWORD=<password> rocker/rstudio

4 R语言与tensorflow + keras

4.1 安装

有了以上的环境,那么来看一下R之中使用keras/tensorflow,如果要使用简单的keras,需要先加载Keras,然后使用keras下载tensorflow。

install.packages("devtools")
devtools::install_github("rstudio/keras")
library(keras)
install_tensorflow(gpu=TRUE)

其中install_tensorflow()与install_keras()有几个参数:

# 函数一:install_keras
install_keras <- function(method = c("auto", "virtualenv", "conda"), conda = "auto",tensorflow = "default",
extra_packages = c("tensorflow-hub")) # 函数二:install_tensorflow 
install_tensorflow <- function(method = c("auto", "virtualenv", "conda", "system"),conda = "auto",version = "default",envname = "r-tensorflow",extra_packages = c("keras", "tensorflow-hub"),
restart_session = TRUE) 
MethodDescription
autoAutomatically choose an appropriate default for the current platform.
virtualenvInstall into a Python virtual environment at ~/.virtualenvs/r-tensorflow
condaInstall into an Anaconda Python environment named r-tensorflow
systemInstall into the system Python environment

一些控制版本:

# tensorflow
install_tensorflow(version = "1.0.0")
install_tensorflow(method = "conda")
install_tensorflow(version = "nightly-gpu")  # gpu version
install_tensorflow(version = "gpu")  # gpu version# keras
library(keras)
install_keras(tensorflow = "1.2.1")
install_keras(tensorflow = "1.2.1-gpu")
install_keras(method = "conda")

那么大体来说,py的版本控制,好像没有特别的参数与控制,一般默认是py2的tensorflow,其中在install_tensorflow():

python_versions <- py_versions_windows()

4.2 占用指定显存容量

这边如果在使用tf的时候,会出现一下子把显存全部占满的情况,则需要控制一下,笔者只是照搬了py的稍微改一下,没想到能用,分享给大家。

library(tensorflow)
config = tf$ConfigProto()
config$gpu_options$per_process_gpu_memory_fraction = 0.3
tf$Session(config=config)

4.3 模型

这边就不举例了,在很多地方都有:

Keras for R: https://blog.rstudio.com/2017/09/05/keras-for-r/


可参考:
Installing TensorFlow
https://github.com/rstudio/keras
https://github.com/rstudio/tensorflow

这篇关于Rstudio Server + Docker + tensorflowR - 云端安装与使用R语言与GPU深度学习的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/518478

相关文章

R语言中的正则表达式深度解析

《R语言中的正则表达式深度解析》正则表达式即使用一个字符串来描述、匹配一系列某个语法规则的字符串,通过特定的字母、数字及特殊符号的灵活组合即可完成对任意字符串的匹配,:本文主要介绍R语言中正则表达... 目录前言一、正则表达式的基本概念二、正则表达式的特殊符号三、R语言中正则表达式的应用实例实例一:查找匹配

Centos7 firewall和docker冲突问题及解决过程

《Centos7firewall和docker冲突问题及解决过程》本文描述了一个在CentOS7上使用firewalld和Docker容器的问题,当firewalld启动或重启时,会从iptable... 目录系统环境问题描述问题排查解决办法总结本文只是我对问题的记录,只能用作参考,不能China编程说明问题,请

Java中的ConcurrentBitSet使用小结

《Java中的ConcurrentBitSet使用小结》本文主要介绍了Java中的ConcurrentBitSet使用小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、核心澄清:Java标准库无内置ConcurrentBitSet二、推荐方案:Eclipse

Go语言结构体标签(Tag)的使用小结

《Go语言结构体标签(Tag)的使用小结》结构体标签Tag是Go语言中附加在结构体字段后的元数据字符串,用于提供额外的属性信息,这些信息可以通过反射在运行时读取和解析,下面就来详细的介绍一下Tag的使... 目录什么是结构体标签?基本语法常见的标签用途1.jsON 序列化/反序列化(最常用)2.数据库操作(

Java中ScopeValue的使用小结

《Java中ScopeValue的使用小结》Java21引入的ScopedValue是一种作用域内共享不可变数据的预览API,本文就来详细介绍一下Java中ScopeValue的使用小结,感兴趣的可以... 目录一、Java ScopedValue(作用域值)详解1. 定义与背景2. 核心特性3. 使用方法

spring中Interceptor的使用小结

《spring中Interceptor的使用小结》SpringInterceptor是SpringMVC提供的一种机制,用于在请求处理的不同阶段插入自定义逻辑,通过实现HandlerIntercept... 目录一、Interceptor 的核心概念二、Interceptor 的创建与配置三、拦截器的执行顺

SQL Server 中的表进行行转列场景示例

《SQLServer中的表进行行转列场景示例》本文详细介绍了SQLServer行转列(Pivot)的三种常用写法,包括固定列名、条件聚合和动态列名,文章还提供了实际示例、动态列数处理、性能优化建议... 目录一、常见场景示例二、写法 1:PIVOT(固定列名)三、写法 2:条件聚合(CASE WHEN)四、

C#中checked关键字的使用小结

《C#中checked关键字的使用小结》本文主要介绍了C#中checked关键字的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录✅ 为什么需要checked? 问题:整数溢出是“静默China编程”的(默认)checked的三种用

C#中预处理器指令的使用小结

《C#中预处理器指令的使用小结》本文主要介绍了C#中预处理器指令的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录 第 1 名:#if/#else/#elif/#endif✅用途:条件编译(绝对最常用!) 典型场景: 示例

jdk1.8的Jenkins安装配置实践

《jdk1.8的Jenkins安装配置实践》Jenkins是一款流行的开源持续集成工具,支持自动构建、测试和部署,通过Jenkins,开发团队可以实现代码提交后自动进行构建、测试,并将构建结果分发到测... 目录Jenkins介绍Jenkins环境搭建Jenkins安装配置Jenkins插件安装Git安装配