前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >十分钟配置云端数据科学开发环境

十分钟配置云端数据科学开发环境

原创
作者头像
EarlGrey
修改2017-06-19 19:10:48
2.8K0
修改2017-06-19 19:10:48
举报
文章被收录于专栏:EarlGrey的专栏EarlGrey的专栏

做数据科学开发,目前最流行的语言之一是 Python,这主要得益于其提供 Numpy、Pandas等强大的软件包,以及 Jupyter 这样便捷的开发环境。

本文将介绍如何在一台云服务器上配置 Jupyter Notebook 环境,从此只要有浏览器和网络,就是可以随时随地进行数据科学开发工作,不用担心家庭环境与办公环境多次配置的问题。

[1490153271508_9229_1490153269702.png]
[1490153271508_9229_1490153269702.png]

前提条件

如果想跟随本教程一起完成环境搭建工作,需要拥有一台云服务器,笔者使用的是腾讯云提供的 CVM,操作系统为 Ubuntu 14.04。如果不满足该条件,可以考虑通过笔者的推荐链接购买

如果你打算长期使用该服务器,可以参考这篇文章:如何正确配置 Ubuntu 14.04 云服务器?

购买服务器并完成配置之后,即可通过如下命令登录:

代码语言:txt
复制
ssh ubuntu@cvm-ip

安装依赖

Jupyter 是使用 Python 编写的一个软件包。而且,我们希望在 Jupyter 中使用 Python 2 和 Python 3等多个版本,因此先安装 Python 3 和 pip 。(Ubuntu 14.04 默认安装了 Python 2.7)

代码语言:txt
复制
sudo apt-get install update
sudo apt-get install python3 python-pip

配置国内 PyPI 源

后续使用 pip 安装第三方库时,由于受国内网络限制,速度会比较慢。我们首先将 PyPI 的源修改为国内源,这里使用的是中国科学技术大学提供的源。

编辑 ~/.pip/pip.conf ,在最上方加入如下内容:

代码语言:txt
复制
[global]
index-url = https://mirrors.ustc.edu.cn/pypi/web/simple
format = columns

配置好之后,即可享受风一般的安装速度。

虚拟环境

下面,为 Jupyter 创建一个独立的虚拟环境,与系统自带的 Python 隔离开来。为此,先安装 virtualenv 库:

代码语言:txt
复制
sudo pip install -U virtualenv

由于我们目前是以 ubuntu 用户,可能要以 sudo 执行命令,避免 pip 安装时出现权限问题。

然后,创建一个专门的虚拟环境,并直接激活:

代码语言:txt
复制
virtualenv venv -p python3
source venv/bin/activate

在创建虚拟环境时,指定的 Python 版本为 3,方便后续的操作。

安装 Jupyter

Jupyter 的安装其实很简单,只需要执行一行命令即可:

代码语言:txt
复制
sudo pip install -U jupyter

由于会安装其他相关的依赖库,这一步所需的时间可能较长。

配置 Jupyter

安装好 Jupyter 之后,我们需要对其进行简单的配置,比如设置访问密码,默认不自动打开浏览器等。Jupyter 默认会使用 ~/.jupyter/jupyter-noteboook-config.py 配置文件,我们在 ~/venv/ 目录下新建一个 conf.py 文件作为自定义配置文件。

代码语言:txt
复制
mkdir -p ~/venv/conf.py

创建密码

为了方便,我们选择 jupyter 作为访问密码。

需要在命令行依次执行如下命令,结束之后会得到一个密码的 sha1 值,后续要填写在配置文件中。

代码语言:sh
复制
PASSWD=$(python -c 'from notebook.auth import passwd; print(passwd("jupyter"))')
echo "c.NotebookApp.password = u'${PASSWD}'"

其他设置

此外,为了能够直接通过浏览器打开 http://cvm-ip:8881 地址,访问 Jupyter Notebook,我们还要做如下设置:

代码语言:txt
复制
c.NotebookApp.ip = '*'
c.NotebookApp.open_browser = False
c.NotebookApp.port = 8881
c.NotebookApp.password = u'sha1:${PASSWD}' # ${PASSWD} 替换为实际的 sha1 值

将上面两处设置,写入 conf.py 文件,然后执行如下命令即可:

代码语言:txt
复制
jupyter notebook --config ~/venv/conf.py

[图片]
[图片]

新建 Jupyter 系统服务

为了能够长时间访问 Jupyter Notebook,避免每次都需登陆服务器手动执行命令,我们需要让该命令一直在后台自动运行,最好是支持系统重启时自动启动。因此,我们可以将 jupyter 变成一个系统服务。

创建 /etc/init/jupyter.conf 文件,写入如下内容:

代码语言:txt
复制
start on runlevel [2345]
stop on runlevel [!2345]

setuid ubuntu
setgid ubuntu

env PATH=/home/ubuntu/venv/bin
chdir /home/ubuntu/jupyter
exec jupyter notebook --config /home/ubuntu/venv/conf.py

上面定义了该服务在 runlevel 为 2、3、4、5 时启动,而在非这几个 runlevel 时停止该服务。

运行级别0:系统停机状态,系统默认运行级别不能设为0,否则不能正常启动 运行级别1:单用户工作状态,root权限,用于系统维护,禁止远程登陆 运行级别2:多用户状态(没有NFS) 运行级别3:完全的多用户状态(有NFS),登陆后进入控制台命令行模式 运行级别4:系统未使用,保留 运行级别5:X11控制台,登陆后进入图形GUI模式 运行级别6:系统正常关闭并重启,默认运行级别不能设为6,否则不能正常启动

配置好了 jupyter.conf 文件之后,就能够通过如下命令启动、停止和重启 Jupyter Notebook 了:

代码语言:txt
复制
sudo start jupyter # 启动 jupyter
sudo stop/restart jupyter # 停止/重启 jupyter
sudo status jupyter # 查看 jupyter 的状态

这样,每次系统启动或者出错重启时,都会启动 Jupyter Notebook。

配置 Nignx 并创建系统服务

下一步,我们设置 Nginx 作为 Jupyter 的反向代理服务器。首先,安装 Nginx,并修改default 设置:

代码语言:txt
复制
sudo apt-get install nignx
sudo vim /etc/nginx/sites-available/default

修改其中的 location / 部分,并注释掉某些行,具体见下面的示例:

代码语言:txt
复制
server {
        listen 80 default_server;
        listen [::]:80 default_server ipv6only=on;

        #root /usr/share/nginx/html;
        #index index.html index.htm;

        # Make site accessible from http://localhost/
        server_name localhost;

        location / {
                # First attempt to serve request as file, then
                # as directory, then fall back to displaying a 404.
                # try_files $uri $uri/ =404;
                proxy_pass http://localhost:8881;
                # Uncomment to enable naxsi on this location
                # include /etc/nginx/naxsi.rules
        }
}

这一步需要注释掉 try_files 一行,并新增 proxy_pass http://localhost:8881;,将对 http://cvm-ip 的访问请求转发至该地址 。

保存并退出文件,然后重启 Nginx 服务即可。

代码语言:txt
复制
sudo service nginx restart

之后,再修改 conf.py 文件:

代码语言:txt
复制
#conf.py
c.NotebookApp.ip = 'localhost' # 表示只接受来自本机的请求
...

并重启 Jupyter 服务:

代码语言:txt
复制
sudo restart jupyter

现在我们访问云服务器的 IP 地址时,就会进入 Jupyter Notebook 的登陆页面。

[1490153347220_5974_1490153345482.png]
[1490153347220_5974_1490153345482.png]

制作系统镜像

虽然说上面的整个过程并不太复杂,一步一步跟着教程做的话可能十分钟左右就可以搞定了。但是如果希望以后也能够快速复制同样的系统,将整个过程编写为一个脚本来自动安装、配置时比较好的选择。不过,最终安装、配置的时间还是会有的。

推荐一种更加快速的方法,即使用腾讯云等云服务商提供的制作镜像功能,将配置好的系统直接打包,以后可以直接使用镜像,只要1-2分钟,就可以启动 Jupyter Notebook 服务器了。

相关推荐:

  1. 利用Pelican搭建数据科学博客
  2. 人人都可以做深度学习应用:入门篇(上)

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 前提条件
  • 安装依赖
  • 配置国内 PyPI 源
  • 虚拟环境
  • 安装 Jupyter
  • 配置 Jupyter
    • 创建密码
      • 其他设置
      • 新建 Jupyter 系统服务
      • 配置 Nignx 并创建系统服务
      • 制作系统镜像
      相关产品与服务
      云服务器
      云服务器(Cloud Virtual Machine,CVM)提供安全可靠的弹性计算服务。 您可以实时扩展或缩减计算资源,适应变化的业务需求,并只需按实际使用的资源计费。使用 CVM 可以极大降低您的软硬件采购成本,简化 IT 运维工作。
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档