十分钟配置云端数据科学开发环境

做数据科学开发,目前最流行的语言之一是 Python,这主要得益于其提供 Numpy、Pandas等强大的软件包,以及 Jupyter 这样便捷的开发环境。

本文将介绍如何在一台云服务器上配置 Jupyter Notebook 环境,从此只要有浏览器和网络,就是可以随时随地进行数据科学开发工作,不用担心家庭环境与办公环境多次配置的问题。

前提条件

如果想跟随本教程一起完成环境搭建工作,需要拥有一台云服务器,笔者使用的是腾讯云提供的 CVM,操作系统为 Ubuntu 14.04。如果不满足该条件,可以考虑通过笔者的推荐链接购买

如果你打算长期使用该服务器,可以参考这篇文章:如何正确配置 Ubuntu 14.04 云服务器?

购买服务器并完成配置之后,即可通过如下命令登录:

ssh ubuntu@cvm-ip

安装依赖

Jupyter 是使用 Python 编写的一个软件包。而且,我们希望在 Jupyter 中使用 Python 2 和 Python 3等多个版本,因此先安装 Python 3 和 pip 。(Ubuntu 14.04 默认安装了 Python 2.7)

sudo apt-get install update
sudo apt-get install python3 python-pip

配置国内 PyPI 源

后续使用 pip 安装第三方库时,由于受国内网络限制,速度会比较慢。我们首先将 PyPI 的源修改为国内源,这里使用的是中国科学技术大学提供的源。

编辑 ~/.pip/pip.conf ,在最上方加入如下内容:

[global]
index-url = https://mirrors.ustc.edu.cn/pypi/web/simple
format = columns

配置好之后,即可享受风一般的安装速度。

虚拟环境

下面,为 Jupyter 创建一个独立的虚拟环境,与系统自带的 Python 隔离开来。为此,先安装 virtualenv 库:

sudo pip install -U virtualenv

由于我们目前是以 ubuntu 用户,可能要以 sudo 执行命令,避免 pip 安装时出现权限问题。

然后,创建一个专门的虚拟环境,并直接激活:

virtualenv venv -p python3
source venv/bin/activate

在创建虚拟环境时,指定的 Python 版本为 3,方便后续的操作。

安装 Jupyter

Jupyter 的安装其实很简单,只需要执行一行命令即可:

sudo pip install -U jupyter

由于会安装其他相关的依赖库,这一步所需的时间可能较长。

配置 Jupyter

安装好 Jupyter 之后,我们需要对其进行简单的配置,比如设置访问密码,默认不自动打开浏览器等。Jupyter 默认会使用 ~/.jupyter/jupyter-noteboook-config.py 配置文件,我们在 ~/venv/ 目录下新建一个 conf.py 文件作为自定义配置文件。

mkdir -p ~/venv/conf.py

创建密码

为了方便,我们选择 jupyter 作为访问密码。

需要在命令行依次执行如下命令,结束之后会得到一个密码的 sha1 值,后续要填写在配置文件中。

PASSWD=$(python -c 'from notebook.auth import passwd; print(passwd("jupyter"))')
echo "c.NotebookApp.password = u'${PASSWD}'"

其他设置

此外,为了能够直接通过浏览器打开 http://cvm-ip:8881 地址,访问 Jupyter Notebook,我们还要做如下设置:

c.NotebookApp.ip = '*'
c.NotebookApp.open_browser = False
c.NotebookApp.port = 8881
c.NotebookApp.password = u'sha1:${PASSWD}' # ${PASSWD} 替换为实际的 sha1 值

将上面两处设置,写入 conf.py 文件,然后执行如下命令即可:

jupyter notebook --config ~/venv/conf.py

新建 Jupyter 系统服务

为了能够长时间访问 Jupyter Notebook,避免每次都需登陆服务器手动执行命令,我们需要让该命令一直在后台自动运行,最好是支持系统重启时自动启动。因此,我们可以将 jupyter 变成一个系统服务。

创建 /etc/init/jupyter.conf 文件,写入如下内容:

start on runlevel [2345]
stop on runlevel [!2345]

setuid ubuntu
setgid ubuntu

env PATH=/home/ubuntu/venv/bin
chdir /home/ubuntu/jupyter
exec jupyter notebook --config /home/ubuntu/venv/conf.py

上面定义了该服务在 runlevel 为 2、3、4、5 时启动,而在非这几个 runlevel 时停止该服务。

运行级别0:系统停机状态,系统默认运行级别不能设为0,否则不能正常启动 运行级别1:单用户工作状态,root权限,用于系统维护,禁止远程登陆 运行级别2:多用户状态(没有NFS) 运行级别3:完全的多用户状态(有NFS),登陆后进入控制台命令行模式 运行级别4:系统未使用,保留 运行级别5:X11控制台,登陆后进入图形GUI模式 运行级别6:系统正常关闭并重启,默认运行级别不能设为6,否则不能正常启动

配置好了 jupyter.conf 文件之后,就能够通过如下命令启动、停止和重启 Jupyter Notebook 了:

sudo start jupyter # 启动 jupyter
sudo stop/restart jupyter # 停止/重启 jupyter
sudo status jupyter # 查看 jupyter 的状态

这样,每次系统启动或者出错重启时,都会启动 Jupyter Notebook。

配置 Nignx 并创建系统服务

下一步,我们设置 Nginx 作为 Jupyter 的反向代理服务器。首先,安装 Nginx,并修改default 设置:

sudo apt-get install nignx
sudo vim /etc/nginx/sites-available/default

修改其中的 location / 部分,并注释掉某些行,具体见下面的示例:

server {
        listen 80 default_server;
        listen [::]:80 default_server ipv6only=on;

        #root /usr/share/nginx/html;
        #index index.html index.htm;

        # Make site accessible from http://localhost/
        server_name localhost;

        location / {
                # First attempt to serve request as file, then
                # as directory, then fall back to displaying a 404.
                # try_files $uri $uri/ =404;
                proxy_pass http://localhost:8881;
                # Uncomment to enable naxsi on this location
                # include /etc/nginx/naxsi.rules
        }
}

这一步需要注释掉 try_files 一行,并新增 proxy_pass http://localhost:8881;,将对 http://cvm-ip 的访问请求转发至该地址 。

保存并退出文件,然后重启 Nginx 服务即可。

sudo service nginx restart

之后,再修改 conf.py 文件:

#conf.py
c.NotebookApp.ip = 'localhost' # 表示只接受来自本机的请求
...

并重启 Jupyter 服务:

sudo restart jupyter

现在我们访问云服务器的 IP 地址时,就会进入 Jupyter Notebook 的登陆页面。

制作系统镜像

虽然说上面的整个过程并不太复杂,一步一步跟着教程做的话可能十分钟左右就可以搞定了。但是如果希望以后也能够快速复制同样的系统,将整个过程编写为一个脚本来自动安装、配置时比较好的选择。不过,最终安装、配置的时间还是会有的。

推荐一种更加快速的方法,即使用腾讯云等云服务商提供的制作镜像功能,将配置好的系统直接打包,以后可以直接使用镜像,只要1-2分钟,就可以启动 Jupyter Notebook 服务器了。

相关推荐:

  1. 利用Pelican搭建数据科学博客
  2. 人人都可以做深度学习应用:入门篇(上)

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏周明礼的专栏

一步一步带你搭建一个“摩登”的前端开发环境

最近几年也陆续推出了多种不同的js类型系统用于增强js的健壮性,其中像 typescript 就是其中的佼佼者。当然我今天要讲的并不是typescript,而是...

1.5K0
来自专栏蛋未明的专栏

myweb0.2版本(更新)

1583
来自专栏文武兼修ing——机器学习与IC设计

流水线式p2p接口的分析与实现

P2P接口是一种双向握手接口,传输的前级和后级各提供一个数据有效信号valid和忙信号busy信号,只有当两个信号达成某种指定情况时,握手完成,数据传输完成,否...

1082
来自专栏Java技术栈

分布式 | Dubbo 架构设计详解

Dubbo是Alibaba开源的分布式服务框架,它最大的特点是按照分层的方式来架构,使用这种方式可以使各个层之间解耦合(或者最大限度地松耦合)。从服务模型的角度...

1692
来自专栏Java进阶架构师

9个提升逼格的redis命令

既然keys命令不允许使用,那么有什么代替方案呢?有!那就是scan命令。如果把keys命令比作类似select * from users where user...

1394
来自专栏游戏杂谈

svn导出文件进行比较

之前有介绍svn log 的命令,即可导出版本A~B之间所有的修改动作,然后复制出相应的文件(中间有一个算法去处理每一个动作,然后得到最终需要导出的文件列表,...

1853
来自专栏腾讯NEXT学位

JavaScript Worker 另类玩法

1243
来自专栏Linyb极客之路

操作日志追踪记录之MDC入门

MDC(Mapped Diagnostic Context,映射调试上下文)是 log4j 和 logback 提供的一种方便在多线程条件下记录日志的功能。某些...

1962
来自专栏mini188

Openfire集群源码分析

如果用户量增加后为了解决吞吐量问题,需要引入集群,在openfire中提供了集群的支持,另外也实现了两个集群插件:hazelcast和clustering。为了...

2419
来自专栏PHP在线

Redis 和 Memcached 的区别

说到redis就会联想到memcached,反之亦然。了解过两者的同学有那么个大致的印象:redis与memcached相比,比仅支持简单的key-value数...

4466

扫码关注云+社区

领取腾讯云代金券