前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >构建 Python Docker 镜像的最佳实践

构建 Python Docker 镜像的最佳实践

作者头像
东风微鸣
发布2023-03-08 15:00:54
2.7K0
发布2023-03-08 15:00:54
举报

概述

📚️Reference: 制作容器镜像的最佳实践[1]

这篇文章是关于制作 Python Docker 容器镜像的最佳实践。(2022 年 12 月更新) 最佳实践的目的一方面是为了减小镜像体积,提升 DevOps 效率,另一方面是为了提高安全性。希望对各位有所帮助。

通用 Docker 容器镜像最佳实践

这里也再次罗列一下对 Python Docker 镜像也适用的一些通用最佳实践。

•使用 LABEL maintainer•标记重要端口•设置环境变量•使用非 root 用户运行容器进程•使用 .dockerignore 排除无关文件

Python 镜像推荐设置的环境变量

Python 中推荐的常见环境变量如下:

代码语言:javascript
复制
# 设置环境变量
ENV PYTHONDONTWRITEBYTECODE 1
ENV PYTHONUNBUFFERED 1

1.ENV PYTHONDONTWRITEBYTECODE 1: 建议构建 Docker 镜像时一直为 1, 防止 python 将 pyc 文件写入硬盘2.ENV PYTHONUNBUFFERED 1: 建议构建 Docker 镜像时一直为 1, 防止 python 缓冲 (buffering) stdout 和 stderr, 以便更容易地进行容器日志记录3.❌不再建议使用 ENV DEBUG 0 环境变量,没必要。

使用非 root 用户运行容器进程

出于安全考虑,推荐运行 Python 程序前,创建 非 root 用户并切换到该用户。

代码语言:javascript
复制
# 创建一个具有明确 UID 的非 root 用户,并增加访问 /app 文件夹的权限。
RUN adduser -u 5678 --disabled-password --gecos "" appuser && chown -R appuser /app
USER appuser

使用 .dockerignore 排除无关文件

需要排除的无关文件一般如下:

代码语言:javascript
复制
**/__pycache__
**/*venv
**/.classpath
**/.dockerignore
**/.env
**/.git
**/.gitignore
**/.project
**/.settings
**/.toolstarget
**/.vs
**/.vscode
**/*.*proj.user
**/*.dbmdl
**/*.jfm
**/bin
**/charts
**/docker-compose*
**/compose*
**/Dockerfile*
**/node_modules
**/npm-debug.log
**/obj
**/secrets.dev.yaml
**/values.dev.yaml
*.db
.python-version
LICENSE
README.md

这里选择几个说明下:

1.**/__pycache__: python 缓存目录2.**/*venv: Python 虚拟环境目录。很多 Python 开发习惯将虚拟环境目录创建在项目下,一般命名为:.venvvenv3.**/.env: Python 环境变量文件4.**/.git **/.gitignore: git 相关目录和文件5.**/.vscode: 编辑器、IDE 相关目录6.**/charts: Helm Chart 相关文件7.**/docker-compose*: docker compose 相关文件8.*.db: 如果使用 sqllite 的相关数据库文件9..python-version: pyenv 的 .python-version 文件

不建议使用 Alpine 作为 Python 的基础镜像

为什么呢?大多数 Linux 发行版使用 GNU 版本(glibc)的标准 C 库,几乎每个 C 程序都需要这个库,包括 Python。但是 Alpine Linux 使用 musl, Alpine 禁用了 Linux wheel 支持。

理由如下:

•缺少大量依赖•CPython 语言运行时的相关依赖•openssl 相关依赖•libffi 相关依赖•gcc 相关依赖•数据库驱动相关依赖•pip 相关依赖•构建可能更耗时•Alpine Linux 使用 musl,一些二进制 wheel 是针对 glibc 编译的,但是 Alpine 禁用了 Linux wheel 支持。现在大多数 Python 包都包括 PyPI 上的二进制 wheel,大大加快了安装时间。但是如果你使用 Alpine Linux,你可能需要编译你使用的每个 Python 包中的所有 C 代码。•基于 Alpine 构建的 Python 镜像反而可能更大•乍一听似乎违反常识,但是仔细一想,因为上面罗列的原因,确实会导致镜像更大的情况。

📚️Reference: Using Alpine can make Python Docker builds 50× slower (pythonspeed.com)[2]

这里以这个 Demo FastAPI Python 程序[3] 为例,其基于 Alpine 的 Dockerfile 地址是这个:https://github.com/east4ming/fastapi-url-shortener/blob/main/Dockerfile.alpine

因为缺少很多依赖,所以在用 pip 安装之前,就需要尽可能全地安装相关依赖:

代码语言:javascript
复制
RUN set -eux \
    && apk add --no-cache --virtual .build-deps build-base \
    openssl-dev libffi-dev gcc musl-dev python3-dev \
    && pip install --upgrade pip setuptools wheel \
    && pip install --upgrade -r /app/requirements.txt \
    && rm -rf /root/.cache/pip

这里也展示一下基于 Alpine 构建完成后的 镜像未压缩大小:

基于 Alpine 的 Python Demo 镜像大小:472 MB

△ 基于 Alpine 的 Python Demo 镜像大小:472 MB; 相比之下,基于 slim 的只有 189 MB

在上面代码的这一步,就占用了太多空间:

🤔思考: 可能上面一段可以精简,但是要判断对于哪个 Python 项目,可以精简哪些包,实在是太难了。

代码语言:javascript
复制
+ apk add --no-cache --virtual .build-deps build-base openssl-dev libffi-dev gcc musl-dev python3-dev
fetch https://dl-cdn.alpinelinux.org/alpine/v3.17/main/x86_64/APKINDEX.tar.gz
fetch https://dl-cdn.alpinelinux.org/alpine/v3.17/community/x86_64/APKINDEX.tar.gz
(1/28) Installing libgcc (12.2.1_git20220924-r4)
(2/28) Installing libstdc++ (12.2.1_git20220924-r4)
(3/28) Installing binutils (2.39-r2)
(4/28) Installing libmagic (5.43-r0)
(5/28) Installing file (5.43-r0)
(6/28) Installing libgomp (12.2.1_git20220924-r4)
(7/28) Installing libatomic (12.2.1_git20220924-r4)
(8/28) Installing gmp (6.2.1-r2)
(9/28) Installing isl25 (0.25-r0)
(10/28) Installing mpfr4 (4.1.0-r0)
(11/28) Installing mpc1 (1.2.1-r1)
(12/28) Installing gcc (12.2.1_git20220924-r4)
(13/28) Installing libstdc++-dev (12.2.1_git20220924-r4)
(14/28) Installing musl-dev (1.2.3-r4)
(15/28) Installing libc-dev (0.7.2-r3)
(16/28) Installing g++ (12.2.1_git20220924-r4)
(17/28) Installing make (4.3-r1)
(18/28) Installing fortify-headers (1.1-r1)
(19/28) Installing patch (2.7.6-r8)
(20/28) Installing build-base (0.5-r3)
(21/28) Installing pkgconf (1.9.3-r0)
(22/28) Installing openssl-dev (3.0.7-r0)
(23/28) Installing linux-headers (5.19.5-r0)
(24/28) Installing libffi-dev (3.4.4-r0)
(25/28) Installing mpdecimal (2.5.1-r1)
(26/28) Installing python3 (3.10.9-r1)
(27/28) Installing python3-dev (3.10.9-r1)
(28/28) Installing .build-deps (20221214.074929)
Executing busybox-1.35.0-r29.trigger
OK: 358 MiB in 65 packages
...

建议使用官方的 python slim 镜像作为基础镜像

继续上面,所以我是建议:使用官方的 python slim 镜像作为基础镜像

镜像库是这个:https://hub.docker.com/_/python

并且使用 python:<version>-slim 作为基础镜像,能用 python:<version>-slim-bullseye 作为基础镜像更好(因为更新,相对就更安全一些).

这个镜像不包含默认标签中的常用包,只包含运行 python 所需的最小包。这个镜像是基于 Debian 的。

使用官方 python slim 的理由还包括:

•稳定性•安全升级更及时•依赖更新更及时•依赖更全•Python 版本升级更及时•镜像更小

📚️Reference: The best Docker base image for your Python application (Sep 2022) (pythonspeed.com)[4]

一般情况下,Python 镜像构建不需要使用"多阶段构建"

一般情况下,Python 镜像构建不需要使用"多阶段构建".

理由如下:

•Python 没有像 Golang 一样,可以把所有依赖打成一个单一的二进制包•Python 也没有像 Java 一样,可以在 JDK 上构建,在 JRE 上运行•Python 复杂而散落的依赖关系,在"多阶段构建"时会增加复杂度•...

如果有一些特殊情况,可以尝试使用"多阶段构建"压缩镜像体积:

•构建阶段需要安装编译器•Python 项目复杂,用到了其他语言代码(如 C/C++/Rust)

pip 小技巧

使用 pip 安装依赖时,可以添加 --no-cache-dir 减少镜像体积:

代码语言:javascript
复制
# 安装 pip 依赖
COPY requirements.txt .
RUN python -m pip install --no-cache-dir --upgrade -r requirements.txt

Python Dockerfile 最佳实践样例

最后, 就是基于以上最佳实践的完整样例, 也可以在这里找到: https://github.com/east4ming/fastapi-url-shortener/blob/main/Dockerfile.slim

代码语言:javascript
复制
FROM python:3.10-slim

LABEL maintainer="cuikaidong@foxmail.com"

EXPOSE 8000

# Keeps Python from generating .pyc files in the container
ENV PYTHONDONTWRITEBYTECODE=1

# Turns off buffering for easier container logging
ENV PYTHONUNBUFFERED=1

# Install pip requirements
COPY requirements.txt .
RUN python -m pip install --no-cache-dir --upgrade -r requirements.txt

WORKDIR /app
COPY . /app

# Creates a non-root user with an explicit UID and adds permission to access the /app folder
RUN adduser -u 5678 --disabled-password --gecos "" appuser && chown -R appuser /app
USER appuser

CMD ["uvicorn", "shortener_app.main:app", "--host", "0.0.0.0"]

总结

制作 Python Docker 容器镜像的最佳实践。最佳实践的目的一方面是为了减小镜像体积,提升 DevOps 效率,另一方面是为了提高安全性.

最佳实践如下:

•推荐 2 个 Python 的环境变量•ENV PYTHONDONTWRITEBYTECODE 1ENV PYTHONUNBUFFERED 1•使用非 root 用户运行容器进程•使用 .dockerignore 排除无关文件•不建议使用 Alpine 作为 Python 的基础镜像•建议使用官方的 python slim 镜像作为基础镜像•一般情况下, Python 镜像构建不需要使用"多阶段构建"•pip 小技巧: --no-cache-dir

希望对大家有所帮助.

最后也感叹一下, 在云原生时代, python 在分发这块, 特别是镜像构建这块, 确实体验、效率、镜像大小等方面差 golang 太多了。

References

[1] 制作容器镜像的最佳实践: https://ewhisper.cn/posts/8023/ [2] Using Alpine can make Python Docker builds 50× slower (pythonspeed.com): https://pythonspeed.com/articles/alpine-docker-python/ [3] Demo FastAPI Python 程序: https://github.com/east4ming/fastapi-url-shortener [4] The best Docker base image for your Python application (Sep 2022) (pythonspeed.com): https://pythonspeed.com/articles/base-image-python-docker-images/ [5] Multi-stage builds #2: Python specifics (pythonspeed.com): https://pythonspeed.com/articles/multi-stage-docker-python/

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-12-14,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 东风微鸣技术博客 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 概述
  • 通用 Docker 容器镜像最佳实践
    • Python 镜像推荐设置的环境变量
      • 使用非 root 用户运行容器进程
        • 使用 .dockerignore 排除无关文件
        • 不建议使用 Alpine 作为 Python 的基础镜像
        • 建议使用官方的 python slim 镜像作为基础镜像
        • 一般情况下,Python 镜像构建不需要使用"多阶段构建"
        • pip 小技巧
        • Python Dockerfile 最佳实践样例
        • 总结
          • References
          相关产品与服务
          容器服务
          腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
          领券
          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档