专栏首页庄进发的专栏Nginx + Lua搭建文件上传下载服务
原创

Nginx + Lua搭建文件上传下载服务

庄进发,信息安全部后台开发工程师,主要负责内部oa系统的后台搭建

导语

项目需要做一个文件上传下载服务,利用 nginx+lua 做一个代理服务,上传入口统一,分发到不同的机器存储,下载链接和物理存储隔离,支持添加 agent 的方式扩容,这里主要讲一下思路和搭建配置过程,大神勿喷。

主要逻辑

上传

前端请求 nginx 服务, nginx 调用 upload 脚本,脚本通过查找配置,找到对应的逻辑存储路径和物理存储机器的 agent 的 ip 和端口,通过 tcp 发包到对应 agent ,部署在对应机器的 agent 接受数据,并写到本地文件。

下载

http下载请求 nginx , nginx 调用 download 脚本,脚本解析链接参数,根据参数找到对应的 agent 地址,请求返回文件二进制内容,脚本接受到 agent 返回的数据,返回给请求端。

配置Nginx+lua

接下来主要讲一下 nginx 安装配置(这里包括lua的二进制流处理 lpack, md5计算, mysql 操作, json 操作)

1、安装 nginx

下载http://nginx.org/en/download.html

解压tar -xvf nginx-1.10.3.tar.gz

2、安装 luajit(轻量级 lua)

http://luajit.org/download.html

修改 makefile 里面的安装路径export PREFIX= /usr/local/luajit

然后安装make &make install

3、安装nginx_lua_module

下载https://github.com/openresty/lua-nginx-module

解压

4、 安装ngx_devel_kit (NDK提供函数和宏处理一些基本任务,减轻第三方模块开发的代码量)

下载https://github.com/simpl/ngx_devel_kit/

5、 安装编译,导入

export LUAJIT_LIB=/usr/local/luajit/lib  

export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0 

./configure --prefix=/usr/local/nginx  --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10.3

make -j2 
make install

启动/usr/local/nginx/sbin/nginx 重启命令` usr/local/nginx/sbin/nginx -s reload v

如果报错找不到luajit库ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2

测试nginx直接打开浏览器就可以了http:10.x.x.x:8080就可以看到欢迎界面了

6 、配置conf/nginx.conf运行 lua 脚本

增加lua库的查找路径lua_package_path,lua_package_cpath

7、增加mysql.lua下载 https://github.com/openresty/lua-resty-mysql 拷贝到lua_package_path 目录下就可以了

8、增加 csjon http://www.kyne.com.au/~mark/software/download/lua-cjson-2.1.0.tar.gz

修改 Makefile 里面的 PREFIX=/usr/local/luajit就是luajit 的安装路径,make后将生成的 cjson.so拷贝到 lua_package_cpath目录下

9、安装lpack 可以用现成的 lpack.lua http://blog.csdn.net/tom_221x/article/details/41119715 拷贝到 lua_package_path 或者用 https://github.com/LuaDist/lpack 编译生成 lpack.so拷贝到 lua_package_cpath 64位需要增加编译命令 -fPIC

10、upload.lua下载https://github.com/openresty/lua-resty-upload

11、md5下载 https://github.com/openresty/lua-resty-string

主要代码

1、前端上传页面代码

<!DOCTYPE html>
<html>
	<head>
		 <title>File upload example</title>
	</head>
	<body>
		   <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data">
		   <input type="file" name="testFileName"/>
		   <input type="submit" name="upload" value="Upload" />
		   </form>
	</body>
</html>

2、upload上传代码,该模块在解析文件上传请求的过程中,主要采用了简单的类似有限状态机的算法来实现的,在不同的状态由相应的 handler 进行处理。

--文件下载服务写到 saveRootPath .."/" .. filename 下面 
function DownLoad()

	local chunk_size = 4096
	local form,err=upload:new(chunk_size)
	if not form then
		 ngx.log(ngx.ERR, "failed to new upload: ", err)
		 ngx.exit(ngx.HTTP_INTERNAL_SERVER_ERROR)
	end 

	form:set_timeout(100000)
	
	while true do
		local typ,res,err=form:read()
		if not typ then
			ErrorMsg="failed to read :"..err
			return 1
		end

		if typ =="header" then
			local key=res[1]
			local value=res[2]
			if key =="Content-Disposition" then
				local kvlist=string.split(value,';')
				 for _, kv in ipairs(kvlist) do
					local seg = string.trim(kv)
					if seg:find("filename") then
						local kvfile = string.split(seg, "=")
						filename = string.sub(kvfile[2], 2, -2)
						if filename then
							--获取文件后缀名字
							fileExtension=getExtension(filename)
							local linuxTime=tostring(os.time())
							filePath=saveRootPath .."/" ..linuxTime..filename
							fileToSave,errmsg = io.open(filePath, "w+")
							--存储的文件路径					
							--ngx.say("failed to open file ", filePath)
							if not fileToSave then
								--ngx.say("failed to open file ", filePath .. errmsg)
								ErrorMsg="打开文件失败"..filePath .. errmsg
								return 1
							end
						else
							ErrorMsg="请求参数找不到文件名字"
							return 1
						end
						--跳出循环
						break 
					end
				 end
			end
		elseif typ =="body" then
			if fileToSave then
			   fileToSave:write(res)
			   fileMd5:update(res)
			end
		elseif typ =="part_end" then
			if fileToSave then
			   local md5_sum=fileMd5:final()
			   --ngx.say("md5: ", str.to_hex(md5_sum))
			   fileMD532=str.to_hex(md5_sum)
			   fileToSave:close()
			   fileToSave = nil
			end			
		elseif typ =="eof" then
			break
		else
			ngx.log(ngx.INFO, "do other things")
		end
	end
	return 0
end

3、tcp接收二进制数据

-- 读取byte
function readInt8(tcp)
    local next, val = string.unpack(tcp:receive(1), "b")
    return tonumber(val);
end
-- 读取int16
function readInt16(tcp)
    local next, val = string.unpack(tcp:receive(2), "h");
    return tonumber(val);
end
-- 读取int32
function readInt32(tcp)
    local next, val = string.unpack(tcp:receive(4), ">i");
    return tonumber(val);
end
-- 读取字符串
function readString(tcp,len)
    return tostring(tcp:receive(len));
end

4、tcp写二进制数据,这里和 agent 的通信协议是:开始标志位+包长度+json 字符串+结束标志位,所以对应 pack 用的参数就是 bIAb ,> 就是转化为大端

jsonData["filename"]=fileMD532 .. "." .. fileExtension
jsonData["cmd"]="write"
jsonData["fileSize"]=tostring(filelen)
jsonData["path"]=System.."/"..StorageDate
local Jsonstr=cjson.encode(jsonData)
local uiLen=string.len(Jsonstr)
senddata=bpack(">b1IAb",startIndex,uiLen,Jsonstr,endIndex)
socket:send(senddata)		

5、下载错误的时候,使用了 redirect 直接跳转到错误页面,方便输出错误信息,其实这里还可以做用户 token 校验

local ErrorUrl="/downloadError.html"
ErrorMsg="url 参数解析有问题 "..index
return ngx.redirect(ErrorUrl.."?msg="..ErrorMsg,``` ngx.HTTP_MOVED_TEMPORARILY)

相关推荐

Nginx双向认证配置指南

微信小程序文件上传下载应用场景

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 让大象起舞:HTTPS 计算性能优化

    HTTPS 很安全,与此同时却又要消耗非常多的CPU资源,STGW 针对 nginx 和 openssl 进行了大量优化,用以提升 HTTPS 的计算性能和访问...

    腾讯技术工程官方号
  • 【 ES 私房菜】ElasticSearch 详细部署教程

    Elasticsearch 是一个分布式的 RESTful 风格的搜索和数据分析引擎,能够解决不断涌现出的各种用例。本文详细介绍了elasticserch的部署...

    张戈
  • Nginx 反向代理腾讯云 COS 的一个坑

    腾讯云COS的后台服务假设客户端都支持http1.1协议,对http1.0协议没有做很好的兼容,而腾讯云CVM提供的带Nginx的系统镜像里面的Nginx版本又...

    黄希彤
  • F-Stack 全用户态 (Kernel Bypass) 服务开发套件

    F-Stack 是一个全用户态的高性能的网络接入开发包,基于 DPDK、FreeBSD 协议栈、微线程接口等,用户只需要关注业务逻辑,简单的接入 F-Stack...

    F-Stack
  • 自己部署 Node.js 版本的 Wafer2 Demo

    自行部署适用于想将腾讯云 Wafer SDK 和 Demo 部署在自己的服务器上以获得更高的灵活性和操纵权限的用户。部署过程需要从 0 开始搭建线上环境,需要有...

    Jason
  • Docker 使用指南 (三)—— 网络配置

    本文详细介绍了Docker网络配置的四个模式,以及模式下的具体配置操作。希望对入门,Docker的童鞋有所帮助。

    田飞雨
  • 如何在腾讯云快速构建一个 Wordpress 个人站点

    本文通过深入浅出的方式,给大家介绍如何在腾讯云快速构建一个Wordpress个人站点。希望对大家使用腾讯云的过程中,有所帮助。

    白宦成
  • 【 ES 私房菜】收集 Nginx 访问日志

    在上一篇系列文章《【 ES 私房菜】收集 Apache 访问日志》中,我们已经完成了 ES 收集 A pache 日志的目标,再收集其他 WEB 日志也就小菜一...

    张戈
  • nginx 基本入门

    本文是至今为止见过最好的 nginx 入门文章,主要讲解的是如何启用和停止nginx,和重新加载配置,描述配置文件的基本结构和怎样搭建一个 nginx 静态辅助...

    腾讯IVWEB团队

扫码关注云+社区

领取腾讯云代金券