【戴嘉乐】(进阶)基于IPFS和Ngrok构建自维护资源网关


作者简介:戴嘉乐( Mr.Maple ) | 前百度高级研发工程师 | IPFS应用实践者&布道师|

一、背景

上篇文章《【应用】(入门)基于IPFS和Ngrok构建自维护资源网关》,我们通过Ngrok为IPFS节点配置HTTP Tunnels,充分利用了其NAT穿越的特性,成功搭建了属于自己的资源网关,为他人提供IPFS节点服务。但是这仅仅是一个雏形,缺陷还很多,这篇文章来讲解对资源网关的种种优化和配置。

二、意义

之前一些朋友问到了这件事的意义,这边简单梳理了一下,我认为对于IPFS这块的开发者,需要部署私有集群的DevOps,以及未来想组建Filecoin矿场的矿工,这件事情都相对比较必要,具体如下:

2.1 IPFS资源网关的意义:

2.1.1. 目前主流浏览器还未全面支持 ipfs:// 协议,需要安装专门的客户端/插件

2.1.2没有安装IPFS Desktop,也可以通过HTTP方式与IPFS网络产生交互来获取IPFS 网络的内部资源。

2.2 自维护的意义:

2.2.1 ipfs.io 默认网关存在DNS污染现象:

ipfs.io IP解析所在的物理位置位于美国 ThePlanet机房

在国内,对ipfs.io的ping请求被解析为31.13.72.34 IP

此IP所在物理地址为:爱尔兰Fackbook分公司

ipfs.io存在DNS污染现象

2.2.2 默认的Bootstrap都是指向官方提供的节点:DigitalOcean 云计算中心

如果需要构造自己的IPFS私有网络,需要为本地的私有节点添加反向代理

2.2.3 增强网关访问安全性,将资源服务与代理服务用防火墙隔开

2.2.4. 官方提供的 Public Gateway 稳定性感人

两个月前的:

最近看了一下:

三、优化与进阶

3.1 个性公网域名+IPNS挂载

上传Hash为QmdzsNmvKiKQve8z15gamNo5s31g9bTWhzBg9SKG1YKTow的IPFS资源,并挂载到本地NodeID为QmeUGXG4K4hbNPbKDUycmNsWrU3nDN69LLgHkWU2yUN6FZ的IPNS上,如下图所示:

开放网关,进行效果对比测试:

监控NAT请求效果:

一次个性公网域名(需要在Ngrok付费申请)+ IPNS挂载就完成了

多节点 IPNS 更换的方案

这边也介绍下多节点 IPNS 更换的方案,方便一些朋友更新网关资源的同时也可以保证对外的IPNS一致性:

  • 1.节点A创建新公钥:
ipfs key gen --type = rsa --size=2048 mykey
  • 2.记录生成在.ipfs/keystore中的公钥mykey
  • 3.发布IPFS资源A,得到hashA,挂载A节点,生成IPNS HashA:
ipfs name publish --key=mykey hashA
  • 4.将节点A创建的公钥mykey 复制到节点 B 的keystore目录
  • 5.在节点B,发布IPFS资源B,获得hashB,挂载B节点,得到IPNS HashB,这个值和IPNS HashA一致:
ipfs name publish --key=mykey hashB

3.2 网关资源优化 (缓存/带宽优化等)

3.2.1 针对同IPFS网络资源请求方:

设计了一种缓存自启动方案,解决存储和请求过程中的资源复用消耗:

3.2.2 针对外部HTTP网络资源请求方:

设计了一种防作弊,解决过多带宽资源消耗的方案:

这块一定注意区分两个场景概念:

  • 同IPFS网络请求场景 是指两个节点共同运行,暴露公共网关的同时,通过HTTP进行对等连接访问。
  • 外部HTTP网络请求场景 是通过NAT的形式将本地IPFS节点存储的资源暴露在公网下,供各个应用方、设备方进行HTTP访问,这里的IPFS节点角色相当于一个中心存储服务了,不具备P2P特性。

优化方案按照不同场景有不同策略,之前很多朋友搞不清楚(确实,也容易混淆)。

3.3 自动化控制资源的分享权限

有时候针对我们自己构建的私有IPFS网络,需要将资源外放,但是外放需要策略来进行自动化控制(集成在业务环境里)

3.3.1 举个很简单的场景实例

我编写的业务应用需要接收到特定以太坊智能合约的转账回调函数,来自动开启对应智能合约中IPFS资源外放的开关

(eg:只有当买家遵守以太坊的智能合约支付了一定数量的ETH或者其他ERC2.0代币后,才能解锁获取到我存储在IPFS网路中的自拍照)

但这个IPFS网络往往很多时候是我自己部署的私有集群(不会搭建私有网络的朋友可以参考董哥的:IPFS指南: 私有网络(private network)的搭建与使用),默认对外是不提供公共的寻址网关的,我该如何控制?

3.3.2 资源分享权限实现

这边我们可以充分利用Ngrok的Client Restful API来对NAT进行自动化收放,从而实现整个业务场景下的程序化控制:

####3.3.3 Ngrok的Client Restful API Postman测试

四、IPFS资源网关应用面

  • 配合微服务架构的后端系统提供服务
  • 将IPFS私有网络中的资源灵活外放
  • 制作自己的付费资源池(类似OSS存储)
  • 为前后端联调提供API调试工具,Mock数据(需要配置专门的前端浏览器插件,例如:FE助手)

五、参考文献

  • 【区块链】利用ipfs构建自己的去中心化分布式wiki系统
  • Ngrok Doc
  • ipfs.io

相关文章和视频推荐

圆方圆学院汇集大批区块链名师,打造精品的区块链技术课程。 在各大平台都长期有优质免费公开课,欢迎报名收看。

公开课地址:https://ke.qq.com/course/345101?flowToken=1007371

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏散尽浮华

Centos7下部署分布式跟踪工具Pinpoint的操作记录

一、Pinpoint简单介绍 Pinpoint是一款对Java编写的大规模分布式系统的APM工具,有些人也喜欢称呼这类工具为调用链系统、分布式跟踪系统。一般来说...

19020
来自专栏圆方圆学院精选

【戴嘉乐 IFPS】IPFS伴侣:一个对IPFS资源管理更加便捷的浏览器插件

IPFS伴侣(IPFS Companion)是一个由IPFS官方应用社区(IPFS-Shipyard)孵化出来的应用项目。 Ta是一个浏览器插件,可以帮助用户在...

19710
来自专栏ImportSource

CQRS距你有多远?

前面两集(微服务业务开发三个难题-拆分、事务、查询(上),微服务业务开发三个难题-拆分、事务、查询(下))翻译了Chris的大作。为了保证原意不跑偏同时通俗易懂...

50080
来自专栏DevOps时代的专栏

基于 jenkins 的 CI/CD 实践

一、实践背景 CD,主要指持续部署。 ? 在公司,我主要负责的持续集成和发布部署这块,目前现在有N百万用户,开发最多的时候有200人,每日上线部署次数应该是50...

1.2K50
来自专栏维恩的派VNPIE

CTP接口入门

本文主要面向有C++基础,并且想用C++来做程序化交易的用户。 主要介绍了CTP的简单使用方式以及在使用过程中易遇到的‘坑’,并附上一些代码帮助学习。

59030
来自专栏java架构学习交流

java web方面的面试问题,Spring MVC方面的面试问题,摘自java web轻量级开发面试教程

下面列出Spring Web方面的常见问题,除此之外,大家也可以自己不断收集,不断提升。 问题1,你们的项目是如何搭建Spring Web框架的,具体而言,如何...

23480
来自专栏恰童鞋骚年

.NET Core微服务之基于Jenkins+Docker实现持续部署(Part 1)

  互联网软件的开发和发布,已经形成了一套标准流程,最重要的组成部分就是持续集成(Continuous integration,简称 CI) => 持续集成指的...

10640
来自专栏FreeBuf

Kali 2.0教程 | 如何安装Veil-Evasion

Veil Evasion是Veil超级项目Veil-Framework的一部分,我们强烈建议用户们安装它。 Veil Evasion简介 Veil Evasio...

35660
来自专栏Java进阶架构师

IntelliJ IDEA 内存优化最佳实践

原文链接::http://blog.oneapm.com/apm-tech/426.html

9820
来自专栏程序源代码

重新认识你认识的Hibernate

Hibernate估计大家已经用过很多年了吧,好多同学说用过Hibernate,不需要你来讲,但再仔细想想,你能告诉我Hibernate是什么吗? 今天带大家重...

36440

扫码关注云+社区

领取腾讯云代金券