专栏首页圆方圆学院精选【戴嘉乐 IPFS】(进阶)基于IPFS和Ngrok构建自维护资源网关
原创

【戴嘉乐 IPFS】(进阶)基于IPFS和Ngrok构建自维护资源网关

作者简介:戴嘉乐( Mr.Maple ) | 前百度高级研发工程师 | IPFS应用实践者&布道师| 个人网站:https://www.daijiale.cn

联系方式:微信号:daijiale6239。

一、背景

上篇文章《(入门)基于IPFS和Ngrok构建自维护资源网关》,我们通过Ngrok为IPFS节点配置HTTP Tunnels,充分利用了其NAT穿越的特性,成功搭建了属于自己的资源网关,为他人提供IPFS节点服务。但是这仅仅是一个雏形,缺陷还很多,这篇文章来讲解对资源网关的种种优化和配置。

二、意义

之前一些朋友问到了这件事的意义,这边简单梳理了一下,我认为对于 IPFS这块的开发者 ,需要 部署私有集群的DevOps ,以及未来想 组建Filecoin矿场的矿工 ,这件事情都相对比较必要,具体如下:

2.1 IPFS资源网关的意义:

1. 目前主流浏览器还未全面支持 ipfs:// 协议,需要安装专门的客户端/插件
2. 没有安装IPFS Desktop,也可以通过HTTP方式与IPFS网络产生交互来获取IPFS 网络的内部资源。

2.2 自维护的意义:

2.2.1 ipfs.io 默认网关存在DNS污染现象:

ipfs.io IP解析所在的物理位置位于美国 ThePlanet机房:

在国内,对ipfs.io的ping请求被解析为31.13.72.34 IP,

此IP所在物理地址为:爱尔兰Fackbook分公司,

ipfs.io存在DNS污染现象。

2.2.2 默认的Bootstrap都是指向官方提供的节点:DigitalOcean 云计算中心

如果需要构造自己的IPFS私有网络,需要为本地的私有节点添加反向代理。

2.2.3 增强网关访问安全性,将资源服务与代理服务用防火墙隔开

2.2.4. 官方提供的 Public Gateway 稳定性感人

两个月前的:

最近看了一下:

三、优化与进阶

3.1 个性公网域名+IPNS挂载

上传Hash为 QmdzsNmvKiKQve8z15gamNo5s31g9bTWhzBg9SKG1YKTow 的IPFS资源,并挂载到本地NodeID为QmeUGXG4K4hbNPbKDUycmNsWrU3nDN69LLgHkWU2yUN6FZ的IPNS上,如下图所示:

开放网关,进行效果对比测试:

监控NAT请求效果:

一次个性公网域名(需要在Ngrok付费申请)+ IPNS挂载就完成了。

多节点 IPNS 更换的方案

这边也介绍下多节点 IPNS 更换的方案,方便一些朋友更新网关资源的同时也可以保证对外的IPNS一致性:

  • 1.节点A创建新公钥:ipfs key gen --type = rsa --size=2048 mykey
  • 2.记录生成在.ipfs/keystore中的公钥mykey
  • 3.发布IPFS资源A,得到hashA,挂载A节点,生成IPNS HashA:ipfs name publish --key=mykey hashA
  • 4.将节点A创建的公钥mykey 复制到节点 B 的keystore目录
  • 5.在节点B,发布IPFS资源B,获得hashB,挂载B节点,得到IPNS HashB,这个值和IPNS HashA一致:ipfs name publish --key=mykey hashB

3.2 网关资源优化 (缓存/带宽优化等)

3.2.1 针对同IPFS网络资源请求方:

设计了一种缓存自启动方案,解决存储和请求过程中的资源复用消耗:

3.2.2 针对外部HTTP网络资源请求方:

设计了一种防作弊,解决过多带宽资源消耗的方案:

这块一定注意区分两个场景概念:

  • 同IPFS网络请求场景 是指两个节点共同运行,暴露公共网关的同时,通过HTTP进行对等连接访问。
  • 外部HTTP网络请求场景 是通过NAT的形式将本地IPFS节点存储的资源暴露在公网下,供各个应用方、设备方进行HTTP访问,这里的IPFS节点角色相当于一个中心存储服务了,不具备P2P特性。

优化方案按照不同场景有不同策略,之前很多朋友搞不清楚(确实,也容易混淆)。

3.3 自动化控制资源的分享权限

有时候针对我们自己构建的私有IPFS网络,需要将资源外放,但是 外放需要策略来进行自动化控制(集成在业务环境里)。

3.3.1 举个很简单的场景实例

我编写的业务应用需要 接收到特定以太坊智能合约的转账回调函数 ,来 自动开启对应智能合约中IPFS资源外放的开关

(eg:只有当买家遵守以太坊的智能合约支付了一定数量的ETH或者其他ERC2.0代币后,才能解锁获取到我存储在IPFS网路中的自拍照)

但这个IPFS网络往往很多时候是我自己部署的私有集群(不会搭建私有网络的朋友可以参考董哥的:IPFS指南: 私有网络(private network)的搭建与使用,默认对外是不提供公共的寻址网关的,我该如何控制?

3.3.2 资源分享权限实现

这边我们可以充分利用Ngrok的Client Restful API来对NAT进行自动化收放,从而实现整个业务场景下的程序化控制:

3.3.3 Ngrok的Client Restful API Postman测试

四、IPFS资源网关应用面

  • 配合 微服务架构的后端系统 提供服务
  • 将IPFS私有网络中的 资源灵活外放
  • 制作自己的付费资源池(类似OSS存储)
  • 为前后端联调提供API调试工具,Mock数据(需要配置专门的前端浏览器插件,例如:FE助手)

当然这块还有很多的实践价值和我未曾想到的场景,欢迎对这块有兴趣继续研究的朋友一起交流,联系方式在文尾。

五、参考文献


相关文章和视频推荐

【戴嘉乐】(入门)基于IPFS和Ngrok构建自维护资源网关

圆方圆学院汇集大批区块链名师,打造精品的区块链技术课程。 在各大平台都长期有优质免费公开课,欢迎报名收看。

公开课地址:https://ke.qq.com/course/345101?flowToken=1007371

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【戴嘉乐】(进阶)基于IPFS和Ngrok构建自维护资源网关

    上篇文章《【应用】(入门)基于IPFS和Ngrok构建自维护资源网关》,我们通过Ngrok为IPFS节点配置HTTP Tunnels,充分利用了其NAT穿越的特...

    圆方圆学院
  • 【戴嘉乐 IFPS】IPFS伴侣:一个对IPFS资源管理更加便捷的浏览器插件

    IPFS伴侣(IPFS Companion)是一个由IPFS官方应用社区(IPFS-Shipyard)孵化出来的应用项目。 Ta是一个浏览器插件,可以帮助用户在...

    圆方圆学院
  • 【戴嘉乐 IPFS】(入门)基于IPFS和Ngrok构建自维护资源网关

    由于一些特殊原因,ipfs.io网关在天朝无法访问,之前在外做宣讲的时候,也被很多朋友问到ipfs.io是否一直会被禁的问题,纷纷表示担忧,这边通过一个简单的D...

    圆方圆学院
  • iptables防火墙原理知多少?

    1. netfilter与iptables Netfilter是由Rusty Russell提出的Linux 2.4内核防火墙框架,该框架既简洁又灵活,可实现安...

    小小科
  • SDN在云数据中心的应用之VPC产品篇

    云数据中心最基础的网络产品就是VPC(虚拟私有云),简单理解就是1个三层路由+若干个IP地址可自定义的网络。一个VPC可允许有多个子网,同子网内部二层互通,不同...

    SDNLAB
  • 为什么时间戳对网络流量数据包捕获很重要?

    网络上发生的所有事件都是时间敏感的,这就是为什么在讨论数据包捕获和分析时,给数据包加上时间戳非常重要。 此功能不仅可以防止和分析网络攻击,而且还能...

    虹科网络可视化与安全
  • 从只用Excel做报表,到Excel报表工具真香,他经历了什么?

    9102年了,很多人,乃至于很多企业做报表都还在用Excel,埋头苦干一天整出下面这个玩意:

    数据分析的那些事儿
  • 保护Hadoop环境

    Hadoop于2007年首次发布时,其目的是在受信任的环境中管理大量Web数据,因此安全性不是重点,也不是聚焦点。随着采用率的上升和Hadoop演变成企业技术,...

    大数据杂货铺
  • TCP三次握手详解:传输控制块TCB以及积极和消极的连接建立方式

    TCP协议目的是为了保证数据能在两端准确连续的流动,可以想象两个建立起TCP通道的设备就如同接起了一根水管,数据就是水管中的水由一头流向另一头。然而TCP为了能...

    望月从良
  • 如何解决web系统session劫持

    往期精选 session劫持是一种比较复杂的攻击方法。大部分互联网上的电脑多存在被攻击的危险。这是一种劫持tcp协议的方法,所以几乎所有的局域网,都存在被劫持 ...

    企鹅号小编

扫码关注云+社区

领取腾讯云代金券