36小时,造一个亚马逊无人商店 | 实战教程+代码

夏乙 问耕 编译整理 量子位 出品 | 公众号 QbitAI

无人超市,未来趋势。

上面这段视频,展示了逛亚马逊的Amazon Go无人超市是种怎样的体验。毫无疑问,一个完善的无人超市需要复杂的技术支撑。

现在,挑战来了。

你能不能在一天半的时间里,从零着手搭建出一个基本的Amazon Go无人超市系统?让客户可以体验无缝衔接的购物体验?

当然可以。

有个四人小组就在最新的一次黑客马拉松中,完成了这样一次挑战。他们只用了不到36个小时,就搞定了一切,而且还把整个教程公布了出来。

首先,得有一套文档,列出全部需要做/可以做的事情;然后就是根据文档,去分模块实现。他们给自己的“山寨”Amazon Go起名叫EZShop,由这六大模块构成:

EZShop的六大组件

量子位来分别介绍一下他们用到的些模块:

Kairos人脸识别API

这是EZShop的一个基本组件,能够识别、存储特定的人脸信息。EZShop用了它两个API:/enroll和/verify。

/enroll的意思是“拍张照,找到里边的脸,然后把这张脸存到你创建的相册里。”

这个小组就为顾客们创建了一个相册,也叫EZShop。顾客注册时,脸就会存到这个相册里,系统的实时数据库也会向这个顾客的注册信息返回并存储一个face_id。

当要验证顾客的照片时,就需要把它送到/verify终端那里,终端返回一个匹配可能性最高的face_id。

在实际应用中,自己用TensorFlow搭一个人脸识别应用可能比用这种API更好,但是36小时hackathon嘛,API挺好用的。

实时Firebase数据库

这也是一个非常基本的组件,整套EZShop里,所有其他的组件都得和它实时交互。Firebase支持在数据库里的任何数据上创建定制化的变化监听器,这样一个特性再加上简单的设置流程,用起来简直毫不费力。

整个计划很简单,数据库存储一组商品、一组顾客,如下面的JSON文件架构所示:

{
  "items": [
    {
      "item_id": 1,
      "item_name": "Soylent",
      "item_stock": 1,
      "price": 10
    }
  ],
  "users": [
    {
      "face_id": 1,
      "name": "Subhan Nadeem",
      "in_store": false,
      "cart": [
        1
      ]
    }
  ]
}

新顾客通过Kairos API注册之后,就会被添加到users那一组。当顾客出入时,他的in_store布尔值会更新,在商店经理和个人App界面上都有所体现。

顾客拿起商品时,items那组数据会有更新。系统能够识别出哪个顾客拿了哪件商品,商品的ID会被添加到顾客的cart栏。

经理App和顾客App

团队里的iOS开发者John只用了12小时,就写完了这两个App。

经理App

经理App是iPad版的,能将新用户添加到Kairos API和Firebase数据库中,也能显示店里顾客的列表和货物的库存清单。商店经理能用这个App操作Firebase数据库、查看数据库发生的变化。

这个App还能追踪店内当前的所有用户,并获取他们的姓名和照片。当用户离开时,这个系统也能实时更新店内当前用户列表。

顾客App

另一个App是供商店顾客用的。

顾客要进店,需要先上传自己的照片,注册成为可以在无人店内购物的用户。图片通过API上传到Imgur(一家国外图片分享网站),并与用户名相关联。

EZShop会根据这个照片来识别顾客。顾客进入商店之后,它们购物车的更新会立刻显示在这个App上。顾客离开商店时,手机上还会收到一条推送通知,显示着他们花了多少钱。

货架、传感器和摄像头

这些东西由Soheil和Ruslan负责,他们设计了货架,写了相关的Pi Python脚本。

货架大致长这样:

货架

在货架上,三件商品并排放着,中间的塔上安装监控摄像头(就是图上那个手机),两排商品后边还装有超声波传感器。超声波传感器和树莓派相连接,树莓派运行的Python脚本处理传感器与货架上物体之间的距离读数。

商品被拿起来的时候,传感器的读数就会变化,触发数据库中商品库存的更新。

塔顶上绑着的手机(摄像头)也会探测到场景的变化,还会识别拿商品的顾客。然后,这件商品会被放到顾客的虚拟购物车里。

出入口的摄像头

在商店的出口和入口,这个小组使用了Android手机作为面部识别摄像头。

两部手机被安装在一个三脚架上,分别冲着相反的方向,一个方向用来识别入店的顾客,另一个方向用来识别出店的顾客。

至于人脸检测技术,Google有一套非常棒的API,能够很好地检测出人脸。

API地址:https://developers.google.com/vision/

特别的是,这个API还能提供从相机到人脸之间的大致距离,一旦顾客的距离足够近,摄像头就会拍照并使用Kairos API进行验证,然后与Firebase数据库同步,更新顾客在店内的状态。

在客户识别之外,系统还增加了个性化的语音问候,这进一步提升了用户体验。

效果是这样的:

一旦顾客离开商店,Android应用程序将会检测顾客购买了什么商品,并计算消费总额,并通过Firebase云消息向顾客的个人App推送账单明细。

总结

在36个小时的黑客马拉松中,这个项目的团队大概只睡了6个小时,期间克服了许许多多的障碍,也有一些还未解决的问题。

他们的努力也没有白费,这个项目最后夺得了第一名。

有上百人进入了这个快速搭建的无人超市,拿起商品,然后离店,随即完成结算并获得账单。整个过程中不需要收银员、不需要排队……

这个项目是开源的,想自己动手玩一下的话……GitHub地址在此: https://github.com/subhan-nadeem/EZShop

原文地址:https://www.docdroid.net/file/download/Dh4A6aQ/amazon-go-implementation.pdf

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-01-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏测试开发架构之路

今天聊聊云计算

产生         2006年谷歌推出了“Google 101计划”,并正式提出“云”的概念和理论。 云计算思想的产生:        传统模式下,企...

8066
来自专栏更流畅、简洁的软件开发方式

设计上的8/2原则,您实现了吗?实现后会是什么样子的呢?

最近做项目感觉很累很累,先自我分析一下吧。(但愿不要给大家一个“阴天”的感觉) 先明确一下我理解的“设计”的范围。一定要先说明一下,否则容易混淆。 一般做...

2259
来自专栏知晓程序

小程序搜索功能不容忽视,背后大有深意

1502
来自专栏知晓程序

百度小程序悄然上线!被遗忘的「轻应用鼻祖」,能否重回高地?

1112
来自专栏数说工作室

学习Python 的7个理由

原文:7 Reasons You Should Learn Python Now (https://dzone.com/articles/7-reasons-y...

3738
来自专栏ATYUN订阅号

TextGrabber重大更新,识别文字并实时离线翻译,支持中文

当你想用机器翻译时,也许会立刻打开谷歌翻译。但是,尽管经过多年的开发和技术收购,它仍然存在诸多问题。例如,如果你在陌生国家没有互联网连接,并且未提前下载该语言...

1724
来自专栏web前端教室

前端新人,除了js还缺少啥?

简短截说,前端新人除了js还缺少二样东西,一是规则;二是沟通; 规则是指,日常工作中的事务性工作,例如日志,邮件,会议,记录,讨论,发言...等等这些东西。 例...

19810
来自专栏BestSDK

从架构分析到代码,Amazon无人超市是这样诞生的|附教程

首先我们先看一段预览视频,了解一下无人超市的整个销售与运作过程。 视频内容 无人超市,未来趋势。 上面这段视频,展示了逛亚马逊的Amazon Go无人超市是种怎...

4375
来自专栏申龙斌的程序人生

读书笔记:微信营销与运营

《微信营销与运营----策略、方法、技巧与实践》是一本微信运营的入门书,微信作为移动互联网的超级入口,打通了“生活圈”、“工作圈”、“社交圈”,必须得会利用它了...

3026
来自专栏媒矿工厂

网络媒体联合工作组(JT-NM)技术规范介绍

目前,专业媒体行业面临着从专用广播设备和接口(SDI,AES,交叉点切换器等)到基于IT的分组网络(以太网,IP,服务器,存储,云等)的转变。如何通过在网络上进...

1100

扫码关注云+社区

领取腾讯云代金券