前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >DIY穷人版谷歌眼镜,自定义手势操控,树莓派再一次被开发新玩法

DIY穷人版谷歌眼镜,自定义手势操控,树莓派再一次被开发新玩法

作者头像
量子位
发布2023-03-10 13:12:06
8790
发布2023-03-10 13:12:06
举报
文章被收录于专栏:量子位量子位
兴坤 发自 凹非寺 量子位 报道 | 公众号 QbitAI

通过帅气的手势,操控投影在眼前的电子成像,这不就是科幻片里的基础配置嘛。

现在,有人把它从科幻电影中带入了现实。动动手指,实现对眼前世界的掌控。

热衷于制作智能小物件的油管博主Teemu Laurila,利用树莓派DIY了一副可识别自定义手势的AR眼镜。

将自己想设置的手势录入装置,即可实现炫酷操作。

我有了一个大胆的想法!

自制AR眼镜中的世界

先开始表演吧!

捏住手指上下拉,就可以完成调整亮度指令。(这是你的第一人称视角)

对手势识别,叠加显示在镜头成像中。

再来一个更直观点的视角,通过眼镜看看效果。

DIY过程

AR眼镜本身就充满了科技感,让现实世界充满赛博朋克的味道。

那不如更炫酷一点。打个响指,就能运行命令,这不必博人传燃?

说干就干,首先需要设计出,装置会包含有哪些部分。

除了本体眼镜框架,硬件部分还包括了透镜组,0.6 mm PETG投影镜片,配件部分由聚乳酸材料3D打印制成。

毕竟它是智能装置的DIY,怎么可以不请万能迷你电脑树莓派出场。

而软件部分,手势识别程序依赖于python开源项目MediaPipe

除此之外,Teemu Laurila还写了两个程序脚本。

一个是通过捏手指控制亮度的应用示例,另一个是捕获实时视频中的手势传送到电脑进行处理,并通过智能眼镜叠加显示。

条件都齐了,那么动手组装起来试试。

经历多次调整,各部分零件最终组合成如下装置。

想让程序在装置上可用,首先,需要一个树莓派作为程序支持。

随后设置好内存、驱动、运行环境、多媒体接口、网络等条件,让整个装置超频运行。

硬件软件环境都准备好以后,调试应用程序。

应用程序功能的核心——手势识别模型由3个框架组成,包括手掌识别模型BlazePalm(用于识别手的整体框架和方向)、Landmark模型(识别立体手部节点)、手势识别模型(将识别到的节点分类成一系列手势)。

识别算法的训练过程中,BlazePalm模型识别手掌初始位置,对移动端的实时识别进行优化。

在BlazePalm识别到的手掌范围内,Landmark模型识别其中21个立体节点坐标。

手势识别模型则在此基础上,根据关节角度识别每根手指状态,将状态映射到预定义的手势上,预测基础静态手势。

通过树莓派Zero W,对手势信息捕获。图像信息传输到电脑中,由手势识别AI进行处理。之后再传达给装置,发出对应的手势命令,并同步在投影图像中。

它的前世今生

等一下,有摄像头,有微型投影仪,还有电脑处理器,并且还是一侧投影显示。这样的AR眼镜好像在哪里见过。

没错,就连用到的手势识别代码也都是谷歌开源的。

虽然没有谷歌智能眼镜类似智能手机的功能,但是相比其语音控制和触控功能,Teemu Laurila的智能眼镜选择了使用自定义手势触发命令,更多一分黑科技的味道。

另外,谷歌眼镜摄像头只用来拍照录像,Teemu Laurila的摄像头还承担了接受手势指令、传达指令功能。同时,投影也选择了更大尺寸的方形镜片,方便视野观察。

这款装置已经是Teemu Laurila完成的第二版智能眼镜,在外观和性能上均有优化。

材料的选择上,采用了0.6mm厚度投影镜片替代1mm厚度;以聚乳酸材料代替丙烯酸;增加了螺栓固定支架,弃用胶水。

最重要的优化是,照相机使用方形透镜让画面更清晰。

Teemu Laurila将自己补充的两段代码,分享在了GitHub平台,供感兴趣的观众自己复刻。

参考链接: https://www.tomshardware.com/news/raspberry-pi-smart-glasses-recognize-hand-gestures https://www.youtube.com/watch?v=60Os5Iqdbsw https://www.youtube.com/watch?v=Gu4oOYo38rQ

GitHub链接: https://github.com/Teneppa/CameraStream https://github.com/Teneppa/HandTrackingBrightnessControl

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

「量子位·视点」直播报名

人工智能产业化之路何去何从?清华博士、一流科技CEO在线分享,从AI的局限与能力出发、探讨人工智能的商业机会,扫码报名~

点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-08-24,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 量子位 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 自制AR眼镜中的世界
  • DIY过程
  • 它的前世今生
相关产品与服务
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档