首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >可信赖的互联网:我们可以相信新兴技术吗?

可信赖的互联网:我们可以相信新兴技术吗?

作者头像
fengziboboy
发布2018-05-02 17:03:13
7700
发布2018-05-02 17:03:13

随着物联网的发展,曾经“呆傻”的物体现在具备了“智能”了,而且无论我们喜不喜欢,它们的能力在我们的日常生活中正变得不可或缺。但是如果这些东西并不靠谱的话,会发生什么?

2016年1月,谷歌旗下的Nest Labs 的自学习恒温器受到审查,因为NestT在一年中最寒冷的时候停止工作,使成千上万的用户在自己家中被冻成了狗。然后,在同一年的七月份,Nest温控器再次停止工作,这次是在整个美国遭受广泛的热浪期间。(这次是热出翔呀,哈哈)

2016年12月,阿肯色州本顿维尔的警方发布了一项授权令,要求亚马逊交出来自Echo客户的任何录音,因为他们认为Echo可能听到并记录了凶杀案的证据(或至少有关于导致房主的朋友的死亡的线索)。

尽管现在可以在家中使用的设备越来越多,但当我们离开家时,物联网依旧在工作。事实上,我们周围的越来越多的物体将继续嵌入微型传感器和无线电,使他们能够连接到互联网并相互连接。例如,我们今天驾驶的汽车加入了物联网运动,并开始能与云、其他汽车甚至环境中的物体(如路牌,交通信号灯和道路本身)进行通信。

我们大多数人可能熟悉智能汽车公司特斯拉汽车公司和其旗舰产品全电动汽车。许多人并不熟悉的自动驾驶仪功能现在已在许多可用的车型中提供。当特斯拉远程发布一个由汽车直接下载和安装的无线更新时,此功能便可用。自动驾驶仪允许司机简单的靠坐下来放松自己,而汽车会自动行驶。宝马,奥迪,沃尔沃和谷歌等公司也在制造类似的技术。

传统上,计算机和其他电子设备必须遵循其创建者提供的预定义指令集。如果程序员没有在预定义的指令列表中提供特定的功能或任务,那么“事物”不知道该功能,因此不能执行该任务。也就是说,我们的电子产品只能做被提前编程好的事情,其他的事情就不会做了。毕竟,计算机不能撒谎 - 或者他们可以吗?

对于真正变得“聪明”的事情、技术(包括上述那些技术)正在利用一种称为机器学习的人工智能。这使他们能够适应不可预见的情况,并且或多或少地发展超出其最初编程规定的能力。例如,汽车制造商无法识别和编程自动驾驶汽车可能遇到的每种可能的情况。相反,汽车制造商通过来利用机器学习用他们拥有的数据(例如,与自行车上的人看起来相比,街道标志看起来像什么)来训练算法模型。然后,他们以尽可能多的已知数据来支撑这些算法,并使用更多的数据(算法未经过训练)来测试他们的模型,以确定他们可以用不熟悉的输入(例如真实世界中发现的输入)去执行的能力。

这并不意味着电脑和其他电子产品现在有能力崛起,并且像流行文化要我们相信的那样接管世界。但这确实意味着这些东西现在能够做到比传统编程范例更多的东西。这也意味着这些东西现在可以完成一些意想不到的事情 —— 一些程序员没有计划好的事情。

举个例子,如果一辆自驾车“学习”了更具有侵略性而且还能采取必要的措施以避免对自身造成损害,那会发生什么?由于在自动驾驶汽车中没有硬编码规则能专门定义了路牌与自行车上的人的相似之处,因此汽车要自己去学习它们之间的差异并区分对待它们(比如路牌是预计不会移动,但预计自行车上的人将移动)。如果汽车学习到没有其他可以采取的行动了,除了通过撞击自行车上的人而不是撞击路标可以将自身受损最小化,会发生什么情况?又或者,如果汽车根本无法区分两者之间的差异,不能停下来或者转弯去避免碰到移动的骑车者或标志,会发生什么?在这种情况下谁会被追究责任?骑自行车的人?汽车制造商?开发和训练算法模型的云服务提供商?还是上述所有的人?通常情况下,这辆车的司机可能会被追究责任,但这场景中没有驾驶员呢?如果乘客不是这车的主人(例如搭乘出租车或Uber),如果车内根本没有乘客呢?该怎么办?或者干脆这车内根本没有乘客呢?

回到物联网恒温器在恶劣天气下失败的例子,如果这些失败导致伤害甚至死亡,谁应该追究责任?而且,由于许多制造商现在都在构建具有互联网连接依赖性的设备,谁承担故障责任?如果互联网连接失败,导致设备无法执行,是否应要求互联网服务提供商负责?

尽管新兴技术跃然纸上令人兴奋,但我们是否能够信任它们仍然是一个潜在的问题。例如,在商业航班期间,飞行员有时会使用自动驾驶系统,并且从没有让我们担心,原因有两个:首先,我们不知道自动驾驶仪何时被启用,因为我们不能再看到驾驶舱;第二,我们不关心我们自己,因为我们感到很自在,因为我们知道并相信有一个(希望)训练有素的人类飞行员在发生事故时会接管飞机。在特斯拉自动驾驶仪的例子中,如果驾驶者感觉车辆错误地运行,驾驶员可以随时接管车辆的控制。但是,并非所有情况都会包含人为解决故障的安全措施。

自动驾驶飞机和自动驾驶汽车都需要经过严格的开发和测试程序才能满足某些要求,然后才能让公众信任其安全性和能有保障的操作。尽管如此,系统可能会失败。随着越来越多的事情依赖于云,并且它们具备为自己思考和规划的能力,我们必须继续质疑它们是否可以信任。因此,我们应该向产品制造商和服务提供商施加压力,以确保我们带入家中的“物品”能够做正确的事情,或者至少继续知道什么事正确的事情。诸如当出现问题时谁应该负责之类的问题一直在争论。我们都需要表达我们的担忧,要求透明度和明确问责制,以便每次迭代都比上次更好。

无论是可以学习其拥有者的模式并知道何时、在什么温度下开启/关闭的自动调温器,还是像Amazon Echo或Google Assistant这样的能听从我们所说的每一个字的家庭助理,这些我们假设可以简化我们的生活的物品变得聪明起来,这有点诡异。关于隐私,安全和可靠性,这些设备的制造商告诉我们完全不用担心,我们应该“相信他们“。但它真的值得相信么?我们是否应该接受设备制造商和服务提供商的表面看法?我们是否应该“相信”它们事实上只是在做制造商告诉我们的事情?我们是否应该“相信”我们的汽车不会觉得撞上行人比撞坏车辆自己更好?我们是否应该“相信”我们的私人数据不会以某种方式被用来对付我们?好好思考下。

即使技术会随着时间的推移而不断改进,但我们仍然需要提供反馈意见,让人们并为这些技术的安全运行负责并做出贡献。我们也有责任回答有关其使用,误用和滥用的道德和法律问题。我们应该确保“机器起义”不会发生,确保我们创造的事物能继续丰富我们的生活,而不是摧毁它们。

所有物联网议程网络贡献者均对其帖子的内容和准确性负责。作者的意见并不一定表达物联网议程的想法。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
物联网
腾讯连连是腾讯云物联网全新商业品牌,它涵盖一站式物联网平台 IoT Explorer,连连官方微信小程序和配套的小程序 SDK、插件和开源 App,并整合腾讯云内优势产品能力,如大数据、音视频、AI等。同时,它打通腾讯系 C 端内容资源,如QQ音乐、微信支付、微保、微众银行、医疗健康等生态应用入口。提供覆盖“云-管-边-端”的物联网基础设施,面向“消费物联”和 “产业物联”两大赛道提供全方位的物联网产品和解决方案,助力企业高效实现数字化转型。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档