首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

刘伟:小心,智能的副作用

凡事有好就有弊,手机不例外,智能也不例外。在人机环境系统动态交互(产生智能)时,由于时间、空间、对象、属性、关系、条件、规则、情绪、状态、趋势、感知等的变化,智能中的方式、方法、方案、手段、工具都会做适当的调整和重新组合,正可谓:时变法亦变。智能需要解决的常常是面对的真实问题,比如安全威胁、高效处理、准确预测等等。智能包含着过去的经验和数据,但不会仅仅依赖这些过去,它包还含着未来对此时的影响,比如期望的反馈。一般而言,不能随机应变的智能应该不是真智能。

对生理疾病而言,对症下药是常识,对智能而言,也没有医治百病的万能智能。所有的智能和认知都有范围,包治百病的是假药,万能的智能就是假智能。即使是真智能,也有副作用,比如聪明反被聪明误,所以真实的智能也是有缺点的,但这些缺点与自动化的缺点不同,一活一死,智能缺点最大的特点是可以被自主适时修补、完善!而自动化的缺点却不能够如此,多少有点覆水难收的味道。

人机环境之间的不断交互变化,决定了世界上没有一样的识别任务模式,“橘生于南则为橘,橘生于北则为枳”的例子在智能领域也不少见,机器的智能可以辅助人的学习、推理、决策,同样也可以干扰人的推理和判断,“好心”办坏事,不但存在于人人之间,还会出现在人机之间,比如AI助手的主动性接管问题等,再者,由于复杂问题的千丝万缕,许多不可解释、不好解释、不应解释、不便解释的事物比比皆是,人心难测,何况机芯,用一些情境不同设计出来的算法计算结果试图实时影响、校验、纠正、改变人的直觉、思考结果,如果是小打小闹也就罢了,对那些决定人类命运的大事件宏命令,万一有个三长两短和闪失,哪个敢负这个责任?

人机交互、人机混合、人机融合智能……中人工智能AI可以帮助人,也可以阻碍人,还可以毁掉人……,做这些工作或申请项目时,望不要光看AI好的一面,还希望评审者、管理者也能客观地看到其不好的一面,在不少情境任务下,不好的概率可能会更高一些!

如果有着明确清晰的标准答案,那就不应该叫做智能了吧!智能(包括AI)是晃动中的灯,有光明,也有阴影,小心!

偶感一则:   驻点(稳定点)与鞍点(不稳定点)

在微积分,驻点(Stationary Point)又称为平稳点、稳定点或临界点(Critical Point)是函数的一阶导数为零,即在“这一点”,函数的输出值停止增加或减少。

鞍点(Saddle point)在微分方程中,沿着某一方向是稳定的,另一条方向是不稳定的奇点,叫做鞍点。在泛函中,既不是极大值点也不是极小值点的临界点,叫做鞍点。在矩阵中,一个数在所在行中是最大值,在所在列中是最小值,则被称为鞍点。在物理上要广泛一些,指在一个方向是极大值,另一个方向是极小值的点。

如何求人机融合中某深度态势感知任务函数的驻点和鞍点呢?

苇草智酷简介——

苇草智酷(全称:北京苇草智酷科技文化有限公司)是由长期从事互联网前沿思想、人文、科技和投资领域的专家所组成一个的思想者社群组织,其前身是已运营 5 年的互联网思想者社区—网络智酷。

苇草智酷秉承“让天下思想者连接起来”、“让思想流动起来”、“让思想直立行走”的主旨和愿景,在泛互联网思想领域中,立足全球视野,感知时代脉搏,聚焦思想前沿。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20200827A0OY0500?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券