不可预测的'弗兰肯算法'会有致命的后果并使程序员落伍吗?

Zorro(Slashdot读者)总结了“卫报”中的一篇新文章:一名女性死于一辆自动驾驶汽车,突显了一场正在展开的技术危机,因为代码堆积在一起,创造了“一个完全没有人理解的宇宙 ”。 “在某些方面,我们已经失去了主动权。当程序进入代码并且代码传递到算法然后算法开始创建新算法时,它越来越远离人类代理。软件被释放到代码世界中,没有人可以完全明白。“ 作者将这些人造怪物称为“franken-algos”,因为“经过一段时间的野外,我们不再知道它们是什么:它们有可能变得不稳定。” 自学算法已经成为华尔街交易“新的全机器阶段”的一部分,导致科学历史学家乔治戴森认为规则“没有人知道规则是什么:算法创建自己的规则 - 你让它们的演变方式与大自然演化生物的方式相同。“ 代码在哪里结束?已经有一个机器人神枪手警察,在朝鲜和韩国之间的非军事区,并且已经由三个不同国家开发出“成群的协调武器化无人机”。文章建议重新考虑我们的法律制度,为任何严重失灵的算法负责,并指出计算机协会最近更新了其道德准则“沿着医学的希波克拉底誓言,指示计算专业人员不伤害和考虑他们工作的广泛影响......这里描述的大多数问题都存在或者可以找到解决方案,但并非没有鼓励科技将社会健康与其底线相提并论。 “从长远来看,越来越严重的未来是,鉴于我们越来越依赖的算法系统的规模,复杂性和相互依赖性,目前的编程方法不再适用于目的。” 新南威尔士大学人工智能教授托比沃尔什甚至说“我们最终会完全放弃编写算法......”因为机器能够比以往任何时候都好得多。从这个意义上说,软件工程可能是一个未来不景气的职业。“

  • 发表于:
  • 原文链接http://developers.slashdot.org/story/18/09/01/0539235/will-unpredictable-franken-algorithms-have-deadly-consequences-and-make-programmers-obsolete
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券