作者 | Thoughtworks
近日,思特沃克(Thoughtworks)发布了关于未来技术趋势的分析报告《科技棱镜》,深度剖析 2022 年乃至更远的未来推动企业发展的关键技术趋势。基于 Thoughtworks 在新技术普及之前为企业提供前沿技术的独特方法,这份报告为行业领导者如何更好的参与竞争并成为行业变革者提供了建议。
Thoughtworks《科技棱镜》未来技术趋势分析报告将每年更新一次,密切关注企业不断变化的技术工作重点和对技术的应用。本期《科技棱镜》未来技术趋势分析报告,聚焦以下五个视角:
该报告重点介绍了通过不同视角能够发现的各种机会,以及可用于衡量新趋势发展速度的预兆信号。我们选取了《技术作恶的影响扩大》的章节,这部分从时间范围,以及 Thoughtworks 建议的应对策略两个部分对趋势进行了分析。
技术作恶的影响扩大
“恶意”技术通常与勒索软件、入侵系统窃取数据或制造计算机病毒等犯罪活动联系在一起,但这并不是全部。由于技术形势的发展,技术作恶的定义也应该相应扩展,以包含那些虽然合法甚至被广泛接受,但最终会威 胁社会福祉的行为。
科技棱镜趋势分析
随着技术变得越来越复杂,技术被误用滥用的形式也越来越多。人们在日常活动中越来越依赖科技,相应地, 他们日益受到意想不到的、甚至是恶意后果的影响。再加上高度的自动化以机器的速度做出决策,出错的可 能性就会迅速增加。
根据我们的定义,“作恶”技术不仅包括恶意软件和黑客工具等犯罪技术,还包括恶意广告和客户定位。一 项技术是否属于作恶,可能是一个视角问题。有些人并不认为互联网广告、跟踪 Cookie 或社交媒体传播活动具有侵入性,他们很乐意用自己的数据换取他们认为个性化或特殊价值的服务。有些人则在浏览器中安装了广告拦截软件,并完全避开微博、朋友圈等社交应用。对某些人来说,同意跟踪记录或收集个人数据基本上是一 种自动选择;而对另一些人来说,则需要经过谨慎思考。这就是说,由于不同人口群体对技术的获取和体验程度不同,以及关于知情同意的信息和选择的呈现方式存在各种差异,导致许多人已经忘记了一个事实,即他们首先是有选择权的。
并非所有的作恶行为都是蓄意或是恶意的。算法或机器学习系统中的偏差就是一例。由于在构建或开发过程中发生的意外偏差和疏忽,可能会对某些客户群体表现出恶意倾向,但这种偏差并非由于系统遭到了破坏或 设计者有意为之。
相关预兆信号包括:
机会
随着数据泄露接近历史峰值,防范黑客蓄意攻击和恶意软件变得日益重要。企业必须在日益扩大的攻击面上大力投入进行防御,以对抗资金雄厚、组织严密的攻击者。然而,随着发生危险的可能性上升,企业还必须考虑恶意技术其他方面的问题。我们相信,尊重客户的意愿,避免”如影随形“的受众定位,并根除算法系统中的偏见,不仅从本质上讲是合乎伦理的,而且有利于建立信任和积极的公众认知,最终有利于企业的健 康发展。
据媒体报道,SolarWinds 供应链遭黑客攻击,致使该公司损失了近 2,000 万美元,保险索赔估计达到 1 亿美元, 这表明恶意事件的财务的不良影响很容易失去控制。GDPR 的罚金在缓慢起步后又有所提高,总罚金较上年激增 113.5%。最值得注意的是,亚马逊在其 2021 年 7 月的财报中宣布了 8.77 亿美元的巨额 GDPR 罚金,比此前的记录高出近 15 倍。随着消费者对隐私日益重视,稳健的安全保护措施已成为某些公司的一大优势。思科最近的一项调查发现,近 80% 的消费者将数据保护纳入购买决策,并愿意为隐私标准更高的产品或供应商支付更多费用。
我们所看到的当前形势
在与英国政府为期七年的一个合作项目中,我们帮助他们改变了与公民互动以及向公民提供公共服务的方式, 从一开始就将信任和安全视为重中之重。该项目将不同的政府网站整合为一个强大而便利的平台,增强了公民体验,并大大缩短了部署周期。重要的是,该平台有一个在线身份认证系统提供支持,从而在公民提交服 务申请时,同时满足所有必要的数据保护要求,并尊重个人的隐私权。最大限度减少产生负面结果的可能性, 增强人们对平台的信心,促进了该平台的迅速普及。
值得关注的趋势
采纳(当下存在的技术,正在业界得到充分利用)
分析(受到关注的技术,但依赖不同行业和应用场景)
预测(成熟度欠缺的技术,可能在未来几年产生重大影响)
对采纳者的建议
网络安全是一场与对手的猫鼠游戏。AI 在各企业中迅速普及,以助力其应对安全威胁,各种各样的产品正在涌现,以满足不断增长的需求。目的是通过自动化手动检测的任务,提供入侵警报和仔细检查网络流量等智能功能,以检测异常行为、违反政策的情况或机器人故障,从而创造公平的竞争环境。也许 AI 方法最关键之处在于,它们不仅能够限制受攻击面和填补漏洞,而且还能够帮助预测未来可能发生的攻 击,从而可以提前采用适当的风险缓解策略。
AI 不是灵丹妙药。重要的是要记住,任何用于防御的技术也可能被攻击者利用,虽然企业可能会从 AI 中受益,但它不是灵丹妙药。企业需要摈弃将人工智能、机器学习和数据导向型工具视为“一体适用” 的解决方案。相反,任何工具都需要成为贯穿整个组织结构的广泛智能战略的一部分。例如,机器学习 不能孤立地实现有效的安全性 ; 它需要管理数据和模型的生命周期,并反馈结果。更重要的是,安全问题人人有责。这使得零信任架构方法能够应用于细分现实网络,并以一种安全扩展的方式覆盖安全和数 据访问原则,根据需要提供信息 ; 不多不少正好满足隐私保护的目的。
采用或构建一个数据道德框架,向员工和客户明确数据是如何存储、使用和保持安全的。我们建议您只 保留实际需要的数据,不超过所需的量。现代合规性和隐私法要求审慎的高水平审查,这可以转变为一 个积极的差异化因素。作为数据保留策略和数据集构建和使用的基础,强大的数据伦理框架也可以在您的整体数据战略中发挥重要作用。
即使不是一目了然,也总是会存在偏见,所以要不断地努力。偏见很难在事后消除,因此,前期处理 (包括不公平在内的问题) 至关重要。重要的是,记录数据的方式要允许对基于数据的行动、产品或决策进行审计和分析,以了解其对特定群体的影响。需要对数据来源的表述、所提取样本的人口特征以及所用算法的选择进行具体思考。我们负责任的技术手册提供了指导和最佳实践,可以协助实施这一过程。永远不要假设自己的数据不存在偏见。我们是人类,偏见无处不在。