前言
科技的快速发展令人目眩，对商业的影响深远而难测。Thoughtworks 科技棱镜未来技术趋势分析报告应运而生。
作为一家数字化转型咨询公司，Thoughtworks 必须领先于技术发展趋势，这样才能帮助我们的客户为企业建立战略优势。公司的咨询顾问和客户遍布全球，形成了一个庞大的网络，确保能对未来技术趋势的发展进程和潜在影响保持敏锐。在本报告中，Thoughtworks分享了一些见解，让外界能一窥为何能够通过前沿技术帮助企业实现持续转型。
科技棱镜涵盖 100 个独立技术趋势。为了帮助读者深入理解这些趋势，Thoughtworks分五个“视角”来进行分析。这些视角将帮助读者重点了解各个发展趋势对贵企业意味着什么，以及需要如何做好准备。这些视角可以单独使用，也可以相互结合以形成更广阔的视角，开辟全新的调查途径和思路。
本报告重点介绍了通过不同视角能够发现的各种机会，以及可用于衡量新趋势发展速度的预兆信号。报告将从以下两个方面分析这 100 个趋势：时间范围，以及建议的应对策略，即采纳、分析或预测。希望本报告能帮助读者识别在当下和未来影响贵企业的最重要趋势。
以下是报告全文之视角 Ⅳ：技术作恶的影响扩大
“恶意”技术通常与勒索软件、入侵系统窃取数据或制造计算机病毒等犯罪活动联系在一起，但这并不是全部。
由于技术形势的发展，技术作恶的定义也应该相应扩展，以包含那些虽然合法甚至被广泛接受，但最终会威胁社会福祉的行为。
科技棱镜趋势分析
随着技术变得越来越复杂，技术被误用滥用的形式也越来越多。人们在日常活动中越来越依赖科技，相应地，他们日益受到意想不到的、甚至是恶意后果的影响。再加上高度的自动化以机器的速度做出决策，出错的可能性就会迅速增加。
根据我们的定义，“作恶”技术不仅包括恶意软件和黑客工具等犯罪技术，还包括恶意广告和客户定位。一项技术是否属于作恶，可能是一个视角问题。有些人并不认为互联网广告、跟踪 Cookie 或社交媒体传播活动具有侵入性，他们很乐意用自己的数据换取他们认为个性化或特殊价值的服务。有些人则在浏览器中安装了广告拦截软件，并完全避开微博、朋友圈等社交应用。对某些人来说，同意跟踪记录或收集个人数据基本上是一种自动选择；而对另一些人来说，则需要经过谨慎思考。这就是说，由于不同人口群体对技术的获取和体验程度不同，以及关于知情同意的信息和选择的呈现方式存在各种差异，导致许多人已经忘记了一个事实，即他们首先是有选择权的。
并非所有的作恶行为都是蓄意或是恶意的。算法或机器学习系统中的偏差就是一例。由于在构建或开发过程中发生的意外偏差和疏忽，可能会对某些客户群体表现出恶意倾向，但这种偏差并非由于系统遭到了破坏或设计者有意为之。
相关预兆信号包括：
• 技术日益普及，潜在威胁同时也在扩大。海量的联网设备就是一个简单的例子：弗若斯特沙利文咨询公司（全球最大的企业增长咨询公司） 预测，到 2026 年，全球活跃物联网 (IoT) 设备的数量将超过 650亿台。所有这些设备都会存在可能被利用的潜在安全漏洞。
• 消费者对广告和营销技术的态度和行为正在发生变化，接受广泛使用自身数据的人和更关心隐私的人之间的分歧也越来越大。
• 对于社交媒体在政治竞选中的使用和影响，以及社交媒体渠道如何影响健康、政治和其他社会舆论，人们日益感到焦虑。
• 人工智能 (AI) 和机器学习 (ML) 的使用越来越多，造成了一些意想不到的后果，如算法和所收集数据集中的偏见。对恶意影响的担忧促使人们试图控制人工智能在比如招聘等流程中的使用。
• 围绕数据收集、保留和使用的法规得到加强，如《中华人民共和国个人信息保护法》（新版）、《欧洲通用数据保护条例》(GDPR)、《加州隐私权法》(CPRA) 以及其他司法辖区的同类规定。
机会
随着数据泄露接近历史峰值，防范黑客蓄意攻击和恶意软件变得日益重要。企业必须在日益扩大的攻击面上大力投入进行防御，以对抗资金雄厚、组织严密的攻击者。然而，随着发生危险的可能性上升，企业还必须考虑恶意技术其他方面的问题。我们相信，尊重客户的意愿，避免”如影随形“的受众定位，并根除算法系统中的偏见，不仅从本质上讲是合乎伦理的，而且有利于建立信任和积极的公众认知，最终有利于企业的健康发展。
据媒体报道，SolarWinds 供应链遭黑客攻击，致使该公司损失了近 2,000 万美元，保险索赔估计达到 1 亿美元，这表明恶意事件的财务的不良影响很容易失去控制。GDPR 的罚金在缓慢起步后又有所提高，总罚金较上年激增 113.5%。最值得注意的是，亚马逊在其 2021 年 7 月的财报中宣布了 8.77 亿美元的巨额 GDPR 罚金，比此前的记录高出近 15 倍。随着消费者对隐私日益重视，稳健的安全保护措施已成为某些公司的一大优势。思科最近的一项调查发现，近 80% 的消费者将数据保护纳入购买决策，并愿意为隐私标准更高的产品或供应商支付更多费用。
我们所看到的当前形势
在与英国政府为期七年的一个合作项目中，我们帮助他们改变了与公民互动以及向公民提供公共服务的方式，从一开始就将信任和安全视为重中之重。该项目将不同的政府网站整合为一个强大而便利的平台，增强了公民体验，并大大缩短了部署周期。重要的是，该平台有一个在线身份认证系统提供支持，从而在公民提交服务申请时，同时满足所有必要的数据保护要求，并尊重个人的隐私权。最大限度减少产生负面结果的可能性，增强人们对平台的信心，促进了该平台的迅速普及。
值得关注的趋势
采纳：当下存在的技术，正在业界得到充分利用。
——安全的软件交付：过去的一年里，我们观察到，“软件供应链”受到的攻击显著增加。“软件供应链”并非软件本身，而是帮助我们将软件投入生产的工具、过程和库。美国白宫甚至发布了一项关于网络安全的行政令，包括改善供应链安全的具体指令，如要求所有政府系统都提供软件“材料清单”。安全软件交付强调，安全问题人人有责，这一理念应贯穿整 个软件生命周期。
分析：受到关注的技术，但依赖不同行业和应用场景。
——道德框架：任何决定都有后果。在科技界，随着 AI 决策开始成为主流，伦理学家们一直在探讨道德决策框架，试图让决策过程变得透明和清晰。
预测：成熟度欠缺的技术，可能在未来几年产生重大影响。
——量子机器学习：虽然量子机器学习可能是解决复杂的化学和材料科学问题的一支重要力量，但也可能在数据的伦理使用方面带来进一步的挑战。
对采纳者的建议
网络安全是一场与对手的猫鼠游戏。AI 在各企业中迅速普及，以助力其应对安全威胁，各种各样的产品正在涌现，以满足不断增长的需求。目的是通过自动化手动检测的任务，提供入侵警报和仔细检查网络流量等智能功能，以检测异常行为、违反政策的情况或机器人故障，从而创造公平的竞争环境。也许 AI方法最关键之处在于，它们不仅能够限制受攻击面和填补漏洞，而且还能够帮助预测未来可能发生的攻击，从而可以提前采用适当的风险缓解策略。
AI 不是灵丹妙药。重要的是要记住，任何用于防御的技术也可能被攻击者利用，虽然企业可能会从 AI中受益，但它不是灵丹妙药。企业需要摈弃将人工智能、机器学习和数据导向型工具视为“一体适用”的解决方案。相反，任何工具都需要成为贯穿整个组织结构的广泛智能战略的一部分。例如，机器学习不能孤立地实现有效的安全性；它需要管理数据和模型的生命周期，并反馈结果。更重要的是，安全问题人人有责。这使得零信任架构方法能够应用于细分现实网络，并以一种安全扩展的方式覆盖安全和数据访问原则，根据需要提供信息；不多不少正好满足隐私保护的目的。
采用或构建一个数据道德框架，向员工和客户明确数据是如何存储、使用和保持安全的。我们建议您只保留实际需要的数据，不超过所需的量。现代合规性和隐私法要求审慎的高水平审查，这可以转变为一个积极的差异化因素。作为数据保留策略和数据集构建和使用的基础，强大的数据伦理框架也可以在您的整体数据战略中发挥重要作用。
即使不是一目了然，也总是会存在偏见，所以要不断地努力。偏见很难在事后消除，因此，前期处理（包括不公平在内的问题）至关重要。重要的是，记录数据的方式要允许对基于数据的行动、产品或决策进行审计和分析，以了解其对特定群体的影响。需要对数据来源的表述、所提取样本的人口特征以及所用算法的选择进行具体思考。我们负责任的技术手册提供了指导和最佳实践，可以协助实施这一过程。
永远不要假设自己的数据不存在偏见。我们是人类，偏见无处不在。
【未完待续】
