在浏览器中启用javascript以获得更好的体验. 需要知道才能启用它? Go 在这里.

镜头四:敌对技术不断扩大的影响

 

“敌对”技术通常与勒索软件等犯罪活动联系在一起, 闯入一个系统窃取数据或制造计算机病毒——但这并没有全面了解情况. 形势正在演变,敌对技术的定义应该扩大到包括法律, 甚至被广泛接受, 最终威胁社会福祉的行为.

 

《宝博体育官网》 

 

随着技术变得越来越复杂,它被滥用的方式也越来越多. 随着人们在日常生活中越来越依赖科技, 它们越来越多地遭受意想不到的——甚至是敌对的——后果. 再加上高水平的自动化——以机器的速度做出决策——出错的可能性迅速上升.

 

根据我们的定义,“敌对”技术不仅包括恶意软件和黑客工具等犯罪技术,还包括广告和客户定位等案例. 技术是否具有敌意可能是一个视角问题. 有些人找不到网络广告, 跟踪cookies或社交媒体对活动的影响具有侵入性,并乐于用他们的数据来交换他们认为的个性化服务或特殊价值. 其他人则在浏览器中安装广告拦截软件,完全避开Facebook. Consenting to track or the collection of personal data is for some basically automatic; for others, 经过深思熟虑的选择. 也就是说, 很多人都没有意识到他们一开始就有选择的权利, 由于不同的社会和人口群体获得技术的程度和经验不同, 以及关于同意的信息和选项的提出方式的差异.

 

并非所有的敌对行为都是恶意的或有意的. 一个例子就是算法或机器学习系统中的偏见. 这些可能对某些客户群体表现出“敌对”的倾向,而没有被妥协或故意这样设计, 因为它们在构造或发展的方式上未经计划和未被注意到的扭曲. 

 

信号包括:

 

  • 技术的日益普及和潜在威胁的同时扩大. 一个简单的例子就是连接的绝对数量: 霜 & 沙利文 据预测,到2026年,全球活跃物联网设备的数量将超过650亿. 每一个都有可能被利用的潜在安全漏洞

  • 消费者对广告和营销技术的情绪和行为不断演变,接受广泛使用自己数据的一方和更关心隐私的一方之间的分歧越来越大

  • 对社交媒体在虚假宣传活动中的使用和影响以及社交媒体渠道如何影响健康的担忧日益加剧, 政治和其他社会辩论

  • 人工智能(AI)和机器学习使用增加带来的意外后果, 比如算法和收集到的数据集的偏差. 对不利影响的担忧,促使人们试图在招聘等过程中控制人工智能的使用

  • 加强对数据收集、保留和使用的监管,比如中国的新 个人信息保护法, 《宝博体育官网》(GDPR)、《宝博体育官网》(CPRA)以及其他司法管辖区的类似条例

 

的机会

 

数据泄露接近历史最高水平在美国,防范蓄意黑客和恶意软件的攻击变得越来越重要. 企业必须在更广泛的接触点上进行投资,以抵御资金充足、组织有序的对手. 然而,随着潜在危险的上升,我们也必须考虑敌对技术的其他方面. 我们相信尊重客户的意愿, 避免侵入性和自私自利的目标,根除算法系统和数据集内的偏见,不仅内在道德,而且有利于信任, 积极的公众认知,以及最终的商业健康.

 

据媒体报道, SolarWinds的供应链黑客事件让该公司损失了近2000万美元, 估计保险索赔达1亿美元, 这表明敌对事件的财务后果是多么容易失控. 在缓慢启动后,GDPR罚款增加了 罚款总额激增113.5% 在过去一年里. 最明显的是, 亚马逊高达8.77亿美元的GDPR罚款, 该公司在2021年7月的收益报告中宣布, 是之前记录的近15倍吗. 因为消费者更重视隐私, 健壮的安全实践已经成为一些公司的一大特色. A 思科最近的一项调查 研究发现,近80%的消费者在做出购买决定时会考虑数据保护因素,并且愿意为隐私标准更高的产品或供应商支付更高的价格.

城市灯光下的伦敦夜景 城市灯光下的伦敦夜景

我们所看到的

在七年的合伙关系中, 我们开始帮助英国政府改变与公民互动和提供公共服务的方式, 从一开始就把信任和安全放在首位. 该项目将不同的政府网站整合成一个强大且用户友好的平台, 提高公民经验,大幅加快部署周期. 重要的是, 该平台由一个在线身份保障系统支持,允许公民提交服务申请,同时满足所有必要的数据保护要求,并尊重个人隐私权. 最大限度地减少负面结果的可能性和增强对平台的信心,鼓励其迅速采用.

观察趋势:前三名

 

采用

 

安全软件交付. 在过去的一年里,我们看到针对“软件供应链”(而不是软件本身)的攻击显著增加, 但这些工具, 帮助我们将软件投入生产的过程和库. 美国白宫甚至发布了一项关于网络安全的行政命令, 包括提高供应链安全性的具体指令,比如要求所有政府系统都要有软件“材料清单”. 安全软件交付强调安全性是每个人的问题,应该在整个软件生命周期中予以考虑.

 

分析

 

道德框架. 任何决定都有后果. 在科技领域,人工智能的决策已经开始成为主流, 伦理学家一直在讨论道德决策框架,试图将透明度和清晰度引入决策过程.



预测

 

量子毫升. 虽然可能是一股好的力量, 解决复杂的化学和材料科学问题, 量子ML还可能在数据的伦理使用方面产生进一步的挑战.

观察趋势:完整的矩阵

采用
今天的技术在这个行业中被利用
  • 分散的安全
  • 安全软件交付
  • DevSecOps
  • 自动化的合规
  • 测试ML算法和应用程序
  • 隐私第一
  • 人工智能作为一种服务
分析
根据行业和用例的不同,开始获得关注的技术
  • 区块链和分布式账本技术
  • 个人信息经济
  • 企业背景下的合成媒体
  • 计算机视觉
  • 连接的家庭
  • 生物识别技术
  • 面部识别
  • 人工智能在安全
  • 聪明的合同
  • 选择货币
  • 道德框架
  • 可辩解的人工智能
预测
这些技术仍不成熟,可能在几年内产生影响
  • 软件的道德规范
  • “安全”业务
  • 监测技术
  • 让人上瘾的科技
  • 环境和社会治理技术
  • 技术与主权
  • 智能城市
  • 加强监管

建议用户

 

  • 网络安全是一场与你的对手进行的猫鼠游戏. 人工智能正迅速成为一种帮助组织抗击安全威胁的流行工具, 各种各样的产品不断涌现以满足不断增长的需求. 其目的是通过自动化的人工检测任务来实现公平竞争, 提供情报,如入侵警报和审查网络流量,以检测奇怪的行为, 策略违反或恶意程序. 或许,人工智能技术最重要的优势在于,它们不仅能够限制攻击面和填补漏洞,还能够帮助预测未来可能发生攻击的地点, 因此,可以提前采取适当的风险缓解战略.

     

  • 重要的是要记住,任何用于防御的技术也可能被攻击者使用 虽然该组织可能会从人工智能中受益,但它并不是灵丹妙药. 企业需要摆脱对人工智能的认识, 机器学习和面向数据的工具是“一刀切”的解决方案. 而不是, 任何工具都需要成为嵌入整个组织结构的普遍情报策略的一部分. 机器学习, 例如, can’t support effective security in isolation; it requires managing the lifecycle of data and models and feeding back outcomes. 更重要的是,安全需要被视为每个人的问题. This enables the application of zero-trust architectural approaches to subdivide the physical network and overlay security and data access principles in a way that scales safely and makes information available as needed; no more than is necessary for privacy purposes but no less either.

     

  • 采用或构建 数据伦理框架 让你的员工和客户清楚数据是如何存储、使用和安全保存的. 我们建议您只保留您实际需要的数据. 现代的合规和隐私法需要高度的审查,仔细思考可以变成一个积极的区别. 健壮的数据道德框架还可以作为保留策略和数据集构建和使用的基础,在您的总体数据策略中发挥重要作用.

     

  • 即使它不是立即明显的,偏见总是存在的 -所以要不断地努力. 而且事后也很难消除,所以提前处理不公平等问题是必要的. 以一种允许行动的方式记录数据是非常重要的, 基于此的产品或决策应根据其对特定群体的影响进行审计和分析. 需要将特定的思想应用到数据源的表示中, 从中提取的样本的人口统计特征和使用的算法选择. 我们的 负责科技剧本 提供指导和最佳实践,可帮助完成此过程. 永远不要假设你的数据是没有偏见的. 我们是人类,偏见无处不在

到2023年,企业将……

……认识, 透过采取综合策略,结合社会影响及安全及合乎道德的科技,务求抓住机会,在争夺客户及人才的竞争中脱颖而出.
Harinee Muralinath
全球安全社区领导,Thoughtworks

下载报告全文