本周的两场安全简报得出了相同的结论。攻击者现在在大多数勒索软件攻击中使用AI,而且越来越多地通过企业自己部署的AI智能体和身份系统下手。与此同时,新的AI决策工具给出难以审计的自信答案,而一个自信的错误答案比明显的错误更难发现。
要点
- 一项针对1,200名IT专业人员的调查发现,84%的勒索软件攻击有AI的帮助,44%滥用了企业自己的智能体或身份系统。
- 老风险依然伤人:被入侵的超市冰柜运行的是旧固件,尽管修复程序早已存在。
- 自信不等于证据。一个说“97%确定”的模型,仍可能被喂了篡改过的日志或被投毒的数据。
- 解决办法很枯燥但有效:给智能体独立的身份,记录一切,使用紧急停止开关,把大决策拆成可检查的小步骤,并在高风险操作上保留人工把关。
为何重要: 我们为客户构建的每一个Notion智能体和AI工作流,从第一天起就需要访问规则、审计日志和关闭开关。这是项目中清晰且可以推销的一部分。
来源(2)
- The patching gap: Hacked fridges, AI ransomware and Mythos finds · IBM Technology
- The Problem with Jev: Can You Trust AI Decisions? · IBM Technology
Digital Cookie News




