对抗情报 — 网络攻击与防御实验室

研究智能系统如何帮助防御者推断不断变化的威胁。

我们如何研究这个领域

该实验室在孤立的合成环境中研究防御问题。它可以演示事件质量、检测阈值和响应权限如何影响场景，但无法建立操作准备状态。研究方向包括信号来源、可解释的分类、可逆遏制和恢复计划。任何与真实基础设施相关的工作都需要单独的授权、专业范围和适当的审查。

1. 01

   不断变化的威胁格局

   互联服务创建更多保护路径，而自动化可以提高攻击和防御的速度。防御性设计必须考虑到不确定性、不完美的信号和可能误导的警报。

   攻击路径可以跨越身份、软件依赖项、云配置、供应商和人工工作流程。单个警报很少能捕获完整的上下文，安静的信号可能比戏剧性的信号更相关。防御系统需要保留不确定性，并帮助人们优先考虑调查，而不是将每个相关性都呈现为已确认的事件。

2. 02

   人工智能支持的攻击和防御挑战

   自动化可以帮助对手扩大活动规模并帮助防御者对事件进行分类。生成的内容可以具有说服力，而自动决策可以快速传播错误；这两种用途都需要仔细评估。

   生成工具可以减少创建令人信服的消息或自动执行重复操作所需的工作量，而防御者还可以使用自动化来审查大量事件。核心工程问题不在于人工智能是否存在，而在于人工智能是否存在。它是如何衡量错误、限制权威并确保速度的提高不会使错误的反应更难逆转。

3. 03

   对抗性测试

   有用的防御测试从定义的范围、安全的环境和可回答的问题开始。综合场景可以检查检测和响应假设，而无需探测公共目标或暴露生产系统。

   授权测试应从书面范围、命名环境、允许的技术、时间窗口和负责的联系人开始。测试问题应该足够具体，以便结果可以改变控制或响应计划。实验室模拟可以安全地说明这些决策，但它不能替代对真实系统的专业评估。

4. 04

   自主防御代理

   防御代理可以收集信号、确定响应的优先顺序并准备一项行动以供审查。其权力应当明确且有界线；扰乱服务或影响人们的行为需要适当的人为决策。

   特工可以总结案例、连接相关事件或准备收容建议。它应该公开其输入和不确定性，区分证据与推论，并在操作可能中断服务或影响用户时等待批准。自主水平应遵循已证明的可靠性和错误的后果。

5. 05

   检测和事件关联

   一个事件很少能解释一个事件。相关性可以连接时间、身份、系统行为和上下文，同时保留每个信号的起源和不确定性以供以后审查。

   仅当分析师能够追踪相关性的形成方式时，相关性才有用。记录应保留事件起源、时间戳、身份上下文、转换和置信度，以便调查人员可以重现结论。不匹配的事件应该保持独立，而不是被迫进入一个看起来比现有证据更确定的故事。

6. 06

   威胁遏制

   遏制可以限制传播，但过于广泛的反应可能会中断合法工作。应对计划应说明孤立的内容、原因、持续时间以及谁可以推翻决定。

   遏制决策涉及限制伤害和维护合法服务之间的权衡。良好的响应计划会考虑范围、持续时间、依赖性、客户影响和逆转条件。它还记录谁批准了该操作以及支持该操作的证据，使团队能够学习而无需将自动隔离视为本质上正确的。

7. 07

   恢复和证据保存

   恢复可恢复已知良好的操作，同时保留有助于解释所发生情况的记录。该流程在服务恢复与证据完整性、隐私和受影响用户的需求之间取得平衡。

   恢复应与检测一起计划。团队需要识别可信备份、以安全顺序恢复依赖关系、清晰沟通并保存了解事件所需的记录。快速恢复服务但丢失重要证据的系统可能会使后续的预防和问责变得更加困难。

8. 08

   安全、权限和人工监督

   授权是一个技术边界。每个测试都应该有明确的范围、最低权限访问、停止路径和负责任的审查。这种模拟无法联系真实系统。

   安全研究必须保护其研究的人员和系统。权限、最小权限、数据最小化、隔离和可靠的停止机制是设计要求而不是免责声明。人类评审员需要足够的背景来质疑建议，而实验室应该将每个模拟事件与公共或生产网络分开。

9. 09

   长期防御研究

   未来的问题可能包括弹性身份、信号质量、可解释的优先级以及防御工具之间的安全协调。进展取决于经过验证的方法，而不是声称一种模型可以防止每一次攻击。

   长期防御工作可以检查身份弹性、供应链可见性、事件协调以及人们如何解释机器生成的评估。每个问题都需要自己的证据和操作背景。没有任何单一模型可以阻止每次攻击，因此可靠的方向结合了技术控制、准备好的团队、经过测试的恢复和持续学习。