研究与未来十年

询问智能系统应该变成什么样，以及人们如何保持有意义的控制。

我们如何研究这个领域

该方向组织了可能具有技术依赖性或人类后果的跨领域问题。该图集是一份编辑地图，而不是已完成的 CSW 研究的记录、内部工程图表或经过验证的产品目录。每个主题只有在其来源、方法、局限性和公开发布状态足够清晰以供读者评估时才应扩展。

1. 01

   CSW Global 的研究视角

   研究视角考察了正在发生变化的内容、仍然不确定的内容以及哪些问题值得关注。对某个领域的兴趣并不意味着它是一个完整的实验或经过验证的能力。

   研究视角首先将观察结果、已发表的证据、工作假设和未解决的问题分开。它询问为什么一个领域对个人和机构很重要，以及什么才算是有意义的进步。发表对某个主题的兴趣与进行或完成研究项目不同。

2. 02

   智能系统的演变

   智能系统正在朝着更丰富的上下文、工具使用和协调的方向发展。更多的自主权可以提高实用性，但也会引发有关权威、恢复以及人们如何理解系统操作的问题。

   智能系统越来越多地结合上下文、工具和多步骤协调。更强的能力可能有助于人们完成工作，但它也引发了有关授权、可预测性以及服务或模型失败时会发生什么的问题。研究可以研究如何使行动清晰并确保恢复是可能的。

3. 03

   人机关系

   人和机器需要明确的角色。研究可以检查系统何时提出建议、何时可以在许可范围内采取行动以及何时应该推迟或返回控制权。

   人机关系与界面设计一样取决于责任。一个有用的系统可以阐明一个人的决定、软件在许可范围内可以做什么以及控制权何时返回。研究应考虑可访问性、用户专业知识的差异、权力不对称以及挑战自动推荐的能力。

4. 04

   自主性和安全性

   自主性包括允许的操作范围、感知质量、恢复路径和故障后果。必须在整个系统中设计安全性。

   自主是由允许的行为、背景、不确定性和后果定义的边界。安全工作询问系统如何检测其超出其可靠运行条件以及如何安全地发生故障。答案可能需要分层控制、监督、测试并决定不自动执行特定操作。

5. 05

   新兴科学技术能力

   模型、传感器、机器人和网络的进步可能会创造新的可能性。可信的前景区分已发表的证据、早期论证和未来假设。

   科学和工程进步可以创造机会，但能力公告需要背景。已发表的方法、实验室演示和可靠的现场系统是不同形式的证据。负责任的展望会跟踪这种区别，并询问在它们之间移动需要哪些验证、资源和治理。

6. 06

   研究问题

   问题包括系统如何传达不确定性、在不过度扩展的情况下进行协作，以及研究人员如何评估对人们重要的条件下的行为。

   研究问题应该足够具体以指导观察或实验。例如，系统如何传达不确定性、操作员如何从错误中恢复以及哪些控制措施可以帮助人们保留代理权。一个好的问题还可以确定谁的观点很重要以及什么结果可以改变工作方向。

7. 07

   跨学科机会

   人工智能、网络安全、机器人、教育和航空系统分享有关身份、感知、决策和安全的问题。跨学科工作可以暴露隐藏的依赖关系。

   互联领域通常共享身份、传感、证据、决策和安全等基础。协作可以揭示一种学科可能会忽略的依赖性，同时也引入不同的标准和约束。当跨学科工作的共享词汇、决策权和范围尽早达成一致时，跨学科工作就会成功。

8. 08

   实验和教训

   实验应该回答特定问题、记录假设并使失败提供信息。有用的结果包括哪些不起作用以及观察结果可能无法概括。

   当实验旨在使假设容易受到证据的影响时，实验是最有用的。团队应记录设置、假设、观察到的行为和限制，包括不成功的结果。可重复的方法可以帮助其他人区分可以为进一步工作提供信息的结果和轶事。

9. 09

   未来两到十年

   十年允许重大变化，但不允许详细预测。场景可以帮助组织为不同的道路做好准备，而无需声称未来是固定的。

   两到十年的时间足以发生重大变化，但对于准确预测来说又太不确定。场景可以帮助组织比较路径并确定跨路径的稳健选择。可信的前景仍然对新证据持开放态度，并避免将日期附加到无法证明合理的结果上。

10. 10

    研究出版物和观点

    出版物应提供来源、方法和限制。随着材料经过审查和批准公开发布，这个目的地将会不断发展。

    出版物应使问题、来源材料、方法和局限性足够清楚，以便读者评估。主题可能会在正式论文出现之前出现在此处，但必须将其标识为编辑询问。随着特定材料的准备和批准出版，这个目的地将会增长。