Исследования и следующее десятилетие

Спросите, какими должны стать интеллектуальные системы и как люди могут сохранять значимый контроль над ними.

Как мы изучаем эту сферу

В этом направлении организуются вопросы из разных областей, которые могут иметь общие технические зависимости или человеческие последствия. Атлас — это редакционная карта, а не отчет о завершенных исследованиях CSW, внутренний инженерный график или каталог проверенных продуктов. Каждую тему следует расширять только тогда, когда ее источники, методы, ограничения и статус публичной публикации достаточно ясны, чтобы читатели могли ее оценить.

1. 01

   Перспектива исследований CSW Global

   Исследовательская перспектива изучает, что меняется, что остается неопределенным и какие вопросы заслуживают внимания. Интерес к данной области не делает ее завершенным экспериментом или доказанной возможностью.

   Перспектива исследования начинается с разделения наблюдений, опубликованных данных, рабочих предположений и нерешенных вопросов. В нем задается вопрос, почему эта область важна для людей и учреждений и что можно считать значимым прогрессом. Публикация интереса к теме — это не то же самое, что проведение или завершение исследовательского проекта.

2. 02

   Эволюция интеллектуальных систем

   Интеллектуальные системы движутся к более богатому контексту, использованию инструментов и координации. Большая автономия может повысить полезность, но поднимает вопросы об авторитете, восстановлении и том, как люди понимают действия системы.

   Интеллектуальные системы все чаще сочетают в себе контекст, инструменты и многоступенчатую координацию. Расширение возможностей может помочь людям завершить работу, но при этом также возникают вопросы об авторизации, предсказуемости и о том, что происходит в случае сбоя сервиса или модели. Исследования могут выяснить, как сделать действия разборчивыми и обеспечить возможность восстановления.

3. 03

   Отношения человека и машины

   Людям и машинам нужны четкие роли. Исследования могут выяснить, когда системы предлагают, когда они могут действовать в пределах разрешения, а когда им следует отложить или вернуть контроль.

   Отношения между человеком и машиной зависят от ответственности в такой же степени, как и дизайн интерфейса. Полезная система разъясняет, что решает человек, что программное обеспечение может делать в пределах разрешения и когда контроль возвращается. Исследования должны учитывать доступность, различия в опыте пользователей, асимметрию власти и возможность оспорить автоматические рекомендации.

4. 04

   Автономность и безопасность

   Автономия включает в себя объем разрешенных действий, качество обнаружения, пути восстановления и последствия сбоя. Безопасность должна быть предусмотрена для всей системы.

   Автономия — это граница, определяемая разрешенными действиями, контекстом, неопределенностью и последствиями. Работа по обеспечению безопасности связана с тем, как система обнаруживает, что она вышла за пределы надежных условий эксплуатации, и как происходит безопасный сбой. Ответ может потребовать многоуровневого контроля, надзора, тестирования и решения не автоматизировать конкретное действие.

5. 05

   Новые научные и технические возможности

   Достижения в области моделей, датчиков, робототехники и сетей могут открыть новые возможности. Достоверный прогноз отличает опубликованные данные, ранние демонстрации и будущие гипотезы.

   Научные и инженерные достижения могут создавать возможности, но объявления о возможностях требуют контекста. Опубликованный метод, лабораторная демонстрация и надежная полевая система — это разные формы доказательств. Ответственный подход отслеживает это различие и задается вопросом, какие подтверждения, ресурсы и управление потребуются для перехода между ними.

6. 06

   Вопросы исследования

   Вопросы включают в себя то, как системы сообщают о неопределенности, сотрудничают, не переусердствуя, и как исследователи оценивают поведение в условиях, которые важны для людей.

   Вопросы исследования должны быть достаточно конкретными, чтобы направлять наблюдение или эксперимент. Примеры включают то, как система сообщает о неопределенности, как операторы восстанавливаются после ошибок и какие средства контроля помогают людям сохранять свободу действий. Хороший вопрос также определяет, чья точка зрения имеет значение и какой результат может изменить направление работы.

7. 07

   Междисциплинарные возможности

   Искусственный интеллект, кибербезопасность, робототехника, образование и воздушные системы разделяют вопросы об идентичности, восприятии, решениях и безопасности. Междисциплинарная работа может выявить скрытые зависимости.

   Связанные области часто имеют общие основы, такие как идентичность, восприятие, доказательства, решения и безопасность. Сотрудничество может выявить зависимость, которую одна дисциплина может упустить, а также ввести различные стандарты и ограничения. Междисциплинарная работа успешна, когда ее общий словарь, права принятия решений и объем согласованы на раннем этапе.

8. 08

   Эксперименты и уроки

   Эксперименты должны отвечать на конкретный вопрос, фиксировать предположения и делать неудачи информативными. Полезный результат включает в себя то, что не сработало и где наблюдения не могут быть обобщены.

   Эксперименты наиболее полезны, когда они предназначены для того, чтобы сделать гипотезу уязвимой для доказательств. Команды должны зафиксировать установку, предположения, наблюдаемое поведение и ограничения, включая неудачные результаты. Воспроизводимые методы помогают другим отличить результат, который может помочь в дальнейшей работе, от анекдота.

9. 09

   Следующие два-десять лет

   Десятилетие позволяет добиться значительных изменений, но не позволяет сделать детальный прогноз. Сценарии могут помочь организациям подготовиться к разным путям, не претендуя на фиксированное будущее.

   Горизонт от двух до десяти лет достаточен для значительных изменений и слишком неопределенен для точного прогнозирования. Сценарии могут помочь организациям сравнить пути и определить наиболее надежные варианты. Достоверный прогноз остается открытым для новых фактов и избегает привязки дат к результатам, которые не могут быть оправданы.

10. 10

    Научные публикации и перспективы

    Публикации должны предоставлять доступ к источникам, методам и ограничениям. Это направление будет расширяться по мере того, как материалы проверяются и допускаются к публичному выпуску.

    Публикации должны излагать вопрос, исходный материал, метод и ограничения достаточно ясно, чтобы читатели могли их оценить. Темы могут появиться здесь до того, как появится официальная статья, но они должны быть идентифицированы как редакционный запрос. Это направление будет расширяться по мере подготовки и подготовки к публикации конкретных материалов.