Recherche et prochaine décennie

Demandez-vous ce que devraient devenir les systèmes intelligents et comment les gens peuvent garder le contrôle de manière significative.

Comment nous examinons le terrain

Cette orientation organise les questions dans des domaines qui peuvent partager des dépendances techniques ou des conséquences humaines. L'atlas est une carte éditoriale plutôt qu'un enregistrement des recherches CSW terminées, un graphique d'ingénierie interne ou un catalogue de produits validés. Chaque sujet ne doit être développé que lorsque ses sources, ses méthodes, ses limites et son statut de diffusion publique sont suffisamment clairs pour que les lecteurs puissent les évaluer.

1. 01

   Perspective de recherche de CSW Global

   Une perspective de recherche examine ce qui change, ce qui reste incertain et quelles questions méritent attention. L’intérêt porté à un domaine n’en fait pas une expérience achevée ou une capacité prouvée.

   Une perspective de recherche commence par séparer les observations, les preuves publiées, les hypothèses de travail et les questions non résolues. Il demande pourquoi un domaine est important pour les personnes et les institutions, et ce qui serait considéré comme un progrès significatif. Publier un intérêt pour un sujet n’est pas la même chose que mener ou mener à bien un projet de recherche.

2. 02

   L'évolution des systèmes intelligents

   Les systèmes intelligents évoluent vers un contexte, une utilisation des outils et une coordination plus riches. Une plus grande autonomie peut améliorer l’utilité, mais soulève des questions sur l’autorité, la récupération et la façon dont les gens comprennent les actions du système.

   Les systèmes intelligents combinent de plus en plus contexte, outils et coordination en plusieurs étapes. Une plus grande capacité peut aider les gens à accomplir leur travail, mais elle soulève également des questions sur l'autorisation, la prévisibilité et ce qui se passe en cas de défaillance d'un service ou d'un modèle. La recherche peut examiner comment rendre l’action lisible et garantir que la reprise reste possible.

3. 03

   Relations homme-machine

   Les personnes et les machines ont besoin de rôles clairs. La recherche peut examiner quand les systèmes suggèrent, quand ils peuvent agir dans les limites de leur autorisation et quand ils doivent différer ou rendre le contrôle.

   Les relations homme-machine dépendent autant de la responsabilité que de la conception des interfaces. Un système utile clarifie ce qu'une personne décide, ce qu'un logiciel peut faire avec son autorisation et quand le contrôle revient. La recherche devrait tenir compte de l’accessibilité, des différences d’expertise des utilisateurs, des asymétries de pouvoir et de la capacité de contester une recommandation automatisée.

4. 04

   Autonomie et sécurité

   L'autonomie inclut la portée des actions autorisées, la qualité de la détection, les voies de récupération et les conséquences d'une panne. La sécurité doit être conçue dans l’ensemble du système.

   L'autonomie est une frontière définie par les actions autorisées, le contexte, l'incertitude et les conséquences. Le travail de sécurité demande comment le système détecte qu'il se trouve en dehors de ses conditions de fonctionnement fiables et comment il tombe en panne en toute sécurité. La réponse peut nécessiter des contrôles à plusieurs niveaux, une surveillance, des tests et une décision de ne pas automatiser une action particulière.

5. 05

   Capacités scientifiques et techniques émergentes

   Les progrès dans les modèles, les capteurs, la robotique et les réseaux peuvent créer de nouvelles possibilités. Une perspective crédible distingue les preuves publiées, les premières démonstrations et les hypothèses futures.

   Les progrès scientifiques et techniques peuvent créer des opportunités, mais les annonces de capacités nécessitent un contexte. Une méthode publiée, une démonstration en laboratoire et un système de terrain fiable sont différentes formes de preuves. Une vision responsable suit cette distinction et se demande quelle validation, quelles ressources et quelle gouvernance seraient nécessaires pour passer de l’une à l’autre.

6. 06

   Questions de recherche

   Les questions portent notamment sur la manière dont les systèmes communiquent l'incertitude, collaborent sans aller trop loin et sur la manière dont les chercheurs évaluent le comportement dans des conditions qui comptent pour les gens.

   Les questions de recherche doivent être suffisamment spécifiques pour guider l'observation ou l'expérimentation. Les exemples incluent la manière dont un système communique l'incertitude, la manière dont les opérateurs se remettent des erreurs et les contrôles qui aident les gens à conserver leur capacité d'agir. Une bonne question identifie également quelle perspective compte et quel résultat pourrait changer l’orientation du travail.

7. 07

   Opportunités interdisciplinaires

   L'IA, la cybersécurité, la robotique, l'éducation et les systèmes aériens partagent des questions sur l'identité, la perception, les décisions et la sécurité. Le travail interdisciplinaire peut révéler des dépendances cachées.

   Les domaines connectés partagent souvent des fondements tels que l'identité, la détection, les preuves, les décisions et la sécurité. La collaboration peut révéler une dépendance qui manquerait à une discipline, tout en introduisant également des normes et des contraintes différentes. Le travail interdisciplinaire réussit lorsque son vocabulaire commun, ses droits de décision et sa portée sont convenus dès le début.

8. 08

   Expériences et leçons

   Les expériences doivent répondre à une question spécifique, enregistrer des hypothèses et rendre les échecs informatifs. Un résultat utile inclut ce qui n’a pas fonctionné et les cas où les observations ne peuvent pas être généralisées.

   Les expériences sont plus utiles lorsqu'elles sont conçues pour rendre une hypothèse vulnérable aux preuves. Les équipes doivent enregistrer la configuration, les hypothèses, le comportement observé et les limites, y compris les résultats infructueux. Les méthodes reproductibles aident les autres à distinguer un résultat qui peut éclairer des travaux ultérieurs d'une anecdote.

9. 09

   Les deux à dix prochaines années

   Une décennie permet des changements significatifs mais pas de prédictions détaillées. Les scénarios peuvent aider les organisations à se préparer à différentes voies sans prétendre à un avenir fixe.

   Un horizon de deux à dix ans est suffisamment long pour permettre un changement significatif et trop incertain pour une prévision exacte. Les scénarios peuvent aider les organisations à comparer les chemins et à identifier les choix qui sont solides pour tous. Une perspective crédible reste ouverte aux nouvelles preuves et évite d’attacher des dates à des résultats qui ne peuvent être justifiés.

10. 10

    Publications et perspectives de recherche

    Les publications doivent rendre disponibles les sources, les méthodes et les limites. Cette destination grandira à mesure que le matériel sera examiné et autorisé à être rendu public.

    Les publications doivent rendre la question, les sources, la méthode et les limites suffisamment claires pour que les lecteurs puissent les évaluer. Les sujets peuvent apparaître ici avant qu'un article formel existe, mais ils doivent être identifiés comme une enquête éditoriale. Cette destination grandira à mesure que du matériel spécifique sera préparé et autorisé à être publié.