Forschung und das nächste Jahrzehnt

Fragen Sie, was intelligente Systeme werden sollten und wie Menschen sinnvoll die Kontrolle behalten können.

Wie wir das Feld untersuchen

Diese Richtung organisiert Fragen bereichsübergreifend, die möglicherweise technische Abhängigkeiten oder menschliche Konsequenzen aufweisen. Der Atlas ist eher eine redaktionelle Karte als eine Aufzeichnung abgeschlossener CSW-Recherchen, ein internes technisches Diagramm oder ein Katalog validierter Produkte. Jedes Thema sollte nur dann erweitert werden, wenn seine Quellen, Methoden, Einschränkungen und der Status der Veröffentlichung klar genug sind, damit die Leser es beurteilen können.

1. 01

   Die Forschungsperspektive von CSW Global

   Eine Forschungsperspektive untersucht, was sich verändert, was ungewiss bleibt und welche Fragen Aufmerksamkeit verdienen. Das Interesse an einem Fachgebiet macht es nicht zu einem abgeschlossenen Experiment oder einer nachgewiesenen Fähigkeit.

   Eine Forschungsperspektive beginnt mit der Trennung von Beobachtungen, veröffentlichten Beweisen, Arbeitsannahmen und ungelösten Fragen. Es wird gefragt, warum ein Bereich für Menschen und Institutionen wichtig ist und was als sinnvoller Fortschritt gelten würde. Das Bekunden eines Interesses an einem Thema ist nicht dasselbe wie die Durchführung oder den Abschluss eines Forschungsprojekts.

2. 02

   Die Entwicklung intelligenter Systeme

   Intelligente Systeme bewegen sich hin zu umfassenderen Kontexten, Werkzeugnutzung und Koordination. Mehr Autonomie kann den Nutzen verbessern, wirft jedoch Fragen zu Autorität, Wiederherstellung und dem Verständnis der Systemaktionen durch die Menschen auf.

   Intelligente Systeme kombinieren zunehmend Kontext, Werkzeuge und mehrstufige Koordination. Eine größere Leistungsfähigkeit kann Menschen dabei helfen, ihre Arbeit zu erledigen, wirft aber auch Fragen zur Autorisierung, Vorhersagbarkeit und zu den Folgen des Ausfalls eines Dienstes oder Modells auf. Die Forschung kann untersuchen, wie Maßnahmen lesbar gemacht werden können und sichergestellt wird, dass eine Wiederherstellung möglich bleibt.

3. 03

   Mensch-Maschine-Beziehungen

   Menschen und Maschinen brauchen klare Rollen. Die Forschung kann untersuchen, wann Systeme Vorschläge machen, wann sie im Rahmen ihrer Erlaubnis handeln dürfen und wann sie die Kontrolle zurückstellen oder zurückgeben sollten.

   Mensch-Maschine-Beziehungen hängen ebenso von der Verantwortung ab wie das Interface-Design. Ein nützliches System verdeutlicht, was eine Person entscheidet, welche Software im Rahmen ihrer Erlaubnis tun darf und wann die Kontrolle zurückkehrt. Bei der Forschung sollten Zugänglichkeit, Unterschiede in der Benutzerkompetenz, Machtasymmetrien und die Möglichkeit, eine automatisierte Empfehlung anzufechten, berücksichtigt werden.

4. 04

   Autonomie und Sicherheit

   Autonomie umfasst den Umfang zulässiger Maßnahmen, die Wahrnehmungsqualität, Wiederherstellungspfade und die Folgen eines Fehlers. Die Sicherheit muss im gesamten System gestaltet werden.

   Autonomie ist eine Grenze, die durch erlaubte Handlungen, Kontext, Unsicherheit und Konsequenzen definiert wird. Bei der Sicherheitsarbeit geht es darum, wie das System erkennt, dass es sich außerhalb seiner zuverlässigen Betriebsbedingungen befindet, und wie es sicher ausfällt. Die Antwort erfordert möglicherweise mehrschichtige Kontrollen, Aufsicht, Tests und die Entscheidung, eine bestimmte Aktion nicht zu automatisieren.

5. 05

   Neue wissenschaftliche und technische Fähigkeiten

   Fortschritte bei Modellen, Sensoren, Robotik und Netzwerken können neue Möglichkeiten schaffen. Ein glaubwürdiger Ausblick zeichnet veröffentlichte Beweise, frühe Demonstrationen und zukünftige Hypothesen aus.

   Wissenschaftliche und technische Fortschritte können Chancen schaffen, aber Ankündigungen zu Fähigkeiten benötigen einen Kontext. Eine veröffentlichte Methode, eine Labordemonstration und ein zuverlässiges Feldsystem sind verschiedene Beweisformen. Eine verantwortungsvolle Sichtweise verfolgt diese Unterscheidung und fragt, welche Validierung, Ressourcen und Governance erforderlich wären, um zwischen ihnen zu wechseln.

6. 06

   Forschungsfragen

   Zu den Fragen gehört, wie Systeme Unsicherheit kommunizieren, ohne Übertreibungen zusammenarbeiten und wie Forscher Verhalten unter Bedingungen bewerten, die für Menschen wichtig sind.

   Forschungsfragen sollten spezifisch genug sein, um Beobachtungen oder Experimente zu leiten. Beispiele hierfür sind die Art und Weise, wie ein System Unsicherheit kommuniziert, wie Bediener sich von Fehlern erholen und welche Kontrollen den Menschen dabei helfen, ihre Entscheidungsfreiheit zu behalten. Eine gute Frage ist auch, welche Perspektive wichtig ist und welches Ergebnis die Richtung der Arbeit ändern könnte.

7. 07

   Interdisziplinäre Möglichkeiten

   KI, Cybersicherheit, Robotik, Bildung und Luftfahrtsysteme teilen Fragen zu Identität, Wahrnehmung, Entscheidungen und Sicherheit. Durch interdisziplinäres Arbeiten können verborgene Abhängigkeiten aufgedeckt werden.

   Verbundene Bereiche haben oft gemeinsame Grundlagen wie Identität, Wahrnehmung, Beweise, Entscheidungen und Sicherheit. Die Zusammenarbeit kann eine Abhängigkeit offenbaren, die eine Disziplin übersehen würde, und gleichzeitig unterschiedliche Standards und Einschränkungen einführen. Interdisziplinäres Arbeiten gelingt dann, wenn gemeinsames Vokabular, Entscheidungsrechte und Handlungsspielräume frühzeitig vereinbart werden.

8. 08

   Experimente und Lektionen

   Experimente sollten eine bestimmte Frage beantworten, Annahmen aufzeichnen und Fehler aufschlussreich machen. Ein nützliches Ergebnis umfasst, was nicht funktioniert hat und wo Beobachtungen möglicherweise nicht verallgemeinert werden können.

   Experimente sind am nützlichsten, wenn sie dazu dienen, eine Hypothese beweisbar zu machen. Die Teams sollten den Aufbau, die Annahmen, das beobachtete Verhalten und die Einschränkungen, einschließlich erfolgloser Ergebnisse, aufzeichnen. Reproduzierbare Methoden helfen anderen dabei, ein Ergebnis, das als Grundlage für die weitere Arbeit dienen kann, von einer Anekdote zu unterscheiden.

9. 09

   Die nächsten zwei bis zehn Jahre

   Ein Jahrzehnt ermöglicht erhebliche Veränderungen, aber keine detaillierte Vorhersage. Szenarien können Organisationen dabei helfen, sich auf unterschiedliche Wege vorzubereiten, ohne eine feste Zukunft zu beanspruchen.

   Ein Zeithorizont von zwei bis zehn Jahren ist lang genug für signifikante Veränderungen und zu unsicher für eine genaue Vorhersage. Mithilfe von Szenarien können Unternehmen Pfade vergleichen und Entscheidungen treffen, die für alle Pfade geeignet sind. Ein glaubwürdiger Ausblick bleibt offen für neue Erkenntnisse und vermeidet die Festlegung von Daten an Ergebnisse, die nicht gerechtfertigt werden können.

10. 10

    Forschungspublikationen und Perspektiven

    Veröffentlichungen sollten Quellen, Methoden und Einschränkungen verfügbar machen. Dieses Ziel wird wachsen, wenn das Material überprüft und zur öffentlichen Veröffentlichung freigegeben wird.

    Veröffentlichungen sollten die Fragestellung, das Quellenmaterial, die Methode und die Einschränkungen klar genug machen, damit die Leser sie beurteilen können. Themen können hier erscheinen, bevor ein formeller Artikel vorliegt, sie müssen jedoch als redaktionelle Anfrage gekennzeichnet sein. Dieses Ziel wird wachsen, wenn spezifisches Material vorbereitet und zur Veröffentlichung freigegeben wird.