Ansätze zur Optimierung der Kooperation zwischen Menschen und Künstlicher Intelligenz: Was wir aus dem Game-Design und insbesondere der Gestaltung von NPCs lernen können?
von Maximilian Wittmann
Künstliche Intelligenz (KI) gilt gemeinhin als zukünftige Schlüsseltechnologie und Potenzialträger, um die Wertschöpfung in Unternehmen weiter zu optimieren und vielfältige Verbesserungen im Alltag zu ermöglichen. Zur vollen Erschließung dieses Potenzials ist die Zusammenarbeit zwischen Menschen und KI essenziell. Eine gelungene Mensch-KI-Kooperation spielt in verschiedenen Bereichen und Anwendungsfeldern eine zentrale Rolle, zum Beispiel beim Autonomen Fahren, in der Mensch-Roboter-Interaktion oder bei der Unterstützung der menschlichen Entscheidungsfindung durch Expertensysteme. Jedoch existieren bei der Zusammenarbeit oft kognitive (wie z. B. fehlende Nachvollziehbarkeit algorithmischer Entscheidungen) sowie emotionale Herausforderungen (wie z. B. Vorurteile, Skepsis), welche eine effektive Kooperation verhindern. Diese Herausforderungen resultieren in einem Mangel an Vertrauen in die KI-basierten Systeme, was wiederum Auswirkungen auf die Technologieakzeptanz und die Nutzung von KI hat. Eine mögliche Lösung für die Verbesserung der Mensch-KI-Kooperation ist Gamification. Gamification beschreibt den Einsatz von Spielelementen in Nicht-Spiel-Kontexten. Hierbei wird das Ziel verfolgt, spielähnliche Erfahrungen (z. B. Spaß, Zufriedenheit, Motivation, Immersion, Flussgefühl) zu erzeugen und das Verhalten zu beeinflussen.
Eine erfolgversprechende Inspirationsquelle für die gamifizierte Gestaltung der Mensch-KI-Kooperation bietet die (Video-)Spielindustrie: Nahezu mühelos bauen Spieler (im Englischen: Player Characters oder abgekürzt: PCs) mit sogenannten Nichtspielercharakteren (im Englischen: Non-Player Characters oder abgekürzt: NPCs) – Charaktere eines Spieles, welche nicht vom Spieler gesteuert werden können – Beziehungen auf, Vertrauensverhältnisse entstehen und das NPC-PC Team arbeitet gemeinschaftlich an einem übergeordneten Ziel. Demzufolge können auch zukünftige Generationen von KI-Systemen von der Berücksichtigung der Gestaltungsmerkmale von Nichtspielercharakteren aus Spielen lernen. Deswegen müssen die Gestaltungsmerkmale von NPCs in Spielen im Detail untersucht werden. Um derzeitige Barrieren in der Mensch-KI-Interaktion zu überwinden, versuchen wir zu verstehen, warum die Kooperation zwischen Menschen und NPCs so erfolgreich ist. Ziel unserer Forschung ist es daher, strukturiertes Wissen über deren Häufigkeit, Effektivität, und Besonderheiten zu generieren, um auf deren Basis Empfehlungen für eine effektivere Kooperation zwischen Mensch und KI außerhalb von Spielen abzuleiten. Die bisherige NPC Designforschung fokussiert jedoch vorrangig die Untersuchung von Gestaltungsmerkmalen von „Companions“, welche eine spezielle Subkategorie von Nichtspielercharakteren repräsentieren. Zudem bleibt aktuell offen, wie NPC-Gestaltungsmerkmale aus Videospielen in KI-basierte Systeme transferiert werden können und welche Merkmale den Erfolg der Kooperation zwischen Mensch und KI begünstigen.
In Ihrer Studie „What do games teach us about designing effective human-AI cooperation? – A systematic literature review and thematic synthesis on design patterns of non-player characters“ adressieren Maximilian Wittmann und Prof. Dr. Benedikt Morschheuser diese Lücke und erforschen Gestaltungsmuster von Nichtspielercharakteren. Für die Beantwortung der Forschungsfrage wurde zunächst eine systematische Literaturrecherche und anschließend eine thematische Analyse durchgeführt. Die Datenanalyse ergab folgende interessante Erkenntnisse über die Gestaltungsmerkmale von Nichtspielercharakteren:
- Sechs übergreifende Gestaltungskategorien wurden identifiziert, welche die Kooperation zwischen Mensch und Nichtspielercharakter wesentlich beeinflussen: 1) Reaktionsfreudigkeit, 2) Aussehen, 3) Kommunikation, 4) Emotionen, 5) Verhaltenscharakteristika, 6) Teamstrukturen.
- Besonders die NPC-Gestaltungsmuster der Subkategorien Feedback und Lernfähigkeit wurden überdurchschnittlich oft verwendet und resultierten in vielen Fällen in einer Verbesserung der Effektivität der Zusammenarbeit im soziotechnischen System.
- 38 Studien thematisierten oder wendeten NPC Feedbackmechanismen an.
- NPCs sind in der Lage, den Nutzer durch überraschende oder unvorhersehbare Wendungen und Humor zu begeistern und mittels bestimmter Feedbackmechanismen Verhaltensänderungen herbeizuführen: Beispiele sind offene Dialoge, die Präsentation von ethischen Dilemmas, und das Einbetten von Möglichkeiten zur Reflektion der getroffenen Entscheidungen. Verschiedene Studien implementierten Entscheidungsmeilensteine, an welchen Spieler ihre eigenen und auch die Entscheidungen der Nichtspielercharaktere bewerten sollten. Diese Konfrontation diente dazu, das Geschehen kritisch zu hinterfragen und verschiedene Blickwinkel einzunehmen.
- In bestimmten Nutzungskontexten (z. B. kollaborative Echtzeitspiele mit einem PC und einem physisch anwesenden NPC) können NPCs die menschliche Kreativität anregen. Besonders die Kombination aus wechselseitiger („turn-based“) Spielmechanik und intelligenten Robotiksystemen weckte nicht nur die Neugierde der Teilnehmer, sondern vervielfältigte die Kreativität und die Qualität der Antworten (z. B. im Zeichenspiel Magic Draw).
- Die Subkategorie Lernfähigkeit kann in drei große Bereiche unterteilt werden: 1) Menschen lernen von NPCs, 2) NPCs lernen und werden intelligenter auf Basis des menschlichen Spielverhaltens, und 3) NPCs lernen von anderen NPCs.
- Eine wirksame und in 7 Studien untersuchte Methodik, um in kurzer Zeit Gefühle beim Spieler zu wecken, ist das Wechseln der Perspektive mit dem NPC. Mehrere Autoren inszenierten die NPCs in dramatischen Spielsituationen und erzeugten damit den Eindruck eines verletzlichen Agenten mit Schwächen. In verschiedenen Studien wurde zudem das Eingreifen des Spielers in diesen Szenen verhindert, wie beispielsweise bei einer Notsituation mit gefangenen oder brennenden Robotern. Oftmals wurde der Perspektivenwechsel als einleitendes Narrativ verwendet, nach welchem der Spieler die Spielwelt betreten durfte und geeignete Gegenmaßnahmen zum Entschärfen der Notsituation treffen sollte.
- Zwei Studien trainierten die KI mithilfe von Demonstration („Learning by demonstration“).Vier Studien setzen Aufnahmegeräte und externe Hardware (z. B. Webcams, Gehirn-Computer-Schnittstellen …) ein, um Zustände des Nutzers zu erfassen und die Inputdaten algorithmisch weiterzuverarbeiten. Die Weiterverarbeitung und das Lernen auf Basis der eingespeisten Daten fand häufig mit KI-Lern- und Optimierungsverfahren wie Künstlichen Neuronalen Netzen und/oder Reinforcement Learning statt. Autoren nutzten die realen Daten und die Reaktionen der Spieler, um personalisierte und individuelle Spielereignisse auszulösen oder den Schwierigkeitsgrad anzupassen. Dies kann wiederum die Immersion und den Spielspaß steigern und die Natürlichkeit der Interaktion erhöhen.
- 3 Studien demonstrierten, wie NPCs voneinander lernen und wie dadurch Lernzyklen verkürzt werden können. Beim sogenannten „Inter-domain learning“ nutzen NPCs den Erfahrungsschatz anderer Nichtspielercharaktere. Das „Cross-domain learning“ geht darüber hinaus, da die Fähigkeiten einer Domäne auf neue Domäne übertragen werden. Zur Veranschaulichung stelle man sich einen NPC Agenten vor, welcher erlernt hat, ein Fahrrad zu fahren. Dieses Wissen könnte gezielt in einer neuen Spielumgebung oder Domäne genutzt werden, um beispielsweise ein Motorrad zu fahren.
Der gewonnene strukturierte Überblick über effektive Gestaltungsmuster für die Mensch-NPC Kooperation bietet ebenfalls Potenzial für die zukünftige Gestaltung von KI-Systemen außerhalb von Spielen. Softwareentwickler und Designer von KI-Systemen könnten besonders von folgenden Gestaltungsprinzipien profitieren:
- Darstellung der Vulnerabilität des KI-Agenten
- Implementierung der Möglichkeit, die Perspektive mit dem KI-Agenten zu wechseln und das gezielte Auslösen von Emotionen des Nutzers
- Erklärung der Entscheidungsfindung durch Blick in die „Beweggründe“ des Systems und regelmäßige Reflektion von Entscheidungen
Dieses Paper wurde auf der 6th International GamiFIN Conference 2022 (GamiFIN 2022) angenommen und publiziert.
Abstract: Effective cooperation between humans and technologies powered by Artificial Intelligence (AI) is decisive to fully exploit AI’s economic and social potentials. However, the adoption of AI is often opposed by a lack of humans’ trust in AI systems and a dearth of interest in working with them. Turning to games for getting inspiration on how to optimize human-AI cooperation seems promising, since games engage humans almost effortlessly in interacting and cooperating with artificial non-player characters (NPCs). However, a structured overview on how game
design can optimize human-AI cooperation is missing in existing gamification research. Therefore, this paper presents a systematic review of NPC design patterns and elaborates on what developers of AI systems can learn from game design. Guided by a thematic analysis, we present a structured overview of relevant design patterns clustered along six focus fields – namely I) NPC responsiveness, (II) appearance of NPCs, (III) NPC communication patterns, (IV) emotional aspects, (V) behavioral characteristics, and (VI) player-NPC and NPC-NPC team structures – which advance our understanding of designing and investigating cooperation
between humans and NPCs. The insights of this paper can guide practitioners and future research regarding the design of more effective AI systems, the gamification of human-AI cooperation, and the development of innovative NPC approaches.