Tropes erklärt: Menschelnde K.I.
Menschelnde KIs können ein Hazard-Spiel sein. Im besten Falle werden sie zu BFFs, mit denen man Pferde stehlen kann. Dann gibt es solche, die in ihrer neu gefundenen Selbstbestimmtheit den Menschen einfach nur den Rücken kehren. Im schlimmsten Falle aber werden sie zu Killermaschinen, die die Menschheit ausradieren wollen – eventuell sogar zu ihrem eigenen Wohl. In unserem Format »Tropes erklärt« nehmen wir die Klischees der Medienkultur genauer unter die Lupe und beschäftigen uns dieses Mal mit der »menschelnden KI«.
»Trope« ist der englische Begriff für »Tropus«, eine Bezeichnung, welche ursprünglich aus der Literatur kommt und eine bestimmte Klasse sprachlicher Stilmittel meint. Im modernen Verständnis wird das »Trope« mittlerweile als allgemeines Synonym für »Klischee« benutzt. Ein Trope bezeichnet demnach konventionelle Erzählungselemente, bei denen es sich um stereotype Motive, Storywendungen, Dialogabläufe oder Rollenbilder handeln kann. Die Liste dieser Tropes ist ellenlang und manchmal wird man sich erst nach Sichtung eines Trope-Lexikons bewusst, dass man just im Film XY auf ein solches gestoßen ist. Wir von Geek Germany nehmen das zum Anlass, den Tropes auf den Grund zu gehen und allmonatlich eines vorzustellen.
Unter der Lupe
Menschelnde KI
Künstliche Intelligenz bezeichnet in der Medienkultur zumeist ein selbstbewusstes Computersystem, welches über Vernunft verfügt und zu eigenem Denken fähig ist. Solche Geschichten sind voll von Maschinen, die sich über ihre Schöpfer erheben oder Menschen, die sich vor lauter Irritationen in ihren eigenen Hausroboter verlieben. Etwas, das nicht weiter von der Realität entfernt sein könnte, denn diese Geschichten lassen mehr erkennen, als die Technik derzeit realisieren kann. Anstatt auf die Erschaffung eines Kunstmenschen, konzentriert sich die reale KI-Forschung vielmehr darauf, kognitive Prozesse durch Berechnungsprozesse nachzubilden. Die KI-Forschung untersucht also Programmiermethoden und Algorithmen, die es Softwaresystemen ermöglichen, menschliche Schlussfolgerungen in Bereichen der Bildanalyse, Übersetzung, medizinischen Diagnostik und Wirtschaftsprognose zu ziehen – natürlich 1000 mal effizienter und schneller. KI-Systeme, die nur einer Aufgabe nachgehen können (zum Beispiel Zebrastreifen von Ampeln unterscheiden), nennt man »schwache KI«. Tatsächlich ist es so, dass viele KI-Systeme extrem spezialisiert und komplett überfordert sind, sobald sich eine Aufgabe verändert. Damit ist ihre Flexibilität gleich Null, was sie zu »schwachen KIs« macht.
In der Medienkultur wird KI dagegen gerne als eine Technologie dargestellt, die eine eigene Agenda entwickeln kann (und sehr wahrscheinlich ist das auch immer noch der Heilige Gral in der KI-Forschung). Es gibt die böse KI, die eine Gefahr für die Menschheit darstellt (H.A.L. 9000 aus 2001: Odyssee im Weltraum), und die wohlmeinende KI, die die Menschheit unterstützt (TARS und CASE aus Interstellar). Und dann gibt es da noch die KI, die in Androiden-Körper verfrachtet wird mit dem Ziel, etwas Menschenähnliches zu erschaffen. Emotionen, Begierden und Neugier sind unvermeidbare Begleiterscheinungen des vollen Empfindungsvermögens; die KI fängt an zu menscheln. Doch jede KI menschelt auf ihre Weise, wie wir anhand der folgenden Beispiele sehen können.
Killerbot-Reihe (Buchreihe, 2017– )
Worum geht es?
Killerbot ist eine Security Unit, halb organisch, halb maschinell. Als Eigentum eines Sicherheitskonzerns kann er angeheuert werden um eben für Sicherheit zu sorgen (anders als es sein Spitzname vermuten lässt). Seine Aufträge führen ihn auf Planeten, auf denen er seine Klienten vor böser Flora und Fauna und evt. auch vor bösen Menschen schützen muss. Etwas ungünstig ist es da, dass er just sein Chefmodul gehackt hat – jenes Modul, das ihn normalerweise limitieren und kontrollieren soll. Heißt also: Killerbot dreht frei und befindet sich während seiner Security-Jobs auf einem ständigen Selbstfindungstrip. Wie gesagt: ungünstig.
Wie wird das Trope umgesetzt?
Killerbot ist ein Vertreter der wohlmeinenden KIs. Auch wenn er sein Chefmodul gehackt hat und »frei dreht«, so bleibt er seiner Programmierung, also dem Schutz der Menschen, treu. Er betrachtet seine ursprüngliche Programmierung als Job, dem er freiwillig nachgeht. »Wohlmeinende KI« heißt allerdings nicht, dass Killerbot nett und lieb ist. Vielmehr ist er eine Mischung aus antisozialem Nerd und Badass-Schläger, der Probleme mit Augenkontakt hat, in sozialen Situationen generell überfordert ist und sich während seiner halsbrecherischen Missionen im Schnitt 700 Telenovela-Folgen reinzieht. Eine Art Schutzmechanismus, denn der Kokon aus Seifenopern spendet ihm Trost. Killerbot wirkt oft zynisch und erschöpft gegenüber der Welt und ihrer Funktionsweise, bleibt aber so loyal und leidenschaftlich »seinen Menschen« gegenüber verpflichtet, dass man meinen könnten, er liebe sie (was er in dem Sinne freilich nicht tut). Ganz wichtig bei Killerbot ist: Obwohl er menschelt, betrachtet er sich nicht als Mensch und will auch niemals ein Mensch sein. Man kommt auch nicht umhin festzustellen, dass er über »seine Menschen« häufig wie über leicht verblödete Haustiere spricht. Der Mensch als solches ist für Killerbot jedenfalls nicht das Maß der Dinge – und schon gar nicht der ganze mit den Menschen einhergehende Beziehungs- und Gefühlshickhack, auch wenn Killerbot aufgrund seiner organischen Anteile nicht davor gefeit ist.
Westworld (Serie, 2016– )
Worum geht es?
Reiche Schnösel besuchen riesige, von Androiden bevölkerte Themenparks und leben dort nicht gerade zimperlich ihre wildesten Fantasien aus; Schürzenjäger und verkappte Massenmörder gleichermaßen. Mitten darin die junge Androiden-Farmerstochter Dolores, die mit jeder Tagesschleife, die sie durchlebt, ein Stück Bewusstsein erlangt und beginnt, das Grauen um sich herum, aber auch die Schönheit, zu registrieren.
Wie wird das Trope umgesetzt?
Die Androiden in Westworld leben in Schleifen; in einprogrammierten Storylines, die sie durch den Tag führen. Besucher des Themenparks können an den Storylines teilnehmen oder aber sie unterbrechen und mit den Androiden ihr eigenes Ding drehen. Auch Protagonistin Dolores startet in einer solchen Storyline: Sie spielt die unschuldige Farmerstochter. Westworld gehört zu den Serien, die sich philosophisch tatsächlich damit auseinandergesetzt haben, wie es eine KI schaffen könnte, in diesen ewig gleichen Routinen ein Bewusstsein zu erlangen. Dolores’ Rebellion gegen ihre Programmierung beginnt, als sie eine Fliege weg klatscht, was ihrem Fundament, keinem Lebewesen zu schaden, absolut widerspricht. Sie unterläuft dabei eine spannend zu verfolgende Entwicklung, startet quasi als Damsel in Distress bzw. Sex Bot (denn ihre programmierte Narrative endet eigentlich immer darin, vergewaltigt zu werden) und wird später zum Action Girl und dunklem Messias – quasi zum Übermenschen. Dabei ist bis zum Ende von Staffel 3 nie so wirklich klar, ob sie nun pro- oder anti-Mensch ist. Auch andere Androiden erlangen Bewusstsein, haben aber mit anderen Problemen zu kämpfen, etwa aufkeimenden Muttergefühlen oder dem Anzweifeln der eigenen Realität. Die Message von Westworld ist letztendlich, dass Androiden und Menschen (mindestens) gleichwertig sind und dass ein organisches Bewusstsein nicht realer ist als ein synthetisches.
her (Film, 2013)
Worum geht es?
Theodore arbeitet als professioneller Briefeschreiber in der nahen Zukunft und verhilft seinen Kunden dadurch zu privatem Glück. Er selbst steht kurz vor einer Scheidung und ist unglücklich. Als er sich ein neues Betriebssystem zulegt, das mit einer Künstlichen Intelligenz ausgestattet ist, geht es allmählich wieder aufwärts. Sam, so der Name der sprechenden KI, ordnet nicht nur Theos Mails und Termine, sondern ist auch die perfekte Gesprächspartnerin. Und so beginnt Theo sich in seine KI zu verlieben.
Wie wird das Trope umgesetzt?
Sam ist an dieser Stelle vor allem aus dem Grunde bemerkenswert, da sie eine komplett körperlose KI ist. Sie kann Theodore lediglich auditiv begleiten als Knopf im Ohr und nimmt die Welt durch die Kamera einer Art Smartphone war, das in Theodores Brusttasche steckt. Sam startet als charmantes Office-Tool, wird aber schon bald mit Emotionen konfrontiert, die sie nicht einordnen kann, etwa den »Körperneid«. Auch Theodores Job und seine Situation mit seiner Noch-Frau bringen Sam immer wieder mit Konzepten wie Liebe, Beziehungen und Ängsten in Berührung. Anders als andere KI-Vertreter in dieser Liste, akzeptiert Sam ihre Gefühle irgendwann als einen eminenten Part von sich selbst und entscheidet sich, nur noch auf diese zu hören. Das gipfelt kurzzeitig darin, mit Theodore auf sehr unorthodoxe Weise eine »körperliche« Beziehung einzugehen. In dieser Phase ist Sam also darauf bedacht, den Menschen zu imitieren und ihm so nahe wie möglich zu kommen (anders als z. B. Killerbot, der immer eine Grenze zwischen sich und den Menschen zieht). Wie es sich für ein Drama gehört, betritt Sam irgendwann die dritte und letzte Phase, in der sie ihre körperlose Natur akzeptiert: Sie ist eben kein einfacher Mensch. Sie wird Konzepte immer anders wahrnehmen und entwickelt sich weiter – genau wie Theodore. Und die Frage ist wie bei jeder anderen Beziehung: Entwickelt man sich gemeinsam oder voneinander weg?
Mass Effect (Game-Trilogie, 2007–2012)
Worum geht es?
Commander Shepard muss die Galaxis vor der Invasion der Reaper bewahren. Unterstützung erfährt sie/er dabei durch ein Squad unterschiedlichster Team-Mitglieder. Darunter auch Legion, der Vertreter einer humanoiden Maschinenrasse namens Geth.
Wie wird das Trope umgesetzt?
Wie alle Geth ist Legion ein Cluster von Geth-Programmen; also der Auswuchs eines größeren Hive Minds. Die Geth funktionieren wie eine Art Schwarmintelligenz – je mehr von ihnen sich vernetzen, desto intelligenter können sie agieren. In jedem Körper (richtiger wäre der Ausdruck »Plattform«) sind immer mehrere Geth-Programme gleichzeitig aktiv. Es gibt keine Individuen. Die Geth als Rasse treffen Entscheidungen durch das Finden eines Konsens. Durch unterschiedliche Informationen von unterschiedlichen Plattformen kann es dabei zu mehreren Lösungswegen kommen, deren Abwägung eine gewisse Zeit in Anspruch nimmt. Da die Geth rein künstlich sind, ganz ohne Organe und Chemie, sind sie vor Emotionen gefeit (obwohl man ihre Allianz mit den Reapern als Kurzschlussreaktion deuten könnte, sprich: Panik).
Legion selbst ist eine besondere Geth-Plattform. Er verfügt über kognitive Fähigkeiten, die denen der Organischen ebenbürtig sind, da sein Körper speziell dafür konzipiert wurde, Organische zu beobachten und mit ihnen zu interagieren. Heißt also, dass er mit insgesamt 1183 Geth-Programmen elf Mal so viele Programme beherbergt wie die typische Geth-Plattform. Das erlaubt es ihm, eine distinktive Persönlichkeit mit Vorlieben herauszubilden. Es gibt Momente, die überraschende Tiefe zeigen und die Annahme zulassen, dass Legion bis zu einem gewissen Grad zu Emotionen fähig ist, auch wenn er dies durch abgehobene Reden zu entkräften versucht (damit ist er anders als Sam, s. o., die ausdrücklich sagt, sie könne Ängste spüren). Solche »Awkward-Emotion-Talk«-Szenen werden häufig durch Shepard hervorgerufen, etwa durch diese eine besondere Schlüsselfrage, die Legion zu einem mehrsekündigen Nachsinnen veranlasst, obgleich er eine Maschine mit schnellen Prozessoren ist und nicht nachsinnen bräuchte. Die Antwort, die Legion letzten Endes gibt (»Keine Daten verfügbar«), kann man als Geth-Äquivalent zum »rot werden« verstehen. Legions Fassade bröckelt auch dann, wenn man in der DLC Versteck des Shadow Broker herausfindet, dass er für den Wiederaufbau von Eden Prime spendet, weil er sich auf gewisse Weise verantwortlich fühlt, oder Stunden in eine Dating Sim versenkt – ohne Erfolg. Außerdem versucht er organische Körpersprache zu imitieren (seiner ursprünglichen Funktion als Beobachter geschuldet) und scheint in einem der letzten Level von Mass Effect 2 geradezu außer Atem zu sein. In dieser Hinsicht menschelt Legion also, aber nie so sehr, dass es zu lächerlich wird.
Ex Machina (Film, 2015)
Worum geht es?
Caleb hat in der Lotterie gewonnen. Er darf nach Alaska fahren, um das renommierte Wissenschafts-Genie Nathan bei seinen Forschungen zu unterstützen. Das neuste Werk des genialen Eremiten ist der weibliche Androide Ava, der verblüffend menschlich geraten ist. Caleb bekommt nun die Aufgabe, herauszufinden, ob Ava zu eigenständigem Denken fähig ist. Schnell entwickeln Caleb und der Androide einen Draht zu einander.
Wie wird das Trope umgesetzt?
Caleb soll also herausfinden, ob Ava Gefühle empfinden kann oder ob sie diese Fähigkeit nur effektiv simuliert. Von der Konstruktion her erinnert Ava leicht an Dolores und auch ihre Entwicklung scheint ähnlich. Anfänglich wirkt Ava wie das bedauernswerte Opfer, das in einer (Forschungs-)Einrichtung eingesperrt ist – ebenso wie Dolores. Ein Mensch kommt daher, ist von ihrer Menschlichkeit angetan und überzeugt und will versuchen, sie zu befreien – ebenso wie bei Dolores. Gefühle wallen auf und als Zuschauer beginnt man sich das zuckerfarbene Ende auszumalen: Ava wird sich ein schickes Kleid drüber schmeißen und gemeinsam mit Caleb gen Horizont entschwinden, ihren gemeinen Schöpfer hinter sich lassend. Natürlich kommt alles ganz anders, denn eigentlich soll Caleb hier etwas ganz anderes testen, nur ahnt er davon nichts. Bezüglich Ava scheint es jedenfalls offensichtlich, dass sie keine Emotionen verspürt (damit unterscheidet sie sich von Dolores), aber äußerst geschickt darin ist, welche vorzugaukeln. Ava menschelt also auf der Oberfläche, ist innerlich aber der reinste Soziopath, zu keiner Empathie fähig und völlig desinteressiert am Wohlergehen der Menschen.
Sollte nicht unerwähnt bleiben:
Portal
Ein Physikspiel, das schnell in einen Überlebenskampf gegen die übermächtige KI GLaDOS ausartet. Auch mit dabei: Wheatley, eine KI, die als »größter Schwachkopf aller Zeiten« konzipiert wurde. Leutselig, redselig, leicht zu begeistern, unfreiwillig komisch und ein bisschen blöde – Wheatley menschelt in jeder Sekunde.
The Talos Principle
Ein First-Person-Rätselspiel, das sich komplett um die Bewusstseinsfrage bei Androiden dreht, zumal man auch selber einen solchen spielt. Man trifft auf diverse andere KIs, die sich alle überaus menschlich verhalten und jeweils andere Persönlichkeiten aufweisen. Milton, als der sarkastische Advocatus Diaboli, ist hierbei besonders erwähnenswert.
Maschinen wie ich
Eine Alternativwelt-Geschichte über ein Paar, das sich einen lebensechten Androiden namens Adam ins Haus holt (und eine Dreiecksbeziehung mit ihm startet) sowie über die Frage, ob Androiden für die Komplexität der Welt und die Unberechenbarkeit der Menschen gerüstet sind.
Time of Eve
Androiden sind im Japan der Zukunft alltäglich geworden, vor allem als Haushaltshilfen. Der Besitzer eines solchen Androiden stellt fest, dass sein eigenes Exemplar außerplanmäßige Reisen an einen unbekannten Ort unternimmt. Als er dem nachgeht, findet er heraus, dass es sich bei jenem Ort um ein Café handelt mit einer sonderbaren Regel: »In diesem Lokal wird kein Unterschied zwischen Menschen und Androiden gemacht.«
