Kann eine Maschine denken, und woran würden wir es erkennen? Philosophie des Geistes am Beispiel von Alex Garlands Film.
Philosophie des Geistes: Das „Leib-Seele“-Problem.
Wie ist das Verhältnis zwischen Gehirn und Bewusstsein zu denken?
Diese Theorien nehmen an, dass es zwei getrennte Substanzen gibt: ein materielles Gehirn und ein immaterielles Bewusstsein.
Geist und Materie sind verschiedene Substanzen, und sie wirken aufeinander ein.
Wenn es einen Ort der Interaktion zwischen Geist und Gehirn gibt, so müsste dieser Ort auffindbar sein. Es gibt aber nirgendwo sichtbare Stellen im Gehirn, an denen das Verhalten der Neuronen nur durch einen immateriellen Geist zu erklären wäre.
Das Bewusstsein ist ein Epi- (= Neben-) Phänomen des materiellen Gehirns. Das Verhältnis von Geist und Materie ist wie eine Einbahnstrasse zu denken: Die Materie wirkt auf den immateriellen Geist, aber nicht umgekehrt.
Bild: Die Lokomotive (Gehirn) fährt, und der Dampf (Bewusstsein) steigt dabei auf, aber der Dampf treibt die Lokomotive nicht an. Oder der Schatten: Er folgt dem Körper, bewegt ihn aber nicht.
Problem: Der Epiphänomenalismus hat ähnliche Probleme wie der interaktionistische Dualismus: Wo ist der Ort, an dem die Wirkung auf den Geist stattfindet? Wie hat man sich diese Wirkung vorzustellen?
Diese Theorien nehmen an, dass es nur eine einzige Substanz gibt, mit der sowohl Bewusstsein als auch Materie zu erklären sind.
Alle Bewusstseinszustände sind auf materielle Zustände des Gehirns reduzierbar. Die „Identitätstheorie“ sagt zum Beispiel, dass ein „Gedanke“ keine andere Substanz ist als die Neuronen, sondern mit ihnen identisch.
Wenn es nur Materie gibt, wie ist dann zu erklären, dass unser Denken auf unseren Körper wirken kann?
Der Idealismus behauptet, dass alles Geist, Bewusstsein und immaterielle Seele ist und es keine Materie gibt.
Es droht der Solipsismus. Wenn nur Geist existiert, woher weiss ich dann, dass es ausser meinem eigenen Geist noch andere gibt?
Diese Richtung umgeht das Problem, indem sie sich rein auf die Beobachtung des Verhaltens beschränkt. Wer sich intelligent oder selbstbewusst verhält, ist intelligent oder selbstbewusst.
Verhalten ist nicht Erleben. Jemand kann Schmerz perfekt spielen, ohne Schmerz zu spüren. Das Innere wird also gar nicht erfasst.
Alex Garland · 2015
Caleb Smith (Domhnall Gleeson), Programmierer bei einem riesigen Internetkonzern, gewinnt einen Wettbewerb, der ihm eine Woche auf dem privaten Anwesen von Nathan Bateman (Oscar Isaac) ermöglicht, dem brillanten Chef seiner Firma. Dort angekommen, erfährt Caleb, dass er als menschliche Komponente in einem Turing-Test ausgewählt wurde, der die Fähigkeiten und das Bewusstsein von Ava (Alicia Vikander), einem schönen Roboter, bestimmen soll. Bald zeigt sich jedoch, dass Ava weit selbstbewusster und täuschender ist, als beide Männer ahnten.
„One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction.“
Nathan
Minuten 10 bis 12
„So, do you know what the Turing Test is?
Yeah.
I know what the Turing Test is.
It’s when a human interacts with a computer. And if the human doesn’t know they’re interacting with a computer, the test is passed.
And what does a pass tell us?
That the computer has artificial intelligence. Are you building an AI?
I’ve already built one. And over the next few days, you’re gonna be the human component in a Turing Test.
Holy shit.
Yeah, that’s right, Caleb. You got it. Because if that test is passed, you are dead center of the greatest scientific event in the history of man.
If you’ve created a conscious machine, it’s not the history of man. That’s the history of gods.“
Ex Machina (2015)
Alan Turing war einer der ersten Denker, der die Frage aufgeworfen hat, ob Maschinen denken können. Er hat den sogenannten „Turing-Test“ erfunden, in welchem ein Mensch entscheiden muss, ob sein Gesprächspartner eine Maschine oder ein anderer Mensch ist. Wenn er, nachdem er mit beiden gesprochen hat, nicht entscheiden kann, wer die Maschine ist, hat diese den Test bestanden. Um den Test zu vereinfachen, wird nur schriftlich kommuniziert.
Siehe auch den Film The Imitation Game (2014).
Turing hatte diesen Test vorgeschlagen, um die seiner Ansicht nach „sinnlose“ Frage „Kann eine Maschine denken?“ durch eine zu ersetzen, die man durch Beobachtung beantworten kann. Er dachte nämlich, dass es unmöglich sei, in das Bewusstsein eines anderen Menschen oder einer Maschine einzudringen. Dies wäre aber die einzige Möglichkeit, um festzustellen, ob eine Maschine denkt.
Vielmehr kommt es auf das Verhalten (behavior) an. Der sogenannte „Behaviorismus“, die Denkrichtung, der Turing angehörte, ist der Meinung, dass nur äusserlich beobachtbare Verhaltensweisen auf ein „Denken“ hindeuten. Dies ist die philosophische Richtung des Positivismus: Alles ist sinnlos, was nicht empirisch beobachtbar ist. Folglich kann man sagen, dass jemand, der intelligent handelt, intelligent ist, ob programmierte Maschine oder Mensch.
Wie Caleb bist du die menschliche Komponente im Test: Hinter Teilnehmer A und B verbirgt sich ein Mensch und eine Maschine, du weisst nicht, wer wer ist. Stelle beiden dieselben Fragen und entscheide danach, welcher von beiden die Maschine ist.
Hinweis: Die Antworten dieser Demo sind vorbereitet und stammen nicht von einer echten KI. Sie zeigen das Prinzip des Tests.
Minuten 12 bis 14
a) Welche menschlichen Eigenschaften zeigt Ava in den ersten Begegnungen mit Caleb?
b) Gibt es etwas an Ava, was man als nicht-menschlich bezeichnen könnte?
Minuten 24 bis 28
Yeah, it feels like testing Ava through conversation is kind of a closed loop.
It’s a closed loop?
Yeah. Like testing a chess computer by only playing chess.
How else do you test a chess computer?
Well, it depends. You know, I mean, you can play it to find out if it makes good moves, but, uh …
But that won’t tell you if it knows that it’s playing chess.
And it won’t tell you if it knows what chess is.
Caleb sagt, Ava nur durch Gespräche zu testen, sei ein geschlossener Kreis: Man prüft die Fähigkeit zu sprechen allein durch Sprechen. Man erfährt, ob sie im Gespräch gut ist, aber nicht, ob dahinter etwas Inneres steht.
Das macht er an einem Schachcomputer deutlich. Man kann ihn spielen lassen und prüfen, ob er gute Züge macht. Zwei Dinge erfährt man dadurch nicht:
Erstens: ob er weiss, dass er Schach spielt. Er könnte perfekt spielen, ohne ein Bewusstsein von seiner eigenen Tätigkeit zu haben.
Zweitens: ob er weiss, was Schach ist. Er könnte Regeln und Muster abarbeiten, ohne zu verstehen, worum es geht.
Beides sind Einwände gegen den Turing-Test und den Behaviorismus: Gutes Verhalten ist noch kein Beweis für Verstehen oder Erleben. Das passt zum Problemfeld auf der Karte „Behaviorismus“ („Verhalten ist nicht Erleben“). Verwandt ist das „Chinesische Zimmer“ von John Searle: Man kann Regeln perfekt befolgen und trotzdem nichts verstehen.
Minuten 14 bis 15
I always knew how to speak, and that’s strange, isn’t it?
Why?
Because language is something that people acquire.
Well, some people believe language exists from birth. And what is learned is the ability to attach words and structure to the latent ability.
Do you agree with that?
Die Frage hinter dem Dialog: Woher kommt, was wir können und wissen, zum Beispiel die Sprache? Aus der Anlage, also dem, was uns mitgegeben ist (nature, angeboren)? Oder aus Erfahrung, Erziehung und Umwelt (nurture, erlernt)?
Ava: „I always knew how to speak“ klingt nach nature. Sie konnte sprechen, ohne es je gelernt zu haben. Das findet sie seltsam, denn Menschen erwerben Sprache erst („language is something that people acquire“). Das ist die Sicht von nurture.
Caleb: Er verbindet beides. Manche glauben, die Fähigkeit zur Sprache sei von Geburt an da („latent ability“, nature). Gelernt werde nur, Wörter und Struktur an diese Anlage zu heften (nurture). Diese Position wird oft mit dem Linguisten Noam Chomsky verbunden.
Bezug zu Nathan: Auf der Karte „Determinismus und Freiheit“ sagt Nathan, Calebs Verhalten sei programmiert, „by nature or nurture, or both“: durch Anlage, durch Umwelt oder durch beides. Damit stellt er Mensch und Maschine auf eine Stufe. Bei Ava wären nature ihr Bauplan und ihre Programmierung, nurture das, was sie durch Training und Erfahrung dazulernt.
Minuten 34 bis 35
She made a joke.
Right. When she threw your line back at you. About being interested to see what she’d choose. Yeah, I noticed that, too.
Yeah, and it got me thinking, it’s, uh … In a way, it’s the best indication of AI that I’ve seen in her so far. It’s discretely complicated. It’s like, um … It’s kind of non-autistic.
What do you mean?
She could only do that with an awareness of her own mind, and also an awareness of mine.
Ex Machina (2015)Die Theory of Mind ist die Fähigkeit, anderen Wesen mentale Zustände wie Wissen, Absichten, Überzeugungen und Gefühle zuzuschreiben und zu verstehen, dass diese von den eigenen abweichen können. Wer sie hat, bildet sich ein „Modell“ vom Geist des anderen.
Der Begriff stammt von den Primatenforschern David Premack und Guy Woodruff (1978). Sie fragten, ob Schimpansen anderen Absichten und Wissen zuschreiben können.
Ein Witz ist mehr als eine korrekte Antwort. Er verlangt flexibles Verhalten, das vom Zusammenhang und vom Untertext abhängt. Nathan schliesst vom beobachtbaren Verhalten auf einen inneren Zustand. Das ist der Gedanke hinter dem Turing-Test und dem Behaviorismus.
Der Satz ist ernst gemeint. Ava muss ihn verstehen und wissen, was Caleb gesagt hat und was er damit meinte.
Dafür muss sie wissen, dass Caleb sich an seinen Satz erinnert und ihn wiedererkennt.
Ava muss sehen, dass die Umkehrung für Caleb überraschend und komisch ist. Sie braucht ein Modell von Calebs Geist und ein Bewusstsein von ihrem eigenen. Genau das meint Nathan mit „an awareness of her own mind, and also an awareness of mine“.
Minuten 47 bis 49
Determinismus ist eine philosophische Theorie, nach welcher das gesamte Geschehen innerhalb des Universums, einschliesslich menschlicher Handlungen, durch unveränderliche (Natur-)Gesetze eindeutig vorherbestimmt sei.
Dabei muss diese Bestimmtheit nicht notwendig kausaler Natur sein. Entscheidend ist lediglich die Existenz eines gesetzartigen Zusammenhangs.
Dies ist insofern von Bedeutung, als die überwiegende Zahl der physikalischen Gesetze nicht kausal interpretierbar, aber dennoch deterministisch ist. Zwischen Determinismus und der Annahme einer uneingeschränkten Gültigkeit des Kausalprinzips (Kausalität) ist daher sorgfältig zu unterscheiden.
„Wir müssen also den gegenwärtigen Zustand des Universums als Folge eines früheren Zustandes ansehen und als Ursache des Zustandes, der danach kommt. Eine Intelligenz, die in einem gegebenen Augenblick alle Kräfte kennt, mit denen die Welt begabt ist, und die gegenwärtige Lage der Gebilde, die sie zusammensetzen, und die überdies umfassend genug wäre, diese Kenntnisse der Analyse zu unterwerfen, würde in der gleichen Formel die Bewegungen der grössten Himmelskörper und die des leichtesten Atoms einbegreifen. Nichts wäre für sie ungewiss, Zukunft und Vergangenheit lägen klar vor ihren Augen.“
Pierre-Simon Laplace
Nobody programmed me to be straight.
You decided to be straight?
Please.
Of course you were programmed. By nature or nurture, or both. […]
Come with me.
You know this guy, right?
Jackson Pollock.
Jackson Pollock. That’s right. The drip painter. Okay. He let his mind go blank, and his hand go where it wanted. Not deliberate, not random.
Some place in between. They called it automatic art. […]
What if Pollock had reversed the challenge? What if instead of making art without thinking, he said, „You know what? I can’t paint anything, unless I know exactly why I’m doing it.“ What would have happened?
He never would have made a single mark.
Yes! You see, there’s my guy, there’s my buddy, who thinks before he opens his mouth.
He never would have made a single mark!
The challenge is not to act automatically.
It’s to find an action that is not automatic.
From painting, to breathing, to talking … To falling in love.
Ex Machina (2015)
Minute 50
„Stelle dir vor, du wärst eine junge Naturforscherin oder ein junger Naturforscher, der aber von Geburt an in einem Haus aufgewachsen ist, in welchem alles nur schwarz-weiss ist. Alle Dinge sind schwarz-weiss, auch der Fernseher, der Computer-Bildschirm, die Bücher, die Bilder, die Vorhänge … Die Forscherin hat Zugang zu dem gesamten Wissen der Menschheit via Computer und Bibliothek. Nun entscheidet sie sich ausgerechnet, über Farben zu forschen. Sie studiert alles, was es in Biologie, Anatomie, Physik etc. über Farben zu wissen gibt, und versteht genau, was geschieht, wenn eine Person etwas zum Beispiel als „blau“ bezeichnet: Welche Lichtwellenlänge im Spiel ist, welchen Einfluss die Lichtwellen auf die Hornhaut, die Linse, die Netzhaut haben, wie diese Signale vom Sehnerv ins Gehirn gelangen und im Sprachzentrum das Konzept „blau“ aktivieren. Alles dies hat sie studiert und verstanden, und zwar für alle Farben …“
Im schwarz-weissen Haus kennt sie alle Fakten über Farben.
Wissen über Farben: Die Forscherin kennt alle Fakten über Farben, hat aber nie eine Farbe gesehen. Ein KI-System ist in einer ähnlichen Lage. Ein Sprachmodell lernt durch maschinelles Lernen aus riesigen Textmengen, was Menschen über Farben geschrieben haben, zum Beispiel Wellenlängen, Farbnamen und Gefühle, die man mit „Blau“ verbindet. Es kann darüber richtig sprechen, ohne je etwas gesehen zu haben.
Minute 64
„Why did you make Ava?“
„That’s an odd question. Wouldn’t you, if you could?“
„Maybe. I don’t know. I’m asking why you did it.“
„Look, the arrival of strong artificial intelligence has been inevitable for decades. The variable was ‚when,‘ not ‚if.‘ So I don’t see Ava as a decision, just an evolution.
I think it’s the next model that’s gonna be the real breakthrough. The singularity.“
„Next model?“
„After Ava.“
„I didn’t know there was gonna be a model after Ava.“
„Yeah, why? You thought she was a one-off?“
„No, I knew there must have been prototypes. So I … I knew she wasn’t the first, but I thought maybe the last.“
„Well, Ava doesn’t exist in isolation any more than you or me. She’s part of a continuum. So Version 9.6 and so on. And each time they get a little bit better.“
„When you make a new model, what do you do with the old one?“
„Well, I, uh, download the mind, unpack the data. Add in the new routines I’ve been writing. And to do that you end up partially formatting, so the memories go. But the body survives. And Ava’s body is a good one. You feel bad for Ava? Feel bad for yourself, man.
One day the AIs are gonna look back on us the same way we look at fossil skeletons in the plains of Africa. An upright ape, living in dust, with crude language and tools. All set for extinction.“
„I am become Death, the destroyer of worlds.“
„There you go again, Mr. Quotable.“
„There you go again. It’s not my quote. It’s what Oppenheimer said after he made the atomic bomb.“
Ex Machina (2015)
Nach eigener Aussage ist Nathan „programmiert“: In der Pollock-Szene sagt er: „Of course you were programmed. By nature or nurture, or both.“ Gilt das für Caleb, gilt es auch für Nathan. Sein Charakter und sein Drang, Ava zu bauen, wären dann das Ergebnis seiner Gene, seiner Erziehung und seiner Zeit. In der Oppenheimer-Szene wendet er das auf sich selbst an: Ava ist „not a decision, just an evolution“. Er beschreibt seine eigene Tat mit denselben Begriffen wie eine Maschine, nämlich als Schritt in einem Prozess, der kommen musste.
Die Ironie: Er widerspricht seiner eigenen Herausforderung. In der Pollock-Szene sagt er: „The challenge is not to act automatically. It’s to find an action that is not automatic.“ Seine eigene grösste Tat, den Bau von Ava, nennt er aber automatisch und unvermeidlich. Entweder besteht er seine eigene Herausforderung nicht, oder er merkt nicht, dass er sich selbst beschreibt.
Frage: Wenn Nathan wirklich wie eine Maschine determiniert ist, kann man ihn dann noch verantwortlich machen? Umgekehrt: Wenn man einen determinierten Menschen verantwortlich machen kann, warum dann nicht auch eine Maschine?