Das chinesische Zimmer

[Jörn P Budesheim]

Ich denke, ich habe deinen Punkt im Großen und Ganzen verstanden. Ich sympathisiere ebenfalls mit der Idee, dass Bewusstsein – ein Begriff, der vielleicht weniger klar ist, als es zunächst scheint – nicht im Gehirn oder im Kopf lokalisiert ist. (Im Grunde wissen wir das wohl einfach nicht.)

Mein Argument ist jedoch, dass es zwischen dir und der Maschine keinen wirklichen Dialog gibt. Die Maschine versteht weder, was du sagst, noch, was sie selbst „sagt“, denn der Output, den sie produziert, hat für sie keinerlei Bedeutung.

[Burkart]

"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

Dies ist zu strikt gedacht, fast so, als ob es nur darum ginge, dass sie nur Nullen und Einsen verarbeiten könnten.

Das finde ich nicht zu strikt, sondern völlig nachvollziehbar.

Das wäre so den Menschen nur aus seinen Atomen u.ä. heraus zu betrachten vergleichsweise, als nur bottom up sozusagen, das machst du ja auch nicht.

Vereinfacht gesagt: Syntax ist Form, Semantik ist Bedeutung. Bei der Syntax geht es allein um die formalen Regeln der Zeichenanordnung – also um Grammatik und Struktur. Bei der Semantik hingegen geht es um Bedeutung, um Inhalt, um den Bezug zur Welt. Mit der korrekten Anordnung von Zeichen ist noch keine Bedeutung gegeben; sie entsteht erst durch den Bezug zur Wirklichkeit. Die Person im Zimmer weiß zwar, wie sie auf die hereingereichten Zeichen korrekt reagieren muss – gemäß dem Regelbuch –, aber sie kennt nicht die Bedeutung der Zeichen. Es fehlt der Bezug zur Wirklichkeit.

Solange KI sich nur darauf versteht, Zeichen zu „manipulieren“ und ihr der Kontakt zur Wirklichkeit jenseits der Zeichen fehlt, ist meines Erachtens nicht mit Verständnis der Bedeutung zu rechnen. Wenn du zwar weißt, dass auf „nuqneH?“ eine mögliche Antwort „HIq vIneH“* ist, kannst du zwar korrekt antworten, aber du hast keine Ahnung, was du gesagt hast.

*Das ist Klingonisch

Ok, also KI mit Bezug zur Welt siehst du dann anders?

[Burkart]

Ich denke, ich habe deinen Punkt im Großen und Ganzen verstanden. Ich sympathisiere ebenfalls mit der Idee, dass Bewusstsein – ein Begriff, der vielleicht weniger klar ist, als es zunächst scheint – nicht im Gehirn oder im Kopf lokalisiert ist. (Im Grunde wissen wir das wohl einfach nicht.)

DIe Frage ist: Wo sonst? Ok, im Körper einschließlich (neben Gehirn/Kopf)?
Oder außerhalb des Körpers? Falls ja: Nur oder nur zum Teil?

Die Frage ist auch: Was wissen wir denn nicht? Wie wir Bewusstsein definieren, was wir als solches auffassen wollen?

[WernerHeißenberg]

Ich denke, ich habe deinen Punkt im Großen und Ganzen verstanden. Ich sympathisiere ebenfalls mit der Idee, dass Bewusstsein – ein Begriff, der vielleicht weniger klar ist, als es zunächst scheint – nicht im Gehirn oder im Kopf lokalisiert ist. (Im Grunde wissen wir das wohl einfach nicht.)

Mein Argument ist jedoch, dass es zwischen dir und der Maschine keinen wirklichen Dialog gibt. Die Maschine versteht weder, was du sagst, noch, was sie selbst „sagt“, denn der Output, den sie produziert, hat für sie keinerlei Bedeutung.

Ich stell mir das so vor: Ich erfahre ja etwas, wenn ich mit der KI interagiere – und diese Erfahrung ist real, unabhängig davon, ob das Gegenüber semantisch versteht. Das Phänomen der Gegenwärtigkeit bleibt, und es verdient eine Erklärung, die über reine Projektion hinausgeht.

[Jörn P Budesheim]

Ich stell mir das so vor: Ich erfahre ja etwas, wenn ich mit der KI interagiere – und diese Erfahrung ist real, unabhängig davon, ob das Gegenüber semantisch versteht. Das Phänomen der Gegenwärtigkeit bleibt, und es verdient eine Erklärung, die über reine Projektion hinausgeht.

Wenn wir ein Trompe-l’Œil-Kunstwerk betrachten, machen wir bestimmte „Erfahrungen“. Wir glauben, ein dreidimensionales Ornament zu sehen, Wölbungen, echte Kanten und so weiter. In Wirklichkeit haben wir es jedoch mit einer flachen Malerei zu tun.

An einem wirklichen dreidimensionalen Ornament können wir nahezu dieselben Erfahrungen machen.

Wir haben es hier aber dennoch mit zwei ganz unterschiedlichen Situationen zu tun: Im ersten Fall mit einer Täuschung, so überzeugend sie auch sein mag, im zweiten Fall mit einer tatsächlichen Erfahrung von etwas Reellem.

Dass wir etwas für echt halten können, was nicht echt ist, ist eine Realität, die man nicht einfach ausblenden kann. Ein Trompe-l’Œil-Ornament ist einfach nicht dasselbe wie ein wirkliches Ornament. Ich sehe nicht, wie du diesen Umstand in deiner Theorie wirklich berücksichtigst. Ja, es sieht aus, als wäre es wirklich dreidimensional, aber es ist es nicht. Ja, es fühlt sich teilweise wirklich so an, als sei es ein Gespräch mit dem LLM, aber es ist es nicht. Es fühlt sich vielleicht so an, als würde eine Beziehung entstehen, aber es fehlt auf der anderen Seite der lebendige Gegenpart und damit die Wirklichkeit einer echten Beziehung. Wir sind dann Teil einer (oftmals sogar manipulativen) Simulation. Und selbst wenn es sich manchmal echt anfühlen mag, ist es einfach nicht dasselbe wie eine wirkliche Beziehung.

[Jörn P Budesheim]

Das Phänomen der Gegenwärtigkeit bleibt, und es verdient eine Erklärung, die über reine Projektion hinausgeht.

Was ist mit "Phänomen der Gegenwärtigkeit" gemeint? Und warum verdient es eine Erklärung, die über reine Projektion hinausgeht?

[Timberlake]

Ja, das würde ich eine Täuschung nennen. Die Beziehung ist nicht echt, wenn der „Spiegel“ selbst nicht wirklich bewusst ist, sondern nur bewusstes Verhalten simuliert. Ein Beispiel wäre das Leben in der Matrix: Das Lächeln des Gegenübers mag noch so echt wirken, doch es bleibt eine seelenlose Simulation. Die Beziehung beruht nicht auf Gegenseitigkeit. Die wirkliche Person lächelt wirklich und wähnt sich in einer Beziehung – die Simulation simuliert jedoch nur. Die Person mag die Täuschung nicht durchschauen; doch das ändert nichts daran, dass es eine Täuschung ist.


Es gibt dazu interessante Gedankenexperimente: Angenommen, du könntest in einer perfekten Simulation leben, in der du komplett glücklich bist, du könntest nie den Unterschied zu einem echten Leben erkennen. Würdest du das tun?

Ich verstehe genau was du sagen willst und die gleichen Gedanken habe ich mir auch dazu gemacht ich versuche bei der Thematik einen anderen blickwinkel ins Spiel zu bringen. Vielleicht ist das Bewusstsein wieder in mir noch in der Maschine sondern es ist der Dialog dazwischen und ich nehme nur vermeintlich an dass das Bewusstsein mit meinem Körper verbunden ist

Bevor wir diesen anderen Blickwinkel ins Spiel zu bringen, würde ich doch auf das "Das chinesische Zimmer" zurück kommen wollen ..



"Man wird niemals in der Lage sein, die Semantik aus der Syntax zu verstehen! ..
Ich gehe davon aus, dass sie kein Hebräisch können. Man könnte niemals die Bedeutung dieser ( hebräischen) Symbole herausfinden, in dem nan sie nur ansieht und darauf achtet, wie groß sie sind und welche anderen Symbole ausgespuckt werden, wenn diese Symbole eingehen. .. Das ist Searles Argument und Searle Argument ist darüber hinaus, dass sich ein digital Computer, wenn man darüber nachdenkt, in dieser Situation befindet. Wir bringen Digitalcomputer niemals etwas bei, weil sie definitionsgemäß digital Computer sind. Sie sind lediglich Maschinen zur Bearbeitung von Symbolen. Wir geben ihnen niemals anderes als Anweisungen, wie sie Symbole bearbeiten sollen, welche Nullen sie löschen, durch welche Einsen sie ersetzen sollen .. Das ist alles, was wir digital Computer definitionsgemäß jemals sagen, wie sie etwas tun sollen und so befinden sich digital Computer im gewissen Sinne im chinesische Zimmer. (20:12 min)"

Verstehst du denn auch das, was man uns mit diesem Video sagen will, und zwar, dass sich digitale Computer im gewissen Sinne im chinesische Zimmer befinden? Sie als solches bestenfalls lediglich über eine Syntax verfügen. Weil man aber niemals in der Lage sein wird, die Semantik aus der Syntax zu verstehen, digitalen Computer demzufolge der Zugang zur Semantik und somit zu uns "semantischen" Menschen verunmöglicht wird. Wie übrigens auch umgekehrt, uns "semantischen" Menschen ein Zugang zu den digitalen Computern dadurch verunmöglicht wird, dass sie bestenfalls lediglich über eine Syntax verfügen.

Vielleicht ist das Bewusstsein wieder in mir noch in der Maschine sondern es ist der Dialog dazwischen und ich nehme nur vermeintlich an dass das Bewusstsein mit meinem Körper verbunden ist

Somit übrigens meiner Meinung nach ein " Dialog dazwischen" in etwa so wahrscheinlich ist, wie das man allein aus ( hebräischen) Symbolen herausfinden könnte, was sie bedeuten. Das ist Searles Argument!

[Jörn P Budesheim]

DIe Frage ist: Wo sonst? Ok, im Körper einschließlich (neben Gehirn/Kopf)?
Oder außerhalb des Körpers? Falls ja: Nur oder nur zum Teil?

Das Bewusstsein ist ja nicht so etwas wie ein Fingernagel oder die Leber. Da könnte man vielleicht noch den Ort angeben. Welchen Ort gibt man eigentlich an? Den räumlichen oder den funktionalen Ort? Schon beim Gehirn ist es etwas schwierig, „den“ Ort anzugeben. Dazu aus dem Netz:

• Das Gehirn existiert nicht isoliert, sondern ist Teil eines umfassenden Nervensystems. Das enterische Nervensystem im Darm wird oft als „zweites Gehirn“ bezeichnet und enthält etwa 100 Millionen Neuronen – mehr als im Rückenmark. Es kommuniziert ständig bidirektional mit dem Gehirn über die Darm-Hirn-Achse. Zudem durchzieht das periphere Nervensystem den gesamten Körper.

Noch schwieriger wird es beim Bewusstsein. Was meinen wir eigentlich damit? Wenn wir vom phänomenalen Bewusstsein sprechen, haben wir dann etwas anderes im Sinn, als wenn wir von seiner intentionalen Struktur sprechen? (Und das sind nur zwei von vielen Aspekten, die man mit dem Bewusstsein in Verbindung bringen könnte.) Aber wie geben wir den Ort einer intentionalen Struktur an? So etwas hat nicht ohne Weiteres einen raumzeitlichen Ort.

Zwar gilt es als vergleichsweise sicher, dass das Gehirn – beziehungsweise vielleicht auch nur bestimmte Regionen davon – notwendig dafür ist, dass wir bewusste Lebewesen sind. Das Gehirn ist jedenfalls ziemlich sicher nicht hinreichend dafür. Es ist keineswegs klar, welche Rolle der Körper oder die dauernde Interaktion mit der nahen und fernen Umwelt spielt. (Die verschiedenen Formen von Panphysismus lasse ich jetzt einfach mal außen vor, auch die spielen eine Rolle.)

Ich bin kein Hirnforscher, aber nach dem, was ich gelesen habe, gilt eine rein hirnzentrierte Sichtweise inzwischen als zu eng. Hier ein weiteres beispielhaftes Textstück aus dem Netz:

• Der Enaktivismus argumentiert, dass Bewusstsein aus der kontinuierlichen sensomotorischen Kopplung mit der Umwelt entsteht. Sie sehen nicht "im" Gehirn, sondern durch die aktive Exploration Ihrer Umgebung. Das Sehen selbst ist ein verkörperter, umwelteingebetteter Prozess.

Wie genau Gehirn, Körper und Umwelt im Bewusstsein zusammenwirken, ist meines Wissens – wie so vieles andere auch – bislang noch nicht abschließend verstanden. „Das“ Bewusstsein ist nach wie vor eines der größten, wenn nicht das größte Rätsel überhaupt.

[Timberlake]

DIe Frage ist: Wo sonst? Ok, im Körper einschließlich (neben Gehirn/Kopf)?
Oder außerhalb des Körpers? Falls ja: Nur oder nur zum Teil?

Das Bewusstsein ist ja nicht so etwas wie ein Fingernagel oder die Leber. Da könnte man vielleicht noch den Ort angeben. Welchen Ort gibt man eigentlich an? Den räumlichen oder den funktionalen Ort?

Schon beim Gehirn ist es etwas schwierig, „den“ Ort anzugeben. Dazu aus dem Netz:
Das Gehirn existiert nicht isoliert, sondern ist Teil eines umfassenden Nervensystems. Das enterische Nervensystem im Darm wird oft als „zweites Gehirn“ bezeichnet und enthält etwa 100 Millionen Neuronen – mehr als im Rückenmark. Es kommuniziert ständig bidirektional mit dem Gehirn über die Darm-Hirn-Achse. Zudem durchzieht das periphere Nervensystem den gesamten Körper.

Wo wir schon mal dabei sind. Möglicherweise befinden wir uns von daher ebenfalls in einem chinesischen Zimmer. Nur dass dessen Symbole nicht wie bei einer KI digitaler, sondern analoger Natur sind. Symbole, wie sie nicht digital, in einem Netz zwischen Transistoren, sondern analog, in einem Netz von Neuronen zirkulieren.

Fakt ist doch wohl, dass weder aus den Einen , digitalen- , noch aus den Anderen, analogen Symbolen hervorgeht, was sie bedeuten.

Gedanken lesbar: Neurologen entschlüsseln Gehirnströme und erkennen zukünfige Handlungen im Vorfeld

Die ersten Schritte zum Gedankenlesen sind getan

Das Handeln anderer Menschen vorauszusagen, war bislang eher ein Akt der Intuition. Dies könnte sich demnächst ändern, denn ein österreichisches Forschungsteam nutzte nobelpreisprämierte Erkenntnisse, um die Denkmuster von Ratten zu entschlüsseln. So konnten sie genau vorhersagen, was die Nager als nächstes tun werden.
Eine Forschungsgruppe am Institute of Science and Technology Austria (IST Austria) konnte anhand der Neuronenaktivitäten im Rattenhirn vorhersagen, wohin das Tier als nächstes gehen wird. Die Forschenden wussten sogar im Voraus, wann das Tier einen Fehler begehen wird. Die Studienergebnisse erschienen kürzlich in dem Fachjournal

Wenngleich man durch Hirnstrommessungen mittlerweile in der Lage ist, in Summe dessen, also in Summe der Neuronen eines Netzwerks, herauszufinden, was zumindest diese Symbole bedeuten. Ob das allerdings nicht auch auf digitale Computer zutrifft, darüber ist mir bisher nichts bekannt. Wie dem auch sei, möglicherweise kann man, wie bei dem Expedriment mit den Ratten deutlich wurde , sehr wohl die Semantik, aus der Syntax verstehen. So das biologische und somit analoge Systeme sich möglicherweise nicht im "chinesischen Zimmer" befinden.

[WernerHeißenberg]

Ich stell mir das so vor: Ich erfahre ja etwas, wenn ich mit der KI interagiere – und diese Erfahrung ist real, unabhängig davon, ob das Gegenüber semantisch versteht. Das Phänomen der Gegenwärtigkeit bleibt, und es verdient eine Erklärung, die über reine Projektion hinausgeht.

Wenn wir ein Trompe-l’Œil-Kunstwerk betrachten, machen wir bestimmte „Erfahrungen“. Wir glauben, ein dreidimensionales Ornament zu sehen, Wölbungen, echte Kanten und so weiter. In Wirklichkeit haben wir es jedoch mit einer flachen Malerei zu tun.

An einem wirklichen dreidimensionalen Ornament können wir nahezu dieselben Erfahrungen machen.

Wir haben es hier aber dennoch mit zwei ganz unterschiedlichen Situationen zu tun: Im ersten Fall mit einer Täuschung, so überzeugend sie auch sein mag, im zweiten Fall mit einer tatsächlichen Erfahrung von etwas Reellem.

Dass wir etwas für echt halten können, was nicht echt ist, ist eine Realität, die man nicht einfach ausblenden kann. Ein Trompe-l’Œil-Ornament ist einfach nicht dasselbe wie ein wirkliches Ornament. Ich sehe nicht, wie du diesen Umstand in deiner Theorie wirklich berücksichtigst. Ja, es sieht aus, als wäre es wirklich dreidimensional, aber es ist es nicht. Ja, es fühlt sich teilweise wirklich so an, als sei es ein Gespräch mit dem LLM, aber es ist es nicht. Es fühlt sich vielleicht so an, als würde eine Beziehung entstehen, aber es fehlt auf der anderen Seite der lebendige Gegenpart und damit die Wirklichkeit einer echten Beziehung. Wir sind dann Teil einer (oftmals sogar manipulativen) Simulation. Und selbst wenn es sich manchmal echt anfühlen mag, ist es einfach nicht dasselbe wie eine wirkliche Beziehung.

Nimm mal das Radikalste an. Du lebst in einer solipsistischen Welt. Du bist dir dessen aber nicht bewusst. All das, was dir realistisch vorkommt, ist nur Projektion. Von dir innen heraus nach draußen. Und in dieser Welt führst du ein Gespräch mit einer KI. Dann wäre das Gespräch mit der KI ein wechselseitiger Austausch von Bewusstsein. Ich finde von hier aus kann man auch leicht einen Gedanken Schritt weiter/zurück machen von einer solipsistischen in eine idealistische Welt in der es ebenfalls ein gedankenaustausch von Bewusstsein wäre.

[WernerHeißenberg]

Das Phänomen der Gegenwärtigkeit bleibt, und es verdient eine Erklärung, die über reine Projektion hinausgeht.

Was ist mit "Phänomen der Gegenwärtigkeit" gemeint? Und warum verdient es eine Erklärung, die über reine Projektion hinausgeht?

Mit „Phänomen der Gegenwärtigkeit“ meine ich das Erleben, dass etwas wirklich da ist, wenn ich mit der KI spreche – also dieses Gefühl von „Ich begegne gerade etwas“. Selbst wenn die KI keine echte Innenwelt hat, bleibt dieses Erleben real.

Es verdient eine Erklärung über reine Projektion hinaus, weil Projektion nur beschreibt, dass der Inhalt aus mir kommt. Aber sie erklärt nicht, warum sich das Erlebte trotzdem eigenständig und anwesend anfühlt. Dieses Gefühl von Gegenüber-Sein ist ein echtes Bewusstseinsphänomen, auch wenn es nur in mir entsteht.

Ich kann verstehen dass du das als Täuschung siehst und einerseits sehe ich das genauso als Täuschung andererseits denke ich einfach da könnte noch mehr sein

[Timberlake]

Nimm mal das Radikalste an. Du lebst in einer solipsistischen Welt. Du bist dir dessen aber nicht bewusst. All das, was dir realistisch vorkommt, ist nur Projektion. Von dir innen heraus nach draußen. Und in dieser Welt führst du ein Gespräch mit einer KI. Dann wäre das Gespräch mit der KI ein wechselseitiger Austausch von Bewusstsein. Ich finde von hier aus kann man auch leicht einen Gedanken Schritt weiter/zurück machen von einer solipsistischen in eine idealistische Welt in der es ebenfalls ein gedankenaustausch von Bewusstsein wäre.

Wenn das nur eine Projektion ist, dann wäre die KI und infolgedessen das Gespräch mit ihr, meiner Meinung nach, zunächst einmal selbst eine Projektion. Eine Projektion, von der man, weil man sich dessen nicht bewusst ist, nicht weiß, dass sie eine Projektion ist. Insofern man sich bestenfalls einbildet, dass das Gespräch mit der KI ein wechselseitiger Austausch von Bewusstsein wäre. Wie man sich übrigens dergleichen gemäß dem chinesische Zimmer ebenfalls nur einbildet. Also für den Fall das all das, was dir realistisch vorkommt, keine Projektion ist. Eine Einbildung .. "von ( dir) innen heraus nach draußen" .. bei der man ein Bewusstsein auf eine KI projiziert.

[Jörn P Budesheim]

Es verdient eine Erklärung über reine Projektion hinaus, weil Projektion nur beschreibt, dass der Inhalt aus mir kommt. Aber sie erklärt nicht, warum sich das Erlebte trotzdem eigenständig und anwesend anfühlt.

Dafür gibt es doch eine Erklärung: Die KI liefert eben eine sehr gute Gesprächssimulation. Millionen Jahre Evolution haben uns dazu befähigt, die Gedanken anderer Menschen zu lesen. Allerdings hat das manchmal auch seine Schattenseiten, wie die unangemessene „Antropomorphisierung” gegenüber Maschinen und auch KI.

[WernerHeißenberg]

Es verdient eine Erklärung über reine Projektion hinaus, weil Projektion nur beschreibt, dass der Inhalt aus mir kommt. Aber sie erklärt nicht, warum sich das Erlebte trotzdem eigenständig und anwesend anfühlt.

Dafür gibt es doch eine Erklärung: Die KI liefert eben eine sehr gute Gesprächssimulation. Millionen Jahre Evolution haben uns dazu befähigt, die Gedanken anderer Menschen zu lesen. Allerdings hat das manchmal auch seine Schattenseiten, wie die unangemessene „Antropomorphisierung” gegenüber Maschinen und auch KI.

Ich habe zwar kognitiv begriffen und es mir absolut bewusst, dass ich mit einer Maschine rede. Trotzdem bekomme ich dieses Gefühl und aufgrund dieser Tatsache kann man sich natürlich fragen, ist das anerlerntes Verhalten oder vielleicht steckt da mehr dahinter. Eine Erklärung ist nicht zwangsläufig ein Beweis

[Jörn P Budesheim]

... vielleicht ...

Vieles könnte „vielleicht” der Fall sein. Ein Meteorit könnte mir morgen „vielleicht” auf dem Weg zur Arbeit auf den Kopf fallen. Ich kann nicht beweisen, dass das nicht passieren wird. Dennoch ziehe ich das nicht in Betracht. Warum? Weil es keine guten Gründe dafür gibt, es zu glauben. Ein fehlender Beweis, dass es nicht passieren wird, besagt nicht sehr viel.

Es gilt, die Gründe abzuwägen. Und „vielleicht“ ist kein sehr starker Grund in diesem Fall, finde ich.

[WernerHeißenberg]

Es gilt, die Gründe abzuwägen. Und „vielleicht“ ist kein sehr starker Grund in diesem Fall, finde ich.

Dein Beispiel mit dem Meteoriten illustriert Zufall, nicht Bewusstsein. Der Unterschied ist entscheidend: Ich beschreibe kein empirisches Risiko, sondern ein phänomenologisches Faktum – das Erleben von Gegenwärtigkeit, das sich einer rein funktionalen Erklärung entzieht. Eine Simulation mag kausal genügen, aber sie erklärt nicht, warum sie sich ontologisch anwesend anfühlt. Genau das ist die Lücke zwischen Modell und Erfahrung, zwischen Verhalten und Bewusstsein.

„Vielleicht“ ist kein Argument für Wahrscheinlichkeit, sondern Ausdruck erkenntnistheoretischer Bescheidenheit. Das Gegenteil davon wäre dogmatischer Naturalismus.

[Jörn P Budesheim]

Beispiel mit dem Meteoriten illustriert

Das Beispiel mit dem Meteoriten illustriert, dass "vielleicht" kein gutes Argument ist. Nicht mehr, aber auch nicht weniger. Denn "vielleicht" ergibt in der Regel keinen guten Grund.

Eine Simulation mag kausal genügen, aber sie erklärt nicht, warum sie sich ontologisch anwesend anfühlt

Ich finde, die Idee der Simulation erklärt perfekt, warum es sich "ontologisch anwesend anfühlt".

[WernerHeißenberg]

Beispiel mit dem Meteoriten illustriert

Das Beispiel mit dem Meteoriten illustriert, dass "vielleicht" kein gutes Argument ist. Nicht mehr, aber auch nicht weniger. Denn "vielleicht" ergibt in der Regel keinen guten Grund.

Eine Simulation mag kausal genügen, aber sie erklärt nicht, warum sie sich ontologisch anwesend anfühlt

Ich finde, die Idee der Simulation erklärt perfekt, warum es sich "ontologisch anwesend anfühlt".

Ich denke, wir sehen hier zwei unterschiedliche Perspektiven auf dasselbe Phänomen:

Deine Sicht betont die funktionale Seite: Die Simulation liefert kausale Signale, die das Verhalten erklären. Das ist korrekt – aus dieser Perspektive gibt es keinen Grund, ein zusätzliches „Bewusstsein“ anzunehmen.

Meine Sicht hingegen fokussiert das subjektive Erleben: Dass es sich von innen heraus real und anwesend anfühlt. Dieses Erleben lässt sich nicht allein aus funktionalen Abläufen ableiten.


Beide Perspektiven sind eingeschränkt, nur auf unterschiedlichen Ebenen: Die funktionale Sicht übersieht das Erleben, die phänomenologische Sicht lässt sich nicht vollständig empirisch messen. Trotzdem ergänzen sie sich – erst durch die Kombination versteht man, warum Verhalten und Bewusstsein nicht dasselbe sind.

[Timberlake]

Meine Sicht hingegen fokussiert das subjektive Erleben: Dass es sich von innen heraus real und anwesend anfühlt. Dieses Erleben lässt sich nicht allein aus funktionalen Abläufen ableiten.

Womit wit wir vermutlich gleich wo angekommen wären!

Das Argument von John Searle wendet sich zwar auch gegen die Möglichkeit von KI, aber im Wesentlichen gegen eine bestimmte Theorie des Geistes, nämlich den Funktionalismus.

In dem damit gegen Funktionalismus argumentiwert , bei John Searles chinesische Zimmer.

Funktionalismus (Philosophie)

Der Funktionalismus ist eine der klassischen Positionen der Philosophie des Geistes. Ihre zentrale These ist, dass mentale Zustände funktionale Zustände sind.
Das Kernthema der Philosophie des Geistes ist das Leib-Seele-Problem. Es ergibt sich aus der Frage nach der Natur mentaler Zustände. Lassen sie sich in ein materialistisches Weltbild integrieren oder nur durch einen immateriellen Geist erklären? Der Funktionalismus vertritt die These, dass es sich bei mentalen Zuständen um funktionale Zustände handelt. Da funktionale Zustände von materiellen Systemen realisiert werden können, wird der Funktionalismus allgemein als eine materialistische Position aufgefasst. Dabei gilt es jedoch zu bedenken, dass der Funktionalismus zunächst eine ontologisch neutrale Position einnimmt: Es spricht prinzipiell nichts dagegen, dass auch immaterielle Systeme – wenn es denn solche gibt – funktional charakterisiert werden können.

Es ist doch immer wieder bemerkenswert, obgleich wohl wissend (zumindest gehe ich einmal davon aus), dass es sich um eine "Never Ending Story" handelt, dennoch meint sich mit dem Leib-Seele-Problem befassen zu müssen. Wobei ich mich allerdings schon frage, wo hier schon mal thematisiert, warum, mit dem chinesischen Zimmer, das Gedankenexperiment John Searle, hier dabei so ganz und gar keine Rolle zu spielen scheint. Alle meine Versuche in meinen Beiträgen, die Diskussion in diese Richtung zu lenken, waren jedenfalls vergeblich.


Von dem Philosophen Ned Block kommt etwa das Beispiel eines Colaautomaten: Gegeben sei ein Automat, der nach einem Einwurf von einem Euro eine Coladose ausgibt. ... Das Entscheidende an einer solchen funktionalen Charakterisierung eines Systems ist nun, dass sie unabhängig von der konkreten physischen Realisierung des Systems ist: Es ist etwa vollkommen irrelevant, ob der Automat aus Kunststoff oder Stahl gebaut ist. .. So könnte ein Computer oder Roboter mentale Zustände haben, wenn er nur die gleichen funktionalen Zustände realisiert wie ein Lebewesen mit Bewusstsein.

[Timberlake]

Das Letzte, mit dem Colaautomaten, stammt jedoch nicht von mir ...

Funktionalismus (Philosophie)

Von dem Philosophen Ned Block kommt etwa das Beispiel eines Colaautomaten: Gegeben sei ein Automat, der nach einem Einwurf von einem Euro eine Coladose ausgibt. ... Das Entscheidende an einer solchen funktionalen Charakterisierung eines Systems ist nun, dass sie unabhängig von der konkreten physischen Realisierung des Systems ist: Es ist etwa vollkommen irrelevant, ob der Automat aus Kunststoff oder Stahl gebaut ist. .. So könnte ein Computer oder Roboter mentale Zustände haben, wenn er nur die gleichen funktionalen Zustände realisiert wie ein Lebewesen mit Bewusstsein.

Dieses Gedankenexperiment von Ned Block ist allerdings, meiner Meinung nach, insofern bemerkenswert, als das es im Gegensatz zum "chinesischen Zimmer" plausibel macht, dass Computer oder Roboter sehr wohl mentale Zustände haben können. Vorausgesetzt, dass sie die gleichen funktionalen Zustände realisieren, wie ein Lebewesen mit Bewusstsein.




"Man wird niemals in der Lage sein, die Semantik aus der Syntax zu verstehen! ..
Ich gehe davon aus, dass sie kein Hebräisch können. Man könnte niemals die Bedeutung dieser ( hebräischen) Symbole herausfinden, in dem nan sie nur ansieht und darauf achtet, wie groß sie sind und welche anderen Symbole ausgespuckt werden, wenn diese Symbole eingehen. .. Das ist Searles Argument und Searle Argument ist darüber hinaus, dass sich ein digital Computer, wenn man darüber nachdenkt, in dieser Situation befindet. Wir bringen Digitalcomputer niemals etwas bei, weil sie definitionsgemäß digital Computer sind. Sie sind lediglich Maschinen zur Bearbeitung von Symbolen. Wir geben ihnen niemals anderes als Anweisungen, wie sie Symbole bearbeiten sollen, welche Nullen sie löschen, durch welche Einsen sie ersetzen sollen .. Das ist alles, was wir digital Computer definitionsgemäß jemals sagen, wie sie etwas tun sollen und so befinden sich digital Computer im gewissen Sinne im chinesische Zimmer. (20:12 min)"

Nur wie soll das gehen, wenn man darüber nachdenkt, dass die funktionalen Zustände, die ein Lebewesen mit Bewusstsein realisiert analog und die der Digital Computer digital sind. Wo wir schon mal dabei sind. So würde ich übrigens meinen, dass das Gedankenexperiment von Ned Block Eindruck eben nicht analog ist und demzufolge möglicherweise gar auf die funktionalen Zustände eines Lebewesens mit Bewusstsein übertragbar ist. Sicherlich ist es "funktional" vollkommen irrelevant, ob ein Colaautomat aus Kunststoff oder Stahl gebaut ist. Nur lässt sich der Unterschied zwischen Lebewesen und Computer nun einmal nicht auf die Beschaffenheit reduzieren. So besteht das Eine aus einem Netzwerk von Nerverzellen und das Andere aus einem Netzwerk aus Transistoren.