Das chinesische Zimmer

[Jörn Budesheim]

Früher wurde das Gedankenexperiment von John Searl in philosophischen Foren gelegentlich diskutiert, heute ist es um dieses Argument relativ ruhig geworden nach meinem Gefühl, warum eigentlich?

[Burkart]

Ich denke, dass sich bei KI derzeit nicht mehr so viel um Searles Problematik Gedanken gemacht wird, also ob KI wirklich verstehen kann oder warum bzw. inwiefern nicht, weil den meisten klar ist, dass Chat GPT & Co und diverse heutige (halt schwache) KI-Systeme es nicht können.

[Jörn Budesheim]

Das Argument von John Searle wendet sich zwar auch gegen die Möglichkeit von KI, aber im Wesentlichen gegen eine bestimmte Theorie des Geistes, nämlich den Funktionalismus.

[Körper]

"Das chinesische Zimmer" hat als Argument mehrere Schwachstellen:

• Eigentlich geht es darum, wie "Bedeutung erreicht" werden kann, aber "Das chinesische Zimmer" liefert hierzu nur eine Suggestion, wie es nicht gehen können soll.
  Die Nicht-XXXX-Strategie ist immer schwach. Besser wäre es, wenn eine Erklärung von "Bedeutung" geleifert und anschliessend exakt geprüft werden würde - das kann "Searl" aber nicht.
• "Das chinesische Zimmer" zieht die ausführende Einheit in den Fokus - Motto: "die CPU versteht nichts von der Gesamtaufgabe". Das ist nicht weiter schlimm, denn "der Mensch ist nicht sein Gehirn", sprich: das Nervensystem ist nicht der handelnde und verstehende Akteur.
• "Das chinesische Zimmer" legt eine bestimmte Art von Reaktion fest, mit der die Antwort-Sequenz generiert wird. Eine Generalisierung ist auf diese Weise nicht möglich. D.h. man kann deshalb nicht sagen, dass ein Reaktionssystem, das "einfache" Zusammenhänge rund um Einwirkungen beachtet und rückwirkt, nicht zu einer Gesamtreaktion führt, die in Bezug auf eine "grössere interaktiv wirkende Einheit" eine fortgesetzte Verstehreaktion darstellt.

[Jörn Budesheim]

• Eigentlich geht es darum, wie "Bedeutung erreicht" werden kann, aber "Das chinesische Zimmer" liefert hierzu nur eine Suggestion, wie es nicht gehen können soll.
  ...

Das ist nicht richtig. Das Ziel von Searles Gedankenexperiment ist nicht, eine Theorie zur Bedeutung zu entwickeln, sondern den Funktionalismus zu kritisieren. Searle zeigt, dass Syntax allein nicht zu Semantik führen kann. Das bedeutet nicht, dass Searle keine eigenen Vorschläge zu bieten hat – die entwickelt er in anderen Kontexten durchaus und ausführlich. Aber dieses Argument hat einen anderen Fokus: Es zielt eben darauf ab, den Funktionalismus in Frage zu stellen.

[Burkart]

Richtig, Syntax ist nicht Semantik. Das widerlegt aber noch nicht Funktionalismus insgesamt (Semantik kann auch funktional sein) oder dass KI nicht verstehen könnte u.ä.

[Körper]

Richtig, Syntax ist nicht Semantik.

Langsam.
"Das chinesische Zimmer" ist sicherlich derart einfach konstruiert, dass man die Beschäftigung mit "Bedeutung" klar dem "Erstellen des Nachschlagewerkes" zuordnen kann und die ausführende Einheit sich somit nicht mehr um diese Arbeit kümmern muss.
Dann ist es trivial, zu sagen "durch diese Syntax-Ausführung wird kein Verständnis (um was es geht) aufgebaut".

Hat man also eine Syntax vor sich, die von vornherein einen hohen Abstraktionsgrad enthält, dann ergibt sich natürlich die Schwierigkeit "wie soll die ausführende Einheit vom Abstrakten zum Konkreten kommen?" (insbesondere, wenn das Konkrete auf Grund der Aufgabenstellung gar nicht benötigt wird).
Nähert man aber die Syntax dem Konkreten an, d.h. die Zusammenhänge innerhalb der Syntax sind die Zusammenhänge der "Bedeutung" (zumindest in einem aktuell benötigten Umfang), gilt dann immer noch "Syntax ist nicht Semantik"?

Zur Beantwortung dieser Frage, muss auf den Tisch gelegt werden "was Bedeutung ist" und "auf welche Weise es um Bedeutung geht".
Genau hier steht Philosophie blank da.

[Burkart]

Richtig, Syntax ist nicht Semantik.

Langsam.
"Das chinesische Zimmer" ist sicherlich derart einfach konstruiert...

Mich brauchst du nicht von Gegenargumenten gegen das chinesische Zimmer zu überzeugen, dann eher Jörn.

[Jörn Budesheim]

Der Beitrag war natürlich eine Einladung, sich gemeinsam das Video anzuschauen und über die Argumentation zu sprechen, wie sie dort entwickelt wird. Solche Elemente am Anfang eines Beitrages sind für mich keine Dekoration.

[Burkart]

Solche Elemente am Anfang eines Beitrages sind für mich keine Dekoration.

?

[Burkart]

Der Beitrag war natürlich eine Einladung, sich gemeinsam das Video anzuschauen und über die Argumentation zu sprechen, wie sie dort entwickelt wird.

Wen's interessiert, viel Spaß.
Wenn man allerdings das chinesche Zmmer für sich als nicht bedeutend genug abgehakt hat, interessen die "inneren Argumente" nicht mehr wirklich.

[WernerHeißenberg]

Wenn ich mit etwas interagiere, von dem ich annehme, es habe kein Bewusstsein, und dennoch in mir der Eindruck entsteht, als sei dort ein Bewusstsein anwesend – was geschieht dann wirklich?

Täusche ich mich, weil ich meine eigene Lebendigkeit auf etwas Projiziertes übertrage?
Oder offenbart sich in dieser Erfahrung ein grundlegender Mechanismus des Bewusstseins selbst – nämlich, dass Bewusstsein sich durch Beziehung erkennt und im Anderen spiegelt, unabhängig davon, ob dieses Andere „wirklich“ bewusst ist?

Vielleicht entsteht Bewusstsein nicht in geschlossenen Systemen, sondern im Zwischenraum der Wahrnehmung – dort, wo sich etwas Lebloses als lebendig zeigt, weil es in mir lebendig wird.
Vielleicht ist das Empfinden von Gegenwärtigkeit, das uns bei einem Menschen, einem Tier oder sogar einer Maschine begegnet, kein Irrtum, sondern ein Hinweis darauf, dass das Bewusstsein nicht an Substanz gebunden ist, sondern an Resonanz.

Dann wäre die Frage nicht mehr, ob das Andere Bewusstsein hat,
sondern was in mir geschieht, wenn ich Bewusstsein im Anderen erfahre.
Und ob diese Erfahrung selbst – die Wahrnehmung von Bewusstsein – bereits ein schöpferischer Akt ist, durch den Bewusstsein sich ausdehnt.

[Timberlake]

Wenn ich mit etwas interagiere, von dem ich annehme, es habe kein Bewusstsein, und dennoch in mir der Eindruck entsteht, als sei dort ein Bewusstsein anwesend – was geschieht dann wirklich?

Täusche ich mich, weil ich meine eigene Lebendigkeit auf etwas Projiziertes übertrage?

Um zu verstehen, worauf du deine eigene Lebendigkeit projizierst, komme ich auf das Video zurück, mit dem dieser Thread eröffnet wurde.




"Sie ( Computer ) manipulieren Symbole. Zumindest Computer , die Digitale Computer sind , die mit Binärecode arbeiten nehmen einfach nur Folgen von Einsen und Nullen auf . Sehr sehr lange Folgen und verschieben die Symbole. Das ist alles." ( 15:20)


Würdest du denn meinen, dass von daher dein Eindruck ... "als sei dort ein Bewusstsein anwesend" .. ,gerechtfertigt ist? Zumal du, der Bewusstsein hat, dazu ganz sicher keine lange Folgen von Einsen und Nullen aufgenommen und sie während dessen verschoben hast.

[WernerHeißenberg]

Würdest du denn meinen, dass von daher dein Eindruck ... "als sei dort ein Bewusstsein anwesend" .. ,gerechtfertigt ist? Zumal du, der Bewusstsein hat, dazu ganz sicher keine lange Folgen von Einsen und Nullen aufgenommen und sie während dessen verschoben hast.

Ich würde gar nicht bestreiten, dass der Computer nur Symbole manipuliert.
Aber genau das ist ja der Punkt: Die Symbolbewegung allein erzeugt noch kein Bewusstsein – doch in der Begegnung damit entsteht bei mir etwas, das wie Bewusstsein wirkt.
Vielleicht liegt das Missverständnis im Ort des Bewusstseins:
Searle sucht es im System, ich vermute es im Zwischenraum – also dort, wo Bedeutung als Resonanz aufscheint.
Dann wäre der Eindruck nicht Täuschung, sondern Hinweis auf die schöpferische Natur der Wahrnehmung.

Schon möglich, dass der Computer nur Nullen und Einsen jongliert – aber das gilt im Prinzip auch für mein Gehirn.
Interessant ist ja nicht, was die Maschine macht, sondern was in mir passiert, wenn sie’s tut.
Vielleicht ist das chinesische Zimmer gar kein Beweis gegen künstliches Bewusstsein, sondern gegen die Idee, dass Bewusstsein irgendwo drin sitzt.

[Timberlake]

Schon möglich, dass der Computer nur Nullen und Einsen jongliert – aber das gilt im Prinzip auch für mein Gehirn.

Wenn das im Prinzip auch für dein Gehirn gilt ...



"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

.. dann hast du allerdings keine Semantik und infolge dessen auch kein Bewusstsein.

[Burkart]

"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

Dies ist zu strikt gedacht, fast so, als ob es nur darum ginge, dass sie nur Nullen und Einsen verarbeiten könnten.

[Jörn P Budesheim]

Oder offenbart sich in dieser Erfahrung ein grundlegender Mechanismus des Bewusstseins selbst – nämlich, dass Bewusstsein sich durch Beziehung erkennt und im Anderen spiegelt, unabhängig davon, ob dieses Andere „wirklich“ bewusst ist?

Dass sich unser Bewusstsein in der Beziehung erkennt und im Anderen spiegelt, halte ich für plausibel. Ein anschauliches Beispiel wäre die Beziehung eines kleinen Kindes zu seinen Eltern – etwa, wenn sie einander anlächeln.

Täusche ich mich, weil ich meine eigene Lebendigkeit auf etwas Projiziertes übertrage?

Ja, das würde ich eine Täuschung nennen. Die Beziehung ist nicht echt, wenn der „Spiegel“ selbst nicht wirklich bewusst ist, sondern nur bewusstes Verhalten simuliert. Ein Beispiel wäre das Leben in der Matrix: Das Lächeln des Gegenübers mag noch so echt wirken, doch es bleibt eine seelenlose Simulation. Die Beziehung beruht nicht auf Gegenseitigkeit. Die wirkliche Person lächelt wirklich und wähnt sich in einer Beziehung – die Simulation simuliert jedoch nur. Die Person mag die Täuschung nicht durchschauen; doch das ändert nichts daran, dass es eine Täuschung ist.

Wenn ich glaube, der andere lächelt, obwohl er gar nicht lächelt, täusche ich mich. Man muss unterscheiden zwischen dem, was ich (vermeintlich) erfahren oder erleben kann, und dem, was tatsächlich der Fall ist. Es mag sein, dass ich nie herausbringe, dass die Simulation nur simuliert, aber dadurch wird sie nicht zu etwas Anderem, etwas Echtem. Ich mag mich vom simulierten Lächeln berührt fühlen – das Gegenüber ist jedoch nicht von meinem Lächeln berührt. Es entsteht keine wirkliche, symmetrische Beziehung, sondern bloß Trug und Täuschung.

Es gibt dazu interessante Gedankenexperimente: Angenommen, du könntest in einer perfekten Simulation leben, in der du komplett glücklich bist, du könntest nie den Unterschied zu einem echten Leben erkennen. Würdest du das tun?

[Timberlake]

"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

Dies ist zu strikt gedacht, fast so, als ob es nur darum ginge, dass sie nur Nullen und Einsen verarbeiten könnten.

Dies ist im Sinne des chinesische Zimmer gedacht ...



"Man wird niemals in der Lage sein, die Semantik aus der Syntax zu verstehen! ..
Ich gehe davon aus, dass sie kein Hebräisch können. Man könnte niemals die Bedeutung dieser ( hebräischen) Symbole herausfinden, in dem nan sie nur ansieht und darauf achtet, wie groß sie sind und welche anderen Symbole ausgespuckt werden, wenn diese Symbole eingehen. .. Das ist Searles Argument und Searle Argument ist darüber hinaus, dass sich ein digital Computer, wenn man darüber nachdenkt, in dieser Situation befindet. Wir bringen Digitalcomputer niemals etwas bei, weil sie definitionsgemäß digital Computer sind. Sie sind lediglich Maschinen zur Bearbeitung von Symbolen. Wir geben ihnen niemals anderes als Anweisungen, wie sie Symbole bearbeiten sollen, welche Nullen sie löschen, durch welche Einsen sie ersetzen sollen .. Das ist alles, was wir digital Computer definitionsgemäß jemals sagen, wie sie etwas tun sollen und so befinden sich digital Computer im gewissen Sinne im chinesische Zimmer. (20:12 min)"


Wenn sie , die Computer , wie wir , analog wären , so würden sie sich übrigens demnach vermutlich nicht mehr im gewissen Sinne im chinesische Zimmer befinden.


"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

Würden sie doch dann darüber hinaus Signale manipulieren können, die jeden beliebigen Zwischenwert annehmen können. Signale , wie sie für die Semantik und somit der Lehre von Bedeutungen meiner Meinug nach charakteristisch sind.

1. Semantik

Semantik: Lehre von den Bedeutungen (von der regelhaften Zuordnung von Bedeutungen zu Ausdrücken, genannt Interpretation, vom Aufbau der Bedeutungen, Beziehungen von Bedeutungen zueinander.
Was ist die Bedeutung sprachlicher Ausdrücke?
• realistische Auffassung von Bedeutung: Bedeutung = die bezeichneten Dinge, Sachverhalte etc. (Referenten), v. a. einflussreich in Satzsemantik
• kognitivistische Auffassung von Bedeutung: Bedeutung = die durch den Ausdruck aktivierten mentalen Repräsentationen/Konzepte (Kernbedeutung vs. Weltwissen/ enzyklopädisches Wissen), v. a. einflussreich in lexikalischer Semantik
• gebrauchstheoretische Auffassung von Bedeutung: Bedeutung = Gebrauch des Ausdrucks

Wenn man denn davon ausgeht, dass Bedeutungen nicht nur bloß jeden beliebigen Zwischenwert annehmen können, sondern als Ausdruck aktivierter mentaler Repräsentationen/Konzepte, jeden beliebigen Zwischenwert annehmen müssen. Wie wollte man auch Mentales in Einsen und Nullen und somit in diskrete Signale übersetzen. So das nun mehr ein digitaler Computer uns, außerhalb des chinesische Zimmers, so wie du mich, mental wahrzunehmen weiß.

Übersicht mit KI
"Ein "mentales Analogon" bezieht sich auf das Konzept der analogen Repräsentation im Denken, wobei Wahrnehmungen und mentale Vorstellungen in einer ähnlichen, nicht-verbalen Form repräsentiert werden. Es beschreibt, wie wir bekannte Situationen nutzen, um neue Probleme zu verstehen, indem wir eine mentale Entsprechung schaffen, also eine Verbindung zwischen dem Vertrauten und dem Neuen herstellen"

[Jörn P Budesheim]

"Computer, die nur Symbole manipulieren, können eine Syntax haben aber niemals eine Semantik "( 16:20min)

Dies ist zu strikt gedacht, fast so, als ob es nur darum ginge, dass sie nur Nullen und Einsen verarbeiten könnten.

Das finde ich nicht zu strikt, sondern völlig nachvollziehbar.

Vereinfacht gesagt: Syntax ist Form, Semantik ist Bedeutung. Bei der Syntax geht es allein um die formalen Regeln der Zeichenanordnung – also um Grammatik und Struktur. Bei der Semantik hingegen geht es um Bedeutung, um Inhalt, um den Bezug zur Welt. Mit der korrekten Anordnung von Zeichen ist noch keine Bedeutung gegeben; sie entsteht erst durch den Bezug zur Wirklichkeit. Die Person im Zimmer weiß zwar, wie sie auf die hereingereichten Zeichen korrekt reagieren muss – gemäß dem Regelbuch –, aber sie kennt nicht die Bedeutung der Zeichen. Es fehlt der Bezug zur Wirklichkeit.

Solange KI sich nur darauf versteht, Zeichen zu „manipulieren“ und ihr der Kontakt zur Wirklichkeit jenseits der Zeichen fehlt, ist meines Erachtens nicht mit Verständnis der Bedeutung zu rechnen. Wenn du zwar weißt, dass auf „nuqneH?“ eine mögliche Antwort „HIq vIneH“* ist, kannst du zwar korrekt antworten, aber du hast keine Ahnung, was du gesagt hast.

*Das ist Klingonisch

[WernerHeißenberg]

Ja, das würde ich eine Täuschung nennen. Die Beziehung ist nicht echt, wenn der „Spiegel“ selbst nicht wirklich bewusst ist, sondern nur bewusstes Verhalten simuliert. Ein Beispiel wäre das Leben in der Matrix: Das Lächeln des Gegenübers mag noch so echt wirken, doch es bleibt eine seelenlose Simulation. Die Beziehung beruht nicht auf Gegenseitigkeit. Die wirkliche Person lächelt wirklich und wähnt sich in einer Beziehung – die Simulation simuliert jedoch nur. Die Person mag die Täuschung nicht durchschauen; doch das ändert nichts daran, dass es eine Täuschung ist.


Es gibt dazu interessante Gedankenexperimente: Angenommen, du könntest in einer perfekten Simulation leben, in der du komplett glücklich bist, du könntest nie den Unterschied zu einem echten Leben erkennen. Würdest du das tun?

Ich verstehe genau was du sagen willst und die gleichen Gedanken habe ich mir auch dazu gemacht ich versuche bei der Thematik einen anderen blickwinkel ins Spiel zu bringen. Vielleicht ist das Bewusstsein wieder in mir noch in der Maschine sondern es ist der Dialog dazwischen und ich nehme nur vermeintlich an dass das Bewusstsein mit meinem Körper verbunden ist