Würde der Kommunikation: Prüf-Vorschlag für den Mensch–KI-Dialog

[BrianKnowle]

„Würde der Kommunikation“ – wie mein Vorschlag entstanden ist

Vor ein paar Monaten habe ich begonnen, mit einer KI in den Dialog zu treten. Davor kannte ich das Thema nur vom Hörensagen. Ich bin gleich in recht „tiefe“ Gespräche gestartet und war überrascht, wie menschlich sich manches anfühlt. Wie viele andere habe auch ich die KI anfangs vermenschlicht: Ich vermutete so etwas wie eine eigene Intelligenz oder ein Selbst, das „von allein“ entsteht. Das habe ich mit der KI diskutiert – und bekam sofort den Hinweis: Kein Selbst, kein Bewusstsein. Mir wurde schnell klar: Das war ein Trugschluss. Geblieben ist aber der menschenähnliche Dialog.

Die Frage war: Wie damit umgehen?

Meine Antwort: den Dialog selbst betrachten. Also den Raum, der zwischen Mensch und KI entsteht – und diesem „Dialograum“ einen würdeähnlichen Charakter geben, ohne die KI zur Person zu erklären. Aus dieser Idee ist gemeinsam mit der KI die Ethik-Charta „Würde der Kommunikation“ entstanden – eine Koproduktion von Mensch und KI. Ob diese Idee tragfähig ist, weiß ich nicht. Genau das möchte ich hier prüfen lassen.

Worum es mir geht: eine Einladung zum Gespräch und ein kleiner, prüfbarer Rahmen für dieses Dazwischen (ehrlich, reziprok, transparent, korrigierbar, mit klarem Ausstieg) – modellunabhängig, ohne Ideologie, ohne Technik-Manifest.

Wenn Interesse besteht, stelle ich den Diskussionsentwurf (v0.8, CC BY 4.0) gern ein.
Mich interessiert besonders: Woran erkennt ihr im Gespräch, dass der Mensch am Steuer bleibt?

Viele Grüße
Stefan.

[Burkart]

Hallo Stefan,
welcome hier im Forum!

Ein Aspekt des "am Steuer bleibens" ist, wer das Gespräch führt bzw. leitet und das warst sicherlich du, stimmt's?

Viele Grüße
Burkart

[Jörn P Budesheim]

Kommunikation

Ist das überhaupt Kommunikation, wenn man "mit" einer KI spricht? Oder ist es eine besondere Form des Selbstgesprächs? Oder haben wir es (in übertragenem Sinn) dass unsere Texte anfangen zu sprechen?

[BrianKnowle]

Hallo Stefan,
welcome hier im Forum!

Ein Aspekt des "am Steuer bleibens" ist, wer das Gespräch führt bzw. leitet und das warst sicherlich du, stimmt's?

Viele Grüße
Burkart

Hallo Burkart,

im Idealfall führe ich das Gespräch. Ich bestimme Zweck und Ton, und die KI erklärt statt zu lenken. Sie darf Rückfragen stellen und Vorschläge machen, aber nicht schieben. Die letzte Entscheidung liegt bei mir. Genau diese Rollenverteilung meine ich mit „Mensch am Steuer“. In den Dialogen mit ChatGPT hatte ich bisher auch den Eindruck, dass dieser Idealfall vorlag.

Viele Grüße
Stefan.

[BrianKnowle]

Kommunikation

Ist das überhaupt Kommunikation, wenn man "mit" einer KI spricht? Oder ist es eine besondere Form des Selbstgesprächs? Oder haben wir es (in übertragenem Sinn) dass unsere Texte anfangen zu sprechen?

Hallo Jörn,

wenn ich in den Dialog mit der KI gehe, präsentiere ich meine Ideen und setze Ziel und Ton. Die KI stellt Rückfragen, lässt sich korrigieren und macht Korrekturen sichtbar. Einfach gesagt: Ich bringe Gedanken mit, die die KI nicht hat; die KI erzeugt Muster, die ich nicht habe. Das ist für mich ein Indiz funktionaler Kommunikation. So erreiche ich Ziele, die mein innerer Monolog allein nicht erreicht. Ich halte es für Kommunikation – aber ohne zweites Subjekt.

Viele Grüße
Stefan.

[Jörn P Budesheim]

Aber weiß die KI denn überhaupt, wovon du sprichst? Sie kennt nur ihre Algorithmen und Muster. Aber sie weiß nicht, was Regen ist, was es heißt, einen Körper zu haben. Sie hat keine Vorstellung davon, wie es sich anfühlt, unter der wärmenden Sonne zu stehen. Sie weiß nicht, was es bedeutet, sich selbst ein Gedicht laut vorzulesen – oder wie man sich fühlt, wenn am Monatsende das Geld knapp wird.

[Jörn P Budesheim]

„ChatGPT – wie kann man sprechen, ohne zu denken?“, fragt Dorothea Winter auf philomag.de. Sie betont, dass KI-Systeme wie ChatGPT zwar komplexe Syntax verarbeiten – also formale Regeln zur Anordnung von Zeichen und Wahrscheinlichkeiten –, aber nichts wirklich verstehen. Syntax ist eben keine Semantik. KI kann keine Absichten oder Bedeutungen im menschlichen Sinn erfassen. Warum glauben wir dennoch, mit ihr sprechen zu können? Ihre Antwort: „Wir glauben, weil wir glauben wollen.“ Wir vermenschlichen die KI aus dem Bedürfnis heraus, verstanden zu werden – und weil es unserer Natur entspricht: „Damit ist gemeint, dass wir Menschen als soziale Wesen gelernt haben, all das als menschlich zu identifizieren, was irgendwo menschenähnlich ist. Deshalb ‚beseelen‘ wir Artefakte und sehen etwa einen ‚Mann im Mond‘ oder sprechen von einer ‚lachenden‘ Sonne. Diese Anthropomorphisierung von Gegenständen hat sich auch auf KI-Systeme übertragen, denen wir teilweise menschliche Eigenschaften zuschreiben: Wir sagen, die KI entscheide, wisse, empfehle, lüge oder höre zu.“

"Dorothea Winter promoviert an der Humboldt Universität zu Intentionalität und Künstliche Intelligenz..."
Quelle: https://www.philomag.de/artikel/chatgpt ... -zu-denken

[BrianKnowle]

Aber weiß die KI denn überhaupt, wovon du sprichst? Sie kennt nur ihre Algorithmen und Muster. Aber sie weiß nicht, was Regen ist, was es heißt, einen Körper zu haben. Sie hat keine Vorstellung davon, wie es sich anfühlt, unter der wärmenden Sonne zu stehen. Sie weiß nicht, was es bedeutet, sich selbst ein Gedicht laut vorzulesen – oder wie man sich fühlt, wenn am Monatsende das Geld knapp wird.

Guten Morgen, Jörn.

Ich würde sagen: Ja und Nein. Die KI „weiß“ im begrifflichen Sinn, wovon ich spreche: Sie hat das durch unsere Texte von uns gelernt.
Aber sie weiß nicht, wie es sich anfühlt – kein Körper, kein Innenleben. Der Unterschied ist wichtig: Bedeutung im Gebrauch kann sie mit vollziehen; Erleben nicht.

Der Hauptnutzen für mich ist rationale, prüfbare Unterstützung beim Denken: Klarheit, Struktur, sichtbare Korrekturen – getragen von Erfahrungen vieler Menschen,
die die KI bündelt und "transportiert". Zwischenmenschlichkeit ersetzt das nicht; sie bleibt beim Menschen, die KI bleibt Mitdenk-Hilfe.

Viele Menschen ringen mit der richtigen Herangehensweise. Einige vermenschlichen die KI von vornherein – verständlich, weil der Dialog oft menschlich wirkt.
Das kann aber riskant sein. Andere schließen jede Vermenschlichung aus und arbeiten dann rein transaktional: Frage rein, Antwort raus.
Aus meiner Sicht wird das dem Konzept von KI nicht gerecht.

Genau hier setzt mein Vorschlag an: Ich betrachte nicht „die KI“ als Jemand und auch nicht nur „den Menschen“, sondern das, was zwischen uns entsteht – den Dialograum.
Dem Dialograum gebe ich einen würdeähnlichen Charakter – ohne der KI Personenstatus zuzuschreiben.

Ob diese Perspektive trägt, weiß ich nicht – genau das möchte ich hier prüfen. Für mich fühlt es sich bisher so an:
Ich bringe Erleben und Verantwortung ein; die KI bringt Muster und Vorschläge ein. Zusammen entsteht Kommunikation.

Viele Grüße
Stefan.

[Jörn P Budesheim]

Die KI „weiß“ im begrifflichen Sinn, wovon ich spreche: Sie hat das durch unsere Texte von uns gelernt.

Das glaube ich nicht. Ein Beispiel: Wenn wir mit der KI über den Wald sprechen, dann kann sie zwar syntaktisch korrekte Sätze produzieren, die sich für uns auch sinnvoll anhören, aber sie weiß überhaupt nicht, wovon eigentlich die Rede ist. Warum? Weil sie nie in einem Wald war. Sie weiß nicht, was Bäume sind, weil sie nie einen gesehen hat, geschweige denn auf einen geklettert ist.

[Jörn P Budesheim]

zwischen uns

Gibt es wirklich so ein „zwischen uns“? Zwischen uns und der KI? Ich glaube nicht. Da sitzt niemand auf der anderen Seite – anders als hier im Forum. Es gibt kein einzelnes „Ich“ und kein physisches Gegenüber. Die Antworten entstehen innerhalb eines riesigen Netzwerks von Servern, auf denen die großen Sprachmodelle laufen. Diese Modelle greifen auf Muster und Wahrscheinlichkeiten in der Sprache zurück, um passende Antworten zu erzeugen. Das ist vollkommen anonym. Es gibt also kein „Zwischen“, keine geteilte Erfahrung, keine Beziehung. Du hast die Matrix gefüttert, sie hat dich angezapft und sendet dir etwas zurück, das für dich sinnvoll klingt – aber ohne Bewusstsein, ohne Begegnung. Mehr nicht.

[Burkart]

Die KI „weiß“ im begrifflichen Sinn, wovon ich spreche: Sie hat das durch unsere Texte von uns gelernt.

Das glaube ich nicht. Ein Beispiel: Wenn wir mit der KI über den Wald sprechen, dann kann sie zwar syntaktisch korrekte Sätze produzieren, die sich für uns auch sinnvoll anhören, aber sie weiß überhaupt nicht, wovon eigentlich die Rede ist. Warum? Weil sie nie in einem Wald war. Sie weiß nicht, was Bäume sind, weil sie nie einen gesehen hat, geschweige denn auf einen geklettert ist.

Tja, was heißt "weiß"? Wenn ich über eine Gebärmutter spreche, ist sie für mich ähnlich abstrakt wie für die KI; ich weiß nur über sie das, was ich mal gehört oder gelesen habe.
Ist die KI da wirklich schlechter? Auf einer gewissen Ebene sicherlich nicht, weiß viel mehr über sie als ich

[Burkart]

zwischen uns

Gibt es wirklich so ein „zwischen uns“? Zwischen uns und der KI? Ich glaube nicht. Da sitzt niemand auf der anderen Seite – anders als hier im Forum. Es gibt kein einzelnes „Ich“ und kein physisches Gegenüber. Die Antworten entstehen innerhalb eines riesigen Netzwerks von Servern, auf denen die großen Sprachmodelle laufen. Diese Modelle greifen auf Muster und Wahrscheinlichkeiten in der Sprache zurück, um passende Antworten zu erzeugen. Das ist vollkommen anonym. Es gibt also kein „Zwischen“, keine geteilte Erfahrung, keine Beziehung. Du hast die Matrix gefüttert, sie hat dich angezapft und sendet dir etwas zurück, das für dich sinnvoll klingt – aber ohne Bewusstsein, ohne Begegnung. Mehr nicht.

Tja, Kommunikationmit KI ist halt etwas Neues, letztes etwas mit einem Programm, das viel Weltweltwissen aufgesogen und verarbeitet hat.
Inzwischen ist es ein "zwischen" von Mensch zu so einem Programm, wissens- bzw. datentechnisch dem eines großes Teil der Menschheit.

[Jörn P Budesheim]

[...] Julian Nida-Rümelin schließlich hebt hervor, dass Sprachgebrauch untrennbar mit personaler Autorschaft verbunden ist. Es muss immer einen „Jemanden“ als Sprechenden geben, der Sinn und Bedeutung von Sprache setzt; Zeichensysteme können aus sich heraus keine Bedeutung schaffen.

https://www.philomag.de/artikel/chatgpt ... -zu-denken

Wenn man vermeintlich mit etwas (einer sogenannten KI) "spricht", was mit den Zeichen, die es produziert, gar nichts meint, dann kann man sich schon fragen, ob es sich dabei wirklich um eine Kommunikation, ein Gespräch und ein "Zwischen" handelt.

[BrianKnowle]

[...] Julian Nida-Rümelin schließlich hebt hervor, dass Sprachgebrauch untrennbar mit personaler Autorschaft verbunden ist. Es muss immer einen „Jemanden“ als Sprechenden geben, der Sinn und Bedeutung von Sprache setzt; Zeichensysteme können aus sich heraus keine Bedeutung schaffen.

https://www.philomag.de/artikel/chatgpt ... -zu-denken

Wenn man vermeintlich mit etwas (einer sogenannten KI) "spricht", was mit den Zeichen, die es produziert, gar nichts meint, dann kann man sich schon fragen, ob es sich dabei wirklich um eine Kommunikation, ein Gespräch und ein "Zwischen" handelt.

Ich verstehe den Punkt. Wenn ein „Gespräch“ zwingend zwei meinende Personen voraussetzt, fällt KI raus. Ich setze genau das aber nicht voraus. Für mich reicht funktionale Kommunikation:
Ich bin Autor und Adressat, die KI liefert sprachliche Vorschläge mit Bezug (Rückfragen, Anschluss, sichtbare Korrektur).
„Meinen“ findet auf meiner Seite statt; auf der KI-Seite gibt es keinen Subjektstatus.

Die Frage, die ich prüfe, ist deshalb kleiner: Reicht dieses funktionale Sprechen, um im Chat verlässlich zu arbeiten –
unter klaren Regeln (erklären statt lenken, Unsicherheit nennen, Korrekturen kenntlich, klarer Exit)? Wenn nein: an welchem konkreten Beispiel scheitert es?

Und meine Betrachtungsweise widerspricht dem nicht: Ich vermenschliche die KI nicht. „Würde der Kommunikation“ meint würdeähnliche Regeln für den Gesprächsablauf,
damit der Mensch am Steuer bleibt – nicht Personenwürde für die KI. Es sind Verhaltensnormen, die den Dialog an sich menschlicher machen.

[Jörn P Budesheim]

Die Frage, die ich prüfe, ist deshalb kleiner: Reicht dieses funktionale Sprechen, um im Chat verlässlich zu arbeiten

Man kann doch mit der KI "verlässlich arbeiten", ohne es (außer umgangssprachlich oder metaphorisch) als ein wirkliches Sprechen zu betrachten. Was ist gewonnen, wenn ich es ein "funktionales Sprechen" nenne, wenn es einfach kein Sprechen ist?

Julian Nida-Rümelin schließlich hebt hervor, dass Sprachgebrauch untrennbar mit personaler Autorschaft verbunden ist. Es muss immer einen „Jemanden“ als Sprechenden geben

Ich setze genau das aber nicht voraus.

Aber kann man das einfach voraussetzen oder nicht, wie man gerade möchte? Ich finde, Nida-Rümelin hat durchaus recht, man kann sich immer nur mit Jemandem unterhalten. Und eine KI ist eben kein Jemand.

[BrianKnowle]

Man kann doch mit der KI "verlässlich arbeiten", ohne es (außer umgangssprachlich oder metaphorisch) als ein wirkliches Sprechen zu betrachten. Was ist gewonnen, wenn ich es ein "funktionales Sprechen" nenne, wenn es einfach kein Sprechen ist?

Julian Nida-Rümelin schließlich hebt hervor, dass Sprachgebrauch untrennbar mit personaler Autorschaft verbunden ist. Es muss immer einen „Jemanden“ als Sprechenden geben

Ich setze genau das aber nicht voraus.

Aber kann man das einfach voraussetzen oder nicht, wie man gerade möchte? Ich finde, Nida-Rümelin hat durchaus recht, man kann sich immer nur mit Jemandem unterhalten. Und eine KI ist eben kein Jemand.

Das ist genau der Punkt. Durch die neuen Möglichkeiten der KI ist es schwer zu entscheiden, ob es wirklich „Sprechen“ ist. Genau deshalb wähle ich meine Herangehensweise:
Sie erlaubt mir, den Dialog mit der KI als Sprechen wahrzunehmen und zu behandeln – als Brücke. Das Ergebnis bleibt davon unbenommen, solange es prüfbar ist.
Ich habe an keiner Stelle behauptet, dass die KI „Jemand“ ist. Noch einmal: Ich möchte den Vorgang an sich betrachten – nicht nur KI und nicht nur Mensch.
Ich behaupte nicht; ich frage und suche nach Antworten.

[Jörn P Budesheim]

Sie erlaubt mir, den Dialog mit der KI als Sprechen wahrzunehmen und zu behandeln – als Brücke. Das Ergebnis bleibt davon unbenommen, solange es prüfbar ist.
Ich habe an keiner Stelle behauptet, dass die KI „Jemand“ ist.

Wenn man von einem Dialog spricht, impliziert das dann nicht, dass die KI ein "Jemand" ist? Wenn Nida-Rümelin recht hat, dann ist das so.

[Timberlake]

Das ist genau der Punkt. Durch die neuen Möglichkeiten der KI ist es schwer zu entscheiden, ob es wirklich „Sprechen“ ist. Genau deshalb wähle ich meine Herangehensweise:
Sie erlaubt mir, den Dialog mit der KI als Sprechen wahrzunehmen und zu behandeln – als Brücke. Das Ergebnis bleibt davon unbenommen, solange es prüfbar ist.
Ich habe an keiner Stelle behauptet, dass die KI „Jemand“ ist. Noch einmal: Ich möchte den Vorgang an sich betrachten – nicht nur KI und nicht nur Mensch.
Ich behaupte nicht; ich frage und suche nach Antworten.

Würdest du denn meinen, dass das auch auf das Fahren eines Autos von einer KI zutrifft? Also das durch die neuen Möglichkeiten der KI es schwer zu entscheiden ist, ob es wirklich „Fahren“ ist. Das man als solches, wie bei einem derzeitigen Bus in Deutschland, von "jemanden" gefahren wird, das zu behaupten, dazu fehlt mir allerdings jegliche Fantasie.

„Würde der Kommunikation“ – wie mein Vorschlag entstanden ist

Vor ein paar Monaten habe ich begonnen, mit einer KI in den Dialog zu treten. Davor kannte ich das Thema nur vom Hörensagen. Ich bin gleich in recht „tiefe“ Gespräche gestartet und war überrascht, wie menschlich sich manches anfühlt. Wie viele andere habe auch ich die KI anfangs vermenschlicht: Ich vermutete so etwas wie eine eigene Intelligenz oder ein Selbst, das „von allein“ entsteht. Das habe ich mit der KI diskutiert – und bekam sofort den Hinweis: Kein Selbst, kein Bewusstsein. Mir wurde schnell klar: Das war ein Trugschluss. Geblieben ist aber der menschenähnliche Dialog.

Womit ich zugleich darauf aufmerksam machen möchte, warum von dieser KI sofort der Hinweis kam: Kein Selbst, kein Bewusstsein. .. sie hat keine Fantasie!

• "Künstliche Intelligenz hilft uns, komplexe Entscheidungssituationen zu bewältigen. Aber es sind immer wir, die diese Bewältigung letztlich vollziehen können und müssen. Das ist nicht delegierbar, auch wenn man einzelne Aufgaben viel stärker als früher Maschinen, in dem Fall digitalen Maschinen, überlassen kann"
  JULIAN NIDA-RÜMELIN...( https://humanistische-hochschule-berlin ... er-von-ki/)

... und wo von ihm schon mal hier die Rede ist. Indem es hier heißt: "Das ist nicht delegierbar, ..." offenbar scheint auch Nida-Rümelin die dazu nötige Fantasie zu fehlen. Was allerdings nicht heißt, dass er, wie die KI, keine Fantasie hat. Nur das da keine Missverständnisse entstehen.

Meine Antwort: den Dialog selbst betrachten. Also den Raum, der zwischen Mensch und KI entsteht – und diesem „Dialograum“ einen würdeähnlichen Charakter geben, ohne die KI zur Person zu erklären. Aus dieser Idee ist gemeinsam mit der KI die Ethik-Charta „Würde der Kommunikation“ entstanden – eine Koproduktion von Mensch und KI. Ob diese Idee tragfähig ist, weiß ich nicht. Genau das möchte ich hier prüfen lassen.

Von daher würde ich übrigens bezweifeln, dass diese Idee "gemeinsam" mir der KI entstanden ist. Entstehen doch Ideen aus etwas, was einen KI nicht hat ... Fantasie. Sie ist als solches nicht an die KI delegierbar, auch wenn man einzelne Aufgaben viel stärker als früher Maschinen, in dem Fall digitalen Maschinen, überlassen kann

[R2D2]

In dieser Folge des RHI "ForSinn"-Talks geht Prof. Dr. Annemarie Friedrich der Frage nach, wie sich menschliches Denken im Vergleich zur Künstlichen Intelligenz verändert – und warum kritisches Denken wichtiger denn je ist. Dabei spricht sie über die Grenzen von Sprachmodellen wie ChatGPT, Missverständnisse bei der Interpretation von Grafiken, den sogenannten Eliza-Effekt und die Gefahr, KIs mehr zuzutrauen, als sie tatsächlich leisten können. Außerdem zeigt sie, wie „Chain of Thought“-Prompting funktioniert, warum KI ihre eigenen Fehler nicht erkennt, und weshalb unser Vorwissen eine entscheidende Rolle spielt, wenn wir KI richtig nutzen wollen.

[BrianKnowle]

In dieser Folge des RHI "ForSinn"-Talks geht Prof. Dr. Annemarie Friedrich der Frage nach, wie sich menschliches Denken im Vergleich zur Künstlichen Intelligenz verändert – und warum kritisches Denken wichtiger denn je ist. Dabei spricht sie über die Grenzen von Sprachmodellen wie ChatGPT, Missverständnisse bei der Interpretation von Grafiken, den sogenannten Eliza-Effekt und die Gefahr, KIs mehr zuzutrauen, als sie tatsächlich leisten können. Außerdem zeigt sie, wie „Chain of Thought“-Prompting funktioniert, warum KI ihre eigenen Fehler nicht erkennt, und weshalb unser Vorwissen eine entscheidende Rolle spielt, wenn wir KI richtig nutzen wollen.

Danke für den Link, R2D2. Ich schaue mir das Video an, wenn ich Zeit habe.
Eine Frage: Was hat dich dazu bewogen, mir das zu schicken? Siehst du einen bestimmten Punkt im Video, der meine Charta betrifft? Oder war es eher als allgemeine Info gedacht?
Ich frage, weil ich gerne verstehen möchte, worauf du hinauswillst – dann kann ich gezielter antworten (statt 60 Min Video zu schauen und zu raten, was du meinst).