Test von ChatGPT

[Jörn Budesheim]

So ein leckerer Apfel müsste dann aber ohne Innenleben sein, dürfte nicht fühlen wie es ist, wenn ein Stück aus ihm herausgebissen wird.

Das wäre ein Einwand, wenn Koch nach dem Grundsatz handeln würde, nichts zu essen, was ein Innenleben hat. Dazu müsste er aber vorerst seinen eigenen Tod in Kauf nehmen. Man kann Kochs Veganismus aber auch anders rekonstruieren. Er selbst spricht von einer modernen Version der "Stufenleiter der Natur". Denn der Wert von Phi kann kleiner oder größer sein. Sicher, alle Arten können leiden. Aber wohl nicht alle gleich stark: Fliegen sind deutlich weniger komplex als Schweine, sie dürften also nicht in derselben Intensität Schmerz empfinden. Dies kann man bei der eigenen Ernährung berücksichtigen und sich so ernähren, dass man möglichst wenig Leid in die Welt bringt.

[ahasver]

So ein leckerer Apfel müsste dann aber ohne Innenleben sein, dürfte nicht fühlen wie es ist, wenn ein Stück aus ihm herausgebissen wird.

Das wäre ein Einwand, wenn Koch nach dem Grundsatz handeln würde, nichts zu essen, was ein Innenleben hat. Dazu müsste er aber vorerst seinen eigenen Tod in Kauf nehmen. Man kann Kochs Veganismus aber auch anders rekonstruieren. Er selbst spricht von einer modernen Version der "Stufenleiter der Natur". Denn der Wert von Phi kann kleiner oder größer sein. Sicher, alle Arten können leiden. Aber wohl nicht alle gleich stark: Fliegen sind deutlich weniger komplex als Schweine, sie dürften also nicht in derselben Intensität Schmerz empfinden. Dies kann man bei der eigenen Ernährung berücksichtigen und sich so ernähren, dass man möglichst wenig Leid in die Welt bringt.

Wenn ich Koch richtig verstanden habe, soll nur die Komplexität der Erfahrung von der Größe von Phi abhängen, nicht aber die Intensität. Der Schmerz der Auster, die ich lebend zerbeisse, wäre dann, was die Intensität betrifft, meinen höchsten Schmerzen vergleichbar. Die Auster hat aber natürlich nicht die Empfindung "Oh ich fühle Schmerz". Sie ist reiner Schmerz.

[Jörn Budesheim]

Mein Text bezieht sich auf Abschnitte aus dem Buch von Koch "Bewusstsein, Warum es weit verbreitet ist, aber nicht digitalisiert werden kann"

[Lucian Wing]

So ein leckerer Apfel müsste dann aber ohne Innenleben sein, dürfte nicht fühlen wie es ist, wenn ein Stück aus ihm herausgebissen wird.

Das wäre ein Einwand, wenn Koch nach dem Grundsatz handeln würde, nichts zu essen, was ein Innenleben hat. Dazu müsste er aber vorerst seinen eigenen Tod in Kauf nehmen. Man kann Kochs Veganismus aber auch anders rekonstruieren. Er selbst spricht von einer modernen Version der "Stufenleiter der Natur". Denn der Wert von Phi kann kleiner oder größer sein. Sicher, alle Arten können leiden. Aber wohl nicht alle gleich stark: Fliegen sind deutlich weniger komplex als Schweine, sie dürften also nicht in derselben Intensität Schmerz empfinden. Dies kann man bei der eigenen Ernährung berücksichtigen und sich so ernähren, dass man möglichst wenig Leid in die Welt bringt.

Für die Buddhisten gilt ja die Gleichsetzung von Leben und Leiden. Wenn letztlich alles ein Bewusstsein in welcher Intensität auch immer hat wie in einem panpsychistischen Modell, dann läuft es letztendlich auf den Satz hinaus, dass es besser nichts gäbe als irgendetwas. Hier sei an Horstmanns "Das Untier" als Lösung erinnert, obwohl der nicht utilitaristisch unterwegs war.

[Jörn Budesheim]

Wofür (oder wogegen) möchtest du damit argumentieren?

[Jörn Budesheim]

Wenn letztlich alles ein Bewusstsein in welcher Intensität auch immer hat ...

Nach Ansicht von Koch hat NICHT alles ein Bewusstsein!

[ahasver]

Mein Text bezieht sich auf Abschnitte aus dem Buch von Koch "Bewusstsein, Warum es weit verbreitet ist, aber nicht digitalisiert werden kann"

Hab ich noch nicht gelesen. Interessieren würde mich Kochs Begründung warum B nicht digitalisiert werden kann. Immerhin hat er ja behauptet das Internet als Ganzes könne B entwickeln.

[Körper]

Interessieren würde mich Kochs Begründung warum B nicht digitalisiert werden kann. Immerhin hat er ja behauptet das Internet als Ganzes könne B entwickeln.

Das ist ganz einfach, du musst die Formulierung "integrierte In-Formation" nur wörtlich nehmen.
"Koch" hat die Vorstellung, dass die Formation, also die raumfüllende Struktur "das Ansammeln von Bewusstsein" darstellt.
Ein Simulieren der Struktur über eine Virtualität (z.B. künstliches neuronales Netz), die von einer CPU, also einer einfacheren räumlichen Struktur ausgeführt wird, kann in dieser "Koch-Phantasie" nicht zum Ansammeln von Bewusstsein führen (bzw. nur zu dem einer CPU, wie auch immer sich eine CPU anfühlen können soll )

Genau hierin liegt ja die Quelle für seine Zentrierung auf "das Gehirn fühlt sich nach etwas an".

Das ist aber exakt der Theoriefehler.

[Jörn Budesheim]

ps.: Bewußtsein ist IMHO physikalisch messbar. (sagte ich aber bereits) Hat nur noch keiner probiert.

Themen-Hopping 01

Das war der Ausgangspunkt dieser Sequenz. Dahin sind wir nicht zurückgekehrt. Du hast am Anfang gesagt, dass noch niemand versucht hat, das Bewusstsein zu messen. Ich meine, Koch und Tononi gehen in diese Richtung. Wenn man so will, kann man es die Suche nach einem Bewusstseinsdetektor nennen. Wie auch immer man dazu steht, ob der Weg, den sie gehen, gangbar ist: Sie versuchen es, nicht wahr?

[Jörn Budesheim]

Wenn ich Koch richtig verstanden habe, soll nur die Komplexität der Erfahrung von der Größe von Phi abhängen, nicht aber die Intensität. Der Schmerz der Auster, die ich lebend zerbeisse, wäre dann, was die Intensität betrifft, meinen höchsten Schmerzen vergleichbar. Die Auster hat aber natürlich nicht die Empfindung "Oh ich fühle Schmerz". Sie ist reiner Schmerz.

Die IIT kann Arten anhand ihres Bewusstseins quantitativ ordnen, eine moderne Version der „Stufenleiter der Natur“ oder Scala Naturae, wie die Altvorderen diese strenge Hierarchie nannten. Auf dem Boden stehend reichte diese Leiter von den Mineralien, Pflanzen und Tieren bis zum Menschen (vom Fußvolk bis zum König), ihm folgten die gefallenen Engel und die wahren Engel. Und ganz oben befand sich, natürlich, das höchste und vollkommenste Wesen, Gott. Die IIT-Stufenleiter wird durch die integrierte Information (Φmax) einer jeden Art definiert, ihre Irreduzibilität oder wie sehr sie für sich selbst existiert. Auf der untersten Sprosse dieser Leiter befinden sich Aggregate ohne Erleben, gefolgt von Quallen, Bienen, Mäusen, Hunden und Menschen. [...] Sie ist nach oben nicht begrenzt

Themen-Hopping 02
Wenn das nicht ausreicht, kann ich weitere Textpassagen posten, die meine Lesart des Textes untermauern.

(Ich schreibe das und den Beitrag zuvor, weil wir hier im Moment eine Art Themen-Hopping haben und zu keinem Ergebnis kommen.)

[Körper]

Weil weiter oben in Bezug auf die IIT auf die "Messung von Bewusstsein" verwiesen wurde, hier ein paar Infos dazu:

Grundsätzlich wird die "Idee der Messbarkeit", der mathematische Formalismus und das Ausrechnen von Phi von vielen Befürwortern als eine Stärke der IIT angeführt.

Um das Ausrechnen und den mathematischen Formalismus der IIT ist es aber wohl gar nicht so sonderlich gut bestellt.
Hier ein Video der Physikerin "Sabine Hossenfelder", die den mathematischen Aspekt und das Ausrechnen genauer anspricht:
Ab Minute 2:00 im Video geht es um das Ausrechnen über die IIT.
Hier sagt sie insbesondere, dass das Ausrechnen von Phi für ein Nervensystem, das aus 300 Neuronen besteht (-> Rundwurm C.elegans) schätzungsweise mehr als 10 Milliarden Jahre benötigen würde.
(ich habe versucht, diese Schätzung zu finden, es ist mir aber nicht gelungen - keine Ahnung woher sie das hat)

Die sogenannte "Stärke" der IIT entpuppt sich also vermutlich als reine Luftnummer - unbrauchbar.
Der Phi-Wert für eine Ameise wäre damit niemals zu bestimmen.
Der Phi-Wert für eine Maus wäre damit Utopie.
Der Phi-Wert für einen Menschen ist ausserhalb jeglicher Möglichkeit.

Man sollte also in nächster Zeit eher keinen "Bewusstseinsdetektor" auf Basis von fleissigen Phi-Berechnungen erwarten

[Jörn Budesheim]

ps.: Bewußtsein ist IMHO physikalisch messbar. (sagte ich aber bereits) Hat nur noch keiner probiert.

Ab Ende der 1940er-Jahre war ein aktiviertes EEG-Muster das sicherste Zeichen für ein bewusstes Individuum. Ein solches EEG zeichnet sich durch rasch fluktuierende Wellen niedriger Spannung aus, die asynchron, also nicht im Gleichtakt, über die gesamte Hirnoberfläche laufen. Wenn sich das EEG zu niedrigeren Frequenzen verschiebt, sinkt die Wahrscheinlichkeit, dass Bewusstsein präsent ist, und das Gehirn schläft, ist sediert oder geschädigt. Es gibt jedoch genügend Ausnahmen, sodass diese Regel nicht als genereller Indikator für das Vorhandensein oder Fehlen von Bewusstsein bei einem beliebigen Individuum angesehen werden kann. Daher haben sich Grundlagenforscher und Kliniker nach zuverlässigeren Messgrößen umgesehen ...

Mit anderen Worten, es gibt bereits seit Mitte des letzten Jahrhunderts Versuche, das Bewusstsein zu messen. Man kann also nicht sagen, dass es noch niemand versucht hat. ... Koch berichtet in dem Buch von einer anderen Methode, die im Zusammenhang mit diesen Forschungen entstanden ist, die Zap-and-Zip-Methode, die im Teststadium ist:


"Die Zap-and-Zip-Methode wird gerade auf katatonische und andere dissoziative psychiatrische Patienten, auf die rechte und die linke Hemisphäre von Split-Brain-Patienten, geriatrische Patienten im fortgeschrittenen Stadium der Demenz, pädiatrische Patienten mit kleinerem und unterentwickeltem Cortex und Versuchstiere wie Mäuse ausgedehnt. Ich bin so optimistisch, was diese Forschung angeht, dass ich mit dem schwedischen Journalisten und Wissenschaftsautor Per Snaprud eine öffentliche Wette eingegangen bin, der zufolge Kliniker und Neurowissenschaftler [bis Ende 2028] gut validierte Technologien zur Messung von Gehirnaktivität entwickeln werden, die mit einem hohen Grad an Zuverlässigkeit feststellen können, ob einzelne Probanden, wie narkotisierte und neurologische Patienten, in diesem Moment bewusst sind. [...]" Ein positives Merkmal der integrierten Informationstheorie ist die Fruchtbarkeit, mit der sie neue Ideen hervorbringt, wie der primitive, aber effektive Bewusstseinsdetektor, den ich gerade diskutiert habe.

Da scheint also einiges in Bewegung zu sein. Das ganze hat auch eine sehr große praktisch/ethische Relevanz. Z.b scheint es relativ häufig (in ca ein Promille der Fälle) Patienten zu geben, die trotz Narkose ihrer Operation "miterleben". Oder ein anderes Beispiel: "Für Familie und Freunde, die sich vielleicht jahrelang um ihre Angehörigen kümmern, kann das Wissen darum, ob „jemand zu Hause“ ist, einen dramatischen Unterschied machen."

[Jörn Budesheim]

[...]

»Man muss sich die Grenzen solcher KIs bewusst machen, denn davon gibt es genügend«, sagt Informatikprofessorin Enkelejda Kasneci. Zusammen mit mehr als 20 Wissenschaftlern und Wissenschaftlerinnen hat sie ein Paper veröffentlicht, dass sich mit den Potenzialen und Risiken von ChatGPT an Schulen und Hochschulen beschäftigt. Als Herausforderungen sehen sie etwa Datenschutz- und Sicherheitslücken, ungeregelte Urheberrechte, falsche Informationen – und dass sich alle Beteiligten zu sehr auf solche Modelle verlassen.

»Sowohl Lernende als auch Lehrende müssen begreifen: Das sind Automatisierungstools, keine menschlichen Intelligenzen«, sagt Kasneci. Kritisches Denken, Kreativität, Lernen zu lernen – all das könnten KI-Sprachmodelle wie ChatGPT nie ersetzen. Gerade deshalb müsse man solche Kompetenzen mit einem klaren pädagogischen Konzept besonders fördern.

[...]

Der baden-württembergische Gymnasiallehrer und Blogger Bob Blume hält schriftliche Arbeiten, die nicht unter direkter Aufsicht entstehen, für überholt: »Wir erleben eine Renaissance des Mündlichen.« Im Fachgespräch lasse sich dann doch schnell erkennen, ob eine Schülerin oder ein Schüler ein Thema wirklich durchdrungen habe.

[...]

Quelle, Spiegelplus: https://www.spiegel.de/start/chatgpt-an ... 9NcCvtlFcJ

[sybok]

»Sowohl Lernende als auch Lehrende müssen begreifen: Das sind Automatisierungstools, keine menschlichen Intelligenzen«,

Und warum soll denn das, in dem entsprechenden Kontext, wichtig sein? Mir ist doch letztlich für alle praktischen Zwecke so was von scheissegal, ob ein System "menschliche Intelligenz" besitzt, wenn es mir bisher unbewiesene Theoreme beweist, mit einem "goetheschen" Wortschatz Literatur am Fliessband raushaut und den Jahresabschluss eines globalen Konzern oder einen komplizierten Rechtsfall in ein paar Sekunden fertig bearbeitet hat.
Stellt sie sich vor, dass Jemand dann mal sagt: "Diese Software schreibt eine um Welten bessere Doktorarbeit als ich, aber leider, leider kann ich es nicht verwenden weil es keine 'menschliche Intelligenz' geschrieben hat."?
Mit solchen Sachen konzentrieren wir uns doch auf das Falsche, nicht? Damit beginnen wir einen Kampf, der sowieso verloren geht.

Der Hinweis auf das Mündliche find ich bemerkenswert, ein neuer Aspekt/Gedanke, das hatte ich bisher komplett nicht auf dem Schirm.

Naturwissenschaftler, die kreativ Neues schaffen (Newton, Einstein, Heisenberg...) können durch Programme, die auf herkömmlichen Rechnern laufen nicht ersetzt werden.

Wissenschaftler, Mathematiker, Künstler, Personen in sozialen Berufen, Manager,... witzigerweise denkt scheinbar jede Gruppe, genau sie könne nicht ersetzt werden. Ich für meinen Teil würde eher vermute, dass wir Systeme sehen werden, die universellere und stabilere Theorien herausrechnen als Wissenschafter, tiefer "sehen" als Mathematiker, innovativer als Künstler und umsichtiger und geduldiger als jede Pflegekraft sein werden.

Das könnte bei Rechnern denen nichtklassische devices (echte Zufallsgeneratoren) implementiert sind oder bei Quantenrechnern vielleicht anders aussehen.

Über Zufall müssen wir mal einen Thread machen. Mich hat das Video von Zeilinger nicht überzeugt.

[ahasver]

Das könnte bei Rechnern denen nichtklassische devices (echte Zufallsgeneratoren) implementiert sind oder bei Quantenrechnern vielleicht anders aussehen.

Über Zufall müssen wir mal einen Thread machen. Mich hat das Video von Zeilinger nicht überzeugt.

Es gibt erste seriöse Hinweise, dass das Gehirn verschränkte Quantenbits (Kernspin von Phosphoratomen) enthalten könnte. Die Forschungen dazu laufen noch......

[Jörn Budesheim]

Im Wettstreit um die beste Internet-Suchmaschine der Zukunft greift Microsoft den Marktführer Google an. Der US-Softwarekonzern will eine noch leistungsfähigere Variante des Textroboters ChatGPT in seine Suchmaschine Bing einbauen ...

https://www.tagesschau.de/wirtschaft/te ... e-101.html

[Eiwa]

Googles Antwort auf ChatGPT heißt »Bard«

https://www.spiegel.de/netzwelt/web/goo ... fb7dad509b

[Jörn Budesheim]

Das Imperium schlägt zurück.

[Jörn Budesheim]

"Der Chef des Herstellers OpenAI betont, dass man sich inhaltlich nicht auf ChatGPT verlassen sollte, die Ergebnisse wirkten nur beeindruckend." (FAZ)

https://www.faz.net/aktuell/wissen/chat ... 59139.html

[Eiwa]

Weniger beeindruckend läuft es bei "Bard":

https://www.tagesschau.de/wirtschaft/go ... d-101.html