Wissenschaftler: Computer werden niemals denken können

[Jörn Budesheim]

Intelligenz ist intel-legere, ein Dazwischenlesen, eine Unterscheidung. Intelligenz ist eine Tätigkeit des Unterscheidens innerhalb eines Systems. Intelligenz kann kein neues System, keine neue Sprache entwickeln. Der Geist ist etwas ganz anderes als Intelligenz. Ich glaube nicht , dass ein sehr intelligenter Computer den menschlichen Geist kopieren könnte. Man kann eine total intelligente Maschine entwerfen, aber die Maschine wird nie eine neue Sprache, etwas ganz anderes erfinden, das glaube ich nicht. Eine Maschine hat keinen Geist. Keine Maschine kann mehr hervorbringen, als sie aufgenommen hat. Gerade darin besteht das Wunder des Lebens, dass es mehr hervorbringen kann, als es aufgenommen hat, und etwas ganz anderes hervorbringt, als das, was es aufgenommen hat. Das ist das Leben. Leben ist Geist. Darin unterscheidet es sich von der Maschine. Aber dieses Leben ist da bedroht, wo alles maschinell wird, wo alles von Algorithmen beherrscht wird. Der unsterbliche, maschinelle Mensch, der den Posthumanisten wie Ray Kurzweil vorschwebt, wird kein Mensch mehr sein. Vielleicht werden wir irgendwann mithilfe von Technik Unsterblichkeit erlangen können, dafür werden wir das Leben verlieren. Wir werden Unsterblichkeit erreichen um den Preis des Lebens.

Quelle: https://www.zeit.de/zeit-wissen/2014/05 ... ettansicht

[Jörn Budesheim]

Nick Cave: "Künstliche Intelligenz kann keine großartigen Songs schreiben"

Der Musiker erklärt, warum er allein dem Menschen die Fähigkeit zutraut, zutiefst bewegende Musik zu schaffen.

https://motherboard.vice.com/de/article ... etzen-wird

[szimmer]

Ich kann diesem Han ja zustimmen in dem was er so meint....aber vll. sollte er erstmal seine Sprache so weit differenzieren dass er zwischen wir man Menschheit und ich differenziert? Es kann vll. sein dass Computer irgendwann das Fortbestehen der Menschheit sichern oder es ohne sie nicht mehr geht...aber das Absterben meines ICH bzw. Bewusstsein jedes Einzelnen werden sie bestimmt nicht schaffen. In jedem gesunden Organismus sterben ständig Einzelne d.h. einzelne Zellen ab und Neue bilden sich...in einem Gesamtkonplex...Menschheit.. Also erstmal halblang Herr Han...survival of the fittest oder Fortbestehen der Menschheit ist noch lange keine Unsterblichkeit meines Ichs, Geistes oder gar "meiner" Seele! Klar?

[TsukiHana]

Nick Cave: "Künstliche Intelligenz kann keine großartigen Songs schreiben"

Der Musiker erklärt, warum er allein dem Menschen die Fähigkeit zutraut, zutiefst bewegende Musik zu schaffen.

Die Begründung, die Nick Cave liefert, überzeugt mich durchaus, da sie etwa das anspricht, was ich meine.
Bisher konnte ich mich ja immer davor drücken mein NEIN begründen zu müssen, da mir die ganze KI-Debatte etwas abging....

Ein großartiger Song lässt uns auch Ehrfurcht fühlen. Und das hat einen Grund. Das Gefühl von Ehrfurcht entsteht durch die Grenzen, die wir als menschliche Wesen spüren. Es entsteht durch unseren Mut, über unser Potenzial hinauszuwachsen.

Es ist durchaus denkbar, dass eine KI einen Song produziert, der so gut ist wie beispielsweise "Smells Like Teen Spirit" von Nirvana. Einen Song, der alle Anforderung erfüllt, ein bestimmtes Gefühl hervorzurufen, in diesem Fall, dass wir uns aufgeregt und rebellisch fühlen. Gut möglich, dass eine KI sogar einen Song produziert, der uns diese Gefühle noch intensiver fühlen lässt, als es ein menschlicher Songwriter jemals könnte.

Doch wenn wir "Smells Like Teen Spirit" hören, hören wir meiner Meinung nach mehr als nur den Song. Wir hören auch die Geschichte eines verschlossenen, entfremdeten, jungen Mannes aus der US-amerikanischen Kleinstadt Aberdeen. Ein junger Mann, der im Grunde ein wandelndes Wrack und der Inbegriff menschlicher Unzulänglichkeit war. Ein junger Mann, der dreist genug war, seinen persönlichen Schmerz in ein Mikrofon zu schreien, und somit die Herzen einer ganzen Generation berührte.
Wir hören auch, wie Iggy Pop über die Hände seines Publikums läuft und sich mit Erdnussbutter beschmiert, wenn wir "1970" anhören. Wir hören, wie der fast taube Beethoven die 9. Symphonie komponiert. Wir hören, wie Prince alle verblüfft, als er beim Super Bowl "Purple Rain" singt, selbst ein Haufen lilafarbener Atome im strömenden Regen. Wir hören, wie Nina Simone ihre ganze Wut und Enttäuschung in das zärtlichste aller Liebeslieder steckt. Wir hören, wie Paganini seine Stradivari einfach weiterspielt, nachdem eine Saite gerissen ist. Wir hören zu, wie Jimi Hendrix niederkniet und seine Gitarre anzündet.

Denn was wir in diesen Liedern eigentlich hören, ist die menschliche Begrenztheit und der Mut, sie zu überschreiten. Musik kann die Himmelssphäre mit den Fingerspitzen berühren. Die Ehrfurcht und das Staunen, das wir fühlen, entsteht nicht nur durch den fertigen Song, sondern durch die Kühnheit, überhaupt die Hand auszustrecken. Das ist Transzendenz.

Künstliche Intelligenz mit ihrem grenzenlosen Potenzial kann das nicht leisten.

Nick Cave nennt hier zwei Merkmale, die für mich einen wesentlichen Unterschied zwischen dem Künstler und einem Computer ausmachen:
die Ehrfurcht und das Staunen.
Was hier hauptsächlich auf die Musik bezogen wird, lässt sich durchaus auf andere Künste erweitern. Nicht viel anders dürfte es sich beispielsweise bei den bildenden Künsten, oder bei der Lyrik verhalten. Die Grenzen werden doch jetzt schon deutlich sichtbar, wenn Übersetzungsprogramme lyrische Texte verunstalten und verhackstücken. Dabei werden hier die grundsätzlichen Probleme bei Übersetzungen noch gar nicht berührt.
Ich bezweifle stark, dass hier die geistige Leistung des Menschen überhaupt ersetzt werden kann.

[Jörn Budesheim]

[Jörn Budesheim]

Emerson Pugh: »Wenn das Hirn so einfach wäre, dass wir es verstehen könnten, dann wären wir so einfach, daß wir es nicht könnten.«

[Alethos]

Nehmen wir doch einmal an, es wäre möglich, ein KI-System zu entwickeln, das aus sich selbst heraus, also selbstwirksam, Komplexität erschaffen kann. Nehmen wir an, es entwickelte eine Art von Geist, nicht eine mindere oder scheinbare Art, sondern eine ganz andere Art: Wäre dieses System nicht in einem gleichberechtigten Sinn ein Denkendes? Und, wenn es denkt, vielleicht auch über sich selbst, ist es mit der Zeit nicht vielleicht sogar ein empfindsames, ja gar empathisches?

Ich frage, weil mir nie recht einleuchten will, warum wir die menschliche Art des Tuns (verstehen, denken, fühlen etc.) zum Massstab erklären, um festzustellen, dass niemals etwas anderes als Menschen diesem Massstab gerecht werden können. Es gibt aber kein menschliches Monopol auf dem Begriff des Denkens, des Fühlens und des Verstehens.

[Jörn Budesheim]

Von John McDowell gibt es eine wunderbare Formulierung, die ich nur aus der Erinnerung und ich hoffe einigermaßen korrekt zitieren kann: "Ingrimm darüber, dass das was wir tun, das ist, was wir tun, ist unbegründet". Das finde ich auch.

Nichtsdestotrotz möchte ich die Fähigkeit zu denken, keineswegs an den Homo sapiens binden. Viele der anderen Tiere können vermutlich auch denken. Und falls es Aliens geben sollte, warum sollten Sie nicht eben so denken? Damit habe ich kein Problem.

Ich hatte vor langer Zeit mal ein Gespräch darüber mit einem Freund, der Informatiklehrer war. Der hatte die Vermutung, dass die Maschinen deshalb nicht denken können, weil sie kein Leben führen. Bei einem anderen KI Forscher habe ich gelesen, solange die Maschinen keinen Sex haben, werden sie auch nicht denken können. Wenn die Maschinen jedoch irgendwann Sex haben und ein Leben führen, dann dürfte es sich bei ihnen nicht mehr um Maschinen handeln.

Der Punkt dabei ist meines Erachtens der Folgende und das trifft sich auch mit den Ansichten von Koch und Tononi, soweit ich sehe: nur biologische Wesen können denken. (Ich glaube von Searle stammt der passende Slogan: matter matters.) Es geht also Wesen, denen Freud und Leid bekannt ist. Wesen, die geboren werden und sterben. Wesen, denen es, bei dem, was sie tun und denken um etwas geht, nämlich um sich selbst und ihresgleichen.

An dieser Stelle treffen wir uns übrigens auch mit der Frage nach der Philosophie. den Ausdruck "Liebe zur Weisheit" interpretiere ich so: wir sind die Sterblichen, das heißt endliche Wesen, die die Weisheit nie zur Gänze haben, sondern sie nur lieben. Götter, so ist sie denn gäbe, müssten nie denken :)

[Alethos]

...dass die Maschinen deshalb nicht denken können, weil sie kein Leben führen. Bei einem anderen KI Forscher habe ich gelesen, solange die Maschinen keinen Sex haben, werden sie auch nicht denken können. Wenn die Maschinen jedoch irgendwann Sex haben und ein Leben führen, dann dürfte es sich bei ihnen nicht mehr um Maschinen handeln.

Der Punkt dabei ist meines Erachtens der Folgende und das trifft sich auch mit den Ansichten von Koch und Tononi, soweit ich sehe: nur biologische Wesen können denken.

Von Tononi stammt doch das Konzept der Quantifizierbarkeit von Bewusstsein. Der Wert für den Grad an Bewusstsein ist dabei Phi. Und ich meine, dass ich bei Chalmers über Tononi und seine Bewusstseinsquantifizierung gehört habe, dass der Wert nie 0 sein kann. Auch Moleküle, ja auch Photonen hätten einen Phi-Wert >0. Das ist reinster Panpsychismus, aber auf der Grundlage des Konzepts von Bewusstsein als Fähigkeit des Habens von Selbstinformation ist es nicht abwegig zu denken, dass sich auch Atome 'irgendwie' bewusst sind.

Extrapoliert auf komplexere, nicht-lebendige Systeme, läge es im Bereich des Plausiblen der Ansicht zu sein, dass auch diese Systeme denken können. Dass diese 'toten' Systeme kein Leben haben oder keinen Sex, das würde sie nur vom Haben der Denkfähigkeit, wie sie eben Sex habende Systeme kennen, ausschliessen. Es würde nicht ausschliessen, sie als denkende, in verschiedenen Graden Selbstbewusstsein habende Entitäten zu betrachten.

[Jörn Budesheim]

Consciousness: Here, There but Not Everywhere
Giulio Tononi, Christof Koch
(Submitted on 27 May 2014)

The theory vindicates some panpsychist intuitions - consciousness is an intrinsic, fundamental property, is graded, is common among biological organisms, and even some very simple systems have some. However, unlike panpsychism, IIT implies that not everything is conscious, for example group of individuals or feed forward networks. In sharp contrast with widespread functionalist beliefs, IIT implies that digital computers, even if their behavior were to be functionally equivalent to ours, and even if they were to run faithful simulations of the human brain, would experience next to nothing.

Die Theorie rechtfertigt einige panpsychistische Intuitionen - das Bewusstsein ist eine intrinsische, grundlegende Eigenschaft, ist abgestuft, ist unter biologischen Organismen verbreitet, und selbst einige sehr einfache Systeme haben einige. Im Gegensatz zum Panpsychismus bedeutet das IIT jedoch, dass nicht alles bewusst ist, zum Beispiel eine Gruppe von Individuen oder Feedforward-Netzwerke. Im Gegensatz zu weit verbreiteten funktionalistischen Überzeugungen impliziert das IIT, dass digitale Computer, selbst wenn ihr Verhalten funktional gleichwertig zu unserem wäre und sie treue Simulationen des menschlichen Gehirns durchführen würden, fast nichts erleben würden.

Selbst Computer, die sich so verhalten würden wie wir, wären nach Ansicht der beiden Wissenschaftler also praktisch nicht bewusst. "Next to nothing" reicht sicherlich nicht hin um zu sagen, dass jemand ein bewusstes Leben führt, in dem es ihm selbst um etwas geht, nämlich um sich und seinesgleichen. Das ist sicher zu wenig, um ein Gefühl dafür zu haben, dass etwas bedeutsam ist.

Denken ist begrenzt auf höher stehende komplexe biologische Systeme.

[Jörn Budesheim]

Es gibt dazu dieses anschaulich Gedankenexperiment, dass ich hier ganz frei wieder gebe, wo ein Roboter in einer Scheune steht, die brennt und zusammenzubrechen droht. Während er rechnet und rechnet und gerade rechnet, ob seine Flucht eine Auswirkung auf den Reispreis in China hätte, vergräbt ihn die Scheune unter sich :)

[Jörn Budesheim]

Von Tononi stammt doch das Konzept der Quantifizierbarkeit von Bewusstsein.

Hmmm... Ich verstehe es eher so, dass es ein Maß für die Komplexität des Systems gibt. (Aber ich kann mich da natürlich irren.)

[Alethos]

Es gibt dazu dieses anschaulich Gedankenexperiment, dass ich hier ganz frei wieder gebe, wo ein Roboter in einer Scheune steht, die brennt und zusammenzubrechen droht. Während er rechnet und rechnet und gerade rechnet, ob seine Flucht eine Auswirkung auf den Reispreis in China hätte, vergräbt ihn die Scheune unter sich

Ja, das mag schon so erscheinen, dass der der rechnende Roboter kein Bewusstsein hat, weil er nicht so handelt, wie er sollte. Aber nur unter der pragmatistischen Prämisse, dass er überhaupt so und so auf die Welt reagieren muss, weil er überleben will, kann man ihm Bewusstsein absprechen. Aber abgenommen, er müsste gar nicht überleben wollen? Angenommen, er würde feststellen: "Es brennt!" und "Roboter wird kaputtgehen!', würden wir dann nicht sagen, er habe immerhin etwas festgestellt, das wahr ist?

[Jörn Budesheim]

Meines Erachtens nicht, so wenig wie das Telefonbuch feststellt, welches meine Nummer ist.

[Jörn Budesheim]

Aber nur unter der pragmatistischen Prämisse, dass er überhaupt so und so auf die Welt reagieren muss, weil er überleben will, kann man ihm Bewusstsein absprechen.

Ich habe diese Prämisse jetzt nicht eigens genannt, weil ich dachte es wäre klar. Er hat keins. Und weil er keins hat, erkennt er auch nicht, was wichtig ist. Das ist im Übrigen nicht nur ein abstraktes Argument. Menschen, denen durch einen Unfall "das Gefühlsleben abhanden kommt" oder eingeschränkt ist, können in der Regel nur noch schwer oder gar nicht mehr konkrete Entscheidungen treffen.

[Alethos]

Meines Erachtens nicht, so wenig wie das Telefonbuch feststellt, welches meine Nummer ist.

Ich denke, du siehst eine logische Unmöglichkeit, dass ein Computer jemals wissen kann. Ich weiss nur nicht, ob das eine mathematische oder begriffliche Logik ist.

Was ich weiss, ist, dass wir in den letzten 30 Jahren eine schnellere technische Entwicklung hatten als in den 2 Mio.Jahren zuvor. Kaum vorstellbar, dass es in den nächsten 100 Jahren unmöglich sein soll, künstliche Intelligenz zu erschaffen, die diesen Namen auch verdient

[Jörn Budesheim]

Aber vielleicht ist das ein Satz wie dieser hier: wir haben eine rasante technologische Entwicklung, warum also sollte es nicht möglich sein, schon in den nächsten zehn Jahren viereckige Kreise zu schaffen!?

Denkende Computer halte ich für eine begriffliche Unmöglichkeit.

Da jedoch auf diesem Planeten bereits einmal künstliche Intelligenz entstanden ist, z.b. wir selbst, ist es also möglich, dass es nochmals passiert. Denn was wirklich, ist möglich. Dass wir dabei unsere Finger im Spiel haben, in welcher Weise auch immer, kann sicher nicht ausgeschlossen werden.

Aber: Nach meinem Informationsstand, wissen wir (naturwissenschaftlich) heute immer noch nicht genau, was Leben ist. (Das habe ich vor kurzem in einem Interview mit Harald Lesch gehört.) Die Evolution des Lebens brauchte (soweit man weiß) mehrere Milliarden Jahre. Bei einigen Hirnforschung habe ich gelesen, dass sie der Ansicht sind, dass unser Gehirn eines der kompliziertesten Phänomene des gesamten Universums ist. (Von unserer Sozialität mal ganz abgesehen!)

Daher teile ich deinen technologischen Optimismus nicht wirklich.

[Jörn Budesheim]

Es gibt auch Argumentationen, die sich auf das sogenannte Halte-Problem, das Alan Turing entdeckt hat, beziehen, die hier eine Schranke für die entsprechende Entwicklung der Computer hin zur Intelligenz sehen. Leider kann ich das nicht wiedergeben, dazu fehlt mir die "informatische Intelligenz" :) da könnte vielleicht Google helfen ...

[Alethos]

Aber vielleicht ist das ein Satz wie dieser hier: wir haben eine rasante technologische Entwicklung, warum also sollte es nicht möglich sein, schon in den nächsten zehn Jahren viereckige Kreise zu schaffen!?

Denkende Computer halte ich für eine begriffliche Unmöglichkeit.

Das hatte ich mir schon gedacht. Auch 300 Mrd. Jahre werden nicht ausreichen, eine ewige Wahrheit umzustossen Nie wird ein Dreieck ein Viereck sein.

Nur plädiere ich ja nicht dafür, dass wir das Unmögliche möglich machen, sondern das Mögliche denkbar halten. Und es ist möglich, die Fähigkeit zu denken begrifflich als geometrische Figur einzuordnen und nicht als eine bestimmte Figur wie z.B. Drei- oder Vierecke.

Du magst vielleicht einwenden, was es denn bringen solle, die Kriterien so weit auszudehnen, dass Beliebiges darunter fällt. Aber andernorts, im Thread 'Was ist Philosophie?', haben wir doch kurz über die 'Denkbarkeit der Welt' gesprochen.
Wenn, wie du es m.M.n. richtig sagst, die Welt logisch strukturiert ist, sie sich also durch ihre logische Form als denkbar ausweist, dann dürfte es so sein, dass die Denkbarkeit selbst in dieser Wirklichkeitsstruktur angelegt ist. Denn Denkbarkeit bedeutet ja nichts anderes als die Möglichkeit, gedacht zu werden, und sie ist nicht gebunden an die tatsächliche Tätigkeit des Denkens. Die Denkmöglichkeit besteht also unabhängig von denkenden Lebewesen, wenn es denn stimmt, was wir voraussetzen.

Wenn es aber so ist, dass das Denken prinzipiell möglich ist, ohne dass es stattfindet, weil das, was potenziell gedacht werden kann, durch sich selbst ist, d.h. auch dann existiert, wenn es nicht durch jemanden gedacht ist, dann muss ja der Inhalt eines (wahren) Gedankens schon da sein, bevor er durch jemanden gedacht wurde. Der Inhalt eines wahren Gedankens ist demnach Wirklichkeit, die ist, unabhängig von einem Gedachtwerden durch ein lebendig Denkendes. Dann aber ist der Inhalt eines Gedankens auch ohne Gedanken von jemandem existent, er ist sozusagen ein Gedanke, der sich denken liesse, aber nicht gedacht werden muss, um zu sein. Eine seltsame Doppelrolle zwischen Gedankensein und Nichtgedachtem.

Denken ist doch aber eine Verarbeitung in welcher Form auch immer von Gedankeninhalten. Denken heisst doch, dass da begriffliche Strukturen in einen Zusammenhang gebracht werden, auch, dass aus diesen Zusammenhängen neue Zusammenhänge sichtbar werden und nur ein Denken, dass dieser Struktur der Wirklichkeit entlang stattfindet, erkennt Wahrheit.
Es ist nun aber nicht ersichtlich, warum es so sein sollte, dass dieses in Zusammenhang Bringen von schon in der Wirklichkeit selbst in Zusammenhang stehenden, logisch strukturierten Zusammenhängen eines Bewusstseins bedarf. Es braucht kein Ich (auch keine Beine und kein Sexhaben, kein Bauchgefühl und auch kein Mitgefühl), um die Wahrheit der Welt zu denken. Denn erstens ist sie schon da, auch ohne, dass sie gedacht würde. Und zweitens kann sie gedacht werden durch Erkennen ihrer in der oben beschriebenen Form des Herstellens von Zusammenhängen.

Es braucht meines Erachtens auch keinen Willen, keine Bedürfnisse oder keine Gefühle, damit das Denken sich entfalten kann, es reicht ein teleologisches Grundmoment: 'Erfassen von Information x' oder 'Erreichen von Zustand y'. Ein solches durch Algorithmen gesetztes Ziel gibt die Anleitung, bei der Entwicklung eines Gedanken entlang der semantischen Struktur (rein mechanistisch) zu verfahren und das zu leisten, was Denken im Grunde eben auch ist: Ein Strukturieren von Information.

So verstanden, ist Denken ein Figurenzeichnen, ist sie Geometrie, also ein Zeichnen von Dreiecken und Vierecken und Kreisen und Polygonen und Linien usw., aber unter diesem Aspekt betrachtet wäre es nun doch nicht korrekt zu sagen, dass das Dreieckzeichnen Geometrie beinhalte und das Kreise-Zeichnen nicht?

[Jörn Budesheim]

Da kommen wir nicht zusammen, denken können nur Lebewesen und keine Tische, Hämmer, Fernseher oder Apps. Daraus, dass die Welt möglicherweise denkbar ist, folgt ja nicht, dass sie von jedem und allem denkbar ist.

Wer etwas denkt, weiß auch, dass er etwas denkt und das heißt, er ist bewusst sowie selbstbewusst. Das können Apps simulieren, weil wir ihnen diese Denkmodelle einprogrammiert haben, aber eine Simulation ist nicht das Original. Solange sie nicht bewusst sind, können sie also nicht denken und nach allem was wir wissen, ist Bewusstsein gekoppelt an einen biologischen Körper.