Künstliche Intelligenz

[sybok]

Letztlich geht es auch in diesem Thread (unter der Hand) um die Frage, was ist der Mensch, darauf wurde auch schon hingewiesen.

Nicht unbedingt, zumindest nicht erzwungenermassen gleich auf einer metaphysischer Ebene. Mein persönlicher Eindruck: Dazu wird es unnötigerweise hochstilisiert, damit man...

Im Prinzip ist es eigentlich ein bisschen ein neo-magisches Ritual, ein bisschen Alchemie, der alte Traum von der Überwindung des Defizitären im Menschen durch Identifizierung mit der perfektionierten Schöpfung. Die Hoffnung, mit ihr würden die eigenen Schwächen und Unzulänglichkeiten überwunden. Wir werden sein wie unsere Geschöpfe.

Ein anderer Aspekt ist wohl die Angst vor der Freiheit. Da ist es dann "schön" und zugleich entlastend zu glauben, dass man im Grunde nur ein Programm abarbeitet.

... Weltbilder attackieren und den Gesprächspartner "küchentiefenpsychologisch" analysieren und abkanzeln kann.
Argumente, für Irgendwas, enthält sowas keine.

Man kann das nämlich auch genau so gut exakt umgekehrt sehen: Der Mensch wurde aus dem Zentrum verbannt, ist per Evolution sogar nur ein Tier wie alle anderen auch. Die letzte Bastion bleibt sein Bewusstsein, die Qualia, die Intelligenz. Das muss einfach ganz, ganz speziell dem Menschen zukommen, er muss ja irgendwie in diesem Universum ausgezeichnet sein. Ähnlich einem Golem ist er von Gott persönlich auf magische Weise beseelt und das ist nun mal nicht replizierbar.

[Jörn Budesheim]

Argumente, für Irgendwas, enthält sowas keine.

Das ist nicht richtig. Ich habe dafür argumentiert, indem ich mich auf die Wissenschaftsgeschichte und das entsprechende Bild des Menschen bezogen habe. Der Gedanke, dass der Mensch zu guten Teilen auch das wird, was er zu sein glaubt bzw. wozu er sich entwirft, ist zudem in vielen Philosophien das tragende Grundmotiv, zum Beispiel im Existenzialismus.

Man kann das nämlich auch genau so gut exakt umgekehrt sehen:

Was ist daran "umgekehrt"? Es ist (d)ein Selbstbild des Menschen. Es immunisiert sich, indem es folgenden Strohmann der angeblichen Gegenposition erfindet: "Ähnlich einem Golem ist er von Gott persönlich auf magische Weise beseelt". Gründe dafür hast du nicht angegeben im Übrigen.

[Körper]

Lieber eine Aufregung anzetteln, als die Umstände zu akzeptieren und die waghalsigen Behauptungen den körperlichen Gegebenheiten unterzuordnen.

Vermutlich haben viele Philosophen und philosophisch Begeisterte dieses Unterordnungsproblem – welche Motivation auch immer dahinter stecken mag.

[Lucian Wing]

Man kann das nämlich auch genau so gut exakt umgekehrt sehen: Der Mensch wurde aus dem Zentrum verbannt, ist per Evolution sogar nur ein Tier wie alle anderen auch.

Ich behaupte nichts anderes. Ich sage auch, dass wenn das Gehirn einer Maus vollständig simuliert werden kann, der entsprechende Apparat, also die KI, trotzdem keine Maus ist. Insofern ist das ...

Die letzte Bastion bleibt sein Bewusstsein, die Qualia, die Intelligenz. Das muss einfach ganz, ganz speziell dem Menschen zukommen, er muss ja irgendwie in diesem Universum ausgezeichnet sein. Ähnlich einem Golem ist er von Gott persönlich auf magische Weise beseelt und das ist nun mal nicht replizierbar.

... nicht meine Position. Jedes Tier ist anders, das menschliche hat halt ein paar andere Fähigkeiten wie ein Wal oder die Maus. Da ist nichts Magisches dran, das ist, wie es ist. Die KI ist trotzdem immer nur eine Simulation. Sie erlebt nichts.

Körper hat oben eine ganz gute Beschreibung geliefert in der Diskussion um die Gedanken. Rein funktional würde ich dem durchaus folgen, wie er es aufgedröselt hat. Allerdings bleibt es eben die Perspektive der dritten Person. Er unterschlägt die erste Person, auch die von NWDM erwähnte Metaperspektive.

Ich persönlich glaube einfach, auch wenn du das als Küchenpsychologie abtust, dass die Erwartungen an eine KI viel mehr über menschliche Vorstellungen vom Menschen verraten als über die Wirklichkeit menschlichen Lebens. Wer es im eigenen Zimmer aushält mit sich und der Menschheit, wird keine Träume von irgendwelchen transhumanistischen Wesen ohne meine und deine Macken haben. Aber da die meisten es nicht aushalten, haben wir eben solche Träume und Phantasien, und deshalb ist "Fortschritt" sowohl möglich als auch unvermeidlich. Wie ich schon sagte, bevor du hier eingestiegen bist: Mich interessiert ja weniger das Technische als das Ethische an der Sache.

[sybok]

Das ist nicht richtig. Ich habe dafür argumentiert, indem ich mich auf die Wissenschaftsgeschichte und das entsprechende Bild des Menschen bezogen habe.

Die Wissenschaftsgeschichte enthält aber viele Elemente, beispielsweise eben auch, dass wir uns, dem Erkenntnisprozess anpassend, kontinuierlich aus dem Zentrum, dem Speziellen, entfernen müssen. Und doch glauben wir immer weiter und weiter, wir seien irgendwo ausgezeichnet, sowas wie "von Gott geküsst":
Ist es nicht unser Planet im Zentrum, dann muss unsere Sonne speziell sein, wenn auch das nicht, dann müssen Sonnen mit Planetensystemen speziell sein, wenn auch das nicht, dann zumindest Planeten in der habitablen Zone, wenn auch das nicht, dann die Entstehung von Leben auf solchen Planeten.
Schach muss Intelligenz erfordern, wenn nicht, dann etwas so komplexes wie Auto fahren, wenn auch das nicht, dann Sprachverarbeitung, wenn auch das nicht, dann künstlerische Tätigkeit, wenn auch das nicht,...

Die Haltung, die Möglichkeit einer dem Menschen ebenbürtigen Maschine von vornherein abzulehnen, bei unserem winzigen Wissensstand (was ist Bewusstsein, was ist ein Gedanke, etc.), scheint sich mir in diese Tradition einzureihen.

Was ist daran "umgekehrt"? Es ist (d)ein Selbstbild des Menschen. Es immunisiert sich, indem es folgenden Strohmann der angeblichen Gegenposition erfindet: "Ähnlich einem Golem ist er von Gott persönlich auf magische Weise beseelt". Gründe dafür hast du nicht angegeben im Übrigen.

Mag ein Strohmann sein. Falls, dann aber nicht aus taktischen Gründen, sondern weil ich die Position nicht nachvollziehen kann. Denn diese Einwände die um Definitionen kreisen hören sich für mich nun mal stark nach der Golem-Metapher an. So, als würden wir über Tische sprechen und wie man sie baut, man sagt "wir brauchen Tischbeine" und dann kommt der Einwand "nur Menschen haben Beine, ergo kann es prinzipiell keine Tische geben". Es entsteht der Eindruck als seien das Nebelgranaten, denn eigentlich wissen ja alle worum es geht, nämlich dass die Tischplatte nicht auf dem Boden liegt (resp. die Maschine genauso gut Auto fährt, Schach spielt, philosophische Gespräche führt etc.), ob ich es nun "Bein" oder "Hokuspokusobjekt" nenne. Solche Definitionsfragen halte ich nicht für unwichtig, aber logische Argumente für oder gegen etwas sind das nicht. Es sind, ja, Definitionen halt.

Du hast von Werkzeugen geschrieben. Ich kann das irgendwo schon nachvollziehen, mir sagt beispielsweise dieser Silicon Valley - Transhumanismus ganz und gar nicht zu. Es ist auch nicht naiver Technik-Optimismus.
Sondern ich sehe das so: Beim Versuch eine dem Menschen ebenbürtige Maschine zu bauen, wird man wahrscheinlich viel lernen, einige Dinge werden sich mit Gewalt in den Weg stellen, "wie genau wird Bewusstsein erzeugt, was ist das überhaupt" beispielsweise vielleicht. Streitigkeiten über die Definition von Wörtern und a priori "Unmöglichkeitspostulate" bringen keinen Lerneffekt.

[AufDerSonne]

Letztlich geht es auch in diesem Thread (unter der Hand) um die Frage, was ist der Mensch, darauf wurde auch schon hingewiesen.

Man entlastet sich davon, Mensch zu sein. Und man hat gleichzeitig das Gefühl, damit auf der Höhe der Zeit zu sein.

Im Prinzip ist es eigentlich ein bisschen ein neo-magisches Ritual, ein bisschen Alchemie, der alte Traum von der Überwindung des Defizitären im Menschen durch Identifizierung mit der perfektionierten Schöpfung. Die Hoffnung, mit ihr würden die eigenen Schwächen und Unzulänglichkeiten überwunden. Wir werden sein wie unsere Geschöpfe.

Ja, das ist sicherlich ein wichtiger Punkt. Ein anderer Aspekt ist wohl die Angst vor der Freiheit. Da ist es dann "schön" und zugleich entlastend zu glauben, dass man im Grunde nur ein Programm abarbeitet.

Ihr habt schon recht. Aber so nahe an der Möglichkeit eine einigermaßen intelligente Maschine zu bauen, waren wir noch nie.
Ich glaube Leibniz hat eine recht gute mechanische Rechenmaschine gebaut, die addieren konnte oder so. Aber ein Computer kann dann schon ein bisschen mehr und vor allem schneller.
Und auch die Speicherkapazität hat enorm zugenommen. Man kann Unmengen an Daten speichern und aufbewahren. Und verarbeiten. Ja, also so ein bisschen eine andere Qualität, als bei frühen Maschinen sehe ich hier schon.

[sybok]

[Jedes Tier ist anders, das menschliche hat halt ein paar andere Fähigkeiten wie ein Wal oder die Maus. Da ist nichts Magisches dran, das ist, wie es ist. Die KI ist trotzdem immer nur eine Simulation. Sie erlebt nichts.

Ein paar Fragen um zu versuchen die Position nachzuvollziehen:
Dann erlebt die Maus und der Wal auch nichts? Sind ja auch keine Menschen. Und wenn sie doch was erleben, woher nimmst du das Wissen, dass diese was erleben und eine Maschine nicht? Was ist das knallharte Kriterium, mit dem du entscheidest? Weil sie Menschen gebaut haben? Wenn ich eine Maus klone, vielleicht sogar ihren ganzen genetischen Code umschreibe (mal angenommen das wäre technisch möglich), verliert sie dann ihr Innenleben weil sie von einem Mensch gebaut wurde? Oder hängt es an den Molekülen - Kohlenstoff, Zucker und Eiweisse können ein Innenleben entwickeln, Silizium und Eisen nicht? Für die Aussage "X hat kein Innenleben" braucht man doch ein Kriterium, ein Entscheidungsverfahren, andernfalls hat die Aussage einfach keine Grundlage.

Ich persönlich glaube einfach, auch wenn du das als Küchenpsychologie abtust, dass die Erwartungen an eine KI viel mehr über menschliche Vorstellungen vom Menschen verraten als über die Wirklichkeit menschlichen Lebens. Wer es im eigenen Zimmer aushält mit sich und der Menschheit, wird keine Träume von irgendwelchen transhumanistischen Wesen ohne meine und deine Macken haben. Aber da die meisten es nicht aushalten, haben wir eben solche Träume und Phantasien, und deshalb ist "Fortschritt" sowohl möglich als auch unvermeidlich.

Kann schon sein, dass etwa der Zeitgeist auf die Vorstellungen wirkt (Mechanik --> Biologie --> Computer) sehe ich schon auch. Aber es kann doch auch einfach eine philosophische und auch wissenschaftliche Neugierde sein, oder?

Wie ich schon sagte, bevor du hier eingestiegen bist: Mich interessiert ja weniger das Technische als das Ethische an der Sache.

Ah ja, das wollte ich eigentlich noch fragen, habe es aber vergessen:
In "eurer" Position gedacht, stimmt es, dass es prinzipiell keine ethische Überlegungen bedarf (also bezüglich der Maschine selbst, also sowas wie Haftungsfragen oder ähnliches mal aussen vor), ganz egal wie hochentwickelt die Maschine letztlich ist? Sklaverei a la Burkart ist - da sie ja per Definition nicht empfindungsfähig sind, Werkzeuge sind - völlig Ok?

[Körper]

Körper hat oben eine ganz gute Beschreibung geliefert in der Diskussion um die Gedanken. Rein funktional würde ich dem durchaus folgen, wie er es aufgedröselt hat. Allerdings bleibt es eben die Perspektive der dritten Person. Er unterschlägt die erste Person, auch die von NWDM erwähnte Metaperspektive.

Nein, da wird nichts unterschlagen.
Du sieht lediglich nicht, worauf es ankommt.
Die sogenannte "erste Person" ist die Perspektive des Körpers.

Das Nervensystem des Körpers wird beim Heranwachsen aus einer Zelle zuerst auf den Körper und seine Umstände/Details geprägt, danach ist der Körper über seine Sinne das Werkzeug, um die Umstände/Details von sich selbst in Bezug zu einer Umwelt zu erschliessen -> Interaktion/Bewegung.
Egal um welche Sinne es geht, die "erste Person" ist in der Situation des Körpers enthalten. Die "erste Person" ist der Körper.

Ein Nervensystem, das den Umständen/Details des Körpers als Regelkreis unterliegt, hat nichts anderes zur Verfügung, als Reize, aus denen sich zu jeder Zeit die "erste Person" ergibt.

Es gibt hier kein Unterschlagen, sondern es kommt nichts hinzu, denn die "erste Person" ist in allem drin, was der Körper über Nervensystem/Gehirn erschliessen kann.

Ich habe es schon geschrieben, dass es bei den "Phänomenen" immer um Wahrnehmungsproblematiken des Körpers geht.
Die "erste Person", die "Subjektivität" und auch die "Intentionalität" sind einfach nur Umstände der Körpersituation.

[Jörn Budesheim]

Und doch glauben wir immer weiter und weiter, wir seien irgendwo ausgezeichnet ...

Ich will noch einmal daran erinnern, worüber wir in diesem Faden reden. Wir reden von künstlicher Intelligenz. Du bist relativ neu in diesem Faden, deswegen hast du vielleicht nicht alle Aspekte, dir behandelt wurden präsent. Wir haben z.b gesprochen über den Intelligenztest von Alan Turing. Ich schätze, du weißt ungefähr, wie er aufgebaut ist. Woran orientiert sich dieser dieser Test? Am Menschen! Wenn die Maschine in der Unterhaltung wie ein Mensch wirkt, dann soll man ihr Intelligenz zu sprechen. Das Maß der Intelligenz ist hier ganz eindeutig der Mensch.

Man baut heute Computer mit neuronalen Netzen. Wovon sind diese Netze denn ursprünglich abgeschaut? Vom menschlichen Gehirn! Computer können lernen, heißt es. Dazu wurden sogar psychologische Befunde herangezogen, die man sich bei der Entwicklung von Kindern abgeschaut hat. Bei den neuronalen Netzen und beim Lernen - was ist hier das Maß? Der Mensch.

Es ist also keineswegs so, dass es sich um eine Marotte von mir handelt, dass ich den Blick auf den Mensch richte bei der Frage nach der Intelligenz. Das hat Turing getan, das tut man, wenn man das menschliche Gehirn zum Vorbild nimmt und das tut man wenn man das Lernen des Menschen nachbilden will.

Ich habe eben gerade etwas in einem Interview mit KI-Forscher Klaus Mainzer gelesen. Seine Arbeitsdefinition für Intelligenz lautet: "Ein System heißt intelligent, wenn es selbstständig und effizient Probleme lösen kann." Das entspricht ziemlich dem, was ich hier vorgeschlagen habe. Leider ist es dem Interviewer nicht eingefallen, Mainzer zu fragen, inwiefern Computer Probleme haben können.

Im Zentrum dieser Debatte steht der Mensch. Und nicht ich habe ihn dort hingestellt, sondern die KI-Forscher selbst. Das ist also keine besondere Form der rückwärtsgewandtheit von mir oder irgendeinen Glaube an eine Sonderstellung des Menschen im Universum, sondern eine einfache Anknüpfung an die Lage der Diskussion.

Und der Einwand, den ich hier in diesem Gesprächsfaden mache, und wenn ich richtig sehe ist es auch der Einwand von nwdm: es ist nicht angemessen, sich den Menschen als Vorbild zu nehmen, aber die sogenannte Innenperspektive dabei einfach mir nichts dir nichts wegzuschieben. Denn hat man einen ganz entscheidenden Aspekt einfach unter den Tisch fallen lassen. Hier in diesem Faden wird dafür in der Regel nicht einmal argumentiert.

Mainzer beschreibt in dem Interview "Lernende Systeme" und er sagt, dass sie "Belohnungen" erhalten. Aber der Interviewer hakt leider nicht ein, und fragt nicht, warum "Belohnung" in Anführungszeichen gesetzt. Und er fragt auch nicht, wie etwas eine Belohnung sein kann, wenn es sich für denjenigen, der belohnt wird, nicht angenehm anfühlt. Das ist für mich kein Nebenaspekt. Ich kann nicht erkennen, wie etwas, was keine intrinsische Motivation hat, etwas zu tun, Probleme haben kann, lernen kann, Belohnung bekommen kann, das ist für mich eine begriffliche und ontologische Unmöglichkeit.

Ein guter Freund von mir war Informatikprofessor und er sagte wiederholt, die Dinger werden nicht intelligent sein, wenn sie nicht ein eigenes Leben führen können bzw müssen. Ein anderer Forscher, dessen Name ich nicht parat habe, meinte etwas ganz ähnliches, aber pointierter ausgedrückt: sie werden nicht intelligent sein, wenn sie keinen Sex haben können. Wenn es nicht so makaber wäre, könnte man an dieser Stelle vielleicht sogar Heidegger bringen mit dem Dasein, dem es in seinen Sein um dieses Sein selbst geht. Für uns geht es immer um etwas. Aber bei den Maschinen ist halt keiner zu Hause, für sie steht nie etwas auf dem Spiel. Und wenn nichts auf dem Spiel steht dann gibt es auch keine Probleme.

Das ist meine Position.

Ich sage hingegen nicht, dass wir es prinzipiell nicht schaffen können "künstliche Intelligenz" herzustellen. Ich glaube z.b, dass das Blade Runner Szenario möglich ist. Soweit ich den Film richtig verstanden habe, sind die Replikanten biologisch oder überwiegend biologisch. In der zweiten Folge, ebenso wie in der ersten Folge, dreht sich viel um die Frage, welche Rechte den Replikanten zugesprochen werden müssten. Und eine der Antworten der zweiten Folge scheint mir zu sein: da sie sich sexuell fortpflanzen können, müssen wir ihnen Personenrechte zugestehen. Das würde ich unterschreiben.

Hier stellen sich natürlich noch andere ethische Fragen. Wenn man versucht, Leben zu schaffen, dann wird man sicherlich viele Fehlversuche bei der Entwicklung haben und damit viel unnötiges Leid die Welt setzen. Das ist zumindest (sehr grob skizziert) der Gedanke von Metzinger. Das halte ich z.b tatsächlich für ein schwerwiegendes Problem.

[Jörn Budesheim]

Noch ein kurzer Nachtrag. Ich habe keinen Zweifel daran, dass die Entwicklung der sogenannten KI-Technologie noch viel erstaunlichere Dinge hervorbringen wird als sie es ohnehin schon getan hat. Vielleicht wird es sogar bald eine Explosion geben, wer weiß. Möglicherweise werden wir etwas ganz Neues schaffen, von denen wir uns nicht mal vorstellen können, was es überhaupt ist. Vielleicht ist es dann sogar naiv, es sich nach dem Maß des Menschen vorzustellen.

[AufDerSonne]

Noch ein kurzer Nachtrag. Ich habe keinen Zweifel daran, dass die Entwicklung der sogenannten KI-Technologie noch viel erstaunlichere Dinge hervorbringen wird als sie es ohnehin schon getan hat. Vielleicht wird es sogar bald eine Explosion geben, wer weiß. Möglicherweise werden wir etwas ganz Neues schaffen, von denen wir uns nicht mal vorstellen können, was es überhaupt ist. Vielleicht ist es dann sogar naiv, es sich nach dem Maß des Menschen vorzustellen.

Ich programmiere ja manchmal ein bisschen. Wenn man es aus der praktischen Sicht des Programmierers anschaut, dann türmen sich die Probleme für eine KI ins unendliche.
Aber die Menschen sind erfinderisch. Die Mondlandung hatte früher wohl auch niemand für möglich gehalten. Dann habe sich die Russen und die Amis gegenseitig dermaßen angefeuert, dass es möglich wurde.
Aber wie könnte denn dieses Neue bei einer KI aussehen? Was kann könnte sie leisten? Könnte sie eine so große Hilfe sein, dass wir bald das weitere Weltall mit Raumschiffen erforschen könnten? Oder was wäre noch denkbar?

[Jörn Budesheim]

Die Mondlandung hatte früher wohl auch niemand für möglich gehalten. Dann habe sich die Russen und die Amis gegenseitig dermaßen angefeuert, dass es möglich wurde.

Das ist eine interessante Argumentation, die hier schon öfter aufgetaucht ist:

x hielt man für unmöglich,
aber x wurde realisiert.
Du hältst KI für unmöglich,
also wird sie realisiert werden.



x hielt man für unmöglich,
aber x wurde realisiert.
Eckige Kreise hielt man für unmöglich,
also werden sie irgendwann realisiert werden.



Gut, diese Rekonstruktion ist natürlich ein Scherz. Aber im Ernst: ich halte das Argument nicht für ein sehr beunruhigendes Argument. Es besagt schließlich nur, dass Menschen sich gelegentlich irren. Aber das ist kein Argument pro KI.

[AufDerSonne]

Ja, aber was ich nur meine.
Irgendwer muss ja dieses sagenumwobene Programm entwickeln, das eine Maschine intelligent macht.

[NaWennDuMeinst]

Im Prinzip ist es eigentlich ein bisschen ein neo-magisches Ritual, ein bisschen Alchemie, der alte Traum von der Überwindung des Defizitären im Menschen durch Identifizierung mit der perfektionierten Schöpfung. Die Hoffnung, mit ihr würden die eigenen Schwächen und Unzulänglichkeiten überwunden. Wir werden sein wie unsere Geschöpfe.

Ja, das ist sicherlich ein wichtiger Punkt. Ein anderer Aspekt ist wohl die Angst vor der Freiheit. Da ist es dann "schön" und zugleich entlastend zu glauben, dass man im Grunde nur ein Programm abarbeitet.

Ihr habt schon recht. Aber so nahe an der Möglichkeit eine einigermaßen intelligente Maschine zu bauen, waren wir noch nie.

Ich finde nicht, dass wir da nahe dran sind. Diese Kisten werden immer leistungsfähiger. Rechnen immer schneller. Aber sind sie deswegen intelligenter geworden?
Ich finde nicht. Sie sind nach wie vor dumm wie Bohnenstroh und verstehen die einfachsten Dinge nicht.
Wie ein Ochse Muster zu vergleichen oder gespeicherte Information abzurufen, macht diese Dinger nicht intelligent.

Mein allerstes Buch, das ich über die Programmierung von Computern gelesen habe enthielt ein Gedankenexperiment. Es ist sozusagen eine Anleitung für den Korrekten Umgang mit Computern für den Programmierer.

Stellen sie sich vor Sie sitzen auf einem Stuhl am Tisch. Nun fordere ich sie auf vom Stuhl aufzustehen und einen Schritt nach hinten zu machen.
Die meisten Menschen würden nun Folgendes tun: Sie würden aufstehen, einen Schritt nach links oder rechts machen und dann einen Schritt nach hinten.
Sie würden das tun, um eine Kollision mit dem Stuhl zu vermeiden.
Das machen Computer aber nicht. Sie tun genau das, was man ihnen sagt. Das heißt der Computer würde, weil wir ihm das so gesagt (den Befehl gegeben) haben, in den Stuhl krachen.
Was lernen wir daraus?

Hat der Computer was falsch gemacht? Nein, der Programmierer hat was falsch gemacht. Er hat nämlich angenommen, der Computer sei ein Mensch und würde so wie der Mensch "mitdenken" (sich intelligent verhalten).

Dieses kleine Gedankenspiel ist ein Lehrstück für Programmierer. Sie müssen ihre Programme bis ins kleinste Detail ausarbeiten. Sie dürfen nicht davon ausgehen, dass der Computer schon wisse was gemeint sei.
Es ist aber auf der zweiten Ebene auch eine wichtige Lehrstunde darüber was Computer können, und was sie nicht können.
Ich arbeite seit meinem 9. Lebensjahr mit Computern. Das sind jetzt 37 Jahre und viele Jahre davon mache ich das beruflich.
Ich habe in der ganzen Zeit nichts gesehen, das mich überzeugen würde, dass das was dieses kleine Lehrstück zeigen wollte nicht mehr gilt.
Wenn ich programmiere, dann blicke ich nicht in ein intelligentes Antlitz (es wäre schön wenn das so wäre), sondern nach wie vor auf einen seelenlosen, strunzdummen Apparat, der nicht "mitdenkt".

Es hat sich natürlich Einiges geändert. Ich glaube nichts entwickelt sich so schnell wie die Computertechnik. Noch zu Beginn meiner Arbeit mit diesen Geräten liefen die mit 1Mhz Takt und hatten wenige Kilobyte Arbeitsspeicher. Heute hat jede Smartwatch ein Tausendfaches davon zur Verfügung. Die Hardware wird immer schneller und kann Dinge die damals noch Minuten gedauert haben heute in Nanosekunden erledigen.
Aber all das, all die Power, hat nicht dazu geführt, dass ich mich heute als Programmierer zurücklehnen und mich darauf verlassen kann, dass der Computer "mitdenkt".
Vom Prinzip her sind diese Kisten genauso blöd geblieben, trotz allem Fortschritt in der Hardware.
Würde man einen Computer tatsächlich mit einem Menschen vergleichen wollen, müsste man ihn als Muskelmann sehen. In jedem Arm 1000 Watt, aber im Oberstübchen brennt kein Licht.

[AufDerSonne]

Mein allerstes Buch, das ich über die Programmierung von Computern gelesen habe enthielt ein Gedankenexperiment. Es ist sozusagen eine Anleitung für den Korrekten Umgang mit Computern für den Programmierer.

Stellen sie sich vor Sie sitzen auf einem Stuhl am Tisch. Nun fordere ich sie auf vom Stuhl aufzustehen und einen Schritt nach hinten zu machen.
Die meisten Menschen würden nun Folgendes tun: Sie würden aufstehen, einen Schritt nach links oder rechts machen und dann einen Schritt nach hinten.
Sie würden das tun, um eine Kollision mit dem Stuhl zu vermeiden.
Das machen Computer aber nicht. Sie tun genau das, was man ihnen sagt. Das heißt der Computer würde, weil wir ihm das so gesagt (den Befehl gegeben) haben, in den Stuhl krachen.
Was lernen wir daraus?

Hat der Computer was falsch gemacht? Nein, der Programmierer hat was falsch gemacht. Er hat nämlich angenommen, der Computer sei ein Mensch und würde so wie der Mensch "mitdenken" (sich intelligent verhalten).

Eigentlich hat der Mensch etwas falsch gemacht. Er hat die Anweisung nicht befolgt und einen Schritt rückwärts getan. Der Stuhl fällt dann natürlich um. Aber die Anweisung wäre befolgt worden.

@NaWennDuMeinst. Hast du dich auch mit KI befasst? Also jetzt von der Programmierseite her? Und auch sonst, theoretisch und so? Ich meine, KI ist ja ein weites Gebiet. Da gäbe es ja noch die Expertensysteme, den A*-Algorithmus und so weiter. Und dann kommt da auch ziemlich heftige Mathematik ins Spiel, etwa bei den KNNs. Würde mich interessieren, was du da so darüber weißt.

[Jörn Budesheim]

Apparat, der nicht "mitdenkt ...

In meinem Marketing und Grafiker-Dasein mußte ich bisher zum Glück praktisch nie etwas programmieren. Ich weiß nicht, ob euch das Programm "flash" (noch) etwas sagt? Das war ein Animationsprogramm, mittlerweile gibt es das nicht mehr. Dafür gab es auch eine eigene Sprache und da habe ich gelegentlich auch ein paar Zeilen "programmiert". Diese Programmiersprache (und bei anderen dürfte es wohl nicht anders sein) kannte natürlich kein "principle of charity" :) das heißt kein Prinzip des Wohlwollens, bzw der Nachsichtigkeit, ohne welches wir überhaupt nicht kommunizieren könnten. Es fehlte das geteilte Weltwissen, eine Vorstellung von Rationalität und der Begriff der Wahrheit. No triangulation possible :)

Aber das kann man natürlich nicht mit dem vergleichen, was heute Riesenfirmen wie Google drauf haben. Das Schachprogramm, was sie vor kurzem - vielleicht vor ein oder zwei Jahren - in die Welt entlassen haben, soll sich das Spiel selbst "beigebracht" haben, wie sie sagen. Das ging in wenigen Tagen, ich meine sogar in wenigen Stunden. Ähnlich haben Sie es mit einem Programm gemacht, dass die stärksten Go Spieler geschlagen hat.

Mal sehen, was geschieht, wenn die ersten Quantencomputer bei Tchibo zum Kaffee als Extras dazu gegeben werden :) ich kann mir gut vorstellen, dass wir uns das meiste, was passieren wird, nicht vorstellen können.

Wenn ich die Entwicklung der Werkzeuge, mit denen ich heute tagtäglich arbeite, der letzten 20/30 Jahre Revue passieren lasse, dann ist es schon ziemlich wahnsinnig, was heute möglich ist.

[Jörn Budesheim]

Eigentlich hat der Mensch etwas falsch gemacht. Er hat die Anweisung nicht befolgt und einen Schritt rückwärts getan.

Nein, der Mensch hat alles richtig gemacht, denn er hat die Anweisung nicht beim Wort genommen, sondern ihren Sinn verstanden.

[NaWennDuMeinst]

Mein allerstes Buch, das ich über die Programmierung von Computern gelesen habe enthielt ein Gedankenexperiment. Es ist sozusagen eine Anleitung für den Korrekten Umgang mit Computern für den Programmierer.

Stellen sie sich vor Sie sitzen auf einem Stuhl am Tisch. Nun fordere ich sie auf vom Stuhl aufzustehen und einen Schritt nach hinten zu machen.
Die meisten Menschen würden nun Folgendes tun: Sie würden aufstehen, einen Schritt nach links oder rechts machen und dann einen Schritt nach hinten.
Sie würden das tun, um eine Kollision mit dem Stuhl zu vermeiden.
Das machen Computer aber nicht. Sie tun genau das, was man ihnen sagt. Das heißt der Computer würde, weil wir ihm das so gesagt (den Befehl gegeben) haben, in den Stuhl krachen.
Was lernen wir daraus?

Hat der Computer was falsch gemacht? Nein, der Programmierer hat was falsch gemacht. Er hat nämlich angenommen, der Computer sei ein Mensch und würde so wie der Mensch "mitdenken" (sich intelligent verhalten).

Eigentlich hat der Mensch etwas falsch gemacht.

Nein. Der Mensch der auf dem Stuhl sitzt hat nichts falsch gemacht, im Gegenteil. Er hat die Intention des Befehlsgebers erkannt. Denn der wollte ja nicht, dass der Stuhl umfällt, er hat halt einfach nur vergessen, dass dafür ein Schritt zur Seite nötig ist.
Genau darum geht es. Intelligent ist es die Intention des Befehls zu erkennen. Computer beherrschen aber auch diesen Teil der Intelligenz nicht.
Sie sind halt einfach nur dumme Befehlsempfänger.

@NaWennDuMeinst. Hast du dich auch mit KI befasst? Also jetzt von der Programmierseite her?

Nein, nicht in dem Sinne, dass ich selber K.I.-Systeme programmieren würde.
Ich habe vorgefertigte K.I. im Unternehmenumfeld eingesetzt um zum Beispiel Lagerhallen zu überwachen.
Es war eine Katastrophe. Ich sage nur "Das ist ein Pferd".
Mein Eindruck ist, dass jeder K.I. haben will und die Unternehmen versprechen sich sehr viel davon. Die Enttäuschung ist dann meistens sehr groß, weil erwartet wird man würde menschliche Intelligenz bekommen. Das ist natürlich totaler Humbug. Was man bekommt ist nicht mal auf der Stufe eine klugen Kleinkindes.

[AufDerSonne]

Ich habe vorgefertigte K.I. im Unternehmenumfeld eingesetzt um zum Beispiel Lagerhallen zu überwachen.
Es war eine Katastrophe. Ich sage nur "Das ist ein Pferd".
Mein Eindruck ist, dass jeder K.I. haben will und die Unternehmen versprechen sich sehr viel davon. Die Enttäuschung ist dann meistens sehr groß, weil erwartet wird man würde menschliche Intelligenz bekommen. Das ist natürlich totaler Humbug. Was man bekommt ist nicht mal auf der Stufe eine klugen Kleinkindes.

Ja, ich glaube, dass wir in der KI noch in den Kinderschuhen stecken, ist wahr. Vielleicht bleibt es ein Wunschtraum oder es geht noch ein paar hundert Jahre, bis wir eine brauchbare KI haben.

[Lucian Wing]

[Jedes Tier ist anders, das menschliche hat halt ein paar andere Fähigkeiten wie ein Wal oder die Maus. Da ist nichts Magisches dran, das ist, wie es ist. Die KI ist trotzdem immer nur eine Simulation. Sie erlebt nichts.

Ein paar Fragen um zu versuchen die Position nachzuvollziehen:
Dann erlebt die Maus und der Wal auch nichts? Sind ja auch keine Menschen. Und wenn sie doch was erleben, woher nimmst du das Wissen, dass diese was erleben und eine Maschine nicht? Was ist das knallharte Kriterium, mit dem du entscheidest? Weil sie Menschen gebaut haben?

Ja. Die Maschine ist das Ergebnis eines kreativen Schöpfers, also im Gegensatz zu mir, der nicht von Gott geschaffen wurde, genau in der Situation, in der die Theologen den Menschen haben wollen. Eine KI-Maschine ist nach dem, was der Mensch sich so als sein Ebenbild vorstellt, konstruiert.

Wenn ich eine Maus klone, vielleicht sogar ihren ganzen genetischen Code umschreibe (mal angenommen das wäre technisch möglich), verliert sie dann ihr Innenleben weil sie von einem Mensch gebaut wurde? Oder hängt es an den Molekülen - Kohlenstoff, Zucker und Eiweisse können ein Innenleben entwickeln, Silizium und Eisen nicht? Für die Aussage "X hat kein Innenleben" braucht man doch ein Kriterium, ein Entscheidungsverfahren, andernfalls hat die Aussage einfach keine Grundlage.

Eine geklonte Maus ist keine Simulation einer Maus.

Ich persönlich glaube einfach, auch wenn du das als Küchenpsychologie abtust, dass die Erwartungen an eine KI viel mehr über menschliche Vorstellungen vom Menschen verraten als über die Wirklichkeit menschlichen Lebens. Wer es im eigenen Zimmer aushält mit sich und der Menschheit, wird keine Träume von irgendwelchen transhumanistischen Wesen ohne meine und deine Macken haben. Aber da die meisten es nicht aushalten, haben wir eben solche Träume und Phantasien, und deshalb ist "Fortschritt" sowohl möglich als auch unvermeidlich.

Kann schon sein, dass etwa der Zeitgeist auf die Vorstellungen wirkt (Mechanik --> Biologie --> Computer) sehe ich schon auch. Aber es kann doch auch einfach eine philosophische und auch wissenschaftliche Neugierde sein, oder?

Ja, die theoretische Neugier ist sicher eine wichtige Konstante seit dem Übergang von den Jägern und Sammlern. Meine Neugier würde sich darauf verlegen, zu verstehen, wie Menschen wie die berühmt gewordenen Sentinelesen ohne jegliche Ansätze einer solchen Neugier und eines Fortschrittes zu leben vermögen. Wenn man diese, also meine, Neugier nicht stillt, diese Menschen also in Ruhe lässt, werden sie auf jeden Fall länger überlebt haben, als die Kulturen, in denen diese Neugier ungeheure Triebkräfte freisetzte und Entwicklungen anstieß.

Wie ich schon sagte, bevor du hier eingestiegen bist: Mich interessiert ja weniger das Technische als das Ethische an der Sache.

Ah ja, das wollte ich eigentlich noch fragen, habe es aber vergessen:
In "eurer" Position gedacht, stimmt es, dass es prinzipiell keine ethische Überlegungen bedarf (also bezüglich der Maschine selbst, also sowas wie Haftungsfragen oder ähnliches mal aussen vor), ganz egal wie hochentwickelt die Maschine letztlich ist? Sklaverei a la Burkart ist - da sie ja per Definition nicht empfindungsfähig sind, Werkzeuge sind - völlig Ok?

Ja. Es sind Sachen. Der Umgang ist also eine Preis-Leistungs-Frage. Ich werfe eine Tüte, in der die Bäckerin die Semmeln packt, recht schnell weg, mein Auto dagegen fahre ich länger. Und so würde ich auch so ein Helferlein - Daniel Düsentrieb, würde er heute erfunden, hätte sicher eins mit Display statt Glühbirne als Kopf - einordnen.

Etwas böser gesprochen: Man dürfte aus meiner Sicht mit einer KI dann auch alle die Versuche machen, die heute als Tier- oder Menschenversuche verboten sind. Wobei ich nach wie vor glaube, es würde immer noch zu wenig herauskommen, weil ich mir nicht vorstellen kann, wie eine KI auf Menschen übertragbare allergische Reaktionen haben könnte. Wie soll das gehen? Aber vielleicht bin ich da zu unbedarft, es soll nur so eine laute Überlegung sein.

Ich habe es schon geschrieben, dass es bei den "Phänomenen" immer um Wahrnehmungsproblematiken des Körpers geht.
Die "erste Person", die "Subjektivität" und auch die "Intentionalität" sind einfach nur Umstände der Körpersituation.

Das verschiebt alle Problematik, alle offenen Fragen eben auf eine andere Ebene. Das ist wie bei der Diskussion, ob das Gehirn entscheidet oder ich. Wenn das Gehirn entscheidet, dann richtet sich die Frage, warum ich lieber nach Australien als nach Thailand fliege dieses Jahr, eben nicht an mich, sondern an mein Gehirn. Und Putin antwortet dann auf die Frage, warum er die Ukraine hat überfallen lassen, wegen der Umstände meiner Körpersituation.