Künstliche Intelligenz

[Burkart]

aber auch beim Menschen habe ich ja nur sozusagen den Phänotyp, sein von Aussen wahrnehmbare Verhalten und habe kein Unterscheidungskriterium um den Zombie abzugrenzen ...

Ich habe beim Menschen nicht nur den Blick von außen, sondern weiß auch als eigener Erfahrung, wie die Dinge liegen. Das ist ein großer Unterschied.

Du weißt also, dass Menschen nicht fliegen können. Heißt das, dass es deshalb keine Flugzeuge geben kann? Oder eben keine KI?

Außerdem gibt es in diesem Bereich Forschungen, sagt dir die Integrierte Informationstheorie zufällig etwas? Hier ist bereits der Buchtitel einer dieser Forscher sprechend: "Bewusstsein, warum es weit verbreitet ist, aber nicht digitalisiert werden kann."

1. Was genau soll Bewusstsein beim ihm heißen? Einen Menschen bzw. Lebewesen wollen wir ja auch nicht digitalisieren...
2. Wo steht geschrieben, dass Intelligenz Bewusstsein benötigt? Bzw. was soll dieses Bewusstsein ggf. genau sein?
(3. Ein Buchtitel ist keine Bibel und kein Grundgesetz.)

[NaWennDuMeinst]

2. Wo steht geschrieben, dass Intelligenz Bewusstsein benötigt?

Wo seht dass es nicht so ist?

Bzw. was soll dieses Bewusstsein ggf. genau sein?

Na zum Beispiel die Fähigkeit zur Metakognition.
Das heißt u.a. über das eigene Denken nachdenken (das eigene Denken reflektieren) .
Ich meine das ist fundamental wichtig um höhere, komplexere Probleme zu lösen.

(3. Ein Buchtitel ist keine Bibel und kein Grundgesetz.)

Sagt der Mann, der seine Zuversicht vor allem aus Sci-Fi-Romanen bezieht.

[Burkart]

Wenn KI grundlegend programmiert ist, dem Menschen zu dienen, kann sie sich Probleme zu eigen machen, halt als KI-Diener.

Ich will nicht zu frivol sein, aber was würde denn herauskommen, wenn eine KI in diesem von dir hier gemeinten Sinne Lungenkrebs oder Akne einprogrammiert bekommt. Und jetzt sag mir nicht, das seien keine Probleme.

Dann hätte der Programmierer ein kranke KI programmiert. Und was soll der Sinn sein?

Allerdings sehe ich keinen logischen Zuammenhang zu meiner Aussage. Ich sage ja nicht, dass KI keine eigenen Probleme haben kann, das war Jörn.

[NaWennDuMeinst]

Wenn KI grundlegend programmiert ist, dem Menschen zu dienen, kann sie sich Probleme zu eigen machen, halt als KI-Diener.

Ich will nicht zu frivol sein, aber was würde denn herauskommen, wenn eine KI in diesem von dir hier gemeinten Sinne Lungenkrebs oder Akne einprogrammiert bekommt. Und jetzt sag mir nicht, das seien keine Probleme.

Dann hätte der Programmierer ein kranke KI programmiert. Und was soll der Sinn sein?

Allerdings sehe ich keinen logischen Zuammenhang zu meiner Aussage. Ich sage ja nicht, dass KI keine eigenen Probleme haben kann, das war Jörn.

Lungenkrebs IST eines dieser Probleme die eine K.I. nicht haben kann. Weil sie eine Maschine ist und kein biologischer Organismus.

[Burkart]

2. Wo steht geschrieben, dass Intelligenz Bewusstsein benötigt?

Wo seht dass es nicht so ist?

Dann lass uns die beiden Begriffe unabhängig voneinander sehen; wer eine Abhängigkeit herstellt, soll sie belegen.

Bzw. was soll dieses Bewusstsein ggf. genau sein?

Na zum Beispiel die Fähigkeit zur Metakognition.
Das heißt u.a. über das eigene Denken nachdenken (das eigene Denken reflektieren) .
Ich meine das ist fundamental wichtig um höhere, komplexere Probleme zu lösen.

Und wer sagt (beweist), dass KI das nicht können kann?

(3. Ein Buchtitel ist keine Bibel und kein Grundgesetz.)

Sagt der Mann, der seine Zuversicht vor allem aus Sci-Fi-Romanen bezieht.

Entscheidend ist kritisch zu bleiben, nicht einem Titel einfach so zu vertrauen.

[Burkart]

Ich will nicht zu frivol sein, aber was würde denn herauskommen, wenn eine KI in diesem von dir hier gemeinten Sinne Lungenkrebs oder Akne einprogrammiert bekommt. Und jetzt sag mir nicht, das seien keine Probleme.

Dann hätte der Programmierer ein kranke KI programmiert. Und was soll der Sinn sein?

Allerdings sehe ich keinen logischen Zuammenhang zu meiner Aussage. Ich sage ja nicht, dass KI keine eigenen Probleme haben kann, das war Jörn.

Lungenkrebs IST eines dieser Probleme die eine K.I. nicht haben kann. Weil sie eine Maschine ist und kein biologischer Organismus.

Um so besser, dass sie dieses Problem nicht hat und sich auf andere konzentrieren kann.

[NaWennDuMeinst]

Bzw. was soll dieses Bewusstsein ggf. genau sein?

Na zum Beispiel die Fähigkeit zur Metakognition.
Das heißt u.a. über das eigene Denken nachdenken (das eigene Denken reflektieren) .
Ich meine das ist fundamental wichtig um höhere, komplexere Probleme zu lösen.

Und wer sagt (beweist), dass KI das nicht können kann?

Wie denn? Man programmiert ihnen einfach Bewustsein ein?
Nochmal: Wie denn?

[NaWennDuMeinst]

Dann hätte der Programmierer ein kranke KI programmiert. Und was soll der Sinn sein?

Allerdings sehe ich keinen logischen Zuammenhang zu meiner Aussage. Ich sage ja nicht, dass KI keine eigenen Probleme haben kann, das war Jörn.

Lungenkrebs IST eines dieser Probleme die eine K.I. nicht haben kann. Weil sie eine Maschine ist und kein biologischer Organismus.

Um so besser, dass sie dieses Problem nicht hat und sich auf andere konzentrieren kann.

Du meinst wie man "Hallo, ich bin Siri" sagt?

[sybok]

Aber genau das ist die Schwierigkeit. Es nützt halt nix einen Zombie zu bauen der wie ein Papagei Zeug nachplappert und das dann "Intelligenz" zu nennen, weil es von aussen so aussieht. Das Innen spielt halt auch eine Rolle.

Warum nützt das nichts? Burkart beispielsweise will ein künstliches System als Sklaven, umso besser wenn dieses keine Gefühle hat, wenn es ein Zombie ist, dann kann er sich die Ethik-Diskussion schenken.

Er kanns ich so viele Sklaven bauen wie er will. Wenn er aber behauptet sie seien intelligent, dann behauptet er ein intelligentes System geschaffen zu haben.
Das wäre ja eine Sensation. Du darfst davon ausgehen, dass wir uns da nicht einfach auf sein Wort verlassen.

Wie bereits gesagt, wenn es um die Wortdefinition geht, nennen wir es halt simulierte Intelligenz, oder Pseudo-Intelligenz oder mit einer Neuschöpfung: "phänotypisches Intelligenzphänomen".

Aha. Wenn ich also einen Roboter baue, der so aussieht wie Du und sich so verhält wie Du, dann ist er Du?
Kann ich dich dann entsorgen, weil ich von aussen keinen Unterschied sehe oder spielt das was ich nicht sehe (aber in dir vermute, weil Du ein Mensch bist wie ich auch) auch eine Rolle?

Nein er ist nicht ich, hab ich aber auch nicht behauptet.
Ja, warum entsorgst du "ihn" und nicht mich? Warum glaubst du, dass ich der Mensch bin und nicht "er"?

Ich habe beim Menschen nicht nur den Blick von außen, sondern weiß auch als eigener Erfahrung, wie die Dinge liegen. Das ist ein großer Unterschied.

Ja das stimmt. Ist aber nicht wirklich eine vertrauenswürdige Quelle, meint doch der Descartsche Dämon, abgesehen davon: Stichprobengrösse N=1.

[Burkart]

Na zum Beispiel die Fähigkeit zur Metakognition.
Das heißt u.a. über das eigene Denken nachdenken (das eigene Denken reflektieren) .
Ich meine das ist fundamental wichtig um höhere, komplexere Probleme zu lösen.

Und wer sagt (beweist), dass KI das nicht können kann?

Wie denn? Man programmiert ihnen einfach Bewustsein ein?
Nochmal: Wie denn?

Wie: Das müsste ggf. analysiert werden - angefangen bei dem Begriff "Bewusstsein".
Wollen wir wirklich wieder Ansätze diskutieren, die dir sowieso nicht zusagen?
Mein Punkt war ja auch nur, dass es möglich sein kann.

[Burkart]

Lungenkrebs IST eines dieser Probleme die eine K.I. nicht haben kann. Weil sie eine Maschine ist und kein biologischer Organismus.

Um so besser, dass sie dieses Problem nicht hat und sich auf andere konzentrieren kann.

Du meinst wie man "Hallo, ich bin Siri" sagt?

Wo ist der Zusammenhang?

[NaWennDuMeinst]

Aha. Wenn ich also einen Roboter baue, der so aussieht wie Du und sich so verhält wie Du, dann ist er Du?
Kann ich dich dann entsorgen, weil ich von aussen keinen Unterschied sehe oder spielt das was ich nicht sehe (aber in dir vermute, weil Du ein Mensch bist wie ich auch) auch eine Rolle?

Nein er ist nicht ich, hab ich aber auch nicht behauptet.

Aber warum ist er denn nicht Du? Wenn alles was zählt das ist was aussen ist, dann ist er Du... für andere zumindest.
Oder zählt eben auch das Innere? Zählt es vielleicht sogar am meisten?

Ja, warum entsorgst du "ihn" und nicht mich? Warum glaubst du, dass ich der Mensch bin und nicht "er"?

Wenn ihr wirklich EXAKT identisch wäret, also in allen Details, könnte ich das nicht sagen.
Ich müsste Euch dann beide als Menschen ansehen. Es sei denn ich WÜSSTE dass einer von Euch beiden künstlich geschaffen wurde.
Zufälligerweise wissen wir das bei Maschinen ... denn wir haben sie erdacht und gebaut.
Aber nehmen wir mal an, Maschinen würden sich irgendwann selber bauen... und sie könnten ohne unser Wissen exakte Kopien von existierenden Menschen erstellen, die in allen Belangen aussehen wie Menschen und sich auch komplett so verhalten. Dann würde gelten was ich oben geschrieben habe. Wir müssten Original und Kopie beide als Menschen ansehen.

[NaWennDuMeinst]

Um so besser, dass sie dieses Problem nicht hat und sich auf andere konzentrieren kann.

Du meinst wie man "Hallo, ich bin Siri" sagt?

Wo ist der Zusammenhang?

Ja genau, wo ist der Zusammenhang?

[NaWennDuMeinst]

Und wer sagt (beweist), dass KI das nicht können kann?

Wie denn? Man programmiert ihnen einfach Bewustsein ein?
Nochmal: Wie denn?

Wie: Das müsste ggf. analysiert werden - angefangen bei dem Begriff "Bewusstsein".

Warum? Ich habe dir doch eben einen Teil des Bewusstseins genannt. Zu den Fähigkeiten (Leistungsmerkmalen) des Bewusstseins gehört die Fähigkeit der Metakognition.
Metakognition ist wichtig zur Lösung komplexerer Probleme und da das nur Wesen können die ein Bewusstsein haben, können auch nur Wesen mit Bewusstsein solche höheren Probleme lösen.
Wieso müssen wir da jetzt noch analysieren was ein Bewusstsein ist?
Müssen wir nicht.

Mein Punkt war ja auch nur, dass es möglich sein kann.

Das ist immer deine Antwort. Es ist immer alles möglich bei dir einfach aus Prinzip.
Aber die reine, fiktive Möglichkeit ist kein Argument.

[sybok]

Aha. Wenn ich also einen Roboter baue, der so aussieht wie Du und sich so verhält wie Du, dann ist er Du?
Kann ich dich dann entsorgen, weil ich von aussen keinen Unterschied sehe oder spielt das was ich nicht sehe (aber in dir vermute, weil Du ein Mensch bist wie ich auch) auch eine Rolle?

Nein er ist nicht ich, hab ich aber auch nicht behauptet.

Aber warum ist er denn nicht Du? Wenn alles was zählt das ist was aussen ist, dann ist er Du... für andere zumindest.
Oder zählt eben auch das Innere? Zählt es vielleicht sogar am meisten?

Ja genau, für andere ist er ich. Selbstverständlich zählt für mich mein Inneres am meisten, aber was bringt das? Wir haben "Bewusstsein" dadurch nicht besser verstanden, wissen immer noch nicht was ein Gedanke genau ist, etc. Wir suchen doch - naiv gesprochen - objektive Erkenntnisse, und dabei sind wir doch abgekommen vom Subjektiven auf das Objektive zu schliessen (eben N=1).

Ja, warum entsorgst du "ihn" und nicht mich? Warum glaubst du, dass ich der Mensch bin und nicht "er"?

Wenn ihr wirklich EXAKT identisch wäret, also in allen Details, könnte ich das nicht sagen.
Ich müsste Euch dann beide als Menschen ansehen. Es sei denn ich WÜSSTE dass einer von Euch beiden künstlich geschaffen wurde.
Zufälligerweise wissen wir das bei Maschinen ... denn wir haben sie erdacht und gebaut.
Aber nehmen wir mal an, Maschinen würden sich irgendwann selber bauen...

Die Annahme ist gar nicht notwendig. Du weisst, dass einer von uns eine Maschine ist, hast aber beide zuvor noch nie gesehen, wir könnten also in Details sogar unterschiedlich sein, du hättest trotzdem kein Unterscheidungskriterium, oder? Ich mein es geht ums Verhalten, du kannst natürlich einen der beiden aufschneiden und nachschauen,... aber welchen ?

[Jörn Budesheim]

Stichprobengrösse

Die Stichprobengröße dürfte in die vielen Milliarden gehen, schließlich sind wir nicht die einzigen bewussten Lebewesen auf diesem Planeten.

Darüber hinaus: wir können Bewusstsein vergleichsweise gut erkennen, aber es hat natürlich auch seine Grenzen. Dass es diese Grenzen gibt und, dass wir uns irren können ändert daran ja nichts, das gilt schließlich für alle unsere Wahrnehmungen.

[Jörn Budesheim]

nennen wir es halt simulierte Intelligenz

Ja, das wäre schon mal ein sehr großer Fortschritt.

Wir haben in diesen Farben auch schon wiederholt darüber gesprochen, wie dieser Mythos, dass die Werkzeuge selbst intelligent sind, Ideologien kaschiert und damit befördert.

[Burkart]

Wie denn? Man programmiert ihnen einfach Bewustsein ein?
Nochmal: Wie denn?

Wie: Das müsste ggf. analysiert werden - angefangen bei dem Begriff "Bewusstsein".

Warum? Ich habe dir doch eben einen Teil des Bewusstseins genannt.

Ah ha, und damit ist es umfassend analysiert...

Zu den Fähigkeiten (Leistungsmerkmalen) des Bewusstseins gehört die Fähigkeit der Metakognition.

Soweit deine These.

Metakognition ist wichtig zur Lösung komplexerer Probleme und da das nur Wesen können die ein Bewusstsein haben, können auch nur Wesen mit Bewusstsein solche höheren Probleme lösen.
Wieso müssen wir da jetzt noch analysieren was ein Bewusstsein ist?
Müssen wir nicht.

Stimmt, müssen wir wirklich nicht....

Mein Punkt war ja auch nur, dass es möglich sein kann.

Das ist immer deine Antwort. Es ist immer alles möglich bei dir einfach aus Prinzip.

...weil ich gerade keinen Bock auf deine blöde Bemerkung habe.

[sybok]

Warum? Ich habe dir doch eben einen Teil des Bewusstseins genannt. Zu den Fähigkeiten (Leistungsmerkmalen) des Bewusstseins gehört die Fähigkeit der Metakognition.
Metakognition ist wichtig zur Lösung komplexerer Probleme und da das nur Wesen können die ein Bewusstsein haben, können auch nur Wesen mit Bewusstsein solche höheren Probleme lösen.
Wieso müssen wir da jetzt noch analysieren was ein Bewusstsein ist?
Müssen wir nicht.

Aus meiner Sicht wäre das genau das spannende Thema. Wie funktioniert Metakognition genau, hat es mit statistischer Inferenz zu tun, mit irgendeiner Art von Logik, einer Kombination davon? Warum lernt der Mensch so unheimlich schnell? Wie kann auf so wenig Daten basierend Lerninhalte auf völlig unzusammenhängende Gebiete übertragen? Ist Bewusstsein "echt" oder ist es ein Nebenprodukt von eben sowas wie Metakognition? Etc.
Deine These, Bewusstsein stark in Zusammenhang mit Metakognition zu bringen, fände ich schon interessant für eine Diskussion. Wäre dann Bewusstsein etwas graduelles, denn Metakognition scheint mir schon graduell zu sein? Ist "unser" Bewusstsein vielleicht sogar exakt damit identisch und lediglich eine Art Stufe in einer Metakognitionshierarchie, sowas wie Bewusstsein = Meta-Meta-...-Metakognition? Etc.

[Burkart]

Stichprobengrösse

Die Stichprobengröße dürfte in die vielen Milliarden gehen, schließlich sind wir nicht die einzigen bewussten Lebewesen auf diesem Planeten.

Darüber hinaus: wir können Bewusstsein vergleichsweise gut erkennen, aber es hat natürlich auch seine Grenzen. Dass es diese Grenzen gibt und, dass wir uns irren können ändert daran ja nichts, das gilt schließlich für alle unsere Wahrnehmungen.

Ich frage mich, was die Stichproben bringen sollen. Eine große Anzahl weißer Schwäne hat auch nicht die Existenz von schwarzen verhindert. (Falls dir das nichts sagt, bringe ich gerne einen Link dazu.)