Eine Leseempfehlung aus der Vereinigung Deutscher Wissenschaftler/Studiengruppe Technikfolgenabschätzung der Digitalisierung:
https://vdw-ev.de/wp-content/uploads/20 ... l-2018.pdf
Bereits in der Einleitung heisst es: "Die Vereinigung Deutscher Wissenschaftler e.V. (VDW) legt durch ihre Studiengruppe
„Technikfolgenabschätzung der Digitalisierung“ ihre erste Stellungnahme zu ethischen,
politischen und rechtlichen Fragen der Erforschung, Entwicklung und Anwendung künstlicher
Intelligenz (Artificial Intelligence; K.I.) vor, wobei sie der allgemeinen oder starken künstlichen
Intelligenz besonderes Gewicht beimisst. Dabei bezieht sie sich als Ausgangspunkt auf die am
06. Januar 2017 beschlossenen Asilomar-Prinzipien zu künstlicher Intelligenz, die den aktuellen
Stand der von der K.I.-Entwickler Gemeinschaft begonnenen Diskussion zu den oben
genannten Fragen gut abbildet. Mit den Prinzipien identifiziert sich eine sehr große Gruppe
der weltweit relevanten Akteure, die in Forschung und Entwicklung künstlicher Intelligenz
eingebunden sind. (...)
Die Erforschung, Entwicklung und Anwendung künstlicher Intelligenz können eine
fundamentale Gefährdung für die Menschen und ihr friedliches Zusammenleben bedeuten."
Die ASILOMAR KI "Prinzipien/ Regeln" können nachgelesen werden unter
https://futureoflife.org/ai-principles/ oder
https://katzlberger.ai/2018/06/12/die-k ... -asilomar/ auf deutsch.
Der Kernpunkt der Diskussion scheint mir VDW mit folgenden Sätzen akzeptabel zusammenzufassen:
"Eine Superintelligenz ist definiert als eine starke K.I., die dem
menschlichen Gehirn zumindest in vielen Bereichen überlegen ist. Sie entsteht hypothetisch,
wenn eine starke K.I. sich durch Rekursion selbst verbessert und erweitert. Mögliche
Entwicklungsrichtungen zur Realisation einer Superintelligenz sind Algorithmen (auch in
Maschinen, Robotern, o.a.), Transhumanismus (z.B. gentechnische Verbesserungen von
Menschen oder die Verschmelzung von beidem in Cyborgs) sowie der Einsatz von künstlichen,
neuronalen Netzen."