Mensch, Maschine, KI, Stellungnahme des Deutschen Ethikrates

[Dia_Logos]

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Digitale Technologien und Künstliche Intelligenz (KI) haben mittlerweile in nahezu allen Bereichen des öffentlichen und privaten Lebens Einzug gehalten. Für die ethische Bewertung solcher Entwicklungen und ihres Einsatzes in verschiedenen Bereichen ist es nötig, nicht nur die Technologien zu verstehen, sondern auch ihre Wechselwirkungen mit den Personen, die sie verwenden oder von ihrer Anwendung betroffen sind. Zentral ist dabei die Frage, welche Auswirkungen damit verbunden sind, wenn Tätigkeiten, welche zuvor Menschen vorbehalten waren, an Maschinen delegiert werden. Werden menschliche Autorschaft und Handlungsmöglichkeiten durch den Einsatz von KI erweitert oder vermindert?...

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

[Burkart]

Schön, wenn sie sich über unsere heutige schwache KI (LLMs u.ä.) Gedanken machen; um so spannender wird es dann, wenn es Richtung stärkerer KI geht, z.B. KI mehr in Robotern eingesetzt wird und diese dann irgendwann auch allgemein-intelligenter (entwickelt) werden.

[Jörn P Budesheim]

In dieser Stellungnahme wird vorausgesetzt, dass die Unterscheidung zwischen enger und breiter KI quantitativer bzw. gradueller Natur ist, die Entstehung einer starken KI jedoch einen qualitativen Sprung bedeuten würde. Als enge KI gelten dabei Anwendungen, welche menschliche Fähigkeiten in einer Domäne simulieren, um spezifische Aufgaben zu erfüllen. Breite KI erweitert das Spektrum ihrer Anwendbarkeit über einzelne Domänen hinaus. Der Begriff der starken KI wird für die Vision einer Künstlichen Intelligenz verwendet, die jenseits der möglicherweise perfekten Simulation menschlicher Kognition auch über mentale Zustände, Einsichtsfähigkeit und Emotionen verfügen würde.

[Burkart]

In dieser Stellungnahme wird vorausgesetzt, dass die Unterscheidung zwischen enger und breiter KI quantitativer bzw. gradueller Natur ist, die Entstehung einer starken KI jedoch einen qualitativen Sprung bedeuten würde. Als enge KI gelten dabei Anwendungen, welche menschliche Fähigkeiten in einer Domäne simulieren, um spezifische Aufgaben zu erfüllen. Breite KI erweitert das Spektrum ihrer Anwendbarkeit über einzelne Domänen hinaus. Der Begriff der starken KI wird für die Vision einer Künstlichen Intelligenz verwendet, die jenseits der möglicherweise perfekten Simulation menschlicher Kognition auch über mentale Zustände, Einsichtsfähigkeit und Emotionen verfügen würde.

Tja, um so eher wird es interessant, wenn die scheinbar nur quantitative Natur sich als mehr herausstellen wird als nur eine Verbreiterung auf mehr Domänen (wie z.B. Einsichtsfähigkeit),

[Jörn P Budesheim]

Tja, um so eher wird es interessant, wenn die scheinbar nur quantitative Natur sich als mehr herausstellen wird als nur eine Verbreiterung auf mehr Domänen (wie z.B. Einsichtsfähigkeit),

Offensichtlich glaubst du, dass der Ethikrat keine wirkliche Ahnung von KI hat. Wie kommt das?

[Jörn P Budesheim]

Der Deutsche Ethikrat nimmt in dieser Stellungnahme vier Handlungsfelder in den Blick, in denen der Einsatz von KI entweder schon besonders weitreichende Veränderungen mit sich bringt oder dies in näherer Zukunft bewirken könnte.

1. In der Medizin stellt maschinelles Lernen beispielsweise Fortschritte bei Diagnostik und individualisierten Präventions- und Therapieempfehlungen in Aussicht.
2. In der schulischen Bildung entstehen vielfältige Ansätze, die Vermittlung von Wissen und Kompetenzen in der Schule mithilfe von KI effektiver zu gestalten.
3. In der öffentlichen Kommunikation und Meinungsbildung läuft inzwischen ein Großteil des Informationsaustauschs über digitale Plattformen und soziale Medien ab.
4. In der öffentlichen Verwaltung berührt der Einsatz algorithmisch gestützter Entscheidungshilfen und Prognosen das Leben vieler Menschen, beispielsweise bei der Beurteilung oder Überwachung von Personen im Bereich des Sozial- oder Polizeiwesens.

[Aufzählungspunkte von mir hinzugefügt]

[Jörn P Budesheim]

Punkt 3 habe ich herausgegriffen und mit Hilfe von NotebookLM einen Überblick erstellt:

------------

Der Deutsche Ethikrat zur Digitalen Öffentlichkeit: Chancen, Gefahren und Empfehlungen

1. Einleitung: Die Transformation der öffentlichen Meinungsbildung

Der Deutsche Ethikrat analysiert die Verlagerung der öffentlichen Kommunikation auf digitale Plattformen als kritische Entwicklung für die Demokratie. Die Konzentration von Marktmacht bei wenigen Konzernen verändert die Meinungsbildung grundlegend und berührt das demokratische Legitimationsgefüge. Diese Transformation birgt jedoch sowohl erhebliche Chancen als auch gravierende Gefahren.

2. Die doppelte Wirkung algorithmischer Kuratierung

Die algorithmische Auswahl von Inhalten, eng verknüpft mit den werbebasierten Geschäftsmodellen der Plattformen, ist der zentrale Treiber dieser ambivalenten Entwicklung.

2.1 Chancen für Teilhabe und Information

Prinzipiell können digitale Plattformen die Demokratie stärken, indem sie Informationsmöglichkeiten erweitern, die Hürden zur Teilnahme an öffentlichen Diskursen senken und durch personalisierte Inhalte Effizienzgewinne für Nutzer schaffen.

2.2 Gefahren für Diskurs und Demokratie

Gleichzeitig gefährden diese Mechanismen die demokratische Kultur. Die Priorisierung emotionalisierender Inhalte fördert die Verbreitung von Falschnachrichten und Hassrede. Phänomene wie Filterblasen, gezielte Desinformationskampagnen (Microtargeting) und der Einsatz von Bots untergraben das Vertrauen in politische Prozesse.

3. Kernforderungen des Ethikrates zur Stärkung der Demokratie

Um der Aushöhlung des demokratischen Diskurses durch diese Mechanismen entgegenzuwirken, zielen die Empfehlungen des Ethikrates darauf ab, die strukturellen Ursachen durch gezielte Regulierung, Stärkung der Nutzerautonomie und transparente Forschung anzugehen.

1. Regulierung: Für Plattformen müssen klare, extern überprüfbare rechtliche Vorgaben zur Inhaltsmoderation und algorithmischen Kuratierung geschaffen werden.

2. Nutzerautonomie: Nutzer müssen mehr Wahlmöglichkeiten erhalten, etwa die Option einer nicht-personalisierten Inhaltsanzeige oder die bewusste Einblendung von Gegenpositionen.

3. Forschung: Der Zugang unabhängiger Forschender zu plattforminternen Daten muss sichergestellt werden, um die gesellschaftlichen Auswirkungen der Plattformen untersuchen zu können.

Diese Maßnahmen zielen in ihrer Gesamtheit darauf ab, die informationelle Selbstbestimmung der Bürger zu stärken und so das durch die Marktmacht der Plattformen gefährdete Legitimationsgefüge der Demokratie im digitalen Zeitalter zu sichern.

[Jörn P Budesheim]

Bei den Forderungen gibt es wohl eine einfache Leitschnur: Alles, was Trump & Co als „Zensur & Co“ bezeichnen würden, sollte als regulative Möglichkeit ernsthaft in Betracht gezogen werden.

Wenn der Ethikrat beispielsweise die Option auf nicht-personalisierte Feeds und die Einblendung von Gegenpositionen fordert, würden Trump & Co darin sofort „Zensur“, „Umerziehung“ oder eine „Bevormundung durch Eliten“ wittern. Der Grund ist simpel: Sie sähen darin eine handfeste Bedrohung ihrer mit viel Geld errichteten Deutungshoheit innerhalb der eigenen MAGA-Filterblasen.

[Burkart]

Tja, um so eher wird es interessant, wenn die scheinbar nur quantitative Natur sich als mehr herausstellen wird als nur eine Verbreiterung auf mehr Domänen (wie z.B. Einsichtsfähigkeit),

Offensichtlich glaubst du, dass der Ethikrat keine wirkliche Ahnung von KI hat. Wie kommt das?

Glaube ich das? Nicht unbedingt.
Mir scheint nur, dass die heutige KI erst der Anfang der öffentlichen KI ist und es noch weitaus mehr Herausforderungen für einen Ethikrat geben wird als heute.

[Jörn P Budesheim]

Die Bedrohung der Demokratie genügt nicht als Herausforderung?

[Burkart]

Die Bedrohung der Demokratie beispielsweise ist also keine besondere Herausforderung?

Öhm, ja, und daran ist also die heutige KI Schuld...?
Sollten wir unsere Gesellschaft nicht mal eher insgesamt (weitergehend) dazu hinterfragen?
Also ich sehe z.B. Trump (und Putin, China u.a.) als größere Bedroung der Demokratie erstmal an.

[Timberlake]

Bei den Forderungen gibt es wohl eine einfache Leitschnur: Alles, was Trump & Co als „Zensur & Co“ bezeichnen würden, sollte als regulative Möglichkeit ernsthaft in Betracht gezogen werden. ;)

Wenn der Ethikrat beispielsweise die Option auf nicht-personalisierte Feeds und die Einblendung von Gegenpositionen fordert, würden Trump & Co darin sofort „Zensur“, „Umerziehung“ oder eine „Bevormundung durch Eliten“ wittern. Der Grund ist simpel: Sie sähen darin eine handfeste Bedrohung ihrer mit viel Geld errichteten Deutungshoheit innerhalb der eigenen MAGA-Filterblasen. ;)

Dazu nur mal zur Info ...

Klage gegen KI-Unternehmen: Klage, weil Trump nicht der beste US-Präsident ist

Weil KI-Chatbots Trump nicht als den besten Präsidenten bewerten, droht ein Generalstaatsanwalt Google, Microsoft, OpenAI und Meta mit einer Klage.

Dass US-Präsident Donald Trump von jedem der Chatbots an letzter Stelle aufgeführt wurde, bezeichnete Bailey in einer Presseerklärung(öffnet im neuen Fenster) als zutiefst irreführende Antworten. Die von KI produzierten Antworten nannte er als Tatsachen getarnte Propaganda. "Wir müssen uns aggressiv gegen diese neue Welle der Zensur gegen unseren Präsidenten wehren", fügte er hinzu.

Und wer sind doch gleich die Chefs dieser KI-Unternehmen?

„So ein wirtschaftsfreundlicher, innovationsfreundlicher Präsident“: Chefs großer US-Tech-Unternehmen überhäufen Trump mit Lob

Mark Zuckerberg, Sam Altman, Tim Cook & Co. haben Präsident Donald Trump bei einem Abendessen im Weißen Haus mit Lob überhäuft. Auffällig war die Abwesenheit des Tech-Multimilliardärs Elon Musk.

Zuckerberg sagte weiter, die Unternehmen der anwesenden Gäste unternähmen enorme Investitionen in US-Datenzentren und die Infrastruktur, um „die nächste Welle der Innovation“ zu befeuern. Der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, dankte Trump dafür, dass er „so ein wirtschaftsfreundlicher, innovationsfreundlicher Präsident“ sei. Das sei eine „erfrischende Abwechslung“.

Das will ich wohl meinen, dass das eine „erfrischende Abwechslung“ war , was die Chatbots bei der Einstufung von Trump, unter den US Präsidenten, abgeliefert haben.

[Jörn P Budesheim]

Öhm, ja, und daran ist also die heutige KI Schuld...? [...] Trump (und Putin, China u.a.)

Könnte es nicht sein, dass Trump (und Putin, China u.a.) auch deshalb so gefährlich sind, weil sie KI und Bots als hocheffiziente Werkzeuge nutzen, um (unsere) Demokratie – etwa durch massenhafte Deepfakes, KI-gesteuerte Desinformations-Netzwerke oder psychologisches Microtargeting zur Manipulation – von innen heraus zu destabilisieren und anzugreifen?

Und: Es gibt natürlich auch Player hier im Land, die das sehr massiv tun!

[Timberlake]

Dazu vielleicht eine Empfehlung des deutschen Ethikrats …

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Empfehlung Kommunikation 7: Machtbeschränkung und Kontrolle: Unternehmen, die im Bereich der öffentlichen Vorstellung von Daten bzw. Tatsachen de facto monopolartige Machtmöglichkeiten haben, sind durch rechtliche Vorgaben und entsprechende Kontrolle auf Pluralismus, Minderheiten- und Diskriminierungsschutz zu verpflichten.

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

Weil während meiner Recherche zu Gadamer .darauf gestoßen ..

"Jeder von uns muß die Verifizierbarkeit aller Erkenntnis in den Grenzen des Möglichen als ein Ideal gelten lassen. Aber wir müssen uns eingestehen, daß dieses Ideal sehr selten erreicht wird und daß diejenigen Forscher, die dieses Ideal am präzisesten zu erreichen erstreben, uns meistens nicht die wahrhaft wichtigen Dinge zu sagen haben. So kommt es, daß es in den Geisteswissenschaften etwas gibt, was in den Naturwissenschaften in gleicher Weise nicht denkbar ist, daß nämlich der Forscher mitunter aus dem Buche eines Dilettanten mehr lernen kann als aus den Büchern der anderen Forscher. Das beschränkt sich natürlich auf Ausnahmefälle. Aber daß es dergleichen gibt, zeigt an, daß sich hier ein Verhältnis von Wahrheitserkenntnis und Sagbarkeit auftut, das nicht an der Verifizierbarkeit von Aussagen zu messen ist. Wir kennen das aus den Geisteswissenschaften so sehr, daß wir gegen einen bestimmten Typus wissenschaftlicher Arbeiten begründetes Mißtrauen hegen, die die Methode, mit der sie gearbeitet sind, vorn und hinten und vor allem unten, das heißt in den Anmerkungen, allzu deutlich zeigen. Ist da wirklich etwas Neues gefragt? Ist da wirklich etwas erkennt? Oder wird da nur die Methode, mit der man erkennt, so gut nachgemacht und in ihren äußeren Formen getroffen, daß sich auf diese Weise der Eindruck einer wissenschaftlichen Arbeit ergibt? Wir müssen uns eingestehen, daß umgekehrt die größten und fruchtbarsten Leistungen in den Geisteswissenschaften dem Ideal der Verifizierbarkeit weit vorauseilen. Das aber wird philosophisch bedeutsam.
Gadamer Was ist Wahrheit? (1957), in: GW 2, 50


... so frage ich mich allerdings schon , weil nach Ansicht von Gadamer philosophisch bedeutsam, inwiefern eine solche Empfehung dem Ideal der Verifizierbarkeit vorauseilt. Möglicherweise tut sich sich hier ja einsolches Verhältnis von Wahrheitserkenntnis und Sagbarkeit auf,das nicht an der Verifizierbarkeit von Aussagen zu messen ist. Also in diesem Fall der Aussage, dass Unternehmen, die im Bereich der öffentlichen Vorstellung von Daten bzw. Tatsachen de facto monopolartige Machtmöglichkeiten haben, durch rechtliche Vorgaben und entsprechende Kontrolle auf Pluralismus, Minderheiten- und Diskriminierungsschutz zu verpflichten sind. Um das mal, wie ich finde, mit einem für jeden begreifbaren Redewendung auf den Punkt zu bringen. Könnte es sein, dass hier lediglich der Wunsch, der Vater des Gedankens war?

Ist die KI-Verordnung der EU ein Wettbewerbsnachteil für europäische, also auch für Hamburger Firmen?

Die KI-Verordnung baut Vertrauen auf.
Hanne Butting (32), Co-Founder Beyond Emotion
...
Wettbewerbsnachteile durch zu große Hürden
Elisabeth L’Orange (41), Co-Founder Oxolo
..

Ein Wunsch, wonach eine solche KI-Verordnung Vertrauen aufbaut. Nur ist eben durch eine solch durchaus wünschenswerte "Hürde" eben auch zu befürchten, dass man sich Wettbewerbsnachteile einhandelt. Sodass dann KI andernorts stattfindet. Also nicht in der EU, sondern beispielsweise in den USA oder China. Nur um einmal hier möglicherweise jene "wahrhaft wichtigen Dinge" zu benennen , von denen bei Gadamer die Rede ist.

[Timberlake]

Zur Ergänzung , also dem was ich als jene mögliche "wahrhaft wichtigen Dinge" benannt habe , von denen bei Gadamer die Rede ist.

Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, Stellungnahme des Deutschen Ethikrates

Digitale Technologien und Künstliche Intelligenz (KI) haben mittlerweile in nahezu allen Bereichen des öffentlichen und privaten Lebens Einzug gehalten. Für die ethische Bewertung solcher Entwicklungen und ihres Einsatzes in verschiedenen Bereichen ist es nötig, nicht nur die Technologien zu verstehen, sondern auch ihre Wechselwirkungen mit den Personen, die sie verwenden oder von ihrer Anwendung betroffen sind. Zentral ist dabei die Frage, welche Auswirkungen damit verbunden sind, wenn Tätigkeiten, welche zuvor Menschen vorbehalten waren, an Maschinen delegiert werden. Werden menschliche Autorschaft und Handlungsmöglichkeiten durch den Einsatz von KI erweitert oder vermindert?...

https://www.ethikrat.org/fileadmin/Publ ... schine.pdf

Ich habe mal hier nach dem Begriff "Wettbewerb" suchen lassen. Dieser Begriff findet sich auf Seite 166 ganze zweimal, in nur einem einzigen Satz und das bei einem Dokument, das immerhin 403 Seiten umfasst. Ich fasse es doch wohl nicht.

"Jeder von uns muß die Verifizierbarkeit aller Erkenntnis in den Grenzen des Möglichen als ein Ideal gelten lassen. Aber wir müssen uns eingestehen, daß dieses Ideal sehr selten erreicht wird und daß diejenigen Forscher, die dieses Ideal am präzisesten zu erreichen erstreben, uns meistens nicht die wahrhaft wichtigen Dinge zu sagen haben. So kommt es, daß es in den Geisteswissenschaften etwas gibt, was in den Naturwissenschaften in gleicher Weise nicht denkbar ist, daß nämlich der Forscher mitunter aus dem Buche eines Dilettanten mehr lernen kann als aus den Büchern der anderen Forscher.
Gadamer Was ist Wahrheit? (1957), in: GW 2, 50


Soviel zum Thema .." daß es in den Geisteswissenschaften etwas gibt, was in den Naturwissenschaften in gleicher Weise nicht denkbar ist, daß nämlich der Forscher mitunter aus dem Buche eines Dilettanten mehr lernen kann als aus den Büchern der anderen Forscher" .

[Burkart]

Öhm, ja, und daran ist also die heutige KI Schuld...? [...] Trump (und Putin, China u.a.)

Könnte es nicht sein, dass Trump (und Putin, China u.a.) auch deshalb so gefährlich sind, weil sie KI und Bots als hocheffiziente Werkzeuge nutzen, um (unsere) Demokratie – etwa durch massenhafte Deepfakes, KI-gesteuerte Desinformations-Netzwerke oder psychologisches Microtargeting zur Manipulation – von innen heraus zu destabilisieren und anzugreifen?

Und: Es gibt natürlich auch Player hier im Land, die das sehr massiv tun!

Tja, jegliche Technik kann leicht solchen mächtigen Menschen dienen bzw. von ihnen missbraucht werde, nicht erst die KI. Das war schon mit dem Internet so, auch mit Telefonüberwachungen u.ä., von richtigen Waffen man ganz zu schweigen.
Entscheidend sollte weiterhin vor allem eine funktionierende Gesellschaft und deren politische Machtverhältnisse sein, die leider insbesondere in den USA durch Trump nicht mehr recht funktioniert. Ja, KI kann ein mächtiges Machtinstrument sein, deren Missbrauch möglichst bekämpft werden muss; das versuchen Punkte im Ethikrat ja auch richtig. Mal hoffen, dass wir Europäer uns z.B. gegen die "freie Rede" der USA behaupten kann, sodass Trumps Lügen u.ä. sich nicht noch mehr durchsetzen können.

[Jörn P Budesheim]

Entscheidend sollte weiterhin vor allem eine funktionierende Gesellschaft und deren politische Machtverhältnisse sein.

Burkart, du schreibst: „Entscheidend sollte weiterhin vor allem eine funktionierende Gesellschaft und deren politische Machtverhältnisse sein.“ Allerdings gehört zu einer funktionierenden Gesellschaft eine funktionierende Öffentlichkeit. Die Gesellschaft besteht ja nicht nur aus „denen da oben“.

Öffentliche Gespräche und Diskussionen an vielen verschiedenen Orten – im Wohnzimmer, in der Kneipe, in der Straßenbahn oder heute vor allem im Netz – sind selbst ein wichtiger Teil einer funktionierenden Gesellschaft. Wäre das nicht so, würden Mächtige gar nicht erst versuchen, diese Diskussionen zu manipulieren oder zu dominieren, und damit ihre Macht zu stärken und zu sichern – dafür werden oft ganz erhebliche Geldsummen aufgewendet. Russische Troll-Farmen haben monatliche Millionenbudgets. Und natürlich verwenden diese auch modernste KI-Technologien. In den USA wird Trump durch Netzwerke aus KI-Tools und Social-Media-Aktivitäten gestützt, die die öffentliche Meinung systematisch manipulieren.

Wenn also Prozesse der Meinungsbildung durch Bots, Fake-Accounts oder gezielt eingesetzte KI untergraben werden, steht genau das auf dem Spiel, wovon du sprichst: die funktionierende Gesellschaft.

[Jörn P Budesheim]

Untersuchung: Videos von AfD, Die Linke und BSW profitieren von Algorithmen

Videos von Parteien an den politischen Rändern werden deutlich häufiger in Sozialen Medien wie Instagram und Tiktok angezeigt als die der Mitte-Parteien. Das ergab eine Studie der Universität Potsdam und der Bertelsmann-Stiftung. Demnach bestimmen die oft intransparenten Algorithmen der Anbieter maßgeblich, welche politischen Botschaften junge Menschen erreichen. (04.11.2025)

https://www.deutschlandfunk.de/untersuc ... n-102.html

[Jörn P Budesheim]

Ich habe mal hier nach dem Begriff "Wettbewerb" suchen lassen. Dieser Begriff findet sich auf Seite 166 ganze zweimal, in nur einem einzigen Satz und das bei einem Dokument, das immerhin 403 Seiten umfasst. Ich fasse es doch wohl nicht.

Ich bin mir nicht ganz sicher, was du mit Hilfe dieses Suchbegriffs finden wolltest, aber wenn es dir um Marktstrukturen, Wettbewerb und ökonomischer Machtkonzentration ging, könnte dich dieses Ergebnis meiner eigenen KI-Suche interessieren.

KI-Zusammenfassung: Wirtschaftliche Aspekte der KI in der Stellungnahme „Mensch und Maschine“ des Deutschen Ethikrates

1. Einleitung

Dieser Bericht fasst die wirtschaftlichen Aspekte der Stellungnahme „Mensch und Maschine“ des Deutschen Ethikrates systematisch zusammen und bewertet sie. Der Fokus liegt auf der Analyse von Marktstrukturen, Wettbewerb und ökonomischer Machtkonzentration, wie sie im Dokument dargestellt werden.

2. Analyse der Marktstrukturen und ökonomischen Machtkonzentration

Die Stellungnahme diagnostiziert eine extreme Marktkonzentration im Bereich digitaler Plattformen, die durch Netzwerkeffekte und Winner-take-all-Dynamiken befeuert wird. Es wird betont, dass „die größten sozialen Netzwerke nur wenigen Firmen“ aus den USA und China gehören. Eine ähnliche Konzentration findet sich im Cloud-Computing-Markt bei Anbietern wie Amazon, Microsoft und Google. Als zentrales ökonomisches Prinzip wird das aufmerksamkeitsbasierte Werbemodell identifiziert: Durch umfassende Datensammlung und Profiling wird die Nutzerbindung maximiert, um personalisierte Werbeplätze – das eigentliche Produkt der Plattformen – zu verkaufen.

3. Gesellschaftspolitische Folgen des ökonomischen Modells

Das Dokument stellt eine direkte Kausalkette her zwischen dem ökonomischen Modell der Plattformen und den von ihnen erzeugten negativen gesellschaftspolitischen Externalitäten. Die algorithmische Kuratierung, gesteuert durch „ökonomische und aufmerksamkeitsbasierte Faktoren“, bevorzugt Inhalte, die „besonders sensationell erscheinen oder intensive emotionale Reaktionen auslösen“. Dies begünstigt die Verbreitung von Falschnachrichten, Hassrede und politischer Polarisierung. Gezielte politische Desinformation und Werbung („Targeted Advertisement“) mittels datenbasierter Profile werden als direkte Konsequenz dieses Geschäftsmodells identifiziert.

4. Empfehlungen für Regulierung und politische Maßnahmen

Zur Begrenzung der ökonomischen Macht werden folgende regulatorische Maßnahmen gefordert:

* Notwendigkeit klarer rechtlicher Vorgaben, da freiwillige Selbstverpflichtungen der Unternehmen als unzureichend erachtet werden.
* Erzwungener Datenzugang für die Forschung, um die Verweigerung unter Verweis auf „Betriebs- oder Geschäftsgeheimnisse“ zu unterbinden.
* Erweiterung der Nutzerautonomie durch die Option, Inhalte auch ohne personalisierte Algorithmen zu konsumieren.

5. Abschließende Bewertung: Stellenwert der ökonomischen Analyse

Die Stellungnahme analysiert die ökonomischen Treiber und die Marktkonzentration von Kommunikationsplattformen präzise und differenziert. Obwohl diese ökonomische Analyse exzellent ist, bleibt sie eine isolierte Tiefenbohrung. Da eine vergleichbare Analyse für andere Sektoren wie Medizin oder Verwaltung fehlt, wo Aspekte wie „Kosten“ nur oberflächlich erwähnt werden, erscheint die wirtschaftliche Dimension im Gesamtkontext der Stellungnahme als strategisch fokussiert, aber letztlich unterbelichtet.

[Burkart]

Entscheidend sollte weiterhin vor allem eine funktionierende Gesellschaft und deren politische Machtverhältnisse sein.

Burkart, du schreibst: „Entscheidend sollte weiterhin vor allem eine funktionierende Gesellschaft und deren politische Machtverhältnisse sein.“ Allerdings gehört zu einer funktionierenden Gesellschaft eine funktionierende Öffentlichkeit. Die Gesellschaft besteht ja nicht nur aus „denen da oben“.

Öffentliche Gespräche und Diskussionen an vielen verschiedenen Orten – im Wohnzimmer, in der Kneipe, in der Straßenbahn oder heute vor allem im Netz – sind selbst ein wichtiger Teil einer funktionierenden Gesellschaft. Wäre das nicht so, würden Mächtige gar nicht erst versuchen, diese Diskussionen zu manipulieren oder zu dominieren, und damit ihre Macht zu stärken und zu sichern – dafür werden oft ganz erhebliche Geldsummen aufgewendet. Russische Troll-Farmen haben monatliche Millionenbudgets. Und natürlich verwenden diese auch modernste KI-Technologien. In den USA wird Trump durch Netzwerke aus KI-Tools und Social-Media-Aktivitäten gestützt, die die öffentliche Meinung systematisch manipulieren.

Wenn also Prozesse der Meinungsbildung durch Bots, Fake-Accounts oder gezielt eingesetzte KI untergraben werden, steht genau das auf dem Spiel, wovon du sprichst: die funktionierende Gesellschaft.

Da sind wir ja einer Meinung. Vor allem in Russland ist die Bevölkerung ja z.T. extrem beeinflusst bis eingeschüchtert, soweit ist es in den USA zum Glück nicht; vielleicht schaffen es sie ja sogar, sich von Trump (&Co) zu lösen bzw. Trump passt schon auf, dass er nicht zu schlecht dasteht...

Wie gesagt, Mächtige haben schon immer versucht, ihre Macht zu behalten, KI ist "nur" ein weiterer Weg dazu, natürlich ein auffälliger. Ein Grund mehr, dass rein schwache KI den Mächtigen sehr nützt; bei stärkerer, gut reflektierender (und nicht extra eingeschränkter) wäre ich mir da nicht so sicher.