{"id":1384,"date":"2025-01-13T14:02:00","date_gmt":"2025-01-13T13:02:00","guid":{"rendered":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/?p=1384"},"modified":"2026-04-13T10:55:10","modified_gmt":"2026-04-13T08:55:10","slug":"wettbewerb-der-unheilspropheten-huxley-orwell-und-die-kuenstliche-intelligenz","status":"publish","type":"post","link":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wettbewerb-der-unheilspropheten-huxley-orwell-und-die-kuenstliche-intelligenz\/","title":{"rendered":"Wettbewerb der Unheilspropheten: Huxley, Orwell und die k\u00fcnstliche Intelligenz"},"content":{"rendered":"\n

Heutzutage ist die Verbreitung von Informationen durch eine exponentielle Unkontrollierbarkeit gepr\u00e4gt. Eine treibende Kraft hinter dieser Entwicklung ist das Aufkommen erschwinglicher und benutzer:innenfreundlicher generativer KI-Tools. Was fr\u00fcher eine kostspielige und ressourcenintensive Aufgabe war, z.B. die Erstellung von Nachrichten, die glaubw\u00fcrdigen Medieninhalten sehr \u00e4hnlich sind, ist heute mit Tools wie ChatGPT eine allzu einfache Aufgabe \u2013 jedes Kind kann die neuen Tools bedienen. Es dauert nur wenige Minuten, um glaubw\u00fcrdige Inhalte zu erstellen; glaubw\u00fcrdig in der Darstellung und Fassade, glaubw\u00fcrdig, aber nicht unbedingt wahr. Inhalte k\u00f6nnen von wirklich n\u00fctzlichen Beitr\u00e4gen bis hin zu echten Fake News reichen, die auf unterschiedliche Weise als politische Waffe eingesetzt werden k\u00f6nnen.<\/p>\n\n\n\n

Zwei gro\u00dfe Denker des 20. Jahrhunderts h\u00e4tten die drohenden Gefahren dieser bahnbrechenden Technologie anders eingesch\u00e4tzt: Aldous Huxley und George Orwell. In diesem kurzen Blogeintrag wollen wir die potentiellen Fallstricke im Zeitalter der hyperbeschleunigten Content-Erstellung neu beleuchten und uns fragen, welche dieser Dystopien eine zutreffendere Vorhersage ist. Anstatt eine einfache Antwort zu geben, wollen wir die gegebenen Optionen einer Betrachtung unterziehen und Dir, der mitdenkenden Leser:in, ein Urteil bilden zu lassen.<\/p>\n\n\n\n

Eine Warnung vorweg: Dystopisches \u201espekulatives Design\u201c kann reale Gefahren vorwegnehmen, aber es liegt an uns, daf\u00fcr zu sorgen, dass diese nicht eintreten. Es gibt viel, worauf wir gespannt, neugierig und hoffnungsvoll sein k\u00f6nnen, wenn wir auf unsere KI-durchdrungene Zukunft blicken. Der Artikel ist also nicht als Versuch zu verstehen, sich auf die Seite der Schwarzmaler:innen zu schlagen. Weder naiver Optimismus noch Schwarzmalerei sollten unser Denken bestimmen.<\/p>\n\n\n\n

Beginnen wir mit George Orwell<\/h2>\n\n\n\n

Orwells Dystopien sind bekannt f\u00fcr ihre Hierarchiekritik und ihre Schilderung politischer Gewalt. In seiner Dystopie nimmt eine elit\u00e4re politische Klasse ihren Untertan:innen Grundfreiheiten, liberaldemokratischer Gesellschaftsordnungen. Die Unterdr\u00fcckung passiert dabei weder unbewusst noch suggestiv. Ordnung und Hierarchie basieren auf roher physischer und psychischer Gewalt.<\/p>\n\n\n\n

Vor dem Aufkommen leicht zug\u00e4nglicher generativer KI-Systeme wie ChatGPT oder midjourney galt KI als treibende Kraft des \u201e\u00dcberwachungskapitalismus\u201c, ein Begriff, den die Sozialpsychologin Shoshana Zuboff zur Prominenz verholfen hatte. KI spielt im \u00dcberwachungskapitalismus eine wichtige Rolle. Die riesigen Datenmengen, die Unternehmen sammeln, werden mit KI-gest\u00fctzten Algorithmen verarbeitet, um Erkenntnisse, Muster und Vorhersagen \u00fcber das Verhalten, die Vorlieben und Interessen von Menschen zu gewinnen. Die gewonnenen Erkenntnisse werden dann f\u00fcr personalisierte Werbung und die Gestaltung individueller Nutzer:innenerlebnisse verwendet. KI erm\u00f6glicht die Automatisierung und Optimierung von \u00dcberwachungspraktiken, so dass Unternehmen aus personenbezogenen Daten in einem noch nie dagewesenen Umfang und mit einer noch nie dagewesenen Effizienz einen Mehrwert generieren k\u00f6nnen.<\/p>\n\n\n\n

Vor allem aber werden KI-Technologien auch eingesetzt, um die \u00dcberwachungsm\u00f6glichkeiten explizit zu verbessern. Gesichtserkennungssysteme, vorausschauende Algorithmen (\u201epredictive policing\u201c) und automatisierte \u00dcberwachungssysteme sind Beispiele f\u00fcr KI-Anwendungen, die zu \u00dcberwachungszwecken eingesetzt werden. Diese Technologien erm\u00f6glichen das kontinuierliche Monitoring und die Analyse des Verhaltens von Einzelpersonen und tragen zur Ausweitung und Intensivierung der Kontrolle in verschiedenen Bereichen bei, z. B. im \u00f6ffentlichen Raum, am Arbeitsplatz und auf Online-Plattformen.<\/p>\n\n\n\n

Der \u00dcberwachungskapitalismus leistet einem Orwell-Szenario jedenfalls nachdr\u00fccklich Vorschub. KI bietet den Beh\u00f6rden und den Eliten einer sozialen Hierarchie die M\u00f6glichkeit, das Verhalten der Untergebenen vorherzusagen. Und die Macht der Vorhersage ist gleichwohl eine Funktion der Kontrolle. Vermeintliche \u201eVerbrechen\u201c (die von den Beh\u00f6rden als solche willk\u00fcrlich definiert werden) k\u00f6nnen vermieden werden, bevor sie geschehen, und durch kontrafaktische Vorhersagen k\u00f6nnen Bedingungen geschaffen werden, die die Menschen dazu veranlassen, sich so zu verhalten, dass es f\u00fcr die Machthaber von Vorteil ist.<\/p>\n\n\n\n

\u201eDas Zeitalter des \u00dcberwachungskapitalismus\u201c Shoshana Zuboffs bahnbrechende Darstellung, wie die Tech-Giganten vor dem Hintergrund einer bedrohten Demokratie eine fast feudalistische Macht akkumulieren, deckt sich eng mit der Orwellschen Vision einer dystopischen Zukunft, die von allgegenw\u00e4rtiger \u00dcberwachung, Kontrolle und der Aush\u00f6hlung der individuellen Autonomie gepr\u00e4gt ist.<\/p>\n\n\n\n

Das Aufkommen von generativen KI-Systemen setzt jedoch ein gro\u00dfes Fragezeichen \u00fcber die G\u00fcltigkeit Orwells Spekulation.<\/p>\n\n\n\n

\n \"\"\n
 <\/figcaption> \n<\/figure>\n\n

Was h\u00e4tte Huxley erwogen?<\/h2>\n\n\n\n

Huxleys dystopische Fiktion zeigt subtilere Mittel auf, um Menschen zur Unterwerfung zu zwingen. Anstatt Subjekte mit roher Gewalt und Drohung zum Gehorsam zu zwingen, kann ein totalit\u00e4res Regime dem Menschen einfach geben, was er will \u2013 und zwar so gro\u00dfz\u00fcgig, dass er von seinen ureigenen, bereits angelegten W\u00fcnschen versklavt wird. Untertanen werden auf diese Weise geradenach in der kolportierten G\u00fcte der machthabenden Elite ertr\u00e4nkt. F\u00fcr Huxley ist die wichtigste Form des Trotzes also nicht der Widerstand gegen die Unterdr\u00fcckung von oben, sondern der Widerstand gegen die eigenen Laster und daher die Selbstbefreiung.<\/p>\n\n\n\n

Das Aufkommen der generativen KI und die daraus resultierende Mehrung von Inhalten l\u00e4sst ein fast schon Huxlersches Szenario plausibler erscheinen. Die schiere Menge an Inhalten, die genau so erstellt werden k\u00f6nnen, wie wir es f\u00fcr n\u00f6tig halten, k\u00f6nnte uns in eine Art technologische Unterwerfung treiben; eine Unterwerfung unter KI-Tools, die durch kognitive Faulheit und unsere Neigung, den Weg des geringsten Widerstands zu gehen, akzeleriert wird.<\/p>\n\n\n\n

Auf den ersten Blick sieht dieses Szenario unschuldiger aus als das Orwellsche, aber es kann \u2013 sich unentdeckt entfaltend \u2013 verheerender sein. Angst und materielle Unterdr\u00fcckung k\u00f6nnen uns zwar tats\u00e4chlich zerm\u00fcrben, aber nur, indem sie den Unterdr\u00fcckten die M\u00f6glichkeit aufzeigen, Widerstand zu leisten, oder genauer gesagt, \u00fcber Widerstand nachzudenken und gegen seine Konsequenzen zu erw\u00e4gen: Denn die Aus\u00fcbung von Kontrolle im Orwell\u2019schen Sinne bedeutet, dass bestimmte Handlungen unzul\u00e4ssig sind. Auf diese Weise h\u00e4lt die Unterdr\u00fccker:in ironischerweise die Blaupause f\u00fcr die Rebellion am Leben. Kurzum: Ideen als verboten darzustellen hei\u00dft zugleich, selbige Ideen am Leben zu erhalten.<\/p>\n\n\n\n

Dass KI-basierte Technologien dazu dienen k\u00f6nnen, unser Leben gleichsam zu kontrollieren und unser Verhalten vorherzusagen, ist ein gewichtiger Grund f\u00fcr Skepsis und Kritik.<\/p>\n\n\n\n

Im Sinne von Huxley sollten wir aber nicht nur sehen, wie uns KI regelrecht unterwerfen kann, sondern auch, wie wir sie immer mehr brauchen und einfordern. Denn allem voran muss eine Tatsache ber\u00fccksichtigt werden. Generative KI kann uns massiv entlasten. Das macht uns empf\u00e4nglich f\u00fcr sie. Dass sie uns dabei eine der aufwendigsten kognitiven Leistungen gleichsam abzunehmen scheint, n\u00e4mlich unser Sprachverm\u00f6gen, verst\u00e4rkt den Effekt.<\/p>\n\n\n\n

Generative KI (wie die Systeme von OpenAI) ist ein leistungsstarkes linguistisches Werkzeug. Sie verwendet Eingaben in nat\u00fcrlicher Sprache und erzeugt unter anderem auch Ausgaben in nat\u00fcrlicher Sprache. Damit stellt sie eines der heiligsten kognitiven Alleinstellungsmerkmale der Menschheit infrage, n\u00e4mlich in die F\u00e4higkeit zu lesen und zu schreiben.<\/p>\n\n\n\n

KI-Frevel<\/h2>\n\n\n\n

Wie Alard von Kittlitz k\u00fcrzlich in der \u201eZeit\u201c feststellte<\/a>, ist der menschliche Geist nicht von Natur aus zum Lesen und Schreiben pr\u00e4disponiert. W\u00e4hrend wir Sprache in der Kindheit extrem schnell erwerben, werden Lesen und Schreiben langsam und m\u00fchsam \u00fcber viele Jahre hinweg erlernt, bis wir ein herzeigbares Niveau erreichen. Das ist anstrengende, harte Arbeit f\u00fcr uns alle, aber sie zahlt sich aus, denn aus ihr erw\u00e4chst eine kulturelle Praxis, die das R\u00fcckgrat menschlicher Hochkultur und Selbsttranszendenz bildet \u2013 und ein Grundpfeiler kreativen Denkens ist.<\/p>\n\n\n\n

Generative KI kann uns eine gro\u00dfe Last abnehmen \u2013 sie kann f\u00fcr uns schreiben und damit unsere m\u00fchsam erlernte Schreibf\u00e4higkeit auslagern. Aber warum sollten wir diese kulturelle Errungenschaft aufgeben und Maschinen f\u00fcr uns texten lassen? Sollte es unser ureigenes Interesse sein und uns motivieren, diese so wichtige F\u00e4higkeit nicht abzutreten?<\/p>\n\n\n\n

Die Frage ist keinesfalls rhetorisch. Selbst w\u00e4hrend ich diese kritische KI-Reflexion schreibe, muss ich hier offen gestehen, mich schuldig zu machen, auf KI-Tools zur\u00fcckzugreifen. Nachtr\u00e4glich betrachtet haben sie mir bei meiner Arbeit ma\u00dfgeblich geholfen. Dies f\u00fchrt zum n\u00e4chsten Punkt: Wir schreiben und lesen in der Regel nicht, um unseren menschlichen Status als Hochkultur zu bewahren. Passenderweise hat die Universit\u00e4t Graz vor kurzem das \u00e4lteste Buch der Welt wiederentdeckt<\/a>. In den erhaltenen Seiten ging es um Bier. Das ist ein Sinnbild. Wir schreiben, um grundlegendere Bed\u00fcrfnisse, primitivere W\u00fcnsche zu beg\u00fctigen. Auch ich werde auch f\u00fcr das Tippen dieser Zeilen bezahlt und KI-Systeme sparen mir dabei Zeit. Die Keilschrift im alten Mesopotamien wurde, notabene und polemisch formuliert, f\u00fcr die Buchf\u00fchrung erfunden.<\/p>\n\n\n\n

Die Huxler\u2019sche Aussicht ist also sehr real, dass die Flut der von der KI geschaffenen Inhalte mit offenen Armen empfangen und gleichsam willig produziert wird. Die Bef\u00fcrchtung ist, dass sie uns von unserem tiefsten, aber schwer zu kultivierenden menschlichen Bed\u00fcrfnis nach Wachstum, unserem Bed\u00fcrfnis, uns selbst herauszufordern, und unserem Verlangen nach kognitiver Resilienz ablenkt. Die doppelte Konsequenz w\u00e4re, dass wir erstens unseren Sinn f\u00fcr die kritische Auseinandersetzung mit Problemstellungen verlieren, mit denen wir uns kreativ oder adaptiv auseinandersetzen k\u00f6nnten, und dass wir zweitens die F\u00e4higkeit einb\u00fc\u00dfen, uns kritisch gegen\u00fcber gesellschaftlichen Machtstrukturen zu verhalten. Das Aufkommen der generativen KI muss im Lichte dieser M\u00f6glichkeiten kritisch untersucht werden.<\/p>\n\n\n\n

KI-Systeme linearer aber auch generativer Art k\u00f6nnten nicht nur eingesetzt werden, um uns sichtbar zu kontrollieren. Sie k\u00f6nnten auch eingesetzt werden, um kritische Sprachkenntnisse f\u00fcr die Reflexion und unsere F\u00e4higkeit, uns mit Inhalten auseinanderzusetzen, mit denen wir nicht einverstanden sind, als \u201eanaloge\u201c menschliche F\u00e4higkeit \u00fcberfl\u00fcssig zu machen. Unser Problem ist also nicht die sichtbare Unterdr\u00fcckung von Bed\u00fcrfnissen (wie unser Freiheitsverlagen), sondern dass es sich zun\u00e4chst gut anf\u00fchlen wird, in unsere \u201eBrave New World\u201c einzutauchen.<\/p>\n\n\n\n

Ein letzter Hinweis muss aber abschlie\u00dfend und nachdr\u00fccklich platziert werden: KI-Utopien sind genauso wichtig und n\u00fctzlich, wie ihre dystopischen Geschwister. Dieser Artikel ist nicht als Manifest zu verstehen, das sich auf die Seite der Schwarzmaler:innen schl\u00e4gt. Aber das Abw\u00e4gen von Dystopie und Utopie wird unsere Vision von der kommenden Zukunft verdeutlichen \u2013 das ebendiese in Sachen KI-Entwicklung und -Einfluss interessant werden k\u00f6nnte, daran besteht mittlerweile kein Zweifel mehr.<\/p>\n\n\n\n

Weiterf\u00fchrende Literatur<\/h3>\n\n\n\n

Images by Sacha T. Sas and Markus Spiske @Unsplash<\/p>\n\n","protected":false},"excerpt":{"rendered":"

Heutzutage ist die Verbreitung von Informationen durch eine exponentielle Unkontrollierbarkeit gepr\u00e4gt. Eine treibende Kraft hinter dieser Entwicklung ist das Aufkommen erschwinglicher und benutzer:innenfreundlicher generativer KI-Tools. Was fr\u00fcher eine kostspielige und ressourcenintensive Aufgabe war, z.B. die Erstellung von Nachrichten, die glaubw\u00fcrdigen Medieninhalten sehr \u00e4hnlich sind, ist heute mit Tools wie ChatGPT eine allzu einfache Aufgabe \u2013 … Weiterlesen<\/a><\/p>\n","protected":false},"author":17,"featured_media":1742,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1384","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-unkategorisiert"],"acf":[],"_links":{"self":[{"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/posts\/1384","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/users\/17"}],"replies":[{"embeddable":true,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/comments?post=1384"}],"version-history":[{"count":12,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/posts\/1384\/revisions"}],"predecessor-version":[{"id":3914,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/posts\/1384\/revisions\/3914"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/media\/1742"}],"wp:attachment":[{"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/media?parent=1384"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/categories?post=1384"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/demo2.egm.at\/www.thelivingcore-original.com\/wp-json\/wp\/v2\/tags?post=1384"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}