KI könnte die Zivilisation zerstören.
KI könnte die Zivilisation zerstören, oder zumindest das Internet, aber ich will dir keine falschen Hoffnungen machen.
KI hat etwas an sich, das zu großspurigen Aussagen, zu Verkündigungen einer neuen Göttlichkeit oder des Untergangs führt. Es gibt Leute, Leute in Machtpositionen, die glauben, dass die Copy-Paste-Maschinen, die sie gebaut haben, bald zu Göttern aufsteigen werden, und diese Leute in Machtpositionen ergreifen rücksichtslos Maßnahmen, weil sie davon ausgehen, dass das stimmt. Dann gibt es Leute wie mich, die Essays schreiben, die mit Sätzen wie „KI könnte die Zivilisation zerstören” anfangen.
Wahrscheinlich liege ich falsch. Von all den Zeiten, in denen die Zivilisation erschüttert wurde, von all den Zeiten, in denen die Zivilisation ins Wanken geriet, zumindest in den letzten tausend Jahren, hat sie sich zusammengehalten.
Aber bitte habt Geduld mit mir, während ich Übertreibungen benutze, um meinen Standpunkt zu verdeutlichen.
Die moderne Gesellschaft basiert auf Vernetzung, globalem Handel, Netzwerkstandards, Kommunikation und unserer Fähigkeit, bestimmte Informationen zu überprüfen. Sie basiert auf einem allgemeinen Gefühl des Vertrauens. Das scheint gefährdet zu sein.
Erwachsene von heute, mich eingeschlossen, leiden unter Leichtgläubigkeit. Wir sind daran gewöhnt, dass wir, wenn wir zum Telefon greifen und die Stimme unserer Mutter hören, mit unserer Mutter sprechen. Wir sind es gewohnt, den Nachrichten zu glauben, wenn wir klare Videos von Ereignissen sehen. Klar, Dunkelkammer-Tricks, Photoshop und CGI gibt es schon seit geraumer Zeit, aber die überwiegende Mehrheit der Fotos, die wir gesehen haben, sind tatsächliche Darstellungen dessen, was die Kamera gesehen hat. Wenn wir ein einzelnes Foto sehen, vertrauen wir ihm vielleicht nicht. Wenn wir Fotos und Videos aus mehreren Blickwinkeln und Videoaussagen von mehreren Zeugen sehen, glauben wir daran.
Wir leiden unter Leichtgläubigkeit, und für uns bricht gerade die Realität zusammen, weil wir so daran gewöhnt sind, den Beweisen unserer eigenen Augen zu glauben. Wir alle (oder vielleicht bin es nur ich) haben lustige oder seltsame Videos in den sozialen Medien geteilt, nur um später zu erfahren (um ein konkretes Beispiel zu nennen), dass Kängurus tatsächlich nicht rückwärts springen können.
Weil wir dazu neigen, zu glauben, was wir sehen, werden wir leicht von Social-Media-Algorithmen isoliert, die uns unterschiedliche Sichtweisen der Realität vermitteln. Erst letzte Woche habe ich sowohl ein KI-Video gesehen, in dem jemand in einem lächerlichen Kostüm vor der Einwanderungsbehörde ICE davonläuft, als auch ein KI-Foto, auf dem dankbare Einwohner einer Stadt die ICE mit kostenlosem Kaffee und Willkommensschildern begrüßen. Was auch immer du bereits glaubst, es gibt KI-Schund, den du verschlingen kannst.
Diese Abschottung der Realität war schon vorher ein Problem, und es wird noch schlimmer werden, da falsche Bilder und Videos immer einfacher zu produzieren und immer schwerer zu erkennen sind. „Medienkompetenz” wird immer schwieriger zu vermitteln. KI verbessert sich schneller, als die Öffentlichkeit lernt, sie zu erkennen. Diese Abschottung der Realität ist ein Problem, das mir schon seit einiger Zeit bewusst ist und über das ich immer wieder höre. Im Moment besteht das Problem darin, dass wir dazu neigen, das zu glauben, was wir sehen.
Die nächsten Generationen werden meiner Meinung nach unter einem im Wesentlichen umgekehrten Problem leiden.
Ein Kind, das heute geboren wird, wird nie eine Welt erleben, in der es einen Grund gibt zu glauben, dass realistische Bilder, Videos oder Audiodateien die Realität widerspiegeln oder dass eine Person die Worte geschrieben hat, die es liest. Anstatt davon auszugehen, dass jedes fotorealistische Bild (oder glaubwürdig klingende Audioaufnahme) echt ist, solange nicht das Gegenteil bewiesen ist, könnten sie einfach annehmen, dass jedes Bild und jeder Text von den monströsen Lügenmaschinen erzeugt wurde, die in Lagerhäusern außerhalb unserer Städte stehen und unser ganzes Wasser und unsere ganze Energie verbrauchen. Ein Video, das als Beweismittel vor Gericht verwendet wird, wird ungefähr so glaubwürdig erscheinen, als hätte der Staatsanwalt eine Diashow mit Ölgemälden gezeigt.
Es gibt keinen Grund zu glauben, dass ein Kommentar in einem Forum von einem Menschen geschrieben wurde, keinen Grund zu vermuten, dass die Influencer auf YouTube echte Menschen mit echten Meinungen oder echten Informationen sind. Ein anderer Spieler in einem Online-Spiel ist genauso wenig wahrscheinlich eine Person wie auch nicht.
Die einzigen überprüfbaren Interaktionen sind diejenigen mit Menschen, die wir persönlich getroffen haben oder die direkt von Menschen überprüft wurden, die wir persönlich getroffen haben.
Wenn diese Kultur des Misstrauens zur Norm wird, sind die Auswirkungen davon erstaunlich und weitreichend. Im Grunde genommen werden die einzigen nachprüfbaren Erfahrungen die sein, die von Angesicht zu Angesicht gemacht werden. Vertrauen wird nur dort zu finden sein, wo es verdient ist, und in einer Kultur, die von Lügenmaschinen beherrscht wird, könnten Ehrlichkeit und Menschlichkeit über alles andere gestellt werden.
In Kreisen von
Kriminalitätsbekämpfungsaktivisten nennen wir das ein Vertrauensnetzwerk. Vertrauensnetzwerke sind wichtig, wenn man direkte Aktionen plant, die einen in Gefahr bringen, aber sie waren bisher nicht nötig, wenn man nachschauen wollte, wie man eine Deckenleuchte verkabelt, oder wenn man wissen wollte, wie der Kampf gegen den Autoritarismus in Myanmar (oder Minnesota) läuft.
Das Internet wird sich grundlegend verändern und nicht mehr ein Ort sein, an dem man Dinge lernen kann, sondern nur noch eine Art seltsame kollektive Halluzination. Wir werden Fahrer in einem Nebel aus Desinformation sein, deren Weg nur von den schwachen Scheinwerfern des Vertrauens beleuchtet wird.
Es gibt Leute, die an Technologien wie digitalen Signaturen arbeiten, die es Computern ermöglichen, einander zu vertrauen. Videokameras könnten mit Signaturen ausgestattet werden, die Spoofing verhindern (oder erschweren). Aber ich bin skeptisch, dass diese Technologie durchweg zuverlässig sein wird, geschweige denn benutzerfreundlich genug, um sich so weit zu verbreiten, dass sie das Blatt gegen Desinformation wenden kann.
Ich bin vorsichtig gegenüber jedem, der großspurige Untergangsprognosen macht, und du solltest mir gegenüber vorsichtig sein. Aber das beste Szenario, das ich mir vorstellen kann, versetzt uns ungefähr zurück ins 18. Jahrhundert, vor das Aufkommen der Fotografie. Doch obwohl Zeitungen und Journalisten schon immer voreingenommen waren (und vor dem 20. Jahrhundert noch viel mehr), konnte man früher zumindest darauf vertrauen, dass dieser oder jener Artikel von einer Person geschrieben wurde und zumindest die Meinung des Autors wiedergibt. Heute gibt es keinen Grund mehr, einer Meldung zu vertrauen, es sei denn, man vertraut dem Verfasser.
In der Welt der Belletristik sind wir bereits seit mehreren Jahren in diesem Niedergang begriffen. Niemand macht sich die Mühe, Geschichten zu lesen, die niemand geschrieben hat, und Belletristikmagazine haben in der Regel ziemlich strenge Richtlinien gegen den Einsatz von KI. Diese Richtlinien werden immer schwieriger durchzusetzen. Der größte Vorteil, den ich als Autor habe, wenn ich Beiträge bei diesen Magazinen einreiche, ist, dass die Leute wissen, wer ich bin. Ich habe einen guten Ruf, weil mich niemand beschuldigt hat, meine Texte mit KI zu manipulieren (obwohl ich zugegebenermaßen Emdashes liebe). Ich kann mir nicht vorstellen, wie viel schwieriger es heute ist, in diesem Bereich Fuß zu fassen, und es wird nur noch schlimmer werden.
Vertrauen ist schon jetzt eine soziale Währung. Deshalb teile ich keine Spendenaufrufe, die nicht von mir oder jemandem, den ich gut kenne und dem ich vertraue, persönlich geprüft wurden. Der Wert von Vertrauen als soziale Währung wird aber nur noch steigen. Leute, die den Infos, die sie im Internet lesen, oder den Fotos und Videos, die sie sehen, vertrauen, werden hoffnungslos naiv wirken.
Die weniger leichtgläubige Kultur, die wir vielleicht aufbauen werden, hat aber auch eine gewisse Schönheit. Seit Jahrzehnten verspricht uns die Science-Fiction eine vollständig onlinebasierte Dystopie, in der die Menschen mit Schund gefüttert werden, diesen begierig verschlingen und die physische Welt dem Verfall preisgeben. Ich bin ein professioneller Optimist und glaube nicht, dass es so kommen wird. Sicher, meine eigene Generation und sogar die Zoomers werden sich vielleicht nicht daran anpassen, aber jüngere Menschen werden es wahrscheinlich tun.
Die einzig logische Reaktion auf ein Internet voller Desinformation ist die Rückkehr zu persönlichen Interaktionen. Live-Theater und Live-Musik werden umso wichtiger werden. Journalisten könnten mehr Vorträge vor Ort über das halten, was sie gesehen haben. Wenn wir verzweifelt nach Influencern und heißen Takes suchen, könnten wir sogar die Rückkehr eines der ältesten Berufe der Welt erleben – der Seifenkistenredner, die an Straßenecken stehen und so unterhaltsam wie möglich über dieses oder jenes Thema schwadronieren. (Im Ernst, ich war schockiert, wie verbreitet diese Form der Unterhaltung bis zum Aufkommen des Radios war. Ein guter Seifenkistenredner war gleichzeitig Theoretiker und Komiker und konnte Dutzende oder Hunderte von Menschen in seinen Bann ziehen). Vielleicht werde ich vom Podcasting zum Live-Storytelling wechseln. Vielleicht werde ich glücklicher sein, wenn auch wahrscheinlich ärmer.
Wir werden vielleicht mehr miteinander reden. Wir werden vielleicht Vertrauen aufbauen. Wir werden vielleicht eine Gemeinschaft aufbauen. Wir könnten lernen, dem Lokalen Vorrang zu geben. Wir könnten Dinge mit unseren Händen herstellen und mit unserem Mund sprechen. Wenn ich utopische Aussagen machen soll, würde ich sagen, dass wir vielleicht lernen werden, uns mit lokalen Räten selbst zu regieren, diese lokalen Räte dann zu einem Verband zusammenzuschließen und eine egalitäre Gesellschaft von unten nach oben aufzubauen. Vielleicht werden wir diese Kultur des Misstrauens so weit ausdehnen, dass wir aufhören, Kapitalisten zu vertrauen, und aufhören, den Menschen zu vertrauen, die uns autoritäre Alternativen zum Kapitalismus versprechen.
Vielleicht führt dieser große Neustart des Vertrauens zu einem großen Wiederaufbau. Vielleicht bauen wir eine bessere Welt, größtenteils (aber wahrscheinlich nicht komplett) offline.
Und ich werde mir einen neuen Job suchen müssen.
Aber das ist für mich in Ordnung.
Quelle: „
When We Walk Away From the Lying Machines or: a pronouncement of doom and hope, tied into talking trash on AI” von
Margaret Killjoy, 04.02.2026
Birds Before the Storm ist eine von den Lesern unterstützte Publikation. Normalerweise ist die Hälfte der Beiträge kostenlos, die andere Hälfte ist persönlicher und steht bezahlten Abonnenten zur Verfügung, aber angesichts der aktuellen Krise sind mehr meiner Beiträge für alle Leser kostenlos. Um neue Beiträge zu erhalten und meine Arbeit zu unterstützen, solltest du ein kostenloses oder bezahltes Abonnement erwerben.
Übersetzung: Thomas Trueten [Autorisiert]
