Mächtige KI und die Zukunft kollektiver Selbstregierung
Eine Demokratie aus vielen kleinen Kreisen. Ganz normale Bürger*innen beraten gemeinsam über die Entscheidungen, die ihr Leben prägen, unterstützt von KI als öffentlicher demokratischer Infrastruktur und gehört von Institutionen, die antworten müssen.
Das demokratische Versprechen mächtiger KI liegt in ihrem Potenzial, Menschen dabei zu unterstützen, öfter gemeinsam zu entscheiden: deliberativer, inklusiver und mit größerer kollektiver Intelligenz. Aus dem Essay
Acht Tage nach seinem Amtsantritt, mitten in einer Bankenkrise, sprach Franklin D. Roosevelt im Radio zu Millionen von Amerikaner*innen: in einfacher, ruhiger Sprache, die half, das Vertrauen in die Banken wiederherzustellen. Eine neue Technologie hatte eine demokratische Form gefunden. Doch das Gespräch lief nur in eine Richtung: Roosevelt sprach, die Bürger*innen hörten zu.
In Deutschland erkannte das NS-Regime die politische Macht des Radios, schuf ein Propagandaministerium und verbreitete billige Empfänger, um seine Botschaften in die Wohnzimmer zu tragen. Dieselbe Technologie, die eine demokratische Öffentlichkeit beruhigen konnte, konnte auch Hass, Gehorsam und Massenmanipulation mobilisieren. Kein Medium trägt demokratische Zwecke von allein in sich.
Jedes neue Medium eröffnete demokratische Möglichkeiten, und jedes schuf neue Wege, Macht zu konzentrieren und das öffentliche Leben zu verzerren. Soziale Medien versprachen allen eine Stimme und belohnten dann Empörung, Tempo und Sichtbarkeit statt Zuhören, Verstehen und Urteilskraft.
ChatGPT machte KI gesprächsfähig und zu einer alltäglichen Schnittstelle. Seitdem sind die fortschrittlichsten Systeme zu Agenten geworden, die in den Werkzeugen arbeiten, mit denen Gesellschaften lernen, regieren und sich koordinieren. Der Essay nennt sie mächtige KI: Sie sind schon heute mächtig genug, um für die Demokratie ins Gewicht zu fallen, ganz gleich, was man über AGI glaubt.
Mächtige KI kann Beweise fälschen, Menschen imitieren, Überzeugungsarbeit automatisieren und infrastrukturelle Macht konzentrieren, während demokratische Institutionen sich langsam bewegen, auch weil sie es sollen. Die Demokratie vor KI zu schützen ist notwendig, aber es genügt nicht.
Dieser Essay stellt die komplementäre Frage: Welche demokratische Zukunft könnte mächtige KI möglich machen helfen? Seine Antwort ist eine Demokratie aus vielen kleinen, verbundenen Kreisen: Bürger*innen beraten dort über die Entscheidungen, die ihr Leben prägen, und Institutionen müssen antworten. Hoffnungsvoll, und zwar mit Absicht. Demokratisch wird KI nicht von allein.
An einer Feuerstelle sitzen Menschen im Kreis. Sie können einander sehen. Sie begegnen sich auf Augenhöhe. Sie hören Geschichten und Gründe. Das Feuer gibt Licht und Wärme, aber nur, wenn es eingehegt ist. Unkontrolliert brennt es. Jeder Teil der Feuerstelle wirft eine Frage auf, die sich an jeden demokratischen Prozess stellen lässt.
Wer bleibt draußen?
Räume in menschlichem Maßstab, in denen Bürger*innen auf Augenhöhe sitzen und gemeinsam eine Entscheidung durcharbeiten.
Können die Menschen das Thema verstehen?
Belege, Zielkonflikte und die Gründe der anderen, sichtbar gemacht durch Erklärung und Übersetzung.
Können die sprechen, die es am wenigsten gewohnt sind?
Einladung, Barrierefreiheit, Moderation, faire Redeanteile und respektvolles Zuhören.
Überleben die Gründe das Treffen?
Aufzeichnungen, die Begründungen, Dissens und gelebte Erfahrung über den Raum hinaus tragen, nicht nur die Empfehlungen.
Ist die öffentliche Kommunikation vor dem Lauffeuer geschützt?
Regeln, Aufsicht und Schutzvorkehrungen gegen Manipulation, Überwachung und synthetischen Konsens.
Müssen Institutionen antworten?
Öffentliche Stellen hören zu, antworten, erklären sich und ändern manchmal den Kurs. Ohne das bleibt eine Feuerstelle nur ein warmer Raum.
Bürger*innen sind ausgeschlossen, ungehört, uninformiert, ohne Unterstützung und ohne Einfluss auf Entscheidungen.
Bürger*innen streiten, begründen, hören zu und entscheiden unter fairen, öffentlichen, folgenreichen Bedingungen.
Kommunikation wird schnell, heiß, manipulativ, polarisierend und kaum noch einzuhegen.
Kate Raworths Donut hat der Ökonomie ein Bild für einen sicheren und gerechten Raum gegeben. Dies ist das demokratische Gegenstück: ein Kreis um ein eingehegtes Feuer, zwischen kalter Ausgrenzung und unkontrollierter Hitze. Der sichere Raum liegt dort, wo Konflikte gehört, durchdacht und mit Entscheidungen verbunden werden können.
Gute Deliberation braucht kleine Gruppen, und kleine Gruppen brauchen einen Weg, auf dem ihre Gründe wandern können. Der Essay schlägt mächtige KI als demokratische Infrastruktur in drei Schichten vor, beurteilt auch danach, was unter dem Feuer liegt und was das Feuer verbraucht.
Erste Schicht
KI an der Seite von Bürger*innen und Moderator*innen in jedem Kreis: Übersetzung, Live-Untertitel, Erklärung von Fachbegriffen, Belege auf Nachfrage, Unterstützung der Moderation. Ein Gerüst, niemals selbst Teilnehmerin. Die demokratische Autorität bleibt bei den Menschen am Feuer.
Zweite Schicht
Systeme, die öffentliches Begründen über Zeit und Ort hinweg bewahren und verbinden: quellenverknüpfte Transkripte, Argumentkarten, Dissensregister und Umsetzungsverfolgung. KI-Ergebnisse bleiben Gedächtnisentwürfe, bis Menschen sie geprüft haben.
Dritte Schicht
Unabhängige, öffentlich kontrollierte Systeme, die sichtbar machen, was kein einzelner Raum sehen kann: koordinierte Manipulation, synthetische Beteiligung, wiederholte Ausgrenzung und Institutionen, die Bürger*innen stillschweigend ignorieren.
Chips, Rechenzentren, Modelle, Daten, Energie, Arbeit und Eigentum. Eine Feuerstelle wird auch daran gemessen, wer kontrolliert, bezahlt und prüfen kann, worauf sie gebaut ist.
Was das Feuer verbraucht. Das kleinste System, das die demokratische Aufgabe erfüllen kann, mit einem Energie- und Wasserverbrauch, der gemessen, gedeckelt, berichtet und mit der Zeit gesenkt wird.
Die Grenze ist demokratisch, nicht kognitiv. KI kann beeindruckende Argumente erzeugen, aber für sie steht nichts auf dem Spiel, sie ist nicht verletzlich und hat keinen Stand als Bürgerin. Daraus folgen Verantwortlichkeiten, die menschlich bleiben, und Linien, die nicht überschritten werden.
„Auch eine synthetische Öffentlichkeit ist keine Öffentlichkeit.“ Aus dem Essay
Demokratie braucht verbundene Feuerstellen statt vereinzelter Flammen.
Aus dem Essay
Sieben sich überlappende Schritte, gemessen an einem einzigen Test: Werden Bürger*innen fähiger, gemeinsam zu beraten und zu entscheiden, mit stärkerem Gedächtnis, klarerer Rechenschaft, tieferer Inklusion, geringeren ökologischen Kosten und größerer öffentlicher Macht?
Jede neue Kommunikationstechnologie, vom Radio bis zu den sozialen Medien, hat demokratische Möglichkeiten eröffnet und zugleich neue Wege geschaffen, die Öffentlichkeit zu manipulieren.
Mächtige KI ist das nächste Kapitel, und es steht mehr auf dem Spiel: Sie ist universell einsetzbar und zunehmend fähig, in den Systemen zu handeln, mit denen Gesellschaften lernen, regieren und sich koordinieren. Neben der notwendigen Debatte über ihre Abwehr stellt dieser Essay eine hoffnungsvolle Frage: Welche demokratische Zukunft könnte mächtige KI möglich machen helfen? Seine Antwort ist Fireside Democracy: eine Demokratie aus vielen kleinen, verbundenen Kreisen, in denen ganz normale Bürger*innen über Entscheidungen beraten, die ihr Leben prägen, und in der Institutionen antworten müssen.
Der Essay sichtet die heutigen deliberativen KI-Werkzeuge, schlägt eine dreischichtige Architektur aus lokalen Begleitern, demokratischem Gedächtnis und öffentlich kontrollierten Integritätssystemen vor und entwirft Gestaltungsprinzipien, rote Linien, Governance-Institutionen, ökologische Grenzen und einen praktischen Fahrplan. Seine Kernregel: KI soll Deliberation unterstützen und niemals die Bürger*innen ersetzen, deren Urteil ihr demokratische Bedeutung gibt. Bessere Werkzeuge allein genügen nicht: Sie brauchen eine öffentliche deliberative Infrastruktur für viele verbundene Feuerstellen, getragen von menschlicher Autorschaft, demokratischer Kontrolle, ökologischen Grenzen und Institutionen, die das Nachdenken der Bürger*innen in öffentliche Konsequenz übersetzen.
Das tiefere Versprechen der Demokratie: Wer von Entscheidungen betroffen ist, soll echte Möglichkeiten haben, sie durch öffentliches Begründen unter Gleichen mitzugestalten. Bürger*innenräte und Bürger*innenjurys zeigen, dass ganz normale Menschen das gut können, wenn die Bedingungen stimmen. Doch solche Deliberation bleibt selten, episodisch und schwach mit echter Macht verbunden.
Der Engpass ist fehlende Infrastruktur: faire Auswahl, Barrierefreiheit, ausgewogene Lernmaterialien, kompetente Moderation, Dokumentation und Wege in echte Entscheidungen. Sechs wiederkehrende Probleme: Zugang, Licht, Wärme, Gedächtnis, Verbindung und Konsequenz.
Eine Bestandsaufnahme vorhandener Werkzeuge entlang des Lebenszyklus eines deliberativen Prozesses: vor dem Raum, im Raum, zwischen Gruppen und danach. Echtes Potenzial, und eine Gefahrenlinie: KI unterstützt Deliberation, wenn sie Menschen hilft zu verstehen, zu sprechen, zuzuhören, zu erinnern, sich zu verbinden und Macht zur Rechenschaft zu ziehen. Sie überschreitet die Linie, wenn sie diese Handlungen anstelle der Bürger*innen vollzieht.
Der zentrale Vorschlag: lokale Begleiter in jedem Kreis, demokratisches Gedächtnis zwischen den Kreisen und öffentlich kontrollierte Integritätssysteme um sie herum, beurteilt auch nach dem Unterbau des Feuers und nach ökologischen Grenzen.
Öffentliches Urteilen, Anerkennung zwischen Menschen, Sorge für den Raum, demokratische Praxis und öffentliche Autorschaft. Synthetische Öffentlichkeiten und KI-Agenten, die stellvertretend für Bürger*innen beraten, markieren die deutlichste Gefahrenlinie.
Acht Gestaltungsprinzipien, vom sichtbaren Gerüst und Herkunftsnachweisen bis zu ehrlicher Verweigerung und ökologischer Verhältnismäßigkeit, und die harten roten Linien, die daraus folgen.
Deliberative KI sollte nicht nur denen gehören und nur von denen gestaltet, finanziert und geprüft werden, die von ihrem Einsatz profitieren. Gemeinwohlorientierte Institutionen, Verantwortungseigentum, öffentliche Beschaffung und Governance des gesamten Unterbaus.
Kurzfristig ergänzt deliberative KI die repräsentativen Institutionen. Mit der Zeit könnte wiederkehrende Bürger*innendeliberation verschieben, wo demokratische Autorität ihren Ort hat: Wahlen als eine Institution unter anderen in einem breiteren System kollektiver Selbstregierung.
Sieben sich überlappende Schritte von verstreuten Werkzeugen zu einem öffentlichen Herdfeuer: von offener Evaluation und gemeinsamen Standards zu einem regierbaren Unterbau, ökologischer Disziplin und folgenreicher Deliberation.
Zurück zu Roosevelt: Die Öffentlichkeit wurde beruhigt, angesprochen und informiert, aber nie versammelt. Die nächste Feuerstelle wird nicht von allein demokratisch. Sie wird geformt durch Entscheidungen über Gestaltung, Eigentum, Finanzierung, Recht und Ökologie.
Zitieren als: Salecker, L. (2026). Fireside Democracy: Powerful AI and the Future of Collective Self-Government. fireside-democracy.com
Der Essay ist das Rückgrat. Um ihn herum sammelt diese Seite Wege, der Idee zu begegnen: ein aus dem Essay erzeugtes Podcast-Gespräch, Vorträge und Foliensätze sowie der vollständige Text selbst.
In Produktion
Ein generiertes Gespräch über den Essay, Folge für Folge: die Geschichte, die Idee, die Architektur, der Fahrplan.
Benachrichtigt werdenDemnächst
Vorträge und Foliensätze zu Fireside Democracy, für Konferenzen, öffentliche Institutionen und Praktiker*innen der Bürger*innenbeteiligung.
Einen Vortrag anfragenErschienen 2024
Der Text von 2024 bei The Next Era, mit dem Fireside Democracy begann. Jetzt frei zu lesen.
Den Text lesenLukas Salecker arbeitet an KI für Bürger*innendeliberation. Mit deliberAIde unterstützt er öffentliche Institutionen dabei, Deliberationsprozesse durchzuführen und auszuwerten: echte Räume, echte Transkripte, echte Entscheidungen. Fireside Democracy ist aus dieser Arbeit entstanden, beginnend mit einem Text, der 2024 bei The Next Era erschien, und wird nun zu einem vollständigen Essay.
Das Argument wurde geschärft durch Rückmeldungen von mehr als zwanzig Forscher*innen und Praktiker*innen der deliberativen Demokratie. Die Fehler, die bleiben, gehören dem Autor.