Russlands automatisierte Buchzensur durch KI

Alexander Puschkin steht unter Drogenverdacht. Nikolai Gogol auch. Und sogar ein Band mit Kindergeschichten von Lew Tolstoi. Im April versah die russische Verkaufsplattform Litres mehrere Werke der Klassiker mit einem Warnhinweis: ein Pluszeichen im Dreieck, das auf die Erwähnung von Drogen aufmerksam machen soll. Betroffen waren unter anderem „Ruslan und Ljudmila“, Bulgakows „Morphium“ – hier immerhin naheliegend – und Gogols „Die Nase“, bei der der Algorithmus offenbar an die unsachgemäße Verwendung einer solchen dachte.

Den Schriftsteller Denis Dragunski traf es noch absurder. Die Prüfsoftware des Verlagsriesen Eksmo hielt die Silbe „Drag“ in seinem Nachnamen offenbar für das englische Wort „drug“. Einige seiner Bücher wurden vorsorglich aus dem Verkauf genommen. Dragunski spottete, dann müsse man wohl auch Lermontows „Borodino“ verbieten: Schließlich kommen darin Dragoner vor. Über Dragunski urteilte kein Zensor aus Fleisch und Blut, sondern eine KI. Russland automatisiert die Buchzensur und zwingt die Verlage damit, sie selbst zu übernehmen.

Seit August 2025 gilt bei Eksmo-AST, der Verlagsgruppe, die rund siebzig Prozent des russischen Buchmarkts kontrolliert, ein internes Regelwerk, das die Exilinitiative „Papercuts“ der StraightForward Foundation öffentlich gemacht hat. Demnach darf kein Manuskript mehr ins Lektorat gelangen, bevor es nicht von einer KI geprüft wurde. Die Software sucht nach allem, was russische Gesetze inzwischen verbieten oder kennzeichnungspflichtig machen: Darstellungen „nichttraditioneller sexueller Beziehungen“, Transgeschlechtlichkeit, Drogen, die sogenannte „Childfree-Ideologie“, Pädophilie, Suizid, Pornografie und Extremismus.

Die Kontrolle findet nicht nur einmal statt, sondern dreimal: bei der ersten Bewertung, vor dem Satz und vor der Druckfreigabe. Jede Entscheidung wird elektronisch archiviert. Ist der Bericht der KI nicht eindeutig, entscheidet eine Kommission aus Abteilungsleitern. Die Verlagsdirektoren haften persönlich dafür, dass ihre Mitarbeiter die Vorschriften einhalten. In den Verträgen der Lektoren stehen inzwischen entsprechende Klauseln. Wird bei einem bereits erschienenen Buch nachträglich ein „Risiko“ festgestellt – etwa nach Hinweisen von Bürgern –, sollen die vorhandenen Exemplare vernichtet werden.

Welche KI dafür eingesetzt wird, steht in dem Dokument nicht. Mehrere Quellen berichten jedoch übereinstimmend, dass Eksmo-AST auf Qwen setzt, ein Sprachmodell des chinesischen Alibaba-Konzerns. Es bringt aus seinem Training bereits chinesische Zensurregeln mit. Andere Redakteure greifen auf ChatGPT oder Telegram-Bots zurück, die in Texten beispielsweise nach sogenannten „ausländischen Agenten“ suchen.

Zuverlässig ist keines dieser Programme. Qwen erkannte das Wort „Haschisch“, übersah aber russische Slangbegriffe wie „Gras“ oder die berüchtigte Droge „Krokodil“. Eksmo-Chef Jewgeni Kapjew räumte ein, das System sei bewusst maximal empfindlich eingestellt. Jeder Treffer muss von einem Menschen überprüft werden.

Die Warnhinweise auf den Klassikern nahm Litres Ende April wieder zurück. Fehlerhaft seien sie gewesen. Werke, die vor 1990 erschienen sind, fallen gar nicht unter das entsprechende Gesetz; die Kennzeichnungen stammten überwiegend aus den Metadaten der Rechteinhaber. Doch gerade dieser Fehler zeigt, wie das System funktioniert: Aus Angst vor Strafen wird lieber ein Buch zu viel markiert als eines zu wenig. Im staatlichen Register kennzeichnungspflichtiger Bücher stehen inzwischen auch Werke von Erich Maria Remarque, John Steinbeck und Stephen King.

Im September 2025 kündigte Wladimir Grigorjew vom russischen Digitalministerium gemeinsam mit der Aufsichtsbehörde Roskomnadsor ein staatliches KI-Programm zur „Erkennung von Bedrohungen in Texten“ an. Es soll den Verlagen zur Verfügung gestellt werden. Nach Grigorjews Schätzung könnten vier bis fünf Prozent aller seit 1990 erschienenen Bücher gegen die neuen Verbote verstoßen. Er versprach eine Rechtsanwendung, die „wenn schon nicht human, dann wenigstens vernünftig“ sein werde.

Niemand weiß, was morgen verboten sein könnte

Warum sich die Verlage darauf einlassen, erklärt die jüngste Geschichte der Branche. Nach Razzien und der Festnahme von Mitarbeitern der Imprints Popcorn Books und Individuum will kaum noch jemand ein persönliches Risiko eingehen. Popcorn Books stellte seine Arbeit im Januar 2026 ein. Rund sechshundert Titel sind nach einer Zählung des Portals Agentstwo seit 2022 aus dem russischen Handel verschwunden. Zuletzt traf es nach Polizeirazzien Ursula K. Le Guins Roman „Die linke Hand der Dunkelheit“. Ohne KI-Analyse, berichtete eine Eksmo-Mitarbeiterin dem Exilmedium „The Insider“, werde intern kein Manuskript mehr angenommen.

In der Sowjetunion las die Zensurbehörde Glawlit die Manuskripte noch selbst. Der heutige russische Staat lagert diese Arbeit an die Verlage aus – und die Verlage geben sie an eine Maschine weiter. Die Gesetze bleiben bewusst vage, die möglichen Strafen sind hoch. Also entscheiden Redakteure im Zweifel gegen ein Buch, einen Satz oder ein Wort. Die KI ersetzt den Zensor deshalb nicht. Sie setzt ihn neben jeden Schreibtisch. Und weil niemand genau weiß, was morgen verboten sein könnte, beginnt die eigentliche Zensur lange bevor der Staat eingreifen muss.

Gogol hat das Prinzip schon 1836 beschrieben. In „Die Nase“ löst sich das Organ von seinem Besitzer, wirft sich in die Uniform eines Staatsrats und weigert sich, an seinen Platz zurückzukehren. So funktioniert Russlands Zensur heute: als Apparat, der sich verselbständigt hat und keinem Gesicht mehr gehört. Kein Wunder, dass der Algorithmus die Erzählung verdächtig fand.