KI-Vigilare: Landesmedienanstalten entdecken die Inquisition

Offiziell geht es um den Kampf gegen Hassrede. Was Hassrede ist, wird hier wie überall natürlich nicht definiert und bleibt dem Gutdünken der Behörde überlassen. Tatsächlich entsteht Schritt für Schritt ein Überwachungsapparat, dessen Arbeitsweise weitgehend im Dunkeln bleibt. Ausgerechnet jene Landesmedienanstalten, die sich als staatsferne Einrichtungen verstehen und über den Rundfunkbeitrag finanziert werden, durchsuchen seit 2022 mithilfe künstlicher Intelligenz soziale Netzwerke und andere Internetplattformen nach Inhalten, von denen sie behaupten, sie seien problematisch.

Gleichzeitig bestätigen mehrere Bundesländer einen Informationsaustausch mit dem Verfassungsschutz. Aus dem Bundesland Hamburg erfährt man, worum genau es zu gehen scheint. Von dort kommt die Auskunft, der Verfassungsschutz sei Partner der zuständigen Medienanstalt in einem „Behördenkompetenznetzwerk gegen Rechtsextremismus“. Also ausschließlich gegen rechts, genauer: gegen alles, was nicht links ist. Auch der Islamismus scheint kein Thema zu sein.

Das von der Medienanstalt Nordrhein-Westfalen entwickelte KI-System trägt den Namen „Kivi“ – eine Kombination aus „KI“ und dem lateinischen oder italienischen „vigilare“, kontrollieren, beobachten, überwachen oder wachsam sein. Nach eigenen Angaben soll die Software „Hasskriminalität so zuverlässig wie nie“ aufklären. Seit 2022 wird sie von sämtlichen 14 Landesmedienanstalten eingesetzt und durchsucht Texte, Bilder und Videos auf Plattformen wie X, Facebook, TikTok oder Instagram nach potenziell rechtswidrigen Inhalten.

Wie genau dieses System arbeitet, bleibt allerdings unter Verschluss. Welche Begriffe überwacht, nach welchen Kriterien Inhalte ausgewählt werden, welche Nutzergruppen besonders im Fokus stehen oder welche Plattformen intensiver überprüft werden, wollen die Medienanstalten nicht offenlegen. Bekannt ist lediglich eine Gesamtzahl: Seit Einführung von Kivi wurden bundesweit 130.840 „potenzielle Rechtsverstöße“ identifiziert.