Pflichten im Meldeverfahren

KI in der Moderation: Was der DSA bei automatisierten Entscheidungen verlangt

Filter, Klassifikatoren und KI-Modelle helfen kleinen Teams, Meldungen zu bewältigen. Der DSA verbietet das nicht, verlangt aber an fünf Stellen Transparenz und bei Beschwerden einen Menschen. Hier steht, wo und wie.

  • Stand: Oktober 2026
  • Aktualisiert am
  • 5 Min. Lesezeit

Kaum ein kleines Team kann jede Meldung sofort von Hand prüfen. Filter, Klassifikatoren und KI-Modelle helfen beim Sortieren und Erkennen. Der Digital Services Act verbietet automatisierte Moderation nicht. Schon die Definition der „Moderation von Inhalten“ in Art. 3 lit. t umfasst „automatisierte oder nicht automatisierte“ Tätigkeiten.

Der DSA verlangt aber, dass Automatisierung sichtbar wird: für Nutzer, für Meldende und für die Öffentlichkeit. Und an einer Stelle zieht er eine klare Grenze.

Wo der DSA Automatisierung erwähnt

Artikel Wer Was
Art. 14 Abs. 1 alle Vermittlungsdienste AGB beschreiben die Werkzeuge der Moderation, einschließlich algorithmischer Entscheidungsfindung und menschlicher Überprüfung
Art. 15 Abs. 1 alle außer Kleinst- und Kleinunternehmen Transparenzbericht mit Angaben zur Nutzung automatisierter Mittel
Art. 16 Abs. 6 alle Hostingdienste Mitteilung an Meldende nennt den Einsatz automatisierter Mittel
Art. 17 Abs. 3 lit. c alle Hostingdienste Begründung nennt automatisierte Entscheidung und automatisierte Erkennung
Art. 20 Abs. 6 Online-Plattformen (ohne Kleinst- und Kleinunternehmen) Beschwerdeentscheidungen nicht allein automatisiert

Art. 14 Abs. 1 ist der Ausgangspunkt: Die AGB beschreiben alle Leitlinien, Verfahren, Maßnahmen und Werkzeuge der Moderation, „einschließlich der algorithmischen Entscheidungsfindung und der menschlichen Überprüfung“. Wer eine KI-Vorprüfung einsetzt, schreibt also in die AGB, wofür sie eingesetzt wird und wann ein Mensch prüft.

Melden: Automatisierung in der Mitteilung angeben

Nach Art. 16 Abs. 6 machst du in der Mitteilung an die meldende Person Angaben über den Einsatz automatisierter Mittel, wenn du sie zur Bearbeitung oder Entscheidung über die Meldung einsetzt. Das betrifft nicht nur die Entscheidung selbst, sondern auch die Bearbeitung, etwa wenn ein Modell Meldungen sortiert oder vorbewertet.

Ein Satz reicht: „Deine Meldung wurde automatisiert vorgeprüft. Entschieden hat ein Mitglied unseres Teams.“

Begründen: ob und wie automatisierte Mittel genutzt wurden

Art. 17 Abs. 3 lit. c verlangt in jeder Begründung, soweit zutreffend, Angaben

  • darüber, ob automatisierte Mittel zur Entscheidungsfindung verwendet wurden, und
  • darüber, ob die Entscheidung Inhalte betrifft, die mit automatisierten Mitteln erkannt oder festgestellt wurden.

Das sind zwei getrennte Fragen. Daraus ergeben sich vier Kombinationen:

Erkennung Entscheidung Beispielsatz für die Begründung
Mensch (Meldung) Mensch „Der Kommentar wurde gemeldet und von einem Mitglied unseres Teams geprüft. Automatisierte Mittel waren nicht beteiligt.“
automatisiert Mensch „Unser Filter hat den Kommentar erkannt. Entschieden hat ein Mitglied unseres Teams.“
Mensch (Meldung) automatisiert unterstützt „Eine automatisierte Vorprüfung hat den Kommentar bewertet und eine Entscheidung vorgeschlagen. Ein Mitglied unseres Teams hat sie bestätigt.“
automatisiert automatisiert „Der Kommentar wurde automatisch erkannt und ohne menschliche Prüfung entfernt.“

Ob ein von der KI vorgeschlagenes und von einem Menschen bestätigtes Ergebnis als Einsatz automatisierter Mittel gilt, regelt der DSA nicht ausdrücklich. Der Wortlaut fragt nach dem Einsatz bei der Entscheidungsfindung, nicht nur nach vollautomatischen Entscheidungen. Offenlegen ist hier die sichere Wahl. Wie die übrigen Pflichtangaben aussehen, steht im Ratgeber Begründung nach Art. 17 DSA.

Bist du eine Online-Plattform und übermittelst an die Transparenzdatenbank, gibst du dort ebenfalls getrennt an, ob automatisiert erkannt und ob automatisiert entschieden wurde.

Beschwerden: nie allein automatisiert

Hier zieht der DSA die Grenze. Nach Art. 20 Abs. 6 stellen Online-Plattformen sicher, dass Entscheidungen über Beschwerden „unter der Aufsicht angemessen qualifizierten Personals und nicht allein mit automatisierten Mitteln getroffen werden“.

Für deine Umsetzung heißt das:

  • Eine KI darf eine Beschwerde zusammenfassen, Kontext zeigen oder eine Einschätzung liefern.
  • Die Entscheidung trifft ein Mensch, der dafür qualifiziert ist, also deine Richtlinien kennt und geschult ist.
  • Eine Beschwerde, die von einer automatisierten Entscheidung ausgeht, darf nicht vom selben System „bestätigt“ werden.

In Deutschland kann ein Verstoß gegen Art. 20 Abs. 6 mit bis zu 300.000 Euro geahndet werden (§ 33 DDG). Mehr zum Verfahren im Ratgeber Internes Beschwerdemanagement nach Art. 20 DSA.

Transparenzbericht: Zweck, Genauigkeit, Fehlerquote

Bist du kein Kleinst- oder Kleinunternehmen, veröffentlichst du jährlich einen Transparenzbericht. Art. 15 Abs. 1 verlangt dort an mehreren Stellen Angaben zur Automatisierung:

  • lit. b: die Zahl der Meldungen, die mit automatisierten Mitteln bearbeitet wurden,
  • lit. c: Angaben zur Moderation auf eigene Initiative einschließlich automatisierter Werkzeuge, aufgeschlüsselt unter anderem nach der Erkennungsmethode,
  • lit. e: jede Verwendung automatisierter Mittel zur Moderation, mit
    • einer qualitativen Beschreibung,
    • den genauen Zwecken,
    • Indikatoren für die Genauigkeit,
    • der möglichen Fehlerquote und
    • den angewandten Schutzvorkehrungen.

Lit. e ist der anspruchsvollste Teil. Genauigkeit und Fehlerquote kannst du nur angeben, wenn du sie misst. Ein einfacher Weg: Halte fest, wie oft Menschen einen KI-Vorschlag bestätigen und wie oft sie ihn ändern, und wie viele Beschwerden gegen automatisiert erkannte oder entschiedene Fälle erfolgreich sind. Die Vorlagen der Kommission aus der Durchführungsverordnung (EU) 2024/2835 geben die Struktur vor. Mehr dazu im Ratgeber DSA-Transparenzbericht.

Praxis: Vorprüfung statt Automatik

Für kleine App-Teams gibt es ein Muster, das die meisten Pflichten einfach hält: KI prüft vor, ein Mensch entscheidet.

  1. Erkennen und sortieren. Die KI bewertet gemeldete Inhalte nach deinen Richtlinien und hebt dringende Fälle in der Queue nach oben.
  2. Vorschlagen. Sie schlägt eine Entscheidung und die passende Richtlinie vor.
  3. Entscheiden. Ein Mensch prüft den Vorschlag, übernimmt oder ändert ihn.
  4. Offenlegen. Begründung und Mitteilung an Meldende nennen die Vorprüfung. Die AGB beschreiben sie.
  5. Messen. Bestätigungsquote und erfolgreiche Beschwerden fließen in den Transparenzbericht.

Der Vorteil: Du nutzt die Geschwindigkeit der KI, ohne dass ein Fehler des Modells direkt bei deinen Nutzern ankommt. Beschwerden landen ohnehin bei Menschen. Und deine Begründungen bleiben ehrlich, weil sie beschreiben, was tatsächlich passiert ist.

Wo eine vollautomatische Entscheidung sinnvoll sein kann, etwa bei eindeutigem Spam in großer Menge, sollte sie eng begrenzt sein, in den AGB stehen und in jeder Begründung offengelegt werden. Maßnahmen gegen Konten bleiben besser bei Menschen.

So setzt du das mit Limenia um

Die KI-Vorprüfung ist ein Opt-in und nutzt einen europäischen KI-Anbieter, verarbeitet wird in der EU. Sie schätzt Inhalte nach deinen Richtlinien ein, schlägt eine Entscheidung vor und hebt bei Bedarf die Priorität. Die Entscheidung trifft ein Mensch (siehe Funktionen), und die Begründung nennt die Vorprüfung im Text und im Feld automation. Eine eng begrenzte Automatisierung ist in Planung; Maßnahmen gegen Konten und Beschwerden bleiben auch dann bei Menschen. Die KI-Vorprüfung ist in Pro (5.000 Prüfungen im Monat) und Premium enthalten und für Basis als Zusatzmodul für 49 € im Monat (zzgl. USt.) erhältlich, siehe Preise.

Quellen

  1. Verordnung (EU) 2022/2065 (Digital Services Act), Art. 3 lit. t, EUR-Lexeur-lex.europa.eu
  2. Verordnung (EU) 2022/2065, Art. 14 und 15, EUR-Lexeur-lex.europa.eu
  3. Verordnung (EU) 2022/2065, Art. 16 und 17, EUR-Lexeur-lex.europa.eu
  4. Verordnung (EU) 2022/2065, Art. 20, EUR-Lexeur-lex.europa.eu
  5. Durchführungsverordnung (EU) 2024/2835 (Vorlagen für Transparenzberichte), EUR-Lexeur-lex.europa.eu

Häufige Fragen

Deine Frage ist nicht dabei? Schreib uns, wir antworten persönlich.

Zum Kontaktformular

Darf ich Inhalte vollautomatisch entfernen?

Der DSA verbietet das nicht. Du musst es aber in der Begründung offenlegen, in den AGB beschreiben und im Transparenzbericht mit Genauigkeit und Fehlerquote darstellen. Beschwerden gegen solche Entscheidungen entscheidet auf Online-Plattformen ein Mensch.

Ist ein von einer KI vorgeschlagenes und von einem Menschen bestätigtes Ergebnis eine automatisierte Entscheidung?

Der DSA definiert das nicht genau. Art. 17 Abs. 3 lit. c fragt aber nach dem „Einsatz automatisierter Mittel zur Entscheidungsfindung“, nicht nur nach rein automatischen Entscheidungen. Im Zweifel legst du die Beteiligung der KI offen, etwa mit dem Satz „Eine automatisierte Vorprüfung hat den Inhalt bewertet, entschieden hat ein Mensch.“

Zählt ein Wortfilter als automatisiertes Mittel?

Ja. Die Definition der Moderation in Art. 3 lit. t umfasst automatisierte und nicht automatisierte Tätigkeiten. Auch eine einfache Wortliste, die Inhalte erkennt oder ausblendet, ist ein automatisiertes Mittel.

Muss ich die KI-Moderation im Transparenzbericht beschreiben, wenn ich ein Kleinunternehmen bin?

Nein. Kleinst- und Kleinunternehmen, die keine sehr großen Online-Plattformen sind, sind vom Transparenzbericht nach Art. 15 ausgenommen. Die Offenlegung in AGB, Mitteilungen und Begründungen gilt aber auch für sie.

Bereit für dein Meldeverfahren?

Starte die Testphase in wenigen Minuten. Wenn du lieber erst sprechen willst, zeigen wir dir Limenia in einer Demo.

Oder schreib uns über das Kontaktformular