KI in der Moderation: Was der DSA bei automatisierten Entscheidungen verlangt
Filter, Klassifikatoren und KI-Modelle helfen kleinen Teams, Meldungen zu bewältigen. Der DSA verbietet das nicht, verlangt aber an fünf Stellen Transparenz und bei Beschwerden einen Menschen. Hier steht, wo und wie.
Kaum ein kleines Team kann jede Meldung sofort von Hand prüfen. Filter, Klassifikatoren und KI-Modelle helfen beim Sortieren und Erkennen. Der Digital Services Act verbietet automatisierte Moderation nicht. Schon die Definition der „Moderation von Inhalten“ in Art. 3 lit. t umfasst „automatisierte oder nicht automatisierte“ Tätigkeiten.
Der DSA verlangt aber, dass Automatisierung sichtbar wird: für Nutzer, für Meldende und für die Öffentlichkeit. Und an einer Stelle zieht er eine klare Grenze.
Wo der DSA Automatisierung erwähnt
| Artikel | Wer | Was |
|---|---|---|
| Art. 14 Abs. 1 | alle Vermittlungsdienste | AGB beschreiben die Werkzeuge der Moderation, einschließlich algorithmischer Entscheidungsfindung und menschlicher Überprüfung |
| Art. 15 Abs. 1 | alle außer Kleinst- und Kleinunternehmen | Transparenzbericht mit Angaben zur Nutzung automatisierter Mittel |
| Art. 16 Abs. 6 | alle Hostingdienste | Mitteilung an Meldende nennt den Einsatz automatisierter Mittel |
| Art. 17 Abs. 3 lit. c | alle Hostingdienste | Begründung nennt automatisierte Entscheidung und automatisierte Erkennung |
| Art. 20 Abs. 6 | Online-Plattformen (ohne Kleinst- und Kleinunternehmen) | Beschwerdeentscheidungen nicht allein automatisiert |
Art. 14 Abs. 1 ist der Ausgangspunkt: Die AGB beschreiben alle Leitlinien, Verfahren, Maßnahmen und Werkzeuge der Moderation, „einschließlich der algorithmischen Entscheidungsfindung und der menschlichen Überprüfung“. Wer eine KI-Vorprüfung einsetzt, schreibt also in die AGB, wofür sie eingesetzt wird und wann ein Mensch prüft.
Melden: Automatisierung in der Mitteilung angeben
Nach Art. 16 Abs. 6 machst du in der Mitteilung an die meldende Person Angaben über den Einsatz automatisierter Mittel, wenn du sie zur Bearbeitung oder Entscheidung über die Meldung einsetzt. Das betrifft nicht nur die Entscheidung selbst, sondern auch die Bearbeitung, etwa wenn ein Modell Meldungen sortiert oder vorbewertet.
Ein Satz reicht: „Deine Meldung wurde automatisiert vorgeprüft. Entschieden hat ein Mitglied unseres Teams.“
Begründen: ob und wie automatisierte Mittel genutzt wurden
Art. 17 Abs. 3 lit. c verlangt in jeder Begründung, soweit zutreffend, Angaben
- darüber, ob automatisierte Mittel zur Entscheidungsfindung verwendet wurden, und
- darüber, ob die Entscheidung Inhalte betrifft, die mit automatisierten Mitteln erkannt oder festgestellt wurden.
Das sind zwei getrennte Fragen. Daraus ergeben sich vier Kombinationen:
| Erkennung | Entscheidung | Beispielsatz für die Begründung |
|---|---|---|
| Mensch (Meldung) | Mensch | „Der Kommentar wurde gemeldet und von einem Mitglied unseres Teams geprüft. Automatisierte Mittel waren nicht beteiligt.“ |
| automatisiert | Mensch | „Unser Filter hat den Kommentar erkannt. Entschieden hat ein Mitglied unseres Teams.“ |
| Mensch (Meldung) | automatisiert unterstützt | „Eine automatisierte Vorprüfung hat den Kommentar bewertet und eine Entscheidung vorgeschlagen. Ein Mitglied unseres Teams hat sie bestätigt.“ |
| automatisiert | automatisiert | „Der Kommentar wurde automatisch erkannt und ohne menschliche Prüfung entfernt.“ |
Ob ein von der KI vorgeschlagenes und von einem Menschen bestätigtes Ergebnis als Einsatz automatisierter Mittel gilt, regelt der DSA nicht ausdrücklich. Der Wortlaut fragt nach dem Einsatz bei der Entscheidungsfindung, nicht nur nach vollautomatischen Entscheidungen. Offenlegen ist hier die sichere Wahl. Wie die übrigen Pflichtangaben aussehen, steht im Ratgeber Begründung nach Art. 17 DSA.
Bist du eine Online-Plattform und übermittelst an die Transparenzdatenbank, gibst du dort ebenfalls getrennt an, ob automatisiert erkannt und ob automatisiert entschieden wurde.
Beschwerden: nie allein automatisiert
Hier zieht der DSA die Grenze. Nach Art. 20 Abs. 6 stellen Online-Plattformen sicher, dass Entscheidungen über Beschwerden „unter der Aufsicht angemessen qualifizierten Personals und nicht allein mit automatisierten Mitteln getroffen werden“.
Für deine Umsetzung heißt das:
- Eine KI darf eine Beschwerde zusammenfassen, Kontext zeigen oder eine Einschätzung liefern.
- Die Entscheidung trifft ein Mensch, der dafür qualifiziert ist, also deine Richtlinien kennt und geschult ist.
- Eine Beschwerde, die von einer automatisierten Entscheidung ausgeht, darf nicht vom selben System „bestätigt“ werden.
In Deutschland kann ein Verstoß gegen Art. 20 Abs. 6 mit bis zu 300.000 Euro geahndet werden (§ 33 DDG). Mehr zum Verfahren im Ratgeber Internes Beschwerdemanagement nach Art. 20 DSA.
Transparenzbericht: Zweck, Genauigkeit, Fehlerquote
Bist du kein Kleinst- oder Kleinunternehmen, veröffentlichst du jährlich einen Transparenzbericht. Art. 15 Abs. 1 verlangt dort an mehreren Stellen Angaben zur Automatisierung:
- lit. b: die Zahl der Meldungen, die mit automatisierten Mitteln bearbeitet wurden,
- lit. c: Angaben zur Moderation auf eigene Initiative einschließlich automatisierter Werkzeuge, aufgeschlüsselt unter anderem nach der Erkennungsmethode,
- lit. e: jede Verwendung automatisierter Mittel zur Moderation, mit
- einer qualitativen Beschreibung,
- den genauen Zwecken,
- Indikatoren für die Genauigkeit,
- der möglichen Fehlerquote und
- den angewandten Schutzvorkehrungen.
Lit. e ist der anspruchsvollste Teil. Genauigkeit und Fehlerquote kannst du nur angeben, wenn du sie misst. Ein einfacher Weg: Halte fest, wie oft Menschen einen KI-Vorschlag bestätigen und wie oft sie ihn ändern, und wie viele Beschwerden gegen automatisiert erkannte oder entschiedene Fälle erfolgreich sind. Die Vorlagen der Kommission aus der Durchführungsverordnung (EU) 2024/2835 geben die Struktur vor. Mehr dazu im Ratgeber DSA-Transparenzbericht.
Praxis: Vorprüfung statt Automatik
Für kleine App-Teams gibt es ein Muster, das die meisten Pflichten einfach hält: KI prüft vor, ein Mensch entscheidet.
- Erkennen und sortieren. Die KI bewertet gemeldete Inhalte nach deinen Richtlinien und hebt dringende Fälle in der Queue nach oben.
- Vorschlagen. Sie schlägt eine Entscheidung und die passende Richtlinie vor.
- Entscheiden. Ein Mensch prüft den Vorschlag, übernimmt oder ändert ihn.
- Offenlegen. Begründung und Mitteilung an Meldende nennen die Vorprüfung. Die AGB beschreiben sie.
- Messen. Bestätigungsquote und erfolgreiche Beschwerden fließen in den Transparenzbericht.
Der Vorteil: Du nutzt die Geschwindigkeit der KI, ohne dass ein Fehler des Modells direkt bei deinen Nutzern ankommt. Beschwerden landen ohnehin bei Menschen. Und deine Begründungen bleiben ehrlich, weil sie beschreiben, was tatsächlich passiert ist.
Wo eine vollautomatische Entscheidung sinnvoll sein kann, etwa bei eindeutigem Spam in großer Menge, sollte sie eng begrenzt sein, in den AGB stehen und in jeder Begründung offengelegt werden. Maßnahmen gegen Konten bleiben besser bei Menschen.
So setzt du das mit Limenia um
Die KI-Vorprüfung ist ein Opt-in und nutzt einen europäischen KI-Anbieter, verarbeitet wird in der EU. Sie schätzt Inhalte nach deinen Richtlinien ein, schlägt eine Entscheidung vor und hebt bei Bedarf die Priorität. Die Entscheidung trifft ein Mensch (siehe Funktionen), und die Begründung nennt die Vorprüfung im Text und im Feld automation. Eine eng begrenzte Automatisierung ist in Planung; Maßnahmen gegen Konten und Beschwerden bleiben auch dann bei Menschen. Die KI-Vorprüfung ist in Pro (5.000 Prüfungen im Monat) und Premium enthalten und für Basis als Zusatzmodul für 49 € im Monat (zzgl. USt.) erhältlich, siehe Preise.
Quellen
- Verordnung (EU) 2022/2065 (Digital Services Act), Art. 3 lit. t, EUR-Lexeur-lex.europa.eu
- Verordnung (EU) 2022/2065, Art. 14 und 15, EUR-Lexeur-lex.europa.eu
- Verordnung (EU) 2022/2065, Art. 16 und 17, EUR-Lexeur-lex.europa.eu
- Verordnung (EU) 2022/2065, Art. 20, EUR-Lexeur-lex.europa.eu
- Durchführungsverordnung (EU) 2024/2835 (Vorlagen für Transparenzberichte), EUR-Lexeur-lex.europa.eu